ParametricRampLayer

ParametricRampLayer[]

学習可能な勾配で漏洩ReLUのアクティベーションを計算するネットの層を表す．

ParametricRampLayer[levels]

各次元が特定の勾配を持つレベルを指定する．

詳細とオプション

  • ParametricRampLayer[levels]のレベルは以下の設定で指定できる．
  • aレベル a のみ
    a1;;a2レベル a1からレベル a2まで
    {a,b,…}レベル a,b,…
    {}全次元の一意的な勾配の値
  • ParametricRampLayer[]で使われるレベルは1である．
  • 次の任意パラメータが指定できる．
  • "Slope" Automatic学習可能なテンソルの勾配
    LearningRateMultipliers Automatic勾配の学習率乗数
  • 勾配は入力の負の値に適用される漏洩係数である．ParametricRampLayerは次の関数を要素単位で適用する．
  • デフォルトで，勾配は0.1に初期化される．
  • ParametricRampLayer["Slope"value,LearningRateMultipliers->0]は固定勾配の漏洩ReLUである．
  • ParametricRampLayerはNetGraph等での使用のために次のポートを開放する．
  • "Input"任意階数の配列
    "Output"入力と同じ次元の配列
  • より大きいネットの他の層から推測できない場合は，オプション"Input"->{n1,n2,…}を使ってParametricRampLayerの入力次元を固定することができる．
  • Information[ParametricRampLayer[…]]は層についてのレポートを与える．
  • Information[ParametricRampLayer[…],prop]はParametricRampLayer[…]の特性 prop の値を与える．使用可能な特性はNetGraphと同じである．

例題

すべて開くすべて閉じる

例  (1)

ParametricRampLayerを作成する：

スコープ  (3)

各次元の勾配係数を持ち長さ3のベクトルを取るParametricRampLayerを初期化する：

勾配の値を得る：

この層を入力に適用する：

何らかのデータの勾配について学習する：

長さ3のベクトルを取って一意的な勾配係数を使うParametricRampLayerを初期化する：

長さ3のベクトル列を取るParametricRampLayerを初期化する：

オプション  (3)

LearningRateMultipliers  (1)

0.1の固定勾配で漏洩ReLUを作る：

この非線形性でネットワークを訓練する：

漏洩ReLUは訓練後も同じ勾配値を持つ：

"Slope"  (2)

与えられた勾配値で初期化済みのParametricRampLayerを作る：

この層をデータに適用する：

勾配の値を固定し，一意的な勾配で漏洩ReLUを作る：

この層をデータに適用する：

Wolfram Research (2020), ParametricRampLayer, Wolfram言語関数， https://reference.wolfram.com/language/ref/ParametricRampLayer.html.

テキスト

Wolfram Research (2020), ParametricRampLayer, Wolfram言語関数， https://reference.wolfram.com/language/ref/ParametricRampLayer.html.

CMS

Wolfram Language. 2020. "ParametricRampLayer." Wolfram Language & System Documentation Center. Wolfram Research. https://reference.wolfram.com/language/ref/ParametricRampLayer.html.

APA

Wolfram Language. (2020). ParametricRampLayer. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/ParametricRampLayer.html

BibTeX

@misc{reference.wolfram_2024_parametricramplayer, author="Wolfram Research", title="{ParametricRampLayer}", year="2020", howpublished="\url{https://reference.wolfram.com/language/ref/ParametricRampLayer.html}", note=[Accessed: 22-November-2024 ]}

BibLaTeX

@online{reference.wolfram_2024_parametricramplayer, organization={Wolfram Research}, title={ParametricRampLayer}, year={2020}, url={https://reference.wolfram.com/language/ref/ParametricRampLayer.html}, note=[Accessed: 22-November-2024 ]}