LearningRate

LearningRate

NetTrainのオプションで，訓練損失を最小にするためにニューラルネットの重みを調整する率を指定する．

詳細

  • LearningRate->Automaticは，NetTrainが自動的に学習率を選択するように指定する．
  • LearningRate->r は学習率が数字の r になるように指定する．
  • すべての学習済みの重みについての基本学習率はLearningRateを使って規定される．LearningRateMultipliersを使ってネットの特定の部分についてのこの率を変更する．
  • よく使われる学習率は1よりはるかに小さい．0.001から0.01までが一般的である．高すぎる学習率を選ぶと，ネットがよい解に収束しなくなることがある．低すぎる学習率を選ぶと，訓練過程に必要以上に時間がかかることになる．
  • 学習率は，NetTrainのMethodオプションを介して指定されたさまざまな最適化ツール間で比較できないことが多い．

例題

例  (1)

学習率0.01でネットワークを訓練する：

Wolfram Research (2019), LearningRate, Wolfram言語関数， https://reference.wolfram.com/language/ref/LearningRate.html.

テキスト

Wolfram Research (2019), LearningRate, Wolfram言語関数， https://reference.wolfram.com/language/ref/LearningRate.html.

CMS

Wolfram Language. 2019. "LearningRate." Wolfram Language & System Documentation Center. Wolfram Research. https://reference.wolfram.com/language/ref/LearningRate.html.

APA

Wolfram Language. (2019). LearningRate. Wolfram Language & System Documentation Center. Retrieved from https://reference.wolfram.com/language/ref/LearningRate.html

BibTeX

@misc{reference.wolfram_2024_learningrate, author="Wolfram Research", title="{LearningRate}", year="2019", howpublished="\url{https://reference.wolfram.com/language/ref/LearningRate.html}", note=[Accessed: 22-November-2024 ]}

BibLaTeX

@online{reference.wolfram_2024_learningrate, organization={Wolfram Research}, title={LearningRate}, year={2019}, url={https://reference.wolfram.com/language/ref/LearningRate.html}, note=[Accessed: 22-November-2024 ]}