グーグルのクラウドを支えるテクノロジー > 第55回 ハイパーパラメーターチューニングの新手法(パート3)
2019/3/12 10:19
※この記事は読者によって投稿されたユーザー投稿です:
- 編集部の見解や意向と異なる内容の場合があります
- 編集部は内容について正確性を保証できません
- 画像が表示されない場合、編集部では対応できません
- 内容の追加・修正も編集部では対応できません
CTC教育サービスはコラム「グーグルのクラウドを支えるテクノロジー > 第55回 ハイパーパラメーターチューニングの新手法(パート3)」を公開しました。
###
はじめに
前回に引き続き、2018年に公開された論文「Population Based Training as a Service」、および、それに関連する2017年の論文「Population Based Training of Neural Networks」を紹介します。前回は、2つ目の論文で提案された、新しいハイパーパラメーターチューニングの手法である「Population Based Training(PBT)」の手続きを説明しましたが、今回は、同じ論文で紹介されれている、PBTの実際の適用例を紹介します。
PBTによる学習精度の向上
上述の論文では、強化学習(ビデオゲームの自動プレイ)、機械翻訳、GAN(画像生成)の3種類のタスクについて、PBTを適用した結果が示されています。図1は、それらの結果をまとめたものですが、いずれも、過去の記録を上回る成果が得られています。ここに示された過去の記録は、DeepMindの研究チームによる記録であることを考えると、PBTが現実的に有効な手法であることが感じられるのではないでしょうか。
詳細は以下をご覧ください。
https://www.school.ctc-g.co.jp/columns/nakai2/nakai255.html
ソーシャルもやってます!