2020/11/09 2022/05/27

AIの最新論文の読解（No.4）:Evolutionary AutoML　その1. NAS

アクセス: 1201

コメント: 0

"<a href="https://arxiv.org/abs/1611.01578">Neural Architecture Search with Reinforcement Learning</a>”(ICLR2017, Google Brain) とその関連論文について簡単に概要を解説します。 
Neural Architecture Search with Reinforcement Learning (NAS)というニューラルネットワークの最適化手法をご存知でしょうか。ニューラルネットワークは強力で柔軟なモデルであり、画像、音声、自然言語の理解における多くの困難な学習タスクに適していますが、ニューラルネットワークの設計には多くの経験とスキルを要します。そこで、NASを利用すれば、リカレントネットワークを使用してニューラルネットワークのモデル記述を生成、強化学習を使用してこのRNNをトレーニングし、検証セットで生成されたアーキテクチャの予測精度を最大化します。つまり、通常のニューラルネットワークの設計では、あらかじめ人がニューラルネットワークの構造（VGG、Resnet、Inception等）を設計して、ハイパーパラメータをベイズ最適化やGrid/Random Search等で最適化を行いますが、NASでは前段でのニューラルネットワーク構造自体も最適化対象にします。 
１．２つのニューラルネットワーク 
NASは２つのニューラルネットワークで構成されます 
Controller RNN：Child Networkの構造を探索（Fig1の左） 
Child Network：実際のタスクを実行するニューラルネットワーク（Fig1の右）
 
![](https://aihack.aijobcolle.com/p/5z7j7fybvgi8t8np9i8i-96d2b07a.jpg)
 
Fig 1. ニューラルアーキテクチャ検索の概要。 コントローラーRNNは、確率pで探索空間からアーキテクチャAを予測します。 アーキテクチャAの子ネットワークは、精度Rを達成する収束にトレーニングされます。pの勾配をRでスケーリングして、RNNコントローラーを更新します。 
Controller RNNでChild Networkの構造を探索し、タスクに最適なChild Networkを生成しようとするものです。その流れは次のようになります。 
A　Controller RNNが設定したChild Networkのハイパーパラメータ（CNNのフィルターサイズ、フィルター数、レイヤー数等）でChild Networkを学習する 
B　学習後のChild Networkで検証データにAccuracyを求める 
C　AccuracyをController RNNの報酬に設定 
D　報酬をもとに強化学習の方策勾配法*によってController RNNを更新 
E　A−Dを繰り返す *方策勾配法は、方策をあるパラメタで表される関数とし、そのパラメタを学習することで、直接方策を学習していくアプローチのこと 
２．Controller RNNと強化学習 
Controller RNNの役割はChild Networkのハイパーパラメータを探索することで、Controller RNNの構造は以下のようになっています。 <img alt="1.PNG" src="https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.amazonaws.com%2F0%2F55384%2F40987d36-2849-27d0-202e-7a989cf0b81f.png?ixlib=rb-1.2.2&auto=format&gif-q=60&q=75&s=53bf68c446cd56c4c5de71855e4744cf" /> 
次に、ResNetのような構造を可能にするためController RNNにSkip connectionを導入します。Skip connectionは、Controller RNNで、Child Networkの各レイヤーを後半にAnchor pointを設けて、前レイヤー（N-1以前）のAnchor pointから現レイヤー（N）のAnchor pointに接続するかどうかを判定します。 <img alt="4.PNG" src="https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.amazonaws.com%2F0%2F55384%2F547e6ce1-1a7f-d8d0-c4b2-944ba5727c85.png?ixlib=rb-1.2.2&auto=format&gif-q=60&q=75&s=15d31894e7179e057b0c84fdcfff22d2" /> 
Skip connectionで複数レイヤーの入力がある場合、入力レイヤーは深さ方向に結合します。この時、入力レイヤー間でサイズが違うときは、小さいほうの入力サイズをゼロパディングして調整し結合します。 
３．Cifar10を使用したケーススタディー 
探索空間として以下を設定します。

<ul dir="ltr"><li>活性化関数はReLu</li>
	<li>BatchNormalization利用</li>
	<li>Skip connection利用</li>
	<li>畳み込みレイヤーのフィルターサイズは高さ[1,3,5,7]、幅[1,3,5,7]、フィルター数[24,36,48,64]から探索</li>
	<li>ストライドは1固定 または [1,2,3]から探索</li>
</ul>
このとき生成されたCNNとCifar10のエラー率が以下になります。 <img alt="2.PNG" src="https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.amazonaws.com%2F0%2F55384%2Fb5ebac67-d65a-02ff-f452-adc78541328e.png?ixlib=rb-1.2.2&auto=format&gif-q=60&q=75&s=a32f321a01b04dd74abd48e73b22a4fe" />これでController RNNを組み、合計で12,800個ものChild Networkを探索します。このとき生成されたCNNとCifar10のエラー率が以下になります。

<img alt="9.PNG" src="https://qiita-user-contents.imgix.net/https%3A%2F%2Fqiita-image-store.s3.amazonaws.com%2F0%2F55384%2Fea9df5a4-2f52-223a-1f90-4baa08c327e5.png?ixlib=rb-1.2.2&auto=format&gif-q=60&q=75&s=9ceb2752c9d3929e586d1d7384a688a3" /> 課題 
NAS論文で、すでにCNN（RNNも）の探索手法が提唱され、高い性能を出しているのですが、NASでは探索されたすべてのChild Networkをスクラッチから学習して検証データのAccuracyを算出しているので、計算量が莫大になるという課題があります。上のケーススタディーでは高速化するために800台のGPU（NVIDIA K40）で以下のような並列学習（800並列）を組んでいて完了までに28日要しています。

AIの最新論文の読解（No.4）:Evolutionary AutoML　その1. NAS

人気記事ランキング

YOLOv5 登場！このプロ…

XGBoost（GBDT）とランダ…

深層学習はシステム1から…

PyTorchの躍進を紐解く３…

勾配法と学習率

いいね！ランキング

深層学習はシステム1からシステム2へ

XGBoost（GBDT）とランダムフォレストから…

ディープラーニングを学び始めた方へ　東…

なぜZoomは40分で切れるのか？

論文要約

ユーザーランキング

タグランキング

深層学習

AI

deeplearning

ディープラーニング

Transformer