Tensorflow グループが A Neural Network Playground というブラウザ上でDeep Neural Networkの動きを可視化するツールを出しています。少しいじってみたので、参考までに書きます。

提供されているデータセットは4種。ノイズパラメータをいじることで、複雑なデータにすることもできます。

UIは直感的なので、色々といじってみると分かるかと思いますが、入力のフィーチャーを選択して、隠れ層の段数や個数を調整して、活性化関数や正則化の方法を選択するなどして左上の再生ボタンを押すとアニメーションでNNがどのようにしてデータを分類しているのかが分かります。

活性化関数を変えてみると、収束までにかかるエポック数が変化するのが分かります。例えばSigmoid関数を使うと収束は遅くなり、最近はSigmoidがあまり使われないというのも納得できるようになります。

その他にも、線形分離可能でないデータ（例えば1番目のデータ）は最初のフィーチャーの選択によっては正しく分類できない場合があることが分かります。（フィーチャーとしてX11とX22を選ぶと円形で分離できるようになりました）

何となくDeep Learningがどういうものか分かってきた人が、実際に動かしてイメージをつかむのに良いツールであると思いました。