最近になって調べてみたらこの記事に間違いがありましたので、訂正します。シグモイド関数と恒等関数をかけた関数の名前ですが、GELUではなくSwishと呼ぶそうです。GELUについて調べていて、この記事に来てしまった方がいらっしゃいましたら、お詫び申し上げ…

少し前から「ゼロから作るDeep Learning」を読んでいます。ですが読んだ端から忘れていってしまいます・・・。そこで、調べたことや納得したこと、考えていることなどをメモっていこうと思います。 重要な注意 はじめに本記事をお読み頂くうえで重要な注意と…

この記事は、タイトル通り「ゼロから作るDeep Learning」で提供されているプログラムをgoogle colabで使えるようにするための私的メモです。 今回は「3章 ニューラルネット」の「3.6.1 MNIST データセット」で行うMNISTデータセットの読み込みスプリクトを実…