- 翔泳社 (2018年1月24日発売)
本棚登録 : 48人
感想 : 2件
本ページはアフィリエイトプログラムによる収益を得ています
Amazon.co.jp ・電子書籍 (572ページ)
感想・レビュー・書評
-
高校3年生ぐらいでも読めるぐらいの数学から解説してくれます。数学の証明みたいなところはないです。ためになると思うけど、最近読んでないです。
詳細をみるコメント0件をすべて表示 -
第1章~第3章は飛ばした。
第4章
【ベクトル】
内積は掛け合わせているベクトルの類似度に関係している。
まったく同じだと1,直行していると0、比較しているベクトルとの角度が鈍角になるとマイナスになる。
【和と微分の交換】
微分の演算子は和の演算子は交換できるので先に微分してから和を求めればよい。
【行列の積】
A、Bは行列とすると積は
A.dot(B)とする。
ただしAの列数とBの行数が一致していないと計算はできない。
A=2行3列でB=3行1列ならOKで生成される行列は2行1列となる。(生成される行列の行数=Aの行数、列数=B行列の列数となる)
【逆行列】
必ずしも全ての行列に逆行列が存在するとは限らない
【指数関数の微分】
指数の肩に乗っている変数に関して微分する(底の変数ではない)
y'=(a^x)'=a^x * log(a)
【対数の微分】
y'=(log(x))'=1/x
y'=log(1-x)'=1/(1-x)
【ジグモイド関数の微分】
y=1/(1+exp(-x))
y'=y(1-y)
第5章 教師あり学習:回帰
目的関数として2乗誤差関数を設定してこの関数が最小値を取るように重みパラメータを更新していく。
パラメータを更新する方法は勾配法(最急降下法)
勾配法による解は数値解と解析解がある
入力データの次元を1次元、2次元、D次元とあげるとより複雑な問題がとけるようになる。
線形基底関数モデルではガウス関数を基底関数にえらんである。
【オーバーフィッティングの問題】
ホールドアウト検証
リーブワンアウト交差検証
第6章 教師あり学習:分類
確率の概念が必要となる。
確率によってデータ群を分類する。その分類のために決定境界を決める必要がある。
決定境界を決める識別関数は確率で表される。
データに基づいてそのデータがどのデータ群に属しているかを確率をもって表現する。
ここでデータがガウス分布に基づいてバラけていると仮定するとその確率はロジスティク回帰モデルで表されジグモイド関数で計算する
目的関数は交差エントロピー誤差をつかってこの値が最小になるようにパラーメータを更新する。
数値解を得るには勾配法を使う
【2次元入力3クラス分類】
入力データを1次元から2次元にあげて3クラスに分類する方法
ソフトマックス関数を使うことで3クラス以上(多クラス)の分類に対応可能となる。
第7章 ニューラルネットワーク・ディーぷラーニング
【ニューロンモデル】
もっとも単純なモデル。
入力は線形な多項式(W・X)で活性化関数はジグモイド関数(0から1までの数値を出力)
【ニューラルネットワークモデル】
ニューロンモデルを多層構造にしたものがニューラルネットワークモデル。
より複雑なものを分類できるようになった。
【誤差逆伝播法】
出力と教師データを突合せてその誤差を入力側に伝えて重みのパラメータを更新する方法
【Kerasでニューラルネットワークモデル】
簡単に実装できるし、実行速度もはやい
第8章
Kerasで手書き数字を分類する練習
【ReLU活性化関数】
活性化関数にジグモイド関数を使っていたが単純なReLU関数のほうが正解率が高く計算コストも低い。
【空間フィルター】
これまでは画像を1次元データとして扱ってきた。
画像なので画像の特徴を生かしたデータ処理のしかたをしようというのが畳み込みニューラルネットワーク・プーリング
第9章 教師なし学習
クラスタリング
k-means法
混合ガウスモデル
【k-means法】
分割数kを決める、これは人間が決めてやる
クラスターの代表座標をもつデータを分割数だけ
用意して初期化、この代表点と各データの距離を測ってもっとも近いところに所属させる。
所属し終わったら代表点ごとに座標の平均を出し
その平均座標を代表点の座標に設定する。
再度代表点との距離を測って平均を出す。これを繰り返し代表点との座標差に違いがなくなったら計算終了。
【混合ガウスモデル】
k-means法が座標の平均値でしかパラメータがないが混合ガウスモデルでは平均のほかデータの広がり(共分散値)、他のガウス分布との比率などがある。
著者プロフィール
伊藤真の作品
