SJS/2017/ex11 の履歴(No.1)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• SJS/2017/ex11 へ行く。
  • 1 (2017-11-25 (土) 10:27:45)
  • 2 (2017-11-25 (土) 10:27:57)

SJS2017 ex11†

はじめに†

これまでの分†

• 以前の分を全て報告してokをもらってから，今回分にすすみましょう．

今回と次回†

SJS/2017/ex10 のロジスティック回帰を，次の2段階で改良しよう

• SJS/2017/ex11 入力が2次元より大きい場合も扱えるようにする
• SJS/2017/ex12 出力を複数にして，クラス数が2より多い場合も扱えるようにする

課題A†

特徴次元数を一般化しよう

前回は特徴ベクトルの次元数 $D$ が 2 の場合のみを考えた．今回は $D \geq 1$ の任意の次元数の特徴ベクトルを扱えるようにしよう．

まず，特徴ベクトルを列ベクトル（$D\times 1$ 行列）として

と表す．このとき，シグモイド関数を用いて，入力 $\bm{x}$ に対する出力 $z$ を

とする．パラメータは，スカラ $w_0$ と $D$ 次元ベクトル $\bm{w}$ なので計 $(D+1)$個ある．

このとき，$h$ を前回同様に定義すると，$\frac{\partial h}{\partial w_d}$ ( $d = 0, 1, \dots , D$ ) は前回と全く同じように計算できる．式を簡潔に書くために

という $D$ 次元ベクトルを定義すると，

と書ける．hoge がどうなるか考えよう．

課題B†

実験

上記の結果を活かして，SJS/2016/ex11の課題Bのプログラムの改良版を作ろう．