SJS2017 ex10

これまでの分

課題A

人工データをロジスティック回帰モデルで識別させてみよう(0) 〜 データ生成プログラム

以下を適当な名前で保存して,ipython 上で実行してみよう. このプログラムでは3クラスのデータを2次元の正規分布で生成してますが,nclass を 2 にしたら赤と緑の2クラスのデータを作ることもできます.

#gist(08915ac166e2316568346be4c5b6e1c6);

課題B

人工データをロジスティック回帰モデルで識別させてみよう (1) 〜 2クラス識別の実験

上記プログラムで得られる2クラスのデータを学習データとして,ロジスティック回帰モデルの交差エントロピーをSGDによって最小化する学習プログラムを作成しよう.

学習が一定回数(たとえば \( N \) 回)進むたびに交差エントロピー \( H \) と誤識別率(\( z = 0.5 \)を境にしてどっちと識別したか判断する)を表示するようにしよう. 構成はこんな感じ:

  1. パラメータを初期化する
  2. 以下を適当な回数繰り返す
    1. \( N \) 個の中からデータを一つランダムに選ぶ
    2. それを入力としてモデルの出力を求める
    3. パラメータを更新する
    4. 繰り返し回数が N の倍数になったら
      • 全ての学習データに対するモデルの出力を求める
      • それらの交差エントロピーの平均および誤識別率を求めて表示する

トップ   編集 凍結 差分 履歴 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2017-11-25 (土) 12:48:48