MVA/2022/omake の履歴(No.10)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• MVA/2022/omake へ行く。
  • 1 (2022-10-05 (水) 22:14:34)
  • 2 (2022-10-05 (水) 22:19:17)
  • 3 (2022-10-10 (月) 15:09:25)
  • 4 (2022-10-11 (火) 11:16:25)
  • 5 (2022-10-13 (木) 13:16:28)
  • 6 (2022-10-19 (水) 13:28:56)
  • 7 (2022-10-26 (水) 17:41:42)
  • 8 (2022-10-26 (水) 21:32:38)
  • 9 (2022-10-27 (木) 23:03:03)
  • 10 (2022-11-17 (木) 08:50:14)

多変量解析及び演習 2022年度 おまけ課題†

はじめに†

ここにはおまけ課題があります．おまけですので，やらなくても減点はありません．やると棒茄子？ それぞれの課題について，やったひとは授業時間中に takataka に見せてね．

omake02†

• ex02notebookC.ipynb の末尾にあります．
• 期限: 第3回の授業開始時

omake03†

• omake03.ipynb
• 期限: 第4回の授業終了時
• ちょっと難しいので，他より点数大きくします

omake04†

A と B は独立です

omake04A†

• 手計算のみ，易しい？
• 期限: 第5回演習開始時

ex03notebookA.ipynb の式(3) の1行目

が成り立つとき，次のことが言えます：

$\mathbf{w}$ で決まる回帰式が表す平面は，説明変数と被説明変数の平均の点 $(\bar{x}_{1}, \bar{x}_{2}, \ldots, \bar{x}_D, \bar{y})$ を通る．

これを証明しなさい．

omake04B†

• omake04.ipynb
• 期限: 第5回演習開始時

omake05†

主成分分析では，データの分散共分散行列の固有値・固有ベクトルを計算に使いますが，実は，「特異値分解」を利用すると，分散共分散行列を計算しなくても，その固有値・固有ベクトルを求めることができます． その理屈を理解して実際に計算してみましょう．

• 手計算と Python + NumPy の複合
• 期限: 第6回演習終了まで

Step1†

任意の $m \times n$ 行列 $X$ は

と分解できます．ただし，$\textrm{rank}(X) = r \leq \textrm{min}(m, n)$ として，

• $U$ は $m\times r$ 列直交行列（各列のベクトルが直交し大きさが1）
• $V$ は $n\times r$ 列直交行列
• $S$ は $r\times r$ 対角行列で，その対角要素 $\sigma_1, \sigma_2, \ldots, \sigma_r$ は全て正

です．$\sigma_1, \sigma_2, \ldots, \sigma_r$ を $X$ の特異値といい，この行列分解を特異値分解といいます．

このとき，$X^{\rm T}X$ を $V$ と $S$ を用いて表しなさい．

Step1 ができたらいったん takataka に見せてください．Step2 につながるお話をします．

Step2†

Step1 が（高橋の説明も含めて）分かると，データを表す $N\times D$ 行列 $X$ が与えられたとき（平均は $\mathbf{0}$ とします）， $X$ の分散共分散行列 $\frac{1}{N}X^{\rm T}X$ を計算してからその固有値固有ベクトルを求める必要はなく，$X$ を特異値分解した結果からそれらが求まることが分かります． ex05notebookB の適当な箇所にセルを追加して，Vの固有値固有ベクトルをXの特異値分解（np.linalg.svd 使いましょう）を用いて計算して表示するコードを書きなさい．

omake06†

画像処理してみよー

• omake06.ipynb
• 期限: 第8回演習開始時 第9回の時間中にいったん見せてもらえれば（未完成でも），第10回演習開始時まで延長します

omake07†

自分で適当なデータを探して，Colab notebook を使って重回帰分析または主成分分析をやってみましょう． 期限は特に設けませんので，できた時点で takataka に見せてください．データの入手の仕方や前処理のやり方などなど，随時相談にのります．