第30章モデル選択（統計検定準1級）

このページはプロモーション（広告）を含みます。

『統計学実践ワークブック』第30章に対応する章です。本文と問題は有料版で読めます。

この章で身につけること

学習誤差はモデルを複雑にするほど小さくなるが，予測誤差はそうではない（過学習）ことを図で説明できる．
KL情報量の定義と非負性を説明でき，KL情報量の最小化が平均対数尤度の最大化と同値である理由を言える．
AIC $=-2\ell(\hat\theta)+2k$ の罰則 $2k$ が，最大対数尤度のバイアス（約 $k$）の補正から来ることを説明できる．
重回帰の $\mathrm{AIC}=n\log(S_e/n)+2k$ を導出でき，数値から計算できる．
AIC による変数追加が「$F>\frac{n-p-q-1}{q}(e^{2q/n}-1)$」と同値であることを導け，それが大標本で約2になることを説明できる．
BIC $=-2\ell+k\log n$ を計算でき，AIC との違い（罰則の重さ，一致性，目的）を説明できる．
$C_p$，AICc，自由度調整済み決定係数を計算・解釈できる．
$K$-fold CV と LOOCV の手順を説明でき，回帰の LOOCV を $e_i/(1-h_{ii})$ で計算できる．
予測誤差の「削減不能な誤差＋バイアス$^2$＋分散」の分解を導出し，モデルの複雑さとの関係を説明できる．

この章の解説と問題は、アプリ「統計検定準1級合格ナビ」の有料版（1,980円・買い切り）で読めます。第1〜3章は無料で全文を公開しています。

統計検定準1級合格ナビ：統計検定準1級の学習アプリ。参考書33章と演習・模試あわせて374問を、解説つきでスマホ・パソコンのブラウザで。第1〜3章の問題と参考書は登録なしで無料。全章は1,980円の買い切り。