第4回: 分類を確率で読む: Softmaxと情報幾何学(理解度チェック)
確率分布の空間への写像
Q1. 確率単体
K個のクラスの確率分布が存在する空間として、確率単体の説明はどれか。
本文の対応箇所: 参照する
Q2. Softmaxの性質
Softmaxの定義と性質について、正しい説明はどれか。
本文の対応箇所: 参照する
Q3. 最大エントロピー原理
制約付き最大エントロピー原理がSoftmaxの理解に与える見方はどれか。
本文の対応箇所: 参照する
計量と温度
Q4. Log-Sum-Exp
Log-Sum-Expが最適化や数値計算で重要な理由はどれか。
本文の対応箇所: 参照する
Q5. 温度調整の条件
Softmaxの温度調整について、最も適切な判断はどれか。
本文の対応箇所: 参照する
Q6. フィッシャー情報と自然勾配
自然勾配が確率分布の学習に適しているとされる理由はどれか。
本文の対応箇所: 参照する
Q7. 確率分布の空間の物差し
確率分布の空間で「分布がどれだけ変化したか」を測りたい。パラメータのユークリッド距離ではなく、フィッシャー情報行列をリーマン計量として採用する理由の説明として、最も適切なものはどれか。
本文の対応箇所: 参照する
Q8. Gumbel-Softmax(微分可能な離散サンプリング手法)
Gumbel-Softmax(微分可能な離散サンプリング手法)の位置づけとして正しいものはどれか。
本文の対応箇所: 参照する
Q9. 構造化予測
系列ラベルの単独精度は高いが、隣接ラベルの組み合わせに不自然な出力が多い。次の改善として、最も適切なものはどれか。
本文の対応箇所: 参照する