Skip to content
第4回: 分類を確率で読む: Softmaxと情報幾何学(理解度チェック)

第4回: 分類を確率で読む: Softmaxと情報幾何学(理解度チェック)

確率分布の空間への写像

Q1. 確率単体

K個のクラスの確率分布が存在する空間として、確率単体の説明はどれか。

本文の対応箇所: 参照する

Q2. Softmaxの性質

Softmaxの定義と性質について、正しい説明はどれか。

本文の対応箇所: 参照する

Q3. 最大エントロピー原理

制約付き最大エントロピー原理がSoftmaxの理解に与える見方はどれか。

本文の対応箇所: 参照する

計量と温度

Q4. Log-Sum-Exp

Log-Sum-Expが最適化や数値計算で重要な理由はどれか。

本文の対応箇所: 参照する

Q5. 温度調整の条件

Softmaxの温度調整について、最も適切な判断はどれか。

本文の対応箇所: 参照する

Q6. フィッシャー情報と自然勾配

自然勾配が確率分布の学習に適しているとされる理由はどれか。

本文の対応箇所: 参照する

Q7. 確率分布の空間の物差し

確率分布の空間で「分布がどれだけ変化したか」を測りたい。パラメータのユークリッド距離ではなく、フィッシャー情報行列をリーマン計量として採用する理由の説明として、最も適切なものはどれか。

本文の対応箇所: 参照する

Q8. Gumbel-Softmax(微分可能な離散サンプリング手法)

Gumbel-Softmax(微分可能な離散サンプリング手法)の位置づけとして正しいものはどれか。

本文の対応箇所: 参照する

Q9. 構造化予測

系列ラベルの単独精度は高いが、隣接ラベルの組み合わせに不自然な出力が多い。次の改善として、最も適切なものはどれか。

本文の対応箇所: 参照する