方向予測のためのロジスティック回帰

スコアから確率へ

ロジスティック回帰は「はい／いいえ」、たとえば明日のリターンが正かどうかを予測します。まず線形回帰と同じ線形スコア $z=a+bx$ を作り、シグモイド $p=1/(1+e^{-z})$ で確率に変えます。スコアはオッズの対数 $z=\ln\frac{p}{1-p}$ なので、$e^{z}$ がオッズです。スコア $0$ は $p=0.5$ を意味します。モデルは対数損失（結果がはいなら $-\ln p$、いいえなら $-\ln(1-p)$）を最小にして当てはめ、自信満々の間違いを強く罰します。報告するクラスは、動かせるしきい値（通常 $0.5$）で決まります。

クラスの片方が多いと、正解率だけでは誤解します。ほとんどの日が上昇なら、常に上昇と答えるモデルは良く見えますが、取引には役立ちません。方向予測モデルは、定数の割合を基準にした対数損失、確率のキャリブレーション、そして何よりコスト後にそれらで動く戦略のリターンで評価します。しきい値による判断では、誤った買いと見送りのコストはほとんど等しくないので、最適なしきい値は $0.5$ とは限りません。

• スコアからシグモイドへ：線形スコアが $0$ から $1$ の確率になる。
• 対数損失は自信を罰する：自信のある誤答は、迷った誤答よりずっと高くつく。
• 基準を上回る：$50\%$ ではなく、基準割合を常に答える予測と比べる。

ラボ：採点される内容

• スコアから確率15点
• オッズ10点
• 対数損失15点
• モデルが迷う位置10点
• 定数の基準10点
• なぜ正解率は誤解を招くか10点
• 用語を結び付ける10点
• なぜモデルは基準をほとんど上回れないのか20点