F分布の確率密度関数の導出

F分布

この記事では,F分布の確率密度関数を導出します.
途中の細かい証明や計算は折りたたんであるので,必要なときに開いてください.

結論

\(U\sim\chi^2(\ell)\),\(V\sim\chi^2(m)\) が独立のとき,\(Y=\frac{U/\ell}{V/m}\) の確率密度関数は次で与えられる.
この確率密度関数をもつ分布を,自由度 \((\ell,m)\) のF分布という. \[ f_Y(y)=\frac{\ell^{\ell/2}\,m^{m/2}}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)}\cdot\frac{y^{\ell/2-1}}{(m+\ell y)^{(\ell+m)/2}},\qquad y>0 \]

1. 設定と方針

\(U\) と \(V\) を互いに独立な確率変数とし,\(U\sim\chi^2(\ell)\),\(V\sim\chi^2(m)\) とする.このとき \[ Y=\frac{U/\ell}{V/m} \]

の分布を自由度 \((\ell,m)\) のF分布という(\(\ell\) は第1自由度,\(m\) は第2自由度).

自由度で割る形のままでは式が見にくいため,次の2段階で進める.

  1. まず \(\tilde{Y}=\frac{U}{V}\) の密度関数を求める.
  2. \(Y=\frac{m}{\ell}\tilde{Y}\) という定数倍の関係から,\(Y\) の密度関数を求める.

\(\tilde{Y}\) の密度さえ分かれば,\(Y\) は定数倍で分かる.
\(\tilde{Y}\) の密度は,\(\frac{\tilde{Y}}{1+\tilde{Y}}=\frac{U/2}{U/2+V/2}\) がベータ分布に従うことを利用して求める.

2. 導出

\[ Z=\frac{\tilde{Y}}{1+\tilde{Y}}=\frac{\frac{U}{V}}{1+\frac{U}{V}}=\frac{U}{U+V}=\frac{\frac{U}{2}}{\frac{U}{2}+\frac{V}{2}} \]

と変換する.
このとき,\[ \frac{U}{2}\sim\mathrm{Ga}\!\left(\frac{\ell}{2},1\right),\qquad \frac{V}{2}\sim\mathrm{Ga}\!\left(\frac{m}{2},1\right)\tag{1} \]

であり,両者は独立である.

(1)について

ガンマ分布 \(\mathrm{Ga}(a,\theta)\)(形状母数 \(a\),尺度母数 \(\theta\))の密度は \(\frac{1}{\Gamma(a)\theta^{a}}x^{a-1}e^{-x/\theta}\ (x>0)\) であり,\(\chi^2(\ell)=\mathrm{Ga}\!\left(\frac{\ell}{2},2\right)\) である.
いま,\(U\sim\chi^2(\ell)\)なので,\[ f_U(u)=\frac{1}{2^{\ell/2}\,\Gamma\!\left(\frac{\ell}{2}\right)}\,u^{\ell/2-1}e^{-u/2},\qquad u>0 \]

\(W=\frac{U}{2}\) とおくと,その分布関数は \(F_W(w)=P(U\le 2w)=F_U(2w)\) なので,微分して \(f_W(w)=2f_U(2w)\) を得る.
代入すると\[ f_W(w)=2\cdot\frac{1}{2^{\ell/2}\,\Gamma\!\left(\frac{\ell}{2}\right)}\,(2w)^{\ell/2-1}e^{-w} =\frac{1}{\Gamma\!\left(\frac{\ell}{2}\right)}\,w^{\ell/2-1}e^{-w} \]

となる(\(2\cdot(2w)^{\ell/2-1}=2^{\ell/2}w^{\ell/2-1}\) なので \(2^{\ell/2}\) が約分される).
これは \(\mathrm{Ga}\!\left(\frac{\ell}{2},1\right)\) の密度である.\(V\) についても同様である.
また,\Uと\Vが独立であるから,\(\frac{U}{2}\) と \(\frac{V}{2}\) も独立である.

独立な \(X_1\sim\mathrm{Ga}(a,1)\),\(X_2\sim\mathrm{Ga}(b,1)\) に対して \(\frac{X_1}{X_1+X_2}\sim\mathrm{Be}(a,b)\) が成り立つ.
これを \(Z\) に適用すると,\(Z\) はベータ分布 \(\mathrm{Be}\!\left(\frac{\ell}{2},\frac{m}{2}\right)\) に従い,その密度関数は\[ f_Z(z)=\frac{1}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)}\,z^{\ell/2-1}(1-z)^{m/2-1},\qquad 0<z<1\tag{2} \]

である.

(2)について

ガンマ分布からベータ分布が得られることの証明を見る.

\(X_1\sim\mathrm{Ga}(a,1)\),\(X_2\sim\mathrm{Ga}(b,1)\) が独立のとき,同時密度は\[ f_{X_1,X_2}(x_1,x_2)=\frac{1}{\Gamma(a)\Gamma(b)}\,x_1^{a-1}x_2^{b-1}e^{-(x_1+x_2)},\qquad x_1,x_2>0 \]

である.
\(Z=\frac{X_1}{X_1+X_2}\),\(S=X_1+X_2\) と変換すると,逆変換は\[ x_1=zs,\qquad x_2=s(1-z) \]

であり,\(x_1,x_2>0\) は \(s>0,\ 0<z<1\) と同値である.
ヤコビ行列の行列式は\[ \det J=\det\left(\begin{array}{cc} s & z\\ -s & 1-z\end{array}\right)=s(1-z)+zs=s \]

なので,\((Z,S)\) の同時密度は \(|\det J|=s\) を掛けて\[ f_{Z,S}(z,s)=\frac{1}{\Gamma(a)\Gamma(b)}\,(zs)^{a-1}\bigl(s(1-z)\bigr)^{b-1}e^{-s}\cdot s =\frac{1}{\Gamma(a)\Gamma(b)}\;s^{a+b-1}e^{-s}\;z^{a-1}(1-z)^{b-1} \]

となる.
「\(s\) だけの関数」と「\(z\) だけの関数」の積で定義域も長方形なので,\(Z\) と \(S\) は独立である.
定数を調整すると\[ f_{Z,S}(z,s)=\underbrace{\frac{1}{\Gamma(a+b)}\,s^{a+b-1}e^{-s}}_{\mathrm{Ga}(a+b,1)\text{ の密度}}\;\times\;\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}\,z^{a-1}(1-z)^{b-1} \]

と書けるので,第2因子が \(Z\) の密度であり,\(Z\sim\mathrm{Be}(a,b)\) である.
これが積分して1になることから,\(B(a,b)=\frac{\Gamma(a)\Gamma(b)}{\Gamma(a+b)}\) も確認できる.

次に,\(z=\frac{\tilde{y}}{1+\tilde{y}}\) を \(\tilde{y}\) で微分したヤコビアンは\[ \frac{dz}{d\tilde{y}}=(1+\tilde{y})^{-2} \]

である.
\(Z=\frac{\tilde{Y}}{1+\tilde{Y}}\) の密度 (2) に,\(z=\frac{\tilde{y}}{1+\tilde{y}}\),\(1-z=\frac{1}{1+\tilde{y}}\) を代入してヤコビアンを掛けると,
\(\tilde{Y}\) の密度関数\[ f_{\tilde{Y}}(\tilde{y})=\frac{1}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)}\cdot\frac{\tilde{y}^{\ell/2-1}}{(1+\tilde{y})^{(\ell+m)/2}},\qquad \tilde{y}>0\tag{3} \]

が与えられる.

(3) の計算

\(z=\frac{\tilde{y}}{1+\tilde{y}}\) は \(\tilde{y}>0\) で単調増加であり,\[ \frac{dz}{d\tilde{y}}=\frac{1\cdot(1+\tilde{y})-\tilde{y}\cdot 1}{(1+\tilde{y})^2}=\frac{1}{(1+\tilde{y})^2}>0,\qquad 1-z=\frac{1+\tilde{y}-\tilde{y}}{1+\tilde{y}}=\frac{1}{1+\tilde{y}} \]

である.
変数変換の公式 \(f_{\tilde{Y}}(\tilde{y})=f_Z(z)\left|\frac{dz}{d\tilde{y}}\right|\) より\[ f_{\tilde{Y}}(\tilde{y})=\frac{1}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)} \left(\frac{\tilde{y}}{1+\tilde{y}}\right)^{\ell/2-1} \left(\frac{1}{1+\tilde{y}}\right)^{m/2-1} \cdot\frac{1}{(1+\tilde{y})^2} \]

であり,\(\tilde{y}\) の指数は \(\frac{\ell}{2}-1\),\((1+\tilde{y})\) の指数は\[ -\left(\frac{\ell}{2}-1\right)-\left(\frac{m}{2}-1\right)-2=-\frac{\ell+m}{2} \]

となって,(3) が得られる.

最後に,\(Y=\frac{m}{\ell}\tilde{Y}\) の密度関数を求める.
\(\tilde{Y}=\frac{\ell}{m}Y\) より \(\frac{d\tilde{y}}{dy}=\frac{\ell}{m}\) なので,\[ f_Y(y)=\frac{\ell}{m}\,f_{\tilde{Y}}\!\left(\frac{\ell}{m}\,y\right) \]

に (3) を代入して整理すると,\[ f_Y(y)=\frac{\ell^{\ell/2}\,m^{m/2}}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)}\cdot\frac{y^{\ell/2-1}}{(m+\ell y)^{(\ell+m)/2}},\qquad y>0\tag{4} \]

を得る.
これが自由度 \((\ell,m)\) のF分布の密度関数である.

(4)の計算

一般に \(W=cX\ (c>0)\) のとき \(f_W(w)=\frac{1}{c}f_X\!\left(\frac{w}{c}\right)\) であり,ここでは \(c=\frac{m}{\ell}\) にあたる.
(3) を代入すると\[ f_Y(y)=\frac{\ell}{m}\cdot\frac{1}{B\!\left(\frac{\ell}{2},\frac{m}{2}\right)}\cdot \frac{\left(\frac{\ell y}{m}\right)^{\ell/2-1}}{\left(1+\frac{\ell y}{m}\right)^{(\ell+m)/2}} \]

である.

(a) 分子は\[ \left(\frac{\ell y}{m}\right)^{\ell/2-1}=\ell^{\ell/2-1}\cdot m^{-(\ell/2-1)}\cdot y^{\ell/2-1} \]

(b) 分母は,\(1+\frac{\ell y}{m}=\frac{m+\ell y}{m}\) より\[ \left(1+\frac{\ell y}{m}\right)^{-(\ell+m)/2}=\frac{m^{(\ell+m)/2}}{(m+\ell y)^{(\ell+m)/2}} \]

(c) 係数 \(\frac{\ell}{m}\) も合わせて,指数をまとめる.

  • \(\ell\) の指数:\(1+\left(\frac{\ell}{2}-1\right)=\frac{\ell}{2}\)
  • \(m\) の指数:\(-1-\left(\frac{\ell}{2}-1\right)+\frac{\ell+m}{2}=\frac{m}{2}\)

以上より (4) が得られる.

参考:『現代数理統計学の基礎』第4章(F分布の導出:(4.22)〜(4.24)式)

コメント