推計すいけい統計とうけい学がく

推計すいけい統計とうけい学がく（すいけいとうけいがく、英えい: inferential statistics, inductive statistics）あるいは統計とうけい的てき推論すいろん（英えい: statistical inferenece）とは、母集団ぼしゅうだん全体ぜんたいを知しることができない場合ばあいに、母集団ぼしゅうだんから抽出ちゅうしゅつされた部分ぶぶん集団しゅうだん（抽出ちゅうしゅつ集団しゅうだん、標本ひょうほん集団しゅうだん）をもとに、確率かくりつ論ろんを用もちいて母集団ぼしゅうだんの様子ようすを推定すいていする統計とうけい学がくの分野ぶんやを言いう。推計すいけいという語かたりは、推定すいてい、推論すいろん、推測すいそくなどと訳やくされることもある。

概要がいよう

19世紀せいき後半こうはんから20世紀せいき初頭しょとうにかけて発達はったつした統計とうけい学がくは、現在げんざいでは推計すいけい統計とうけい学がくと区別くべつして、「記述きじゅつ統計とうけい学がく (descriptive statistics) 」と呼よばれている。集団しゅうだんの規則きそく性せいを求もとめることが統計とうけい学がくの目的もくてきであるが、記述きじゅつ統計とうけい学がくにおいては集団しゅうだんの規則きそく性せいは大量たいりょうの標本ひょうほんを観察かんさつすることによってのみ発見はっけんすることができるものだと考かんがえられていた。そのため記述きじゅつ統計とうけい学がくは、現実げんじつ的てきな制約せいやくにより少数しょうすうの標本ひょうほんしか得えられない現象げんしょうについて、その帰属きぞくする母集団ぼしゅうだんの規則きそく性せいを求もとめることができなかった。そのような事例じれいに対応たいおうするために発達はったつしたのが推計すいけい統計とうけい学がくである。

推計すいけい統計とうけい学がくは実じつ世界せかいの様々さまざまな分野ぶんやで使つかわれているが、分わかりやすい例れいとしては抜ぬき取とり調査ちょうさによる品質ひんしつ管理かんりや疫学えきがく調査ちょうさなどが挙あげられる。

推計すいけい統計とうけい学がくは、頻度ひんど主義しゅぎに基もとづいたものとベイズ統計とうけい学がくに基もとづいたものに分わけられる。

頻度ひんど主義しゅぎにおける統計とうけい学がく的てき推論すいろんは、母集団ぼしゅうだんを規定きていする量りょう＝パラメータ（母はは数すう）を既定きていの固定こてい値ちとしてそれを推定すいていするという方法ほうほう（パラメトリック推定すいてい）に基もとづいて発展はってんしてきた。基礎きそ的てきなパラメトリック推定すいていにおける統計とうけい学がく的てき推測すいそくは、以下いかのように細分さいぶんされる。

• 点てん推定すいてい: ${\hat {\theta }}=\arg \max _{\theta }Estimator(\theta )$
• 区間くかん推定すいてい
• 仮説かせつ検定けんてい

最近さいきんは、不ふ確実かくじつ性せいを確かく率りつ分布ぶんぷとして表現ひょうげんするベイズ統計とうけい学がくが注目ちゅうもくされている。

統計とうけいモデル

$X\sim p_{model}(X\mid \theta )$

統計とうけいモデルとは、対象たいしょうを統計とうけい（母集団ぼしゅうだんと標本ひょうほん）の側面そくめんから抽象ちゅうしょう化かしたものである。（推測すいそく）統計とうけい学がくでは母集団ぼしゅうだんが確かく率りつ的てきに標本ひょうほんを生うみ出だすと考かんがえるため、統計とうけいモデルは確かく率りつ分布ぶんぷを内包ないほうしたモデルとなる。例たとえばコイン振ぶりの統計とうけいモデルはベルヌーイ分布ぶんぷでモデル化かしうるし、ほかの分布ぶんぷでもモデル化かできるかもしれない。

良よい統計とうけいモデルを設定せっていしようとする過程かてい全体ぜんたいのことを統計とうけいモデリングという。モデル選択せんたくは統計とうけいモデリングの重要じゅうよう事項じこうの1つのである。選択せんたくされた統計とうけいモデルは母集団ぼしゅうだんと一致いっちするように、データ（標本ひょうほん）に基もとづいてとそのパラメータが推定すいていされる（統計とうけい的てき推測すいそく）。母集団ぼしゅうだんとモデルのずれは汎ひろし化か誤差ごさ（過剰かじょう適合てきごう § 汎ひろし化か誤差ごさ）で評価ひょうかされることもある。

統計とうけい的てき機械きかい学習がくしゅうの文脈ぶんみゃくでは、母集団ぼしゅうだんが標本ひょうほんを生成せいせいするモデルという面めんに着目ちゃくもくして生成せいせいモデルと呼よばれることもある（詳くわしくは機械きかい学習がくしゅう § 統計とうけい的てき機械きかい学習がくしゅう）。

統計とうけい的てき推測すいそく

${\begin{array}{lcl}X\sim q(X\mid \theta _{0})\\p_{model}(X\mid {\hat {\theta }})\end{array}}$

統計とうけい的てき推測すいそくとは、「データが与あたえられたとき、そのデータを発生はっせいしている確かく率りつ分布ぶんぷを推測すいそくすること」である。すなわち、真しんなる母集団ぼしゅうだんから標本ひょうほん（データ）が得えられたとき、その（一般いっぱんには観測かんそくできない）真しんなる母集団ぼしゅうだん確かく率りつ分布ぶんぷを推測すいそくする過程かていが統計とうけい的てき推測すいそくである。

一般いっぱん的てきな真しんなる推測すいそくの流ながれは、

1. 標本ひょうほん（データ）x の取得しゅとく
2. 真しんなる母集団ぼしゅうだん q(X|θしーた₀) を模もした統計とうけいモデル p(X|θしーた) のモデリング
3. 標本ひょうほん x に基もとづいたパラメータ θしーた の推測すいそく -> 推定すいてい値ち ${\hat {\theta }}$
4. 真しんなる母集団ぼしゅうだんの統計とうけい的てき推測すいそく結果けっかとして p (X| ${\hat {\theta }}$) の提示ていじ

となる。

統計とうけい的てき推論すいろんは個別こべつ・具体ぐたい的てき事象じしょう(標本ひょうほん)から一般いっぱん・普遍ふへん的てきな規則きそくや原理げんり(母集団ぼしゅうだんモデル)を求もとめる方法ほうほう論ろんであり、帰納きのう的てき推論すいろんの一種いっしゅである。

区間くかん推定すいてい

点てん推定すいていで推定すいていしたパラメータのバラツキや信頼しんらい区間くかんを示しめすこと。

正規せいき分布ぶんぷの場合ばあいには標準ひょうじゅん誤差ごさ (Standard Error, SE) を用もちいることが多おおい。平均へいきん値ちの標準ひょうじゅん誤差ごさを特とくに SEM (standard error of the mean) と呼よぶ。SEMは以下いかの式しきで算出さんしゅつされる。

$SEM={\sqrt {\frac {\sum \limits _{i=1}^{n}(x_{i}-{\hat {\mu }})^{2}}{n(n-1)}}}$

また、より具体ぐたい的てきに信頼しんらい区間くかん（95%信頼しんらい区間くかん、99%信頼しんらい区間くかんなどが用もちいられる）を表示ひょうじすることもある。

仮説かせつ検定けんてい

詳細しょうさいは「仮説かせつ検定けんてい」を参照さんしょう

区間くかん推定すいてい値ちから、母集団ぼしゅうだんが特定とくていの分布ぶんぷに従したがっているかどうかを検証けんしょうすること。
具体ぐたい的てきには、データが特定とくていの分布ぶんぷに従したがう母集団ぼしゅうだんから抽出ちゅうしゅつされたとする仮説かせつを立たて、この仮説かせつの検定けんていを行おこなう。この仮説かせつを帰き無む仮説かせつ（きむかせつ）という。たとえば、「抽出ちゅうしゅつ集団しゅうだんは、平均へいきん値ち50、標準ひょうじゅん偏差へんさ○の母集団ぼしゅうだんから抽出ちゅうしゅつされたものである。」、「抽出ちゅうしゅつ集団しゅうだんAと抽出ちゅうしゅつ集団しゅうだんBはともに平均へいきん値ち、標準ひょうじゅん偏差へんさが99%同おなじ母集団ぼしゅうだんから抽出ちゅうしゅつされたものである。」といった仮説かせつが帰き無む仮説かせつとなる。こうした帰き無む仮説かせつから予想よそうされる統計とうけい量りょうと、実際じっさいに抽出ちゅうしゅつ集団しゅうだんのデータから計算けいさんされた統計とうけい量りょうが一致いっちする確かく率りつ（p値ちという）を求もとめ、その確かく率りつが予あらかじめ決きめた基準きじゅん(有意ゆうい水準すいじゅん、5%または1%が使用しようされることが多おおい）よりも小ちいさい（つまり｢起おこりそうもない｣）場合ばあいには「有意ゆうい差さがある」として、上うえの仮説かせつは棄却ききゃくされる。

仮説かせつ検定けんていには様々さまざまな手法しゅほうがあり、帰き無む仮説かせつにより使つかい分わける必要ひつようがある。統計とうけい学がく的てき検定けんてい手法しゅほうは、データが特定とくていの確かく率りつ分布ぶんぷに従したがうことを仮定かていする「パラメトリックな手法しゅほう」と、それを仮定かていしない「ノンパラメトリック手法しゅほう」に分わけられる。

統計とうけい的てき推測すいそくの正ただしさと汎ひろし化か誤差ごさ

統計とうけい的てき推論すいろんでは観測かんそくされたデータを基もとに真しんの分布ぶんぷ p_true(x)を統計とうけいモデル p_model(x|θしーた)で近似きんじしようとする、い換いかえれば2分布ぶんぷの誤差ごさを最小さいしょう化かしようとする。観測かんそくされたデータ=「真しんの分布ぶんぷの部分ぶぶん集合しゅうごう」から真しんの分布ぶんぷ全体ぜんたいの推測すいそくをした際さいの誤差ごさという意味いみで、これは汎ひろし化か誤差ごさと呼よばれる。すなわち統計とうけい的てき推測すいそくの目的もくてきは汎ひろし化か誤差ごさを最小さいしょう化かする統計とうけいモデルの構築こうちくにある。

しかし実際じっさいの統計とうけい的てき推測すいそくをおこなう際さいには p_true(x) が不明ふめいな場合ばあいが多おおい。p_true(x) が明あきらかならばそもそも推論すいろんをおこなう必要ひつようがほぼないからである。つまり一般いっぱんには汎ひろし化か誤差ごさは直接ちょくせつ計算けいさんできない。汎ひろし化か誤差ごさが計算けいさんできないということは、統計とうけいモデルが正ただしいか否ひかには答こたえられない、ということである。

だからといって汎ひろし化か誤差ごさが無意味むいみなわけではない。データ（標本ひょうほん）は真しんの分布ぶんぷ p_true(x) からランダムサンプリングされる確かく率りつ変数へんすうである。そして統計とうけいモデルは確かく率りつ変数へんすうたるデータによって学習がくしゅうされるため、汎ひろし化か誤差ごさもまた確かく率りつ変数へんすうである。確かく率りつ変数へんすうであるということは統計とうけい的てきな性質せいしつを見出みいだすことが可能かのうである（分布ぶんぷなど）。すなわち存在そんざいするデータで学習がくしゅうされた統計とうけいモデルの汎ひろし化か誤差ごさは計算けいさんできないが、汎ひろし化か誤差ごさの振ふる舞まいは研究けんきゅうすることができる。これを利用りようし、

• どのような分布ぶんぷ p_model(X|θしーた)が
• どのようなデータ x を与あたえられたとき
• どのような推測すいそく法ほうで${\hat {\theta }}$を得えると

汎ひろし化か誤差ごさがいかに振ふる舞まうか（例れい: ガウス分布ぶんぷに十分じゅうぶんな量りょうのデータを与あたえ最さい尤ゆう推定すいていをおこなうと汎ひろし化か誤差ごさはxxxのようにふるまう）を知しることができる。この研究けんきゅうが進展しんてんすれば、観測かんそくされた目めの前まえのデータに基もとづいて学習がくしゅうされた p_model(x|θしーた)の正ただしさには答こたえられなくても、その統計とうけい的てき振ふる舞まいを答こたえることができる。

例たとえば尤ゆう度どに着目ちゃくもくしたとき、尤ゆう度どを最大さいだい化かすること（最さい尤ゆう推定すいてい）が汎ひろし化か誤差ごさの期待きたい値ちを最小さいしょう化かするかは明あきらかではない。尤ゆう度どの最大さいだい値ちではなく、尤ゆう度どの周辺しゅうへん平均へいきん値ちの最大さいだい値ちが汎ひろし化か誤差ごさ期待きたい値ちを最小さいしょう化かするかもしれない。汎ひろし化か誤差ごさの振ふる舞まいを解析かいせきすることで、この疑問ぎもんに答こたえることができる。

数学すうがく的てき道具立どうぐだて

汎ひろし化か誤差ごさを議論ぎろんするにあたって、その基礎きそにあるのは分布ぶんぷ間あいだの差異さい・距離きょりである。カルバック・ライブラー情報じょうほう量りょう（KLダイバージェンス）やワッサースタイン計量けいりょうはその一いち例れいである。KLダイバージェンスを用もちいれば、最さい尤ゆう推定すいていはD_KL最小さいしょう化か手法しゅほうとみることができる。

統計とうけい的てき推測すいそくにおいてどの統計とうけいモデル（確かく率りつ分布ぶんぷとそのパラメータ）を選えらぶべきか（統計とうけい的てきモデル選択せんたく）の基準きじゅんには以下いかのような数学すうがく的てき道具どうぐが用もちいられる。

• フィッシャー情報じょうほう量りょう
• 赤池あかいけ情報じょうほう量りょう規準きじゅん(AIC)
• 広ひろく使つかえる情報じょうほう量りょう規準きじゅん(WAIC)

方法ほうほう論ろんとそれらの比較ひかく

得えられたデータ（標本ひょうほん）に基もとづいて母集団ぼしゅうだん分布ぶんぷを推定すいていする様々さまざまな方法ほうほう論ろんがあり、それらはそれぞれの特徴とくちょうがある。

表ひょう: 統計とうけい的てき推測すいそく手法しゅほう

手法しゅほう名めい	母はは数すう θしーた	予測よそく分布ぶんぷ	概要がいよう
最さい尤ゆう推定すいてい	${\hat {\theta }}=\arg \max _{\theta }L(\theta \mid data)$	$f(x^{*}\mid {\hat {\theta }})$	最大さいだい尤ゆう度どによる母はは数すう点てん推定すいてい+条件じょうけん付づけ予測よそく分布ぶんぷ
MAP推定すいてい	${\hat {\theta }}=\arg \max _{\theta }L(\theta \mid data)\cdot P(\theta )$	$f(x^{*}\mid {\hat {\theta }})$	MAPによる母はは数すう点てん推定すいてい+条件じょうけん付づけ予測よそく分布ぶんぷ
ベイズ推定すいてい	$P(\theta \mid data)={\frac {L(\theta \mid data)\cdot P(\theta )}{P(data)}}$	$\int f(x^{*}\mid \theta )P(\theta \mid data)d\theta$	母はは数すう事後じご分布ぶんぷ+事後じご予測よそく分布ぶんぷ（母はは数すうによるモデル生成せいせい分布ぶんぷの平均へいきん）

それぞれを評価ひょうかする特徴とくちょうとしては、汎ひろし化か誤差ごさの振ふる舞まいなどが挙あげられる。

参考さんこう文献ぶんけん

• 東京大学とうきょうだいがく教養きょうよう学部がくぶ統計とうけい学がく教室きょうしつ(編へん) 編へん『統計とうけい学がく入門にゅうもん』東京大学とうきょうだいがく出版しゅっぱん会かい、1991年ねん。 
• 蓑谷みのたに 千せん凰彦『推定すいていと検定けんていのはなし』東京とうきょう図書としょ、1988年ねん。 
• R. A. フィッシャー 著ちょ、渋谷しぶや 政昭まさあき, 竹内たけうち 啓あきら(訳わけ) 編へん『統計とうけい的てき方法ほうほうと科学かがく的てき推論すいろん』1962年ねん。 
• 吉村よしむら(1971), 「アザラシ状じょう奇形きけいの原因げんいん －サリドマイド仮説かせつの成立せいりつに関かんする統計とうけい学がく上じょうの争そう点てんについて」『科学かがく』41(3) 146-154, 1971-03, NAID 40017543798: 推計すいけい統計とうけい学がくの好例こうれいとして