確かく率りつ変数へんすうの収束しゅうそく

数学すうがくの確率かくりつ論ろんの分野ぶんやにおいて、確かく率りつ変数へんすうの収束しゅうそく（かくりつへんすうのしゅうそく、英えい: convergence of random variables）に関かんしては、いくつかの異ことなる概念がいねんがある。確かく率りつ変数へんすう列れつのある極限きょくげんへの収束しゅうそくは、確率かくりつ論ろんや、その応用おうようとしての統計とうけい学がくや確かく率りつ過程かていの研究けんきゅうにおける重要じゅうような概念がいねんの一ひとつである。より一般いっぱん的てきな数学すうがくにおいて同様どうようの概念がいねんは確かく率りつ収束しゅうそく (stochastic convergence) として知しられ、その概念がいねんは、本質ほんしつ的てきにランダムあるいは予測よそく不可能ふかのうな事象じしょうの列れつは、その列れつから十じゅう分ふん離はなれているアイテムを研究けんきゅうする場合ばあいにおいて、しばしば、本質ほんしつ的てきに不変ふへんな挙動きょどうへと落おち着つくことが予想よそうされることがある、という考かんがえを定式ていしき化かするものである。異ことなる収束しゅうそくの概念がいねんとは、そのような挙動きょどうの特徴とくちょうづけに関連かんれんするものである：すぐに分わかる二ふたつの挙動きょどうとは、その列れつが最終さいしゅう的てきに定数ていすうとなるか、あるいはその列れつに含ふくまれる値ねは変動へんどうを続つづけるがある不変ふへんな確かく率りつ分布ぶんぷによってその変動へんどうが表現ひょうげんされる、というようなものである。

背景はいけい

「確かく率りつ収束しゅうそく」とは、本質ほんしつ的てきにランダムあるいは予測よそく不可能ふかのうである事象じしょうの列れつがしばしばあるパターンへと落おち着つくことが期待きたいされる、という考かんがえを定式ていしき化かするものである。そのパターンとは、例たとえば、

• ある固定こてい値ちや、ある確かく率りつ事象じしょうから発生はっせいするそれ自身じしんへの、古典こてん的てきな意味いみでの収束しゅうそく
• 純粋じゅんすいな決定けってい論ろん的てきな関数かんすうから生しょうじる結果けっかへの相似そうじ性せいの増加ぞうか
• ある特定とくていの結果けっかへの嗜好しこうの増加ぞうか
• ある特定とくていの結果けっかから離はなれていることに対たいする反発はんぱつの増加ぞうか

などが挙あげられる。それより明白めいはくではないが、より理論りろん的てきなパターンとしては

• 次つぎの結果けっかを表現ひょうげんする確かく率りつ分布ぶんぷが、ある分布ぶんぷへとより似にるようになること
• ある特定とくていの値ねから離はなれた結果けっかの期待きたい値ちを計算けいさんすることによって形成けいせいされる列れつが 0 へと収束しゅうそくすること
• 次つぎの事象じしょうを表現ひょうげんする確かく率りつ変数へんすうの分散ぶんさんがより少すくなくなっていくこと

などが挙あげられる。これらの起おこりうる異ことなるタイプのパターンは、研究けんきゅうされている異ことなるタイプの確かく率りつ収束しゅうそくにおいて反映はんえいされる。

上述じょうじゅつの議論ぎろんは一ひとつの列れつの一ひとつの極限きょくげん値ちへの収束しゅうそくと関連かんれんしているが、二ふたつの列れつが互たがいへと収束しゅうそくする概念がいねんも重要じゅうようである。しかし、それは、それら2つの列れつの差さや比ひによって定義ていぎされる列れつを研究けんきゅうすることによって容易よういに扱あつかうことができる。

例たとえば、等ひとしい有限ゆうげんの平均へいきんと分散ぶんさんを持もつような n 個この無む相関そうかん確かく率りつ変数へんすう Y_i, i = 1, …, n の平均へいきんが

$X_{n}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}$

で与あたえられるとすると、n が無限むげん大だいへと近付ちかづく時とき、X_n は確かく率りつ変数へんすう Y_i の共通きょうつうの平均へいきん μみゅー へと確かく率りつ収束しゅうそく（下記かき参照さんしょう）する。この結果けっかは大数たいすうの弱じゃく法則ほうそくとして知しられる。別べつのタイプの収束しゅうそくは、中心ちゅうしん極限きょくげん定理ていりを含ふくむ別べつの有用ゆうような定理ていりにおいて重要じゅうようとなる。

以下いかでは、(X_n) を確かく率りつ変へん数列すうれつとし、X を確かく率りつ変数へんすうとし、それらすべては同一どういつの確かく率りつ空間くうかん $\scriptstyle (\Omega ,{\mathcal {F}},P)$ 上うえで定義ていぎされるものとする。

分布ぶんぷ収束しゅうそく

分布ぶんぷ収束しゅうそくの例れい

サイコロ工場こうじょう
新あたらしく建設けんせつされたばかりのサイコロ工場こうじょうについて考かんがえる。初はじめの方ほうに作つくられたサイコロには、その製造せいぞう過程かていの不完全ふかんぜんさに起因きいんして、偏かたよりがあると考かんがえられる。それらを投なげた時ときに出でる目めから得えられる分布ぶんぷは、理想りそうとする一様いちよう分布ぶんぷとはきわだって異ことなるものとなるであろう。 工場こうじょうが改善かいぜんされるにつれてサイコロの偏かたよりは少すくなくなり、より新あたらしく作つくられたサイコロを投なげた時ときに出でる目めは一様いちよう分布ぶんぷにより近ちかいものとなっていく。
コイン投なげ
偏かたよりの無ないコインを n 回かい投なげた時ときに表ひょうが出でた割合わりあいを Xn とする。このとき、X1 は期待きたい値ち μみゅー = 0.5 および分散ぶんさん σしぐま2 = 0.25 であるベルヌーイ分布ぶんぷに従したがう。それ以降いこうの確かく率りつ変数へんすう X2, X3, … はすべて二に項こう的てきに分布ぶんぷする。 n が大おおきくなるにつれて、その分布ぶんぷはしだいに正規せいき分布ぶんぷの釣鐘つりがね型がた曲線きょくせんに近ちかい形かたちを取とるようになる。Xn を適切てきせつにシフトし、リスケールすることによって$\scriptstyle Z_{n}={\sqrt {n}}(X_{n}-\mu )/\sigma$ は標準ひょうじゅん正規せいき分布ぶんぷへと分布ぶんぷ収束しゅうそくする。この結果けっかは有名ゆうめいな中心ちゅうしん極限きょくげん定理ていりによるものである。
グラフ例れい
{Xi} を、一様いちよう U(−1,1) 確かく率りつ変数へんすうの独立どくりつ同一どういつ列れつとする。$\scriptstyle Z_{n}={\scriptscriptstyle {\frac {1}{\sqrt {n}}}}\sum _{i=1}^{n}X_{i}$ を、それらの（正規せいき化かされた）和わとする。このとき、中心ちゅうしん極限きょくげん定理ていりより、Zn の分布ぶんぷは標準ひょうじゅん N(0, 1/3) 分布ぶんぷへと近付ちかづく。この収束しゅうそくを、下図したずに表あらわす：n が大おおきくなるにつれて、確かく率りつ密度みつど関数かんすうはガウス曲線きょくせんへと近付ちかづいていく。

このタイプの収束しゅうそくにより、ある与あたえられた確かく率りつ分布ぶんぷによってより良よくモデル化かされるようなランダム実験じっけんの列れつにおける結果けっかを期待きたいすることができる。

分布ぶんぷ収束しゅうそくは、この記事きじ内ないで述のべられる全すべての他ほかのタイプの収束しゅうそくも意味いみするという点てんにおいて、最もっとも弱よわい収束しゅうそくである。しかしながら、実際じっさいの現場げんばにおいて、分布ぶんぷ収束しゅうそくは非常ひじょうによく利用りようされる; 最もっともよく現あらわれるのは、中心ちゅうしん極限きょくげん定理ていりの応用おうようにおいてである。

定義ていぎ

確かく率りつ変数へんすうの列れつ X₁, X₂, … が、ある確かく率りつ変数へんすう X へと分布ぶんぷ収束しゅうそくする、あるいは弱じゃく収束しゅうそくあるいは法則ほうそく収束しゅうそく (converge in law) するとは、

$\lim _{n\to \infty }F_{n}(x)=F(x),$

が、F が連続れんぞくであるような全すべての数かず x ∈ R に対たいして成なり立たつことである。ここで、F_n および F はそれぞれ確かく率りつ変数へんすう X_n および X の累積るいせき分布ぶんぷ関数かんすうである。

F が連続れんぞくであるような点てんのみを考かんがえるということは本質ほんしつ的てきである。例たとえば、もし X_n が区間くかん [0, 1/n] 上うえ一様いちように分布ぶんぷしているなら、その列れつは退化たいか確かく率りつ変数へんすう X = 0 へと収束しゅうそくする。実際じっさい、x ≤ 0 である時ときはすべての n に対たいして F_n(x) = 0 が成なり立たち、 n > 0 である時ときはすべての x ≥ 1/n に対たいして F_n(x) = 1 が成なり立たつ。しかしながら、すべての n に対たいして F_n(0) = 0 であるにもかかわらず、この極限きょくげん確かく率りつ変数へんすうに対たいしては F(0) = 1 である。したがって、F の不連続ふれんぞく点てん x = 0 では累積るいせき分布ぶんぷ関数かんすうの収束しゅうそくは成立せいりつしない。

分布ぶんぷ収束しゅうそくは次つぎのように表記ひょうきすることができる。

${\begin{aligned}&X_{n}\ {\xrightarrow {d}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {D}}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {L}}}\ X,\ \ X_{n}\ {\xrightarrow {d}}\ {\mathcal {L}}_{X},\\&X_{n}\rightsquigarrow X,\ \ X_{n}\Rightarrow X,\ \ {\mathcal {L}}(X_{n})\to {\mathcal {L}}(X),\\\end{aligned}}$

ここで $\scriptstyle {\mathcal {L}}_{X}$ は X の法則ほうそく（確かく率りつ分布ぶんぷ）である。例たとえば、X が標準ひょうじゅん正規せいきであるなら $X_{n}\,{\xrightarrow {d}}\,{\mathcal {N}}(0,\,1)$ と書かくことができる。

確かく率りつベクトル (X₁, X₂, …) ⊂ R^k に対たいする分布ぶんぷ収束しゅうそくも、同様どうように定義ていぎされる。この列れつがある確かく率りつ k-ベクトルへと分布ぶんぷ収束しゅうそくするとは、

$\lim _{n\to \infty }\operatorname {Pr} (X_{n}\in A)=\operatorname {Pr} (X\in A)$

が、X の連続れんぞく集合しゅうごうであるすべての A ⊂ R^k に対たいして成なり立たつことである。

分布ぶんぷ収束しゅうそくの定義ていぎは、確かく率りつベクトルから、任意にんいの距離きょり空間くうかんにおけるより複雑ふくざつな確かく率りつ要素ようそや、さらには漸近ぜんきんの場合ばあいを除のぞいて可か測はかでない「確かく率りつ変数へんすう」に対たいしてですら拡張かくちょうされる-そのような状況じょうきょうは例たとえば経験けいけん過程かていの研究けんきゅうにおいて現あらわれ、これは「定義ていぎされていない法則ほうそくの弱じゃく収束しゅうそく」である。

この場合ばあい、弱じゃく収束しゅうそくという呼よび名なが好このましい（測度そくどの弱じゃく収束しゅうそくを参照さんしょうされたい）。また、確かく率りつ要素ようその列れつ (X_n) が X へと弱じゃく収束しゅうそくする（X_n ⇒ X と記述きじゅつされる）とは、

$\operatorname {E} ^{*}h(X_{n})\to \operatorname {E} \,h(X)$

がすべての連続れんぞく有界ゆうかい関数かんすう h(·) に対たいして成なり立たつことである。ここで E^* は外そと期待きたい値ち (outer expectation)、すなわち、h(X_n) を支配しはいするような最小さいしょうの可か測はか関数かんすう g の期待きたい値ちを表あらわす。

性質せいしつ

• F(a) = Pr(X ≤ a) であることから、分布ぶんぷ収束しゅうそくは、十分じゅうぶん大おおきい n に対たいして X_n がある与あたえられた領域りょういきに含ふくまれる確かく率りつと、その領域りょういきに X が含ふくまれる確かく率りつがほとんど等ひとしいことを意味いみする。
• 一般いっぱん的てきに分布ぶんぷ収束しゅうそくは、対応たいおうする確かく率りつ密度みつど関数かんすうの列れつが同様どうように収束しゅうそくするということは意味いみしない。その一いち例れいとして、密度みつど f_n(x) = (1 − cos(2πぱいnx))1_{x∈(0,1)} を備そなえる確かく率りつ変数へんすうを考かんがえる。そのような確かく率りつ変数へんすうは一様いちよう分布ぶんぷ U(0, 1) へと分布ぶんぷ収束しゅうそくするが、その密度みつどが収束しゅうそくすることはない。
• ポートマントーの補題ほだいでは、分布ぶんぷ収束しゅうそくのいくつかの同値どうちな定義ていぎが述のべられている。それらの定義ていぎは直感ちょっかんにそぐわないものでもあるかも知しれないが、統計とうけい学がくにおける多おおくの定理ていりの証明しょうめいに利用りようされている。その補題ほだいによれば、(X_n) が X へ分布ぶんぷ収束しゅうそくするための必要ひつよう条件じょうけんは、次つぎのいずれかが成立せいりつすることである：
• Ef(X_n) → Ef(X) がすべての有界ゆうかいな連続れんぞく関数かんすう f に対たいして成立せいりつする；
• Eƒ(X_n) → Ef(X) がすべての有界ゆうかいなリプシッツ関数かんすう f に対たいして成立せいりつする；
• limsup{ Ef(X_n) } ≤ Ef(X) がすべての上うえ半はん連続れんぞくかつ上うえに有界ゆうかいな関数かんすう f に対たいして成立せいりつする；
• liminf{ Ef(X_n) } ≥ Ef(X) がすべての下した半はん連続れんぞくかつ下したに有界ゆうかいな関数かんすう f に対たいして成立せいりつする；
• limsup{ Pr(X_n ∈ C) } ≤ Pr(X ∈ C) がすべての閉集合しゅうごう C に対たいして成立せいりつする；
• liminf{ Pr(X_n ∈ U) } ≥ Pr(X ∈ U) がすべての開ひらけ集合しゅうごう U に対たいして成立せいりつする；
• lim{ Pr(X_n ∈ A) } = Pr(X ∈ A) が、すべての確かく率りつ変数へんすう X の連続れんぞく集合しゅうごう A に対たいして成立せいりつする。
• 連続れんぞく写像しゃぞう定理ていりによると、g(·) が連続れんぞく関数かんすうであるとき、確かく率りつ変へん数列すうれつ {X_n} が X に分布ぶんぷ収束しゅうそくするなら、{g(X_n)} も g(X) へと分布ぶんぷ収束しゅうそくすることが分わかる。
• レヴィの連続れんぞく性せい定理ていり：確かく率りつ変へん数列すうれつ {X_n} が X に分布ぶんぷ収束しゅうそくするための必要ひつよう十じゅう分ふん条件じょうけんは、それらに対応たいおうする特性とくせい関数かんすうの列れつ (φふぁい_n) が X の特性とくせい関数かんすう φふぁい へと各かく点てん収束しゅうそくすることである。
• 分布ぶんぷ収束しゅうそくはレヴィ-プロホロフ計量けいりょうによって距離きょり化か可能かのうである。
• スコロホッドの表現ひょうげん定理ていりは、分布ぶんぷ収束しゅうそくへの自然しぜんな拡張かくちょうである。

確かく率りつ収束しゅうそく

確かく率りつ収束しゅうそくの例れい

ある人物じんぶつの身長しんちょう
次つぎのような実験じっけんを考かんがえる。はじめに、路上ろじょうの人ひとの中なかからランダムに一人ひとり選えらぶ。その人ひとの身長しんちょう X を、事前じぜんに確かく率りつ変数へんすうとして定さだめておく。その後ご、他たの人々ひとびとに、その人ひとの身長しんちょうを目算もくさんで予測よそくしてもらう作業さぎょうを始はじめる。Xn を、その人々ひとびとからの n 回かい目めの回答かいとうまでに得えられた身長しんちょうの数字すうじの平均へいきんとする。すると（バイアスが無ないならば）大数たいすうの法則ほうそくにより、列れつ Xn はあらかじめ定さだめた確かく率りつ変数へんすう X へと確かく率りつ収束しゅうそくする。
射手しゃしゅ
人ひとに弓ゆみを持もたせ、的まとを目掛めがけて矢やを射ささせる作業さぎょうを考かんがえる。Xn を、その人ひとの n 回かい目めまでの射的しゃてきの成績せいせきとする。初はじめの内うちは、その人ひとはとても頻繁ひんぱんに的まとを外はずすことも考かんがえられるであろうが、何なん度ども繰くり返かえす内うちにその人ひとの射的しゃてきの腕前うでまえは向上こうじょうし、的てきの中心ちゅうしんを射抜いぬいて 10 点てんの成績せいせきを得えることも起おこりやすくなるであろう。何なん年ねんも練習れんしゅうを重かさねた後のちに、その人ひとが 10 点てん以外いがいの成績せいせきを得える可能かのう性せいはより低ひくくなるであろう。したがって、列れつ Xn は X = 10 へと確かく率りつ収束しゅうそくする。 ここで Xn は、概がい収束しゅうそくはしないことに注意ちゅういされたい。その人ひとがどれほど優すぐれた射手しゃしゅであろうと、失敗しっぱいをする確かく率りつはわずかにでも常つねに存在そんざいしている。したがって、列れつ (Xn) は決けっして定常ていじょう状態じょうたいになることは無ない。たとえその頻度ひんどが少すくなくなろうと、パーフェクトでない成績せいせきは必かならずそこに含ふくまれる。

「例外れいがい的てき」な結果けっかが起おこる確かく率りつは、列れつが進すすむにつれてより小ちいさくなる、という考かんがえ方かたが、このタイプの収束しゅうそくの背景はいけいにある。

確かく率りつ収束しゅうそくの概念がいねんは統計とうけい学がくにおいて非常ひじょうに頻繁ひんぱんに用もちいられる。例たとえば、ある推定すいてい量りょうが一致いっち推定すいてい量りょうであるとは、それが推定すいていされた量りょうへと確かく率りつ収束しゅうそくすることを言いう。確かく率りつ収束しゅうそくはまた、大数たいすうの弱じゃく法則ほうそくにより確立かくりつされる収束しゅうそくの一ひとつでもある。

定義ていぎ

確かく率りつ収束しゅうそくの定義ていぎを正式せいしきに述のべる。任意にんいの εいぷしろん > 0 および任意にんいの δでるた > 0 を選えらぶ。X を中心ちゅうしんとする半径はんけい εいぷしろん の外側そとがわに X_n がある確かく率りつを P_n とする。このとき、X_n が X へと確かく率りつ収束しゅうそくするためには、全すべての n ≥ N_δでるた に対たいして確かく率りつ P_n が δでるた より小ちいさくなる、ある数かず N_δでるた が存在そんざいしなければならない。

確かく率りつ収束しゅうそくは、収束しゅうそくを表あらわす矢印やじるしに記号きごう p を付つけ加くわえるか、確かく率りつ極限きょくげん作用素さようそ "plim" を使つかって表あらわされる：

$X_{n}\ {\xrightarrow {p}}\ X,\ \ X_{n}\ {\xrightarrow {P}}\ X,\ \ {\underset {n\to \infty }{\operatorname {plim} }}\,X_{n}=X.$

性質せいしつ

• 確かく率りつ収束しゅうそくするならば、分布ぶんぷ収束しゅうそくする^[proof]。
• 確かく率りつ収束しゅうそくしても、必かならずしも概がい収束しゅうそくしない^[proof]。
• 逆ぎゃくに、分布ぶんぷ収束しゅうそくが確かく率りつ収束しゅうそくを意味いみするためには、極限きょくげんの確かく率りつ変数へんすう X が定数ていすうである必要ひつようがある^[proof]。
• 連続れんぞく写像しゃぞう定理ていりによると、どのような連続れんぞく関数かんすう g(·) に対たいしても、$\scriptstyle X_{n}{\xrightarrow {p}}X$ であるならば $\scriptstyle g(X_{n}){\xrightarrow {p}}g(X)$ が成立せいりつする。
• 確かく率りつ収束しゅうそくは、ある固定こていされた確かく率りつ空間くうかんに対たいする確かく率りつ変数へんすうの空間くうかん上じょうの位相いそうを定義ていぎする。この位相いそうは、次つぎに述のべるカイ・ファン計量けいりょうにより距離きょり化か可能かのうである：

$d(X,Y)=\inf \!{\big \{}\varepsilon >0:\ \Pr {\big (}|X-Y|>\varepsilon {\big )}\leq \varepsilon {\big \}}$

あるいは

$d(X,Y)=\mathbb {E} \left[\min(|X-Y|,1)\right]$.

概がい収束しゅうそく

概がい収束しゅうそくの例れい

例れい 1
短命たんめいの種たねである一いち匹ひきの動物どうぶつについて考かんがえる。その動物どうぶつが毎日まいにちに摂とる食事しょくじの数量すうりょうを記録きろくする。この数量すうりょうの列れつは予測よそく不可能ふかのうであろうが、その値ねが 0 となる日ひは「確たしかに必かならず」訪おとずれるであろう。その値ねはその後ごは永遠えいえんに 0 であり続つづける。
例れい 2
毎朝まいあさ 7 枚まいのコインを投なげる男おとこについて考かんがえる。その男おとこは、表ひょうの出でた枚数まいすうだけ 1 ポンド貨幣かへいを午後ごごにチャリティーへと寄付きふすることを日課にっかとしているが、全すべてが裏うらであった時ときにはその日課にっかを永遠えいえんに止とめることに決きめている。 X1, X2, … を、そのチャリティーが彼かれから受うけ取とる日々ひびの金額きんがくとする。 その金額きんがくが 0 となり、またその後ごも 0 であり続つづけるような日ひが訪おとずれることは「ほとんど確たしかに」予想よそうできるであろう。 しかし、コインを投なげる日ひが有限ゆうげんであるのなら、そのような終了しゅうりょう条件じょうけんが起おこらない確かく率りつも 0 ではない。

概がい収束しゅうそくは、初等しょとう的てきな実じつ解析かいせきの分野ぶんやで知しられる各かく点てん収束しゅうそくの概念がいねんとほぼ同様どうような、確かく率りつ収束しゅうそくの一ひとつの型かたである。

定義ていぎ

確かく率りつ変へん数列すうれつ X_n が X へと概がい収束しゅうそくあるいはほとんど確実かくじつに収束しゅうそく、ほとんど至いたる所ところで収束しゅうそく、確かく率りつ 1 で収束しゅうそくあるいは強つよ収束しゅうそくするとは、

$\operatorname {Pr} \!\left(\lim _{n\to \infty }\!X_{n}=X\right)=1$

が成なり立たつことである。

上うえ式しきは、X_n が X へと収束しゅうそくしない事象じしょうが起おきる確かく率りつが 0 であるという意味いみで、X_n の値ねが X の値ねへと近付ちかづくことを意味いみする（ほとんど (数学すうがく)も参照さんしょう）。確かく率りつ空間くうかん $\scriptstyle (\Omega ,{\mathcal {F}},P)$ を定さだめ、Ωおめが から R への関数かんすうとしての確かく率りつ変数へんすうの概念がいねんを利用りようすることで、上うえ式しきは

$\operatorname {Pr} {\Big (}\omega \in \Omega :\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\Big )}=1$

と同値どうちとなる。

また概がい収束しゅうそくの同値どうちな定義ていぎには、以下いかもある：

$\operatorname {Pr} {\Big (}\liminf {\big \{}\omega \in \Omega :|X_{n}(\omega )-X(\omega )|<\varepsilon {\big \}}{\Big )}=1\quad {\text{for all}}\quad \varepsilon >0.$

概がい収束しゅうそくは、しばしば、収束しゅうそくを表あらわす矢印やじるしの上うえに記号きごう a.s.（almost surelyの略りゃく）を付つけ加くわえることによって表現ひょうげんされる：

$X_{n}\,{\xrightarrow {\mathrm {a.s.} }}\,X.$

距離きょり空間くうかん (S, d) 上うえの一般いっぱん的てきな確かく率りつ要素ようそ (X_n) に対たいしても、同様どうように概がい収束しゅうそくが定義ていぎされる：

$\operatorname {Pr} {\Big (}\omega \in \Omega :\,d{\big (}X_{n}(\omega ),X(\omega ){\big )}\,{\underset {n\to \infty }{\longrightarrow }}\,0{\Big )}=1$

性質せいしつ

• 概がい収束しゅうそくは確かく率りつ収束しゅうそくを意味いみし、したがって分布ぶんぷ収束しゅうそくを意味いみする。大数たいすうの強つよ法則ほうそくで用もちいられる概念がいねんは、概がい収束しゅうそくである。
• 概がい収束しゅうそくの概念がいねんは、確かく率りつ変数へんすうの空間くうかん上じょうのトポロジーから生しょうじるものではない。このことは、概がい収束しゅうそくがそのトポロジーに関かんする収束しゅうそく列れつと全まったく等ひとしいような確かく率りつ変数へんすうの空間くうかん上じょうのトポロジーというものは存在そんざいしないことを意味いみする。特とくに、概がい収束しゅうそくには計量けいりょうが無ない。

確実かくじつ収束しゅうそく

ある確かく率りつ空間くうかん上うえ定義ていぎされる列れつあるいは確かく率りつ変数へんすう (X_n)（すなわち、確かく率りつ過程かてい）が X へ確実かくじつ収束しゅうそく (sure convergence) あるいは各かく点てん収束しゅうそくするとは、

$\lim _{n\rightarrow \infty }X_{n}(\omega )=X(\omega ),\,\,\forall \omega \in \Omega$

が成なり立たつことである。ここで Ωおめが は、確かく率りつ変数へんすうが定義ていぎされる確かく率りつ空間くうかんに含ふくまれる標本ひょうほん空間くうかんである。

これは、関数かんすう列れつの各かく点てん収束しゅうそくの概念がいねんを確かく率りつ変数へんすうの列れつへと拡張かくちょうしたものである（確かく率りつ変数へんすうはそれ自身じしんが関数かんすうであることに注意ちゅういされたい）。

${\big \{}\omega \in \Omega \,|\,\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\big \}}=\Omega .$

確かく率りつ変数へんすうの確実かくじつ収束しゅうそくは、上述じょうじゅつの他ほかの全すべての収束しゅうそくを意味いみする。しかし、概がい収束しゅうそくの代かわりに確実かくじつ収束しゅうそくを用もちいることのメリットは確率かくりつ論ろんにおいてはあまり無ない。それら2つの収束しゅうそくの違ちがいは、確かく率りつ 0 の集合しゅうごうに関かんする点てんのみに存在そんざいする。このことが、確実かくじつ収束しゅうそくの概念がいねんが滅多めったに用もちいられることの無ない理由りゆうである。

平均へいきん収束しゅうそく

ある r ≥ 1 に対たいし、列れつ (X_n) が X へと r次じ平均へいきん収束しゅうそく（あるいは、L^r-ノルムについて収束しゅうそく）するとは、(X_n) および X の r次つぎ絶対ぜったい積せき率りつが存在そんざいし、かつ

$\lim _{n\to \infty }\operatorname {E} \left(|X_{n}-X|^{r}\right)=0$

が成なり立たつことである。ここで作用素さようそ E は期待きたい値ちを表あらわす。r次じ平均へいきん収束しゅうそくは、(X_n) と X の差さの r次つぎのべきの期待きたい値ちが 0 へと収束しゅうそくすることを意味いみする。

この種たねの収束しゅうそくはしばしば、収束しゅうそくを表あらわす矢やの上うえに記号きごう L^r を付つけ加くわえることで表現ひょうげんされる：

$X_{n}\,{\xrightarrow {L^{r}}}\,X.$

r次じ平均へいきん収束しゅうそくに関かんして重要じゅうようなケースを下したに挙あげる：

• r = 1 について X_n が X へと r次じ平均へいきん収束しゅうそくするとき、X_n は X へ平均へいきん収束しゅうそくすると言いわれる。
• r = 2 について X_n が X へと r次じ平均へいきん収束しゅうそくするとき、X_n は X へ二乗にじょう平均へいきん収束しゅうそくすると言いう。この収束しゅうそくはまた次つぎのように記述きじゅつされることもある：

  ${\underset {n\to \infty }{\operatorname {l.i.m.} }}X_{n}=X.$

r > 1 に関かんする r次じ平均へいきん収束しゅうそくは、（マルコフの不等式ふとうしきにより）確かく率りつ収束しゅうそくを意味いみする。また、r > s ≥ 1 である時とき、r次じ平均へいきん収束しゅうそくは s次じ平均へいきん収束しゅうそくを意味いみする。このことから、二乗にじょう平均へいきん収束しゅうそくは平均へいきん収束しゅうそくを意味いみすることが分わかる。

性質せいしつ

様々さまざまな収束しゅうそくの概念がいねんの間あいだの包含ほうがん関係かんけいを以下いかに記述きじゅつする。それらは、矢やの記号きごうを使つかうことで、次つぎのように表あらわされる：

${\begin{matrix}{\xrightarrow {L^{s}}}&{\underset {s>r\geq 1}{\Rightarrow }}&{\xrightarrow {L^{r}}}&&\\&&\Downarrow &&\\{\xrightarrow {a.s.}}&\Rightarrow &{\xrightarrow {\ p\ }}&\Rightarrow &{\xrightarrow {\ d\ }}\end{matrix}}$

いくつかの特別とくべつな場合ばあいとともに、これらの性質せいしつを次つぎのようにまとめる：

• 概がい収束しゅうそくは、確かく率りつ収束しゅうそくを意味いみする^[proof]：

  $X_{n}\ {\xrightarrow {as}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ X$

• 確かく率りつ収束しゅうそくは、概がい収束しゅうそくするような部分ぶぶん列れつ $(k_{n})$ が存在そんざいすることを意味いみする：

  $X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{k_{n}}\ {\xrightarrow {as}}\ X$

• 確かく率りつ収束しゅうそくは、分布ぶんぷ収束しゅうそくを意味いみする^[proof]：

  $X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {d}}\ X$

• r次じ平均へいきん収束しゅうそくは、確かく率りつ収束しゅうそくを意味いみする：

  $X_{n}\ {\xrightarrow {L^{r}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ X$

• r次じ平均へいきん収束しゅうそくは、より低てい次つぎ（ただしそれらはいずれも 1 より大おおきいものとする）の平均へいきん収束しゅうそくを意味いみする：

  $X_{n}\ {\xrightarrow {L^{r}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {L^{s}}}\ X,$ provided r ≥ s ≥ 1.

• X_n が定数ていすう c へと分布ぶんぷ収束しゅうそくするなら、X_n は c へと確かく率りつ収束しゅうそくする^[proof]：

  $X_{n}\ {\xrightarrow {d}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ c,$ provided c is a constant.

• X_n が X へと分布ぶんぷ収束しゅうそくし、X_n と Y_n の差さが 0 へと確かく率りつ収束しゅうそくするなら、Y_n もまた X へ分布ぶんぷ収束しゅうそくする^[proof]：

  $X_{n}\ {\xrightarrow {d}}\ X,\ \ |X_{n}-Y_{n}|\ {\xrightarrow {p}}\ 0\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {d}}\ X$

• X_n が X へ分布ぶんぷ収束しゅうそくし、Y_n が定数ていすう c へ分布ぶんぷ収束しゅうそくするなら、それらの結合けつごうベクトル (X_n, Y_n) は (X, c) へ分布ぶんぷ収束しゅうそくする^[proof]：

  $X_{n}\ {\xrightarrow {d}}\ X,\ \ Y_{n}\ {\xrightarrow {d}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {d}}\ (X,c)$ provided c is a constant.

ここで Y_n が定数ていすうへ収束しゅうそくするという条件じょうけんが重要じゅうようであることに注意ちゅういされたい。もしその収束しゅうそくがある確かく率りつ変数へんすう Y へのものであったら、(X_n, Y_n) が (X, Y) へ収束しゅうそくするという結論けつろんは得えられない。

• X_n が X へ確かく率りつ収束しゅうそくし、Y_n が Y へ確かく率りつ収束しゅうそくするなら、それらの結合けつごうベクトル (X_n, Y_n) は (X, Y) へ確かく率りつ収束しゅうそくする^[proof]：

  $X_{n}\ {\xrightarrow {p}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {p}}\ (X,Y)$

• X_n が X へ確かく率りつ収束しゅうそくし、すべての n およびある b に対たいして P(|X_n| ≤ b) = 1 が成立せいりつするなら、X_n はすべての r ≥ 1 に対たいして X へと r次じ平均へいきん収束しゅうそくする。い換いかえると、X_n が X へと確かく率りつ収束しゅうそくし、すべての X_n がほとんど確実かくじつに上下じょうげとも有界ゆうかいであるなら、X_n は任意にんいの r について X へ r次じ平均へいきん収束しゅうそくする。
• 概がい収束しゅうそく表現ひょうげん：通常つうじょう、分布ぶんぷ収束しゅうそくは概がい収束しゅうそくを意味いみするものではない。しかし、X₀ へ分布ぶんぷ収束しゅうそくするある与あたえられた列れつ (X_n) に対たいしては、新あたらしい確かく率りつ空間くうかん (Ωおめが, F, P) とその上うえで定義ていぎされる確かく率りつ変数へんすう (Y_n, n = 0, 1, …) で、各かく n ≥ 0 に対たいして Y_n は分布ぶんぷとして X_n に等ひとしく、また Y_n は Y₀ へと概がい収束しゅうそくするようなものを見みつけることが常つねに可能かのうである。
• すべての εいぷしろん > 0 に対たいして

  $\sum _{n}\mathbb {P} \left(|X_{n}-X|>\varepsilon \right)<\infty$

であるとき、X_n は X へとほとんど完全かんぜんに (almost completely) 収束しゅうそくすると言いう。X_n が X へほとんど完全かんぜんに収束しゅうそくするなら、それはまた X へ概がい収束しゅうそくもする。い換いかえると、もし X_n が十分じゅうぶんに早はやく X へ確かく率りつ収束しゅうそくするなら、X_n は X へ概がい収束しゅうそくもする。これは、ボレル・カンテリの補題ほだいからの直接的ちょくせつてきな帰結きけつである。

• S_n を n 個この実じつ独立どくりつな確かく率りつ変数へんすうの和わ

  $S_{n}=X_{1}+\cdots +X_{n}$

としたとき、S_n が概がい収束しゅうそくすることと確かく率りつ収束しゅうそくすることは同値どうちである。

• 優ゆう収束しゅうそく定理ていりは、概がい収束しゅうそくが L¹-収束しゅうそくを意味いみするための十分じゅうぶん条件じょうけんを与あたえる：

  $\left.{\begin{array}{ccc}X_{n}{\xrightarrow {a.s.}}X\\\\|X_{n}|<Y\\\\\mathrm {E} (Y)<\infty \end{array}}\right\}\quad \Rightarrow \quad X_{n}{\xrightarrow {L^{1}}}X$

• L¹ 収束しゅうそくのための必要ひつよう十じゅう分ふん条件じょうけんは、$X_{n}{\xrightarrow {P}}X$ かつ列れつ (X_n) が一様いちよう可か積分せきぶんであることである。

参考さんこう文献ぶんけん

• Bickel, Peter J.; Klaassen, Chris A.J.; Ritov, Ya’acov; Wellner, Jon A. (1998). Efficient and adaptive estimation for semiparametric models. New York: Springer-Verlag. ISBN 0-387-98473-9. LCCN QA27-6800 
• Billingsley, Patrick (1986). Probability and Measure. Wiley Series in Probability and Mathematical Statistics (2nd ed.). Wiley 
• Billingsley, Patrick (1999). Convergence of probability measures (2nd ed.). John Wiley & Sons. pp. 1–28. ISBN 0-471-19745-9 
• Dudley, R.M. (2002). Real analysis and probability. Cambridge, UK: Cambridge University Press. ISBN 0-521-80972-X 
• Grimmett, G.R.; Stirzaker, D.R. (1992). Probability and random processes (2nd ed.). Clarendon Press, Oxford. pp. 271–285. ISBN 0-19-853665-8 
• Jacobsen, M. (1992). Videregående Sandsynlighedsregning (Advanced Probability Theory) (3rd ed.). HCØ-tryk, Copenhagen. pp. 18–20. ISBN 87-91180-71-6 
• Ledoux, Michel; Talagrand, Michel (1991). Probability in Banach spaces. Berlin: Springer-Verlag. pp. xii+480. ISBN 3-540-52013-9. MR1102015 
• Romano, Joseph P.; Siegel, Andrew F. (1985). Counterexamples in probability and statistics. Great Britain: Chapman & Hall. ISBN 0-412-98901-8. LCCN 85-19024 
• van der Vaart, Aad W.; Wellner, Jon A. (1996). Weak convergence and empirical processes. New York: Springer-Verlag. ISBN 0-387-94640-3. LCCN 95-49099 
• van der Vaart, Aad W. (1998). Asymptotic statistics. New York: Cambridge University Press. ISBN 978-0-521-49603-2. LCCN 98-15176 
• Williams, D. (1991). Probability with Martingales. Cambridge University Press. ISBN 0-521-40605-6 
• Wong, E.; Hájek, B. (1985). Stochastic Processes in Engineering Systems. New York: Springer–Verlag 

本ほん項目こうもくは Creative Commons Attribution-ShareAlike 3.0 Unported License でライセンスされた Citizendium の項目こうもく "Stochastic convergence" に由来ゆらいする内容ないようを含ふくみます。GFDL の下したではライセンスされません。

関連かんれん項目こうもく

• 測度そくどの収束しゅうそく
• 連続れんぞく確かく率りつ過程かてい：確かく率りつ過程かていの連続れんぞく性せいについての問題もんだいは、本質ほんしつ的てきには、収束しゅうそくや、多おおくの同様どうようの概念がいねんや関係かんけいについての問題もんだいである。
• 漸近ぜんきん分布ぶんぷ
• 確率かくりつ論ろんにおける大文字おおもじOの表記ひょうき
• スコロホッドの表現ひょうげん定理ていり