一 いち 高 こう 分布 ぶんぷ 平均 へいきん 差 さ 在 ざい 方向 ほうこう 上 じょう 在 ざい 向上 こうじょう 的 てき 主成分 しゅせいぶん 分析 ぶんせき 黑色 こくしょく 的 てき 向 むこう 量 りょう 是 ぜ 分布 ぶんぷ 的 てき 协方差 さ 矩 のり 的 てき 特 とく 征 せい 向 こう 量 りょう 度 ど 特 とく 征 せい 之 これ 平方根 へいほうこん 分布 ぶんぷ 的 てき 平均 へいきん 原点 げんてん 在 ざい 多元 たげん 分析 ぶんせき 中 なか 主成分 しゅせいぶん 分析 ぶんせき 英 えい Principal components analysis PCA 是 ぜ 一 いち 统计 分析 ぶんせき 数 すう 据 すえ 集 しゅう 的 てき 方法 ほうほう 利用 りよう 正 せい 来 らい 投影 とうえい 不 ふ 相 あい 量 りょう 称 しょう 主成分 しゅせいぶん 具体 ぐたい 地 ち 主成分 しゅせいぶん 可 か 线性方 かた 程 ほど ，其包含 ほうがん 原始 げんし 数 すう 据 すえ 的 てき 正 せい 或 ある 理 り 敏感 びんかん 相 あい
基本 きほん 思想 しそう
将 はた 坐 すわ 中心 ちゅうしん 移 うつり 到 いた 数 かず 据 すえ 的 てき 中心 ちゅうしん 然 しか 后 きさき 使 つかい 得 とく 数 すう 据 すえ 在 ざい 的 てき 方 かた 差 さ 最大 さいだい 即 そく 全部 ぜんぶ 据 すえ 在 ざい 向上 こうじょう 的 てき 投影 とうえい 最 さい 分散 ぶんさん 意味 いみ 着 ぎ 更 さら 多 た 的 てき 信 しん 息 いき 被 ひ 保留 ほりゅう 下 か 来 らい 成 なり 第 だい 一 いち 主成分 しゅせいぶん C2第 だい 二 に 主成分 しゅせいぶん 使 つかい 得 とく 与 あずか 的 てき 协方差 さ （相 あい 数 すう 与 あずか 信 しん 息 いき 重 じゅう 使 し 数 すう 据 すえ 在 ざい 方向 ほうこう 的 てき 方 かた 差 さ 尽 つき 量 りょう 最大 さいだい
以此类推，找到第 だい 三 さん 主成分 しゅせいぶん 第 だい 四 よん 主成分 しゅせいぶん 第 だい 主成分 しゅせいぶん 机 つくえ 可 か 主成分 しゅせいぶん [ 1] 主成分 しゅせいぶん 分 ぶん 常用 じょうよう 少数 しょうすう 据 すえ 集 しゅう 的 てき 维数 ，同 どう 保留 ほりゅう 数 すう 据 すえ 集 しゅう 当 とう 中 ちゅう 方 かた 差 さ 最大 さいだい 的 てき 特 とく 征 せい 通 どおり 保留 ほりゅう 低 てい 主成分 しゅせいぶん 忽 ゆるがせ 略 りゃく 高 だか 主成分 しゅせいぶん 的 てき 低 てい 分 ぶん 往往 おうおう 能 のう 保留 ほりゅう 住 じゅう 数 すう 据 すえ 的 てき 最 さい 重要 じゅうよう 部分 ぶぶん 但 ただし 是 ぜ 不 ふ 是 ぜ 一定 いってい 的 てき 要 よう 具体 ぐたい 由 よし 主成分 しゅせいぶん 分 ぶん 据 すえ 所以 ゆえん 数 すう 据 すえ 的 てき 准 じゅん 分析 ぶんせき 影 かげ 大 だい
主成分 しゅせいぶん 分析 ぶんせき 由 よし 卡尔·皮 がわ 于1901年 ねん [ 2] 用 よう 分析 ぶんせき 数 すう 据 すえ 建立 こんりゅう 数理 すうり 模型 もけい 在 ざい 原理 げんり 上 じょう 与 あずか 主 しゅ 定理 ていり 相似 そうじ 之 これ 后 きさき 在 ざい 年 ねん 左右 さゆう 由 よし 哈罗德 とく 林 りん 独立 どくりつ 命名 めいめい 依 よ 据 すえ 的 てき 不同 ふどう 在 ざい 信号 しんごう 中 ちゅう 叫 さけべ K-L 转换 （discrete Karhunen–Loève transform (KLT)）。其方法 ほう 主要 しゅよう 是 ぜ 通 どおり 协方差 さ 矩 のり 进行特 とく 征 せい 分解 ぶんかい [ 3] 出 で 数 すう 据 すえ 的 てき 主成分 しゅせいぶん 即 そく 特 とく 征 せい 向 こう 量 りょう 与 あずか 的 てき 即 そく 特 とく 征 せい [ 4] 是 ぜ 最 さい 的 てき 征 せい 量 りょう 分析 ぶんせき 多元 たげん 分布 ぶんぷ 的 てき 方法 ほうほう 果 はて 可 か 理解 りかい 原 ばら 数 すう 据 すえ 中 ちゅう 的 てき 方 かた 差 さ 解 かい 言 ごと 之 の 提供 ていきょう 了 りょう 维度 的 てき 有效 ゆうこう 分析 ぶんせき 者 しゃ 在原 ありはら 数 すう 据 すえ 中 ちゅう 除 じょ 最小 さいしょう 的 てき 特 とく 征 せい 所 ところ 的 てき 成分 せいぶん 那 な 所得 しょとく 的 てき 低 てい 数 すう 据 すえ 必定 ひつじょう 是 ぜ 最 さい 的 てき 降 くだ 低 てい 必定 ひつじょう 是 ぜ 失 しつ 去 さ 最少 さいしょう 的 てき 方法 ほうほう 主成分 しゅせいぶん 分析 ぶんせき 在 ざい 分析 ぶんせき 数 すう 据 すえ 用 よう 比 ひ 人 ひと
PCA是 ぜ 最 さい 的 てき 征 せい 量 りょう 分析 ぶんせき 多元 たげん 分布 ぶんぷ 的 てき 方法 ほうほう 通常 つうじょう 可 か 看 み 作 さく 是 ぜ 数 すう 据 すえ 的 てき 内部 ないぶ 更 さら 好地 こうち 展 てん 据 すえ 的 てき 度 ど 那 な 能 のう 提供 ていきょう 相当 そうとう 据 すえ 集 しゅう 在 ざい 量 りょう 最多 さいた 之 の 角度 かくど 上 じょう 的 てき 一 いち 投影 とうえい 利用 りよう 少量 しょうりょう 的 てき 主成分 しゅせいぶん 据 すえ 的 てき 降 くだ 低 てい 了 りょう
PCA 跟因子 いんし 分析 ぶんせき 密 みつ 切 きり 相 しょう 因子 いんし 分析 ぶんせき 通常 つうじょう 包含 ほうがん 更 さら 多 た 特定 とくてい 底 そこ 假 かり 求 もとめ 解 かい 稍 やや 微 ほろ 不同 ふどう 矩 のり 特 とく 征 せい 向 こう 量 りょう
PCA 也跟典型 てんけい 相 しょう 分析 ぶんせき 有 ゆう 定 てい 坐 すわ 可 か 佳 けい 地 ち 数 すう 据 すえ 集 しゅう 之 の 互协方 かた 差 さ ，而PCA定 てい 新 しん 的 てき 正 せい 能 のう 最 さい 佳 けい 地 ち 数 すう 据 すえ 集 しゅう 当 とう 中 なか 的 てき 方 かた 差 さ
PCA的 てき 数学 すうがく 定 てい 一 いち 正 せい 线性变换 ，把 わ 数 すう 据 すえ 一 いち 的 てき 坐 すわ 中 なか 使 つかい 得 とく 数 すう 据 すえ 的 てき 任 にん 何 なに 投影 とうえい 的 てき 第 だい 一大 いちだい 方 かた 差 さ 在 ざい 第 だい 一 いち 称 しょう 一 いち 主成分 しゅせいぶん 上 じょう 第 だい 第 だい 二 に 主成分 しゅせいぶん 上 じょう 依 よ 次 じ [ 5]
定 てい
n
×
m
{\displaystyle n\times m}
的 てき 矩 のり
X
T
{\displaystyle X^{T}}
平均 へいきん 以平 いたいら 均 ひとし 中心 ちゅうしん 移 うつり 原点 げんてん 的 てき 数 すう 据 すえ 据 すえ 列 れつ 据 すえ 注意 ちゅうい 定 てい 是 ぜ
X
T
{\displaystyle X^{T}}
是 ぜ
X
{\displaystyle X}
X
{\displaystyle X}
的 てき 奇 き 分解 ぶんかい
X
=
W
Σ しぐま
V
T
{\displaystyle X=W\Sigma V^{T}}
W
∈
R
m
×
m
{\displaystyle W\in \mathbf {R} ^{m\times m}}
是 これ
X
X
T
{\displaystyle XX^{T}}
的 てき 特 とく 征 せい 向 こう 量 りょう 矩 のり
Σ しぐま ∈
R
m
×
n
{\displaystyle \Sigma \in \mathbf {R} ^{m\times n}}
是 ぜ 奇 き 矩 のり
V
∈
R
n
×
n
{\displaystyle V\in \mathbf {R} ^{n\times n}}
是 これ
X
T
X
{\displaystyle X^{T}X}
的 てき 特 とく 征 せい 向 こう 量 りょう 矩 のり 据 すえ
Y
⊤
=
X
⊤
W
=
V
Σ しぐま
⊤
W
⊤
W
=
V
Σ しぐま
⊤
{\displaystyle {\begin{aligned}{\boldsymbol {Y}}^{\top }&={\boldsymbol {X}}^{\top }{\boldsymbol {W}}\\&={\boldsymbol {V}}{\boldsymbol {\Sigma }}^{\top }{\boldsymbol {W}}^{\top }{\boldsymbol {W}}\\&={\boldsymbol {V}}{\boldsymbol {\Sigma }}^{\top }\end{aligned}}}
当 とう m < n − 1时，V 在 ざい 通常 つうじょう 情 じょう 不 ふ 是 ぜ 唯 ただ 一定 いってい Y 则是唯 ただ 一定 いってい W 是 ぜ 一 いち 正 せい Y T W T =X T ，且Y T 的 てき 第 だい 第 だい 依 よ
为了得 え 到 いた 我 わが 利用 りよう W L 把 わ X 映 うつ 射 い 到 いた 一 いち 前面 ぜんめん 量的 りょうてき 低 てい 去 さ
Y
=
W
L
⊤
X
=
Σ しぐま
L
V
⊤
{\displaystyle \mathbf {Y} =\mathbf {W_{L}} ^{\top }\mathbf {X} =\mathbf {\Sigma _{L}} \mathbf {V} ^{\top }}
其中
Σ しぐま
L
=
I
L
×
m
Σ しぐま
{\displaystyle \mathbf {\Sigma _{L}} =\mathbf {I} _{L\times m}\mathbf {\Sigma } }
I
L
×
m
{\displaystyle \mathbf {I} _{L\times m}}
L
×
m
{\displaystyle L\times m}
的 てき 单位矩 のり 。
X 的 てき 量 りょう 矩 のり W 相当 そうとう 协方差 さ 矩 のり 的 てき 特 とく 征 せい 向 こう 量 りょう C = X X T ,
X
X
⊤
=
W
Σ しぐま
Σ しぐま
⊤
W
⊤
{\displaystyle \mathbf {X} \mathbf {X} ^{\top }=\mathbf {W} \mathbf {\Sigma } \mathbf {\Sigma } ^{\top }\mathbf {W} ^{\top }}
在 ざい 欧 おう 得 とく 空 そら 一 いち 数 すう 第 だい 同 どう 到 いた 直 ちょく 平方和 へいほうわ 最小 さいしょう 去 さ 除 じょ 一 いち 主成分 しゅせいぶん 后 きさき 用 もちい 同 どう 方法 ほうほう 得 え 到 いた 第 だい 二 に 主成分 しゅせいぶん 依 よ 在 ざい Σ しぐま 中 なか 的 てき 奇 き 均 ひとし XX T 的 てき 特 とく 征 せい 的 てき 平方根 へいほうこん 每 まい 所有 しょゆう 特 とく 征 せい 等 とう 所有 しょゆう 点 てん 到 いた 的 てき 多 た 平均 へいきん 点 てん 的 てき 平方和 へいほうわ 提供 ていきょう 了 りょう 本 ほん 利用 りよう 正 せい 平均 へいきん 点 てん 的 てき 点 てん 集中 しゅうちゅう 尽 つき 可能 かのう 多 た 的 てき 投影 とうえい 到 いた 第 だい 一 いち 去 さ 因 いん 降 くだ 低 てい 必定 ひつじょう 是 ぜ 失 しつ 去 さ 最少 さいしょう 的 てき 方法 ほうほう 具有 ぐゆう 保持 ほじ 子 こ 空 そら 有 ゆう 最大 さいだい 方 かた 差 さ 的 てき 最 さい 特性 とくせい 然 しか 当 とう 与 あずか 离散余弦 よげん 相 そう 比 ひ 要 よう 更 さら 大 だい 的 てき 代 だい 非 ひ 降 くだ 来 らい 需要 じゅよう 更 さら 高 だか 的 てき 要求 ようきゅう
PCA对变量的 りょうてき 感 かん 我 わが 有 ゆう 具有 ぐゆう 相 しょう 同 どう 的 てき 方 かた 差 さ 成 なり 正 せい 相 しょう 那 な 将 はた 涉 わたる 量的 りょうてき 主成分 しゅせいぶん 的 てき 但 ただし 是 ぜ 把 わ 第 だい 那 な 第 だい 意味 いみ 着 ぎ 当 とう 不同 ふどう 的 てき 代表 だいひょう 不同 ふどう 的 てき 温度 おんど 和 わ 是 ぜ 但 ただし 是 ぜ 在 ざい 的 てき 的 てき 原始 げんし 文 ぶん 件 けん 里 さと 是 ぜ 假 かり 欧 おう 得 とく 空 そら 不 ふ 考 こう 一 いち 不 ふ 那 な 武断 ぶだん 的 てき 方法 ほうほう 是 ぜ 使用 しよう 到 いた 方 かた 差 さ
通常 つうじょう 第 だい 我 わが 使用 しよう 平均 へいきん 主成分 しゅせいぶん 分析 ぶんせき 不 ふ 平均 へいきん 第 だい 近似 きんじ 数 すう 据 すえ 的 てき 最小 さいしょう 均 ひとし 方 かた 我 わが [ 6]
假 かり 均 ひとし 数 すう 据 すえ 集 しゅう X 的 てき 主成分 しゅせいぶん w 1 可 か 定 てい
w
1
=
arg
m
a
x
‖
w
‖
=
1
Var
{
w
⊤
X
}
=
arg
m
a
x
‖
w
‖
=
1
E
{
(
w
⊤
X
)
2
}
{\displaystyle \mathbf {w} _{1}={\underset {\Vert \mathbf {w} \Vert =1}{\operatorname {\arg \,max} }}\,\operatorname {Var} \{\mathbf {w} ^{\top }\mathbf {X} \}={\underset {\Vert \mathbf {w} \Vert =1}{\operatorname {\arg \,max} }}\,E\left\{\left(\mathbf {w} ^{\top }\mathbf {X} \right)^{2}\right\}}
为了得 え 到 いた 第 だい k 个主成分 しゅせいぶん 先 さき X 中 ちゅう 前面 ぜんめん 的 てき
k
−
1
{\displaystyle k-1}
主成分 しゅせいぶん
X
^
k
−
1
=
X
−
∑
i
=
1
k
−
1
w
i
w
i
⊤
X
{\displaystyle \mathbf {\hat {X}} _{k-1}=\mathbf {X} -\sum _{i=1}^{k-1}\mathbf {w} _{i}\mathbf {w} _{i}^{\top }\mathbf {X} }
然 しか 后 きさき 把 わ 求 もとめ 得 とく 的 てき 第 だい k 个主成分 しゅせいぶん 数 すう 据 すえ 集 しゅう 得 とく 到 いた 新 しん 的 まと 数 すう 据 すえ 集 しゅう 主成分 しゅせいぶん
w
k
=
a
r
g
m
a
x
‖
w
‖
=
1
E
{
(
w
⊤
X
^
k
−
1
)
2
}
.
{\displaystyle \mathbf {w} _{k}={\underset {\Vert \mathbf {w} \Vert =1}{\operatorname {arg\,max} }}\,E\left\{\left(\mathbf {w} ^{\top }\mathbf {\hat {X}} _{k-1}\right)^{2}\right\}.}
相当 そうとう 学 がく 中 ちゅう 使用 しよう 的 てき 正 せい 数 すう 同 どう K 个神经元的 てき 向 むこう 量 りょう 收 おさむ 将 はた 形成 けいせい 一 いち 前 まえ K 个主成分 しゅせいぶん 跨 またが 越 えつ 空 そら 基 もと 但 ただし 是 ぜ 与 あずか 不同 ふどう 的 てき 是 ぜ 技 わざ 不 ふ
PCA是 ぜ 然 しか 不能 ふのう 最 さい 可分 かぶん [ 7]
Symbol符号 ふごう
Meaning意 い
Dimensions尺寸 しゃくすん
Indices指数 しすう
X
=
{
X
[
m
,
n
]
}
{\displaystyle \mathbf {X} =\{X[m,n]\}}
由 よし 所有 しょゆう 数 すう 据 すえ 向 こう 量 りょう 集 しゅう 的 てき 数 すう 据 すえ 矩 のり 一 いち 列 れつ 代表 だいひょう 一 いち 量 りょう
M
×
N
{\displaystyle M\times N}
m
=
1
…
M
{\displaystyle m=1\ldots M}
n
=
1
…
N
{\displaystyle n=1\ldots N}
N
{\displaystyle N\,}
数 かず 据 すえ 集中 しゅうちゅう 列 れつ 向 こう 量的 りょうてき
1
×
1
{\displaystyle 1\times 1}
标量
M
{\displaystyle M\,}
每 まい 向 こう 量的 りょうてき 元素 げんそ
1
×
1
{\displaystyle 1\times 1}
标量
L
{\displaystyle L\,}
子 こ 空 そら
1
≤
L
≤
M
{\displaystyle 1\leq L\leq M}
1
×
1
{\displaystyle 1\times 1}
标量
u
=
{
u
[
m
]
}
{\displaystyle \mathbf {u} =\{u[m]\}}
经验均 ひとし 量 りょう
M
×
1
{\displaystyle M\times 1}
m
=
1
…
M
{\displaystyle m=1\ldots M}
s
=
{
s
[
m
]
}
{\displaystyle \mathbf {s} =\{s[m]\}}
经验标准方 かた 差 さ 向 むこう 量 りょう
M
×
1
{\displaystyle M\times 1}
m
=
1
…
M
{\displaystyle m=1\ldots M}
h
=
{
h
[
n
]
}
{\displaystyle \mathbf {h} =\{h[n]\}}
所有 しょゆう 的 てき 向 むこう 量 りょう
1
×
N
{\displaystyle 1\times N}
n
=
1
…
N
{\displaystyle n=1\ldots N}
B
=
{
B
[
m
,
n
]
}
{\displaystyle \mathbf {B} =\{B[m,n]\}}
对均值的偏 へん 量 りょう
M
×
N
{\displaystyle M\times N}
m
=
1
…
M
{\displaystyle m=1\ldots M}
n
=
1
…
N
{\displaystyle n=1\ldots N}
Z
=
{
Z
[
m
,
n
]
}
{\displaystyle \mathbf {Z} =\{Z[m,n]\}}
Z-分数 ぶんすう 利用 りよう 均 ひとし 差 さ 得 え 到 いた
M
×
N
{\displaystyle M\times N}
m
=
1
…
M
{\displaystyle m=1\ldots M}
n
=
1
…
N
{\displaystyle n=1\ldots N}
C
=
{
C
[
p
,
q
]
}
{\displaystyle \mathbf {C} =\{C[p,q]\}}
协方差 さ 矩 のり
M
×
M
{\displaystyle M\times M}
p
=
1
…
M
{\displaystyle p=1\ldots M}
q
=
1
…
M
{\displaystyle q=1\ldots M}
R
=
{
R
[
p
,
q
]
}
{\displaystyle \mathbf {R} =\{R[p,q]\}}
相 あい
M
×
M
{\displaystyle M\times M}
p
=
1
…
M
{\displaystyle p=1\ldots M}
q
=
1
…
M
{\displaystyle q=1\ldots M}
V
=
{
V
[
p
,
q
]
}
{\displaystyle \mathbf {V} =\{V[p,q]\}}
C 的 てき 所有 しょゆう 特 とく 征 せい 向 こう 量 りょう 集 しゅう
M
×
M
{\displaystyle M\times M}
p
=
1
…
M
{\displaystyle p=1\ldots M}
q
=
1
…
M
{\displaystyle q=1\ldots M}
D
=
{
D
[
p
,
q
]
}
{\displaystyle \mathbf {D} =\{D[p,q]\}}
主 しゅ 特 とく 征 せい 矩 のり
M
×
M
{\displaystyle M\times M}
p
=
1
…
M
{\displaystyle p=1\ldots M}
q
=
1
…
M
{\displaystyle q=1\ldots M}
W
=
{
W
[
p
,
q
]
}
{\displaystyle \mathbf {W} =\{W[p,q]\}}
基 もと 向 むこう 量 りょう 矩 のり
M
×
L
{\displaystyle M\times L}
p
=
1
…
M
{\displaystyle p=1\ldots M}
q
=
1
…
L
{\displaystyle q=1\ldots L}
Y
=
{
Y
[
m
,
n
]
}
{\displaystyle \mathbf {Y} =\{Y[m,n]\}}
X 和 わ W 矩 のり 投影 とうえい 矩 のり
L
×
N
{\displaystyle L\times N}
m
=
1
…
L
{\displaystyle m=1\ldots L}
n
=
1
…
N
{\displaystyle n=1\ldots N}
主成分 しゅせいぶん 分析 ぶんせき 的 てき 属性 ぞくせい 和 わ 限 げん 制 せい [ 编辑 ] 如上 じょじょう 所 しょ 述 じゅつ 主成分 しゅせいぶん 分析 ぶんせき 的 てき 依 よ 的 てき
主成分 しゅせいぶん 分析 ぶんせき 的 てき 性 せい 由 よし 派生 はせい 物 ぶつ 的 てき 某 ぼう [ 8] 的 まと 限 げん 制 せい
主成分 しゅせいぶん 分析 ぶんせき 和信 かずのぶ 息 いき 理 り [ 编辑 ] 通 つう 使用 しよう 降 くだ 保存 ほぞん 大 だい 部分 ぶぶん 数 すう 据 すえ 信 しんじ 息 いき 的 てき 主成分 しゅせいぶん 分析 ぶんせき 的 てき 是 ぜ 不正 ふせい 当 とう 没 ぼつ 有 ゆう 任 にん 何 なん 假 かり 息 いき 的 てき 信号 しんごう 模型 もけい 主成分 しゅせいぶん 分析 ぶんせき 在 ざい 降 くだ 同 どう 不能 ふのう 保 ほ 息 いき 的 てき 不 ふ 信 しん 息 いき 是 ぜ 由 ゆかり 香 こう [ 9] 来 らい 的 てき 基 もと
x
=
s
+
n
{\displaystyle \mathbf {x} =\mathbf {s} +\mathbf {n} }
是 ぜ 向 むこう 量 りょう x 是 ぜ 含有 がんゆう 信 しん 息 いき 的 てき 目 め 号 ごう s 和 かず 信号 しんごう n 之 これ 和 わ 息 いき 角度 かくど 考 こう 主成分 しゅせいぶん 分析 ぶんせき 在 ざい 降 くだ 是 ぜ 最 さい
特 とく 了 りょう s 是 ぜ 高 だか 分布 ぶんぷ n 是 ぜ 与 あずか 密度 みつど 矩 のり 差 さ 矩 のり 高 だか 声 ごえ
以下 いか 是 ぜ 使用 しよう 方法 ほうほう 的 てき 但 ただし 是 ぜ 注意 ちゅうい 利用 りよう 奇 き 分解 ぶんかい 使用 しよう 的 てき 效果 こうか 会 かい 更 さら 好 このみ
我 わが 目 め 把 わ 一 いち 定 じょう 的 てき 具有 ぐゆう M 维的数 すう 据 すえ 集 しゅう X 变换成 なり 具有 ぐゆう L 的 まと 数 すう 据 すえ 集 しゅう Y 。现在要求 ようきゅう 的 てき 矩 のり Y ，Y 是 ぜ 矩 のり X Karhunen–Loève变换。:
Y
=
K
L
T
{
X
}
{\displaystyle \mathbf {Y} =\mathbb {KLT} \{\mathbf {X} \}}
假 かり 一 いち M 个变量的 りょうてき 数 すう 据 すえ 我 わが 目的 もくてき 是 ぜ 数 すう 据 すえ 使 つかい 得能 とくのう L 个向量 りょう 来 らい 每 ごと L < M 。进一 いち 步 ほ 假 かり 据 すえ 被 ひ 整理 せいり 成 なり 一 いち 具有 ぐゆう N 个向量的 りょうてき 数 すう 据 すえ 集 しゅう 每 ごと 量 りょう 都 と 代表 だいひょう M 个变量的 りょうてき 数 すう 据 すえ
x
1
…
x
N
{\displaystyle \mathbf {x} _{1}\ldots \mathbf {x} _{N}}
向 むこう 量 りょう 每 ごと 向 むこう 量 りょう 有 ゆう M 行 くだり 将 はた 列 れつ 向 むこう 量 りょう 放 ひ 入 いれ M × N 的 てき X 里 さと 对每一 いち m = 1, ..., M 计算经验均 ひとし 将 はた 得 え 到 いた 的 てき 均 ひとし 入 いれ 一 いち M × 1维的经验均 ひとし 量 りょう u 中 なか
u
[
m
]
=
1
N
∑
n
=
1
N
X
[
m
,
n
]
{\displaystyle u[m]={1 \over N}\sum _{n=1}^{N}X[m,n]}
对于在 ざい 最大 さいだい 限度 げんど 地 ち 近似 きんじ 数 すう 据 すえ 的 てき 均 ひとし 方 かた 的 てき 基 もと 均 ひとし 法 ほう 是 ぜ 案 あん 的 てき 不可 ふか 或 ある 缺 かけ 的 てき 部分 ぶぶん [ 10] 因 よし 我 わが 下 か 步 ふ
从数据 すえ 矩 のり X 的 まと 每 ごと u 将 はた 平均 へいきん 数 すう 据 すえ 存 そん M × N 矩 のり B 中 なか
B
=
X
−
u
h
{\displaystyle \mathbf {B} =\mathbf {X} -\mathbf {u} \mathbf {h} }
其中h 是 ぜ N 的 てき 全 ぜん 的 てき 行 ぎょう 向 むこう 量 りょう
h
[
n
]
=
1
for
n
=
1
,
…
,
N
{\displaystyle h[n]=1\,\qquad \qquad {\text{for }}n=1,\ldots ,N}
从矩阵B 中 ちゅう M × M 的 てき 差 さ 矩 のり C
C
=
E
[
B
⊗
B
]
=
E
[
B
⋅
B
∗
]
=
1
N
−
1
∑
B
⋅
B
∗
{\displaystyle \mathbf {C} =\mathbb {E} \left[\mathbf {B} \otimes \mathbf {B} \right]=\mathbb {E} \left[\mathbf {B} \cdot \mathbf {B} ^{*}\right]={1 \over N-1}\sum _{}\mathbf {B} \cdot \mathbf {B} ^{*}}
其中
E
{\displaystyle \mathbb {E} }
望 もち
⊗
{\displaystyle \otimes }
是 ぜ 最 さい 外 そと 算 さん 符 ふ
∗
{\displaystyle *\ }
是 ぜ 共 ども 置 おけ 符 ふ
请注意 ちゅうい 完全 かんぜん 由 よし 那 な 置 おけ 与 あずか 正常 せいじょう 的 てき 一 いち
差 さ 矩 のり 特 とく 征 せい 特 とく 征 せい 向 こう 量 りょう [ 编辑 ]
V
−
1
C
V
=
D
{\displaystyle \mathbf {V} ^{-1}\mathbf {C} \mathbf {V} =\mathbf {D} }
其中，D 是 これ C 的 てき 特 とく 征 せい 角 かく 矩 のり 一 いち 步 ほ 通常 つうじょう 会 かい 涉 わたる 使用 しよう 基 もと 算 さん 机 つくえ 的 てき 特 とく 征 せい 特 とく 征 せい 向 こう 量的 りょうてき 算法 さんぽう 在 ざい 矩 のり 数 すう 系 けい 算法 さんぽう 都 と 是 ぜ 可用 かよう 的 てき R语言 ，MATLAB ,[ 11] [ 12] Mathematica ,[ 13] SciPy , IDL (交互 こうご 式 しき 数 すう 据 すえ 或 ある 者 もの GNU Octave 以及OpenCV 。 各 かく 征 せい 特 とく 征 せい 向 こう 量 りょう 都 と 是 ぜ 配 はい m 个特征 せい m 个特征 せい 向 こう 量 りょう
^ 主成分 しゅせいぶん 分析 ぶんせき 督 とく 学 がく 原始 げんし 内容 ないよう 存 そん ^ Pearson, K. On Lines and Planes of Closest Fit to Systems of Points in Space (PDF) . Philosophical Magazine. 1901, 2 (6): 559–572 [2012-01-24 ] . （原始 げんし 内容 ないよう (PDF) 存 そん ^ Abdi. H., & Williams, L.J. Principal component analysis.. Wiley Interdisciplinary Reviews: Computational Statistics,. 2010, 2 : 433–459. ^ Shaw P.J.A. (2003) Multivariate statistics for the Environmental Sciences , Hodder-Arnold. ISBN 978-0-340-80763-7 . [页码请求
^ Jolliffe I.T. Principal Component Analysis （页面存 そん ，存 そん 互联网档案 あん ）, Series: Springer Series in Statistics （页面存 そん ，存 そん 互联网档案 あん ）, 2nd ed., Springer, NY, 2002, XXIX, 487 p. 28 illus. ISBN 978-0-387-95442-4
^ A. A. Miranda, Y. A. Le Borgne, and G. Bontempi. New Routes from Minimal Approximation Error to Principal Components （页面存 そん ，存 そん 互联网档案 あん ）, Volume 27, Number 3 / June, 2008, Neural Processing Letters, Springer
^ Fukunaga, Keinosuke. Introduction to Statistical Pattern Recognition . Elsevier. 1990. ISBN 0122698517 ^ Jonathon Shlens, A Tutorial on Principal Component Analysis. （页面存 そん ，存 そん 互联网档案 あん ）
^ Geiger, Bernhard; Kubin, Gernot (Sep 2012), Relative Information Loss in the PCA （页面存 そん ，存 そん 互联网档案 あん ）
^ A.A. Miranda, Y.-A. Le Borgne, and G. Bontempi. New Routes from Minimal Approximation Error to Principal Components （页面存 そん ，存 そん 互联网档案 あん ）, Volume 27, Number 3 / June, 2008, Neural Processing Letters, Springer
^ eig function （页面存 そん ，存 そん 互联网档案 あん ） Matlab documentation^ MATLAB PCA-based Face recognition software . [2012-04-30 ] . （原始 げんし 内容 ないよう 存 そん ^ Eigenvalues function （页面存 そん ，存 そん 互联网档案 あん ） Mathematica documentation
![{\displaystyle \mathbf {X} =\{X[m,n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ef6a56be91e9690edb55c4440bd97477b7fc9d08)
![{\displaystyle \mathbf {u} =\{u[m]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/41861f487d46f9cb025f0cc6a3056b03fb050ddd)
![{\displaystyle \mathbf {s} =\{s[m]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/51c7d92e3705d223c8b994c7b46469dc4e1ab294)
![{\displaystyle \mathbf {h} =\{h[n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/56bf985b210af4b9eecf7354954f9bc3466ed5e7)
![{\displaystyle \mathbf {B} =\{B[m,n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1a909955ad46e58204bff421fac47493ea8a6a2b)
![{\displaystyle \mathbf {Z} =\{Z[m,n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fca8018e2e45c1f2504186256d5f3116c0882744)
![{\displaystyle \mathbf {C} =\{C[p,q]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/bd01b14f2d33f0117e8d56b3aa83e3dc036601dd)
![{\displaystyle \mathbf {R} =\{R[p,q]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/61aebda5e866d664ac9c3522f723a8fbc114bb6c)
![{\displaystyle \mathbf {V} =\{V[p,q]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c6fc4b015a0dc1682f26a8fa5d034410a3e4ee6d)
![{\displaystyle \mathbf {D} =\{D[p,q]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d29b32fd28dd6eba62cf26e16c7fc5fb945a1718)
![{\displaystyle \mathbf {W} =\{W[p,q]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c8c0677373af5efb922ef7b2206553b7278b46af)
![{\displaystyle \mathbf {Y} =\{Y[m,n]\}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/58ffe3701a9ac8587bad259d0036ca16d8c291f5)
![{\displaystyle u[m]={1 \over N}\sum _{n=1}^{N}X[m,n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ee0d3ca089bd8dc3a4329adc016b6664feeecded)
![{\displaystyle h[n]=1\,\qquad \qquad {\text{for }}n=1,\ldots ,N}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2d8ebe795965a15f24b93098a1a74eacf7c71f01)
![{\displaystyle \mathbf {C} =\mathbb {E} \left[\mathbf {B} \otimes \mathbf {B} \right]=\mathbb {E} \left[\mathbf {B} \cdot \mathbf {B} ^{*}\right]={1 \over N-1}\sum _{}\mathbf {B} \cdot \mathbf {B} ^{*}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/10390f38daeedfe5622e3f6840d6c9a0b49b9c63)
