编码理り论

盲めくら文ぶん是ぜ一いち种广泛使用しよう数かず据すえ压缩以补偿阅读速度そくど缓慢的てき编码。

编码理り论（英語えいご：Coding theory）是ぜ研究けんきゅう编码的てき性せい质以及它们在具体ぐたい应用中ちゅう的てき性能せいのう的てき理り论。编码用よう于数かず据すえ压缩、加か密みつ、纠错，最近さいきん也用于网络编码中なか。不同ふどう学科がっか（如信しん息いき论、電機でんき工程こうてい學がく、数学すうがく、语言学がく以及计算机つくえ科学かがく）都と研究けんきゅう编码是ぜ为了设计出で高だか效こう、可か靠もたれ的てき数かず据すえ传输方法ほうほう。这通常つうじょう需要じゅよう去さ除じょ冗余并校正こうせい（或ある检测）数すう据すえ传输中ちゅう的てき错误。

编码共ども分ぶん四よん类：

1. 数かず据すえ压缩（或ある信しん源げん编码）
2. 前ぜん向こう錯誤さくご更正こうせい（或ある信道のぶみち编码）
3. 加か密みつ编码
4. 线路码

数かず据すえ压缩和わ前ぜん向こう錯誤さくご更正こうせい可か以一起かずき考こう虑。

信しん源げん编码试图压缩来らい自信じしん源げん的てき数すう据すえ以使传输更さら高だか效こう。这种做法每ごと天てん都と能のう在ざい互联网上见到，因いん为在互联网上使用しよう常つね见的ZIP格式かくしき来き降ぶ低てい网络负载，使つかい文ぶん件けん更さら小しょう。

第だい二に种，信道のぶみち编码，加入かにゅう额外的てき数すう据すえ位い以使在ざい传输信道のぶみち有ゆう干ひ扰存在そんざい的てき时候数すう据すえ传输的てき強健きょうけん性せい更さら强きょう。普通ふつう用よう户可能かのう不知ふち道どう许多应用中なか都と使用しよう了りょう信道のぶみち编码。平常へいじょう的てき音おと乐CD使用しよう里さと德とく-所しょ罗门码来らい纠正划痕和わ灰はい尘。在ざい此应用よう中ちゅう传输信道のぶみち就是光こう盘本身ほんみ。手て机つくえ也使用しよう编码技わざ术纠正せい高だか频无线电传输的てき衰おとろえ落和噪声。数かず据すえ调制解かい调器、电话传输、NASA都と采さい用よう信道のぶみち编码技わざ术来传输信しん息いき，例れい如涡輪码和わ低てい密度みつど码。

编码理り论的历史

1948年ねん，克かつ劳德·香が农发表了りょう《通信つうしん的てき数すう学理がくり论》，这篇文章ぶんしょう由よし《贝尔系けい统技术杂志こころざし》的てき七月和十月刊分两部分发行。该文重点じゅうてん研究けんきゅう了りょう如何いか最さい有效ゆうこう地ち对发送者しゃ要よう发送的てき信しん息いき进行编码的てき问题。在ざい这篇基もと础性的てき论文中ちゅう，他た使用しよう了りょう諾だく伯はく特とく·維納发展的てき概がい率りつ论工具ぐ，而这些概率りつ论工具こうぐ用よう于通信つうしん理り论在当とう时还尚なお处萌芽ほうが阶段。香こう农提出ていしゅつ信しん息いき熵作さく为消息いき不ふ确定性的せいてき量りょう度ど，而实质上创造了りょう信しん息いき论这个领域。

二进制戈莱码在ざい1949年ねん被ひ提出ていしゅつ。更さら具体ぐたい地ち说，它是一いち种每个24位い字じ能のう够纠正せい三さん个错误、检测出で第だい四个错误的纠错码。

汉明距离的てき二に维可视化

理り查德·漢かん明あきら因いん在ざい贝尔实验室しつ在ざい数すう值方法ほう、自じ动编码系统以及错误检测和纠错码的成就じょうじゅ于1968年ねん获得了りょう图灵奖。他た发明了りょう汉明码、汉明窗まど、汉明数すう和わ汉明距离等とう概念がいねん。

信しん源げん编码

主しゅ条目じょうもく：数かず据すえ压缩

信しん源げん编码的てき目的もくてき是ぜ让源数すう据すえ变小。

定てい义

• 数かず据すえ可か看み作づく随ずい机つくえ变量 $X:\Omega \rightarrow {\mathcal {X}}$，其中$x\in {\mathcal {X}}$出で现概率りつ为 $\mathbb {P} [X=x]$。
• 数かず据すえ用よう字母じぼ表ひょう $\Sigma$ 中なか的てき字じ符ふ串くし（单词）进行编码的てき。
• 码是ぜ一いち个函数すう $C:{\mathcal {X}}\rightarrow \Sigma ^{*}$（或ある当とう空そら字じ符ふ串くし不在ふざい字母じぼ表ひょう内ない时为 $\Sigma ^{+}$）。$C(x)$ 是ぜ与あずか $x$ 关联的てき码字。
• 码长写うつし作さく $l(C(x))$。
• 码长的てき期き望もち值为 $l(C)=\sum _{x\in {\mathcal {X}}}l(C(x))\mathbb {P} [X=x]$
• 码字拼接 $C(x_{1},...,x_{k})=C(x_{1})C(x_{2})...C(x_{k})$.
• 空そら字じ符ふ串くし的てき码字为空字じ符ふ串くし本身ほんみ：$C(\epsilon )=\epsilon$

性せい质

1. 当とう $C:{\mathcal {X}}\rightarrow \Sigma ^{*}$ 为单射时，是ぜ非ひ奇き异码。
2. 当とう $C:{\mathcal {X}}^{*}\rightarrow \Sigma ^{*}$ 为单射しゃ时，是ぜ唯ただ一可解码代码。
3. 如果 $C(x_{1})$ 和わ $C(x_{2})$ 相互そうご不ふ是ぜ另一个的前ぜん缀，则 $C:{\mathcal {X}}\rightarrow \Sigma ^{*}$ 是これ前ぜん缀码。

原理げんり

信しん源げん的てき熵是ぜ信しん息いき的てき度量どりょう。基本きほん上じょう，信しん源げん编码在ざい尽つき量りょう减少信しん源げん的てき冗余，用よう携带更さら多た信しん息いき的てき更さら少しょう的まと比ひ特とく来らい表示ひょうじ信しん源げん。

明あかり确试图根据すえ特定とくてい的てき假定かてい概がい率りつ模型もけい来らい最小さいしょう化か消息しょうそく的てき平均へいきん长度被ひ称しょう为熵编码。

有ゆう各かく种采用よう信しん源げん编码方案ほうあん试图达到信しん源げん熵的极限的てき技わざ术。C(x) ≥ H(x)，其中 H(x) 为信源げん熵（比ひ特とく率りつ），C(x) 为压缩后的てき比ひ特とく率りつ。特とく别指出で，没ぼつ有ゆう源げん编码方案ほうあん可か以比信しん源げん的てき熵更好このみ。

例れい子こ

傳でん真しん传输使用しよう简单的てき游ゆう程ほど编码。信しん源げん编码去除じょ所有しょゆう发射机つくえ必要ひつよう发送以外いがい所有しょゆう多た余あまり数すう据すえ，降くだ低てい了りょう传输所しょ需的带宽。

参まいり见

• 编码增益ぞうえき
• 覆くつがえ盖码
• 前ぜん向こう錯誤さくご更正こうせい
• 群ぐん试
• 汉明距离、汉明重量じゅうりょう
• 信しん息いき论
• 李り距离
• 多た天てん线研究けんきゅう中なか的てき空そら间编码和MIMO

参考さんこう文献ぶんけん

• Vera Pless (1982), Introduction to the Theory of Error-Correcting Codes, John Wiley & Sons, Inc., ISBN 0-471-08684-3.
• Elwyn R. Berlekamp (1984), Algebraic Coding Theory, Aegean Park Press (revised edition), ISBN 0-89412-063-8, ISBN 978-0-89412-063-3.
• Randy Yates, A Coding Theory Tutorial.