自然しぜん言語げんご処理しょり

自然しぜん言語げんご処理しょり（しぜんげんごしょり、英語えいご: Natural language processing、略称りゃくしょう：NLP）は、人間にんげんが日常にちじょう的てきに使つかっている自然しぜん言語げんごをコンピュータに処理しょりさせる一連いちれんの技術ぎじゅつであり、人工じんこう知能ちのうと言語げんご学がくの一いち分野ぶんやである。「計算けいさん言語げんご学がく」（computational linguistics）との類似るいじもあるが、自然しぜん言語げんご処理しょりは工学こうがく的てきな視点してんからの言語げんご処理しょりをさすのに対たいして、計算けいさん言語げんご学がくは言語げんご学がく的てき視点してんを重視じゅうしする手法しゅほうをさす事ことが多おおい^[1]。データベース内うちの情報じょうほうを自然しぜん言語げんごに変換へんかんしたり、自然しぜん言語げんごの文章ぶんしょうをより形式けいしき的てきな（コンピュータが理解りかいしやすい）表現ひょうげんに変換へんかんするといった処理しょりが含ふくまれる。応おう用例ようれいとしては機械きかい翻訳ほんやくや仮名漢字かなかんじ変換へんかんが挙あげられる。

自然しぜん言語げんごの理解りかいをコンピュータにさせることは、自然しぜん言語げんご理解りかいとされている。自然しぜん言語げんご理解りかいと、自然しぜん言語げんご処理しょりの差さは、意味いみを扱あつかうか、扱あつかわないかという説せつもあったが、最近さいきんは数理すうり的てきな言語げんご解析かいせき手法しゅほう（統計とうけいや確かく率りつなど）が広ひろめられた為ため、パーサ（統語とうご解析かいせき器き）などの精度せいどや速度そくどが一段いちだんと上あがり、その意味合いみあいは違ちがってきている。もともと自然しぜん言語げんごの意味いみ論ろん的てき側面そくめんを全まったく無視むしして達成たっせいできることは非常ひじょうに限かぎられている。このため、自然しぜん言語げんご処理しょりには形態素けいたいそ解析かいせきと構文こうぶん解析かいせき、文脈ぶんみゃく解析かいせき、意味いみ解析かいせきなどをSyntaxなど表層ひょうそう的てきな観点かんてんから解析かいせきをする学問がくもんであるが、自然しぜん言語げんご理解りかいは、意味いみをどのように理解りかいするかという個々人ここじんの理解りかいと推論すいろん部分ぶぶんが主おもな研究けんきゅうの課題かだいになってきており、両者りょうしゃの境界きょうかいは意思いしや意図いとが含ふくまれるかどうかになってきている。

基礎きそ技術ぎじゅつ

自然しぜん言語げんご処理しょりの基礎きそ技術ぎじゅつにはさまざまなものがある。自然しぜん言語げんご処理しょりはその性格せいかく上じょう、扱あつかう言語げんごによって大おおきく処理しょりの異ことなる部分ぶぶんがある。現在げんざいのところ、日本語にほんごを処理しょりする基礎きそ技術ぎじゅつとしては以下いかのものが主おもに研究けんきゅうされている。

処理しょり内容ないようとその限界げんかい

現状げんじょう発達はったつしている言語げんごAI技術ぎじゅつは、多次元たじげんのベクトルから、単語たんごや文書ぶんしょの意味いみの近ちかさを、その相互そうご関係かんけいから推定すいていしているもので、「AIの言語げんご理解りかい」は「人間にんげんの言語げんご理解りかい」は根本こんぽん的てきに別物べつものである^[2]。

「自然しぜん言語げんご理解りかいは、AI完全かんぜん問題もんだい」と言いわれることがある。なぜなら、自然しぜん言語げんご理解りかいには世界せかい全体ぜんたいについての知識ちしきとそれを操作そうさする能力のうりょくが必要ひつようと思おもわれるためである。「理解りかい; understanding」の定義ていぎは、自然しぜん言語げんご処理しょりの大おおきな課題かだいのひとつでもある。

人間にんげんとコンピュータの間あいだのインタラクションのインタフェース（ヒューマンマシンインタフェース）として、自然しぜん言語げんごがもし使つかえたら非常ひじょうに魅力みりょく的てきである、といったこともあり、コンピュータの登場とうじょう初期しょき（1960年ねん頃ごろ）には自然しぜん言語げんご処理しょりにある種しゅの過剰かじょうな期待きたいもあった。SHRDLUなどの初期しょきのシステムが、世界せかいを限定げんていすることで非常ひじょうにうまくいったことにより、すぐに行いき過すぎた楽観らっかん主義しゅぎに陥おちいったが、現実げんじつを相手あいてにする曖昧あいまいさや複雑ふくざつさがわかると、楽観らっかん的てきな見方みかたや過剰かじょうな期待きたいは基本きほん的てきには無なくなった。しかし、何なにが簡単かんたんで何なにが難むずかしいのか、といったようなことはなかなか共有きょうゆうされなかった。

やがて、21世紀せいきに入はいってしばらく後のちに「音声おんせい認識にんしきによる便利べんりなシステム」がいくつか実用じつよう化か・実じつ運用うんようされ多おおくの人ひとが利用りようしたことで、何なにが簡単かんたんで、どういう事ことに使つかうのは難むずかしいのかが理解りかいされるようになりつつある模様もようである。

2013年ねんのGoogleのWord2vecは今いまでも使つかわれている^[3]^[4]。

2019年ねん、GPT-2、BERTなど、ディープラーニングを応用おうようした手法しゅほうで大おおきなブレークスルーがあった。

2022年ねん以降いこう、ChatGPTのリリースにより自然しぜん言語げんご処理しょりに大おおきな注目ちゅうもくが集あつまっている。

具体ぐたい的てきな課題かだい

自然しぜん言語げんご処理しょり（理解りかい）における課題かだいをいくつかの例れいを用もちいて示しめす。

次つぎの2つの文ぶん、

We gave the monkeys the bananas because they were hungry.（猿さるが腹はらを空すかせていたので、バナナを与あたえた。）

We gave the monkeys the bananas because they were over-ripe.（バナナは熟なれ過すぎていたので、猿さるに与あたえた。）

は、品詞ひんしとしては全まったく同おなじ順序じゅんじょの並ならびである。しかし、they が指さすものは異ことなっていて、前者ぜんしゃでは猿さる、後者こうしゃではバナナとなっている。この例文れいぶんの場合ばあい、theyの指さす内容ないようは英語えいごの文型ぶんけいの性質せいしつによって決定けっていすることができる。すなわち、「they（主語しゅご）= hungry（補語ほご）」の関係かんけいが成なり立たち、補語ほごには主語しゅごの性質せいしつを示しめすものがくるので、hungryなのはthe monkeys、したがって、「they = the monkeys」と決きまる。後者こうしゃも同様どうように、over-ripeというのはthe bananasの性質せいしつだから、「they = the bananas」となる。つまり、これらの文章ぶんしょうを区別くべつし正ただしく理解りかいするためには、意味いみ、すなわち、猿さるの性質せいしつ（猿さるは動物どうぶつで空腹くうふくになる）とバナナの性質せいしつ（バナナは果物くだもので成熟せいじゅくする）といったことを知しっていて解釈かいしゃくできなければならない。

単語たんごの文字もじ列れつを解釈かいしゃくする方法ほうほうは様々さまざまである。例たとえば、

Time flies like an arrow.（光陰こういん矢やの如ごとし）

という文字もじ列れつは以下いかのように様々さまざまに解釈かいしゃくできる。

典型てんけい的てきには、比喩ひゆとして、「時間じかんが矢やのように素早すばやく過すぎる」と解釈かいしゃくする。
「空そらを飛とぶ昆虫こんちゅうの速度そくどを矢やの速度そくどを測はかるように測定そくていせよ」つまり (You should) time flies as you would (time) an arrow. と解釈かいしゃくする。
「矢やが空そらを飛とぶ昆虫こんちゅうの速度そくどを測はかるように、あなたが空そらを飛とぶ昆虫こんちゅうの速度そくどを測定そくていせよ」つまり Time flies in the same way that an arrow would (time them). と解釈かいしゃくする。
「矢やのように空そらを飛とぶ昆虫こんちゅうの速度そくどを測定そくていせよ」つまり Time those flies that are like arrows と解釈かいしゃくする。
「"time-flies"（時ときバエ）という種類しゅるいの昆虫こんちゅうは1つの矢やを好このむ」この解釈かいしゃくには集合しゅうごう的てきな解釈かいしゃくと個別こべつ的てき解釈かいしゃくがありうる。
「TIMEという雑誌ざっしは、投なげると直線ちょくせん的てきな軌跡きせきを描えがく」

英語えいごでは特とくに語形ごけい変化へんかによる語彙ごいの区別くべつをする機能きのうが弱よわいため、このような問題もんだいが大おおきくなる。

また、英語えいごも含ふくめて、形容詞けいようしと名詞めいしの修飾しゅうしょく関係かんけいの曖昧あいまいさもある。例たとえば、"pretty little girls' school"（かわいい小ちいさな少女しょうじょの学校がっこう）という文字もじ列れつがあるとする。

その学校がっこうは小ちいさいだろうか?
少女しょうじょたちが小ちいさいのだろうか?
少女しょうじょたちがかわいいのだろうか?
学校がっこうがかわいいのだろうか?

他ほかにも次じのような課題かだいがある。

形態素けいたいそ解析かいせき: 中国ちゅうごく語ご、日本語にほんご、タイ語ごといった言語げんごは単語たんごのわかち書がきをしない。そのため、単語たんごの区切くぎりを特定とくていするのにテキストの解析かいせきが必要ひつようとなり、それは非常ひじょうに複雑ふくざつな作業さぎょうとなる。
音声おんせいにおける形態素けいたいそ解析かいせき: 音声おんせい言語げんごにおいて、文字もじを表あらわす音おとは前後ぜんごの音おとと混まじっているのが普通ふつうである。従したがって音声おんせいから文字もじを切きり出だすのは、非常ひじょうに難むずかしい作業さぎょうとなる。さらに、音声おんせい言語げんごでは単語たんごと単語たんごの区切くぎりも（音おととしてのみ見みれば）定さだかではなく、文脈ぶんみゃくや文法ぶんぽうや意味いみといった情報じょうほうを考慮こうりょしないと単語たんごを切きり出だせない。
語義ごぎの曖昧あいまい性せい: 多おおくの単語たんごは複数ふくすうの意味いみを持もつ。従したがって、特定とくていの文脈ぶんみゃくにおいてもっともふさわしい意味いみを選択せんたくする必要ひつようがある。
構文こうぶんの曖昧あいまい性せい: 自然しぜん言語げんごの構文こうぶん（構文こうぶん規則きそく）は曖昧あいまいである。1つの文ぶんに対応たいおうする複数ふくすうの構文こうぶん木きが存在そんざいすることも多おおい。もっとも適切てきせつな解釈かいしゃく（構文こうぶん木き）を選択せんたくするには、意味いみ的てき情報じょうほうや文脈ぶんみゃく情報じょうほうを必要ひつようとする。
不完全ふかんぜんな入力にゅうりょくや間あいだ違ちがった入力にゅうりょく: 主語しゅごの省略しょうりゃくや代名詞だいめいしの対応たいおうなどの問題もんだい（照応しょうおう解析かいせき）。音声おんせいにおけるアクセントのばらつき。構文こうぶん上じょうの誤あやまりのある文ぶんの解析かいせき。光学こうがく文字もじ認識にんしきにおける誤あやまりの認識にんしきなど。
言語げんご行為こうい: 文章ぶんしょうは文字通もじどおりに解釈かいしゃくできない場合ばあいがある。例たとえば "Can you pass the salt?"（塩しおをとってもらえますか?）という問といに対たいする答こたえは、塩しおを相手あいてに渡わたすことである。これに "Yes" とだけ答こたえて何なにもしないのはよい答こたえとは言いえないが、"No" はむしろありうる答こたえで、"I'm afraid that I can't see it" はさらによい（塩しおがどこにあるかわからないとき）。

統計とうけい的てき自然しぜん言語げんご処理しょり

統計とうけい的てき自然しぜん言語げんご処理しょりは、確率かくりつ論ろん的てきあるいは統計とうけい学がく的てき手法しゅほうを使つかって、上述じょうじゅつの困難こんなんさに何なんらかの解決かいけつ策さくを与あたえようとするものである。長ながい文ぶんになればなるほど、従来じゅうらい型がたの自然しぜん言語げんご処理しょりでは解釈かいしゃくの可能かのう性せいの組合くみあわせが指数しすう関数かんすう的てきに増大ぞうだいしていき、処理しょりが困難こんなんとなる。そのような場合ばあいに統計とうけい的てき自然しぜん言語げんご処理しょりが効果こうかを発揮はっきする。コーパス言語げんご学がくやマルコフ連鎖れんさといった手法しゅほうが使つかわれる。統計とうけい的てき自然しぜん言語げんご処理しょりの起源きげんは、人工じんこう知能ちのうの中なかでもデータからの学習がくしゅうを研究けんきゅうする分野ぶんやである機械きかい学習がくしゅうやデータマイニングといった分野ぶんやである。

一見いっけん、統計とうけい的てき自然しぜん言語げんご処理しょりは確かく率りつモデル型がた自然しぜん言語げんご処理しょりにのみ適用てきようされるように見みえるが、実じつは4大だい自然しぜん言語げんご処理しょりの1つである注意ちゅういモデル型がた自然しぜん言語げんご処理しょりにも統計とうけいの概念がいねんが必要ひつようなのである^{[要よう説明せつめい]}^[5]。

主おもな応用おうよう

自然しぜん言語げんご処理しょりの応用おうよう技術ぎじゅつとして、以下いかのような技術ぎじゅつが研究けんきゅう・実用じつよう化かされている。また、言語げんご学がくへの応用おうようも考かんがえられている。

出典しゅってん

[脚注きゃくちゅうの使つかい方かた]

^ Mitkov, R. (2003) (英語えいご). The Oxford Handbook of Computational Linguistics. New York: Oxford University Press. ISBN 0198238827. OCLC 49204433
^ AIに言葉ことばの意味いみはわかるか進化しんかする自然しぜん言語げんご処理しょり日経にっけいサイエンス2021/5/28 閲覧えつらん
^ “Google Colaboratory”. colab.research.google.com. 2023年ねん4月がつ2日にち閲覧えつらん。
^ “Google Code Archive - Long-term storage for Google Code Project Hosting.”. code.google.com. 2023年ねん4月がつ2日にち閲覧えつらん。
^ “自然しぜん言語げんご処理しょり”. Coursera. 2023年ねん2月がつ18日にち閲覧えつらん。

外部がいぶリンク

資料しりょう

サーベイ

渡辺わたなべ太郎たろう「ニューラルネットワークによる構造こうぞう学習がくしゅうの発展はってん(<特集とくしゅう>ニューラルネットワーク研究けんきゅうのフロンティア)」『人工じんこう知能ちのう』第だい31巻かん第だい2号ごう、人工じんこう知能ちのう学会がっかい、2016年ねん3月がつ、202-209頁ぺーじ、doi:10.11517/jjsai.31.2_202、ISSN 2188-2266、NAID 110010039602、2020年ねん7月がつ7日にち閲覧えつらん。

研究けんきゅう者しゃの団体だんたい

オープン実装じっそう

General Architecture for Text Engineering (GATE) - Javaベース
Natural Language Toolkit (NLTK) - Pythonベース
Stanford's JavaNLP toolchain
OpenNLP Apacheプロジェクト。固有こゆう表現ひょうげん抽出ちゅうしゅつ、文書ぶんしょ分類ぶんるい、言語げんご判定はんていが日本語にほんご対応たいおう。商用しょうよう利用りよう可か。
DELPH-IN: integrated technology for deep language processing
MARF: Modular Audio Recognition Framework 音声おんせいおよび統計とうけい的てき自然しぜん言語げんご処理しょり

[1] Mitkov, R. (2003) (英語えいご). The Oxford Handbook of Computational Linguistics. New York: Oxford University Press. ISBN 0198238827. OCLC 49204433

[2] AIに言葉ことばの意味いみはわかるか進化しんかする自然しぜん言語げんご処理しょり日経にっけいサイエンス2021/5/28 閲覧えつらん

[3] “Google Colaboratory”. colab.research.google.com. 2023年ねん4月がつ2日にち閲覧えつらん。

[4] “Google Code Archive - Long-term storage for Google Code Project Hosting.”. code.google.com. 2023年ねん4月がつ2日にち閲覧えつらん。

[5] “自然しぜん言語げんご処理しょり”. Coursera. 2023年ねん2月がつ18日にち閲覧えつらん。

[1]

[2]

[3]

[4]

[5]