全ぜん1359文字もじ

　英えいDeepMind（ディープマインド）の囲碁いごAI（Artificial Intelligence、人工じんこう知能ちのう）「AlphaGo」がイ・セドル名人めいじんと初はつ対戦たいせんしたとき、AlphaGoはプロ棋士きしでも理解りかいできない予想よそう外がいの手てを打うった――。こんなふうに、深層しんそう学習がくしゅう（ディープラーニング）に基もとづく機械きかい学習がくしゅうを実装じっそうしたAIが想像そうぞう外がいの推論すいろん結果けっかを出だしたとき、「なぜ」と思おもうだろう。

　その気持きもちは分わかる。だが推論すいろんに至いたった「理由りゆう」を説明せつめいしてほしいのであれば、機械きかい学習がくしゅうではなくロジックやルールに基もとづくAIを使つかうべきだろう。

　深層しんそう学習がくしゅうに用もちいられている技術ぎじゅつが、脳のうの神経しんけい回路かいろをモデル化かしたニューラルネットワークだ。そしてニューラルネットワークによる推論すいろん結果けっかには、理由りゆうが分わからないので不安ふあんだという意見いけんがつきまとう。何なんと1980年代ねんだいの第だい2次じAIブームの頃ころからそうした意見いけんがあった。

　考かんがえてみれば、理由りゆうが分わからないのは当あたり前まえであり、「そういうものだ」と割わり切きって使つかうべきであろう。そもそもニューラルネットワークにおける推論すいろんとは、教師きょうしデータ（ある一定いってい量りょうの入力にゅうりょくデータと出力しゅつりょくデータの組くみ）を学習がくしゅうした結果けっかとして、何なにかデータを入力にゅうりょくするとそれなりに確たしからしいデータを出力しゅつりょくすることである。加くわえて、学習がくしゅうしたデータそのものに基もとづかなくても、入力にゅうりょくに対たいしてそれなりにいい感かんじの結果けっかを出だしてくれる。

　この「いい感かんじ」らしさを「汎ひろし化か性能せいのう」と呼よぶ。機械きかい学習がくしゅうには様々さまざまな種類しゅるいがあるが、深層しんそう学習がくしゅうはこの汎ひろし化か性能せいのうの高たかさが評価ひょうかされている。

　だいたい機械きかい学習がくしゅうを使つかう場面ばめんというのは、明確めいかくなロジックやルールとして記述きじゅつしきれない何なにかを、うまくシステム化かしたいときだ。ちゃんとロジックやルールを記述きじゅつできるのなら、それに基もとづくAIをつくって使つかうべきである。

　そうではなく、自分じぶんで認知にんちし切きれない、あるいは言語げんご化かし切きれないから深層しんそう学習がくしゅうを使つかうのに、それを棚たなに上あげて「出力しゅつりょくの理由りゆうを説明せつめいせよ」とするのは惰弱だじゃくといえよう。