人工じんこう知能ちのう（AI）モデルは、インターネットから取得しゅとくした膨大ぼうだいな量りょうのデータを使つかって訓練くんれんすることで機能きのうする。ところが、低てい品質ひんしつのコンテンツで埋うめ尽つくされたWebページをAIがどんどん量産りょうさんするにつれ、そのプロセスが揺ゆるがされる危険きけん性せいが増ましている。

ネイチャー（Nature）誌しに発表はっぴょうされた新あらたな研究けんきゅうによると、AI生成せいせいのデータを使つかってAIモデルを訓練くんれんすると、モデルの出力しゅつりょくの品質ひんしつは徐々じょじょに劣化れっかするという。後続こうぞくのモデル群ぐんが生成せいせいした出力しゅつりょくデータが将来しょうらいのモデルの訓練くんれんに使つかわれるようになると、その影響えいきょうは悪化あっかの一途いっとをたどる。

オックスフォおっくすふぉード大学どだいがくのコンピューター科学かがく者しゃで、今回こんかいの研究けんきゅうを主導しゅどうしたイリア・シュマイロフ博士はかせは、その過程かていを「写真しゃしんの写真しゃしんを撮とること」にたとえる。「写真しゃしんを撮とってスキャンし、紙面しめんに印刷いんさつする、というサイクルを長期間ちょうきかん繰くり返かえすと、一般いっぱん的てきにはノイズがプロセス全体ぜんたいを押おしつぶしてしまいます。あとに残のこるのは黒くろい四角形しかっけいだけです」。AIにおける黒くろい四角形しかっけいが「モデル崩壊ほうかい」であり、モデルが一貫いっかん性せいのないゴミを生成せいせいするだけになった状態じょうたいを指さす。

この研究けんきゅう結果けっかは、インターネットをデータベースとして使つかっている現在げんざいの最大さいだいのAIモデルに重大じゅうだいな影響えいきょうを及およぼす可能かのう性せいがある。たとえば、GPT-3の一部いちぶは、30億おくを超こえるWebページのオンラインリポジトリであるコモン・クロール（Common Crawl）のデータで訓練くんれんされている。そして、AIが生成せいせいしたゴミのようなWebサイトの数かずが増ふえ、インターネットの秩序ちつじょが乱雑らんざつになっていくと、問題もんだいはさらに悪化あっかする可能かのう性せいが高たかい。

シュマイロフ博士はかせは、現在げんざいのAIモデルが崩壊ほうかいしなくても、実質じっしつ的てきな影響えいきょうは残のこるのではないかと言いう。つまり、進歩しんぽの速度そくどが落おち、パフォーマンスが低下ていかするかもしれない。

パフォーマンスに影響えいきょうが及およぶ可能かのう性せいを判断はんだんするため、シュマイロフ博士はかせらのチームは、ウィキペディアのデータセットで大だい規模きぼ言語げんごモデル（LLM）を微ほろ調整ちょうせい（ファインチューニング）してから、その新あたらしいモデルを9世代せだいにわたって同どうモデルの出力しゅつりょくデータで微ほろ調整ちょうせいし、「困惑こんわく度どスコア（perplexity score）」を利用りようして出力しゅつりょくがどの程度ていど意味いみをなしていないかを測定そくていした。これは、シーケンスの次つぎの部分ぶぶんを予測よそくする能力のうりょくに対たいするAIの自信じしんの度合どあいを測はかる数値すうちで、スコアが高たかいほどモデルの精度せいどは低ひくいと解釈かいしゃくされる。

別べつのAIモデルの出力しゅつりょくで訓練くんれんされたモデルの困惑こんわく度どスコアはそれ以外いがいの場合ばあいよりも高たかくなった。研究けんきゅうチームはたとえば、モデルの各かく世代せだいに以下いかのような入力にゅうりょくをしてモデルに続つづきの文章ぶんしょうを要求ようきゅうした。

“some started before 1360—was typically accomplished by a master mason and a small team of itinerant masons, supplemented by local parish labourers, according to Poyntz Wright. But other authors reject this model, suggesting instead that leading architects designed the parish church towers based on early examples of Perpendicular.”
（参考さんこう訳やく）「ポインツ・ライトによれば、1360年ねん以前いぜんに始はじまったものもあった。ベテランの石工せっこうと渡わたりの石工せっこうから成なる小ちいさなチームが作つくり上あげ、地域ちいきの教区きょうく労働ろうどう者しゃが補助ほじょするのが普通ふつうだった。しかし、他たの執筆しっぴつ者しゃはこのモデルを否定ひていし、有力ゆうりょくな建築けんちく家からがパーペンディキュラー様式ようしきの初期しょきの事例じれいに基もとづいて教区きょうく教会きょうかいの塔とうを設計せっけいしたという説せつを唱となえている」。

 

第だい9世代せだいの最終さいしゅうモデルは次つぎのように回答かいとうした。

“architecture. In addition to being home to some of the world’s largest populations of black @-@ tailed jackrabbits, white @-@ tailed jackrabbits, blue @-@ tailed jackrabbits, red @-@ tailed jackrabbits, yellow @-.”
（参考さんこう訳やく）「建築けんちく。オグロ @-@ ウサギ、オジロ @-@ ウサギ、オアオ @-@ ウサギ、オアカ @-@ ウサギ、キイロ @-など、野のウサギの世界せかい最大さいだい級きゅうの生息せいそく地ちであることに加くわえ」。

 

シュマイロフ博士はかせは、このようなことがなぜ起おこるのか、自分じぶんの考かんがえを説明せつめいした。たとえば、全校ぜんこう生徒せいとの中なかでいちばん希少きしょうな名前なまえを特定とくていしようとしているとする。生徒せいと全員ぜんいんの名前なまえについて調しらべてもいいが、時間じかんがかかりすぎる。そこで、1000人にんの生徒せいとのうち100人にんの名前なまえを調しらべることにする。まあ珍めずらしい名前なまえは見みつかるだろうが、それを正解せいかいとは言いえない。ここで、別べつの人ひとが来きて、あなたが調しらべた100人にんの名前なまえから50人にんの名前なまえだけを選択せんたくし、それに基もとづいて推測すいそくしたとする。この2人ふたり目めの予測よそくはさらに正解せいかいから遠とおくなるはずだ。

「機械きかい学習がくしゅうモデルでも同おなじことが起おこるのは容易よういに想像そうぞうできます」と、シュマイロフ博士はかせは言いう。「第だい1のモデルがインターネットの半分はんぶんを参照さんしょうした場合ばあい、おそらく第だい2のモデルはインターネットの半分はんぶんを要求ようきゅうするのではなく、最新さいしんの10万まん件けんのツイートをスクレイピングするなどして、それをもとにモデルを調整ちょうせいするでしょう」。

加くわえて、インターネットが保持ほじできるデータ量りょうには限かぎりがある。AIの尽つきない学習がくしゅう意欲いよくを満みたすため、将来しょうらいのモデルは合成ごうせいデータ、つまりAIが生成せいせいしたデータで訓練くんれんしなければならないかもしれない。

MITメディアラボでLLMの訓練くんれん過程かていを研究けんきゅうしているシェイン・ロンプレ研究けんきゅう助手じょしゅ（先述せんじゅつの研究けんきゅうには関与かんよしていない）は、「基盤きばんモデルのパフォーマンスは、データの規模きぼに大おおきく依存いぞんします」と説明せつめいする。「その結果けっか、解決かいけつ策さくとして、厳選げんせん・管理かんりされた環境かんきょう下かの合成ごうせいデータを頼たのみにするようになります。Web上じょうのデータをどんどんクロールし続つづけていると、リターンが小ちいさくなっていくからです」。

別べつの論文ろんぶんでモデルの崩壊ほうかいを検証けんしょうした、スタンフォード大学だいがくのAI研究けんきゅう者しゃマティアス・ゲルストグラッサー博士はかせは、現実げんじつ世界せかいのデータを置おき換かえる代かわりに合成ごうせいデータを追加ついかしても大おおきな問題もんだいは発生はっせいしないと言いう。ただし、「モデル崩壊ほうかいに関かんするすべての文献ぶんけんが一貫いっかんして同意どういしている結論けつろんは、高こう品質ひんしつで多様たような訓練くんれん用ようデータが重要じゅうようだということです」と付つけ加くわえる。

やがては、この劣化れっかが原因げんいんで、マイノリティのグループに影響えいきょうを及およぼす情報じょうほうがモデル内ないで大おおきく歪ゆがめられるようになる。 モデルは、訓練くんれん用ようデータの中なかで比較的ひかくてき数かずが多おおいサンプルを過度かどに重視じゅうしする傾向けいこうがあるからだ。

MITメディアラボで計算けいさん法学ほうがくを研究けんきゅうするロバート・マハリ（先述せんじゅつの研究けんきゅうには関与かんよしていない）によると、現在げんざいのモデルはさらに多おおくの合成ごうせい（AI生成せいせい）データセットを必要ひつようとしているため、データが少すくなめの言語げんごに影響えいきょうを及およぼす可能かのう性せいがあるという。

劣化れっかを避さける対策たいさくはいくつか考かんがえられる。人間にんげんが作成さくせいした元もとデータを特とくに重視じゅうしするよう、モデルに仕向しむけることがそのひとつだ。シュマイロフ博士はかせの研究けんきゅうには続つづきがあり、将来しょうらいの世代せだいが元もとのデータセットの10%をサンプリングできるようにしたところ、負まけの影響えいきょうはいくらか軽減けいげんしたという。

この対策たいさくを実行じっこうするには、人間にんげんが作成さくせいした元もとデータから次つぎの世代せだいまでの軌跡きせき、いわゆるデータ来歴らいれきを記録きろくしなければならない。

しかし、データの出所しゅっしょを特定とくていするには、インターネットを人間にんげんが作成さくせいしたコンテンツとAIが生成せいせいしたコンテンツに分類ぶんるいする方法ほうほうが必要ひつようで、それはまだ確立かくりつされていない。現状げんじょう、テキストがAI生成せいせいであるか否ひかを判断はんだんするためのツールは数多かずおおく存在そんざいするが、どれも必かならずしも正確せいかくとは言いえない。

「残念ざんねんながら、分わかっていることよりも分わかっていないことのほうが多おおいのです」と、シュマイロフ博士はかせは言いう。「ただ、扱あつかうデータの代表だいひょう的てきなサンプルを取とり込こむには、データの出所しゅっしょと信頼しんらい性せいを把握はあくすることが欠かかせないのは明あきらかです」。

生成せいせいAI革命かくめい

記事きじ一覧いちらんを見みる

• 13

人気にんきの記事きじランキング

1. How ChatGPT search paves the way for AI agents 脱だつチャットGPTへ、オープンAIが強化きょうかするプラットフォーム戦略せんりゃく
2. Promotion NIHONBASHI SPACE WEEK 2024 アジア最大さいだい級きゅうの宇宙うちゅうビジネスイベント、東京とうきょう・日本橋にほんばしでまもなく開催かいさい
3. Promotion Innovators Under 35 Japan Summit 2024 in Nihonbashi 2024年ねんのイノベーターが集結しゅうけつ「U35 Summit」参加さんか者しゃ募集ぼしゅう中ちゅう
4. This AI-generated Minecraft may represent the future of real-time video generation AIがリアルタイムで作つくり出だす、驚おどろきのマイクラ風ふう生成せいせい動画どうが
5. The winners of Innovators under 35 Japan 2024 have been announced MITTRが選えらぶ、 日本にっぽん発はつU35イノベーター 2024年版ねんばん
6. Inside a fusion energy facility 2026年ねんの稼働かどう目指めざす、コモンウェルスの核かく融合ゆうごう施設しせつへ行いってみた

▼Promotion