ぜん2072文字もじ

 自社じしゃシステムにChatGPTをはじめとする生成せいせいAIの機能きのう導入どうにゅうするのは簡単かんたんではない。たとえばChatGPTのAPIをもちいた簡易かんいチャットボットを開発かいはつしたとしても、実用じつようせいには課題かだいのこる。現在げんざいのChatGPTは2021ねん9がつまでのデータで学習がくしゅうしているため、無料むりょうばんのChatGPTでは「現在げんざい日本にっぽん総理そうり大臣だいじんだれ?」という質問しつもんをしてもまさしくこたえられない。また長文ちょうぶん入力にゅうりょくすることができず、複雑ふくざつ計算けいさんおこなわせることもむずかしい。

 こうした生成せいせいAIが苦手にがてとする処理しょりおぎなうフレームワークが注目ちゅうもくされている。OSS(オープンソースソフトウエア)として提供ていきょうされている「LangChain(ラングチェーン)」や「LlamaIndex(ラマインデックス)」などだ。のシステムやサービスと連携れんけいし、生成せいせいAIをおぎな処理しょりができるようになる。

さまざまなモジュールが用意よういされているLangChain

 LangChainには「Agent(エージェント)」「Prompt(プロンプト)」「Models(モデルズ)」「Memory(メモリー)」といったモジュールが用意よういされている。Pythonで記述きじゅつしたプログラムなどでこれらのモジュールを利用りようすれば、のシステムやサービスと簡単かんたん連携れんけいできる。

 たとえばAgentモジュールを利用りようすると、ChatGPTだけでは回答かいとうできなかった「現在げんざい日本にっぽん総理そうり大臣だいじんだれ?」といったいにたいしてGoogle検索けんさく結果けっかかえせるようになる。GMOペパボの栗林くりばやし健太郎けんたろう取締役とりしまりやくCTO(最高さいこう技術ぎじゅつ責任せきにんしゃ)は「エージェントが外部がいぶサービスとのやりりを代行だいこうできる。これにより、ChatGPTなどのだい規模きぼ言語げんごモデル(LLM)がらない情報じょうほう取得しゅとくできる」と説明せつめいする。

Agentモジュールを使えば、LLM機能を拡張できる
Agentモジュールを使つかえば、LLM機能きのう拡張かくちょうできる
出所しゅっしょ日経にっけいクロステック)
[画像がぞうのクリックで拡大かくだい表示ひょうじ]

 Promptモジュールを使つかえば、った入力にゅうりょくもとにプロンプトを生成せいせいしたり、大量たいりょう教師きょうしデータからプロンプトに入力にゅうりょくするデータを選択せんたくしたりできる。たとえば「○○についておしえてください」というテンプレートをつくり、○○の部分ぶぶん可変かへんにしておく。こうすることで、利用りようしゃ入力にゅうりょくした可変かへん部分ぶぶんてはめてプロンプトをつくり、ChatGPTにわせられる。

 Modelsモジュールでは、さまざまなサービスが提供ていきょうしているモデルをえたり、わせたりできる。このモジュールを使つかうことで、べいOpenAI(オープンAI)が提供ていきょうするGPT-4などのモデルと、他社たしゃ開発かいはつしたモデルをわせて利用りようできるようになる。またMemoryモジュールではChatGPTとのやり履歴りれき保存ほぞんできる。過去かこのチャット内容ないようなどをぎたいときに便利べんりだ。