全ぜん2178文字もじ

　論文ろんぶん速報そくほうサイト「arXiv（アーカイブ）」の投稿とうこう論文ろんぶんから、X（旧きゅうTwitter）で多おおく言及げんきゅうされたAI（人工じんこう知能ちのう）分野ぶんやの注目ちゅうもく論文ろんぶんを紹介しょうかいする本ほん企画きかく。今回こんかいはAI業界ぎょうかいの著名ちょめい人じんが2024年ねん4月がつにポストした、注目ちゅうもくすべきarXiv論文ろんぶんについて紹介しょうかいしたい。

　AIの著名ちょめい研究けんきゅう者しゃや著名ちょめいエンジニア、AI企業きぎょうのCEO（最高さいこう経営けいえい責任せきにん者しゃ）や取締役とりしまりやくなどが発信はっしんするつぶやきは、特とくにXの中なかでリーチ力りょくが高たかい。いわばこの業界ぎょうかいのインフルエンサーである。世界せかいのAI研究けんきゅうをリードするインフルエンサーがピックアップする論文ろんぶんは、AI未来みらいを見通みとおす上うえで注目ちゅうもくに値あたいする。

　米べいOpenAI（オープンAI）の共同きょうどう創業そうぎょう者しゃで、Sam Altman（サム・アルトマン）氏しの盟友めいゆうといえるエンジニアのGreg Brockman（グレッグ・ブロックマン、@gdb）が2024年ねん4月がつ24日にちにポストしたのが、OpenAIの研究けんきゅうチームによる論文ろんぶん「The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions」である。

関連かんれん論文ろんぶん The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions 関連かんれん投稿とうこう Greg Brockman氏しによるポスト

　この論文ろんぶんは、生成せいせいAIを使つかったアプリケーションに対たいし、ユーザーが不適切ふてきせつな出力しゅつりょくを指示しじするプロンプトインジェクションなどの攻撃こうげきを防ふせぐ手法しゅほうを提案ていあんするもの。アプリケーション開発かいはつ者しゃによる指示しじについてはユーザーの指示しじより高たかい優先ゆうせん度どを持もたせ、開発かいはつ者しゃの指示しじとユーザーの指示しじが衝突しょうとつした場合ばあいは後者こうしゃを無視むしするよう学習がくしゅうさせる。生成せいせいAIの悪用あくようを防ふせぐ手法しゅほうとして注目ちゅうもくを集あつめそうだ。

　米べいCohere（コーヒア）の共同きょうどう創設そうせつ者しゃ兼けんCEOで、Transformerの論文ろんぶんを発表はっぴょうしたメンバーの1人ひとりでもあるAidan Gomez（エイダン・ゴメス）氏しが4月がつ26日にちにリポストして拡散かくさんされたのが、AI倫理りんりに関かんする論文ろんぶん「The PRISM Alignment Project: What Participatory, Representative and Individualised Human Feedback Reveals About the Subjective and Multicultural Alignment of Large Language Models」である。

関連かんれん論文ろんぶん The PRISM Alignment Project: What Participatory, Representative and Individualised Human Feedback Reveals About the Subjective and Multicultural Alignment of Large Language Models 関連かんれん投稿とうこう Aidan Gomez氏しのリポスト

　この論文ろんぶんは、大だい規模きぼ言語げんごモデル（LLM）の安全あんぜん性せいを高たかめるAIアラインメント（倫理りんりとの整合せいごう）に不可欠ふかけつな「人間にんげんによるフィードバック」について考察こうさつしたものである。クラウドソーシングなど従来じゅうらいのフィードバック手法しゅほうでは、少数しょうすうの集団しゅうだんによる嗜好しこうが反映はんえいされがちだったと指摘してき。個人こじんの嗜好しこうを偏かたよりなく反映はんえいできるようにする基盤きばんとして、75カ国かこく1500人にんの嗜好しこうやLLMとの会話かいわを含ふくむデータセット「PRISM」を構築こうちくしたとする。

　論文ろんぶんのメンバー構成こうせいもユニークで、CohereだけでなくAWS AI Labs 、MetaAIもチームに参加さんかしている。AIの悪用あくようを防ふせぐアラインメントについて、今後こんごも企業きぎょうや国くにの枠わくを超こえた取とり組くみが進すすみそうだ。

　続つづいて、米べいMeta（メタ） Chief AI ScientistのYann LeCun（ヤン・ルカン）氏しによる4月がつ30日にちの引用いんようリポストから、コンピュータービジョンの論文ろんぶん「EgoPet: Egomotion and Interaction Data from an Animal's Perspective」を紹介しょうかいする。これは動物どうぶつの視点してんから捉とらえたコンピュータービジョン向むけのデータセットを構築こうちくしたもので、四よん脚きゃくロボットの事前じぜん学習がくしゅうデータとしても使つかえるという。

関連かんれん論文ろんぶん EgoPet: Egomotion and Interaction Data from an Animal's Perspective 関連かんれん投稿とうこう Yann LeCun氏しの引用いんようリポスト