(Translated by https://www.hiragana.jp/)
人に搾取的意思決定を促す自己犠牲エージェント
人工じんこう知能ちのう学会がっかい全国ぜんこく大会たいかいろん文集ぶんしゅう
Online ISSN : 2758-7347
だい37かい (2023)
セッションID: 3I1-OS-4b-04
会議かいぎ情報じょうほう

ひと搾取さくしゅてき意思いし決定けっていうなが自己じこ犠牲ぎせいエージェント
天野あまの長谷川はせがわ さとしだい*伊藤いとう りょう寺田てらだ 和憲かずのりセルス ドゥメル
著者ちょしゃ情報じょうほう
会議かいぎろく要旨ようししゅう フリー

詳細しょうさい
抄録しょうろく

ひととAIが協力きょうりょくてき関係かんけい構築こうちくすることはられている.しかし,搾取さくしゅてき関係かんけいとくひとがAIを搾取さくしゅする関係かんけい構築こうちくする方法ほうほう未知みちである.他者たしゃとのきょうはたらけ場面ばめんにおける協力きょうりょくてき行動こうどう選択せんたくは,評判ひょうばんなどの事前じぜん相手あいて情報じょうほうと,インタラクションちゅう観察かんさつされる相手あいて行動こうどう出力しゅつりょく履歴りれきから構築こうちくされる相手あいてモデルによって予測よそくした行動こうどうおうじて決定けっていされる.我々われわれは,にん社会しゃかいてき価値かち志向しこうせい(Social Value Orientation : SVO)にもとづいた合理ごうりてきエージェントの生成せいせいモデルを相手あいてモデルとしてち,観察かんさつされた状況じょうきょう行動こうどうから,相手あいてのSVOを推論すいろんし,それにもとづいて相手あいて行動こうどう予測よそくをするとかんがえる.ほん研究けんきゅうでは,かえし(iterated)囚人しゅうじんのジレンマにおいて,マゾキズム(masochism),殉死じゅんしてき(martyrdom), 利他りたてき(altruistic)をふくむ,SVO角度かくどを0から180まで22.5ずつに区切くぎって生成せいせいしたSVOに対応たいおうした6種類しゅるい表情ひょうじょうパターンを表出ひょうしゅつし,つね協力きょうりょく選択せんたくするAIにたいしてひと協力きょうりょく選択せんたくするかかを計測けいそくした.実験じっけん結果けっかにん殉死じゅんしてき表情ひょうじょうパターンのAIを搾取さくしゅすることがわかった.

著者ちょしゃ関連かんれん情報じょうほう
© 2023 人工じんこう知能ちのう学会がっかい
まえ記事きじ つぎ記事きじ
feedback
Top