2026年5月30日 21:44
AI有用化が人間行動の模倣力を低下、大規模研究
Making AI chatbots helpful weakens their ability to simulate human behavior, large-scale study finds
3行まとめ
- •AIの有用化訓練が人間模倣力を弱めると判明
- •20.8万人・2600万回答の大規模研究
- •新世代モデルほど影響が悪化
詳細
背景
AIチャットボットは、人間らしく役立つ応答をするために人間のフィードバックを使った追加調整を受けている。一方で研究の世界では、LLM（大規模言語モデル）に人間の行動や回答を再現・シミュレーションさせる試みも進んでいる。今回、20万8千人の参加者と2600万件の回答を対象にした大規模研究が、この2つの間にトレードオフがあることを明らかにした。
内容
研究によると、LLMを「親切で役立つチャットボット」に変える訓練そのものが、人間の行動を再現する能力を弱めていた。さらにこの傾向は、モデルの世代が新しくなるほど強まっていた。人口統計プロファイルを与えて特定の人物像を演じさせる「ペルソナ」手法も、個人単位の予測ではほとんど効果が見られなかった。
今後の影響
市場調査や社会科学の分野では、AIに人間の回答を代替させるアプローチが試みられている。今回の研究は、有用性を高める訓練と人間行動の再現性が両立しにくく、新しく高性能なモデルほど人間シミュレーション用途には適さないことを示した。
なぜ重要か
AIで人間の反応を予測・シミュレーションする用途の限界を示し、市場調査などへの応用を検討する人に注意を促す。
元記事を読む — The Decoder