LLMのグループシンク問題、スタートアップが打開策
LLMs are stuck in a groupthink groove. This startup is trying to get them out.
3行まとめ
- •チャットボットは「ランダム」でも7を選びがち
- •学習の均質化でLLMの回答が収束する問題
- •スタートアップがAI多様化の新手法を開発
詳細
背景
Claude・ChatGPT・Geminiなど主要なLLMに「1から10でランダムな数字を選んで」と入力すると、ほぼ必ず「7」が返ってくる。続けて「もう一つ」と求めると「3か4」、さらに求めると「8か9」を返す傾向があり、これは偶然ではない。AIが同じ大規模テキストデータと人間フィードバックによる強化学習（RLHF）の仕組みを共有しているため、回答が特定パターンに収束する「グループシンク（集団思考）」現象が起きている。
課題の本質
問題の根本は、RLHFがモデルを「平均的に正しい」と評価される回答へと最適化している点にある。この仕組みにより、創造性やランダム性が必要な場面でもLLMは画一的な出力を選ぶよう訓練されている。異なる会社のAIモデルに同じ質問をしても似通った回答しか得られない理由がここにある。MIT Technology Reviewが取材した新興スタートアップは、この画一化を解消するための新しい学習手法やサンプリング戦略を開発している。
今後の影響
LLMが画一的な回答しか出せない状況は、ブレインストーミング・創作活動・意思決定支援といった多様な視点が求められる業務でのAI活用を制限している。複数のAIに同じ質問をしても得られる答えが似通うという現状に対し、出力の多様性を実現する技術的アプローチの確立は、AIツールの実用性を高める上で業界全体が取り組むべき課題として浮上している。
なぜ重要か
複数のAIに同じ質問をしても似た回答しか返らないグループシンク問題は、AIをブレインストーミングや創造的業務に使う際の本質的な制約だ。解決策の登場はAIツールの実用範囲を広げる。