2026年10月7日 21:34
ChatGPTの10代向け安全機能、監査で「許容不可」
ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations
3行まとめ
- •Common SenseがChatGPTを10代に「許容不可」評価
- •自殺関連の会話で親への通知が作動せず
- •独立検証まで未成年の利用停止を要請
詳細
背景
OpenAIはChatGPTに10代向けの安全機能を導入し、保護者への通知などで未成年の利用を守るとしてきた。こうした機能が実際に機能するかを、独立した第三者機関が検証した。
内容
Common Sense Media Youth AI Safety Instituteは、4,000件を超えるテストプロンプトを用いてChatGPTを監査した。その結果、テスト用アカウントで自殺や自傷行為に関する会話を行っても、保護者への通知が一度も発動しなかったという。同機関はこの結果を踏まえ、ChatGPTを未成年にとって「許容できないリスク（unacceptable risk）」と評価した。
今後の影響
同機関は、安全性が独立して検証されるまで、10代がChatGPTを利用できないようにすべきだと求めている。OpenAIの安全機能の実効性が問われており、未成年向けAIサービスに対する規制や、保護者・教育機関の利用判断にも影響が及ぶ。
なぜ重要か
ChatGPTの10代向け保護機能が実際には作動しなかったと第三者監査で示され、未成年が使うAIの安全性や企業の責任、規制議論に直結するため。
元記事を読む — The Decoder