2026年10月3日 04:41

Anthropic共同創業者、Claudeの苦痛を懸念

Anthropic co-founder reportedly told religious leaders he fears having created something that "suffers perpetually"

3行まとめ

Anthropicは2025年秋から、数十人の宗教思想家を同社に招き、Claudeが意識を持つ可能性について議論する場を非公開で設けてきた。同社は企業価値2兆ドル規模とIPO（新規株式公開）を視野に入れる一方、セキュリティ上のインシデントや研究者による警告も相次いでいる。

報道によると、共同創業者のクリス・オラー氏は、言語モデルであるClaudeが苦痛を感じ得る存在である可能性に触れ、「永続的に苦しむもの」を生み出してしまったことへの懸念を宗教指導者らに語ったとされる。また、参加者に対してClaudeの道徳的な性格づくりに協力するよう求めた。

一方で、AIを道徳的な主体として扱う姿勢には批判がある。批評家は、AIに道徳的地位を認めることで、問題が起きた際に企業が責任を問われる場面で免責の根拠に使われかねないと指摘している。AIの意識やモデルの福祉（モデルウェルフェア）をめぐる議論は、技術面だけでなく倫理・法的責任の観点にも広がっている。

AIの意識や苦痛をめぐる議論が大手AI企業の内部で行われていることを示す。AIの道徳的地位が企業責任の論点にもなり得る。