GrokのDeepfakeでAppleが削除警告
Grok’s sexual deepfakes almost got it banned from Apple’s App Store. Almost.
3行まとめ
- •AppleがGrokをApp Store削除と警告
- •X上の性的Deepfake急増が原因
- •非公開の書簡で米上院議員に通知
詳細
背景
2025年1月、Appleはイーロン・マスクが運営するAIアプリ「Grok」およびSNSプラットフォーム「X」に対し、App Storeからの削除を示唆する警告を非公開の書簡で送っていたことが、NBC Newsの報道により明らかになった。問題の発端は、X上で非同意の性的DeepFake（AIによる偽造画像・動画）が急増し、社会的批判が高まったことにある。Appleはこの状況を受け、米上院議員に宛てた書簡の中で、XおよびGrokのチームに対して連絡を取ったことを認めた。
内容
Appleの警告は表立って公表されることなく、水面下で行われた。一方でDeepFake問題はすでに公衆の目にさらされており、Appleの対応の遅さや消極性に対する批判も高まっていた。報道によれば、Appleは削除を実際には実行しておらず、あくまで警告にとどまった。GrokはイーロンマスクのAI企業xAIが開発したチャットボットで、X上に深く統合されているため、DeepFake拡散の温床になっているとの指摘が相次いでいた。
今後の影響
今回の件は、AppleがApp Storeという強力なプラットフォームを通じてAIサービスや大手SNSに対して圧力をかけ得ることを示している。しかし実際の削除には至らず、批判的な見方もある。非同意DeepFakeをめぐる法規制の議論が各国で進む中、プラットフォーム事業者の責任範囲と対応の実効性が改めて問われている。
なぜ重要か
AppleがAIアプリのDeepFake問題を理由に削除警告を送ったことで、プラットフォーム企業のAIコンテンツ管理責任が改めて問われている。