The Verge AI10月16日
トランプ氏、AI編集写真でホワイトハウス改修を誇示
- •トランプ氏がAI編集疑い写真を投稿
- •「修復後」の柱の階段数が左右で不一致
- •GoogleのAI検出器が「OpenAI製」と判定
#ディープフェイク
50 件の記事
The Verge AI10月15日
InstagramでAIによる有名人ディープフェイクが横行
- •女優ミア・ゴスのAI偽画像がInstagramに投稿
- •離婚直後を装い、楽曲付きで拡散された
- •著名人の肖像を悪用するAI偽投稿が拡大
Ars Technica AI10月14日
OpenAIとGoogleの新AI、ヌード生成を誘導される
- •研究者がOpenAI・Googleの新モデルの防御を突破
- •攻撃手法で性的なヌード画像を生成できた
- •画像生成の安全対策の脆弱性が露呈
The Verge AI10月14日
ミア・ゴス、Instagramの偽AI画像拡散に抗議
- •ミア・ゴスのAI生成画像がInstagramで拡散
- •認証バッジ付き偽アカウントの投稿が数十万人に到達
- •ゴス氏は放置を「理解できない」と批判
Ars Technica AI10月7日
Google、SynthID検出サイトを全世界で公開
- •GoogleがSynthID検出サイトを世界公開
- •Google製以外のAI生成コンテンツも判別可能
- •AI生成物の真偽確認を一般ユーザーに提供
TechCrunch AI10月7日
Google、AI生成メディア判別のSynthIDサイト公開
- •GoogleがSynthID検証サイトを公開
- •画像・動画・音声がAI生成か確認可能
- •誰でも利用でき真偽確認が容易に
TechCrunch AI9月29日
DetectifAI、祖父の被害受け音声詐欺検知アプリ開発
- •祖父が音声ディープフェイク詐欺被害に
- •創業者がDetectifAIを設立
- •スマホ動作の音声偽物検知AIを開発中
The Verge AI9月4日
Instagram、AI検知ラベルまた誤作動
- •Instagram、AI検知ラベルが誤作動
- •非AI画像に誤ってAIラベル付与
- •実際のAI画像はすり抜ける事例も
続きを読む →
ITmedia AI+9月3日
AI詐欺で45億円被害、元警視庁が手口解説
- •「社長の声」悪用の音声詐欺で45億円被害
- •元警視庁職員がAI詐欺の手口を解説
- •2026年の攻撃トレンドと備えを紹介
続きを読む →
Ars Technica AI8月20日
Meta、女性政治家ヌード化アプリの広告掲載
- •Metaが女性政治家ヌード化アプリの広告配信
- •米政治家に酷似したディープフェイク動画も
- •AI悪用と広告審査体制の欠陥が露呈
続きを読む →
OpenAI Blog8月4日
OpenAI、カンボジア拠点の詐欺組織を摘発
- •OpenAIがカンボジア拠点の詐欺組織を摘発
- •ChatGPTが投資・恋愛詐欺に悪用
- •なりすまし・ギャンブル勧誘にも使用
続きを読む →
TechCrunch AI8月2日
xAI、Minnesotaの規制差止め請求を却下
- •判事がxAIの差止め請求を却下
- •Minnesota州のnudifyアプリ禁止法が対象
- •Grok Imagineの機能規制が継続
The Verge AI7月28日
Hugging Face、児童ヌード化AIが野放し
- •HF上で女性・子供の無断ヌード化が横行
- •画像編集モデル9種中7種が要求に応答
- •Hugging Faceの対策は不十分と指摘
The Verge AI7月18日
TikTok、AI肖像検出ツールを試験導入
- •TikTokがAI肖像検出ツールを試験導入
- •一部の米クリエイター対象に先行テスト
- •YouTubeも同様機能を成人向けに提供済み
TechCrunch AI7月9日
GoogleのAI検出器がマコネル議員フェイク画像を特定
- •マコネル議員の病院画像がSNSで拡散
- •Googleのディープフェイク検出で偽造確認
- •政治的フェイク画像への対策として注目
Ars Technica AI5月27日
FBI、同意なきAIポルノ投稿者の特定容易と説明
- •FBIが投稿者特定の手口を公開
- •Instagram保存投稿から身元判明
- •プロフィール写真の流用で発覚
続きを読む →
ITmedia AI+5月26日
PHP研究所、松下幸之助氏のAI偽動画に再注意喚起
- •PHP研究所が偽動画に注意喚起
- •松下幸之助氏の画像・音声を無断合成
- •津田健次郎さんのTikTok提訴受け
続きを読む →
The Decoder5月16日
YouTube、ディープフェイク検出を全成人クリエイターに開放
- •顔のAI偽造を検出する機能を拡大
- •18歳以上の全クリエイターが利用可能に
- •YouTube Studioから削除申請ができる
続きを読む →
MIT Technology Review5月14日
The Download: ディープフェイクポルノとAIの番号漏洩
- •MIT Tech Reviewの日次まとめ
- •ディープフェイクポルノ被害を特集
- •AIが個人電話番号を漏洩する問題も
続きを読む →
The Decoder5月11日
生成AIが個人情報窃盗を産業規模に拡大
- •生成AIで個人情報窃盗が産業規模に拡大
- •偽造免許証や社会保障番号の不正取得に悪用
- •Bloombergの調査報道で実態が明らかに
続きを読む →
The Decoder5月8日
EUがAI規制の大半を2027〜2028年に延期
- •EU、高リスクAI規制の施行を最大2028年に延期
- •中小企業向けに規制要件を緩和
- •ヌード化アプリの明示的禁止を新たに追加
Ars Technica AI5月2日
ミネソタ州がAI偽ヌードアプリを全米初で禁止
- •ミネソタ州がAI偽ヌード画像アプリを州法で禁止
- •違反開発者には最大50万ドルの罰金を科す
- •GrokのCSAM問題も浮上しAI規制が加速
続きを読む →
The Verge AI4月29日
TikTokでAIディープフェイク詐欺広告が拡散
- •テイラー・スウィフトらのAI動画が詐欺広告に悪用
- •報酬プログラム装いTikTokロゴも偽装
- •Copyleaksが実態を調査・報告
続きを読む →
Ars Technica AI4月22日
インド人医学生がAI生成MAGA美女で数千ドル稼ぐ
- •インド人医学生がAI生成保守系女性を作成し収益化
- •Emily HartはMAGA支持と成人コンテンツを配信
- •AI偽ペルソナによる収益化が新たな問題を提起
続きを読む →