今年11月の米大統領選で、アフリカ系アメリカ人の有権者に共和党への投票を促すため、ドナルド・トランプ前大統領の支持者らが、人工知能（AI）で偽物の画像を生成・拡散している。BBC調査報道番組「パノラマ」が明らかにした。 BBCの調査では、黒人有権者が前大統領を応援しているように見えるディープフェイク（AIを使って本物のように加工した画像や動画）が多数見つかった。
2023年1月下旬から2月にかけて、世界的シンガーソングライターであるテイラー・スウィフト氏のディープフェイクポルノがインターネット上で拡散される事態となり、X(旧Twitter)では拡散防止のため一時「Taylor Swift(テイラー・スウィフト)」が検索不可能になりました。そんなスウィフト氏のAI製ポルノ画像は、海外掲示板の4chanで行われている「画像生成AIのセーフガードを突破するチャレンジ」の参加者がゲーム感覚で作った可能性があるとのことです。 Fake and Explicit Images of Taylor Swift Started on 4chan, Study Says - The New York Times https://www.nytimes.com/2024/02/05/business/media/taylor-swift-ai-fake-images.
SNS上の行動履歴などを基に、利用者におすすめのコンテンツを紹介する“レコメンドAI”を悪用することで、特定の人物に偽情報を見せられる──セキュリティ事業を手掛けるフィンランドF-Secureの日本法人F-Secure Japanは6月25日、こんな可能性を指摘した。 同社はTwitterのデータを学習した機械学習モデルを利用し、どれだけのリツイート数があればレコメンドAIが偽情報を特定のユーザーにおすすめするか検証。数百のアカウントがあれば、特定のユーザーに偽情報を表示できることが分かったという。 例えば2019年12月の英国総選挙に関するツイートを使った実験では、偽情報が含まれる投稿を何アカウントがどれだけ拡散すれば、ターゲットとなるユーザーに“おすすめツイート”として見せられるか検証。 その結果、ランダムに選んだ200アカウントが10件の投稿を1回ずつリツイートすれば、約50％の確率
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く