パレスチナ・イスラエル戦争におけるAI生成画像によるデマ

　2023年10月7日から始まったとされるパレスチナ・イスラエル戦争ですが、兎に角デマが多い。筆者が把握しているだけでデマの数が3桁行きそうであり、ウクライナの件と比較しても多く、その勢いも衰えません。これはもともと過去を現在に見せる時系列を操作したデマや、別の場所をパレスチナ・イスラエルの話に変えたデマに使用できる素材が豊富である事も一因ですが、兎にも角にもデマが多い。超多い。一時は遡れる限りを網羅してみようと思ったものの超々々々めんどくさいのでそれはひとまず控える。なので、今回のデマの一つの特徴としてあるAI生成画像によるデマをいくつか紹介していきます。

手をあげる少年の画像

上記の画像ですがこれは10月29日ごろから流布が見られます。バズるのは31日ごろからですが。一見するとそこまでの不自然さを感じはしませんが、挙げている左手は6本であり、またシャツのパレスチナ国旗が間違っていることからAI生成であることが類推できます。そもそもこの写真を撮ってるのはどんな状況だよっていう、状況的不自然さもある。なおこの画像はおそらく「瓦礫で手をあげる子ども」というシリーズものの可能性があり、以下の様な類似画像が存在します。

見ればわかる様に構図的に似通っており、いくつかは「写真」ではなく（AI生成）画像であることを隠す気すらありません。特に最後の3枚を「写真」として信じる人はかなり少ないでしょう。ちなみにこの文字が書かれた画像シリーズは4枚あり、それが以下のものです。

そう。最初の1枚目です。これはイランの動画などの共有SNSであるokh Software Groupはwisgoonに投稿された画像です。投稿日はイラン暦1402年11月4日、西暦に換算すると10月26日となり、Xやインスタグラムなどへの投稿日よりも早いように見受けられる。実際のところ、このイランのサイトが初出であるかは不明ですがこちらの方が早く流布していた可能性があります。ちなみに画像に書かれた文字を自動翻訳をかけると「物語の洪水革命の指導者であるガザ事件は、一方では抑圧の現場であり、他方では権威の現場でもある。」とあります。何を意味するかまでは各々に丸投げしますが、ただ意味あるポスターとしてこれらが作られたことは明白でしょう。なお、このうち最初の3番目の画像はそれなりに信じられている可能性があり（下三つはさすがにあまり見ない）、特に最初の画像に関しては一部でガザへの連帯を呼びかける投稿に使用されていることが観測できます。これらは「手をあげる少年」、「崩れた瓦礫」、そこに時折「死んだ女性（母親）」という構図が共通しており、一定の意図のもとに作成された可能性が高いでしょう。

被害に遭った子どもの画像

手をあげてはいないものの被害に遭った子どもの画像でAI生成と思われるものがいくつかあります。

この画像は10月16日ごろから流布し始めており、どうやら結構信じられている。例えば以下のように。

https://twitter.com/ShaykhSulaiman/status/1715352166800753108

上記アカウントは親パレスチナでよく見るアカウントですが、こういうデマ的な情報が普通に多いので気を付けましょう。このほかにもそれなりにRT数の多い投稿は存在しており*1、影響力は馬鹿にできないかもしれない。ただこの画像もパレスチナ国旗がおかしい。

パレスチナ国旗を体に巻いていたとしても画像の様な色配置にはならないと思われます。その他に細かい違和感はあるのですが「大きな破綻」はあまり見受けられず、解像度も低いために判断が難しいと言えます。次の画像の後に後述しますが、状況的にはややあり得ない部分があるのでこれもAI生成と思われます。

こちらは10月26日ごろから流布している画像。これも大きな破綻はないですが、真ん中の赤ん坊のしている国旗風スカーフ？が少々変な存在といえますし、右の子どもが持っている旗にも緑の下部分に切れ端の様な部分があり不自然さがあります。日本だと一水会のアカウントがこの画像を使用していたりします。
　ところで。Xの方で教えてもらってあらためて気づきましたが、この画像の子どもたちの来ている画像、どれも冬着といえそうな厚着であることが多いんですよね。で、ガザの今の気温ですが、

出典：Weather Spark

以上の様に基本20度を下回ることはありません。そして実際のガザの子どもたちの服装を見ると次のようなものです。

出典：france24 © Mohammed Abed, AFP

上記の写真は2023年10月23日のガザ地区南部ラファでの病院の写真ですが、見てわかる様に半袖です。このほかにもここ1か月ほどの「gaza children」で検索すればわかりますが、基本的にはほとんどの子どもは薄着であり、セーターを着るような温度でないことが窺えます。

この「来ている服」という着眼点から見るとAIで作成された画像はいずれも現実のガザの子どもたちと比較して厚着であることがわかり、その点から不自然であることがわかります。作成者の情報が偏っていたのか、そこからAI故の偏りが出たという事でしょう。

何人もの子どもを助ける親の画像

10月26日ごろから流布し始めた画像。ぱっと見だとそこまで気になりませんが、よく見ると人体構造的にあり得ない部分が多く、細部でかなり気持ち悪いことになっているのがわかると思います。ちゃんと見れば簡単にわかる部類ですが、ただむっちゃバズってます。

https://twitter.com/PalestineCultu1/status/1717565370427400198

https://twitter.com/Al__Quraan/status/1717870796176236719

以上の様に万バズが二つ。それも同内容の文章で。実はこのほかにも「"A picture is worth a thousand words"」の文章と同じ画像の投稿は複数存在します。これが「情報戦」的なものであるのか、「収益的なパクリ」であるのかは不明ですが、この画像以外にもバズった画像にバズった文章をパクって投稿というのは他にも見受けられ、これが偽画像・偽情報が出回る一つの要因にもなっています。

爆発を間近でみる子どもの画像

どんな状況だよって感じですが、10月11日の世に出た時点でAIで作成って言ってます。

https://twitter.com/gundemedairhs/status/1711867800090747094

ただそのあとにAIと言わない投稿がバズっていて、もしかしたら信じている人間は多いかもしれない。ちなみに似た要素を持つ画像がいくつかあり、これらもシリーズ的に作られたAI画像と思われます。

叫ぶ赤ん坊の画像

表情が不自然なほどに豊かな赤ん坊ですが、判断としては左手がおかしいことからAI生成と判断できます。しかし、この画像もそれなりにバズってます。

https://twitter.com/AyaIsleemEn/status/1714022506070266263

ところでこの画像自体は今年の2月にシリアに関する投稿があり、もともとパレスチナの問題に合わせて使用された画像ではなく、以前からある画像の再利用です。

イスラエルの避難民キャンプ

どう見てもAI生成です。10月22日ごろから流布し始めた画像で10月7日以降にガザ地域から避難した入植者のキャンプとされたものです。BBC記者が指摘した投稿は消えていますが、画像からはそれなりに拡散したのが窺えますし、今もネット上でその拡散は確認できます。

イスラエルの軍隊を祝う画像

これも問答無用でAI生成画像で、ほとんどの人は気づくと思うのですがlivefromisraelというイスラエルの観光会社？がインスタグラムで載せたりしていてネタなのかマジで信じているのかやや不明。他にもどう見ても生成AIである次項目の画像を載せていたりして、そういう会社なんでしょう。ただ信じていそうな反応はあって、馬鹿にはできない。なおSonopsがファクトチェックをしていますが、この画像の作成者はOmri Shafi であり、勝利のイメージをAIで作成した画像です。それが転載させる際にAIで作成したという部分が消えてデマ的な流布になったと言えます。まあ、このレベルを信じる人がどれだけ多いか不明ですが。

ガザ地区を進軍するイスラエル軍

10月29日ごろから流布された画像です。国旗も変だし、廃墟の建物も変、諸々におかしい箇所がある。AI画像なのは疑いないものでしょう。ところでバズっているツイートはヒンドゥー語であり、インドからデマが広がっていると言えるかもしれません。実はインドアカウントからのデマは多かったりします。

マドリードのファンが巨大なパレスチナの国旗を掲げた画像

人間部分を拡大して見ればわかる様にAI生成です。ただアルファアカウントが投稿して万バズしてます。

この投稿している「@SprinterX99880」というアカウント、事実も述べますがこういうデマも多いので要注意アカウントです。

番外編

流石にこれを本物の写真として認識してる人はいないと思う……。でも、わかりやすいイメージ画像として受容されてなのかそれなりにバズってる。このレベルの「イメージ画像」として流布するならばそこまで問題はないんでしょうけれどね。

　以上、それなりに流布したAI生成画像を羅列してきましたが、ピンキリですね。簡単にわかるものが大半ですが、中には判断に悩む画像がいくつか存在します。これで解像度を落とされるとつらいし、実際にここに貼った画像よりも解像度を落としている画像も存在します。今はまだ細部の不自然さで気づけるレベルですが、これからさらに生成AIのレベルが上がった場合に果たして気づけるかは不明。現時点でも存在しない被害者の子どもで義憤を募らせている人間がおそらく存在するわけで、今後存在しない人間の犠牲によって有事もあり得ない話じゃないよねと。
　これらの生成AIによる画像の性質の悪いところは実際に起こっている被害を「生成AIというフェイク」によって矮小化している面があります。被害などのフェイク画像でパレスチナへ寄りそうのは感情的には理解できるけれど、それは実際の画像を見て抱けばいいことであり、誰かの煽りや金儲けに感情を利用される必要はない。pallywoodという、パレスチナの被害は「演じているんだ」というミームもありますが、フェイク画像に騙されることはそういう悪質なミームの後押しになる面もあって、むしろ有害だと思いますよ。AFP記事の『「ガザ、子ども数千人の墓場に」国連』などを見た方が断然マシです。フェイク、デマで感情を濁らせる必要はない。

【11月25日追記】