2024年アメリカ大統領選を左右する！？　ポスト真実の時代をつくる「AIの存在」

7月13日、ペンシルバニア州で行われた選挙集会で、ドナルド・トランプ前大統領が狙撃される暗殺未遂事件が起き、2024年アメリカ大統領選を大きく揺るがしている。

一方で現在、AIが選挙選で両陣営のプロパガンダ拡大に利用され、偽情報が爆発的に拡散される懸念が危機的に高まっている。選挙に大いに影響を与える情報操作のキーとなるAI生成画像やディープフェイク動画と選挙の現在地を探ることで、アメリカに再び暴力的なまでの大分断の波がやってくるのか、それとも党派を超えた国民の融和と結束は実現されるのだろうか。

先日バイデン大統領が撤退を発表し、より混迷を極めるアメリカ大統領選、今一度冷静に見つめてみたい。

ポスト真実の時代

“黒人有権者に囲まれ微笑むトランプ氏の写真”ーXなどのフィードにそうした画像が流れてくる。

2024年3月、ドナルド・トランプ前大統領の支持者らがAI生成画像を拡散していることが報じられた。黒人有権者がトランプ氏を応援しているような画像は多数生成されており、よく見れば生成AI画像だとすぐに分かるが、インターネットリテラシーの薄い層には真偽の判断は最早難しいレベルといえるだろう。

実際に黒人有権者層をいかに取り込むかは大統領選の度にキーポイントとなっており、トランプ氏自身も黒人層に働きかけている。支持者らによる過激な情報戦は11月に向けて更に加速する可能性もあるだろう。

また民主党の候補指名を争っているフィリップス下院議員の支援団体PACは、フィリップス氏をモデルとした対話型AIをインターネット上に公開し、一時問題となった。フィリップス氏の演説内容を学習し有権者からの質問に本人のような話しぶりで応対をするが、虚偽の情報が拡散される可能性があるとして当初から専門家の懸念があった。

2024年1月には、大統領選予備選を前にしてバイデン大統領に似せてAIで生成された音声を使い、予備選で投票しないように指示する電話が住民の多くにかかってきた。ニューハンプシャー州での受電は数千件とも伝えられており、この事件で選挙妨害などを行ったとして政治コンサルタントが逮捕されている。

音声のみならず、ヒラリー・クリントン元米国務長官やバイデン大統領のイメージ失墜を狙ったディープフェイク動画もネット上に出回っており、ディープ・フェイク動画全体は以前の3倍ほど増えている。

生成AIによる選挙に関するフェイクニュース拡散は、ここ1年で生成コストが格段に下がったことにより利用者が増え、以前より更に活発になった印象がある。

2024年3月、NPO「反デジタルヘイトセンター」はChat GPT＋やミッドジャーニーなどを使用し、選挙に悪影響を与える虚偽の画像生成が可能か実験を行っている。いくつかのAIツールでは政治家のイメージなどがジェネレイトできないようにブロックがかかっているものの、全く生成可能なツールもあり、また一躍社会的分断を巻き起こしたフェイクニュースである「不正選挙」のイメージに関しては、“投票用紙を盗む”、“破棄する”、“投票箱を破壊する”、といった画像はどのツールでもいとも簡単に生成可能であった。

「私たちはポスト真実の時代に入った」

2016年、イギリスのEU離脱を報じる英名門紙「フィナンシャル・タイムズ」のウェブ記事コメント欄に、一読者がこう書き込んだ。離脱派のなりふり構わない印象操作を批判して使われた“Post truth”という言葉だが、現代のAIと情報の関わりに対してこれ以上最適な表現はないだろう。

2024年の今、フェイクニュースの手段は虚偽の写真風画像・音声データ・動画のAI生成という、もはや真実を追及することが困難かと思われるような精巧な偽りの“証拠”を伴うものになってきている。これだけ偽情報が氾濫し始めれば、有権者が真実のデータに対しても簡単に不信の目をむけることができる。「ポスト真実」の時代は、想像より更に過酷だ。

ビスマルクの情報操作が戦争を呼び起こす

アメリカ大統領選でのフェイクニュースの応酬は2016年から既に問題になってきたが、2021年にそうしてもたらされた分断と暴力的なフェイクニュースの横行により、ついには議会議事堂襲撃という衝撃的な暴動が起きたことは記憶に新しい。

ただしこうした“デマ”の流布は、今に始まったことではない。

現代では「オールドメディア」と呼ばれる新聞、雑誌といったマスメディアなども、かつてはその流布のツールとなってきた。

歴史的なフェイクニュースの事件として有名なものに「エムス電報事件」がある。
これはスペインの王位継承権をフランスと争っていたプロイセンの首相ビスマルクが、国王ウィルヘルム1世に謁見したフランス大使の会談内容を大使が国王を『恫喝』し、国王はそれを毅然として跳ね返したなどと強調する印象操作を行い、主要紙「アルゲマイネ・ツァイトゥング」ほかにリークした1870年の出来事である。フランスの強硬な姿勢が演出されたため、独仏両国の互いに対する感情が悪化し、この事件は普仏戦争勃発のきっかけになった。

こうした意図的な情報改変と流布は政治の場で多く行われ、歴史的影響を与えてきた。
インターネットの普及により国家ぐるみのプロパガンダは容易に裏側を覗き見れるようになったが、現在は流布の方法がマスメディアからSNSへと移行したことにより、発信者の数も膨大な有象無象のフェイクニュースが溢れだす世界へと変貌を遂げた。

AIを創る者に問われること

海外の選挙でもAIによるフェイクニュースの影響は深刻である。

こうした世界的なAIによるフェイクニュース流布と選挙への悪影響を受け、IT各社は対応を迫られている。

アメリカのGoogleやMicrosoftなどIT企業20社は、2024年度の世界各国選挙に悪影響を及ぼさないよう対策を講じることを、ドイツで開催された安全保障会議で連盟発表を行った。今後はAIによって作成されたフェイク動画や音声を利用者が識別できるような技術開発に取り組むとしている。

OpenAIはアメリカ大統領選でのChatGPTなどの自社技術使用を初めて禁じた。上述したフィリップス下院議員の対話型AIも1月下旬から利用停止となっている。

しかし対策案として言及されることの多い画像の「電子透かし」は、スクリーンショットでは表示されないなど、抜け道はいくらでもある。現状アメリカでは各社への自主規制に一任しており、取り組みを強制する法律は無い。

AIは分断に左右されない政治家にも成りうるか

アメリカワイオミング州のシャイアン市長選には“AIそのもの”が出馬している。実際の立候補者ヴィクター・ミラー氏は、当選した場合はAIが指揮を取ると公約にかかげた。ミラー氏は自身が開発したAI「VIC」がどの公務員よりも優れているとし、また党利党略に左右されず最適な対策を導き出せ、レスバイアスな存在であり、アメリカの分断を乗り越える客観性をもたらすと主張している。ただし上述したOpenAIからの利用停止措置により、VICは運用を一時中止し、他社AIへの移行を模索しているという。

AIは意見集約、課題分析が得意である半面、利害調整、合意形成など人間的感情に訴えかける部分が不得意と言われていたが、近年の著しい技術革新により実現可能になってきている。確かに党利や政治主張を超えた冷静な意見を示しやすく、今後AIが政治に良い形で参画する未来も近いだろう。ただし参照ビックデータがすでに偏っており、差別的バイアスなどが組み込まれてしまう可能性や政治的多様性が失われる危険性も孕んでいることは、厳しく注視しなければならない。

アメリカではトランプ氏暗殺未遂事件直後から、即座にトランプが星条旗をバックに拳をつきあげる象徴的事件写真がTシャツになりタトゥーになりミームになって、商品やSNS投稿として販売・拡散されている。超資本主義社会のダイナミックさは圧倒的だ。

政治広報活動や選挙に対する印象・情報操作活動の活発さも、そうした波の激しさに裏打ちされ留まることはないだろう。暗殺未遂事件すらAIに取り込まれ、なんらかの形で出力され選挙活動に利用される近い未来が見え隠れする。

AIを政治でどのように運用してゆくか、今こそ人間のモラルが試されている。

参考文献

“Trump supporters target black voters with faked AI images”
BBC
https://www.bbc.com/news/world-us-canada-68440150

「OpenAI、米大統領選挙でAI利用禁じる　初の措置」
日本経済新聞
https://www.nikkei.com/article/DGXZQOCB220730S4A120C2000000/

“Political consultant behind fake Biden robocalls faces $6 million fine and criminal charges”
AP
https://apnews.com/article/biden-robocalls-ai-new-hampshire-charges-fines-9e9cc63a71eb9c78b9bb0d1ec2aa6e9c

“FAKE IMAGE FACTORIES”
CCDH：https:// counterhate.com/research/fake-image-factories/

“Fears grow over AI’s impact on the 2024 election”
THE HILL
https://thehill.com/homenews/campaign/4371959-ai-artificial-intelligence-2024-election-deepfake-trump/

「米IT大手など20社が協定 選挙でのAI偽動画や音声対策へ連携」
NHK
https://www3.nhk.or.jp/news/html/20240217/k10014361881000.html

AI STEVE
https:// www.ai-steve.co.uk

“An AI bot for mayor? Wyoming election official says not so fast”
NBC NEWS
https://www.nbcnews.com/politics/2024-election/ai-bot-mayor-cheyenne-wyoming-election-official-rcna157499

“Meeting the moment: combating AI deepfakes in elections through today’s new tech accord”
Microsoft
https://blogs.microsoft.com/on-the-issues/2024/02/16/ai-deepfakes-elections-munich-tech-accord/

“AI and deepfakes blur reality in India elections”
BBC
https://www.bbc.com/news/world-asia-india-68918330

「米選挙、外国政府がＡＩ利用し偽情報拡散も－バイデン政権高官が警告」
Bloomberg
https://www.bloomberg.co.jp/news/articles/2024-05-16/SDJTFST0G1KX00

「米国民「疲れた」 トランプ氏暗殺未遂で漂う疲弊感」
THE Wall Street journal
https://jp.wsj.com/articles/im-tired-im-done-nation-faces-exhaustion-and-division-after-trump-assassination-attempt-7783094f

“Deepfakes in Slovakia Preview How AI Will Change the Face of Elections”
Bloomberg
https://www.bloomberg.com/news/newsletters/2023-10-04/deepfakes-in-slovakia-preview-how-ai-will-change-the-face-of-elections

“Right-wing German populist party hit by AI deepfake campaign amid calls to ban it”
The telegraph
https://www.telegraph.co.uk/world-news/2024/01/28/afd-alternative-for-germany-olaf-scholz-deepfake-video-ban/

“THE EMS DISPATCH: THE TELEGRAM THAT STARTED THE FRANCO-PRUSSIAN WAR”
Napoleon.org
https://www.napoleon.org/en/history-of-the-two-empires/articles/the-ems-dispatch-the-telegram-that-started-the-franco-prussian-war/

「NATOから離脱」が3人に1人のスロバキア。偽情報とディープフェイクの影響とは。EUとロシア（２）
Yahoo! News 今井佐緒里
https://news.yahoo.co.jp/expert/articles/4c55ecb0a7192a6d2d0eebc30397e0453acb9b3c