フェイク動画が社会を混乱させる未来が、すぐそこまでやってきた

もはや映像は真実を映さない──。誰でもフェイク動画を簡単につくれる時代の訪れとともに、監視カメラやスマートフォンで撮影した動画は、必ずしも信頼に値するものではなくなっていく。そんな時代、われわれは何をすべきなのか。専門家による警鐘。
フェイク動画が社会を混乱させる未来が、すぐそこまでやってきた
IMAGE BY ALYSSA FOOTE

これまでは、カメラが嘘をつくことなどなかった。わたしたちはヴィジュアルコンテンツに全幅の信頼を寄せ、「自分の目で見たもの」を信じ、警察のカメラやモバイル機器の録画ツールなど、路上や地元の商業施設などでリアルタイムに起きていることを教えてくれるデヴァイスに依存しがちだ。

例を挙げてみよう。カリフォルニア州オークランドでバーベキューパーティーを楽しもうとしていた黒人グループを見た白人女性が、警察に通報する様子をとらえたヴァイラル動画がある。この女性は、そこでチャコールグリルを使うことは禁止されていると主張し、彼らに人種差別的な言葉を浴びせた。何百万人もがそれを見て笑い、この女性の画像はネットのいたるところでミームとして使われている

また、あるカフェの常連客が、英語が話せない従業員たちを移民税関捜査局(ICE)に通報すると脅す動画がヴァイラル化したこともある。まもなくソーシャルメディア上で、その常連客はニューヨーク市の弁護士アーロン・シュロスバーグであることが暴かれた

彼の事務所に関する情報はすぐにシェアされ、レヴューページへのコメントや、公での辱めがそれに続いた。この「レイシスト」弁護士はマリアッチ(メキシコ音楽の楽団)にも目をつけられ、彼のマンションの外では盛大な“演奏会”が開かれる羽目になった。

X content

This content can also be viewed on the site it originates from.

どちらのケースでも、動画は本物だった。ミームも面白かったし、Twitterでの拡散にも値した。モバイルカメラなどで撮影された動画が、社会正義を実現するための斬新な手段になっているのは、それが野火のように世界中に広がる力をもっているからにほかならない。

とはいえ、この「正義」が機能するのは、わたしたちが目にする動画が信頼できる場合に限られている。そしていま、フェイク動画の時代がすぐそこまで来ている。

フェイク動画が簡単につくれる時代

「ディープフェイク」(もともとは、あるRedditユーザーによる造語で、ポルノ俳優と有名人の顔を入れ替えた動画のこと)と呼ばれることも多いフェイク動画は、いままさに急激な広まりを見せつつある。動画用のPhotoshopのようなソフトさえあれば、人工知能(AI)のおかげで、誰でも偽のヴィジュアルコンテンツを作成できる。

「FakeApp」などのツール(顔を入れ替えた動画をディープラーニングを活用して作成できるアプリ)を使えば、コンピューターに詳しくなくても、簡単に画像を集めて動画をつくることができる。われわれはあっという間に、映画やヴィデオゲームのなかの顔をそのまま重ね合わせるだけの時代から、高度なAIツールの時代へと移行した。一般市民にヴィジュアルコンテンツを不正加工する優れた手段を与える一方で、こうした巧みな改ざんの判別には、限られた力しか貸してくれない時代である。

フェイクニュースがはびこる世界では、もっともらしい記事を誰もが書くことができる。まもなくフェイク動画も、それと同じぐらい当たり前のものになるだろう。

もしそうなれば、フェイク動画によって個人に嫌がらせをし、公人に影響を与え、同級生を脅迫するといったことが簡単に行えるようになるだろう。ごく普通の市民がリヴェンジポルノやネットいじめなどの嫌がらせの被害に遭う未来の到来は、想像に難くない。おそらく、子どもも例外ではないだろう。

ほとんどの消費者は、よく注意して見れば、フェイクが醸し出すほんのわずかな気配に気づくはずだ。しかし、フェイクニュースの台頭からすでにわかっているように、多くの場合、人々が注意して情報を消費することはない。

テック系企業のリーダーたちが取り組みべきこと

現代の世界では、警察のカメラや監視カメラの映像だけでなく、モバイル機器による録画までもが、法廷などの極めて重大な局面で使われている。そして、ソーシャルメディアを主軸に展開されるキャンペーンが、世界中で選挙に影響を与えている。

こうした時代に、人々は「注意して動画を観るはずだ」とする仮定は、人々はオンラインコンテンツを批判的に読むはずだという仮定と等しい。これらの技術はごく短期間でさらに高度化し、平均的な消費者が不正を見抜くことをますます困難にするだろう。

Redditへのディープフェイクの投稿は禁止された。だがいずれ、また別のディープフェイクが出てくるだろう。情報の消費者は、今日の世界で一般公開されているメッセージに警戒心をもち、それに批判的な目を向けなければならない。

その一方で、テック系企業のリーダーたちも高度でありながら使いやすいツールを開発し、一般的なユーザーが不正に加工されたコンテンツに気づけるようにするべきだ。ブロックチェーンでそうしたことを可能にしようとする取り組みもあるとはいえ、急いだほうがいい。われわれ自身と民主主義の安全がかかっているのだ。

キャサリン・ブルックス|CAHTERINE BROOKS
アリゾナ大学の情報学准教授。同大学のSchool of Informationでアソシエイト・ディレクター、またCenter for Digital Society and Data Studiesの創立ディレクターなどを務める。


RELATED ARTICLES

TEXT BY CATHERINE F. BROOKS

TRANSLATION BY HIROKI SAKAMOTO/GALILEO