メールでのやり取りでヒギンズ氏は「トランプ氏逮捕の画像を通して、実際の場面を写し出すのにミッドジャーニーが得意なことと不得手なことが偶然にも明らかになった。このツールにプロンプトを入力すると、複数の画像をもとにストーリーらしきものを作り始めたので、それらをつないで一つのストーリーに仕立てた」と話している。
画像は完璧からはほど遠いとしており、たとえば、奇妙なことにトランプ氏は警官用のベルトをしている。また、顔や手に明らかな歪みがある。
だが、ニューヨークを本拠として物的証拠を重視した活動を行っている人権団体のウィットネスでメディアテクノロジストを務めるシリン・アンレン氏は偽画像について、ヒギンズ氏のように画像はAIが生成したもので娯楽目的であるとユーザーが投稿するだけでは不十分だと指摘している。
彼の言うこうした重要な文脈が顧みられることなく、ビジュアルな画像がすぐさま他人に共有されることが往々にしてあるからだ。実際、ヒギンズ氏によるトランプ氏の画像の一部をあたかも実際の出来事であるかのように共有したインスタグラムの投稿には、7万9000件以上の「いいね」が集まった。
アンレン氏は「画像を目にしただけ、一度見ただけで、もう見ていないことにはならない」と言う。
広告の後にも続きます
ほかにも、プーチン大統領が中国の習近平国家主席にひざまずき、手にキスをする様子を捉えたとされる合成画像がSNSユーザーの間でシェアされた例がある。プーチン大統領と習氏がクレムリンで会談した折にこの画像が出回ると、瞬く間に下品なミーム（ネットを通じて広まる情報）となった。
制作者や制作ツールは不明ながら、複数の手がかりから偽物であることが判明した。たとえば両首脳の顔や靴にやや歪みがあるほか、部屋の内装が実際の会談場所と異なっていた。
合成画像と本物を見分けることがますます困難になっている今、視覚的な誤情報に対処する最善の方法は、人々の認識と教育を改めることだと専門家は指摘している。
ウェスト教授は「こうした偽画像を極めて簡単かつ手軽に作れるようになったため、この技術がいかに優れたものであるかを世間に知ってもらえるよう、我々はできることを何でも実行すべきだ」と話している。
ヒギンズ氏は、AIが生成した画像を検出する技術の開発にSNS企業は注力すべきであり、それを自社のプラットフォームに統合するよう提案している。
ツイッターには、利用者を欺いたり損害をもたらしたりする可能性のある「合成または操作された有害なメディア」を禁止するポリシーがある。同社のクラウドソーシングによるファクトチェック（事実確認）プロジェクト「コミュニティ・ノーツ」のアノテーションが一部ツイートに添付され、トランプ氏の画像はAIが生成したという文脈が盛り込まれた。
3月23日にコメントを求めたところ、返ってきたのは自動返信メールだけだった。
フェイスブックやインスタグラムの親会社であるメタからもコメントは得られなかった。捏造されたトランプ氏の画像の一部は、AP通信も参加しているサードパーティーによる事実確認プログラムにより「虚偽」または「文脈不足」と判定された。
ニューヨークのカーネギー国際倫理評議会でフェローとして新興技術を研究しているアーサー・ホーランド・ミシェル氏が懸念しているのは、偽画像があふれるという差し迫った現実に対する準備ができていないことである。
たとえば、元交際相手や同僚からの悪意ある偽写真など、一般人が関係しそうなディープフェイクをどう規制するかは悩ましい問題だという。
ミシェル氏は「政策的な意味では、これほどまでに拡大した偽情報への準備が社会のあらゆる段階で整っているとは思えない。この動きを確実に止めるには、まだ想像すらできない画期的なテクノロジーが必要になるのではないか」と述べている。
By ARIJETA LAJKA and PHILIP MARCELO
Translated by Conyac
