上の写真はガル・ガドット。彼女はモデル兼女優であり、DCの大ヒット映画「ワンダーウーマン」のスーパーヒロインの描写で知られています。しかし、問題の写真が属するビデオで彼女がポルノ女優として見られるのは驚くべきことです。半裸でベッドでくつろぐ彼女は、カメラマンの求めに応じて箱から大人のおもちゃを取り出す。それは本当に彼女であるはずがありませんね?!
もちろん、ポルノ業界に携わった経験のある有名人はたくさんいます。たとえば、ドイツの女優シベル・ケキリもその一人です。しかし、ガル・ガドットについては知られていない。だからこの動画はフェイクなんです。 Motherboard の報道によると、これは「deepfakes」という名前の Reddit ユーザーによって作成されました。彼自身の供述によれば、彼は高価な CGI スタジオで一見本物に見えるクリップを自分で撮影したのではなく、人工知能を働かせて学習させたのだという。
AIのマイナス面
彼が作成したソフトウェアは、オープンソース ライブラリ「Keras」と「TensorFlow」にアクセスして、画像や YouTube ビデオからアルゴリズムを学習し、短いクリップを修正したようです。したがって、ガドットの顔は本物の女優の顔と交換されました。 「ディープフェイク」はすでにテイラー・スウィフト、スカーレット・ヨハンソン、「ゲーム・オブ・スローンズ」のスター、メイジー・ウィリアムズらと同様のフェイクポルノを公開している。 Motherboard によると、「ワンダーウーマン」の擬態を含むクリップはすでに削除されているが、依然としてさまざまなニュースウェブサイトに出回っているという。
いずれにせよ、これは、たとえ否定的な意味であっても、今日の AI で何が可能であるかを示しています。自分の肖像権はもちろんのこと、人格権が侵害され、プライバシーが侵害され、最悪の場合、被害者は人格暗殺に遭わなければなりません。
誰でも動画を偽造できる
学習アルゴリズムについて少しの知識があるだけで、ソフトウェアが公開されているデータにアクセスして、偽の、しかし一見本物に見えるビデオを許可なく公開できるという事実は、継続的なデジタル化と自動化の危険な側面です。そしてそれは有名人だけに当てはまるわけではありません。誰でもこれらのスキルを習得できます。そして、多くの人が毎日自分自身と自分の周囲の写真を撮っています。同社がブログエントリーで述べているように、2015 年から 2016 年だけでも240 億枚の自撮り写真が Google フォトにアップロードされました。世界中で 10 億人が使用しているメッセンジャー WhatsApp は、毎日 45 億枚の写真と 10 億本のビデオを交換しています。
ディープフェイクス氏はマザーボードに対し、自分はプロのデータアナリストではなく、機械学習に興味がある単なるプログラマーであると述べた。 「顔を交換する賢い方法を見つけました。そのようなビデオが復讐から作られたのか、それともテクノロジーへの純粋な興味から作られたのかという問題は、その制作の単純さを考えると、ほとんど無関係のように思えます。」