ディープフェイクの問題の現状とこれから。

ライブストリーミングサービスのTwitchで28万人のフォロワーを持つ人気ストリーマのGibiさん。自分のディープフェイクポルノを見つけた被害者の1人です。

テクノロジーが進化する中、それを逆手にディープフェイクで勝手に顔を使われ、ポルノにされているAIポルノが女性たちを苦しめています。

そんな被害者女性たちが経験を語るドキュメンタリー『Another Body』が、先週からアメリカで公開されています。被害者たちが辛いトラウマや、どのように戦ったかを語ることで、事件のベールを解いていくドキュメンタリーとなっています。

声をあげる被害女性たち

Gibiさんは米Gizmodoのインタビューで、自分がこうして被害者として姿を出して表に出ることで、この問題の重要性にスポットライトを当てられたらと思っていると語っています。

｢この被害に遭った時、これは大したことじゃない、世の中にはもっと辛くて大変なことがあるからと自分に言い聞かせていました。

ひどいことだと認めないことで、気にしないように毎日を過ごしていただけなんです。そんなに悪いことではないって自分を納得させていました。

でも、他の人からこれはひどいことだと言われると、感情が混乱してしまいました。そう言ってもらえると、ちょっと安心するところもありつつ、怖くもなりました｣

映画監督のSophie Compton氏とReuben Hamlyn氏によって製作されたこのドキュメンタリーは、ネットで拡散している自分のディープフェイクポルノを発見した大学生、テイラーさんの生活に密着取材して作られました。

テイラーさんは本名ではなく、もう1人の出演被害者の名前も仮名です。そして、仮名なだけでなく、なんと彼女たちの顔も、身元が判明しないようにディープフェイクで作られています。

事の始まりは…

事件の発覚は、22歳の大学生のテイラーさんが、友人から受け取ったメッセージから。

｢本当に申し訳ないけど、これ、見たほうがいいと思う｣という、ゾッとするようなFacebookメッセージでした。そこにあったのはポルノサイト｢PornHub｣のリンク。

最初、テイラーさんは友人のアカウントがハッキングされて、ポルノサイトのリンクが送られてきたのだと思ったそうです。しかし、最終的にリンクをクリックしてみると、そこに映し出されたのは自分のハードコアポルノ。

後でわかることですが、誰かがテイラーさんの顔の画像をSNSアカウントから取り出し、それをAIモデルで実行して、彼女がポルノに出演しているように見せる6つのセックスビデオが作成されていたのです。

さらに悪いことに、動画を作った犯人は、テイラーさん名義でPornHubのプロフィールを作り、動画をアップロード、さらにテイラーさんの大学名と出身地まで書かれていたのです。

ドキュメンタリーでは、ディープフェイクの被害者たちが自分の性的描写に対して、何もできない無力さとトラウマを抱えている様子が描かれています。

ディープフェイクに関するニュースは、ほとんどがセレブや有名人に関するものですが、『Another Body』では、どんどんパワーを増すディープフェイク技術で、有名であろうとなかろうと誰もが狙われる可能性があるという現実を受け入れざるを得ません。

被害女性同士が協力

ドキュメンタリーのストーリーは、テイラーさんが自分のディープフェイクについて手掛かりを解き明かす様子を追いかけています。

いろいろ探しているうちに、テイラーさんは自分と同じようにディープフェイクの標的にされた同じ大学の女性の存在を知ります。

テイラーさんは彼女に連絡を取り、2人はそれから4Chanのような掲示板など、ディープフェイクの温床と思われるサイトを探り、自分たちを苦しめる人物を特定するための手がかりを見つけていきます。その捜索中に、TwitchストリーマーのGibiさんのディープフェイク画像に遭遇したのです。

Gibiさんはこれまでにたくさんのディープフェイク動画を受け取り続けていて、最初の動画はいつだったかさえ思い出せないほどだったと言います。

Twitchストリーマーとして、性的なメッセージや性器の写真まで、いろいろな嫌がらせを長い間受けてきたGibiさん。テクノロジーの進化に伴ってディープフェイクのものも増えてきたそうで、｢最初はニセモノっぽいものでしたが、クオリティが上がってきて、ますますリアルに見えるようになった｣と話しています。

明らかにニセモノ動画でもそれを本物だと思ってしまう人はいるのです。Gibiさんは、初期の雑に作られたディープフェイク画像にだまされる人たちがいると聞いてびっくりしたと言います。

また、ディープフェイクの被害者であるクリエイターが、実際にはポルノに出ているわけではないのに、広告主やスポンサーがクリエイターとの契約を解除することもあるとGibiさんは話しています。

有名ストリーマーが被害を公に

Gibiさんの友人で、ディープフェイクの被害者のクリエイターは、自分ではないことを広告主に伝えたのに関係を解除されたそうです。

テイラーさんとの交流によって影響を受けたGibiさんは｢ディープフェイクに対する声をあげる｣というタイトルのYouTube動画を公開。AIによって生成され、操作された自分の経験について率直に語っています。去年投稿されたその動画は、50万回近く視聴されています。

Gibiさんは｢この経験を話すことは、より注目され、より多くの視聴者に広がるということです。私の強みはネットに投稿して、話しにくいトピックについて話し、真実を伝えることにあると思っていました｣と話しています。

Gibiさんはこの問題について話すを決めたとき、どんな反応が来るかわからなかったため、初めはコメントを読まないようにしていたそうです。

しかし、反応は肯定的なものばかりでした。今では、Gibiさんはこのドキュメンタリー映画に自分が出ることで、性的ディープフェイクを防止または罰するための法律上の解決策へより多くの注目を集められたらと思っているそうです。

Gibiさんはインタビューの中でこう語っています。

｢ディープフェイクに対して世間が関心を持つようになってきたことには楽観的である一方で、ディープフェイクの問題が男性が主導する場所に影響をが出てきたから、注目を浴びるようになったという事実は気分がいいものではありません。

男性は加害者であり消費者です。そして何かを変えたいときに、働きかける相手も男性です。すごくフラストレーションを感じます｣

被害教育や被害者を守る組織

Gibiさんのフラストレーションは、EndTABの創設者であり、『Another Body』にも何度か登場するアダム・ドッジ氏も同じように感じているといいます。

ジェンダーに基づく暴力の分野で15年間活動している弁護士であるドッジ氏は、ハラスメントに使用されるテクノロジーがもたらす脅威に対して、被害者支援プロバイダーを強化し、リーダーとなる人たちを教育するためにEndTABを設立したと述べています。映画に登場する大学生のテイラーさんは、自分のディープフェイクを発見した際、ドッジ氏に連絡しています。

ドッジ氏はGizmodoに対して、オンラインでの嫌がらせが実は新しいものではないと認識することが重要だと話しました。これまでも被害者の裸の画像を使用して嫌がらせを行なったり、それで被害者を支配し、屈辱を与えたりしてきた歴史があり、｢これはただ嫌がらせや支配、屈辱を与えるための新しい方法に過ぎない｣と話しています。

ドッジ氏は、ディープフェイクが嫌がらせの方程式を変えたと指摘しています。被害者が実際に撮影した性的な写真や動画を使って嫌がらせを受けるという方程式は崩れ、今はInstagramや大学のウェブサイトなど公に利用可能な写真があれば十分になってしまいました。｢私たちはみんな潜在的な被害者なのです。なぜなら加害者が必要とするのは、私たちの顔写真だけだからです｣とドッジ氏は言います。

ドッジ氏のEndTABは主にトレーニングを目的としていますが、ドッジ氏はこういった被害の危険性に対する意識を高めようと活動していた数少ない人だったため、被害者がドッジ氏に辿り着き、助けを求めることも多いと言います。現に大学生のテイラーさんもドッジ氏に辿り着き、アドバイスを受けたことが出会いでした。

ドッジ氏は、ディープフェイクに対する立法の範囲についてもフラストレーションを抱えていると話しています。ネットに投稿されているディープフェイクの大多数が、女性の同意のないポルノであるのにも関わらず、法案の約半数が選挙に焦点を当てたものなんだそうです。

｢これでは女性に対する暴力は適切な注目を受けられません。結局ずっと他のことが優先され、政治家は自分たちに影響があるディープフェイクの誤情報に焦点を当ててきたからです｣とドッジ氏は憤りを隠せません。

ネットに蔓延るディープフェイク

性的なディープフェイクはびっくりするようなスピードで増加し続けています。Wiredが取材した研究者によると、過去7年間で人気トップ35のディープフェイクポルノサイトに24万4625本の動画がアップロードされたと推定しています。

そのうち約半数（11万3000本）が今年1月から9月の間にアップロードされたものなんだそうです。研究者は2023年の終わりまでに、過去7年にアップロードされた合計数よりも多くのディープフェイク動画がアップロードされるだろうと予測しています。

これにはSNSやクリエイターの個人コレクションに存在する可能性のある他のディープフェイクは含まれず、ポルノサイトのみの予測計算です。

モナッシュ大学のAsher Flynn准教授はWiredのインタビューでこう語ってます。

｢非合意のポルノディープフェイク画像を作成するためのAIツールの利用の可能性が大幅に増加しています。

ポルノプラットフォームや違法なオンラインネットワークでこのタイプのコンテンツへの需要も増加しています。新しい生成AIツールによってさらに増加する可能性が高いです｣

法律も動き出している

これまでの話を聞くとネガティブなことばかりですが、立法者たちは解決策を見つけるために積極的に取り組んでいます。

すでにアメリカの12の州で、個人の同意なしに性的なディープフェイクの作成や共有を犯罪化する法律を制定しています。ニューヨーク州では、人工知能によって生成された誰かの性的に露骨な画像を広めたり流したりすることを違法とする法律が12月に施行されます。違反者は最高1年の刑に処せられる可能性があります。

法案の提案者であるMichelle Hinchey州議会議員は、｢私の法案は、ニューヨークがこの形の虐待を許容しないという強いメッセージを発信しています。被害者は正当に裁判所で自分の主張を行なうことができます｣と述べました。

一方、連邦レベルの立法者は、デジタルウォーターマークを作成するようにAI企業に圧力をかけています。その企業のプログラムを使用して変更された画像や動画であることを明確に開示するためです。OpenAI、Microsoft、GoogleなどのAI競争に参加している大手企業は、明確なウォーターマークシステム構築について自発的に協力することに同意しています。

しかし、ドッジ氏は検知への取り組みやウォーターマークが対処できるのは、一部に過ぎないと指摘しています。ポルノディープフェイクは壊滅的に有害で、誰もがそれがニセモノであることがわかっていても、長期的なトラウマを引き起こすと話しています。

近い将来、非合意のディープフェイクが急増しても、ドッジ氏は楽観的でいるそうです。なぜなら立法者は過去の間違いから学ぼうとしているからなんだそう。

｢この問題はまだ非常に初期段階にあり、立法化が起こっている最中です。そしてみんながこの問題について話している状況になってきています。

SNSがこの10年間存在しているにもかかわらず、立法者はプラットフォーム上での嫌がらせや虐待から人々を守るために十分なことを実行していませんでしたが、今はすべてのプラットフォームを通じてこの問題を対処することに、法執行機関、テクノロジー、社会全体がかなり関心を持っているのは前向きなことです｣