欧州連合の警察機関ユーロポールは最近、ディープフェイクの「危険な」可能性を強調する研究結果を発表した。ディープフェイクは、画像だけでなくビデオなど、変更または改ざんされた編集されたメディア コンテンツです。このテクノロジーはテロを支援したり、金融市場に影響を与えたり、子供の性的搾取を煽ったりするためにも利用できると言われている。
ディープフェイクは最近すでに危険な可能性を示しています
テクノロジーは、たとえそれがほとんど真実ではないとしても、あなたを含む公人が何かを言ったり行ったりしたような印象を与える可能性があります。とりわけ、いわゆる「ディープラーニング」からの発見が使用されます。これは、「ディープフェイク技術の急速な向上」に貢献した機械学習の一形式です。
「ディープラーニング」では、機械にデータセット（有名人の画像やビデオなど）が与えられます。データセットを分析することで、機械は人の顔の表情、ジェスチャー、声の調子、言葉のイントネーションなどのパターンを評価できます。このようにして、誰かが実際には起こらなかったことを言ったり実行したりするディープフェイクが発生する可能性があります。利用可能なデータが多ければ多いほど、最終的にディープフェイクはより優れたものになります。
操作されたコンテンツは、さまざまなレベルで重大な損害を引き起こす可能性があります
| ユーロポールによる危険性 | 例 |
| オンラインでの個人に対する嫌がらせと屈辱 | – たとえば、あなたの偽のヌード写真やポルノビデオなどを通じて |
| 恐喝と詐欺 | – たとえば、禁止されたことや迷惑なことをしているディープフェイク動画によって脅迫される可能性があります。 – 虚偽の事実（身近な人が危険にさらされている）を装うことも、詐欺や恐喝の被害者になる可能性があります |
| オンライン ID の偽装 (特にオンライン取引) | – Web サイトの販売者は、本物であることを確認する必要がますます高まっています。これは、購入者に対する詐欺を最小限に抑えることを目的としています。 – テクノロジーが影のビジネスを再燃させる可能性がある |
ユーロポールはまた、オンラインでの子供の性的搾取もディープフェイクによって裏付けられる可能性があると考えている。たとえば、未成年者は、Facetime などで同年代の人とチャットしていると騙されて、性的行為に誘惑される可能性があります。
経済や政治にも多大な被害が出る可能性がある。虚偽の声明やデータの操作は、金融市場に危険をもたらしたり、政治問題に対する社会全体の意見に影響を与えたりする可能性があります。
ユーロポールは、いかなる場合でも警察と司法はこの技術を真剣に受け止めるべきだと強調している。しかし、ウェブサイト運営者は、「ディープフェイクによって引き起こされる新たな現実」に備えるために、検証ポリシーと方法を適応させる必要もあります。
出典: 『現実に直面しますか？法執行機関とディープフェイクへの挑戦」 (ユーロポール、2022)