ディープフェイクの被害が海外だけでなく日本でも広がり始めています。
これまでディープフェイクと言えば海外の有名人を対象にしていたイメージだったものの、最近では日本の女優やアイドル、さらには一般人をターゲットにしたディープフェイク動画も確認されており、再生回数もうなぎ上りに増えています。
たかが「合成写真・合成動画」と侮れないディープフェイクの被害は対岸の火事ではなく、有名税でもなく、一般人にこそ危険であることを認識している人は少ないでしょう。
今回は、ディープフェイクの本当の危険性、他人事ではないリスクをご紹介していきます。
Contents
ディープフェイクは単なるアイコラの域を超えた
合成写真や合成動画は以前から存在していました。
有名人などの写真を加工して、元の状況とは違った写真に作り変える、特にアイドルとヌードグラビアのコラージュを個人的に楽しんでいた人は一定数いたと言えます。
雑過ぎて偽物とすぐに分かるコラージュもあれば、クオリティが高く本物みたいに見えるコラージュもありました。
・ディープフェイクとは
人工知能のAIに特定の人物の顔写真などのデータを大量に読み込ませて、本物に限りなく近い合成動画を作る技術がディープフェイクです。
動画を作るAIと、本物かどうかを見破るAIを競わせ学習させながら精度を高めてくため、人間の目で偽物を見破れないほど高精度な動画が作れます。
ディープフェイクとは、AIのディープラーンニング（深層学習）とフェイク（偽物）を掛け合わせた造語です。
・アイコラとは比較にならない高精度
一昔前のアイコラ（アイドルコラージュ）は、合成画像っぽさがどこかに残っていて、良く見れば偽画像という証拠も残っているものでした。
顔の角度に違和感があったり、顔面パーツの位置がおかしかったり、そもそも顔のサイズが違ったり、背景に元画像の髪が残っていたりなど、コラージュした形跡を探すことはコツを知っていればできることが多いです。
しかし、ディープフェイク動画はAIが真偽を判断に迷うほどの高精度で作られていて、動きまで自然です。
オランダのセキュリティ会社の調査によると、ディープフェイクは動画サイトやSNSなどのネット上に約49,000件アップされており、大半はポルノ動画です。
本物が偽物が区別がつかない偽のポルノ動画がアップされるという事例が後を絶たない時代となっています。
もちろん、ディープフェイクはポルノ以外の分野でも問題化しています。
海外のディープフェイク事情
初めてネット上でディープフェイクが現れたのは2017年です。
イギリスの女優デイジー・リドリー、イスラエル出身モデルのガル・ガドット、イギリスの女優エマ・ワトソン、アメリカの歌手ケイティ・ペリーなどの偽動画が確認されています。
ポルノ動画だけでなく、政治的目的でディープフェイクが使用された事例もあります。
アルゼンチン大統領の顔はヒトラーの顔に、ドイツのアンゲラ・メルケル女史の顔はアメリカ大統領トランプ氏の顔に置き換えられています。
トランプ氏の中国訪問時、2017年秋には中国企業がトランプ氏が流暢な中国語で自社を褒めたたえるディープフェイクを公開し波紋を呼びました。
ディープフェイクの危険性を周知するために制作された、バラク・オバマ氏のディープフェイク動画も記憶に新しい人は多いでしょう。
2018年の春に公共広告として作られたオバマ氏のディープフェイク動画では、トランプ大統領は救いようのない間抜けだとオバマ氏が発言する姿が注目を集めました。
2018年にはアメリカの女優スカーレット・ヨハンソンがディープフェイクポルノの被害についてワシントン・ポストの取材を受けています。
スカーレット・ヨハンソンは取材の中で、国により法律が異なること、ネット文化の性質上ディープフェイク動画を削除することは困難なこと、そして自分のパブリックイメージに影響しないことを指摘しています。
日本の有名人もディープフェイクの餌食に
ディープフェイク犯罪は日本でも顕在化しています。
・日本初の逮捕事例
日本国内でも、女性芸能人の顔とアダルト女優の顔を交換したディープを作成したディープフェイクによる逮捕者が出ました。
罪状は名誉棄損と著作権法違反の疑いです。
警視庁はディープフェイクのアダルトビデオ合成を行った男3人を逮捕、被害にあった女性有名人は延べ約150人、動画本数は500本以上と発表されました。
つまり、インターネット上に既にディープフェイク動画が500本以上違法公開されたということです。
逮捕された男の1人は、動画1本につき3万枚の画像読み込みを行い、1週間の機械学習を繰り返して違法動画を作成していました。
警視庁の発表によると国内で3,500本を超えるディープフェイク動画が確認されています。
・小林麻耶さんも被害を受けていた
フリーアナウンサーの小林麻耶さんもディープフェイク動画の被害を受けたことをTV番組内で告白しています。
小林麻耶さんは過去にネット上で『小林麻耶 裸』という動画を発見し、ナイスバディーな女性のカラダと自分自身の顔が合成されていたことを告白、精巧な偽動画に「怖いという感情だけでは済まされないもの」と心境を吐露しました。
一般人こそディープフェイクは怖い
ワシントン・ポストの取材でスカーレット・ヨハンソンが語ったように、有名人は名声で保護されている部分があり、自分ではないことを表明することもできます。
しかし、一般人の場合は自分ではないと言っても、信用されるかどうかは不明です。
・一般人がディープフェイクに巻き込まれると
そもそも、一体誰が何の目的で自分のディープフェイクを作ったのかを考えるだけで怖いのではないでしょうか？
つまり、有名人よりも一般人の方がディープフェイクにより名誉や心が深く傷つく可能性があると言えます。
ポルノ動画や暴言・暴力動画などのディープフェイク動画が拡散してしまえば、例えば個人事業主なら事業に支障が、教員など公務員も失職の可能性が、学生なら就職が難しくなる可能性も考えられるでしょう。
結婚前の人なら結婚が難しくなることもあり得ます。
・誰でもアプリで作れるディープフェイク動画
技術の進歩が著しい現代社会では、既に誰でもアプリで簡単にディープフェイクを作成可能で、慣れれば4～6時間程度で1本の動画が完成します。
2019年にはディープフェイク動画制作の無料アプリが中国向けのApp Storeで人気NO.1となり、日本でもパソコンなどでディープフェイク動画アプリが人気です。
ばらまかれれば大きな被害を生むディープフェイクが簡単に作れる土壌が既にあることは、一般人にとってもリスクをはらんでいる状態だと言えるでしょう。
ディープフェイクの被害拡大を防ぐためは、ネットで拡散されてからでは対策が遅いと言わざるを得ません。
その意味では、ディープフェイクをネットでアップできないような監視体制が必要と言えるでしょう。
しかし、AIによる学習で真偽の見分けがつかない状態まで高精度に作られたディープフェイクを監視し排除することは困難です。
だからこそ、ディープフェイクから身を守ることが重要となります。
顔を晒すことが仕事の有名人ではない一般人なら、不特定多数の人が閲覧できる場所に、大量の顔写真や動画を公開しないほうが良いでしょう。
また、ディープフェイクが精巧に作られていることを逆手に取り、自分にとって不都合な動画が発覚した際にディープフェイク動画だと主張して、言い逃れをする政治家の例もあります。
インターネット社会は便利である反面、何が本当で何がウソなのかを見分ける力が試される時代とも言えそうです。
