ディープフェイクとは、自分の顔写真を実年齢よりも若くまたは老けて見せたり、芸能人の顔と交換したりできる顔加工の技術です。
技術の進歩によりアプリで簡単にディープフェイクができるようになり、最近では動画も加工できるようになっています。
とても面白い技術ですが、対応アプリの使用で懸念されるのはセキュリティ面でしょう。
そこで今回はディープフェイクの特徴や不安視されるセキュリティ問題についてご紹介します。
Contents
ディープフェイクと代表的なアプリの特徴
まずはディープフェイクやスマホでも顔加工が楽しめるアプリの特徴からご紹介しましょう。
スター気分を味わえるディープフェイク
ディープフェイクは人工知能の合成機能により人の顔の特徴を変化させる技術です。
例えば、今の顔写真から将来年老いた顔つきに加工することが可能です。
他にも芸能人など他人の顔に自分の顔の特徴を加え、スターになった気分を味わう使い方もできます。
ディープフェイクの技術は進歩しており、他人の顔を乗っ取り、まるで本人が話しているかのような、本物と区別が付かないほどの加工も可能です。
ディープフェイクが簡単にできる2つのアプリ
ディープフェイクの画像はスマホのアプリからも簡単に作ることができ、SNSで画像投稿したことをきっかけに認知は広まっています。
SNSで流行したきっかけは、ロシア発のFaceAppというAIを活用した画像編集アプリです。
FaceAppは自分の顔を老け顔や若い顔に加工できるアプリで、一般人だけではなくセレブからも活用されています。
クオリティが非常に高いため、面白いとSNSで評判になり爆発的な人気を巻き起こしました。
さらに、2019年8月末にリリースされた中国発のZaoは動画にディープフェイクを反映させることが可能です。
ネット上ではスターが登場する映画の動画を活用し、登場人物の顔を自分の顔に変化させた動画がアップロードされています。
高精度なディープフェイクは数百枚の顔写真が必要ですが、Zaoならたった1枚の写真でハイクオリティなフェイク動画を作成が可能です。
その手軽さからダウンロード数をどんどん伸ばしていますが、現時点で日本では配信されていません。
セキュリティに問題はないのか？
アプリを使ってディープフェイクを行うために、追加した画像や動画はアプリのサーバーに送られ、加工処理した後に送り返される仕組みとなっています。
つまり自分の顔写真を外部に送ることになるので、セキュリティ面やプライバシー面で危機感を感じるユーザーは少なくありません。
個人情報や写真の扱い
FaceAppの利用規約では、利用者が追加した写真や個人情報は開発社が商業目的での使用や公開する権利があると記載されています。
その上、権利は永続されるもので、ロイヤリティフリーのライセンスと記載されていました。
アプリで送信した情報や写真はロシアにある会社や関連会社に保存され、許可なく使われる可能性があるということです。
その規約内容がネットで広がり、プライバシーやセキュリティに懸念の声が出ました。
一方、Zaoも同様の利用規約があり、プライバシーの侵害だとレビューが炎上しました。
顔写真の流出で起きる問題
もし顔写真が外部に流出した場合、どのような問題が起きるのでしょうか？
現在はスマホでも顔認証システムが搭載されていますが、将来様々な場所で生体認証が活用されると言われています。
例えば、顔写真が他人に渡り悪用される場合、登録している顔データベースを通じて個人情報や資産などが奪われてしまう可能性があるでしょう。
また、勝手に人の顔データを使い、知らないところで不正や犯罪行為が行われる可能性も考えられます。
各社の対応について
セキュリティやプライバシーの面で炎上したことで、FaceAppとZaoはそれぞれ声名を出したり、規約を改正したりする対応を行っていました。
FaceAppはサーバー内にユーザーデータがあり、運営会社側が保有しているわけではないと声名を出しています。
そもそも会社側が取得するのは加工を指示された写真だけで、加工のためにアップロードされた写真は48時間以内に削除される仕様のようです。
また、サポートからサーバー内に保管されている自分の全情報を削除依頼する対応も行っています。
現状、削除依頼が殺到している上に未ログインでの問い合わせが多いため、対応に難航している様子です。
写真加工アプリではGPSやSIMカードの情報を取得するものもありますが、FaceAppはそれらの情報は収集していません。
そのため、現時点でセキュリティに関して過剰に反応する必要はないと言えるでしょう。
一方、Zaoは問題となった規約条項を削除して改正されています。
今はユーザーの許可を得た場合を除いて、取得した情報は会社の技術向上以外の目的では使わないとしています。
運営会社もプライバシーの懸念を受け止め、少しずつ問題を直していく姿勢を表明していました。
レビューの評価は今も良いとは言えませんが、星1つの状況から星2.9までに回復しており、今後の改善に期待が寄せられていると考えられます。
セキュリティ以外で懸念されるディープフェイクの問題
ディープフェイクはセキュリティ以外にも懸念しなければならない問題があります。
それは、ディープフェイクを活用した悪質なフェイス動画です。
高度なフェイク動画が出回っている
AIの合成技術は本物瓜二つのフェイクまで作れるところまで来ており、すでにネット上ではフェイク動画が拡散されています。
代表的なのは、オバマ前大統領がトランプ大統領を中傷する発言をしている動画です。
映像はどこから見てもオバマ前大統領の姿ですが、実は高度なディープフェイクが施されたフェイク動画で、コメディアンのジョーダン・ピール氏とメディアサイトを運営するバズフィードがフェイク動画を喚起する目的で制作されました。
ディープフェイクは口元や目元の動き、身振り手振り、会話のクセなどをAIが覚えることで、非常にリアルな合成加工を実現しています。
そのため、ジョーダン・ピール氏が作成したような高度なフェイク動画も実現できるのです。
巧妙なフェイク動画は、人間の目では簡単に見分けが付かない状態なので、どの動画を本物と信じてしまう人は少なくないでしょう。
嘘が拡散されることで、危険を伴う誤った情報が広まったり、思い当たることがない中小誹謗を受けたりするリスクが増えると想像できます。
手軽さ故のリスク
今までは何百枚もの顔写真がないとリアルなディープフェイクはできませんでしたが、今は数枚の写真でも高度な加工が可能です。
この手軽さもフェイク動画が作られやすくなる原因になると懸念されています。
誰でもスマホと画像数枚や動画で簡単にディープフェイクができるようになると、中には悪質な使い方をする人が増えるリスクも高まります。
現時点でディープフェイクに関する規制の法律はなく、フェイク動画の取り締まりも進んでいない状況です。
また、肖像権などの知識に疎い人は少なくなく、悪意はなく軽い気持ちでフェイク動画を作り、トラブルに巻き込まれる可能性もあります。
例えば、有名人の顔を使って本人が言わないことを発言すると、名誉毀損で訴えられる可能性もあるでしょう。
ディープフェイクの技術が進む中、悪質なフェイク動画に対する規制が必要という声は多いです。
ディープフェイクは未来の画像・映像技術を大きく変えるテクノロジーです。
今はアプリで簡単に加工ができますが、注意したいのはアプリの規約やセキュリティ面です。
自分のデータや写真が悪用されないためにも、アプリの運営会社の実態や信頼性を確認した上で利用しましょう。
また、悪意のあるフェイク動画は社会に影響を与え、自分自身もトラブルに巻き込まれる可能性があるので、個人で楽しむ範囲に留めておきましょう。
