好感度の高い有名人をCMに起用したい企業は多い。だが、予算の問題や俳優の意向でうまくいかないケースもあるだろう。だからといって、AIによるディープフェイクで、無断で広告に使用するのはいかがだろうか。広告を見た人は、その俳優の好感度や社会的信頼度を信じて購入してしまうかもしれないし、その有名人はあずかり知らない所で詐欺に加担することになる可能性もある。
そんなケースがまたひとつ発生し、俳優本人が注意喚起している。
---fadeinPager---
被害にあったのは、トム・ハンクス。『トイ・ストーリー』シリーズのウッディ役をはじめ、ファミリー向け映画にも数多く出演し、幅広い年齢層から愛されている俳優だ。そんな彼が、「AIバージョンの自分が登場する歯科保険のCMがあるが無関係だ」と注意喚起のメッセージを送っている。
---fadeinPager---
増加する、ディープフェイクによる政治的発言や詐欺
著名人の顔をAIで再現するディープフェイクは今に始まったものではない。「Celebrity deepfake」と検索すると、顔をすげかえた偽のポルノ映像が引っかかるし、事実とは異なる政治的発言をさせる映像も多数見つかる。
政治的混乱を目的としたものだけでなく、故人に何かを語らせる動画もある。
2014年に自死したロビン・ウィリアムスのディープフェイクも出回っており、娘のゼルダ・ウィリアムスは「不愉快だ」と自身のInstagramで胸中を明かしていた。
トム・ハンクスのように、詐欺に使われてしまった人もいる。たとえば、アメリカの情報番組『CBS Morning』のホストであるゲイル・キング。彼女は減量が話題になったのだが、それを見計らったかのようなタイミングでAI生成音声を使ったダイエットの広告がつくられた。キングは自身のSNSをとおして、その動画に「FAKE」と大きく書き込み、注意喚起を促している。
では、実際に著名人のディープフェイクが広告に使われると、詐欺の成功率は上がるのだろうか。FBIによると、詐欺やオンライン犯罪で発生した被害は10.2billion USD、約15兆円を超えているらしい。
このような著名人のAIを使った詐欺広告はSNSで共有されることが多いため、InstagramとFacebookを運営するMetaは、「詐欺を目的として広告を出すことは我々のポリシーに反しており、違反するアカウントやページ広告の停止、削除のためにリソースを投入しました」とニューヨーク・タイムズ紙に伝えている。
---fadeinPager---
怪しさを逆手に取った広告も
このようなAI生成による俳優を起用した広告が増えると、消費者は、著名人が出演するネット広告に懐疑的にならざるを得ない。
そのため、MCU（マーベル・シネマティック・ユニバース）の『ドクター・ストレンジ』で知られるベネディクト・カンバーバッチが登場するモバイルゲームの広告を筆者が初めて目にしたときは、フェイクなのだろうと疑ってかかってしまった。
しかし調べてみると、この広告は本物で、カンバーバッチは4399 Gamesの多文明戦略シミュレーションゲーム『文明と征服：EOC』のブランド大使になったそうなのだ。
狙ったのではないのかもしれないが、昨今のAIによるセレブ起用広告の多さによって疑心暗鬼になっている消費者の気持ちに作用し、結果的には同ゲームの告知につながったと言えるだろう。少なくとも、筆者は「カンバーバッチがゲームの広告塔になるはずがない」と疑ったことをきっかけに、このゲームの存在を知ることとなった。
---fadeinPager---
AIかどうか見分けるには
『文明と征服：EOC』は本物だったが、人を騙す目的でディープフェイクの俳優を使う広告は多いのは事実。どうやって見分ければいいのだろうか。
少し前までなら、口の動きと音声が合っているかや、視線が泳いでいなるか、髪の毛や衣服といったエッジの部分が背景から浮いていないか、ライティングが合っているか、といったポイントをみることでAI生成か見分けられる、などと言われていた。しかし、それも日を追うごとに進化しているので難しくなってきている。
筆者は、インターネットの広告で気になるものがあったら、まずはその会社を調べるようにしている。広告塔になっているのが著名人であったり、意外性が感じられたりする人物であったりするなら、関連する公式のリリースやニュースを確認する方がいい。
今はAIを取り締まる厳格な規制がなく、ハリウッドでさえその取り扱いを巡って混乱が起こっている。筆者の確認方法はネットリテラシーや手間暇に依存するやり方ではあるが、仕方がないことなのかもしれない。
---fadeinPager---