5月13日公開の「選挙ドットコムちゃんねる」では、AI技術によって精巧に生成された偽の画像や映像・音声の「ディープフェイク」の実態や課題について特集。現代の選挙に与える影響などについて、検知技術を提供する「NABLAS株式会社」取締役の鈴木都生氏に解説してもらいました。

MC鈴木邦和編集長：特に選挙や政治の分野で、今ディープフェイクが実際どのぐらい使われているのか、そもそもいつぐらいから出てきているのか。鈴木さんが観測している中でどう見てらっしゃいますか？

鈴木都生氏：フェイクニュースと言われるレベルで言うと、2016年のヒラリーさんとトランプさん（が争った米大統領選）の時とかで、もう完全にターゲティングしていましたね。

MC鈴木邦和編集長： 当時、アメリカ大統領選でフェイクやネガキャンが有権者に影響を与えるというのが問題になっていましたよね。

鈴木都生氏：後々、分析がすごい進んでいて、Facebookで、負けられない激戦の州に完全にターゲットして、反対側の支持者にはネガキャン的な文言を当てて、自分たち側のところにはさらに（支持が）高まるようなものをターゲットしていました。中にはかなりの怪しい情報、本当にゼロからデマとして作られたものとかも混ぜて、そこをひっくり返すぐらいの影響が実はあったんじゃないかと言われていたりします。

MC鈴木邦和編集長：日本だと公職選挙法的にはだいぶ怪しいですよね。アメリカの大統領選ではそれは合法なんですか？陣営がやっているということですよね？

鈴木都生氏： 多分陣営だとは思うんですけど、陣営がやったとこまで証明しきれなかったんじゃないですか。確か、そこをリードしたエージェントみたいなところが、後々何かしら罰せられていたような気がします。

MC鈴木邦和編集長：なるほど。2016年からだから、もう10年ぐらい。日本だとどうなんですか？

鈴木都生氏：日本も明らかな事例はそこまでなかったんですけど、岸田（文雄・元総理）さんの時の（ディープフェイク）動画などがかなり注目されました。多分、それ以前から何かしら本当はあったんですけど、より生成AIが注目もされているし、インプレッションで稼げるみたいな。

MC鈴木邦和編集長： メディア環境の変化も大きいですよね。

鈴木都生氏：それこそX（旧Twitter）などがイーロン・マスクさんになった後に、怪しい情報が倍増したらしいんですよ。

MC鈴木邦和編集長：そうでしょうね。本当にこれは、我々業界にいる者としては結構課題だなと思っています。

鈴木都生氏： それ以来、見る量も出す量も増えて、そこからより皆さんの認識とか記憶にも残りやすくなったという印象はあるので、2022年や2023年あたりからかなり増えました。

MC鈴木邦和編集長： 例えば、2026年の衆院選ではディープフェイクに関して分析とかされていたんですか？

鈴木都生氏：各SNSの衆院選関連の情報を集計・分析させていただいたんですけど、テキストのみはもっとあると思うんですが、動画と画像が添付されている衆院選関連の情報で、選挙期間の2週間ぐらいのところで、すでに100万件くらいあるんですよ。SNS選挙にかなりシフトしていたんですね。その結果、発信がすごく増えていて。すべてに検出をかけられているわけではないので正確なデータは分からないんですけど、やはり高市（早苗）さんを支持する層の高齢者の動画系とか。

MC鈴木邦和編集長： あの有名な、帽子をかぶったおばあちゃんの動画ですよね。

鈴木都生氏：あれは結構パターンも幅広く作られていました。あとは中道（改革連合）系のちょっと面白おかしくしたようなパロディとか。中でも1〜2割くらいはフェイクみたいなものがあったんじゃないかなと、ちょっと推測ですけど。

MC鈴木邦和編集長： すごい量ですね。それはプラットフォームで言うと、メインはどこですか？

鈴木都生氏： X、YouTube、TikTok、Instagramとかですね。

MC鈴木邦和編集長： 特に選挙の話だけで言うと、フェイクに関しては速度が大事だと思っています。結局、「選挙が終わって検証してみた結果、フェイクでした」となっても遅いんですよ。これは皆さんの仕組みがどうこうではなく、今の日本のまさに課題なんですけど。私も昔、議員になった時に、投開票日の2日前に怪文書が市内に8千枚撒かれたんですよね。これは打ち消しようがないんですよ。これが嘘だってことを証明するのに2年かかったのでもうとっくに選挙は終わっているんですよね。でも今回、まさにNABLASさんが開発されている仕組みを見た時にすごいなと思ったのは、一瞬で検知できるじゃないですか。だから例えば、X上で急にインプレッションが伸びている投稿があった時に、誰かが検知して「これはフェイクですよ」というものにすぐ反応できるから、これは結構希望だなと思うんですよね。それは技術的にはできますもんね。

鈴木都生氏： はい、検出速度的には画像であれば数秒ですし、動画も長さにはよるんですけど、XやTikTokを見ていると、統計的にも一番多いのは1～2分の動画が多いので、そのくらいのレベルであれば、数十秒とか1〜2分とかそのくらいです。

MC鈴木邦和編集長： すごいですね。それだったら選挙の世界で実用的になりそうですね。

鈴木都生氏： ただ問題は、検出する側のモデルも完全に断定できるわけではないということです。かなりの高精度で検出できるようにはなってきてるんですけど、例えば1万回とかやっていった中で、あくまで確率的に検出モデルも判定を出すので、1万回に1回「嘘だ」というのを出してしまったとして、そうすると、それを元に「あなたのこの動画はフェイクと出ていますよ」みたいな攻撃が、ある意味SNSでできちゃったりするので。そういうところをどう対策するか。本当に誰でも、何にでも使えるようにしていくのが、ちょっと難しくするハードルですね。

MC鈴木邦和編集長： 難しいですね。例えば「フェイクである確率が99%です」となった時に、でも残りの1%の確率は一応あるわけですよね。統計的にはそれを100回判定すると1回は実は「正しい」というものが。

鈴木都生氏： 詐欺師の方というか、何か誘導したい人が嘘のものを作って、例えば1万パターン作って10個くらい通るとするじゃないですか。それをベースに「これリアル（本物）だって判定結果が出ているものだ」という結果とともに拡散すると、余計な混乱を与えますよね。

だから、ちゃんと用途と使われるフローみたいなものをビルトインするというか、あまり変な使い方ができないような形でうまく提供できるといいなと思っています。そういう整備を、特に一般ユーザー向けにはした上で出そうかと。

MC鈴木邦和編集長： 確かに使う側も、多少理解とかリテラシーは必要ですよね。生成AIも一緒ですもんね。

鈴木都生氏：一緒です。

動画本編はこちら！

この詳細は、ぜひ動画本編でご確認ください！

選挙ドットコムちゃんねる、ぜひ高評価とチャンネル登録をよろしくお願いいたします！

【有権者の心に響く第一印象を。選挙ドットコムで、あなたの情報を掲載しませんか？】

選挙ドットコムの政治家情報ページには、顔写真やSNSアカウントへのリンクなどを完全無料で掲載いただけます。

有権者の皆さまにとって、こうした情報は候補者一人ひとりを知るための大切な第一歩になります。

ぜひ、あなたのページを充実させて、有権者の皆さまとの距離をぐっと縮めてみませんか？

情報掲載をご希望の際は、こちらのフォームよりお送りください。皆さまからの情報をお待ちしております！
※申請は「政治家・候補者本人」または「政治家・候補者本人から承諾を得ている方」に限ります。承諾がない場合は掲載できませんこと、予めご了承ください。

政治家限定！
＼選挙の最新情報をLINEで配信中／