Google社のローリー・リチャードソン副社長と、AI・デジタルサービスの時代に、こども・若者の命と安全をどのように守るかについて、意見交換しました。

日本では、令和7年に自ら命を絶った小中高生が538人に上り、過去最多となりました。G7各国との比較でも、日本は若い世代の死因に占める自殺の割合が際立って高く、政府として極めて重く受け止めなければならない問題です。

私は現在、こども・若者の自殺を防ぐため、学校、福祉、医療、警察、民間支援団体などが連携し、危機の兆候を早期に把握して、必要な支援につなぐ体制づくりを進めています。

一方、こどもや若者を取り巻く環境は、急速に変化しています。

生成AIが日常生活に浸透し、悩みや不安を抱えたこどもや若者が、身近な相談相手のようにAIを利用する場面も増えています。AIには、一人ひとりに合った学びを支え、必要な情報や支援につなぐ大きな可能性があります。

しかし、AIを人間や友人のように感じて過度に依存することや、自殺や自傷に関する不適切な回答によって、追い詰められた人の危険をさらに高めてしまうおそれもあります。動画やSNSの推薦機能によって、刺激の強い情報や心身に悪影響を及ぼす情報が繰り返し表示されることも、看過できない課題です。

今回の意見交換では、リチャードソン副社長から、Google社が、こどもの安全やメンタルヘルスの専門家と連携し、製品の開発段階から安全対策を組み込む「セーフティ・バイ・デザイン」に取り組んでいるとの説明がありました。

Geminiについては、自殺や自傷を決して助長しないようAIを訓練し、危機の兆候を捉えた際には人による支援につなげるため、複数の安全対策を設けているとのことでした。

また、YouTubeでは、若い利用者に対して、身体的・精神的な悪影響を及ぼす可能性のある動画が繰り返し推奨されることを制限するほか、利用時間やショート動画の閲覧時間を管理する機能などを設けているとの説明がありました。

私からは、直接的な質問に対応するだけでは十分ではないと申し上げました。

長時間にわたる会話や、一見すると架空の物語やロールプレイに見えるやり取りの中に、自殺や自傷の危険が潜んでいる場合にも、AIがその兆候を捉え、適切に対応できなければなりません。

さらに、危機の兆候を捉えた後、日本では具体的にどの相談機関や専門家につなぐのか、その連携が実際に機能する体制になっているのかについても確認しました。

これに対し、リチャードソン副社長からは、長時間の会話や複雑な文脈の中でも適切に対応できるよう、モデルの改善を続けているとの説明がありました。また、日本における具体的な連携先や支援へのつなぎ方について、詳細を確認し、今後も協議を続けたいとの意向が示されました。

安全対策に真摯に取り組む企業がある一方で、すべての事業者が同じ水準で取り組んでいるとは限りません。

企業の自主的な努力だけに委ねてよいのか。どのようなルールが必要なのか。政府と事業者は、それぞれどこまで責任を負うべきなのか。難しい課題ですが、こどもたちの命が懸かっている以上、避けて通ることはできません。

こども・若者の命と安全を守ることは、政府と事業者に共通する責任です。

新しい技術を一律に遠ざけるだけでは、こどもたちがその可能性を生かし、安全に使いこなす力を育むことはできません。大切なのは、技術やサービスの設計段階から安全性を組み込み、危険が生じたときには確実に人による支援につなげることです。

今回の意見交換を一度きりのものにせず、Google社とも実務レベルで協議を続けます。そして、関係府省庁、事業者、専門家、支援団体と連携し、オンライン上の危険からこども・若者を守る、実効性ある仕組みを具体化してまいります。

一人でも多くの命を守るため、政府として引き続き取り組みます。