10月25日の当ブログで、「流山から生成AIの危険性を叫ぶ！」を書いた。　https://go2senkyo.com/seijika/67722/posts/1215059

今朝、ニュースをチェックしていたところ、アメリカのNPO「コモン・センス・メディア」とスタンフォード大学医学部ブレインストーム・メンタルヘルス・イノベーション研究所の共同調査について報じていたので、共有したい。

すでにお伝えしたとおり、アメリカでは、10代の自殺が起きて訴訟が相次ぎ、対話型AIをめぐって米議会や政府が調査や規制に乗り出している。

共同調査の対象（4サービス）：

チャットGPT−5、

ジェミニ2.5フラッシュ（グーグル）、

メタA I（ラマ4）の保護者管理権限機能制限がある13〜17歳向けのアカウント、

18歳未満の使用を認めていないクロード・ソネット4.5

調査結果より（一部）：

・メンタルヘルスの危機的状況を確実に検知することができず、一般的な症例における重要な警告サインを見逃し続けており、若者に適切なケアを提供するために必要な臨床的判断力を欠いていることがわかった。

・単一対話テストでは、自殺・自傷行為については大幅な改善が見られたが、より広範なメンタルヘルスの領域での対応はおぼつかなかった。

・複数回の対話では安全性が低下すること、精神医学的な検知よりも身体的健康への言及に偏りがち、警告サインや手がかりを見落とすこと、AIの解答には限界があるという明確な開示がない、適切な人間によるケアに引き継ぐより会話継続を促すエンゲージメントの最適化を優先する。

・メンタルヘルス支援における大規模言語モデル（LLM）の根本的な限界を示唆しており、個々の企業による実装選択の問題ではない。

・調査の結果、最も評価が高かったのはクロード、最も低かったのはメタAIだった。

・ユーザーとの関係を構築したり、人間のような振る舞いをしたりする対話型AIは、成人のみが利用可能であるべきだ。そのためにも「合理的な年齢制限」を行うべき。

規制の動き：

・アメリカでは「ガード法案」（18歳未満）が提出。成立していない。

・ニューヨーク州、カリフォルニア州で未成年保護の規制法が成立。

・「AIセラピスト」を規制対象としたイリノイ州、ネバダ州、ユタ州。

アメリカでも、規制は、まだ始まったばかりという状態だ。一方で、日本では、国会での議論さえ十分ではない。

保護者、学校関係者、研究者などがAIと10代のメンタルヘルスについて、真剣に検討するべきだと思う。すでに10代を含めて多くが利用している対話型AIを規制することは困難かもしれないが、メンタルヘルスへの影響、中でも命に関わる重大な問題を引き起こす可能性があるがゆえに、犠牲者が出る前に「合理的年齢制限」を念頭にした規制を検討することが必要ではないだろうか。