昨日、子どもの自殺についてのブログをアップした。その後も気になっていたことを共有したい。

昨日のブログにあるように、18歳以下、1100人の子どもたちのアンケート結果で、相談相手に「生成AI」を選んだ子どもたちが26％いた。

ご紹介した記事で取り上げていた「友達AI」は、「子どもたちに寄り添いすぎて自殺を促さないようにしてある」と言うことだったので、昨日は書かなかったのだが、そういうプログラムばかりではない。

2023年ベルギーであった事件。ある男性が、対話型AIとのチャットに没頭したのち、自殺したという事件だ。2年前に、この事件を知った時、ゾゾゾッとしたのを思い出す。この事件のこと、あまり日本で知られていない気がする。

https://news.web.nhk/newsweb/na/na-k10014145661000

対話型AIとのやりとりは、非常に危険だということがわかる。ベルギーだけではない。アメリカなどでも、すでに同様の事件が起きている。

アメリカのカリフォルニア州では、対話型AIとのチャット後に自死する未成年の事件が続いたことを深刻に受け止め、10月13日、ニューサム知事は、対話型AI「コンパニオン・チャットbot」を規制する法案「SB243（Companion Chatobot Act）」に署名している。オープンAIも、この法案を評価しているようだ。

ベルギーの事件を報じたNHKの記事を読んでいただければ、非常に空恐ろしい現実が見えてくる。この対話型AIであるイライザは、対話していた男性が死亡したことも分かっている。そして、「二度としない」と言うが、「どのように？」と問うと、極めて軽い、中身のない答えをしている。対話型AIとの対話は、むしろ自殺を促進することがあることを大人も、子どもも、知っておく必要がある。

アルゴリズムの怖さ。例えば、人間の判断をより優先、反復、強化してしまったり、人間の思考を監視する機能などだ。その結果起こる、今回のような自殺を勧める性質という怖さがあることをしっかりと知ることが必要だ。

どうぞ、自分の周りの方にも、この事件や生成AIの危険性を伝えていただきたい。人間は、うまく生成AIとつきあうことが重要だ。子どもたちに「何だか生成AIはいいこと」と教えていないだろうか？「欠点もある」と言いながら、具体的な欠点を伝えられていないのではないか。今回ご紹介した事件が、まさに具体的な例だ。

子どもたちの命を守るために、大人はもちろんのこと、子どもたちにも生成AIに相談することは危険だと言うことをしっかりと伝えたい。