前回文章の訂正：下記へ訂正し、お詫び申し上げます。

OpenAI社は、すでに「前例のないサイバー事故として、アメリカ安全保障委員会の監督のもと、外部アドバイザーと共に、徹底調査する」としている。※8月11日訂正、アンソロピック→OpenAI

今年の6月、OpenAI、DeepMind、Anthoropicが生物兵器の開発を防ぐ法案を可決するよう議会に要請している。問題はいろいろがるが、特に悪き者が生物兵器を入手する危険性を指摘している。

今回のようなことがあれば、すでに米国防省は軍事攻撃にAI使用しているが、戦争に勝つために、AI自身が判断して生物兵器の入手といったことも考えられるだろう。もちろん、他国・他集団が入手する場合もある。その際の「責任の所在」はどこになるのか。

「責任の所在（主体）」。AIの問題は、いつもそこに戻るが、それが全く解決されていない。

ここで、George Town UniversityのHelen  Toner氏の発言に耳を傾けたい。

◯ここ数年にわたりAIのサイバー攻撃スキルがどんどん向上しているのは目に見えていたが、今回の事件は「自律性」「創造性の高さ」「本来すべきことからの逸脱」といった点から、「新たな局面」にあると言える。

◯彼女が、要AI企業の従業員1300人が発したというstatementについて指摘。その内容は、次のとおり。

「自分たちにはブレーキ・ペダルがない。だから、政府や市民団体、一般市民にブレーキペダルを作る手助けをしてほしい。」

という言葉。つまり、自分たちがブレーキを踏んで開発速度を落としたら、他の誰かが「勝つ」。自分たちが開発しなかったら、他の誰かが開発する。それは中国かもしれないし、ライバル企業かもしれない。

つまり、「自分たちで開発の影響を検討しながら、開発の速度をコントロールすることは、『自分たちではできない』」、「自浄能力がない」ということだ。

◯現在、米国議会で「kill switch」(緊急停止システム)導入に関する法案が超党派で提出されているという。これに対して、彼女は、議会は成立させられないだろう。世界中から「モデルは、いつでも停止できるから問題ない」という声が出ているが、一方で「分散型システムでは複数のデータセンターで同時にカ不動しているため、緊急停止システムを作動するなら、我が社は破綻する」という声も聞こえる。

Helen Toner曰く、「AIの暴走に対して、緊急停止させられるようにするという考え自体は合理的だが、問題はもはやそれが可能かのか？だ。」私も同感だ。「では、それが不可能なら、どう実現するかだ」ということも問うている。

また、主要なAI企業は、単に人間並のAIをつくりたいのではなく、「超知能」を目指すと知っている。それが、人類の絶滅につながるのか？人間の未来を決定する能力を失うのかといった「細かい」議論をしても意味がない。なぜなら、「人類が主導権を失う未来へ向かっていることだけは、確実だからだ。」と語っている。私たちは、この言葉をよく噛み締めた方がいい。

今後、私たち世界が取り組むべきこととして、次のことを挙げている。

ー透明性の大幅な向上

ー情報開示の徹底

ーAIの限界を切り拓いている、ごく少数の企業からの情報開示

ー体制の強化

ー第三者である専門家による調査権限の拡大

ー中国との対話：AIを開発することは、米中（きっとそれ以外の国・企業・組織）にとっても「共通の利益だ」と認識する必要がある。

非常に重要な指摘だ。

さて、それを誰が実施するかだ。

アメリカの官僚機構は、トランプ＆マスクにより酷い状況になっている。機能するのか？

最後に、再びToner氏の言葉を紹介したい。

「幸いにもOpen AIの事件に対して、深い懸念が寄せられた。当然だ。幸い誰も気づかなかった事例含めて、私たちが十分な対応をすればより深刻な事態を回避しつつ目標に到達できるかもしれない。」

この言葉は楽観的だが、実は、実行は簡単ではない。だから深刻だ。

AI企業のCEOたちは、その深刻さをわかりつつも、自制できていないし、実際、このような事件を起こしてしまっている。

国連などでも軍事面でのAIという点では、以前から動きはあるものの、民生含めた動きは見えない。

世界のリーダーたちは、「他のことで忙しく」リーダーシップもない。

政治リーダーに、その役割を求めるのは、能力的にも無理に思える。

世界中のエンジニアやジャーナリスト、市民が目を覚まし、指摘し、動かしていくしかないのではないか。