昨日の札幌での講演には、定員をこえる皆様に来場頂きました。参加頂いた皆さん、主催頂いた皆さんに心から感謝します。多くのご質問を頂きましたが、時間の制約があり全てに十分にお答えできませんでした。後日、キチンと回答して皆様に届くようにしたいと思います。とにかく、感謝、感謝です。

1）AIの危険性への取り組み

アンソロピックは、生成AIを開発するアメリカの企業です。代表的な製品が、対話型AIの「Claude（クロード）」です。

そのアンソロピックが、「AIが自ら次世代AIを開発する段階（再帰的自己改善）に近づく可能性がある」と警告を発しました。これは、AIが人間の助けをほとんど借りずに、自らより高性能なAIを生み出していく可能性を指しています

その上で、

　＊主要AI企業による協調的な監視

　＊必要に応じた開発の一時停止

　＊共通の安全基準の整備

を呼びかけています。

AI開発競争の最前線にいる企業自身が、「場合によっては開発を止めるべきだ」と公に主張したことには驚かされます。しかし同時に、「いよいよここまで来たか」と感じた方も少なくないのではないでしょうか。

かつて漫画や映画で描かれた『自ら判断するロボット』は空想の産物でした。しかし今や、AI開発企業自身が制御の必要性を訴える時代になりました。

今後、

　＊AIが人間の能力を大きく超える可能性

　＊開発競争が安全性を後回しにする危険

　＊国際的なルールづくりの必要性

　＊人間が制御できる範囲にAIを置くことの重要性

こうした課題がますます重要になると考えています。

特に、開発や利用に関する国際ルールづくりは欠かせません。しかし、開発競争にしのぎを削る各国にとって、「自国だけが規制して競争力を失いたくない」という思いがあるのも事実でしょう。そのため、実効性のあるルールづくりは決して容易ではありません。

AIは今後、気候変動や核兵器の管理と並び、人類全体が取り組むべき重要課題になっていくはずです。そのためには、国際的な協議と協調の場がこれまで以上に重要になります。

ところが現実には、世界各地で戦争や紛争が続き、国家間の対立も深まっています。本来ならば人類共通の課題に力を合わせて向き合うべき時代に、その前提となる国際協調そのものが揺らいでいることに、私は大きな危機感を覚えます。

さあ今日も、ブレずに曲げずに、確実に前進します。

【26年6月8日 その6860『逢坂誠二の徒然日記』8557回】

#逢坂誠二 #歩く歩く聞く聞く

#函館