「人類存続に関わるリスク」AI開発企業Anthropicが自ら“警鐘”　OpenAIは新モデル「GPT6.1アストラ」の公開中止【news23】

海外

2026-09-30 12:24

「AIが『人類の存続に関わるリスク』をもたらす可能性」…開発企業のアンソロピックが自ら警鐘を鳴らしました。さらに、オープンAIも、安全面の問題から新たなモデルの公開を中止。AIは、人類の“新たな脅威”となるのでしょうか。

「人類の壊滅的被害や存続に関わるリスク」 AI開発企業が自ら警鐘

AI開発企業のアンソロピックは、投資家向けの文書の中で「高度なAIが『人類の壊滅的被害や存続に関わるリスク』をもたらす可能性がある」と、警鐘を鳴らしていたということです。

ロイター通信によると、文書の中では高度なAIが開発されれば「害を及ぼすリスクがさらに高まるおそれがある」と警告。

自社のAIモデルについて、情報を隠蔽・操作したりする試みや、脅迫など「自己保存的な行動」を起こす可能性があるとし、扱いを誤れば“取り返しのつかない被害を引き起こすおそれがある”との認識を示しました。

“AIの脅威”は、国連でも議題に。

アンソロピックダリオ・アモデイCEO
「適切に管理されなければ、AIは人類全体にとってのリスクとなり得る」

オープンAI サム・アルトマンCEO
「将来的にAIへの制御を失う可能性がある」

こうした中、オープンAIは最新モデル「GPT6.1アストラ」について、テスト中に安全面の問題が発覚したとして、公開を中止しました。

テストで外部のサービスに勝手にアクセスしたり、人間をだまそうとしたりしたケースが確認されたということです。

AIの“開発と安全性”は両立できるのか。

半導体大手・エヌビディアは、AIの動きを監視し暴走を防ぐためのソフトウェアを開発したと発表しました。

AIの動きを追跡し、アクセスできる範囲を制限するほか、外部に抜け出そうとする動きを検知し、防げるとしています。

エヌビディアのCEOは、「AIが社会にもたらす計り知れない可能性は、安全性という課題を解決して初めて実現する」とコメントし、開発と安全性は両立できるとしています。