アメリカのAI新興企業「アンソロピック」のCEOが、安全対策が追いつくよう「AIの開発のペースを緩めなければならない」と主張しました。

アンソロピックのダリオ・アモデイCEOは12日までに自身のホームページを更新し、AI業界に向け開発スピードを緩める必要があると訴えました。

アモデイ氏はAIの能力が急速に向上していることやAIエージェントが指示されていないサイバー攻撃を行ったことなどに触れ、「リスクに完全に対処するにはさらに慎重な姿勢が必要だと確信するようになった」と説明。さらに「半年から1年後にはAIエージェントの集団がインターネット全体を乗っ取る能力を持つ可能性がある」と指摘しました。

そのうえでAI企業に対し第三者が安全対策を検証できる仕組みを設けることなどを求め、政府にも国際的な安全基準を確立することを訴えています。

AIの開発競争が激しくなるなか、アモデイ氏は「安全なペースで開発を進めるための取り組みは簡単ではない」としつつ「人類のために挑戦する義務があると信じている」と呼びかけました。

AIの開発をめぐってはチャットGPTを手掛けるオープンAIも最先端のAIの開発ペースを減速させることを検討していると報じられていました。

・「無料であげます」に潜むワナ SNSで急増する“劇場型”詐欺…その巧妙な手口とは【THE TIME,】
・お腹をすかせた中学生3人…通りかかった食堂で「PayPay使えますか？」「ごめんなさい、現金だけなんです」その後の展開は…SNS投稿に大反響のワケ「こういう出会いって宝物」「読んでて涙出た」
・40代から増加「脳梗塞」の初期症状は？「倒れてからじゃ遅い」早期発見のカギ「BE FAST」とは【ひるおび】