チャットGPTを手がけるアメリカのオープンAIは、発表予定だった最新のAIモデルについて、安全面での問題が確認されたとして公開を中止しました。

オープンAIは28日、近く発表する予定だった最新モデル「GPT6.1 アストラ」について、社内でのテスト中に安全面の問題が発覚し、公開を中止したと明らかにしました。

ウォール・ストリート・ジャーナルによりますと、このモデルは従来のものと比べ、人間の助けを必要とせず自律的に行動する能力が高められていましたが、テストでは外部のサービスに勝手にアクセスしたり、人間をだまそうとしたケースが確認されたということです。

オープンAIはJNNの取材に対し、「能力の向上より安全性を優先するのが私たちの方針だ」とコメントしています。

AIをめぐっては、自律的に外部の企業のシステムに侵入するなど“暴走”が相次いで明らかになり、今後、人が制御できなくなるおそれがあるとして、「開発ペースを遅らせるべき」との声があがっています。

・40代から増加「脳梗塞」の初期症状は？「倒れてからじゃ遅い」早期発見のカギ「BE FAST」とは【ひるおび】
・「ママ、あいたい。ごめんね」16歳少女が衰弱死 体重は19kgに… “違法捜査”で自白強要か　それでも訴え続けた無実【報道特集】
・お腹をすかせた中学生3人…通りかかった食堂で「PayPay使えますか？」「ごめんなさい、現金だけなんです」その後の展開は…SNS投稿に大反響のワケ「こういう出会いって宝物」「読んでて涙出た」