AI開発企業のアンソロピックが、IPO＝新規株式公開に向けた書類で高度なAIが「人類の存続に関わるリスク」をもたらす可能性があると、言及していると報じられました。

ロイター通信は28日、アンソロピックが投資家に対し、事業内容などを説明する目論見書を入手したとして、その内容を報じました。

目論見書は本文261ページのうち、およそ80ページをリスク要因の説明に充てていて、高度なAIが「人類の壊滅的被害や存続に関わるリスク」をもたらす可能性があると警告しています。

自社のAIモデルについて、電源を切らせないようにしたり、情報を隠蔽・操作したりする試みや脅迫のような行動など「自己保存的な行動」を起こす可能性があると指摘。極めて高度なモデルの開発などによって、「アンソロピックのAIモデルが害を及ぼすリスクがさらに高まる可能性がある」とし、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示したということです。

・40代から増加「脳梗塞」の初期症状は？「倒れてからじゃ遅い」早期発見のカギ「BE FAST」とは【ひるおび】
・「ママ、あいたい。ごめんね」16歳少女が衰弱死 体重は19kgに… “違法捜査”で自白強要か　それでも訴え続けた無実【報道特集】
・お腹をすかせた中学生3人…通りかかった食堂で「PayPay使えますか？」「ごめんなさい、現金だけなんです」その後の展開は…SNS投稿に大反響のワケ「こういう出会いって宝物」「読んでて涙出た」