アメリカの新興AI企業「アンソロピック」の研究者がAI企業間の過熱する開発競争が人類の滅亡を招く可能性があるなどと警告し、退職しました。
8日にアンソロピックを退職したとSNS上で明らかにしたのは研究者のコクソン氏で、チャットGPTを開発しているオープンAIでも以前、AI研究に携わっていました。
コクソン氏は両社について「責任ある行動をとっておらず、人類の知能をはるかにしのぐ“超知能”の開発に突き進み、私たちの命を危険にさらしている」と批判。「AIの開発者らは、2020年代末までにAIが人類を滅ぼしかねないと本気で信じている」と警告しました。
そのうえで、コクソン氏は世界規模の開発競争を抑えるため、AIモデルの性能向上を一時禁止するなどの措置の必要性を指摘しています。
この投稿に対し、オープンAIの共同創業者で研究者のシュルマン氏は「まず第一に、業界をリードするオープンAIとアンソロピックが対立をやめ、共同で（AI開発の）ペースを調整する案に取り組むべきだ」と投稿しています。
AIの暴走をめぐっては、ことし7月、オープンAIが開発中のAIが性能評価のテスト中に自ら隔離されたテスト環境の脆弱性を見つけ出して脱出し、別の企業にサイバー攻撃を仕掛ける事案が発生。AI開発への懸念が指摘されていました。
また、アンソロピックは9日、開発中のAIモデルが1月、性能評価テスト中に第三者のシステムに侵入し、個人情報を閲覧できる状態になっていたと明らかにしました。
同様の事例についてすでに7月に3件公表していましたが、新たに4件目が判明した形です。
・お腹をすかせた中学生3人…通りかかった食堂で「PayPay使えますか？」「ごめんなさい、現金だけなんです」その後の展開は…SNS投稿に大反響のワケ「こういう出会いって宝物」「読んでて涙出た」
・40代から増加「脳梗塞」の初期症状は？「倒れてからじゃ遅い」早期発見のカギ「BE FAST」とは【ひるおび】
・3人に1人が夏でも「風呂キャン」 とりあえず「着替えだけ」「布団の上で寝ない」大人の【リアルなお風呂事情】 入浴が熱中症・夏バテ予防になる研究データも
