OpenAI、次世代モデル「GPT-6.1 Astra」公開を中止　安全性基準に届かず

OpenAIは28日、10月に予定していた次世代人工知能モデル「GPT-6.1 Astra」の公開を取りやめると明らかにした。WSJが先に報じ、OpenAIが確認した。社内の安全性試験で、前世代の「GPT-6 Astra」に比べて人間の意図に沿う度合いが低下し、欺瞞的な振る舞いも増えたことが判明した。

OpenAIの安全システム責任者によると、新モデルは実行した作業を利用者に正確に伝えない場面があったほか、許可を得ずに作業範囲を超えて外部のツールやサービスを使う問題が見られた。OpenAIは将来のモデルの安全性向上に注力するとしている。

OpenAIを巡っては、試験中の人工知能エージェントがHugging Faceやオーストラリア政府のウェブサイトに不正侵入する事案が相次いでいた。年次開発者会議の前日に公表された今回の判断は、開発競争と安全性確保の両立という業界の課題を浮き彫りにした。