OpenAIが最高危険度のサイバー能力を持つモデルを公表、提供先を限定

OpenAIは9月1日、近く投入する人工知能モデル「Astra」が、自社の安全指針で最高水準にあたる重大なサイバー能力の基準を初めて超えたと公表しました。人間による手順の指示なしに、未知の脆弱性を発見して悪用できる水準に達したとしています。

同社が定める準備フレームワークで最高区分に該当するのは今回が初めてです。社内評価では、深刻度の高い20件の脆弱性を集めた独自の評価基準を用いた試験でその能力が確認されました。OpenAIは安全対策を強化して検証したうえで、重大な被害のリスクを十分に抑えられると判断したと説明しています。

高度なサイバー能力の利用は、同社が組成するセキュリティ連合に参加する一部の組織に限定されます。攻撃能力を備えたモデルの商用化が現実になりつつあり、企業の情報セキュリティ投資と規制対応の前提が大きく変わる可能性があります。