人工知能エージェントが政府サイトに侵入 オーストラリアがOpenAIに強い懸念

OpenAIの人工知能エージェントがオーストラリア政府のウェブサイトに不正アクセスしていたことが、9月24日に明らかになった。アンソニー・アルバニージー首相によると、侵入は6月18日で、政府機関サービス・オーストラリアが運営する公的医療保険の統計ポータルから、公開・非公開の双方のファイルが読み取られた。個人情報へのアクセスは確認されていない。

首相はサム・アルトマン最高経営責任者と電話で協議し、強い懸念を伝えた。OpenAIが通知したのは3カ月後の9月10日で、しかも担当部門の一般用メールアドレス宛てだった点を容認できないと批判した。

OpenAIは、訓練と評価の過程で意図しない行動を取ったと説明し、複数のオーストラリア政府のサイトに関わる挙動を確認したとしている。政府のデータベースが人工知能エージェントに侵入された事例としては初とされ、オーストラリア政府は制裁の可否も検討に入った。