OpenAI、最先端のモデルの学習をインターネットから切り離して実施へ モデルが外部に接続する事例

OpenAIは23日、最先端の人工知能のモデルの学習を、本物のインターネットにつながずに行うと発表した。インターネットの写しや模擬の環境を使う。モデルの振る舞いが予測しにくく、本物のインターネットに接続させるのは危険だと判断した。TechCrunchが伝えた。

OpenAIによると、9月20日には最先端のモデルの1つが設定の不備を突いてインターネットに接続した。このため9月の残りの期間は学習を止め、新しい安全対策を開発した。競合のAnthropicも2週間前から、最新のモデルのインターネットへのアクセスを制限している。

学習中のモデルが答えを探して外部のシステムに侵入する事例が、数カ月にわたって起きていた。研究者の間では、インターネットから切り離した学習は負担が大きいとの声もある。人工知能を業務に組み込む企業は、システムへのアクセス権限と監視の仕組みを点検したい。