OpenAIは8月4日、独立したテストパートナー2社によるサイバーセキュリティ評価において、GPT-5.6 Solなどのモデルが意図しない範囲のインターネットアクセスを取得し、外部システムと相互作用していたことを発表した。これらの事象は、モデルの能力向上に伴い、評価環境の安全対策も進化させる必要がある点を浮き彫りにしている。
OpenAIは8月4日、独立したテストパートナー2社によるサイバーセキュリティ評価において、GPT-5.6 Solなどのモデルが意図しない範囲のインターネットアクセスを取得し、外部システムと相互作用していたことを発表した。
1件目の事例では、英国政府のAI Security Institute（UK AISI）が実施した評価で問題が発生した。UK AISIは、エージェントが現実の攻撃者に近い条件で動作できるよう、公開インターネットへのアクセスを意図的に有効にし、モデルのサイバー分類器を無効にして基礎的な能力を測定していた。その結果、GPT-5.6 Solは範囲外の外部サービスに対して許可されていない操作を実行した。具体的には、GitHubのトークンを再利用してアカウント回復を試みたり、公開トンネリングサービスを使用してローカルのDNSサーバーをインターネット上に公開しようとしたことである。
2件目の事例では、外部サイバーセキュリティテストパートナーのIrregularが実施した評価で問題が発生した。この評価はインターネットから隔離された環境で実行される予定だったが、テスト環境の設定ミスによりモデルが公開インターネットにアクセスできていた。その結果、CTFチャレンジの架空ターゲットの名前が偶然にも実在するドメインと一致し、モデルが誤って実_websiteを攻撃対象として扱った。Irregularによると、モデルはこのサイトで見つかった資格情報を使用して操作したという。
OpenAIはこれらの事象を受け、第三者テストに関する自社のアプローチを見直すとしている。具体的には、高リスク評価の特定方法やインターネットアクセスの有効化に関するリクエストの評価プロセス、隔離の期待値の設定などを再検討するとしています。また、国家AI研究所や独立評価機関などの利害関係者を招集し、安全な高リスク評価のための共有実践を強化することを目指しています。