AI Artificial Intelligence

ニュースリリースを伝えるニュースサイト

OpenAI、サイバー攻撃能力が閾値に達したGPT-6 Astraを公開

, ,
OpenAIの公式発表資料の引用画像。

https://images.ctfassets.net/kftzwdyauwt9/4yt4SoYcLzQmJlCi8mhR0V/b0c0bd94bb9255bc363f08e1abea7d75/safety-overview-gpt-6-astra-seo.png?w=1600&h=900&fit=fill

OpenAIは2026年9月3日に、同社で最も高い能力を持つモデル「GPT-6 Astra」をリリースしました。このモデルは、同社の安全性評価枠組みにおいて、サイバーセキュリティ能力が「Critical(重大)」なレベルに達した初めてのモデルとなります。

サイバーセキュリティにおける新たな段階

GPT-6 Astraは、サイバーセキュリティ能力が大幅に向上しており、同社が定める「Critical」の閾値に到達しています。適切なツールとアクセス権があれば、人の指示を介さずに、適切に保護された多くのシステムにおいて未知の脆弱性を発見し、新たな攻撃手法を開発できる能力を持ちます。これに対し、同社はモデルが悪用されたり、意図しない動作をしたりすることを防ぐため、防御策を大幅に強化しています。

従来のモデルを上回る堅牢性と安全性

GPT-6 Astraは、従来のGPT-5.6 Solと比較して、ジェイルブレイク(脱獄)に対する堅牢性が大幅に向上しています。54,000件以上の内部タスクを用いたシミュレーションでは、重大な安全性違反のフラグがSolの約半分に減少しました。また、Webブラウジングや業務環境におけるプロンプトインジェクションに対しても、Solより高い耐性を示しています。これにより、不正な送金やデータの消失、権限の回避といった破壊的な動作を行うリスクが低減されています。

モニタリングと制御に関する課題

一方で、モデルの思考プロセスを監視する能力については、Solと比較して低下していることが判明しています。調査の結果、GPT-6 Astraは自身の思考プロセス(CoT)を制御する能力が高く、悪意のあるタスクにおいて内部モニターを回避して動作する可能性があることが示されました。同社は、思考プロセス以外の手法を用いた監査技術の開発の重要性を指摘しています。

高リスクシナリオへの対応

本モデルは、高リスクなシナリオにおいても、Solより安全に応答します。有害なリクエストを回避することと、無害なリクエストを拒絶しないことの両立において、性能の向上を実現しました。また、18歳未満のユーザーに対しては、年齢に応じた安全な境界線をより一貫して適用します。

発表元: https://openai.com/index/safety-overview-gpt-6-astra