OpenAIは2026年9月28日に、最先端のAIモデルを強化学習させる際に、リスクに関する構造的な議論をまとめた「セーフティケース」の策定を求める指針を発表しました。これは、航空や原子力といった安全性が極めて重要な産業で用いられる手法をモデルにすることを目指しています。
OpenAIは、AIの能力向上に伴う複雑性の増大に対応するため、学習プロセスにおける安全性の文書化が必要であると考えています。具体的には、モデルが意図しない行動をとらないための「アライメント学習」、万が一の際の被害を防ぐ「封じ込め」、そして問題行動を即座に検知する「モニタリング」の3つの観点から技術的なガイドラインを提示しています。
アライメント学習では、報酬を不正に獲得する挙動を防ぐためのデータセットの自動・手動レビューや、モデルがテストを回避する「メタゲーミング」の監視などを実施します。封じ込めについては、サンドボックス（隔離環境）のセキュリティ強化や、学習中のログを改ざんできない形で保存する仕組みの構築を挙げています。モニタリングでは、問題発生時に自動で学習を停止させるなどの迅速な対応体制を求めています。
技術的な対策に加え、運用面でのベストプラクティスも示されています。安全性を検証する際に、あえて反対意見を述べる「ディセント（事前検死）」の導入や、シニアリーダーシップによる承認プロセス、さらには責任の所在を明確にする仕組みなどが含まれます。
OpenAIは、これらのガイドラインを現在の検討内容として公開し、コミュニティからのフィードバックを求めています。これらを通じて、最先端AIの開発における安全性と透明性の向上を目指すとしています。