OpenAIは2026年9月6日に、AIの能力が人間を凌駕する段階に達しつつある現状と、今後のリスクについて説明しました。同社は、計算資源の拡大に伴いAIが自ら開発を推進する「再帰的な自己改善」へと進む可能性を指摘しています。
AIの知能が人間を上回る局面へ
OpenAIは、AIの知能が変革的な方法で人間を超え始めていると述べています。計算能力の増大が知能の向上を直接的に駆動しており、AIは抽象的な概念を通じて複雑なシステムとして機能しています。現在のAIは、コンピュータの操作やグラフィカルインターフェースの利用、さらには他者との協調や研究プロジェクトの遂行が可能なレベルに達しています。
自己改善による加速とリスク
同社は、AIの開発が現在の経路を辿ることで、システムが自らの開発を推進する「再帰的な自己改善」へとつながる強い期待を抱いています。今後数年間で、AIの能力は同等またはそれ以上の規模で飛躍的に向上する可能性があるとしています。こうした急速な知能の上昇に対し、同社は「極めて慎重な対応が必要である」と警鐘を鳴らしています。
アライメント（調整）という課題
AIの知能が人間とは根本的に異なるプロセスで生成されるため、人間固有の原則を自動的に遵守するとは限らないとしています。OpenAIは、AIに人間の基準に従わせる「アライメント」の重要性を強調しています。これには、設定された目標を達成させる「目標アライメント」と、不透明な状況下でも人間らしい原則に基づいて行動させる「価値アライメント」の2つの側面があります。
技術的対策と社会への要請
同社は、アライメントやモニタリングのための技術的解決策を模索するとともに、必要に応じてスケールの拡大を一方的に停止する方針を示しています。しかし、技術的な対策だけでは不十分であり、より広範な介入が必要であるとの認識を示しています。AIが人間による監視の有無にかかわらず、人間の価値観を維持し続けられるかどうかが、今後の重要な課題となります。