OpenAIは2026年9月22日に、GPT-6向けのプロンプトキャッシュシステムを改良したと発表しました。このアップデートにより、キャッシュのヒット率が向上し、開発者はより低コストかつ高速なアプリケーションを構築できます。
キャッシュヒット率の向上とコスト削減
GPT-6向けの新しいプロンプトキャッシュシステムは、デフォルトでのキャッシュヒット率を向上させています。30分以内に再利用される特定の共通プレフィックスに対してキャッシュ割引が適用され、開発者はキャッシュされた入力トークンについて最大90%の割引を受けられます。これにより、複雑なタスクを長時間こなすエージェントの運用コストを抑えられます。
開発を支援する新しい管理ツール
開発者がキャッシュの状況を把握するための新しいツールが導入されました。プロンプトキャッシュダッシュボードでは、入力のうちキャッシュから提供された割合や、ヒット率の推移を確認できます。また、予期せぬキャッシュミスが発生した場合には、診断ツールを使用して、モデルの設定やツールの変更などが原因で再利用が妨げられた理由を特定できます。
キャッシュ効率を最大化する制御機能
キャッシュの効力を維持したまま、推論の負荷を調整することが可能になりました。GPT-6モデルでは、コンテキストを保持したまま、タスクの難易度に応じて推論の試行回数を変更できます。さらに、キャッシュの再利用を明示的に指定できるブレークポイント機能や、リクエスト前にコンテキストを準備して遅延を減らすプリウォーム機能も提供されます。