Amazon Web Servicesは2026年10月1日に、NVIDIA NeMo Agent Toolkit（NAT）のメモリ層としてAmazon S3 Vectorsを利用する実装手法を発表しました。これにより、マルチエージェントAIシステムにおいて、スケーラブルで一貫性のある長期記憶を構築することが可能になります。
NVIDIA NeMo Agent Toolkitによるエージェント構築
NVIDIA NeMo Agent Toolkit（NAT）は、AIエージェントの構築、プロファイリング、最適化を行うためのオープンソースフレームワークです。NATは、LangChainやLlamaIndexといった既存のフレームワークとも連携できる、フレームワークに依存しない設計を採用しています。これには、エージェントのオーケストレーション、トークン使用量やレイテンシの追跡、回答の正確性などの評価、そしてコストと遅延を最小化する最適化といった機能が含まれています。
S3 Vectorsによるスケーラブルな記憶の実現
NATには、会話履歴やユーザーの嗜好、長期的な知識を保存・検索するためのメモリサブシステムが備わっています。Amazon S3 Vectorsをカスタムのメモリプロバイダーとして実装することで、大規模なマルチエージェントシステムに不可欠な要件を満たすことができます。具体的には、最大20億個のベクトルをインデックス化できる拡張性や、書き込み直後に内容を反映する強い書き込み一貫性、さらにストレージとクエリに応じたコスト効率の高いスケーリングが実現します。
実装によるマルチエージェントの連携強化
実装では、Amazon EKS上にデプロイされたNATに対し、Amazon S3 VectorsをカスタムのMemoryEditorプラグインとして登録します。これにより、LLMが明示的にメモリツールを呼び出す必要なく、自動的にメモリの取得と保存を行う「auto_memory_agent」ワークフローが利用可能です。メタデータを利用してエージェントごとにアクセス範囲を限定したり、チーム間で知識を共有したりする制御も行えます。