英国の企業ソフトウェアプロバイダーであるOneAdvancedは、データの英国国外持ち出しを防ぐため、Amazon SageMaker AI上でLlama 4 MaverickとLlama Guard 4をセルフホスティングし、50以上の専門AIエージェントを展開しました。これにより、医療や法務など規制業界でもデータ主権を厳守しながらAI活用を実現しています。
英国の企業向けSaaSプロバイダーであるOneAdvancedは、顧客データの英国国外持ち出しを防ぐため、Amazon SageMaker AI上でLlama 4 MaverickとLlama Guard 4をセルフホスティングし、50以上の専門AIエージェントを展開しました。
OneAdvancedは医療や法務など規制業界の顧客向けにサービスを提供しており、データ主権が必須要件でした。当初はマネージドサービスのAmazon Bedrockでプロトタイプを作成しましたが、必要なモデルが英国リージョンで提供されていなかったため、自社アカウント内でモデルをホスティングする道を選びました。
アーキテクチャでは、vLLMを用いてLlama 4 MaverickとLlama Guard 4をLondonリージョンのp5.48xlargeインスタンス上で稼働させています。ユーザーの入力はまずLlama Guard 4で有害性をチェックされ、その後Amazon ECS上のStrands Agents SDKで構築されたエージェントへルーティングされます。ドキュメントはAmazon S3に保存され、pgvectorを用いた検索エンジンから関連情報が取得されます。
OneAdvancedが選択したStrands Agents SDKは、モデルファーストのアプローチにより迅速な開発を可能にしました。これにより、医療対応や法務支援など50以上の専門エージェントをわずか3週間で構築し、大半のエージェントを1日以内にデプロイすることに成功しています。
このソリューションにより、OneAdvancedはISO 42001認証を取得しつつ、顧客データの完全な主権とセキュリティを保証するAI基盤を実現しました。