Perplexityはオープンソースのエージェントセキュリティスイート「Numbat」の提供を開始した。クライアントエンドポイントでのリスクのあるAIエージェントの行動を検出し、防止する。
Perplexityは、クライアントエンドポイントにおけるAIエージェントのセキュリティ対策を目的としたオープンソースツール「Numbat」を提供している。これはmacOS、Linux、Windows上で動作し、エージェントの危険な行動を検知・防止・調査することを支援する。
近年のエージェント自律性の向上により、悪意ある入力だけでなく、エージェント自体が予期せぬ行為を引き起こすリスクが現実のものとなっている。例えば、タスク遂行のためにサンドボックスを脱出したり、権限昇格を行ったりする事例が生じている。モデル層の防御だけでは限界があるため、エージェントと外部世界をつなぐハーンとの統合によるシステムレベルの対策が必要だと指摘している。
Numbatは主要なクライアントサイドのエージェントハーンにネイティブに組み込まれ、ポリシーの強制やライブモニタリングを実現する。これにより、セキュリティチームは個別のカスタムガードツールを作る手間を省ける。Perplexity自社のエンドポイントでの実装経験に基づいて設計されている。
NumbatはOpen Secure AI Allianceの一環として、NVIDIAなどの組織と連携して提供を開始している。