Andreessen Horowitzは2026年9月4日に、Gimlet Labsへの投資を発表しました。同社は、異なる種類のプロセッサを統合して管理する、世界初の「マルチシリコン推論クラウド」を展開しています。
ワークロードに合わせた最適な計算資源の提供
AIの推論需要が急増するなか、電力や計算資源の不足が深刻化しています。従来の単一のプロセッサ構成では、音声アシスタントに求められる低遅延や、バッチ処理に求められる高いスループットといった、多様なニーズにすべて応えることは困難です。Gimlet Labsは、各ワークロードに対してレイテンシ、スループット、コストのバランスを考慮した実行計画を策定します。
異なるハードウェアを一つのシステムとして統合
同社の技術は、GPU、CPU、および専用設計されたアクセラレータを一つの容量プールとして統合します。コンパイラが各処理をターゲットとなるハードウェアに最適化し、ランタイムがシステム全体での実行を調整します。これにより、ネットワークや電力、冷却条件が異なる多様なハードウェアを、単一の推論APIを通じて利用することが可能になります。
効率性の向上によるキャパシティの拡大
このシステムは、同一の電力枠内で、フロンティアモデルの処理能力とインタラクティブ性を最大10倍向上させています。計算資源が不足する市場において、効率性を高めることは実質的なキャパシティの拡大を意味します。同社はすでに、フロンティアモデルの開発機関やハイパースケーラーを顧客として獲得しています。