2026年7月27日にウェイト公開された Moonshot AI の MoE モデル「Kimi-K3」を、フィックスターズが NVIDIA B300 x8 シングルノード環境へ同日デプロイし推論性能のベンチマークを実施した。
フィックスターズは 2026年7月27日、Moonshot AI からウェイト公開された MoE モデル「Kimi-K3」を NVIDIA B300 x8 シングルノード環境へデプロイし、推論性能のベンチマークを実施した。
モデル総パラメータは 2.8T で、アクティブパラメータは 104B に抑えられている。公開ウェイトは MXFP4 量子化が施され、追加処理なしで直接デプロイ可能である。フィックスターズの実測では GPU メモリ合計約 2.3TB のうちモデル本体は約 1.6TB を占め、シングルノードでの動作が確認された。
推論エンジンには SGLang を採用し、MLA の KV キャッシュを 8 GPU に分散配置する DCP 対応により実効コンテキストキャパシティを確保した。ベンチマークでは同時処理リクエスト数 30 程度が実用上の上限となり、出力スループットは並列数 30 で約 754 tok/s を記録した。
コーディングタスクにおいて A* 経路探索ツールを約 15 分で生成し、動作確認を行った。