Metaは8月10日、MacやPCで動作する300億パラメータのエージェント専用モデル「Muse Glimmer」をApache 2.0ライセンスで公開した。単一のコンシューマーGPUで動作可能であり、ローカルでの自律的なタスク処理が可能になる。
Metaは8月10日、MacやPCに搭載された単一のコンシューマーGPU上で動作する300億パラメータのモデル「Muse Glimmer」を公開した。同モデルはApache 2.0ライセンスで提供され、Hugging Faceからダウンロード可能である。
このモデルはローカル環境でのエージェントワークフローに対応するために最適化されている。オフラインでもAIを利用でき、スケジュール管理やメッセージ作成、ファイル整理などの自律的なタスク処理が可能になる。また、コード生成や関数呼び出し、LLM-as-a-judgeによる評価といった用途にも対応する。
モデルの学習プロセスは事前学習、中間学習、学習後調整の3段階で構成されている。より大規模な教師モデルからエージェント用の推論能力を転移させる蒸留手法を採用し、メモリと計算リソースの制約のあるローカルハードウェアでも動作するように設計された。また、4ビット量子化技術により、モデルの重みを20GB未満に圧縮している。これにより、24GBまたは32GBのメモリエンスで動作可能となり、画像認識用のエンコーダーや推論のためのドラフターモデルも同時に実行できる。
生成速度の向上には、DFlashに基づく軽量なドラフターモデルを採用した疑似並列推論が利用されている。この手法により、1トークンずつ生成する従来の方式よりも高速にテキストを出力でき、品質は維持されたまま処理速度が向上する。MacBook M4-MaxやRTX-5090などの環境で検証されており、リアルタイムのエージェントインタラクションが可能とされている。
モデルの機能としては、複数ステップの推論、ツールの信頼性の高い使用、失敗時の回復能力、マルチモーダル入力(テキストと画像)、100以上の言語での対応などが挙げられる。また、OpenClawなどのエージェントオーケストレーションパターンとの互換性も確保されている。
開発者はOllamaやLM Studio、vLLMといった既存のツールを使用してモデルをローカルで実行できる。今後はAMDやIntel、NVIDIAなどのパートナーと連携し、さまざまなデバイスでのパフォーマンス最適化を進めていくとしている。
