Google 公布可在筆電執行的 AI 模型 Gemma 4 12B
google 發布 gemma-4-12b，定位為可在 16GB RAM 消費級筆電上執行的 120 億參數多模態模型。它位於 Gemma 4 家族小型邊緣模型與工作站級模型之間，目標是支援本機端 AI Agent、多模態推理與複雜工作流程。
技術重點
- 無編碼器多模態架構：移除傳統多模態編碼器，改用輕量化嵌入模組，讓視覺與音訊輸入直接進入 LLM 骨幹。
- 降低記憶體需求：標竿表現接近 Gemma 4 26B MoE，但總記憶體大小不到一半。
- 本機端可執行：可在一般 16GB RAM 筆電執行，降低 AI Agent 與多模態應用部署門檻。
- 延遲最佳化：加入 MTP drafter 以降低生成延遲。
- 開放授權：Apache 2.0，支援 Hugging Face、Kaggle、Ollama、LM Studio 等取得與執行管道。
產業意義
Gemma 4 12B 代表多模態與代理式 AI 從雲端或高階工作站下放到個人筆電的趨勢。對開發者而言，這有助於資料不出端點、離線實驗、低成本原型開發，以及本機端代理工作流程。
來源文章
相關頁面
- gemma-4-12b — 模型實體
- google — 發布公司