Google 公布可在筆電執行的 AI 模型 Gemma 4 12B

來源：iThome
作者：林妍溱
發布日期：2026-06-04
原文：https://www.ithome.com.tw/news/176366

摘要

google 發表 gemma-4-12b，這是一款 120 億參數、可在一般筆記型電腦上執行的多模態 AI 模型。它採用整合式無編碼器（encoder-free）多模態架構，主打在記憶體需求大幅降低的情況下，仍具備接近 Gemma 4 26B MoE 的多模態與推理能力。

Gemma 4 12B 填補 Gemma 4 家族中邊緣裝置模型與工作站/高階模型之間的空缺，讓開發者能在本機筆電上執行代理人、多模態推理與複雜工作流程。

關鍵資訊

• 模型：Gemma 4 12B
• 參數量：120 億
• 架構：Encoder-Free Architecture，使用輕量化嵌入模組讓視覺與音訊輸入直接進入 LLM 骨幹
• 硬體需求：可在 16GB RAM 消費級筆電上執行
• 效能定位：接近 Gemma 4 26B MoE，但總記憶體大小不到一半
• 延遲最佳化：加入 MTP（multi-token prediction）drafter
• 授權：Apache 2.0
• 取得方式：Hugging Face、Kaggle，並支援 Google AI Edge Gallery、Google AI Edge Eloquent、LiteRT-LM CLI、LM Studio、Ollama

技術意義

Gemma 4 12B 的重點在於把多模態、推理、程式碼與代理式工作流程推向本機端。相較於需要高階 GPU 或雲端伺服器的大型模型，它降低部署門檻，適合本機端 AI Agent、低延遲互動、離線或資料不出端點的開發情境。

衍生頁面

• Google公布可在筆電執行的AI模型Gemma 4 12B — 模型發布與本機端 AI 意義
• gemma-4-12b — Google 發布的 120 億參數多模態模型
• google — 發布公司