机器之心剪辑部
鄙人载量冲破 1.5 亿次之际，谷歌 Gemma 4 系列模子迎来了新的眷属成员！
今天，谷歌认真推出 Gemma 4 12B，研究是把具备智能体时候的多模态智能，成功带到条记本电脑上。
字据先容，Gemma 4 12B 介于面向边际建造的 E4B 与时候更强的 26B 夹杂众人模子（MoE）之间，在更小的内存占用下提供了巨大的时候。
另外，Gemma 4 12B 亦然谷歌首个扶助原生音频输入的中等范围模子。
谷歌 DeepMind 独创东说念主兼 CEO 哈萨比斯，「为庆祝 Gemma 4 下载量冲破 1.5 亿次这一关键里程碑，谷歌发布了全新的 Gemma 4 12B 模子！关于这么一个小尺寸模子来说，它的时候独特巨大；同期，它也豪阔轻量，只需 16GB 显存，就能在条记本电脑上土产货开动。」
人人不错用它构建了多样种种的讹诈，从用于物理辅助的可一稔机器东说念主手臂，到企业级 AI 安全系统。谷歌也期待看到征战者用这款最新模子创造出更多可能。
这次，Gemma 4 12B 模子具有以下几大特点：
全新的和谐架构：不再使用多模态编码器，视觉和音频输入不错成功插足 LLM 骨干网罗。
更强的推理时候：在基准测试中的进展接近谷歌的 26B 模子，大要扶助巨大的多步推理和智能体责任流。
合适条记原土产货开动：模子范围豪阔小，只需要 16GB 显存或和谐内存即可在土产货开动。
绽放且易于得到：收受 Apache 2.0 许可证发布，并扶助平淡的征战者生态。
扶助草稿模子加快：Gemma 4 12B 配备了多 Token 展望（MTP）草稿模子，可用于缩短蔓延。
当今，用户不错通过 LM Studio、Ollama、Google AI Edge Gallery App、Google AI Edge Eloquent App 以及 LiteRT-LM CLI 等渠说念进行试用。
在 GPQA Diamond、BBEH、MMLU Pro、LiveCode Bench、DocVQA、InfoVQA、MMMU Pro 和 MRC v2.8 needle 128k（average）等一系列基准测试中，Gemma 4 12B 的进展接近谷歌更大的 26B MoE 模子，但举座内存占用不到后者的一半。
而况，它的范围豪阔小，百家乐2026世界杯中国官方下载不错在配备 16GB 内存的耗尽级条记本电脑上土产货开动，从而把巨大的多模态体验和智能体时候带到你的个东说念主建造上。
有东说念主在一张 RTX 4090 上土产货开动了 Gemma 4 12B 和 Gemma 4 26B-A4B，并给它们打发了归拢个任务：在不使用任何库的情况下，用单个文献写出一个自包含的 HTML5 Canvas 动画，并加入着什物理着力。测试包含三个场景：高尔顿板、两个方块与墙面碰撞，以及无极三重摆。输出截止如下：
Gemma 4 26B-A4B：占用 15GB 显存，生成 6.9k tokens，速率 138 tokens/s
Gemma 4 12B：占用 9GB 显存，生成 8.9k tokens，速率 80 tokens/s
同属 Gemma 4 眷属，但 26B-A4B 在三个场景中皆胜出，而且开动速率快了约 1.7 倍，它的活跃参数目只消 4B。不外，12B 的进展也独特接近，同期显存占用险些只消一半。这也让它成为 16GB 条记本上的理思土产货模子。
另外，Gemma 4 12B 最隆起的场地在于，它措置视觉和音频输入的神色愈加精简。
传统多模态模子时时依赖零丁编码器，先把图像和音频休养成模子可明白的默示，再传递给讲话模子。但这些折柳式编码器会带来格外蔓延，也会增多内存占用。因此，谷歌在考试 Gemma 4 12B 时收受了无编码器架构，让音频和视觉输入大要成功整合进模子。
Gemma 4 12B 原生措置多模态输入的神色如下：
视觉：谷歌用一个轻量级镶嵌模块替代了 Gemma 4 的视觉编码器。这个模块由一次矩阵乘法、位置镶嵌和归一化构成，让 LLM 骨干网罗接受视觉措置。
音频：音频措置进一步简化。谷歌十足移除了音频编码器，并将原始音频信号投影到与文本 token 换取的维度空间中。
在 Google AI Edge Eloquent App 中，Gemma 4 12B 不错十足离线完谚语音输入的转录、标准整理和翻译。
百家乐IOS/安卓通用版/手机APP下载