Gemma 3 开发者指南 | 快速集成与部署，轻松释放 AI 潜力

Google2025年04月03日约 6 分钟

作者 / 资深开发者关系工程师 Omar Sanseviero；开发者关系工程师 Philipp Schmid

自首次推出以来，Gemma 模型的下载量已超过 1 亿次，社区为各种用例创建了超过 60,000 个变体¹。我们很高兴推出 Gemma 3，这是 Gemma 开放模型系列中最强大、最先进的版本，建立在之前成功推出的 Gemma 版本之上。我们听取了社区反馈，并添加了最受欢迎的功能，例如更长的上下文、多模态支持等等！

Gemma 有哪些新功能？

Gemma 3 中引入了多模态功能，支持视觉语言输入和文本输出。它处理的上下文窗口最多可达 128k tokens，理解超过 140 种语言，并提供经过改进的数学、推理和聊天能力，包括结构化输出和函数调用。Gemma 3 提供四种规格 (1B、4B、12B 和 27B)，既有可针对您自己的用例和领域进行微调的预训练模型，也有通用指令调优版本。

Gemma 是如何构建的？

Gemma 组合运用蒸馏、强化学习和模型合并等技术，优化了预训练和后训练流程。这种方法提高了其在数学、编码和指令遵循方面的性能。Gemma 3 使用了新的分词器，以更好地支持 140 多种语言，并在 Google TPU 上使用 JAX 框架进行了训练，数据量分别为：1B 模型 2T tokens，4B 模型 4T tokens，12B 模型 12T tokens，以及 27B 模型 14T tokens。

对于后训练流程，Gemma 3 使用 4 个组件：

从较大的 INSTRUCT 模型蒸馏到 Gemma 3 预训练检查点。
从人类反馈 (RLHF) 中强化学习，以使模型预测与人类偏好保持一致。
从机器反馈 (RLMF) 中强化学习，以增强数学推理。
从执行反馈 (RLEF) 中强化学习，以提升编码能力。

这些更新显著改善了模型的数学、编码和指令遵循能力，使其成为 LMArena 中最优秀的开源紧凑模型，得分为 1,338。

Gemma 3 的指令版本沿用与 Gemma 2 相同的对话格式，因此您无需更新工具即可更新到最新版本以进行纯文本输入。对于图像输入，Gemma 3 允许指定与文本交错的图像。

多轮文本示例

<bos><start_of_turn>userknock knock<end_of_turn><start_of_turn>modelwho is there<end_of_turn><start_of_turn>userGemma<end_of_turn><start_of_turn>modelGemma who?<end_of_turn>

交错图像示例

<bos><start_of_turn>userImage A: <start_of_image>Image B: <start_of_image>Label A: water lilyLabel B:<end_of_turn><start_of_turn>modelDesert rote<end_of_turn>

多模态性

Gemma 3 集成了基于 SigLIP 的视觉编码器。Gemma 3 视觉模型在训练期间保持冻结状态，并且在不同规格 (4B、12B 和 27B) 的模型中都是相同的。因此，Gemma 可以使用图像和视频作为输入，从而分析图像、回答有关图像的问题、比较图像、识别物体，甚至回复图像中的文本。虽然该模型最初是为处理 896x896 像素的图像而创建的，但由于使用了一种新的自适应窗口算法来分割输入图像，Gemma 3 现在能够处理高分辨率和非方形图像。

△ 输入：我需要取暖，哪个按钮可以打开暖气？

△ 输出：根据图像，可能会打开加热功能的按钮是暖房 (Danbou)。在日语中，"暖房" 意为 "加热"。您可以按下该按钮来激活空调/温度控制系统的加热功能。带有加号 (+) 的按钮可能会在您选择加热模式后用来调节温度。

SigLIP
https://arxiv.org/abs/2303.15343

ShieldGemma 2

ShieldGemma 2 是基于 Gemma 3 构建的 4B 图像安全分类器。它针对各个关键安全类别输出标签，以安全审核合成图像 (来自图像生成模型) 和自然图像 (可作为诸如 Gemma 3 等视觉语言模型的输入过滤器)。了解有关 ShieldGemma 2 的更多信息。

ShieldGemma 2
https://developers.googleblog.com/en/safer-and-multimodal-responsible-ai-with-gemma/

您要开发哪些应用？

Gemma 社区的创造力和 Gemmaverse 的爆发式增长，正不断给我们带来惊喜。从研究实验室探索创新微调技术的实践，到开发者用全新模态训练 Gemma，我们热切期待看到您的下一个突破。普林斯顿 NLP 开发的 SimPO 方法，该方法在没有参考模型的情况下直接针对人类偏好进行优化，是实验室创新微调的典型案例；另一例子是 INSAIT 针对保加利亚语训练出最先进的大语言模型。而 Nexa 在 OmniAudio 上的尝试为开发者使用全新模态训练 Gemma 提供了典型案例。我们迫不及待地想看看您接下来会取得哪些突破。

Gemmaverse
https://ai.google.dev/gemma/gemmaverse
SimPO 方法
https://huggingface.co/princeton-nlp/gemma-2-9b-it-SimPO
针对保加利亚语训练出最先进的大语言模型
https://ai.google.dev/gemma/gemmaverse/insait
Nexa 在 OmniAudio 上的尝试
https://ai.google.dev/gemma/gemmaverse/omniaudio

Gemma 3 快速入门指南

准备好探索 Gemma 3 的潜力了吗？下面是操作步骤：

直接体验：只需点击几下，即可在 Google AI Studio 中试用 Gemma 3。
下载模型：在 Hugging Face 和 Kaggle 上查找模型权重。
学习并整合：深入了解我们的技术报告和全面的文档，以快速将 Gemma 集成到您的项目中；您也可以从我们的推理指南开始体验，或尝试使用自定义数据集进行微调。
使用您喜欢的开发工具：运用您偏好的工具和框架，包括 Hugging FaceTransformers、Ollama、我们的新 Gemma JAX 库、MaxText、LiteRTGemma.cpp、llama.cpp 和 Unsloth。
灵活部署：Gemma 3 提供多种部署选项，包括 Google GenAI API、Vertex AI、Cloud Run、Cloud TPU、Cloud GPU 以及跨平台集成，让您灵活选择最适合自身用例的方案。

Google AI Studio
https://aistudio.google.com/prompts/new_chat?model=gemma-3-27b-it
Hugging Face
https://huggingface.co/collections/google/gemma-3-release-67c6c6f89c4f76621268bb6d
Kaggle
https://www.kaggle.com/models/google/gemma-3
我们的技术报告
https://goo.gle/Gemma3Report
全面的文档
https://ai.google.dev/gemma/docs
Hugging Face Transformers
https://huggingface.co/blog/gemma3
Ollama
https://ollama.com/library/gemma3
Gemma JAX 库
https://gemma-llm.readthedocs.io/en/latest/
MaxText
https://github.com/AI-Hypercomputer/maxtext
LiteRTGemma.cpp
https://github.com/google/gemma.cpp
Unsloth
https://unsloth.ai/blog/gemma3
Google GenAI API
https://github.com/googleapis/python-genai
Vertex AI
https://console.cloud.google.com/vertex-ai/publishers/google/model-garden/gemma3
Cloud Run
https://cloud.google.com/run/docs/tutorials/gpu-gemma-with-ollama
Cloud TPU
https://cloud.google.com/tpu/docs/intro-to-tpu
Cloud GPU
https://cloud.google.com/gpu