匠人学院 JR Academy
  • Position

    我现在在哪,该往哪走?

    几道题看你现在的岗位受 AI 影响多大、机会在哪。免费,不用注册。

    免费看看我现在在哪

    AI 对职业的影响

    我的工作会被 AI 替代吗常见职业的 AI 影响与转型方向AI 时代的新岗位做什么、要求什么、怎么转过去AI 影响自测几道题看你所在岗位的风险和机会

    测一测

    能力测评AI Engineer 面试准备度自测职业性格测试找到和你性格匹配的方向职业规划回答几个问题,看可能适合的职业回国求职评估按学校、专业、毕业时间看回国机会
  • Skill

    不知道该学什么 AI?

    先按方向免费学,每个方向从入门讲到动手做;想系统学再看训练营和导师。

    按方向免费开始学

    按方向免费学

    Vibe Coding用 AI 写代码,零基础可学AI 办公提效文档、表格、汇报用 AI 省时间Prompt 大师把需求说清楚的写法AI EngineerRAG、Agent、MCP 工程实践AI 数据分析用 AI 做查询、清洗和报表全部学习方向 →

    训练营与课程

    全部训练营按职业方向、难度、形式筛选AI Engineer Bootcamp从 LLM 应用到 Agent 的工程训练营人人都能学的 AI Coding非技术背景的 AI 编程实战AI 工作流提效营在职人士的 AI 工作流导师团队一线工程师与行业导师全部课程 →

    动手练与资料

    互动 LabPrompt、前端、Python、AWS 在线练学习路线图一张图看清该按什么顺序学Cheat Sheets语言与工具速查表Wiki 知识库AI 工具与概念讲解视频讲座、公开课、学员分享免费资源 →
  • Evidence

    拿什么让雇主相信你?

    证书、项目、团队实战、比赛作品,最后整理成一份作品档案。

    了解作品档案

    考证

    考证匠 · 全部认证AWS、Azure、GCP、Claude 等备考与模考AWS SAA-C03云架构师入门认证Azure AI-102微软 AI 工程师认证Claude 认证Anthropic Claude 系列认证模拟考试按真实考试界面限时练全部认证 →

    项目与团队实战

    P3 团队实战和真人协作做项目,模拟实习式的团队流程P3 项目经历P3 项目能写进简历的部分Demo Day项目成果展示P3 证书完成项目后的证明P3 全部 →

    比赛与作品

    黑客松限时做出一个作品提交作品把你的项目放进作品展示CareerOS 作品档案在桌面版做任务,提交的结果整理成作品
    考证匠浏览器插件 + App + 小程序截屏分析考题,随时刷题了解考证匠
  • Connect

    怎么把自己推出去?

    简历、面试、内推、导师。先看你和目标岗位差多少,再决定从哪补。

    用求职匠开始

    简历与机会

    毕业生求职澳洲、中国、马来西亚、新加坡、美国、英国求职准备求职匠AI 求职工作台:改简历、找岗位、投递AI 简历对照 JD 改写简历内推机会学员和导师分享的内推岗位机会实习、项目和合作机会Offer 榜学员拿到的 Offer

    面试

    AI 模拟面试文字或语音练一次,看差在哪面试中心按公司和岗位找题面经真实面试经历System Design 手册系统设计面试准备面试全部 →

    导师

    1v1 导师按小时约 AI、求职、技术导师拼团私教几个人一起上,每人更便宜职业辅导服务简历、面试、方向的辅导套餐成为导师加入匠人导师团队
    求职匠桌面版一个工作台管完整求职在 macOS/Windows 整理真实经历,按岗位完善简历版本。了解求职匠
  • Community

    去哪认识同路的人?

    讲座、公开课、Workshop、黑客松,线上线下都有。

    看近期活动

    活动类型

    讲座行业嘉宾分享公开课免费试听课程内容Workshop动手做一个小作品黑客松组队限时开发新生节开学季的校园活动

    城市

    悉尼悉尼的线下活动墨尔本墨尔本的线下活动布里斯班布里斯班的线下活动线上在哪都能参加全部活动 →

    社群

    职业社区求职者互助学习小组找人一起学Discord在线交流群
企业会员下载 CareerOS
0
匠人学院 JR Academy学AI来匠人

Follow Us

linkedinfacebooktwitterinstagramweiboyoutubebilibilitiktokxigua

We Accept

/image/layout/pay-paypal.png/image/layout/pay-visa.png/image/layout/pay-master-card.png/image/layout/pay-airwallex.png/image/layout/pay-alipay.png
EN
产品

CareerOS 与工具

  • CareerOS
  • 考证匠
  • 求职匠
  • 求职匠网页版
  • 求职匠分析报告
  • 求职匠桌面版下载
  • 我的求职报告
  • 购买报告次数
  • 求职匠账单
  • AI 工具箱
  • AI Skill 商城

会员与课程

  • 会员
  • AI 会员
  • AI Engineer VIP
  • 训练营
  • Training Camp
  • 看板学习
  • AI Builder 课程
  • MCP 课程
  • NotebookLM Workshop
  • Business Analyst 课程
  • Web全栈班
  • DevOps项目班
  • 数据工程全栈班
  • 数据分析项目班
  • 编程入门班
  • 算法集训营

求职服务

  • 毕业生求职
  • 澳洲毕业生求职
  • 中国毕业生求职
  • 马来西亚毕业生求职
  • 新加坡毕业生求职
  • 美国毕业生求职
  • 英国毕业生求职
  • 1v1 辅导
  • 职业辅导
  • BA和产品经理实习
  • 数据科学实习
  • 数据分析实习
  • Marketing实习
  • 简历修改
  • 面试指导
  • 岗位代投
  • 职位监控
  • LinkedIn代运营
  • LinkedIn人脉代加
内容库

学习方向

  • 全部学习方向
  • AI Engineer
  • Context Engineering
  • Vibe Coding
  • Prompt Master
  • AI Builder
  • AI 产品经理
  • Python 入门
  • AI 办公提效
  • AI 数据分析
  • AI 财务
  • AI 内容创作
  • AI 视觉创作
  • 前端开发
  • Hermes Agent
  • OpenClaw 本地智能体

互动 Lab

  • Prompt Lab
  • Frontend Lab
  • JavaScript Lab
  • Python Lab
  • AWS Lab
  • Azure Lab
  • LLM Lab
  • Git Lab

资料与指南

  • Wiki 知识库
  • 学习 Wiki
  • Cheat Sheets
  • 学习路线图
  • AI 路线图
  • 视频
  • 博客
  • 面试手册
  • 模拟考试
  • 免费资源

城市

  • 悉尼
  • 墨尔本
  • 布里斯班
  • 阿德莱德
  • 新加坡
  • 吉隆坡
  • 伦敦
  • 纽约
  • 旧金山
  • 洛杉矶
  • 西雅图
  • 多伦多
  • 温哥华

移民

  • 澳洲移民
  • 技术移民189/190/491
  • 雇主担保482/186/494
  • 投资移民188/888
  • 英国移民
  • 美国移民
  • 加拿大移民
  • 新加坡移民
  • 马来西亚移民
企业

企业服务

  • AI for Business
  • 企业门户登录
  • 企业培训
  • 实习合作
  • 招聘合作
  • Enterprise (EN)

Metatree AI Lab

  • Metatree AI Lab
  • AI 解决方案
  • 数字员工
  • 案例
  • Metatree AI Lab(英文)
  • AI Services(英文)
  • Digital Employee(英文)
  • Work(英文)

青少年 AI 教育

  • Airbotix 少儿 AI 编程
  • 澳洲家长实用资料库
  • NAPLAN 成绩单怎么看
  • My School 学校数据指南
  • 悉尼私校学费 2026
  • 少儿编程课程与训练营
关于

公司

  • 关于我们
  • 匠人导师
  • 成为导师
  • 新闻资讯
  • 元宇宙课堂
  • 匠人工作
  • 匠人商店J3.Club
  • 联系我们

帮助与条款

  • 常见问题
  • 服务条款
  • 隐私政策
  • 取消与退款政策
  • 网站地图

友情链接

  • CS Browser

联系

  • hello@jiangren.com.au
  • 0421-672-555

地址

Level 10b, 144 Edward Street, Brisbane CBD (Headquarter)
Level 2, 171 La Trobe St, Melbourne VIC 3000
四川省成都市武侯区桂溪街道天府大道中段500号D5东方希望天祥广场B座45A13号
Business Hub, 155 Waymouth St, Adelaide SA 5000

Disclaimer

footer-disclaimerfooter-disclaimer

JR Academy acknowledges Traditional Owners of Country throughout Australia and recognises the continuing connection to lands, waters and communities. We pay our respect to Aboriginal and Torres Strait Islander cultures; and to Elders past and present. Aboriginal and Torres Strait Islander peoples should be aware that this website may contain images or names of people who have since passed away.

匠人学院网站上的所有内容,包括课程材料、徽标和匠人学院网站上提供的信息,均受澳大利亚政府知识产权法的保护。严禁未经授权使用、销售、分发、复制或修改。违规行为可能会导致法律诉讼。通过访问我们的网站,您同意尊重我们的知识产权。JR Academy Pty Ltd 保留所有权利,包括专利、商标和版权。任何侵权行为都将受到法律追究。查看用户协议

© 2017-2026 JR Academy Pty Ltd. All rights reserved.

ABN 26621887572

首页学习AI课程考证
  1. 首页
  2. 学技能
  3. 资源中心
  4. Google Gemma 4 开源模型实操指南:从选型到部署
JR Academy · Blog职业洞察

Google Gemma 4 开源模型实操指南:从选型到部署

Google Gemma 4 以 Apache 2.0 许可开源,四种规格覆盖手机到服务器全场景。本文详解 Gemma 4 的技术架构、模型选型策略、本地部署方法和实际应用场景,帮助开发者快速上手。

发布日期2026-04-07
阅读时长2 分钟
作者

快速导航

  • Gemma 4 技术架构:为什么这次不一样
  • 为什么你应该关注 Gemma 4
  • 实操指南:模型选型与部署
  • 选型决策树
  • 快速上手:用 Ollama 本地运行
  • 用 Hugging Face Transformers 加载
  • 用 vLLM 部署推理服务
  • 常见问题
  • Gemma 4 能在 Mac M 系列芯片上跑吗?
  • Gemma 4 和 Gemini API 有什么关系?用 Gemma 4 能达到 Gemini 的效果吗?
  • Apache 2.0 意味着我可以用 Gemma 4 的输出来训练自己的模型吗?
  • JR Academy 相关资源

Google Gemma 4 开源大模型实操指南

4 月 2 日 Google 发布 Gemma 4 时,开源社区的反应不是"又一个模型",而是"终于等到了"。不是因为它多强——虽然 31B 排全球开源第三确实强——而是因为 Apache 2.0 许可证。这意味着你可以把它塞进任何商业产品里,不用担心 Meta Llama 那种"月活过 7 亿要另谈"的限制。

这篇文章不讲论文、不念参数,直接告诉你:四个型号怎么选、怎么跑起来、适合干什么。

Gemma 4 技术架构:为什么这次不一样

Gemma 4 基于 Gemini 3 同源技术构建,但不是简单的缩小版。Google 在这代做了几件关键的事:

多模态原生支持:所有四个型号都原生支持视频和图像输入,支持可变分辨率。E2B 和 E4B 还支持音频输入——这意味着在手机上做语音识别不需要额外的 ASR 模型。

超长上下文窗口:边缘模型 128K,大模型 256K。256K 上下文足够你把一整个中型代码仓库塞进去做分析。

140+ 语言原生训练:不是后期微调的多语言,而是预训练阶段就覆盖了 140 多种语言。对做多语言产品的团队来说,这省掉了大量微调工作。

Apache 2.0 许可:这一条值得单独说。之前的 Gemma 用的是 Google 自定义许可,商用时需要小心条款。现在完全放开——fork、修改、商用、再分发,随便你。

为什么你应该关注 Gemma 4

如果你正在评估开源模型方案,Gemma 4 改变了选型的格局:

对比 Llama 4:Meta 的 Llama 4 Maverick 同样是 400B+ 级别的大模型,但 Llama 的许可证对月活超过 7 亿的产品有限制。Gemma 4 的 Apache 2.0 没有任何此类门槛。而且 Gemma 4 的 26B MoE 版本在推理效率上极具优势——更少的参数激活量,更低的延迟和成本。

对比 Qwen 3.5:阿里的千问 3.5 在中文场景确实很强,但 Gemma 4 原生支持 140+ 语言意味着在多语言场景下你不需要为每种语言单独适配。

对比自有 Gemini API:如果你现在在用 Gemini API,但被调用成本和数据隐私困扰,Gemma 4 让你用近似的技术栈自建推理服务,数据完全不出域。

实操指南:模型选型与部署

选型决策树

你的场景是什么?
├── 移动端/IoT → E2B(2B参数)
│   └── 需要语音输入?→ E2B 原生支持
├── 移动端主力模型 → E4B(4B参数)
│   └── 手机上的完整 AI 助手
├── 服务端,追求性价比 → 26B MoE
│   └── 单张 RTX 4090 可跑,Arena 全球第六
└── 服务端,追求最高性能 → 31B Dense
    └── Arena 全球第三,需要 A100 级 GPU

快速上手:用 Ollama 本地运行

最快的体验方式是用 Ollama:

# 安装 Ollama(如果还没有)
curl -fsSL https://ollama.com/install.sh | sh

# 拉取 Gemma 4 26B MoE(推荐首选)
ollama pull gemma4:26b

# 开始对话
ollama run gemma4:26b

如果你的显存有限(8GB 以下),用 E4B:

ollama pull gemma4:e4b
ollama run gemma4:e4b

用 Hugging Face Transformers 加载

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "google/gemma-4-31b"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    device_map="auto",
    torch_dtype="auto",
)

prompt = "Explain the difference between MoE and dense models"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

用 vLLM 部署推理服务

# 安装 vLLM
pip install vllm

# 启动 OpenAI 兼容的 API 服务
python -m vllm.entrypoints.openai.api_server \
    --model google/gemma-4-26b-moe \
    --tensor-parallel-size 2 \
    --max-model-len 131072

这会在 http://localhost:8000 启动一个与 OpenAI API 完全兼容的推理服务,你的现有代码几乎不需要改动。

常见问题

Gemma 4 能在 Mac M 系列芯片上跑吗?

可以。E2B 和 E4B 都可以在 M2/M3/M4 的统一内存上流畅运行。26B MoE 需要至少 32GB 内存的 Mac。31B Dense 建议 64GB 以上。用 Ollama 或 MLX 框架都可以。

Gemma 4 和 Gemini API 有什么关系?用 Gemma 4 能达到 Gemini 的效果吗?

Gemma 4 和 Gemini 3 共享底层技术和训练方法,但 Gemini 的参数规模大得多。Gemma 4 31B 大约能达到 Gemini Pro 70-80% 的水平,但推理成本低一个数量级。对大多数应用来说这个差距完全可以接受。

Apache 2.0 意味着我可以用 Gemma 4 的输出来训练自己的模型吗?

可以。Apache 2.0 对模型输出没有任何限制。你可以用 Gemma 4 生成合成数据来训练你自己的模型,完全合法合规。这也是 Apache 2.0 比 Llama 许可证更友好的一个关键点。

JR Academy 相关资源

如果你想系统学习 AI 开发和大模型部署,这些资源可以帮到你:

  • AI 全栈开发课程 — 从 API 调用到本地模型部署,完整覆盖 AI 应用开发全流程
  • DevOps & Cloud 学习路线 — 掌握 GPU 服务器部署、容器化推理服务等基础设施技能,为本地大模型部署做好准备
作者
一键分享或复制链接
← 上一篇世界模型 vs LLM:LeCun 的 $10 亿赌注能否颠覆 AI 格局下一篇 →🇦🇺 发现一个神操作,零基础1周拿下谷歌云证书!

相关文章推荐

AWS SAP-C03 本周正式上线,Advanced Networking 倒计时 54 天 | IT 日报 2026-11-08

2026-11-08

GitHub Copilot 实战指南 — Copilot AI Code Review:30 秒让 AI 帮你审 PR,三档深度随需切换

2026-11-07

GitHub Copilot 实战指南 — 多模型选型实战:29 个模型怎么选,Auto 还是手动指定?

2026-11-07

GitHub Copilot 实战指南 — 常见问题、定价与选型建议

2026-11-07

GitHub Copilot 实战指南 — 进阶玩法:Coding Agent、自定义指令与 MCP

2026-11-07

GitHub Copilot 实战指南 — 核心功能深度解析:补全、Chat 与 Agent Mode

2026-11-07
查看全部文章 →

看完了,下一步

不知道下一步学什么?说说你的情况

说说你现在做什么、想去哪,按技能、证据、经验、表达、定位五类看差在哪、先补什么。不用登录。

对照我的情况
  • 技能按方向免费学 AIVibe Coding、AI 办公、Prompt、AI Engineer 等方向,按章节从入门学起。看全部学习方向 →
  • 定位按岗位看学习路线图前端、后端、数据、AI 等方向,按阶段列出要学的内容和先后顺序。看全部路线图 →
  • 表达练一次 AI 模拟面试选一个岗位开始模拟面试,练习把经历和项目讲清楚。去练一次 →

不确定下一步做什么?

带上这页的主题,对照你的情况看差在哪。

对照我的情况
JR Academy
全球华人学习 AI 第一站
训练营免费资源AI学习职业辅导
精选推荐
AI 职业影响地图
测测你的职业风险等级,查看转型路径与学习方向
热门工具
AI & 数据训练营
系统化课程 + 真实项目实战,快速提升竞争力
热门课程
1v1 就业辅导
资深导师一对一指导,简历优化 + 面试准备
职业辅导
企业内训定制
AI 技能培训方案,助力团队升级
企业服务
热门标签
Vibe CodingAI 编程CursorClaude求职攻略Prompt前端开发后端开发
订阅更新

获取最新 AI 学习资源、技术教程和求职攻略,直接送达邮箱。

我们尊重您的隐私,不会发送垃圾邮件