掌握前沿技术
前沿技术掌握：学习构建RAG系统、微调Llama 3.1和Embeddings等热门AI技术
全栈工程师的新选择
随着人工智能技术的广泛应用和行业需求的爆发式增长，AI 工程师（AI Engineer） 已成为全球科技行业薪资最高的职业之一。特别是在澳大利亚，AI 相关岗位的薪资水平显著高于传统软件工程师，并且随着 人才短缺 和 企业对 AI 技术的迫切需求，薪资仍在持续上涨。
根据 Clicks IT Recruitment 和 Levels.fyi 最新数据显示：
- AI Engineer 平均年薪：151,665 澳元
- 入门级 AI 工程师：133,335 澳元起
- 资深 AI 工程师：最高可达 176,665 澳元
- 机器学习/人工智能软件工程师（ML/AI Software Engineer） 的中位数薪资达 154,985 澳元，高于一般的软件工程师。
此外，从数据来看，AI 相关职业薪资分布如下：
可以看到，AI 工程师的薪资远高于普通软件开发岗位，尤其是 ML/AI 软件工程师，随着经验的积累，薪资增长潜力巨大。
AI 正在渗透到各个行业，包括 医疗、金融、零售、政府服务，甚至是 法律、教育 等传统行业，带动了对 AI 工程师的需求。如Optus、Service NSW 等澳洲企业已在客户服务、智能助手等领域广泛应用 AI 技术，推动市场对 AI 人才的需求增长。这正是对于Fullstack Developer来说最好的“弯道超车”的机会。
AI Engineer 需求爆发式增长，是实现“弯道超车”的好机会
随着AI技术的快速发展，全球范围内对 AI 工程师（AI Engineer） 的需求正在迅猛增长。根据 澳大利亚技术委员会（Technology Council of Australia, TCA） 的预测，到 2030年，澳洲AI相关岗位将增长至20万，实现 500% 的增长。
这一趋势不仅带来了 技术岗位（如AI工程师、数据科学家、机器学习专家） 的扩张，还涉及 商业、政策、销售、管理等多个非技术岗位，形成了一个广泛的 AI 生态系统。掌握 AI 开发，能够适配更多企业需求。企业对 AI 的需求不仅限于 AI 研究，而是更需要 将 AI 技术集成到 Web 和应用开发中。
2025年劳动市场的热点趋势
生成式 AI（GenAI）无疑将成为 2025 年劳动力市场的热点趋势。2024 年，澳大利亚对 GenAI 的应用激增，相关职位发布占比从 2023 年底的 0.06% 上升至 2024 年底的 0.22%，增长近四倍。
目前，GenAI 仍主要应用于科技行业，其职位占比约为非科技行业的 11 倍。然而，非科技领域的 GenAI 需求也在快速增长。到 2024 年底，0.14% 的非科技岗位在职位描述中提及 GenAI，较 2023 年底增长近五倍。
根据Indeed数据显示，2024 年澳大利亚提及生成式 AI（GenAI）的职位发布量大幅增长，涵盖技术和非技术岗位。澳大利亚企业将持续加大对该技术的投入，推动各行业的工作方式变革。预计到 2025 年底，涉及 GenAI 的职位需求将进一步攀升。
课程简介
Build RAG & Agents w/ LangChain. Fine-Tune Embeddings & Llama 3.1. Deploy to Prod in the Cloud & On-Prem. Monitor and Evaluate w/ LLM Ops
使用 LangChain 构建 Retrieval Augmented Generation (RAG) 系统和 Agents。Fine-tuning Embeddings 和 Llama 3.1。在云端和本地部署生产级应用，并通过 LLM Ops 进行监控和评估。
在本课程中，您将学习如何根据最佳实践原型设计LLM应用，并基于生成式AI的四大核心模式：Prompt Engineering（提示工程）、Retrieval Augmented Generation (RAG)（检索增强生成）、大语言模型（LLM）和Embeddings，以及Agents进行开发。
课程的核心是 RAG 系统。您将学习如何从OpenAI GPT模型快速原型设计应用，进而使用最新的开源LLM和嵌入模型构建具备可扩展性的生产级应用。
同时，您无需绑定于单一云计算供应商，课程将使用Python和核心版本控制工具LangChain，从零构建系统。LangChain 是构建生产级LLM应用的领先框架。
课程大纲2.0升级
课程内容升级
课程大纲2.0新增加MCP模块（Multi-Call Protocol），紧紧贴合AI技术开发需求。简单来说，MCP可以理解成一种“智能助手的指挥系统”。想象你有一个 AI 助手，它可以帮你做很多不同的任务，比如查天气、翻译、生成代码等。但有时候，助手需要多个步骤才能完成任务，比如先查航班信息，再帮你订票，而 MCP 就是用来协调这些步骤的。
.jpg?table=block&id=1cadd76b-576d-8001-97f3-e5e0cc46641f&cache=v2)
在课程中加入 MCP，有哪些提升？
- 提升 AI 任务处理能力：MCP 让 AI 可以更高效地处理复杂任务，比如同时调用多个工具，或者分步骤完成任务，而不是一次只能做一件事。
- 更智能的交互体验：MCP 让 AI 更像一个真正的“智能助理”，可以根据上下文决定接下来的操作，而不是简单地回答问题。
- 掌握前沿技术：MCP 目前被 OpenAI、Anthropic 等大公司支持，掌握它意味着你可以更好地构建基于 LLM 的智能系统，提高竞争力。
- 高效开发与优化：学会 MCP Server 的构建和使用，可以让你更快速地集成不同的 AI 工具，让你的应用更强大。
简单来说，MCP 让 AI 不只是“回答问题的机器人”，而是一个能主动规划和执行任务的智能体，这对于想深入了解 AI 应用开发的人来说是一个很重要的能力。
新增实操项目
为了增加学员的AI项目经验，在课程内容结束之后，学员们可以选择是否进入Dispatch AI项目组实操。
在本期 AI Engineer 课程中，我们全新加入了 Dispatch.AI 智能语音助手项目，这是一个为服务类专业人士（如租赁经理、水管工、承包商及小企业主）量身打造的虚拟电话助手。
项目背景：
在日常工作中，服务类从业者需要频繁接听电话、安排任务和管理客户沟通，而 Dispatch.AI 正是为了解决这些痛点而生。它结合了 语音识别（ASR）+ 自然语言理解（NLU）+ 智能任务调度，帮助用户自动接听、记录、并处理来电请求。
这个项目不仅是你 AI 工程能力的全面练兵场，更是一个具备商业化潜力的产品雏形，适合展示在 Portfolio、Demo Day 或面试作品集中。
如果你希望深入理解 如何打造能听、能理解、能行动的 AI Agent！
课程受众对象
针对个人-Upskill
- 数据科学家 和 机器学习工程师，希望成为全栈AI从业者
- 软件工程师，希望构建复杂的LLM应用
- DevOps工程师/云端工程师，希望转型为全栈AI工程师
- 技术产品经理 (TPM)，需要指导团队构建AI应用
- 联合创始人/创始人，尤其是AI领域的创业者
- AI博士研究生
- 这门课程为希望提升 AI 能力的数据科学家、机器学习工程师、DevOps 工程师、技术产品经理以及 AI 领域创业者量身定制。
- 无论是希望提升现有技能的专业人士，还是初创企业技术领导者，您都将在这里获得全方位的 AI 工程能力。
针对企业
- AI创业公司
- 希望在企业内部实施AI产品的公司
- 希望培养开发企业级AI应用能力的公司
学完本课程后，企业将获得的帮助：
- 定制适合自身业务的AI系统
- 提升员工的工作效率
- 帮助企业搭建AI SaaS系统
AI Engineer就业多方向选择
课程面向
不限制仅仅澳洲，全球，以及中国地区可以报名，欢迎来自各个国家的学员
学员需要具备以下基础知识：
- 编程能力，尤其是Python
- 基础云服务能力，如AWS、Azure
- 熟练使用Git
- 熟悉API开发
- 会使用命令行工具
- 基本的英语能力
使用业界领先的LLM工具
包括LangChain、Hugging Face、OpenAI、Meta、Qdrant、AWS和Azure，帮助学员掌握最前沿的AI开发技术，从理论到实践全面提升
部分课程大纲
课程亮点
掌握前沿技术：
- 学习使用业界领先的框架 LangChain 构建 检索增强生成（RAG） 系统和 Agents。
- 微调最新的Embeddings 和 Llama 3.1，提升模型性能，满足真实世界的复杂需求。
多平台部署：
- 了解如何将模型无缝部署到云端（如 AWS、Azure）和本地环境，确保灵活性和扩展性，适应不同企业需求。
端到端 AI 解决方案：
- 不仅仅是编写代码，您将深入掌握如何从零构建 AI 系统，并使用 LLM Ops 实时监控和评估模型的表现，优化性能。
面向实战的项目体验：
- 每周参与动手项目，设计并实现复杂的 LLM 应用，从快速原型到生产级应用。所有项目均在导师和同伴的实时反馈中完成，确保学习效果最大化。
四大生成式 AI 核心模式：
- 学习基于 Prompt Engineering（提示工程）、Retrieval Augmented Generation（RAG）、大语言模型（LLM） Fine-tuning 及 Agents 的开发模式，成为掌握生成式 AI 原理的专家。
前沿工具与技术的实践：
- 使用 LangSmith 提供的可视化和监控工具，为您的 AI 应用提供完整的监控解决方案，确保每个环节的准确性和可控性。
- 学习如何通过 DSPy 优化提示，通过先进的检索和分块技术提升 RAG 系统的性能，并使用 AWQ 和 vLLM 优化推理和服务。
为什么要学习AI Engineer
Retrieval Augmented Generation (RAG)
学习构建RAG应用，并将LLM输出与参考数据相结合，构建企业级应用。
Agents
学习构建复杂的LLM应用，具备推理、行动能力，并能与外部工具协同工作。
Prompt Engineering
掌握如何通过提示工程快速开发原型、RAG应用和智能体。
Embedding Fine-Tuning
学习如何将开源的Embedding模型微调至特定领域的语言或数据中。
LLM Fine-Tuning
高效训练LLM模型，执行特定任务，并使用PEFT-LoRA等技术进行优化。
Visibility
掌握如何调试、测试和监控通过任何领先LLM框架构建的应用。
项目经验
在学习过程中完成的项目将帮助提升简历竞争力，适应实际工作需求。
资深一线大厂导师，助力你的职业提升
学习阶段 - Learning Roadmap
针对匠人学院，学员从0基础到AI Engineer
Stage 1: Web入门班
适合对象: 大学新生或零基础学习者
课程目标: 帮助学员快速掌握Web开发的基础知识，覆盖HTML、CSS、JavaScript等核心技术。通过简单的项目实战，使学员具备基本的前端开发能力，为后续的进阶学习打下坚实基础。
Stage 2: Web进阶班
适合对象: 大学毕业生或具备基本Web开发经验的学习者
课程目标: 强化学员的前端开发能力，并引入后端开发基础。课程内容包括React、Node.js、数据库等实用技术。通过项目开发，学员将进一步巩固Web开发全栈技能，能够独立完成简单的Web应用开发。
Stage 3: Web全栈班
适合对象: 准备进入职场的学员
课程目标: 帮助学员达到Job-ready的水平，具备应对真实工作环境的能力。课程涵盖全栈开发的各个方面，从前端、后端到数据库、部署，旨在让学员能够快速胜任初级Web开发者的岗位，并通过就业辅导，找到第一份工作。
Stage 4: DevOps基础/Cloud基础
适合对象: 已具备全栈开发技能，准备进一步提升的中级学员
课程目标: 专注于DevOps及云计算技术，帮助学员掌握CI/CD、容器化技术（如Docker）、云服务（如AWS、Azure）等行业前沿的开发和部署能力。通过真实项目的实战，学员能够在复杂的技术环境中提升工作效率，并具备架构及部署的能力。
Stage 5: AI Engineer
适合对象: 已具备中级开发能力，想要转向AI方向的学员
课程目标: 旨在培养具备AI工程能力的技术人才，内容包括机器学习、深度学习、NLP等AI核心技术。通过AI项目实战，学员将具备数据处理、模型构建和部署的能力，能够胜任AI工程师的工作岗位。
证书获取
Microsoft Certified: Azure AI Engineer Associate
RAG Architecture
通过RAG模型结合LLM与Vector Database，帮助学员掌握从数据提取到智能问答的全流程AI开发技能。
Simple RAG
本课程将教会学员如何通过RAG模型，将Structured Data和Unstructured Data进行Chunks处理，利用Vector DB存储Embeddings，并结合LLM生成智能化的回答。
An Enterprise RAG System
使用Enterprise RAG架构，通过User Input、Encoder、Retrieval、Generator等模块，并结合Observability与Storage机制，实现企业级智能信息检索与响应生成。
问答
工具费用？
不用担心！这门课程适合没有GPU资源的学员。
我们采用开源软件和标准硬件，并且不依赖特定云平台，尽量将额外费用控制在100美元以内。更多详情见问答部分！
先决条件？
所有申请者都必须完成 AI工程师训练营挑战，该挑战要求您设置LLM应用开发环境并部署您的第一个LLM应用！
如果不确定这是否适合您，提交申请并尝试挑战，这将是测试您是否对该技术水平感兴趣的最佳方法！
核心技术应用场景
RAG 系统（Retrieval Augmented Generation）
- 应用场景：RAG系统可以帮助企业从海量内部数据中快速检索所需信息，并通过生成式AI生成精准的回答。
- 具体案例：
- 企业知识库：企业常常拥有庞大的文档和数据库，RAG系统可以让员工通过自然语言查询相关信息，自动生成解释或报告，极大提高工作效率。
- 客户支持：在客服系统中，RAG系统能够基于客户的提问快速检索常见问题文档，并生成个性化回复，提升客户服务的智能化水平。
Fine-Tune Embeddings 和 Llama 3.1
- 应用场景：通过Fine-tuning Embeddings，企业可以让AI系统在理解和生成自然语言时更加精准，适应具体的业务需求。
- 具体案例：
- 定制化聊天机器人：企业可以通过Fine-tuning Embeddings来训练AI系统，使其对特定领域的术语和语言更加敏感，从而提升聊天机器人的回答质量。
- 法律文档处理：在法律领域，通过Fine-tuning Llama 3.1，可以让AI系统更好地理解和分析复杂的法律术语和文档，帮助企业自动化处理法律事务。
云端与本地生产部署
- 应用场景：根据企业的需求，AI系统可以灵活部署在云端或本地，以保证数据安全和系统的可扩展性。
- 具体案例：
- SaaS企业的AI服务：在云端部署AI系统，帮助SaaS企业向客户提供灵活、可扩展的AI服务，同时降低IT基础设施成本。
- 医疗行业的数据隐私保护：本地部署可以确保敏感数据的安全性，特别是在需要遵守严格隐私法规的行业（如医疗、金融）中，AI系统可以安全运行在企业的本地服务器上。
Agents（智能体）
- 应用场景：智能体能够自主完成多步骤任务，适用于自动化操作、业务流程管理等复杂场景。
- 具体案例：
- 电商平台的自动化客服：Agents可以模拟客服人员的操作，回答顾客的咨询，处理订单、库存查询等一系列任务，减少人工干预。
- 金融行业的合规审查：Agents可以自动完成合规文档的审核与分类，执行多步骤的任务流程，确保审查的高效与准确。
LLM Ops 监控与评估
- 应用场景：通过LLM Ops，企业可以对AI系统的运行状况进行实时监控，确保其在生产环境中保持高性能并能及时调整优化。
- 具体案例：
- 电商推荐系统：实时监控AI推荐引擎的性能，跟踪用户行为和模型输出，以便优化推荐效果，确保系统的稳定和响应速度。
- 数据分析平台：在大型企业的数据分析平台中，使用LLM Ops来监控AI模型的精度和表现，及时发现问题并进行调整，保证分析结果的可靠性。
