AI Engineer 训练营

课程简介

Build RAG & Agents w/ LangChain. Fine-Tune Embeddings & Llama 3.1. Deploy to Prod in the Cloud & On-Prem. Monitor and Evaluate w/ LLM Ops

使用 LangChain 构建 Retrieval Augmented Generation (RAG) 系统和 Agents。Fine-tuning Embeddings 和 Llama 3.1。在云端和本地部署生产级应用，并通过 LLM Ops 进行监控和评估。

在本课程中，您将学习如何根据最佳实践原型设计LLM应用，并基于生成式AI的四大核心模式：Prompt Engineering（提示工程）、Retrieval Augmented Generation (RAG)（检索增强生成）、大语言模型（LLM）和Embeddings，以及Agents进行开发。

课程的核心是 RAG 系统。您将学习如何从OpenAI GPT模型快速原型设计应用，进而使用最新的开源LLM和嵌入模型构建具备可扩展性的生产级应用。

同时，您无需绑定于单一云计算供应商，课程将使用Python和核心版本控制工具LangChain，从零构建系统。LangChain 是构建生产级LLM应用的领先框架。

课程受众对象

针对个人-Upskill

• 数据科学家 和 机器学习工程师，希望成为全栈AI从业者
• 软件工程师，希望构建复杂的LLM应用
• DevOps工程师/云端工程师，希望转型为全栈AI工程师
• 技术产品经理 (TPM)，需要指导团队构建AI应用
• 联合创始人/创始人，尤其是AI领域的创业者
• AI博士研究生

• 这门课程为希望提升 AI 能力的数据科学家、机器学习工程师、DevOps 工程师、技术产品经理以及 AI 领域创业者量身定制。
• 无论是希望提升现有技能的专业人士，还是初创企业技术领导者，您都将在这里获得全方位的 AI 工程能力。

针对企业

• AI创业公司
• 希望在企业内部实施AI产品的公司
• 希望培养开发企业级AI应用能力的公司

学完本课程后，企业将获得的帮助：

1. 定制适合自身业务的AI系统
2. 提升员工的工作效率
3. 帮助企业搭建AI SaaS系统

AI Engineer就业多方向选择

课程面向

不限制仅仅澳洲，全球，以及中国地区可以报名，欢迎来自各个国家的学员

学员需要具备以下基础知识：

• 编程能力，尤其是Python
• 基础云服务能力，如AWS、Azure
• 熟练使用Git
• 熟悉API开发
• 会使用命令行工具
• 基本的英语能力

使用业界领先的LLM工具

包括LangChain、Hugging Face、OpenAI、Meta、Qdrant、AWS和Azure，帮助学员掌握最前沿的AI开发技术，从理论到实践全面提升

课程大纲

课程亮点

掌握前沿技术：

• 学习使用业界领先的框架 LangChain 构建 检索增强生成（RAG） 系统和 Agents。
• 微调最新的Embeddings 和 Llama 3.1，提升模型性能，满足真实世界的复杂需求。

多平台部署：

• 了解如何将模型无缝部署到云端（如 AWS、Azure）和本地环境，确保灵活性和扩展性，适应不同企业需求。

端到端 AI 解决方案：

• 不仅仅是编写代码，您将深入掌握如何从零构建 AI 系统，并使用 LLM Ops 实时监控和评估模型的表现，优化性能。

面向实战的项目体验：

• 每周参与动手项目，设计并实现复杂的 LLM 应用，从快速原型到生产级应用。所有项目均在导师和同伴的实时反馈中完成，确保学习效果最大化。

四大生成式 AI 核心模式：

• 学习基于 Prompt Engineering（提示工程）、Retrieval Augmented Generation（RAG）、大语言模型（LLM） Fine-tuning 及 Agents 的开发模式，成为掌握生成式 AI 原理的专家。

前沿工具与技术的实践：

• 使用 LangSmith 提供的可视化和监控工具，为您的 AI 应用提供完整的监控解决方案，确保每个环节的准确性和可控性。
• 学习如何通过 DSPy 优化提示，通过先进的检索和分块技术提升 RAG 系统的性能，并使用 AWQ 和 vLLM 优化推理和服务。

为什么要学习AI Engineer

Retrieval Augmented Generation (RAG)
学习构建RAG应用，并将LLM输出与参考数据相结合，构建企业级应用。

Agents
学习构建复杂的LLM应用，具备推理、行动能力，并能与外部工具协同工作。

Prompt Engineering
掌握如何通过提示工程快速开发原型、RAG应用和智能体。

Embedding Fine-Tuning
学习如何将开源的Embedding模型微调至特定领域的语言或数据中。

LLM Fine-Tuning
高效训练LLM模型，执行特定任务，并使用PEFT-LoRA等技术进行优化。

Visibility
掌握如何调试、测试和监控通过任何领先LLM框架构建的应用。

项目经验
在学习过程中完成的项目将帮助提升简历竞争力，适应实际工作需求。

资深一线大厂导师，助力你的职业提升

学习阶段 - Learning Roadmap

针对匠人学院，学员从0基础到AI Engineer

Stage 1: Web入门班

适合对象: 大学新生或零基础学习者
课程目标: 帮助学员快速掌握Web开发的基础知识，覆盖HTML、CSS、JavaScript等核心技术。通过简单的项目实战，使学员具备基本的前端开发能力，为后续的进阶学习打下坚实基础。

Stage 2: Web进阶班

适合对象: 大学毕业生或具备基本Web开发经验的学习者
课程目标: 强化学员的前端开发能力，并引入后端开发基础。课程内容包括React、Node.js、数据库等实用技术。通过项目开发，学员将进一步巩固Web开发全栈技能，能够独立完成简单的Web应用开发。

Stage 3: Web全栈班

适合对象: 准备进入职场的学员
课程目标: 帮助学员达到Job-ready的水平，具备应对真实工作环境的能力。课程涵盖全栈开发的各个方面，从前端、后端到数据库、部署，旨在让学员能够快速胜任初级Web开发者的岗位，并通过就业辅导，找到第一份工作。

Stage 4: DevOps基础/Cloud基础

适合对象: 已具备全栈开发技能，准备进一步提升的中级学员
课程目标: 专注于DevOps及云计算技术，帮助学员掌握CI/CD、容器化技术（如Docker）、云服务（如AWS、Azure）等行业前沿的开发和部署能力。通过真实项目的实战，学员能够在复杂的技术环境中提升工作效率，并具备架构及部署的能力。

Stage 5: AI Engineer

适合对象: 已具备中级开发能力，想要转向AI方向的学员
课程目标: 旨在培养具备AI工程能力的技术人才，内容包括机器学习、深度学习、NLP等AI核心技术。通过AI项目实战，学员将具备数据处理、模型构建和部署的能力，能够胜任AI工程师的工作岗位。

证书获取

Microsoft Certified: Azure AI Engineer Associate

匠小花 - AI模拟面试助手

项目简介

匠小花是贯穿整个AI Engineer训练营的重要实战项目，也是您从学员成长为AI工程师的重要里程碑。在这个项目中，您将构建一个智能化的AI面试助手，支持中文和英文的文本、语音交互，能够为用户提供个性化的面试反馈。这不仅仅是一个“模拟面试”工具，更是一个展示您AI技术水平的企业级应用，全面锻炼您的工程思维和动手能力。

项目亮点

1. 全栈开发体验：从模型设计、数据处理到生产环境部署，您将全程参与，学习如何将一个AI项目从0构建到落地。这不仅让您掌握完整的开发流程，还能积累真实的项目经验，提升您在职场中的竞争力。
2. 热门技术应用：项目中您将使用前沿的技术，如自然语言处理（NLP）、嵌入模型（Embeddings）的微调、智能体（Agents）的实现等。通过实际操作，您将熟悉PEFT（参数高效微调）、LoRA/QLoRA等优化技术，这些都是当下企业急需的AI技能。
3. 智能多轮交互：匠小花能够进行多轮对话，模拟真实面试中的复杂交互，帮助求职者提升表现。这不仅能处理简单的行为面试，还可支持技术面试场景。通过项目开发，您将深入理解如何设计和优化多轮交互系统，让面试体验更加真实、智能。
4. 双语支持，国际化扩展：匠小花的强大之处在于它不仅支持中文，还可以进行英文面试。这使您在构建项目时，可以着眼于国际化应用场景，未来无论是进军跨国企业，还是服务全球市场，都将游刃有余。
5. 全栈云端部署：项目中，您将学习如何将系统高效部署到云端（如AWS、Azure），并用LangSmith工具进行性能监控和调优，确保系统在大规模应用下的稳定性和扩展性。这些经验将让您在处理复杂的生产环境时游刃有余。

课程结合

• 自然语言处理：您将在课程中学习NLP技术，并应用到匠小花项目中，构建多轮对话和语义理解能力。
• 嵌入模型（Embeddings）微调：课程中的嵌入模型微调模块，将为您提供如何优化模型的核心技术，这将直接应用到匠小花中，使系统具备高度定制化的面试体验。
• Agents架构：项目涉及到智能体的应用，您将在课程中学习如何设计、实现和优化多智能体系统，并通过匠小花项目，掌握实际的应用技能。
• 云端部署与监控：课程中的云服务模块将为您讲解如何将AI项目部署到生产环境中，结合项目，您将实操如何部署并进行监控调优。

RAG Architecture

通过RAG模型结合LLM与Vector Database，帮助学员掌握从数据提取到智能问答的全流程AI开发技能。

Simple RAG

本课程将教会学员如何通过RAG模型，将Structured Data和Unstructured Data进行Chunks处理，利用Vector DB存储Embeddings，并结合LLM生成智能化的回答。

An Enterprise RAG System

使用Enterprise RAG架构，通过User Input、Encoder、Retrieval、Generator等模块，并结合Observability与Storage机制，实现企业级智能信息检索与响应生成。

问答

工具费用？

不用担心！这门课程适合没有GPU资源的学员。
我们采用开源软件和标准硬件，并且不依赖特定云平台，尽量将额外费用控制在100美元以内。更多详情见问答部分！

先决条件？

所有申请者都必须完成 AI工程师训练营挑战，该挑战要求您设置LLM应用开发环境并部署您的第一个LLM应用！

如果不确定这是否适合您，提交申请并尝试挑战，这将是测试您是否对该技术水平感兴趣的最佳方法！

课程项目是什么？

AI模拟面试系统。

核心技术应用场景

RAG 系统（Retrieval Augmented Generation）

• 应用场景：RAG系统可以帮助企业从海量内部数据中快速检索所需信息，并通过生成式AI生成精准的回答。
• 具体案例：
  • 企业知识库：企业常常拥有庞大的文档和数据库，RAG系统可以让员工通过自然语言查询相关信息，自动生成解释或报告，极大提高工作效率。
  • 客户支持：在客服系统中，RAG系统能够基于客户的提问快速检索常见问题文档，并生成个性化回复，提升客户服务的智能化水平。

Fine-Tune Embeddings 和 Llama 3.1

• 应用场景：通过Fine-tuning Embeddings，企业可以让AI系统在理解和生成自然语言时更加精准，适应具体的业务需求。
• 具体案例：
  • 定制化聊天机器人：企业可以通过Fine-tuning Embeddings来训练AI系统，使其对特定领域的术语和语言更加敏感，从而提升聊天机器人的回答质量。
  • 法律文档处理：在法律领域，通过Fine-tuning Llama 3.1，可以让AI系统更好地理解和分析复杂的法律术语和文档，帮助企业自动化处理法律事务。

云端与本地生产部署

• 应用场景：根据企业的需求，AI系统可以灵活部署在云端或本地，以保证数据安全和系统的可扩展性。
• 具体案例：
  • SaaS企业的AI服务：在云端部署AI系统，帮助SaaS企业向客户提供灵活、可扩展的AI服务，同时降低IT基础设施成本。
  • 医疗行业的数据隐私保护：本地部署可以确保敏感数据的安全性，特别是在需要遵守严格隐私法规的行业（如医疗、金融）中，AI系统可以安全运行在企业的本地服务器上。

Agents（智能体）

• 应用场景：智能体能够自主完成多步骤任务，适用于自动化操作、业务流程管理等复杂场景。
• 具体案例：
  • 电商平台的自动化客服：Agents可以模拟客服人员的操作，回答顾客的咨询，处理订单、库存查询等一系列任务，减少人工干预。
  • 金融行业的合规审查：Agents可以自动完成合规文档的审核与分类，执行多步骤的任务流程，确保审查的高效与准确。

LLM Ops 监控与评估

• 应用场景：通过LLM Ops，企业可以对AI系统的运行状况进行实时监控，确保其在生产环境中保持高性能并能及时调整优化。
• 具体案例：
  • 电商推荐系统：实时监控AI推荐引擎的性能，跟踪用户行为和模型输出，以便优化推荐效果，确保系统的稳定和响应速度。
  • 数据分析平台：在大型企业的数据分析平台中，使用LLM Ops来监控AI模型的精度和表现，及时发现问题并进行调整，保证分析结果的可靠性。