体系课

回到首页 个人中心 反馈问题 注册登录
下载APP
首页 课程 实战 体系课 手记 专栏 慕课教程
￥2999.00 ￥3888 优惠价

7天可退款 12月10日开课

服务
教学方式
小班教学
学习时长
8周
就业
指导推荐
教学服务
4个月
  • 详情
  • 目录
  • 服务
  • 评价52

课程大纲及学习周期安排

坚持学习的路上，我们为你画好成长路标

第一部分 课程概览、汇总、学习资料

本周主要汇总了课程的相关的大纲、学习笔记、资料等内容，让大家更轻松的找到相应的资料。

  • 新加入的同学必看！！！
  • 前置知识提前学
  • 课程大纲
  • 学习辅导笔记【堪比书籍】
  • 【课程交流群】
  • 一期学习路线【一期小伙伴必看】
  • 二、三期学习路线【二、三期小伙伴必看】

第二部分 第一周: 由浅入深大模型基础及pytorch训练加载应用模型

掌握大语言模型的概况，了解过去和现在AI技术异同及要求，如何在PyTorch中构建和训练模型。进一步熟悉大语言模型的基础以及智能对话背后的技术机制、模型训练流程及应用，让你快速迈进大模型行业。

  • PyTorch基础代码实操和自动求导介绍【回放】
  • 模型训练流程和CUDA原理及并行基础【回放】

第三部分 第一周：LLM进化路线、领域微调及NLP应用落地方式

全面掌握大模型发展、岗位需求，LLM进化路线、领域微调的方法及NLP的应用落地范式，让你对LLM领域和个人职业规划有更佳的认知提升。

  • LLM的进化路线、领域微调及NLP的应用落地方式（一）【回放】
  • LLM的进化路线、领域微调及NLP的应用落地方式（二）【回放】
  • 概览【学习辅导笔记】
  • LLM 进化路线与现状【学习辅导笔记】
  • 大模型的涌现能力【学习辅导笔记】
  • 大模型本质-概率统计【学习辅导笔记】
  • 训练过程-无监督预训练【学习辅导笔记】
  • 训练过程-有监督预训练【学习辅导笔记】
  • 大模型的核心--transformer 模型【学习辅导笔记】
  • Transformer--编码和解码器【学习辅导笔记】
  • Transformer--模型嵌入【学习辅导笔记】
  • 【思考题】transformer 思考题
  • Transformer-前馈层【学习辅导笔记】
  • Transformer--残差归一化【学习辅导笔记】
  • 大模型训练过程【学习辅导笔记】
  • 大模型训练-SFT【学习辅导笔记】
  • 大模型训练-Reward【学习辅导笔记】
  • 大模型训练-PPO【学习辅导笔记】
  • 大模型生成原理【学习辅导笔记】

第四部分 第二周：大模型训练与微调研发背后的数据艺术

掌握从数据清洗，数据处理，指令数据生成、多样化生成、指令数据的评估再到开源的数据指令，从容应对实际工程中大型模型数据处理挑战。

  • 大模型训练与微调研发背后的数据艺术【回放】

第五部分 第二周：深入大模型基础理论夯实

掌握NLP语言模型和Transformer架构基础，深入LLM模型设计，以GLM模型结构到代码解读和实践，建立坚实的大型模型理论基础。

  • 深入大模型基础理论夯实【回放】

第六部分 第三周：大模型训练入门与进阶

深入掌握预训练代码和数据，全面掌握大模型微调范式，强化学习核心原理，为更深层次的大模型应用打下基础。

  • 大模型训练入门与进阶【回放】
  • 上课演示的代码

第七部分 第三周：大模型训练和推理优化框架和技巧

深入研究大型模型训练和推理优化方法，掌握大型模型训练技巧和理论知识，精通训练优化技术，构建完整的大模型算法工程师核心知识体系。

  • 大模型训练和推理优化框架和技巧【回放】

第八部分 第四周：深入掌握大模型应用开发框架LangChain

掌握 LangChain是什么，以及它的优势和应用场景；LangChain的关键组件和典型应用场景；掌握大模型应用框架LangChain核心原理；掌握LangChain六大核心模块；学习模型的标准化输入输出；了解如何接入外部数据，以及LangChain中链的概念和上下文记忆的存储管理；学习如何创建智能代理Agent。

  • 深入掌握大模型应用开发框架LangChain【回放】

第九部分 第四周LangChain进阶-外挂知识库实现行业文档智能问答

熟悉LangChain知识库原理和应用；动手构建LangChain知识库，包括数据来源和采集、数据清洗和预处理、数据存储和管理；LangChain在行业文档处理中的应用实战；LangChain在智能问答中的应用实战；掌握LangChai项目部署和上线；掌握LangChai项目运维和维护。

  • LangChain进阶实战：外挂知识库实现行业文档智能问答实战项目【时间另通知】

第十部分 第五周：大模型训练全流程实战

掌握在GPU/A100显卡上常规训练和优化，学会相关数据集和数据的构造方法，基座模型(6B)微调继续预训练和微调，评估大模型的结果；学会部署一套自己的大模型项目；掌握在CPU上的推理和服务器端的推理。

  • 大模型训练全流程实战【回放】

第十一部分 第五周：【实战】在云服务器微调和实操模型量化、模型推理和服务

教你如何创建一个训练容器；在llm__course容器中实现环境安装和SFT演示；在云服务器实操模型量化、模型推理和服务。

  • 1-1 教你如何创建一个训练容器
  • 1-2 在llm__course容器中实现环境安装和SFT演示
  • 1-3 在云服务器实操模型量化模型推理和服务

第十二部分 第六周：四大行业微调模型落地案例和技术方案

掌握在企业不同业务下领域微调模型的通用实现流程，收获金融、法律、医疗、教育垂直领域微调模型案例和解决方案，包括数据源、评估任务和应用场景。

  • 四大行业微调模型落地案例和技术方案【回放】

第十三部分 第七周：实现行业文档智能问答技术方案

掌握行业文档智能问答和外挂知识库的实现方法，包括大型模型对垂直领域知识的分析、内容生成的幻觉性以及垂直领域知识的动态更新特性；掌握技术方案的常规实现路径，包括文档版面分析、文本切分与富文本表示、主流文本向量化方法与可用开源模型、相关文本召回与多路方案、prompt指令拼接设计以及基于大模型的答案生成；了解技术方案的挑战以及缓解策略，包括训练领域向量、多路召回、加入大模型分步判定逻辑以及融合SFT行业文档微调，以提高QA鲁棒性。

  • 实现行业文档智能问答技术方案【回放】

第十四部分 第七周：知识图谱构建 下游应用技术方案

了解大型模型和知识图谱技术的异同，包括定义、核心技术和应用场景；掌握大型模型融合知识图谱的具体技术路线，包括知识图谱提升大型模型下游问答性能、大型模型提升领域知识图谱构建速度以及大型模型提升领域知识图谱下游应用；了解面向知识图谱构建的微调大语言模型实现方式，包括KnowLM大模型的数据构造与微调方法以及TechGPT大模型的数据构造与微调方法。

  • 知识图谱构建 下游应用技术方案【回放】

第十五部分 第八周：人才需求与招聘专场

专业招聘团队，介绍就业推荐流程，讲解公司招聘需求，以及简历和面试事宜，助你更好的收获满意的工作岗位。

  • 市场需求与招聘专场【根据具体情况开展】

评价 好评

  • 老师讲得很详细，难度对于初学 LLM 的我来说非常友好，只要跟着老师走下来一定可以学好 LLM 相关技术~除了视频资料之外，课程提供的文档也非常齐全，还有老师帮忙做的学习笔记，专业程度堪比书籍！真的是干货满满~

  • （分段评价1）从一开始报名LLM大语言模型特训班，就满怀着期待与兴奋，一开始到结束都没有让我失望。整个学习过程让我印象最深的是晓翔老师的课程笔记非常非常详细（LLM基础理论，领域微调，训练方法Transformer等）不管是学习课程知识还是面试需求使用来说，笔记都非常的专业、严谨，同时也足以见得晓翔老师是多么负责任的一位老师。我都认真的拜读了。在面对学员提出的问题都非常认真专业、有耐心的回答，深受同学们的喜欢和赞赏。然后最后市场需求和招聘对接的时候，不仅详细讲解了各个岗位的需求，还讲解了简历优化，针对每一个收到别人的简历进行了逐项分析，让我们清晰的认识到打造优质简历的核心要点。

  • 这套课程的含金量非常高，知识点非常多，里面的每一位老师都非常的专业和经验丰富。从概述，夯实基础，全流程实战到业界方案的介绍都非常的让人开眼界。相比之前自己从网上找各种资料进行碎片化的学习，上这个体系课效率要高数倍，可以少走很多弯路。之前也没有试听过就直接买了这套课程，一个是冲着刘老师的名气，另一个是之前在慕课买的课程质量都不错因此比较信任。实际上下来，每听完一位老师讲课都要感叹一番，每一位老师讲的都超级好，刘老师，Eric老师，郝老师，袁老师。另外助教老师也超级赞，每堂课刚上完，详尽的课堂笔记就发出来了。甚至慕课的销售也要赞一下，就是单纯的给你介绍课程和优惠情况，完全不会有骚扰的感觉😄

预售规则

1. 定金支付成功后，可在“我的订单”-“未支付”栏查看所要支付尾款的订单。
2. 尾款支付开启后，请在规定时间内支付尾款，若超出尾款支付时间，订单将自动关闭。请关注短信、慕课网平台及慕课网微信号等渠道推送的提醒消息。
3. 定金可在课程原价基础上抵扣页面显示金额，具体数额及计算方式见详情页。
4. 已支付定金但未在规定时间支付尾款的用户，定金不可退。
5. 如您对预售活动有其它疑问，请联系客服：kf@imooc.com。