阶段

课程模块

课程子模块

详细内容

课时

1

理论课程

第1章 人工智能概览与发展趋势

人工智能发展历程

大模型发展过程

DeepSeek概览及其产业影响

大模型演进趋势

40

第2章 人工智能和算力基础

神经网络基础介绍

模型架构介绍

算力基础概念

AI芯片介绍

第3章 人工智能开发框架

人工智能框架

AI开发框架-MindSpore

MindSpore特性

MindSpore开发组件

AI应用开发流程

第4章 人工智能业务流程概述

人工智能业务流程介绍

大模型业务流程介绍

大模型使用与提示工程

第5章 华为人工智能平台介绍

华为昇腾计算平台

华为云EI平台

华为终端AI平台

第6章 华为智算方案和产品介绍

算力方案和昇腾计算产品介绍

网络方案和产品介绍

存储方案和产品介绍

华为天成解决方案介绍

绿色数据中心概念

第7章 昇腾大模型解决方案概述

昇腾AI基础软件

集群监控与运维软件

第8章 大模型部署与商业模式介绍

大模型部署介绍

大模型商业模式

第9章 业界大模型及应用

业界典型大模型

华为大模型应用案例

第10章 人工智能前沿应用场景

强化学习

生成对抗网络

知识图谱

智能驾驶

2

考核交流

阶段考核，针对学习本课程中的技术问题探讨交流

阶段

课程模块

课程子模块

详细内容

课时

1

理论课程

第1章 昇腾AI处理器与解决方案

华为AI全栈解决方案

昇腾AI处理器架构

昇腾AI计算平台CANN

Atlas软硬件解决方案

昇腾全栈软件

全流程开发工具链

环境部署与开发流程

40

第2章 华为智算中心解决方案简介

智算时代数据中心概览

智算中心算力解决方案

智算中心网络解决方案及关键技术

智算中心存储解决方案及关键特性

第3章 自然语言处理理论和应用

自然语言处理简介

自然语言处理任务与方法

DeepSeek算法解析及工程优化

自然语言处理应用系统

第4章 大模型算法基础与业务流程进阶

主流大模型概览

大语言模型

Transformer架构

GPT与BERT模型

DeepSeek算法解析及工程优化

Vision Transformer模型

Diffusion模型

多模态大模型

大模型业务介绍

大模型业务流程

数据准备和模型选型

大模型训练调优

大模型推理部署

第5章 并行训练框架DeepSpeed与MindFormers介绍

DeepSpeed设计概览

DeepSpeed使用介绍

DeepSpeed最佳实践

MindFormers设计概览

MindFormers特性介绍

MindFormers最佳实践

第6章 MindSpore简介与API详解

AI框架的挑战与发展趋势

MindSpore的架构及特性

MindSpore Lite的特性

动静态图

网络迁移

分布式训练

端云侧推理与部署

第7章 模型微调算法和工具简介

大模型微调算法

大模型微调开源工具

第8章 人工智能模型部署介绍

模型部署概述

大模型部署概述

大模型部署常见优化方式

第9章 大模型应用

大模型应用

CoT适配下游任务

第10章 知识库查询

知识库的概念

以LangChain为核心的知识库生成构建

知识库查询的挑战与发展方向

2

实验课程

第1章 大模型并行训练框架DeepSpeed-Baichuan2-7B实验

实验一：模型推理实验

实验二：LoRA微调实验

16

第2章 MindSpore简介与API详解实验

实验一：API基础，掌握典型API模块定义方法

实验二：自定义数据，通过将数据集转化为MindRecord

实验三：损失函数

实验四：评价指标

实验五：TrainOneStepCell

第3章 大模型微调Llama2-7B实验

实验一：模型文件准备实验

实验二：数据准备实验

实验三：模型训练实验

实验四：模型推理实验

第4章 大模型压缩部署实验

实验一：利用MindFormers全流程开发套件基于ChatGLM2-6B模型实现模型推理

3

考核交流

阶段考核，针对学习本课程中的技术问题探讨交流

阶段

课程模块

课程子模块

详细内容

课时

1

理论课程

第1章 大模型业务场景流程综述

AI应用发展现状

大模型分类和特点

主流大模型介绍

大模型应用

大模型训练及推理流程介绍

大模型业务流程

76

第2章 大模型应用的数据

大模型数据集与小模型数据集的区别

数据集标注工具

数据类型和深度学习中的数据结构

第3章 数据工程

LLM训练数据及预处理流程介绍

数据预处理工具

微调数据构造

Tokenizer

第4章 大模型算法架构

深度学习算法发展及瓶颈

Transformer详解

Transformer中的问题及优化方式

大语言模型架构介绍

多模态大模型架构介绍

MoE结构介绍

DeepSeek算法解析及工程优化

第5章 AI Agent发展趋势

AI发展之路

大模型的局限性

AI Agent的优势与发展

模型协同技术与案例

第6章 昇腾大模型解决方案

大模型并行计算

CANN介绍

MindX介绍

MindStudio介绍

算力运营

第7章 MindSpeed领域加速库介绍

大模型分布式训练的趋势及挑战

昇腾分布式加速库MindSpeed详解

第8章 华为智算中心解决方案

数据中心基础设施系统和常用的指标介绍

智算中心配电及制冷方案介绍

数据中心基础设施选址及可用性评估

智算中心存储解决方案

智算中心网络解决方案

第9章 行业模型选型

开源模型选型

PyTorch模型迁移分析

迁移适配

精度调试

性能调优及算子开发

第10章 DeepSpeed进阶

DeepSpeed简介

DeepSpeed训练特性

DeepSpeed推理特性

第11章 MindFormers实战进阶

MindFormers介绍

设计与特性介绍

模型调试调优

套件组合

大模型并行特性

最佳实践

第12章 大模型微调和安全治理

LLM微调概念

LLM微调流程与SFT

微调方法介绍

微调框架介绍

LLM安全治理

最佳实践

第13章 提示工程原理

提示工程的由来

提示工程发展历史

提示工程相关研究

第14章 大模型压缩与部署

模型压缩与部署概念

模型压缩技术

模型压缩工具介绍

大模型部署框架介绍

大模型应用开发

第15章 MindSpore全流程开发

MindSpore架构介绍

MindSpore开发实践

第16章 CANN-ATC模型转换

CANN-ATC简介

MindSpore模型转换

TensorFlow模型转换

Caffe模型转换

第17章 CANN-推理应用开发流程

应用业务流程介绍

AscendCL基本概念与开发流程

第18章 CANN-自定义算子开发

算子基本概念

TBE简介

TBE算子开发方式

TBE算子开发流程

第19章 CANN-推理应用性能调优

模型性能调优基础

模型压缩工具

精度比对工具

Auto Tune工具

Profiling工具

2

实验课程

第1章 实验环境搭建

实验一：实验环境搭建

44

第2章 数据工程实验

实验一：数据工程实验

第3章 基于MindFormers的大模型推理实验

实验一：基于MindFormers的大模型推理实验

第4章 大模型推理实验

实验一：大模型推理实验

第5章 大模型微调实验

实验一：大模型微调实验

第6章 大语言模型综合实验

实验一：大语言模型综合实验

第7章 ChatGLM2-6B迁移实验

实验一：ChatGLM2-6B迁移实验

第8章 多模态大模型综合实验(1)-LLaVA实验

实验一：多模态大模型综合实验(1)-LLaVA实验

第9章 多模态大模型综合实验(2)-Open-Sora-Plan实验

实验一：多模态大模型综合实验(2)-Open-Sora-Plan实验

第10章 视觉大模型综合实验(1)-基于DeepSpeed的BEiT V2-PyTorch预训练实验

实验一：视觉大模型综合实验(1)-基于DeepSpeed的BEiT V2-PyTorch预训练实验

第11章 视觉大模型综合实验(2)-基于PyTorch的Vision Transformer预训练实验

实验一：视觉大模型综合实验(2)-基于PyTorch的Vision Transformer预训练实验

3

实验辅导备考

讲师通过讲解实验模拟考题的解题思路以及布置相应的备考练习供考生练习与助考生进行考前冲刺

90天