第1章 Python基础

1.1  Python语言介绍

1.2  Python环境安装

1.3  Python开发工具安装及使用

1.4  编写第一个Python程序

第2章 Python变量和数据类型

2.1  Python语法特点

2.2  变量定义及命名规范

2.3  Python数据类型介绍

2.4  运算符操作

第3章  字符串、列表、元组的处理

3.1  字符串处理（索引、切片、常用函数）

3.2  列表处理（索引、切片、常用函数）

3.3  元组处理（索引、切片、常用函数）

第4章 字典和集合的处理

4.1  字典处理（字典的定义，字典常用函数）

4.2  集合处理（集合的定义，集合常用函数）

第5章 条件控制和循环语句

5.1  if语句介绍和使用

5.2  while循环语句介绍和使用

5.3  for循环语句介绍和使用

5.4  列表推导式

5.5  内置函数

第6章 函数

6.1  函数结构定义

6.2  函数参数

6.3  局部变量和全局变量

6.4  匿名函数

6.5  递归函数

6.6  高阶函数

第7章 面向对象编程

7.1  面向对象编程介绍

7.2  定义类

7.3  继承和多态

7.4  类属性和实例属性

7.5  访问限制

7.6  类方法和静态方法

第8章 模块和包

8.1  模块简介

8.2  模块制作

8.3  dir()函数

8.4  标准模块

第一阶段 Python基础编程

1、list, set, dict, tuple, deque性能优化

2、 链式推导

3、 zip拉链操作,同时遍历多个数组

4、 拉平嵌套

5、 避免过多循环

6、 内存优化

7、 高阶函数

8、 匿名函数

9、 偏函数

10、装饰器

11、闭包

12、闭包陷阱

13、函数加速之函数缓存

14、大数据杀器之生成器

15、迭代器

16、反射

17、魔术方法

18、让Python代码加速100倍之cython

第二阶段 Python高级编程

1、list, set, dict, tuple, deque性能优化

2、 链式推导

3、 zip拉链操作,同时遍历多个数组

4、 拉平嵌套

5、 避免过多循环

6、 内存优化

7、 高阶函数

8、 匿名函数

9、 偏函数

10、装饰器

11、闭包

12、闭包陷阱

13、函数加速之函数缓存

14、大数据杀器之生成器

15、迭代器

16、反射

17、魔术方法

18、让Python代码加速100倍之cython

第1章NumPy快速入门 

1.1  在Windows上安装NumPy、Matplotlib、SciPy和IPython

1.2  在Linux上安装NumPy、Matplotlib、SciPy和IPython

1.3  编译源代码

1.4  数组对象

1.5  向量加法代码

第2章 NumPy基础 

2.1  NumPy 数组对象

2.2  创建多维数组

2.3  多维数组的切片和索引

2.4  改变数组的维度

2.5  数组的组合

2.7  数组的分割

2.8  数组的属性

2.9  数组的转换

第3章 常用函数及数据项目实战

3.1  文件读写

3.2  读入CSV文件

3.3  计算成交量加权平均价格

3.4  算术平均值函数

3.5  找到最大值和最小值

3.6  统计分析

3.7  分析股票收益率

3.8  分析和处理日期数据

3.9  汇总数据

3.10 计算真实波动幅度均值

3.11 计算简单移动平均线

3.12 用线性模型预测价格 

3.13 计算阶乘

第4章 高等数学与Numpy实现

4.1  创建矩阵

4.2  矩阵数组算术运算

4.3  矩阵数组模运算

4.4  位操作和比较函数

4.5  斐波那契数列

4.6  绘制利萨茹曲线

4.7  绘制方波

第5章线性代数与Numpy实现

5.1  线性代数

5.2  求解线性方程组

5.3  求解特征值和特征向量

5.4  svd奇异值分解

5.5  计算广义逆矩阵

5.6  计算矩阵的行列式

5.7  计算傅里叶变换

5.8  正态分布

第6章Pandas数据分析

6.1  series数据结构

6.2  series数据数学运算

6.3  dataframe数据结构创建

6.4  dataframe数据分析

6.5  dataframe读写csv、excel

第7章Matplotlib

7.1  绘制折线图

7.2  绘制柱状图

7.3  绘制散点图

7.4  绘制饼图

第8章爬虫

8.1  爬虫基础知识（http, css, html）

8.2  requests爬虫库

8.3  Xpath,bs4,re,json数据提取

8.4  Mysql,redise,mongdb数据库安装和操作

8.5  Scrapy框架爬虫

8.6  Scrapy-redis分布式框架爬虫

阶段二、高等数学与python高级应用

第1章NumPy快速入门 

1.1  在Windows上安装NumPy、Matplotlib、SciPy和IPython

1.2  在Linux上安装NumPy、Matplotlib、SciPy和IPython

1.3  编译源代码

1.4  数组对象

1.5  向量加法代码

第2章 NumPy基础 

2.1  NumPy 数组对象

2.2  创建多维数组

2.3  多维数组的切片和索引

2.4  改变数组的维度

2.5  数组的组合

2.7  数组的分割

2.8  数组的属性

2.9  数组的转换

第3章 常用函数及数据项目实战

3.1  文件读写

3.2  读入CSV文件

3.3  计算成交量加权平均价格

3.4  算术平均值函数

3.5  找到最大值和最小值

3.6  统计分析

3.7  分析股票收益率

3.8  分析和处理日期数据

3.9  汇总数据

3.10 计算真实波动幅度均值

3.11 计算简单移动平均线

3.12 用线性模型预测价格 

3.13 计算阶乘

第4章 高等数学与Numpy实现

4.1  创建矩阵

4.2  矩阵数组算术运算

4.3  矩阵数组模运算

4.4  位操作和比较函数

4.5  斐波那契数列

4.6  绘制利萨茹曲线

4.7  绘制方波

第5章线性代数与Numpy实现

5.1  线性代数

5.2  求解线性方程组

5.3  求解特征值和特征向量

5.4  svd奇异值分解

5.5  计算广义逆矩阵

5.6  计算矩阵的行列式

5.7  计算傅里叶变换

5.8  正态分布

第6章Pandas数据分析

6.1  series数据结构

6.2  series数据数学运算

6.3  dataframe数据结构创建

6.4  dataframe数据分析

6.5  dataframe读写csv、excel

第7章Matplotlib

7.1  绘制折线图

7.2  绘制柱状图

7.3  绘制散点图

7.4  绘制饼图

第8章爬虫

8.1  爬虫基础知识（http, css, html）

8.2  requests爬虫库

8.3  Xpath,bs4,re,json数据提取

8.4  Mysql,redise,mongdb数据库安装和操作

8.5  Scrapy框架爬虫

8.6  Scrapy-redis分布式框架爬虫

第1章初识C++ 

1.1  Linux 学习环境搭建

1.2  Linux 常用指令学习 

1.3  C++ 与 Python对比

1.4  Windows C++ 和 Linux C++对比

1.5  C++ 编译原理

1.6  C++ 开发调试环境搭建

1.7  g++ 和 Makefile 编译

第2章 C++基础 

2.1  C++ 语句

2.2  其他C++ 语句

2.3  函数

第3章 处理数据

3.1  变量

3.2  const 限定符

3.3  浮点数

3.4  C++ 算术运算符

第4章 复合类型

4.1  变量

4.2  const限定符

4.3  浮点数

4.4  C++算术运算符

4.5  数组

4.6  字符串

4.7  string类简介

4.8  结构简介

4.9  共用体

4.10 枚举

4.11 指针和自由存储空间

4.12 指针、数组和指针算术

4.13 类型组合

4.14 数组的替代品

第5章 循环关系和表达式

5.1  for循环

5.2  while循环

5.3  do while 循环

5.4  基于范围的for循环（C++11）

5.5  循环和文本输入

5.6  嵌套循环和二维数组

第6章 分支语句和逻辑运算符

6.1  if语句

6.2  逻辑表达式

6.3  字符函数库cctype

6.4  ？：运算符

6.5  switch语句

6.6  break和continue语句

6.7  读取数字的循环

6.8  文件的输入/输出

第7章 函数 --- C++ 编程模块

7.1  函数参数和按值传递

7.2  函数、数组和二维数组

7.3  函数和C-风格字符串

7.4  函数和结构

7.5  函数和string对象

7.6  函数和array对象

7.7  递归

7.8  函数指针

第8章 函数探幽

8.1  C++内联函数

8.2  引用变量

8.3  默认参数

8.4  函数重载

8.5  函数模板

第9章 内存模型和名称空间

9.1  单独编译

9.2  存储持续性、作用域和链接性

9.3  名称空间

第10章 对象和类

10.1  过程性编程和面相对象编程

10.2  抽象和类

10.3  类的构造函数和析构函数

10.4  this指针

10.5  对象数组

10.6  类作用域

10.7  抽象数据类型

第11章 使用类

11.1  运算符重载

11.2  计算时间：一个运算符重载示例

11.3  友元

11.4  重载运算符：作为成员函数还是非成员函数

11.5  再谈重载：一个矢量类

11.6  类的自动转换和强制类型转换

第12章 类和动态内存分配

12.1  动态内存和类

12.2  改进后的新String类

12.3  在构造函数中使用new时应注意的事项

12.4  有关返回对象的说明

12.5  使用指向对象的指针

12.6  队列模拟

第13章 类继承

13.1  一个简单的基类

13.2  继承：is-a关系

13.3  多态公有继承

13.4  静态联编和动态联编

13.5  访问控制：protected

13.6  抽象基类

13.7  继承和动态内存分配

13.8  类设计回顾

阶段三、机器学习经典算法

第1章初识C++ 

1.1  Linux 学习环境搭建

1.2  Linux 常用指令学习 

1.3  C++ 与 Python对比

1.4  Windows C++ 和 Linux C++对比

1.5  C++ 编译原理

1.6  C++ 开发调试环境搭建

1.7  g++ 和 Makefile 编译

第2章 C++基础 

2.1  C++ 语句

2.2  其他C++ 语句

2.3  函数

第3章 处理数据

3.1  变量

3.2  const 限定符

3.3  浮点数

3.4  C++ 算术运算符

第4章 复合类型

4.1  变量

4.2  const限定符

4.3  浮点数

4.4  C++算术运算符

4.5  数组

4.6  字符串

4.7  string类简介

4.8  结构简介

4.9  共用体

4.10 枚举

4.11 指针和自由存储空间

4.12 指针、数组和指针算术

4.13 类型组合

4.14 数组的替代品

第5章 循环关系和表达式

5.1  for循环

5.2  while循环

5.3  do while 循环

5.4  基于范围的for循环（C++11）

5.5  循环和文本输入

5.6  嵌套循环和二维数组

第6章 分支语句和逻辑运算符

6.1  if语句

6.2  逻辑表达式

6.3  字符函数库cctype

6.4  ？：运算符

6.5  switch语句

6.6  break和continue语句

6.7  读取数字的循环

6.8  文件的输入/输出

第7章 函数 --- C++ 编程模块

7.1  函数参数和按值传递

7.2  函数、数组和二维数组

7.3  函数和C-风格字符串

7.4  函数和结构

7.5  函数和string对象

7.6  函数和array对象

7.7  递归

7.8  函数指针

第8章 函数探幽

8.1  C++内联函数

8.2  引用变量

8.3  默认参数

8.4  函数重载

8.5  函数模板

第9章 内存模型和名称空间

9.1  单独编译

9.2  存储持续性、作用域和链接性

9.3  名称空间

第10章 对象和类

10.1  过程性编程和面相对象编程

10.2  抽象和类

10.3  类的构造函数和析构函数

10.4  this指针

10.5  对象数组

10.6  类作用域

10.7  抽象数据类型

第11章 使用类

11.1  运算符重载

11.2  计算时间：一个运算符重载示例

11.3  友元

11.4  重载运算符：作为成员函数还是非成员函数

11.5  再谈重载：一个矢量类

11.6  类的自动转换和强制类型转换

第12章 类和动态内存分配

12.1  动态内存和类

12.2  改进后的新String类

12.3  在构造函数中使用new时应注意的事项

12.4  有关返回对象的说明

12.5  使用指向对象的指针

12.6  队列模拟

第13章 类继承

13.1  一个简单的基类

13.2  继承：is-a关系

13.3  多态公有继承

13.4  静态联编和动态联编

13.5  访问控制：protected

13.6  抽象基类

13.7  继承和动态内存分配

13.8  类设计回顾

OpenCV PIL与图形处理代码实战

1、OpenCV 安装 

2、摄像头操作

3、图像基本操作 

4、颜色空间转换 

5、阈值分割 

6、图像几何变换 

7、图像混合 

8、平滑图像 

9、边缘检测 

10、腐蚀与膨胀 

11、轮廓与特征 

12、直方图  

13、模板匹配 

14、霍夫变换 

项目实战一：无人驾驶之车道检测 

项目实战二：Python性能优化之内存优化与加速

项目实战三：凸包轮廓特征的手势识别

项目实战四：Harris角点检测

项目实战五：基于Shi-Tomasi特征检测

项目实战六：基于SIFT特征特征工业品缺陷识别

Hanlp jieba gensim与自然语言处理实战

1、环境搭建和安装 

2、模型与架构设计

3、项目实战

项目实战一：中文分词 

1、中文分词背景介绍

2、中文分词代码实战

项目实战二：词性标注

1、词性标注背景介绍

2、词性标注代码实战 

项目实战三：命名实体识别

1、命名实体识别背景介绍

2、命名实体识别代码实战

项目实战四：依存句法分析 

1、依存句法分析背景介绍

2、依存句法分析代码实战

项目实战五：新词发现 

1、新词发现背景介绍

2、新词发现代码实战

项目实战六：关键词短语提取

1、关键词短语提取背景介绍

2、关键词短语提取代码实战

项目实战七：文本自动摘要

1、文本自动摘要背景介绍

2、文本自动摘要代码实战 

项目实战八：文本分类聚类  

1、文本分类聚类背景介绍

2、文本分类聚类代码实战

阶段四、深度学习

OpenCV PIL与图形处理代码实战

1、OpenCV 安装 

2、摄像头操作

3、图像基本操作 

4、颜色空间转换 

5、阈值分割 

6、图像几何变换 

7、图像混合 

8、平滑图像 

9、边缘检测 

10、腐蚀与膨胀 

11、轮廓与特征 

12、直方图  

13、模板匹配 

14、霍夫变换 

项目实战一：无人驾驶之车道检测 

项目实战二：Python性能优化之内存优化与加速

项目实战三：凸包轮廓特征的手势识别

项目实战四：Harris角点检测

项目实战五：基于Shi-Tomasi特征检测

项目实战六：基于SIFT特征特征工业品缺陷识别

Hanlp jieba gensim与自然语言处理实战

1、环境搭建和安装 

2、模型与架构设计

3、项目实战

项目实战一：中文分词 

1、中文分词背景介绍

2、中文分词代码实战

项目实战二：词性标注

1、词性标注背景介绍

2、词性标注代码实战 

项目实战三：命名实体识别

1、命名实体识别背景介绍

2、命名实体识别代码实战

项目实战四：依存句法分析 

1、依存句法分析背景介绍

2、依存句法分析代码实战

项目实战五：新词发现 

1、新词发现背景介绍

2、新词发现代码实战

项目实战六：关键词短语提取

1、关键词短语提取背景介绍

2、关键词短语提取代码实战

项目实战七：文本自动摘要

1、文本自动摘要背景介绍

2、文本自动摘要代码实战 

项目实战八：文本分类聚类  

1、文本分类聚类背景介绍

2、文本分类聚类代码实战

阶段五、企业项目之图像处理

1、逻辑回归Logistic regression

2、Softmax

3、SVM

4、决策树

5、集成学习之随机森林

6、集成学习之gb

7、集成学习之gbdt

8、集成学习之xgboost

9、集成学习之catboost

10、集成学习之LigthGBM

11、条件随机场（crf）

项目一：基于crf的中文分词词性识别系统

项目二：基于LigthGBM、catboost、xgboost多算法集成的阿里巴巴搜索广告转化预测

项目三：基于svm金融资讯类的情感分析

项目四：基于决策树的银行信贷审核系统

项目五：基于逻辑回归图像标签识别系统

项目六：基于协同过滤、GBDT和逻辑回归的商品推荐系统

第1章 深度学习必备知识

1.1   全连接神经网络（BP算法）

1.2   CNN卷积神经网络

1.3   各种激活函数理解与对比

1.4   池化 (pooling) 的作用和选择

1.5   Dropout和Dropconnect提升模型准确率

1.6   Batch Normalization (BN) 批归一化显神通

1.7   Layer Normalization, IN, GN 原理应用场景与实战

1.8   参数初始化技巧

1.9   学习率策略详解

1.10  优化器进阶

1.11  数据增强的手段

第2章 卷积神经网络

3.1  Bottleneck结构之参数压缩

3.2  反卷积与转置卷积

3.3  膨胀卷积

3.4  可变形卷积

3.5  残差结构之ResNet, ResNext

3.6  倒残差结构MobileNetv1, v2, v3

3.7  通道注意力机制之senet

3.8  全局特征值gcnet

项目一：手写数字识别系统

项目二：高精度图像识别和分类系统

第4章 循环神经网络

4.1  RNN详解

4.2  LSTM详解

4.3  GRU详解

4.4  LSTM Attention机制

4.5  LSTM改进之DT-LSTM

4.6  LSTM改进之LatticeLSTM

4.7  全局特征嵌入

项目一：基于LSTM时间序列的股票预测

第5章 transformer

5.1  Transform

5.2  Transformer详解

5.3  Self-Attention

5.4  Multi-head Attention

第七阶段 深度学习

阶段六、企业项目之自然语言处理实战

第1章 深度学习必备知识

1.1   全连接神经网络（BP算法）

1.2   CNN卷积神经网络

1.3   各种激活函数理解与对比

1.4   池化 (pooling) 的作用和选择

1.5   Dropout和Dropconnect提升模型准确率

1.6   Batch Normalization (BN) 批归一化显神通

1.7   Layer Normalization, IN, GN 原理应用场景与实战

1.8   参数初始化技巧

1.9   学习率策略详解

1.10  优化器进阶

1.11  数据增强的手段

第2章 卷积神经网络

3.1  Bottleneck结构之参数压缩

3.2  反卷积与转置卷积

3.3  膨胀卷积

3.4  可变形卷积

3.5  残差结构之ResNet, ResNext

3.6  倒残差结构MobileNetv1, v2, v3

3.7  通道注意力机制之senet

3.8  全局特征值gcnet

项目一：手写数字识别系统

项目二：高精度图像识别和分类系统

第4章 循环神经网络

4.1  RNN详解

4.2  LSTM详解

4.3  GRU详解

4.4  LSTM Attention机制

4.5  LSTM改进之DT-LSTM

4.6  LSTM改进之LatticeLSTM

4.7  全局特征嵌入

项目一：基于LSTM时间序列的股票预测

第5章 transformer

5.1  Transform

5.2  Transformer详解

5.3  Self-Attention

5.4  Multi-head Attention

第八阶段 企业项目之计算机视觉

项目一：人脸识别（支付宝刷脸支付，公安部人脸认证，人脸考勤等）

人脸识别效果展示

人脸识别项目背景，应用场景，实现原理

不同人脸识别算法Center Loss，SphereFace，Cosine Margin Loss，Angular Margin Loss优缺点分析，如何设计高准确率的人脸检测模型

人脸识别损失函数设计原理

Arcface等论文导读及算法详解

人脸识别数据标注方法，标签生成

人脸识别算法的架构和模块详解

数据增强与样本不均衡处理

模型源码讲解之人脸识别特征提取网络设计

模型源码讲解之Arcface代码实现

模型源码讲解之模型优化及准确率提升技巧

模型源码讲解之预测模块实现和部署

项目二：半监督图像识别分类（用少量标注数据构建企业级高精度图像识别系统）

图像识别效果展示

如何通过少量标注数据训练高精度模型图像识别模型

全球最佳半监督学习理论和论文导读

半监督和监督学习图像识别效果对比，标注数据少，而且效果好

数据的标注和存储格式

图像识别算法的架构和模块详解

图像的预处理增强和标签的混合

模型源码讲解，分析和优化

模型的调参和优化技巧

模型的部署和图像识别

项目三：Pseudo label伪标签技术半监督图像识别及代码实现

项目四：Mean techer技术半监督图像识别及代码实现

项目五：Virtual adversarial learning虚拟对抗学习半监督图像识别及代码实现

项目六：数据增强之Mixup半监督图像识别及代码实现

项目七：超强半监督技术之ICT图像识别及代码实现

项目八：超强半监督技术之Mixmatch图像识别及代码实现

项目九：目标检测（一种工业缺陷检测，违规车牌检测，自动驾驶等核心技术）

目标检测效果展示

目标检测项目背景和应用场景

目标检测常用算法rcnn、fast rcnn、faster rcnn、cascad rcnn、ssd、yolov3，retinanet介绍及原理

RPN网络结构及原理

ROI pooling实现

anchors生成原理

NMS和Soft-NMS

上采样

膨胀卷积

多任务损失函数设计

IOU计算原理

边框回归

目标分类损失函数设计和改进

难样本挖掘之focus loss设计

目标检测评价指标介绍

算法准确率提升之检测框集成

算法准确率提升之特征集成

制作自己的目标检测数据之数据标注

制作自己的目标检测数据之数据转化为结构化数据

模型源码讲解之模块设计思想

模型源码讲解之代码剖析

模型源码讲解之代码详细调试

模型的训练和调参技巧

模型的部署及预测

项目十：行人重识别和大规模图像检索

图像检索效果展示

行人重识别和大规模图像检索的项目背景和应用场景

重点、难点详解

行人重识别当前全球准确率最高模型详解

ABD-Net网络架构和论文导读

特征加入Attention和多样性设计详解

Orthogonality Regularization正交正则化：一种多样化特征神器

通道权重模块详解

位置权重模块详解

全局特征嵌入和融合

数据标注和转化

模型源码讲解之代码详细调试

模型训练和参数调优

模型预测

阶段七：高性能AI算法集成和发布平台

项目一：人脸识别（支付宝刷脸支付，公安部人脸认证，人脸考勤等）

人脸识别效果展示

人脸识别项目背景，应用场景，实现原理

不同人脸识别算法Center Loss，SphereFace，Cosine Margin Loss，Angular Margin Loss优缺点分析，如何设计高准确率的人脸检测模型

人脸识别损失函数设计原理

Arcface等论文导读及算法详解

人脸识别数据标注方法，标签生成

人脸识别算法的架构和模块详解

数据增强与样本不均衡处理

模型源码讲解之人脸识别特征提取网络设计

模型源码讲解之Arcface代码实现

模型源码讲解之模型优化及准确率提升技巧

模型源码讲解之预测模块实现和部署

项目二：半监督图像识别分类（用少量标注数据构建企业级高精度图像识别系统）

图像识别效果展示

如何通过少量标注数据训练高精度模型图像识别模型

全球最佳半监督学习理论和论文导读

半监督和监督学习图像识别效果对比，标注数据少，而且效果好

数据的标注和存储格式

图像识别算法的架构和模块详解

图像的预处理增强和标签的混合

模型源码讲解，分析和优化

模型的调参和优化技巧

模型的部署和图像识别

项目三：Pseudo label伪标签技术半监督图像识别及代码实现

项目四：Mean techer技术半监督图像识别及代码实现

项目五：Virtual adversarial learning虚拟对抗学习半监督图像识别及代码实现

项目六：数据增强之Mixup半监督图像识别及代码实现

项目七：超强半监督技术之ICT图像识别及代码实现

项目八：超强半监督技术之Mixmatch图像识别及代码实现

项目九：目标检测（一种工业缺陷检测，违规车牌检测，自动驾驶等核心技术）

目标检测效果展示

目标检测项目背景和应用场景

目标检测常用算法rcnn、fast rcnn、faster rcnn、cascad rcnn、ssd、yolov3，retinanet介绍及原理

RPN网络结构及原理

ROI pooling实现

anchors生成原理

NMS和Soft-NMS

上采样

膨胀卷积

多任务损失函数设计

IOU计算原理

边框回归

目标分类损失函数设计和改进

难样本挖掘之focus loss设计

目标检测评价指标介绍

算法准确率提升之检测框集成

算法准确率提升之特征集成

制作自己的目标检测数据之数据标注

制作自己的目标检测数据之数据转化为结构化数据

模型源码讲解之模块设计思想

模型源码讲解之代码剖析

模型源码讲解之代码详细调试

模型的训练和调参技巧

模型的部署及预测

项目十：行人重识别和大规模图像检索

图像检索效果展示

行人重识别和大规模图像检索的项目背景和应用场景

重点、难点详解

行人重识别当前全球准确率最高模型详解

ABD-Net网络架构和论文导读

特征加入Attention和多样性设计详解

Orthogonality Regularization正交正则化：一种多样化特征神器

通道权重模块详解

位置权重模块详解

全局特征嵌入和融合

数据标注和转化

模型源码讲解之代码详细调试

模型训练和参数调优

模型预测

第九阶段 企业项目之自然语言处理实战

项目一：语言模型，NLP深度学习技术的基石

语言模型应用场景，技术背景

从word2vec到Bert，再到霸屏的ALBERT设计原理详解和论文阅读

BERT特征之字符特征嵌入

BERT特征之位置特征嵌入

BERT特征之句子特征嵌入

BERT 特征抽取之transformer结构设计

遮蔽语言模型

Transformer多头注意力机制详解

Transformer 层归一化机制

多任务损失函数设计

样本标签自动产生

ALBERT因式分解 Factorized embedding parameterization

ALBERT跨层参数共享 Cross-Layer Parameter Sharing

ALBERT段落连续性任务 Inter-sentence coherence loss

ALBERT代码调试、性能调优核心源码分析

中文数据准备和格式预处理

ALBERT模型训练及参数调试

ALBERT模型预测

项目二：多标签文本分类（淘宝京东评价数据评分，大众汽车客户评价分类，法律类似案件推荐，相似新闻分类）

项目背景介绍和企业应用场景

bert和卷积神经网络加全局attention机制算法效果展示及99%准确率如何炼成的

bert和卷积神经网络加全局attention机制多标签文本分类前沿算法架构设计

数据格式设计和标签样例

制作自己的数据集

Bert特征抽取模块设计

卷积神经网络特征优化

全局attention机制特征的融合

Bert输入数据的改进

把TPU支持切换为GPU支持

损失函数的设计原理

模型的训练和参数优化

模型的预测和部署

项目三：基于虚拟对抗技术命名实体识别系统（顺丰快递寄件物品，地址等识别；医疗辅助决策系统药品，疾病，症状；知识图谱实体识别等核心技术）

命名实体识别效果展示

命名实体识别项目背景和企业应用场景介绍

命名实体识别全球准确率最高模型介绍

对抗学习详解

虚拟对抗学习详解

有标签和无标签数据多任务联合学习详解

特征设计和模型嵌入

语言模型的嵌入

特征提取模块详解

网络的结构设计和参数详解

训练数据的自动生成和人工标注修复错误

训练数据转化为模型需要的格式

核心代码详解：调试、难点语法分析、调优、重写和升级

模型的训练和参数调整

模型的预测和企业化部署

项目四：基于多任务学习联合模型的知识抽取系统（构建百度知心、搜狗知立方、谷歌freebase和微软Microsoft Concept Graph等行业知识图谱核心技术）

知识抽取系统效果展示和分析

知识抽取系统行业背景和企业应用场景介绍

全球准确率最高知识抽取模型介绍和详解

联合模型结构和模块详解

非联合模型结构和联合模型结构异同和性能分析

实体识别模块设计

关系分类模块设计

特征融合模块详解

标签表征和嵌入模块详解

特征的提取、表征和嵌入

联合模型实体关系标签转化和预测

多任务损失函数的设计和详解

Softmax单标签和Sigmoid多标签区别

如何解决多实体对多关系问题

模型升级之加入对抗学习

模型升级之加入半监督学习和无标签数据

模型训练和参数调整

模型预测和企业部署

第十阶段 企业项目之推荐系统实战

1、 推荐系统企业的应用背景，场景，技术概要 

2、 推荐系统排序算法 

3、 推荐系统评价指标 

4、 推荐系统损失函数的设计 

5、 基于知识图谱推荐算法的项目实战

6、 基于序列模型的匿名推荐算法项目实战 

7、 基于通用推荐算法的项目实战 

8、 推荐算法的训练、预测和服务化 

9、 推荐算法参数调优技巧和优化技术

第十一阶段 高性能AI算法集成和发布平台

基于云计算高并发分布式多种算法集成框架

1、算法集成框架模块设计

2、高性能异步处理

3、多线程技术

4、负载均衡

5、内存管理与优化

6、多模型加载模块设计

7、多模型集成模块设计

8、多模型预测模块设计

9、结果返回和显示

10、接口发布

11、其他任何语言的接口调用

第十二阶段 用C++实现模型的高性能部署

1、理解 RING ALLREDUCE 原理， 实现 DDP 分布式并行训练 

2、认识并了解 CUDA（Compute Unified Device Architecture） 

3、学习 CUDA 编程，熟悉 GRIDDIM BLOCKDIMCUDA，CUDA WARPAFFINE， 

4、CUDASTREAM 和 EVENT 的使用 

5、学习并掌握 TensorRT 的 CNN 搭建 

6、TensorRT 的 IMAGE 分类之 ONNX 解析器及配置 

7、TensorRT 的 IMAGE 分类之 具体推理实现 

8、TensorRT 的框架使用 

9、TensorRT 插件 

10、实现 YOLOv5 CUDA 推理FLASK 技术应用，模型部署

项目一：语言模型，NLP深度学习技术的基石

语言模型应用场景，技术背景

从word2vec到Bert，再到霸屏的ALBERT设计原理详解和论文阅读

BERT特征之字符特征嵌入

BERT特征之位置特征嵌入

BERT特征之句子特征嵌入

BERT 特征抽取之transformer结构设计

遮蔽语言模型

Transformer多头注意力机制详解

Transformer 层归一化机制

多任务损失函数设计

样本标签自动产生

ALBERT因式分解 Factorized embedding parameterization

ALBERT跨层参数共享 Cross-Layer Parameter Sharing

ALBERT段落连续性任务 Inter-sentence coherence loss

ALBERT代码调试、性能调优核心源码分析

中文数据准备和格式预处理

ALBERT模型训练及参数调试

ALBERT模型预测

项目二：多标签文本分类（淘宝京东评价数据评分，大众汽车客户评价分类，法律类似案件推荐，相似新闻分类）

项目背景介绍和企业应用场景

bert和卷积神经网络加全局attention机制算法效果展示及99%准确率如何炼成的

bert和卷积神经网络加全局attention机制多标签文本分类前沿算法架构设计

数据格式设计和标签样例

制作自己的数据集

Bert特征抽取模块设计

卷积神经网络特征优化

全局attention机制特征的融合

Bert输入数据的改进

把TPU支持切换为GPU支持

损失函数的设计原理

模型的训练和参数优化

模型的预测和部署

项目三：基于虚拟对抗技术命名实体识别系统（顺丰快递寄件物品，地址等识别；医疗辅助决策系统药品，疾病，症状；知识图谱实体识别等核心技术）

命名实体识别效果展示

命名实体识别项目背景和企业应用场景介绍

命名实体识别全球准确率最高模型介绍

对抗学习详解

虚拟对抗学习详解

有标签和无标签数据多任务联合学习详解

特征设计和模型嵌入

语言模型的嵌入

特征提取模块详解

网络的结构设计和参数详解

训练数据的自动生成和人工标注修复错误

训练数据转化为模型需要的格式

核心代码详解：调试、难点语法分析、调优、重写和升级

模型的训练和参数调整

模型的预测和企业化部署

项目四：基于多任务学习联合模型的知识抽取系统（构建百度知心、搜狗知立方、谷歌freebase和微软Microsoft Concept Graph等行业知识图谱核心技术）

知识抽取系统效果展示和分析

知识抽取系统行业背景和企业应用场景介绍

全球准确率最高知识抽取模型介绍和详解

联合模型结构和模块详解

非联合模型结构和联合模型结构异同和性能分析

实体识别模块设计

关系分类模块设计

特征融合模块详解

标签表征和嵌入模块详解

特征的提取、表征和嵌入

联合模型实体关系标签转化和预测

多任务损失函数的设计和详解

Softmax单标签和Sigmoid多标签区别

如何解决多实体对多关系问题

模型升级之加入对抗学习

模型升级之加入半监督学习和无标签数据

模型训练和参数调整

模型预测和企业部署

1、 推荐系统企业的应用背景，场景，技术概要 

2、 推荐系统排序算法 

3、 推荐系统评价指标 

4、 推荐系统损失函数的设计 

5、 基于知识图谱推荐算法的项目实战

6、 基于序列模型的匿名推荐算法项目实战 

7、 基于通用推荐算法的项目实战 

8、 推荐算法的训练、预测和服务化 

9、 推荐算法参数调优技巧和优化技术

基于云计算高并发分布式多种算法集成框架

1、算法集成框架模块设计

2、高性能异步处理

3、多线程技术

4、负载均衡

5、内存管理与优化

6、多模型加载模块设计

7、多模型集成模块设计

8、多模型预测模块设计

9、结果返回和显示

10、接口发布

11、其他任何语言的接口调用

1、理解 RING ALLREDUCE 原理， 实现 DDP 分布式并行训练 

2、认识并了解 CUDA（Compute Unified Device Architecture） 

3、学习 CUDA 编程，熟悉 GRIDDIM BLOCKDIMCUDA，CUDA WARPAFFINE， 

4、CUDASTREAM 和 EVENT 的使用 

5、学习并掌握 TensorRT 的 CNN 搭建 

6、TensorRT 的 IMAGE 分类之 ONNX 解析器及配置 

7、TensorRT 的 IMAGE 分类之 具体推理实现 

8、TensorRT 的框架使用 

9、TensorRT 插件 

10、实现 YOLOv5 CUDA 推理FLASK 技术应用，模型部署