查看思维导图
不断完善中...
一、机器学习快速上手
二、数学和Python基础知识
2.1 函数
2.2 梯度下降
2.3 数据结构-张量
2.3.1 标量-0D
2.3.2 向量-1D
2.3.3 矩阵-2D
2.3.4 序列数据-3D
2.3.5 图像数据-4D
2.3.6 视频数据-5D
2.4 Python的张量运算
2.4.1 创建
2.4.2 通过索引和切片访问张量中数据
2.4.3 张量的整体操作和逐元素运算
2.4.4 张量的变形和转置
2.4.5 Python中的广播
2.4.6 向量和矩阵的点积运算
2.5 概率
2.5.1 什么是概率
2.5.2 正态分布
2.5.3 标准差和方差
数学基础
三、机器学习基础
3.1 线性回归--线性回归预测网店销售额
3.1.1问题定义
3.1.2 数据的收集和预处理
① 收集网店销售额数据
② 数据读取和可视化
③ 数据的相关分析
④ 数据的散点图
⑤数据集清晰和规范化
⑥ 拆分数据集为训练集和测试集
⑦ 把数据归一化
3.1.3 选择机器学习模型
① 确定线性回归模型
② 假设（预测）函数--h(x)
③ 损失（误差）函数--L(w，b)
3.1.4 通过梯度下降找到最佳函数参数
3.1.5 实现一元线性回归模型并调试超参数
① 权重和偏置的初始值
② 进行梯度下降
③ 调试学习速率
④ 调试迭代次数
⑤ 在测试集上进行预测
⑥ 用轮廓图绘制L、w和b的关系
3.1.6 实现多元线性回归模型
① 向量化的点积运算
② 多变量的损失函数和梯度下降
③ 构建一个线性回归函数模型
④ 初始化权重并训练机器
3.2 逻辑回归--给病患和鸢尾花分类
3.2.1 给病患分类
① 问题定义：判断客户是否患病
② 从回归问题到分类问题
③ 通过逻辑回归解决二元分类问题
④ 问题定义：确定鸢尾花的种类
⑤ 总结
3.2.2 给鸢尾花分类
① 问题定义：确定鸢尾花的种类
② 从二元分类到多元分类
③ 正则化、欠拟合和过拟合
④ 通过逻辑回归解决多元分类问题
⑤ 总结
3.3 神经网络--找出可能流失的客户
3.3.1 问题定义：金融项目找出可能流失的客户
3.3.2 神经网络原理
3.3.3 从感知器到单隐层网络
3.3.4 用Keras单隐层网络预测客户流失率
3.3.5 分类数据不平衡问题：只看准确率够用吗
3.3.6 从单隐层神经网络到深度神经网络
3.3.7 用Kerans深度神经网络预测客户流失率
3.3.8 使用回调功能
3.3.9 总结
3.4 经典算法
KNN
邻居是哪一类，我就是哪一类
支持向量机SVM
我在20世纪90年代比神经网络还火
朴素贝叶斯
以贝叶斯原理为基础的简单概率分类算法
决策树
无数个if....else的集合
随机森林
很多棵决策树的集成
2.5 集成学习
偏差和方差--机器学习性能优化的风向标
决策树的聚合
Boosting算法--锻炼模型的肌肉
Ada Boost算法
梯度提升算法
XGBoost算法
Stacking/Bkending算法（以预测结果为新特征）
2.6 监督学习之外--其他类型的机器学习
无监督学习--聚类
K均值算法
无监督学习-降维
PCA算法
半监督学习
自监督学习
生成式学习
四、深度学习基础
4.1 基本概念
4.2 网络操作与计算
4.3 超参数
4.4 激活函数
4.5 Batch_Size
4.6 归一化
4.7 模型训练与微调(fine tuning)
4.8 权重偏差初始化
4.9 Softmax
4.10 理解One Hot Encoding原理及作用
4.11 常用优化器有哪些
4.12 Droupout系列问题
4.13 深度学习中常用的数据增强方法
4.14 如何理解Internal Covariate Shift
4.15 什么时候用local-conv 什么时候用全卷积？
五、卷积神经网络CNN-识别狗狗的图像
5.1 问题定义：有趣的狗狗图像识别
5.2 卷积网络的结构
5.3 卷积层的原理
5.4 池化层的功能
5.5 卷积网络性能优化
5.5.1 第一招：更新优化器并设置学习速率
5.5.2 第二招：添加Droupout层
5.5.3 “大杀器”：进行数据增强
5.6 卷积网咯中特征通道的可视化
5.7 各种大型的卷积网络模型
VGGNet
采用Inception结构的GoogLeNet
残差网络ResNet
5.8 实战：猫狗识别中的卷积及特征图可视化
5.9 实战：卷积神经网络在人脸识别中的应用
5.10 总结
六、经典卷积网络
6.1 LeNet5
6.2 AlexNet
6.3 可视化ZFNet-转置卷积
6.4 VGGNet
6.5 Network in Network
6.6 GoogleNet
6.7 Inception系列
6.7.1 Inception v1
实战：基于InceptionV1的cifar10图像分类
6.7.2 Inception v2
6.7.3 Inception v3
6.7.4 Inception v4
6.7.5 Inception-ResNet-v2
6.8 RestNet及其变体
实战：基于Resnet的cifar10图形分类
七、目标检测
7.1 基本概念
7.1.1 什么是目标检测？
7.1.2 目标检测要解决的核心问题？
7.1.3 目标检测算法分类？
7.2 Two Stage目标检测算法
7.2.1 R-CNN
7.2.2 Fast R-CNN
7.2.3 Faster R-CNN
实战：利用Faster R-CNN深度网络模型对图像中的目标物体进行识别
7.2.4 FPN
7.2.5 FPN
7.2.6 Mask R-CNN
实战：利用Mask R-CNN模型进行目标检测
7.2.7 RefineDet
7.2.8 Cascade R-CNN
7.3 One Stage目标检测算法
7.3.1 SSD
7.3.2 DSSD
7.3.3 FSSD
7.3.4 YOLOv1
7.3.5 YOLOv2
实战：Yolov2识别甜菜和杂草
7.3.6 YOLOv3
实战：Yolov3汽车车牌识别
7.3.7 YOLOv4
7.3.8 YOLOv5
实战：Yolov5车牌识别
7.3.9 REtinaNet
7.3.10 RFBNet
7.3.11 M2Det
7.4 目标检测的常用数据集
7.4.1 PASCAL VOC
7.4.2 Microsoft COCO
7.4.3 谷歌 Open IMage
7.4.4 ImageNet
7.5 目标检测常用标注工具
7.5.1 LabelImg
7.5.2 LabelMe
7.5.3 Labelbox
7.5.4 RectLabel
7.5.5 CVAT
7.5.6 VIA
7.5.7 其他标注工具
7.6 人脸检测
7.6.1 目前主要人脸检测方法分类？
7.6.2 如何检测图片中不同大小的人脸？
7.6.3 如何设定算法检测最小人脸尺寸？
7.64 如何定位人脸的位置？
7.6.5 如何通过一个人脸的多个框确定最终人脸框位置？
7.6.7 基于级联卷积神经网络的人脸检测（Cascade CNN）
7.6.8 基于多任务卷积神经网络的人脸检测（MTCNN）
7.6.9 FaceBox
7.7 实战：基于Keras的人脸识别
7.8 实战：基于CNN的人脸识别
7.9 实战：基于渔夫人脸方法识别人脸
7.10 实战：基于Google FaceNet实现人脸识别
八、循环神经网络（RNN）
8.1 鉴定留言
问题定义：鉴定评论文本的情感属性
循环神经网络的原理和结构
原始文本如何转换成向量数据
用SimpleRNN鉴定评论文本
从SimpleRNN到LSTM
用LSTM鉴定评论文本
8.2 探索系外行星
问题定义：太阳系外哪些恒星有行星环绕
用循环神经网络处理时序问题
时序数据的导入与处理
建模：CNN和RNN的组合
8.3 实战：使用RNN进行MNIST手写数据识别
8.4 实战：使用LSTM来求解正弦曲线拟合余弦曲线回归问题
8.5 实战：IMDB电影评论分类
8.6 实战：使用GRU进行温度预测
8.7 实战：训练神经网络LSTM实现股票预测
九、生成对抗网络（GAN）
9.1 GAN的基本概念
9.2 GNA的生成模型评价
① Inception Score
② Mode Score
③ Kernel MMD
④ Wasserstein Distance
⑤ Frechet Inception Distance(FID)
⑥ 1-NN分类器(1-Nearest Neighbor Classifier)
⑦ 其他评价方法
9.3 其他常见的生成模型
① 自回归模型-pixelRNN与pixelCNN
② 变分自动编码器（VAE）原理
9.4 GAN的改进与优化
① 如何生成指定类型的图像（CGAN）
② CNN与GAN的结合（DCGAN）
③ GAN为什么容易训练崩溃
④ WGAN如何解决训练崩溃问题
⑤ 带有梯度正则的WGAN(WGAN-GP)
⑥ 最小二乘法GAN(LSGAN)
⑦ 如何尽量避免GAN的训练崩溃问题
9.5 GAN的应用-图像翻译
① pix2pix:图像翻译
② pix2pixHD:高分辨率图像生成
③ vid2vid:高分辨率视频生成
9.6 GAN的应用-文本生成
9.7 GAN在其他领域的应用
数据增广
图像超分辨率与图像补齐
语音领域
9.8 实战：使用MNIST数据集训练GAN网络模型
9.9 实战：使用MNIST数据集训练CGAN网络模型
9.10 实战：使用MNIST数据集训练BGAN网络模型
9.11 实战：使用CIFAR10数据集forg(青蛙)类别图像训练DCGAN
9.12 实战：使用VGG深度神经网络对图像风格进行转换
9.13 实战：基于DCGAN算法的手写体数字生成
十、轻量化网络
10.1 SequeezeNet
10.2 MobileNetV1
10.3 MobileNetv2
10.4 ShuffleNet v1
10.5 实战：实现SequeezeNet网络模型
10.6 实战：实现MobileNet v1网络模型
10.7 实战：实现MobileNet v2网络模型
10.8 实战：实现ShffleNet v1网络模型
10.9 实战：验证MobileNet V2网络模型
十一、图像分割
11.1 常见的图像分割算法
① 基于阈值的分割算法
② 基于边缘检测的分割算法
③ 基于区域的分割算法
④ 基于神经网络技术的图像分割算法
⑤ 基于深度学习的图像分割算法
⑥ 常见的深度学习图像分割算法
11.2 FCN
11.3 U-Net
11.4 U-Net++
11.5 SegNet
11.6 LinkNet
11.7 RefineNet
11.8 PSPNet
11.9 DeepLab系列
① DeepLabv1
② DeepLabv2
③ DeepLabv3
④ DeepLabv3+
11.10 Mask R-CNN作为目标分割的介绍
11.11 基于弱监督学习的图像分割
十二、强化学习--冰湖挑战
问题定义：帮助智能体完成冰湖挑战
强化学习基础知识
强化学习基础算法Q-Learning
用Q-Learning算法来解决冰湖挑战问题
从Q-Learning算法到SARSA算法
用SARSA算法来解决冰湖挑战问题
Deep Q Network算法：用深度网络实现Q-Learning
十三、迁移学习
13.1 迁移学习基础知识
① 什么是迁移学习
② 为什么需要迁移学习
③ 迁移学习与已有学习方式的区别和联系
④ 负迁移
13.2 迁移学习的研究领域
13.3 迁移学习的应用
① 计算机视觉
② 文本分类
③ 时间序列
④ 医疗健康
13.4 迁移学习的基本方法
① 基于实例的迁移学习方法
② 基于特征的迁移学习方法
③ 基于模型的迁移学习方法
④ 基于关系的迁移学习方法
13.5 分布对齐的常用方法
13.6 深度迁移学习方法
① 深度网络的可迁移性
② 微调
③ 深度网络自适应
④ 深度对抗网络迁移
13.7 迁移学习研究前沿
13.8 实战：使用Vgg16及迁移学习进行猫狗图像识别
13.9 实战：基于Restnet18模型和迁移学习技术的动物分类识别
十四、自然语言处理（NLP）
14.1 NLP发展历史
14.2 什么是NLP
14.3 NLP库
14.4 安装NLTK
14.5 使用Python Tokenize文本
14.6 统计词频
14.7 处理停用词
14.8 使用NLTK Tokenize文本
14.9 非英文Tokenize
14.10 同义词处理
14.11 反义词处理
14.12 非英文词干提取
14.13 单词变体还原
14.14 词干和变体的区别
14.15 实战：使用LSTM进行评论情感分析
14.16 实战：利用Glove词嵌入及Seq2Seq完成英语翻译为法语
14.17 实战：基于中文维基百科数据集利用word2vec算法计算网络相似度
14.18 实战：基于中文维基百科数据集利用doc2vec算法计算网页相似度
14.19 实战：基于TextCNN的徐家新闻检测实战
14.20 实战：基于Imdb数据集利用TextRNN算法实现情感分析
14.21 实战：中文垃圾邮件分类
14.22 实战：使用k-means对豆瓣读书数据聚类
14.23 实战：基于attention的机器翻译实战
十五、网络优化技巧
15.1 数据集和样本优化
15.2 数据不匹配问题
15.3 网络构建和初始化
15.4 特征选择
15.5 梯度消失和梯度爆炸
15.6 评价指标
15.7 模型和系统优化
十六、超参数调整
14.1 超参数的概念
14.2 网络训练中的超参数调整策略
14.3 合理使用预训练网络
14.4 自动化超参数搜索方法
14.5 自动机器学习 AutoML
十七、文本识别
17.1 手写数字识别
17.2 基于DNN的手写数字识别
17.3 基于CNN的手写数字识别
17.4 实战：MNIST手写数字识别介绍&多层感知器模型（MLP）
17.5 实战：MNIST手写数字辨识使用卷积神经网络(CNN)
17.6 实战：银行卡号识别
十八、图像超分辨
18.1 图像超分辨率概述
18.2 图像插值技术
18.3 深度学习超分辨率
18.4 实战：搭建SRCNN模型实现图像超分辨率重建
18.5 实战：搭建FSRCNN模型实现图像超分辨率并比较与SRCNN差别
18.6 实战：搭建MSLapSRN模型实现图像超分辨率重建
十九、语音识别
19.1 声学模型
19.2 语音模型
19.3 实战：根据语音识别标签实验
19.4 实战：GMM-HMM命令识别
二十、机器学习和深度学习框架
20.1 Pandas
20.2 Numpy
20.3 Matplotlib
20.4 Seaborn
20.5 Scikit-learn
20.6 Tensorflow
20.7 Keras
20.8 PyTorch
