最近开了一个新坑——【CS231n】斯坦福大学李飞飞视觉识别课程,准备认真学习并记录自己的学习历程。
文章目录
【CS231n】斯坦福大学李飞飞视觉识别课程笔记
由官方授权的CS231n课程笔记翻译知乎专栏——智能单元,比较详细地翻译了课程笔记,我这里就是参考和总结。
课程笔记
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(一):Python Numpy教程(1)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(二):Python Numpy教程(2)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(三):Python Numpy教程(3)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(四):图像分类笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(五):图像分类笔记(下)
- 【CS231n】K最近邻分类算法(K Nearest Neighbor)
- 【CS231n】A Few Useful Things to Know about Machine Learning全文翻译
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(六):线性分类笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(七):线性分类笔记(中)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(八):线性分类笔记(下)
学习安排
每周具体时间划分为4个部分:
- 1部分安排在周一到周二
- 2部分安排在周四到周五
- 3部分安排在周日
- 4部分作业是任何有空的时间自行完成,可以落后于学习进度
- 周三和周六休息 _
Week 1
- 了解计算机视觉综述,历史背景和课程大纲
- slides: lecture01
- 观看视频 p1, p2 和 p3
- 学习数据驱动的方法, 理解 KNN 算法,初步学习线性分类器
- slides: lecture02
- 观看视频 p4 p5 和 p6
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(四):图像分类笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(五):图像分类笔记(下)
- 掌握本门课 python 编程的基本功
- 作业
- (热身)写一个矩阵的类,实现矩阵乘法,只能使用 python 的类(class)和列表(list)
- 完成assignment1 中的
knn.ipynb
Week2
- 深入理解线性分类器的原理
- slides: lecture03
- 观看视频 p7
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(六):线性分类笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(七):线性分类笔记(中)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(八):线性分类笔记(下)
- 学习损失函数以及梯度下降的相关知识
- slides: lecture03
- 观看视频 p8
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(九):最优化笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十):最优化笔记(下)
- 掌握矩阵求导的基本方法
- 根据资料,学习矩阵求导的基本技巧,看多少内容取决于个人需要
- 作业
- 简述 KNN 和线性分类器的优劣, 打卡上传知知识圈
- 完成assignment1 中
svm.ipynb
Week3
- 学习掌握深度学习的基石: 反向传播算法
- slides: lecture04
- 观看视频 p9
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十一):反向传播笔记
- 理解神经网络的结构和原理
- slides: lecture04
- 观看视频 p10
- 深入理解反向传播算法
- 作业
- 完成 assignment1 中的
softmax.ipynb
- 完成 assignment1 中的
two_layer_net.ipynb
Week4
- 掌握 PyTorch 中的基本操作
- 学习 pytorch 的入门基础——【Pytorch】30分钟快速入门pytorch(前方高能,干货出没)
- 了解 kaggle 比赛的流程,并完成第一次的成绩提交
-
学习深度学习的系统项目模板
-
作业
- 完成 assignment1 中的
features.ipynb
- 修改房价预测的代码,在知识圈上提交 kaggle 的成绩
Week5
- 理解 CNN 中的卷积
- slides: lecture05
- 观看视频 p11, p12
- 理解 CNN 中的 pooling
- slides: lecture05
- 观看视频 p13
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十八):卷积神经网络笔记(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十九):卷积神经网络笔记(下)
- 完成 CNN 的第一个应用练习,人脸关键点检测
- 作业
- 思考一下卷积神经网络对比传统神经网络的优势在哪里?为什么更适合处理图像问题,知识圈打卡上传
- 完成 assignment2 中
FullyConnectedNets.ipynb
Week6
- 理解激活函数,权重初始化,batchnorm 对网络训练的影响
- slides: lecture06
- 观看视频 p14
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十二):神经网络笔记1(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十三):神经网络笔记1(下)
- 深入理解 BatchNormalization
- slides: lecture06
- 观看视频 p15
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十四):神经网络笔记2(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十五):神经网络笔记2(下)
- 总结回顾和理解深度学习中 normalize 的技巧
- 作业
- 完成 assignment2 中
BatchNormalization.ipynb
- 完成 assignment2 中
Dropout.ipynb
Week7
- 理解更 fancy 的优化方法,更多的 normalize 以及正则化和迁移学习对网络训练的影响
- slides: lecture07
- 观看视频 p16, p17 和 p18
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十六):神经网络笔记3(上)
- 【CS231n】斯坦福大学李飞飞视觉识别课程笔记(十七):神经网络笔记3(下)
- 了解第二次的 kaggle 比赛 cifar10 分类
- 全面的理解深度学习中的优化算法
- 阅读优化算法的笔记
- 作业
- 完成 assignment2 中
ConvolutionNetworks.ipynb
- 修改 cifar10 的网络结构,在知识圈上提交 kaggle 成绩
Week8
- 了解主流深度学习框架之间的区别与联系
- slides: lecture08
- 观看视频 p19
- 了解经典的网络结构
- slides: lecture09
- 观看视频 p20
- 理解卷积神经网络的最新进展
- 作业
Week9
- 掌握 RNN 和 LSTM 的基本知识
- slides: lecture10
- 观看视频 p21
- 了解语言模型和 image caption 的基本方法
- slides: lecture10
- 观看视频 p22 和 p23
- 更深入的理解循环神经网络的内部原理
- 学习blog Understanding LSTM Networks, 中文版本
- 作业
- 完成 assignment3 中的
RNN_Captioning.ipynb
- 完成 assignment3 中的
LSTM_Captioning.ipynb
- 完成 coco 数据集上的 image caption 小项目,参考代码
Week10
- 学习计算机视觉中的语义分割问题
- slides: lecture11
- 观看视频 p24
- 学习计算机视觉中的目标检测问题
- slides: lecture11
- 观看视频 p25 和 p26
- 了解目标检测中的常见算法
- 学习目标检测的笔记
- 作业
- 阅读论文 Fully Convolutional Networks for Semantic Segmentation 和中文笔记
- (可选) FCN 的复现代码理解
Week11
- 理解卷积背后的原理
- slides: lecture13
- 观看视频 p27
- 学习 deep dream 和 风格迁移等有趣应用
- slides: lecture13
- 观看视频 p28
- 了解无监督学习和生成模型
- slides: lecture12
- 观看视频 p29
- 作业
- 完成 assignment3 中的
NetworkVisualization-PyTorch.ipynb
- 阅读论文 SSD: Single Shot MultiBox Detector 和一个详细的讲解
- (可选) SSD 的复现代码理解
Week12
- 掌握自动编码器和生成对抗网络的基本原理
- slides: lecture12
- 观看视频 p30 和 p31
- 了解强化学习的基本概念
- slides: lecture14
- 观看视频 p32
- 学习强化学习中的 q learning 和 actor-critic 算法
- slides: lecture14
- 观看视频 p33
- 作业
- 完成 assignment3 中的
GANs-PyTorch.ipynb
- 完成 assignment3 中的
StyleTransfer-PyTorch.ipynb