深度学习入门必看吴恩达深度学习

吴恩达

今天分享的是吴恩达的深度学习课程。吴恩达是人工智能领域的大牛，著作颇丰，其推出的机器学习课程在学生之中反响强烈，深受中国学生的推崇。在众多网友，学生，工作者的呼吁下，年8月，吴恩达推出了自己的深度学习课程，由于长时间拖更，经常被网友吐槽，最终在今年的时候全部更新完毕。考虑到中国学生对课程的喜爱，吴恩达和网易云课程合作，提供带有中文字幕的学习视频。

课程简介：

课程总共分为5个部分：卷积网络和深度学习，改善深层神经网络，结构化机器学习项目，卷积神经网络，序列模型。在五门课程中，将学习深度学习的基础知识，了解如何构建神经网络，并学习如何实践机器学习项目，学习卷积网络，RNN，LSTM，Adam，Dropout，BatchNorm，Xavier/He初始化等等。同时可以了解医疗，自动驾驶，手语阅读，音乐创作和自然语言处理的案例研究，掌握深度学习的基础理论，还会看到它在工业中的应用。课程的内容都将在Python和TensorFlow的练习中所实现。最后，课程末尾都有学术大牛的经验分享，可以听到许多深度学习的高层领导，他们将与你分享他们的个人故事，并为你提供职业建议。

课程内容：

01.神经网络和深度学习

神经网络概论主要介绍：神经网络的概念、深度学习兴起的原因、课程内容等；神经网络基础主要介绍：logistic回归、损失函数、梯度下降、计算向量化、代价函数等；编程作业：使用Numpy的基础Python、logistic回归浅层神经网络主要介绍：神经网络、激活函数、梯度下降法、反向传播、随机初始化等；编程作业：使用浅层神经网络实现平面数据分类深层神经网络主要介绍：深度神经网络、DNN的前向和反向传播、参数和超参数等；编程作业：构建DNN、DNN用于图片分类02.改善深层神经网络：超参数调试、正则化以及优化

深度学习的实践方面主要介绍：训练测试集划分、偏差和方差、正则化、Dropout、输入归一化、梯度消失与梯度爆炸、权重初始化、梯度检验等；编程作业：初始化、正则化、梯度检验优化算法主要介绍：Mini-batch梯度下降、指数加权平均、Momentum梯度下降、RMSprop、Adam优化算法、衰减学习率、局部最优等；编程作业：多种优化算法超参数调试和BatchNorm及框架主要介绍：超参数的调试、BatchNormalization、Softmax、TensorFlow程序框架等；编程作业：TensorFlow简单教程03.结构化机器学习项目

机器学习策略（1）主要介绍：正交化、单一数字评估指标、训练/开发/测试集、偏差和方差、改善模型的表现等；机器学习策略（2）主要介绍：误差分析、错误样本清除、数据分布不匹配问题、迁移学习、多任务学习、端到端的深度学习等；04.卷积神经网络

卷积神经网络基础主要介绍：计算机视觉、边缘检测、卷积神经网络、Padding、卷积、池化等；编程作业：构建卷积神经网络、手势识别应用卷积神经网络实例模型主要介绍：AlexNet、LeNet、VGG、ResNet、InceptionNetwork、1乘1卷积、迁移学习、数据扩充等；编程作业：Keras教程-theHappyHouse、ResidualNetworks目标检测主要介绍：目标定位、目标检测、BoundingBox预测、交并比、非最大值抑制NMS、Anchorbox、YOLO算法、候选区域regionproposals等；编程作业：自动驾驶-汽车检测特殊应用：人脸识别和神经风格迁移主要介绍：人脸识别、one-shot学习、Siamese网络、Triplet损失、风格迁移、内容损失、风格损失、1D-3D卷积等；编程作业：人脸识别-HappyHouse、神经风格迁移-深度学习和艺术05.序列模型

循环神经网络主要介绍：循环神经网络、不同类型的RNN、语言模型、新序列采样、RNN梯度消失、GRU、LSTM、双向RNN、深层RNNs等；编程作业：构建RNN、字母级的语言模型-Dinosaurusland、用LSTM即兴创作Jazz自然语言处理和词嵌入主要介绍：词汇表征、WordEmbedding、嵌入矩阵、Word2Vec、负采样、GloVe词向量、情感分类、词嵌入消除偏见等；编程作业：词向量运算、Emojify序列模型和注意力机制主要介绍：序列到序列模型、集束搜索（Beamsearch）、集束搜索误差分析、Bleu得分、注意力模型、注意力权重、语音识别、触发字检测等；编程作业：机器翻译、触发字检测