深度学习入门必看的书和论文？有哪些必备的技能需学习？
Analytics Vidhya 网站曾发表过一篇文章，梳理了一些 2016 年关于深度学习的视频、教材和课程。分享出来，希望大家能从中受益。 文章由机器之心编译团队整理编译。原文链接请点击这里。  目标读者 不管是深度学些方面初学者、中等水平的学者还是专家，你都可以找到适合您观看的视频。  这篇文章也会根据读者的学习程度对学习材料进行分别罗列。如果你是一名初学者或者是中等水平的学者，建议你可以从第一部分开始。如果你想掌握完全掌握深度学习，那这篇文章就是你首先要阅读的不二之选。在开始对深度学习的探索之前，你首先要制作一个日程表。我相信在几周后，至少你可以建立你在深度学习中的第一个模型。对于深度学习方面的专家来说，深度学习的高级教程部分有很多精彩的视频可以帮助你加强现有的知识。你也可以看看 5 分钟的初学者视频来巩固基础知识。  对于所有深度学习/数据科学方面的爱好者，你们一定会喜欢深度学习的应用和其他部分对例子的介绍。其中包括谷歌 DeepMind 的一些视频，你可以从中学习如何使用深度学习绘画，并且深度学习是如何让自动驾驶汽车成为现实的。 另外还有一小部分是关于强化学习的。  1.深度学习初学者教程  2.深度学习高级  3.深度学习的应用  4.强化学习  1.深度学习简化版 如果复杂的专业术语让你在学习深度学习时感到困难重重，那么这个教程就是给你的福利。这是深度学习及其基本概念的一个简化版教程。在这个教程里你将会了解到神经网络、深度网络、深度信念网络（DBN）和卷积神经网络。H2O.ai 和这个教程将会让你对深度学习有基本的理解。同时你也会了解到不同的模型，以及在不同情况下该选择何种模型和选择这种模型的理由。之后你将会学到深度学习在不同使用情形下的实际操作经验，包括支持构建你自己深度网络的平台、深度学习可以调用的库。这个简化教程里没有任何数学计算或者编程相关的内容，是为初学者了解深度学习基本思想而制作的。  2.2016 斯坦福湾区深度学习学校 Day 1  正如吴恩达（Andrew Ng）无比精确的描述，深度学习正在改变业界的发展布局，同时大量有意思的深度学习应用正涌现出来。这个视频是 2016 湾区深度学习学校第一天的内容展示。视频覆盖到的内容有： 1）Hugo Larochelle 讲授前馈神经网络介绍（Introduction on Feedforward Neural Network）；2）Andrej Karpathy 讲授用于计算机视觉的深度学习（Deep Learning for Computer Vision）；3）Richard Socher 讲授用于自然语言处理（NLP）的深度学习（Deep Learning for NLP）；4）Sherry Moore 讲授 TensorFlow 教程（TensorFlow Tutorial）；5）Ruslan Salakhutdinov 讲授深度无监督学习基础（Foundations of Deep Unsupervised Learning）；6）吴恩达讲授深度学习应用基本要点（Nuts and Bolts of Applying Deep Learning）。这些深度学习方面的专家都会以一个易于理解的方式讲解深度学习潜在的概念原理，让你对深度学习有基础理解。同时他们也会分享各自讲授主题相关的应用实例。  3.2016 斯坦福湾区深度学习学校 Day 2  这是湾区深度学习学校的第二天讲授内容视频。视频覆盖到的内容有：1）John Schulman 讲授深度强化学习基础（Foundation of Deep Reinforcement Learning）；2）Pascal Lamblin 讲授 Theano 介绍：一个供模型构建和训练使用的极速 Python 库（Introduction to Theano: A Fast Python library for Modelling & Training）；3）Adam Coates 和 Vinay Rao 讲授语音识别和深度学习（Speech Recognition and Deep Learning）；4）Alex Wiltschko 讲授 Torch 和 Autograd 下的机器学习（Machine Learning with Torch & Autograd）；5）Quoc Le 讲授深度学习实现 Seq2Seq（Sequence to Sequence by Deep Learning）；5）Yoshua Bengio 讲授深度学习的基础和挑战（Foundation and Challenges of Deep Learning）。这些深度学习的应用者都是经常被检索到的深度学习应用专家，他们同时也为大型公司服务，如：谷歌大脑、Twitter 等。  4. 教程：深度学习  在这个深度学习的视频教程里，Yoshua Bengio 和 Yann LeCun 讲解了近年来深度学习所取得的重大突破。在这个领域深耕 30 年之后，Yoshua 和 Yann 带来深度学习如何掀起机器学习和人工智能领域变革浪潮的深度解读。在本视频教程里，你将会学到深度学习是如何实现多层计算模型对数据表征的学习。这些方法大幅提升了语音识别、视觉对象识别、目标检测以及基因学等领域的相关研究。这个教程将会覆盖到深度学习基础，并讨论深度学习的不同应用和目前遇到的挑战。  5. 使用神经网络的深度学习及 TensorFlow 介绍  如果你一直在想知道神经网络是如何工作的，为什么最近它有这么多的关注。本教程将介绍神经网络，你将了解神经网络如何能够创建具有巨大数据集的强大模型。并理解神经网络的结构以及每个输入层如何组合在一起以生成输出。这只是完整教程中的第一个视频，第二部分是 TensorFlow 基础。如果需要了解怎样建立神经网络模型，请继续学习第三部分。  6. 机器学习神经网络 研究人工神经网络的主要思想是理解神经元的并行计算方式及其自适应连接。本课程将由多伦多大学教授 Geoffrey Hinton 讲授，你将学习到神经网络和机器学习将如何带来技术革命。本课程包括感知器、反向传播、卷积神经网络、循环神经网络、梯度下降和超参数贝叶斯优化等主题。这是深度学习最好的课程之一，如果你是深度学习爱好者，那就一定不能错过它。  7.TensorFlow 入门  现如今最流行的机器学习框架之一就是 TensorFlow，虽然它主要用于进行机器学习和深度神经网络研究，但由于其多功能性，TensorFlow 也可用于各种应用。在这个有趣的 TensorFlow 教程中，您将学习在 Python 中用不到 40 行代码进行构建手写数字图像的分类器。您还将学习如何在 TensorFlow 中生成音乐，什么是 Tensorboard，怎样构建一个神经网络还有使用 TensorFlow 相比其他深度学习库的利弊。这个关于 TensorFlow 的简短教程是深度学习新手必须要了解的。  8. 神经网络  人工神经网络能够学习，而且它们需要训练。基本上需要 3 步来构建机器学习模型，即构建、训练、测试。一旦模型构建起来，它就可以在模式识别上训练得越来越好。在这些短短 5 分钟视频里，你将学习建立神经网络、自动编码器和循环神经网络，每段视频的代码也可在 YouTube 上的描述中找到。  9. 改变所有事物的神经网络  卷积神经网络是深度神经网络和核卷积（kernel convolution）的结合。这个视频解释了卷积神经网络是如何为精确图像分类带来巨大改变的。如果你是深度学习爱好者，但对神经网络了解甚少，不妨看看这个视频。它向你展示了深度学习是如何用来估计房价的。  10.TensorFlow 广度&深度学习——机器学习 广度和深度学习（wide and deep learning）结合了用于训练广度线性模型和深度神经网络的记忆（memorization）和归纳（generalization）。在这个视频中，你可以了解到在 TensorFlow 当中对这种简单易用的 API 的应用。它们在大规模的回归分析和分类中所涉及到的稀疏输入问题当中非常实用，例如推荐系统、搜索和排名问题。通过这个 视频来探索广度和深度学习的可能性吧。  11. 深度学习简介  这个视频对深度学习进行了数学解释。它将带你了解机器是如何找到不同变量的分组并做出具体决策的。如果你是一个数学爱好者，你将会学到如何调整模型参数。视频简单地解释了神经网络对不同输入内容的反应。  12. 深度学习揭秘  这是一个深度学习的初级教程。其中，你将了解深度学习是如何帮助机器识别特征的。同时，视频用简单的语言解释了神经网络。首先，视频介绍了神经元的工作方式，随后进一步解释神经元之间的交流方式。随后是深度学习在现实世界中的应用。   1.2016 年蒙特利尔深度学习暑期班  蒙特利尔深度学习暑期班出现了很多来自不同年龄段的专家与从业人员。该教程是要教人们对深度学习与神经网络有基础的理解。里面有 Yoshua Bengio 教授循环神经网络，Surya Ganguli 教授理论神经科学与深度学习理论，Sumit Chopra 教授 reasoning summit 和 attention，Jeff Dean 讲解 TensorFlow 大规模机器学习，Ruslan Salakhutdinov 讲解学习深度生成式模型，Ryan Olson 讲解深度学习的 GPU 编程，还有其他很多的讲演。想要了解更多内容可参考机器之心之前发表的文章：重磅 | Yoshua Bengio 深度学习暑期班学习总结，35 个授课视频全部开放（附观看地址）。  2. 深度学习教程——高级  在过去几年中，图像分类、分割、物体检测的技术因深度学习有了极大的进展。该教程会带你了解深度学习的进展，主要集中于使用 Theano 和 Lasagne 的计算机视觉与图像处理。此外，演讲者也讨论了一些重要的技巧，比如用更少的训练数据进行审核等。为了理解视频中的概念，需要一定的代数、微积分与机器学习基础。  3. 深度学习实践-语音识别与其他  吴恩达的地位无需再多做介绍了，大家都知道他对深度学习的贡献。他是世界上首先认识到深度学习潜力的几个人之一。在这个与吴恩达的一对一对话中，他分享了在深度学习上研究的经验、深度学习所到来的科技进展。他提到大数据的进展正在颠覆如今的产业。观看此视频可以了解更多关于深度学习与数据科学的未来。  1. 详解谷歌 DeepMind  AlphaGo 击败围棋前世界冠军李世乭是一个历史时刻。每当机器超越人类的时候，就会引发一轮新的社会进步。谷歌 DeepMind 宣称自己将下一代人工智能和目标带到研发这样的系统活动中：聪明到可以自主采取行动。这个视频解释了 DeepMind 的起源，以及它能为人工智能领域带来的什么样的变革。  2. 自动驾驶汽车和深度学习 GPU-英伟达  英伟达 CEO 黄仁勋分享了深度学习与研究如何改变自动驾驶汽车的面貌，如何让其成真的故事。他开局引介了世界上第一个由英伟达设计的、用于自动驾驶汽车的人工智能超级计算机。还解释了深度神经网络和大数据如何被用于解决 GPU 的问题。深度学习和人工智能如何变不可能为可能？这个视频会让你脑洞大开。  3. 九个超酷的深度学习应用  想知道深度学习和机器学习在现实生活中有哪些有趣应用？这个视频会给你答案。你会看到一些让你脑洞大开的应用，比如，不同化学结构的毒性检测，大型图像有丝分裂检测，序列生成，计算机程序自己怎么玩游戏等等。  4. 深度学习程序学绘画  人工智能神经网络受到了人类大脑的启发，旨在研究神经元之间的连接。在这个视频中，我们会看到几个深度学习应用。但是，神经网络的艺术创作是深度学习最神奇的应用形式。在这个视频里，你将学到如何使用深度学习绘画，或使用人工神经网络对世界名画进行再创作。用户要做的就是输入一张照片，再提供一张目标图片供系统学习（其艺术风格）。  1. 简介强化学习函数逼近-教程  强化学习是由机器学习研究社区开发出的用来做最佳序列决策的技术。该教程提供了对底层形式问题（马尔科夫决策过程）及其核心解决方法的透彻理解，后者包括动态编程、蒙特卡洛方法和时序差分学习。该视频注重这些方法如何与参数逼近（parametric approximation）结合从而找到因过大而难以解决问题的好的逼近解决方案。演讲者也会带你了解函数逼近、eligibility traces 和 off-policy 学习的最新进展。  2. 深度强化地形学习  本视频描述了深度学习与强化学习的结合，这种结合被认为有助于解决许多极端困难的任务。谷歌 DeepMind 使用深度学习建立了一个能够玩 Atari 游戏的系统，其表现超过了人类。视频展示了一个有趣的应用就是使用深度强化学习教会处在某些地带中的动物绘制周围环境，避免障碍。  结语 这就是 2016 年的人工智能视频盘点，我们收集了一系列关于深度学习与强化学习的视频。根据年份、浏览量与关联度挑选出最后名单。目前在网络上有着丰富的内容资源，而我们提供的是其中最引人关注的一部分。相信这个列表中肯定会有适合你的内容。  本文来源于微信公众号：机器之心（almosthuman2014），如需转载，请私信联系。