卷积神经网络CNN手写数字识别案例源码深度解析

TensorFlow深度学习及神经网络算法精品系列课：

一、课程优势

本课程有陈敬雷老师的清华大学出版社配套书籍教材《分布式机器学习实战》人工智能科学与技术丛书，

新书配合此实战课程结合学习，一静一动，互补高效学习！

本课程由互联网一线知名大牛陈敬雷老师全程亲自授课，技术前沿热门，这个《深度学习及神经网络算法精品系列课》来自陈敬雷在一线大型互联网公司的多年实战经验总结，实实在在的重量级干货分享！

二、课程简介

       TensorFlow作为最流行的深度学习框架，表达了高层次的机器学习计算,大幅简化了第一代系统,并且具备更好的灵活性和可延展性，他同时支持CPU和GPU，支持单机和分布式训练。
 
      TensorFlow 是一个采用数据流图（data flow graphs），用于数值计算的开源软件库。节点（Nodes）在图中表示数学操作，图中的线（edges）则表示在节点间相互联系的多维数据数组，即张量（tensor）。它灵活的架构让你可以在多种平台上展开计算，例如台式计算机中的一个或多个CPU（或GPU），服务器，移动设备等等。TensorFlow 最初由Google大脑小组（隶属于Google机器智能研究机构）的研究员和工程师们开发出来，用于机器学习和深度神经网络方面的研究，但这个系统的通用性使其也可广泛用于其他计算领域。

     我们这个系列课我们就详解介绍下TensorFlow的原理，解开最流行深度学习框架TensorFlow神秘的面纱！！！并对主流的热门神经网络算法逐个详解讲解。

       神经网络，尤其是深度神经网络（Deep Neural Networks,DNN）在过去的数年已经在图像分类、语音识别、自然语言处理中取得了突破性的进展。在实践中的应用已经证明了它可以作为对于一种十分有效的技术手段应用在大数据相关领域中。深度神经网络通过众多的简单线性变换层次性的进行非线性变换对于数据中的复杂关系能够很好的进行拟合，即对数据特征进行的深层次的挖掘。因此作为一种技术手段，深度神经网络对于任何领域都是适用的。神经网络的算法也有好多种，从最早的MLP多层感知机算法，到之后的CNN卷积神经网络、RNN循环神经网络、LSTM长短期记忆神经网络，以及在此基础神经网络算法之上衍生的混合神经网络Seq2Seq端到端神经网络、GAN生成对抗网络、深度强化学习DQN等，可以做很多有趣的应用。

1.深度学习TensorFlow之MLP多层感知机算法
      作为最典型的神经网络，多层感知机（MLP）结构简单且规则，并且在隐层设计的足够完善时，可以拟合任意连续函数，利用TensorFlow来实现MLP更加形象，使得使用者对要搭建的神经网络的结构有一个更加清醒的认识。 本节课我们拿TensorFlow来实现MLP，解决图片分类的应用场景。

2.深度学习TensorFlow之CNN卷积神经网络算法

       卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一 。CNN在计算机视觉方面应用比较普遍，比如图像分类、目前流行的人脸识别等。 这节课我们就对CNN的原理进行详细的讲解，然后看看源码如何实现的。

3. 深度学习TensorFlow之RNN循环神经网络算法
       循环神经网络（Recurrent Neural Network, RNN）是一类以序列（sequence）数据为输入， 在序列的演进方向进行递归（recursion）且所有节点（循环单元）按链式连接的递归神经网络（recursive neural network）。 循环神经网络主要用于自然语言处理（nature language processing，NLP）。可以用来处理和预测序列数据，广泛的用于语音识别、语言模型、机器翻译、文本生成(生成序列)、看图说话、文本(情感)分析、智能客服、对话机器人、搜索引擎、个性化推荐。 这节课我们就对RNN的原理进行详细的讲解，然后针对自然语言处理语言模型的例子看看源码如何实现的。

4.TensorFlow深度学习之LSTM长短期记忆神经网络
 长短期记忆网络（LSTM，Long Short-Term Memory）是一种时间循环神经网络， 是为了解决一般的RNN（循环神经网络）存在的长期依赖问题而专门设计出来的， 其中循环神经网络被成功应用的关键就是LSTM。在很多的任务上， 采用LSTM结构的循环神经网络比标准的循环神经网络的表现更好。 这节课我们就对LSTM的原理进行详细的讲解，然后对实现的源码进行解析。
5.TensorFlow   深度学习之Seq2Seq端到端神经网络算法
 Seq2Seq端到端的神经网络技术，全称Sequence to Sequence，该技术突破了传统的固定大小输入问题框架，开通了将经典深度神经网络模型（DNNs）运用于翻译与智能问答这一类序列型（Sequence Based，项目间有固定的先后关系）任务的先河，并被证实在机器翻译、对话机器人、语音辨识的应用中有着不俗的表现。这节课我们就对目前非常流行的Seq2Seq深度学习算法的原理进行详细的讲解，然后   对实现的源码进行深度解析   ！为我们下一步做智能对话机器人项目打下坚实的理论和源码实现基础！
6. TensorFlow深度学习   之GAN生成对抗神经网络
 生成式对抗网络（GAN, Generative Adversarial Networks）是一种深度学习模型，模型通过框架中（至少）两个模块：生成模型（Generative Model）和判别模型（Discriminative Model）的互相博弈学习产生相当好的输出。
     GAN可以做很多有趣的应用场景：
1）图像风格化-风格迁移 也就是图像到图像的翻译，是指将一种类型的图像转换为另一种类型的图像，比如：将草图具象化、根据图生成地图等。 还有比如把彩色照片自动生成黑白的，或者把黑白的生成彩色的； 艺术风格化； 人脸合成；
2）文本生成图片 根据一段文字描述自动生成对应含义的图片。
3）看图说话 也就是图像生成描述，根据图片生成文本。
4）图像超分辨率 图像超分辨率技术分为超分辨率复原和超分辨率重建。
5）图像复原 比如自动的把图片上面马赛克去掉，还原原来的真实图像。
6）对话生成 根据一段文本生成另外一段文本。
 这节课我们就对GAN的原理进行详细的讲解，然后对实现的源码进行解析。

7. TensorFlow深度学习之深度强化学习DQN
       深度强化学习将深度学习的感知能力和强化学习的决策能力相结合，可以直接根据输入的图像进行控制，是一种更接近人类思维方式的人工智能方法。目前来讲，机器学习领域可以分为有监督学习，无监督学习，强化学习，迁移学习四个方向。那么强化学习就是能够使得我们训练的模型完全通过自学来掌握一门本领，能在一个特定场景下做出最优决策的一种算法模型。 这节课我们就对深度强化学习DQN的原理进行详细的讲解，然后看看源码如何实现的。


三、老师介绍

陈敬雷  充电了么创始人，CEO兼CTO

陈敬雷，北京充电了么科技有限公司创始人，CEO兼CTO，十几年互联网从业经验，曾就职于用友、中软、凡客、乐蜂网(唯品会)、猎聘网、人民日报(灵思云途)、北京万朝科技，曾任架构师、首席技术官、首席科学家等职务，对业务领域B端、C端、电商、职场社交招聘、内容文娱、营销行业都有着丰富的经验，在技术领域，尤其在大数据和人工智能方向有丰富的算法工程落地实战经验，其中在猎聘网任职期间主导的推荐算法系统项目获得公司优秀项目奖，推荐效果得到5倍的提升。

陈敬雷著有清华大学出版社两本人工智能书籍，分别是《分布式机器学习实战（人工智能科学与技术丛书）》、《自然语言处理原理与实战（人工智能科学与技术丛书）》。

目前专注于大数据和人工智能驱动的上班族在线教育行业，研发了充电了么app和网站，用深度学习算法、nlp、推荐引擎等技术来高效提升在线学习效率。

四、《分布式机器学习实战》新书介绍：
陈敬雷老师的京东自营书名标题： 分布式机器学习实战（人工智能科学与技术丛书）

  

****************好评如潮**************
本书作者陈敬雷曾在多家一线大型互联网公司任职，也有过技术创业的背景，经历过从0到1，从1从100的技术发展历程，尤其在AI、大数据、机器学习、深度学习等方面有很强的理论基础和实战经验。《分布式机器学习实战》包含了目前主流互联网公司所采用的大数据、AI方面的系统架构、中间件、工具、机器学习/深度学习算法等，内容由浅入深，全面详实，强烈推荐给读者！
                                                                                                                        ——陈兴茂 (猎聘CTO)

我读了这本书，有三点深切的体会，一、系统全面：本书把分布式机器学习的关键环节进行了系统化梳理，介绍了主流的技术和工具平台，同时对大数据技术也做了详细讲解，对内容的梳理全面丰富，是入门、参考、提高的有益工具书！二、深入浅出：通过大量的系统化讲课，配合丰富的素材、案例和实际操作场景介绍，可以说是不但授人以渔也同时授人以鱼！开卷有益！现学现用！活学活用！三、讲解清晰，思路明确：可以看出作者是有深厚的功底，是经过长期实践的经验总结，又融合了大量的最新结果，连同职业路径规划都详细做好，有此一书，是难得佳作！

        ——梅一多 博士（上海市青年拔尖人才获得者，阿里云最有价值技术专家，中基凌云科技有限公司联合创始人兼CTO）

《分布式机器学习实战》这本书非常贴近实战，含盖了目前各类应用场景的算法系统，对每个场景都有理论基础、源代码、算法解度等，深入浅出的讲解对于读者具有很强的实用性，做为大数据及人工智能领域的从业人员是必选的工具类参考书。

       ——杨正洪 博士(中央财经大学财税大数据实验室首席科学家)

此书的作者非常贴近实战，不“高来高去”讲一些宏观的概念，书中的每一个算法，每一个场景都是来自于当前的商业应用，对于读者来讲这是一本难得的实用宝典。

       ——刘冬冬（知名市场战略、生态系统和企业数字化转型专家，首席数据官联盟创始人，曾先后服务过统一集团、联想集团、百度、美国D&B集团、华为技术、海航科技集团等）

陈敬雷写的这本书理论联系实践，深入浅出，覆盖技术面广，并且有工业级的系统案例，包含目前比较热门的推荐算法系统、人脸识别、对话机器人等项目，对常见的大数据算法系统架构也做了详细讲解，是一本机器学习方面的佳作。本书不管是初学者、架构师、还是资深人士，都会开卷有益、有所收获。

                        ——龙旭东（北京掌游智慧科技有限公司董事长，曾任海航科技集团CTO和文思海辉董事，北京大学计算机系学士+硕士）