<div id='write' class = 'is-node'><h1><a name='header-n2' class='md-header-anchor '></a>神经网络与深度学习</h1><p>作者：<a href='http://nlp.fudan.edu.cn/xpqiu'>邱锡鹏</a> 微博：<a href='http://weibo.com/xpqiu'>@邱锡鹏</a></p><h2><a name='header-n4' class='md-header-anchor '></a>关于本书</h2><p>神经网络与深度学习技术目前在学术界和工业界取得了广泛的成功，并逐渐受到了高度重视。本课程主要介绍神经网络与深度学习中的基础知识、主要模型（卷积神经网络、递归神经网络等）以及在计算机视觉、自然语言处理等领域的应用。</p><p>要获取更新提醒，请关注<a href='https://github.com/nndl/nndl.github.io' target='_blank' class='url'>https://github.com/nndl/nndl.github.io</a></p><p>示例代码，见<a href='https://github.com/nndl/nndl-codes' target='_blank' class='url'>https://github.com/nndl/nndl-codes</a></p><p>课程练习，见<a href='https://github.com/nndl/exercise' target='_blank' class='url'>https://github.com/nndl/exercise</a></p><h2><a name='header-n9' class='md-header-anchor '></a>概要</h2><p>《神经网络与深度学习》3小时课程概要 <a href='./ppt/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E4%B8%8E%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0-3%E5%B0%8F%E6%97%B6.pptx'>ppt</a>(72M) <a href='./ppt/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E4%B8%8E%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0-3%E5%B0%8F%E6%97%B6.pdf'>pdf</a> (12M) </p><h2><a name='header-n11' class='md-header-anchor '></a>内容</h2><ol start='' ><li><a href='chap-%E7%BB%AA%E8%AE%BA.pdf'>绪论</a>[<a href='./ppt/chap-%E7%BB%AA%E8%AE%BA.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%A6%82%E8%BF%B0.pdf'>机器学习概述</a> [<a href='./ppt/chap-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%A6%82%E8%BF%B0.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E7%BA%BF%E6%80%A7%E6%A8%A1%E5%9E%8B.pdf'>线性模型</a> [<a href='./ppt/chap-%E7%BA%BF%E6%80%A7%E6%A8%A1%E5%9E%8B.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E5%89%8D%E9%A6%88%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pdf'>前馈神经网络</a> [<a href='./ppt/chap-%E5%89%8D%E9%A6%88%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pdf'>卷积神经网络</a> [<a href='./ppt/chap-%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E5%BE%AA%E7%8E%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pdf'>循环神经网络</a> [<a href='./ppt/chap-%E5%BE%AA%E7%8E%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C.pptx'>ppt</a>] (updated 2019-4-42)</li><li><a href='chap-%E7%BD%91%E7%BB%9C%E4%BC%98%E5%8C%96%E4%B8%8E%E6%AD%A3%E5%88%99%E5%8C%96.pdf'>网络优化与正则化</a> [<a href='./ppt/chap-%E7%BD%91%E7%BB%9C%E4%BC%98%E5%8C%96%E4%B8%8E%E6%AD%A3%E5%88%99%E5%8C%96.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6%E4%B8%8E%E5%A4%96%E9%83%A8%E8%AE%B0%E5%BF%86.pdf'>注意力机制与外部记忆</a> [<a href='./ppt/chap-%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6%E4%B8%8E%E5%A4%96%E9%83%A8%E8%AE%B0%E5%BF%86.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%97%A0%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0.pdf'>无监督学习</a> [<a href='./ppt/chap-%E6%97%A0%E7%9B%91%E7%9D%A3%E5%AD%A6%E4%B9%A0.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%A8%A1%E5%9E%8B%E7%8B%AC%E7%AB%8B%E7%9A%84%E5%AD%A6%E4%B9%A0%E6%96%B9%E5%BC%8F.pdf'>模型独立的学习方式</a> (updated 2019-4-4)</li><li><a href='chap-%E6%A6%82%E7%8E%87%E5%9B%BE%E6%A8%A1%E5%9E%8B.pdf'>概率图模型</a> [<a href='./ppt/chap-%E6%A6%82%E7%8E%87%E5%9B%BE%E6%A8%A1%E5%9E%8B.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%B7%B1%E5%BA%A6%E4%BF%A1%E5%BF%B5%E7%BD%91%E7%BB%9C.pdf'>深度信念网络</a> [<a href='./ppt/chap-%E6%B7%B1%E5%BA%A6%E4%BF%A1%E5%BF%B5%E7%BD%91%E7%BB%9C.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%B7%B1%E5%BA%A6%E7%94%9F%E6%88%90%E6%A8%A1%E5%9E%8B.pdf'>深度生成模型</a>[<a href='./ppt/chap-%E6%B7%B1%E5%BA%A6%E7%94%9F%E6%88%90%E6%A8%A1%E5%9E%8B.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E6%B7%B1%E5%BA%A6%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0.pdf'>深度强化学习</a> [<a href='./ppt/chap-%E6%B7%B1%E5%BA%A6%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0.pptx'>ppt</a>] (updated 2019-4-4)</li><li><a href='chap-%E5%BA%8F%E5%88%97%E7%94%9F%E6%88%90%E6%A8%A1%E5%9E%8B.pdf'>序列生成模型</a> (updated 2019-4-4) 一个过时版本：<a href='chap-%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B8%8E%E8%AF%8D%E5%B5%8C%E5%85%A5.pdf'>词嵌入与语言模型</a></li><li><a href='chap-%E6%95%B0%E5%AD%A6%E5%9F%BA%E7%A1%80.pdf'>数学基础</a> (updated 2019-4-4)</li></ol><h2><a name='header-n46' class='md-header-anchor '></a>反馈意见</h2><p>如果您有任何意见、评论以及建议，请通过GitHub的<a href='https://github.com/nndl/nndl.github.io/issues'>Issues</a>页面进行反馈。你的名字将会出现的本书的致谢列表。</p><p>致谢列表：感谢张钧瑞、李浩、胡可鑫、韦鹏辉、徐国海等同学指出书中的错误。</p><p>反馈意见包括但不限于：（因为分开排版关系，页码错误请忽略。）</p><ul><li>打字错误</li><li>描述错误: 比如“感知器是非线性分类器”</li><li>评论</li><li>建议</li></ul><p>非常感谢！</p><p>请在<a href='http://weibo.com/xpqiu/home?wvr=5'>微博</a>关注关于本书的最新信息。</p><p>&nbsp;</p><h2><a name='header-n62' class='md-header-anchor '></a>推荐课程</h2><h4><a name='header-n63' class='md-header-anchor '></a>Stat212b：Topics Course on Deep Learning</h4><p><a href='http://joanbruna.github.io/stat212b/'>http://joanbruna.github.io/stat212b/</a></p><p>加州大学伯克利分校统计系Joan Bruna（Yann LeCun博士后）

以统计的角度讲解DL。</p><h4><a name='header-n66' class='md-header-anchor '></a>CS224d: Deep Learning for Natural Language Processing</h4><p><a href='http://cs224d.stanford.edu/'>http://cs224d.stanford.edu/</a></p><p>斯坦福大学 Richard Socher

主要讲解自然语言处理领域的各种深度学习模型</p><h4><a name='header-n69' class='md-header-anchor '></a>CS231n:Convolutional Neural Networks for Visual Recognition</h4><p><a href='http://cs231n.stanford.edu/'>http://cs231n.stanford.edu/</a></p><p>斯坦福大学 Fei-Fei Li Andrej Karpathy

主要讲解CNN、RNN在图像领域的应用</p><p>&nbsp;</p><h2><a name='header-n73' class='md-header-anchor '></a>致谢</h2><p>本页面由<a href='http://www.typora.io/'>Typora</a>编辑。</p><p>&nbsp;</p></div>

1. [绪论](chap-绪论.pdf)[[ppt](./ppt/chap-绪论.pptx)] (updated 2019-4-4)

2. [机器学习概述](chap-机器学习概述.pdf) [[ppt](./ppt/chap-机器学习概述.pptx)] (updated 2019-4-4)

3. [线性模型](chap-线性模型.pdf) [[ppt](./ppt/chap-线性模型.pptx)] (updated 2019-4-4)

4. [前馈神经网络](chap-前馈神经网络.pdf) [[ppt](./ppt/chap-前馈神经网络.pptx)] (updated 2019-4-4)

5. [卷积神经网络](chap-卷积神经网络.pdf) [[ppt](./ppt/chap-卷积神经网络.pptx)] (updated 2019-4-4)

6. [循环神经网络](chap-循环神经网络.pdf) [[ppt](./ppt/chap-循环神经网络.pptx)] (updated 2019-4-42)

7. [网络优化与正则化](chap-网络优化与正则化.pdf) [[ppt](./ppt/chap-网络优化与正则化.pptx)] (updated 2019-4-4)

8. [注意力机制与外部记忆](chap-注意力机制与外部记忆.pdf) [[ppt](./ppt/chap-注意力机制与外部记忆.pptx)] (updated 2019-4-4)

9. [无监督学习](chap-无监督学习.pdf) [[ppt](./ppt/chap-无监督学习.pptx)] (updated 2019-4-4)

10. [模型独立的学习方式](chap-模型独立的学习方式.pdf) (updated 2019-4-4)

11. [概率图模型](chap-概率图模型.pdf) [[ppt](./ppt/chap-概率图模型.pptx)] (updated 2019-4-4)

12. [深度信念网络](chap-深度信念网络.pdf) [[ppt](./ppt/chap-深度信念网络.pptx)] (updated 2019-4-4)

13. [深度生成模型](chap-深度生成模型.pdf)[[ppt](./ppt/chap-深度生成模型.pptx)] (updated 2019-4-4)

14. [深度强化学习](chap-深度强化学习.pdf) [[ppt](./ppt/chap-深度强化学习.pptx)] (updated 2019-4-4)

15. [序列生成模型](chap-序列生成模型.pdf) (updated 2019-4-4) 一个过时版本：[词嵌入与语言模型](chap-语言模型与词嵌入.pdf)

16. [数学基础](chap-数学基础.pdf) (updated 2019-4-4)