原标题：深度学习入门笔记（一）：深度学习引言

原文来自：CSDN      原文链接：https://blog.csdn.net/TeFuirnever/article/details/100669859

专栏——深度学习入门笔记

声明

1）该文章整理自网上的大牛和机器学习专家无私奉献的资料，具体引用的资料请看参考文献。
2）本文仅供学术交流，非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益，还望海涵，并联系博主删除。
3）博主才疏学浅，文中如有不当之处，请各位指出，共同进步，谢谢。
4）此属于第一版本，若有错误，还需继续修正与增删。还望大家多多指点。大家都共享一点点，一起为祖国科研的推进添砖加瓦。

深度学习入门笔记（一）：深度学习引言

1、简介

其实大部分人都是这样的，即便是我们这些技术宅，第一次听到深度学习的时候也是一脸懵逼，觉得很高大上，然而并不知道它到底是干啥的。关于什么是深度学习，深度学习能做些什么事情？在 deeplearning.ai 的神经网络和深度学习课程中做过介绍。

以下是吴恩达老师的原话：

深度学习改变了传统互联网业务，例如如网络搜索和广告，但是深度学习同时也使得许多新产品和企业以很多方式帮助人们，从获得更好的健康关注。
深度学习做的非常好的一个方面就是读取X光图像，除此之外还有生活中的个性化教育，到精准化农业，甚至到驾驶汽车以及其它一些方面。
在接下来的十年中，我认为我们所有人都有机会创造一个惊人的世界和社会，这就是 AI （人工智能）的力量。我希望你们能在创建 AI （人工智能）社会的过程中发挥重要作用。
我认为AI是最新的电力，大约在一百年前，我们社会的电气化改变了每个主要行业，从交通运输行业到制造业、医疗保健、通讯等方面，我认为如今我们见到了 AI 明显的令人惊讶的能量，带来了同样巨大的转变。显然，AI 的各个分支中，发展的最为迅速的就是深度学习。因此现在，深度学习是在科技世界中广受欢迎的一种技巧。

其实只要你一搜深度学习就是各种铺天盖地的新闻和资料，

关于深度学习的用途，现在最熟知的莫过于，用一个深度神经网络进行猫咪辨认，如下图，可以看到两只小猫咪，那么以电脑为首的机器，能不能识别出有几只猫咪，什么品种的猫咪（我太喜欢小猫小狗了 ）。

2、神经网络

大概了解了深度学习之后，下一个就应该是神经网络了。

我们常常用深度学习这个术语来指训练神经网络的过程。有时它指的是特别大规模的神经网络训练。那么神经网络究竟是什么呢？

让我们从一个房价预测的例子开始讲起。假设你有一个数据集，它包含了六栋房子的信息。所以也就是说，你知道房屋的具体信息，比如面积是多少平方英尺或者平方米，并且知道房屋价格，目标函数是预测房价。

这时，就需要拟合一个根据房屋面积预测房价的函数。如果对线性回归很熟悉，你应该很容易就用这些数据拟合一条直线。

但奇怪的是，你可能也发现了，价格永远不会是负数，也就是等于或者大于0。因此，直线需要弯曲一点并最终在零结束。这条蓝色的手划线就是最终的函数，用于根据房屋面积预测价格。虽然这条直线拟合的不错，但是因为价格永不负数的缘故，你也许会认为这个函数只拟合房屋价格，没啥普适性，偶然性反而更大一些。

把房屋的面积（size）作为神经网络的输入，用x$x$

x轴的这个位置，也就是需要大量数据。所以事实上如今最可靠的方法来在神经网络上获得更好的性能，往往就是要么训练一个更大的神经网络，要么投入更多的数据，这只能在一定程度上起作用，因为最终你耗尽了数据，或者最终你的网络是如此大规模导致将要用太久的时间去训练，但是仅仅提升规模的的确确地让我们在深度学习的世界中摸索了很多时间。

然而真的只有这两个因素嘛？只有数据和算法？

答案当然是No，还有一个重要的原因就是不断增长的计算力（CPU和GPU的发展）。 过去的几年里有很多巨大的算法创新，其中很多算法创新都只是为了让神经网络运行得更快（相当于提升计算力）。例如，一个巨大的突破就是用relu函数代替了sigmoid函数。这些新算法大大缩短了神经网络的训练周期，让我们可以训练更大的神经网络、利用上更多的训练数据。

除此之外，强大计算力的另一个很重要的原因是，它可以让你更快的验证自己的想法，以便不断试错，以得到更好的想法。例如，你有一个神经网络架构的想法，你用代码实现了你的想法，然后运行它，进行训练，然后通过观察它，分析运行结果，然后你再修改自己的想法细节，然后再运行再观察再修改…。就这样不停地来回试错，所以执行这个试错的周期就很关键了。这也是为什么很多传统方向的人会有一些鄙视我们方向，因为他们把深度学习理解为调参…好气啊我。

综合以上，深度学习火起来的三大要素就是，数据，计算力，算法。而算法在不断地被创新，训练数据不断地在被收集，计算力CPU、GPU也在不断地增强，所以你我要充满信心，深度学习会越来越强大，越来越厉害，做更多的事！！！

免责声明：本文来自互联网新闻客户端自媒体，不代表本网的观点和立场。

合作及投稿邮箱：E-mail:editor@tusaishared.com