1.what is it?

• Origins:Algorithms that try to mimic the brain
• Was very widely uesd in 80s and early 90s;popularity diminished in late 90s.
• Recent resurgence:State-of-the-art technique for many applications

2.why have one learning algorithm?

我们可以看，听，触摸，闻东西，这些功能的实现是大脑固定某一部分细胞的功能吗？只有这些细胞能够完成对应的功能吗？联想到我们是从一个受精卵发育出来的，我更倾向于这些功能不是先天某个细胞拥有的，而是后天通过学习这项技能而成为了具有这些功能的细胞。一些神经网络的研究也证明了这一点。

我们把视觉信息传递到听觉皮质中，听觉中枢可以学会“看”。

• 将图像信息接到舌头上，舌头（味觉中枢）可以学会看。
• 回声实现“看”
• 触觉学会看

3.why we need deep learning?

对于分类器问题，当参数非常多的时候，使用线性回归是不现实的,因为会产生非常多的项。

3.1example1

对于图像处理问题，我们是把图片处理成一个矩阵，矩阵中的每个数代表每个像素点的亮度值

如果我们需要分辨一张50*50pixel的照片是不是汽车，那么需要对2500个参数进行辨别，（如果是RGB的话需要7500），如果考虑所有的二次项，采用线性回归我们会有3 million项，这显然是不切实际的。