Geoffrey Hinton:从神经网络黑暗时代的坚守到今天的胜利

选自The Globe and Mail数据库

做者:Jeff Gary编程

机器之心编译网络

参与:吴攀、黄小天、Ellen Han学习

深度学习泰斗 Geoffrey Hinton 的名字在当今的人工智能研究界可谓是如雷贯耳,他曾发明了玻尔兹曼机(Boltzmann machine),也首先将反向传播(Backpropagation)应用于多层神经网络;不只如此,他还有 Yann LeCun 和 Ilya Sutskever 等大牛级的学生。近日,Fred Lum 在 THE GLOBE AND MAIL 网站上发布了一篇介绍 Hinton 平生的文章,UC Santa Barbara 计算机科学系助理教授、CMU 博士王威廉在新浪微博上对此文总结说:「G 的高曾祖父是发明布尔代数的布尔,G 在剑桥先学了 1 个月物理就转了建筑,但只持续了一天。后重回物理,但以为其中数学太难,转学习哲学。学习一年后,G 对哲学充满了抗体,只好修心理学。后确认心理学家对人类意识也是毫无头绪,这才转到爱丁堡学习 AI。」如下是机器之心对原文的编译介绍。网站

多伦多大学教授 Geoffrey Hinton 参与谷歌大脑团队的工做,开发人工智能前沿技术人工智能

对于多伦多大学计算机科学教授 Geoffrey Hinton 来讲,如今应该是一个欢庆的时刻。spa

出生于英国,现今 69 岁的他是人工智能领域众所周知的「神经网络教父」,神经网络是一种模仿人脑构建的计算机系统,并可自我学习。正如一些专家说的,如同 20 世纪的电力同样,神经网络将——事实上已经——完全变革人类生活方式。计算机网络

数年来,Hinton 教授的工做不只相对来讲使人费解,并且在一场长达 10 年的计算机科学学术之争中处于失利的一方。Hinton 教授说,他的神经网被得到了更多资助的人工智能传统论(须要人工编程)者认为是「没有头脑的废话(weak-minded nonsense)」,学术期刊过去经常拒收有关神经网络的论文。翻译

可是在过去的 5 年左右的时间里,Hinton 的学生取得了一系列的惊人突破,神经网络变得十分流行,Hinton 也被尊称为计算新时代的宗师(guru of a new era of computing)。神经网络已经在手机中为绝大多数语音识别软件提供支持,其还能识别不一样种类的狗的图片,精确度几乎能够和人类媲美。blog

并且世界上最大的科技公司也正往神经网络研究中砸钱,雇佣了许多 Hinton 教授以前的学生,他们在苹果、Twitter、谷歌和 Facebook 等公司进行着人工智能方面的研究。他说人工智能的研究潜力覆盖了从无人驾驶汽车到智能手机的范围,并能比任何皮肤科医生都更好地诊断皮肤癌。人们预计这新一波的技术浪潮将席卷工业界并为发展且调控它的人们带来巨大财富。

Hinton 教授将他的时间分配在多伦多大学和谷歌位于多伦多的办公室里。在谷歌,他是一名工程学者(engineering fellow)并将协助领导一个新的人工智能实验室。他刚刚被任命为新成立的 Vector Institute 的首席科学顾问,那里将开展人工智能研究并致力于将多伦多建设成一个全球人工智能的中心。

除了全部最近这些成绩,Hinton 教授彷佛还在进行一项保卫行动。在他位于谷歌的狭窄简朴的办公室内进行的一次访谈中——办公室内没有椅子,他的身后是一面与墙通常大小的白板,上面写满了公式——他不肯在闲言碎语上浪费时间,但热衷于极为详尽地描述仍存在于神经网络的拥护者与那些更传统的人工智能形式的支持者之间的争论。

他说,尽管谷歌给予了 100 万美圆的资助,他本身的大学却迟迟没有聘用一位新的神经网络方面的教授。如今,因为研究经费能够自由流动,不少人都在追逐神经网络的潮流。

Hinton 教授说:「如今神经网络有效了,因此业界和政府就开始把神经网络称做人工智能。原来的人工智能领域那些一生都在嘲笑神经网络的人则说他们历来没有那样说过,如今也乐意把神经网络叫作人工智能,并且也在尝试从中赚钱。」

(很快就能明显地发现 Hinton 教授喜欢动鼻子。在此次采访中,他对美国总统 Donald Trump 进行了一些负面的评论,而后又经过一个简单的微笑向旁边的谷歌公关表示了歉意。)

传统的人工智能概念依赖于逻辑和规则来给计算机编程。在 20 世纪 60 年代,那时候人工智能的研究还更多处于理论阶段,不能实用。使用神经网络的思路被「摧毁(destroyed)」和抹黑,Hinton 教授说,传统的模型获得了人们无疑的信赖。

但随着过去几年计算机算力的极大增加,神经网络的突破出现了,状况也随即发生了变化。2009 年,Hinton 教授的 2 位研究生使用一个神经网络赢下了一个语音识别比赛,击败了以前最好的成熟方法,该神经网络后来升级并被整合到了谷歌的安卓手机中。2012 年,他的另外两个学生又轻松赢下了一场图像识别比赛。其使用的技术涉及到使用一个包含 100 万张图像的数据库所训练的一个系统,该系统在识别和描述一张图像上的错误率仅有 5%——接近了人类的水平。

为了解释神经网络的工做方式,Hinton 教授举了一个翻译程序的例子。他解释说,使用神经网络做为翻译器涉及到将巨量词汇和句子片断送入一个计算机网络。该系统会找出句子的含义,并将其送入另外一个神经网络,而后再以另外一种语言输出该句子,而无需使用编程或语言学规则。它甚至能本身学会主动语态和被动语态。

「没有告诉它什么是主动语态和被动语态。就像你的小孩同样,你不会说:『瞧,Johnny,这是主动语态,这是被动语态……』你不会这么说,但他们在一段时间后就学会了。」Hinton 教授说,「对于这些神经网络来讲,关键就是它们确实学会了。」

在游历了美国多所大学后,他于 1987 年来到多伦多大学,并将作出这个决定归为两个因素。一个源于加拿大高等研究院资助了他的人工智能研究。另外一个则更带有政治色彩:「我不想从美国军方得到资金。在美国,大多数人工智能研究资金都来源于军方。」

Hinton 教授出生于英国的温布尔登,并在布里斯托尔长大,他的母亲是一个数学老师,父亲是一个专一甲壳虫研究的昆虫学家。他的高曾祖父是 19 世纪的逻辑学家 George Boole——现代计算科学的基础布尔代数的发明人。Hinton 教授上的是他称之为的「二流私立学校(second-tier private school)」(在英国被称为公立学校):「在学校中我并不很擅长数学。我喜欢物理学,还有足球。」

后来他去剑桥大学学习物理学和化学,但只持续了 1 个月,就退学并转学建筑,在只学了 1 天的建筑以后,又重回到物理学和心理学,可是发现物理学中的数学太难了,所以转学哲学,花 1 年修完了 2 年的课程。

Hinton 教授说:「这一年大有裨益,由于我对哲学产生了强烈的抗体(antibodies),我想要理解人类意识的工做原理。」

为此,他转向了心理学,仅仅为了肯定「心理学家对人类意识也不明因此」。在 1973 年前往爱丁堡大学研究生院学习人工智能以前,他作了 1 年的木匠。他在爱丁堡大学的导师是 Christopher Longuet-Higgins,其学生包括多伦多大学化学家、诺贝尔奖得主 John Polanyi 和理论物理学家 Peter Higgs。

即便当时 Hinton 已经确信不被看好的神经网络才是正确之路,可是他的导师却在那时不久改成支持人工智能传统论点。

Hinton 教授说:「个人研究生生涯充满了狂风暴雨,每周我和导师都会有一次争吵(shouting match);我一直在作着交易,我会说,好吧,让我再作 6 个月时间的神经网络,我会证实其有效性的;当 6 个月结束了,我又说,我几乎要成功了,再给我 6 个月;自此以后我一直说,再给我 5 年时间,并且其余人也一直说,你作这个都 5 年了,它永远不会有效的。但终于,神经网络奏效了。」

他否定本身曾怀疑过神经网络将来某天会证实本身的优越性:「我从没怀疑过,由于大脑必然是以某种方式工做的。而大脑绝对不是以某种规则编程的方式工做的。」

当被问到「机器人会接管世界吗?」这样的烂大街的问题时,他认同应该限制人工智能。他最近还签署了一份请愿书《阻止杀人机器人运动(Campaign to Stop Killer Robots)》,请求联合国禁止人工智能致命武器。他说:「我认为这是最可怕的地方,并且那不是遥远的将来……就是如今。」

他预测说,人工智能也有更好的将来,好比医生使用神经网络来诊断疾病或皮肤癌。它们也能够被用于我的助理,不只能够提醒你午饭约会,并且还能使用「常识(common sense)」来观察你的行为,在你忘记了午饭约会的时候能根据状况决定是否打断你正在进行的活动。

大银行、有线电视公司和其它许多公司都在尝试使用人工智能来分析销售数据等东西,以便更好地与他们的客户进行交互,Steve Irvine 说。他以前在 Facebook 工做,后来离开 Facebook 来到了多伦多,创立了一家名为 Integrate.ai 的公司来帮助其它公司使用人工智能。

「我认为对他太多赞美都不为过。」Irvine 这么评价 Hinton 教授,「由于他经历过人工智能的黑暗时代,那时候他看起来就像是一位疯狂科学家,人们从没想过这真的会成功……如今,这些已经被谈论了 20、30 年的事情终于发生了,我以为这对他来讲是一个很好的奖励……如今这已经掀起了全世界的狂潮,而他就是教父。这绝对不是一晚上之间就能取得的成功。」 

原文连接:https://beta.theglobeandmail.com/news/toronto/u-of-t-professor-geoffrey-hinton-hailed-as-guru-of-new-era-of-computing/article34639148/