Geoffrey Hinton:从神经网络黑暗时代坚守到今天的胜利

推荐会员: tutu 所属分类: 行业精选 发布时间: 2017-04-14 15:50
深度学习泰斗 Geoffrey Hinton 的名字在当今的人工智能研究界可谓是如雷贯耳,他曾发明了玻尔兹曼机(Boltzmann machine),也首先将反向传播(Backpropagation)应用于多层神经网络;不仅如此,他还有 Yann LeCun 和 Ilya Sutskever 等大牛级的学生。近日,Fred Lum 在 THE GLOBE AND MAIL 网站上发布了一篇介绍 Hinton 生平的文章,UC Santa Barbara 计算机科学系助理教授、CMU 博士王威廉在新浪微博上对此文总结说:「G 的高曾祖父是发明布尔代数的布尔,G 在剑桥先学了 1 个月物理就转了建筑,但只持续了一天。后重回物理,但觉得其中数学太难,转学习哲学。学习一年后,G 对哲学充满了抗体,只好修心理学。后确认心理学家对人类意识也是毫无头绪,这才转到爱丁堡学习 AI。」以下是机器之心对原文的编译介绍。

多伦多大学教授 Geoffrey Hinton 参与谷歌大脑团队的工作,开发人工智能前沿技术
对于多伦多大学计算机科学教授 Geoffrey Hinton 来说,现在应该是一个欢庆的时刻。
出生于英国,现今 69 岁的他是人工智能领域众所周知的「神经网络教父」,神经网络是一种模仿人脑构建的计算机系统,并可自我学习。正如一些专家说的,如同 20 世纪的电力一样,神经网络将——事实上已经——彻底变革人类生活方式。
数年来,Hinton 教授的工作不仅相对来说令人费解,而且在一场长达 10 年的计算机科学学术之争中处于失利的一方。Hinton 教授说,他的神经网被获得了更多资助的人工智能传统论(需要人工编程)者认为是「没有头脑的废话(weak-minded nonsense)」,学术期刊过去常常拒收有关神经网络的论文。
但是在过去的 5 年左右的时间里,Hinton 的学生取得了一系列的惊人突破,神经网络变得十分流行,Hinton 也被尊称为计算新时代的宗师(guru of a new era of computing)。神经网络已经在手机中为绝大多数语音识别软件提供支持,其还能识别不同种类的狗的图片,精确度几乎可以和人类媲美。
而且世界上最大的科技公司也正往神经网络研究中砸钱,雇佣了许多 Hinton 教授之前的学生,他们在苹果、Twitter、谷歌和 Facebook 等公司进行着人工智能方面的研究。他说人工智能的研究潜力覆盖了从无人驾驶汽车到智能手机的范围,并能比任何皮肤科医生都更好地诊断皮肤癌。人们预计这新一波的技术浪潮将席卷工业界并为发展且调控它的人们带来巨大财富。
Hinton 教授将他的时间分配在多伦多大学和谷歌位于多伦多的办公室里。在谷歌,他是一名工程学者(engineering fellow)并将协助领导一个新的人工智能实验室。他刚刚被任命为新成立的 Vector Institute 的首席科学顾问,那里将开展人工智能研究并致力于将多伦多建设成一个全球人工智能的中心。
除了所有最近这些成绩,Hinton 教授似乎还在进行一项保卫行动。在他位于谷歌的狭窄简朴的办公室内进行的一次访谈中——办公室内没有椅子,他的身后是一面与墙一般大小的白板,上面写满了公式——他不愿在闲言碎语上浪费时间,但热衷于极为详尽地描述仍存在于神经网络的拥护者与那些更传统的人工智能形式的支持者之间的争论。
他说,尽管谷歌给予了 100 万美元的资助,他自己的大学却迟迟没有聘用一位新的神经网络方面的教授。现在,由于研究经费可以自由流动,很多人都在追逐神经网络的潮流。
Hinton 教授说:「现在神经网络有效了,所以业界和政府就开始把神经网络称作人工智能。原来的人工智能领域那些一辈子都在嘲笑神经网络的人则说他们从来没有那样说过,现在也乐意把神经网络叫做人工智能,而且也在尝试从中赚钱。」
(很快就能明显地发现 Hinton 教授喜欢动鼻子。在这次采访中,他对美国总统 Donald Trump 进行了一些负面的评论,然后又通过一个简单的微笑向旁边的谷歌公关表示了歉意。)
传统的人工智能概念依赖于逻辑和规则来给计算机编程。在 20 世纪 60 年代,那时候人工智能的研究还更多处于理论阶段,不能实用。使用神经网络的思路被「摧毁(destroyed)」和抹黑,Hinton 教授说,传统的模型得到了人们无疑的信赖。
但随着过去几年计算机算力的极大增长,神经网络的突破出现了,情况也随即发生了变化。2009 年,Hinton 教授的 2 位研究生使用一个神经网络赢下了一个语音识别比赛,击败了之前最好的成熟方法,该神经网络后来升级并被整合到了谷歌的安卓手机中。2012 年,他的另外两个学生又轻松赢下了一场图像识别比赛。其使用的技术涉及到使用一个包含 100 万张图像的数据库所训练的一个系统,该系统在识别和描述一张图像上的错误率仅有 5%——接近了人类的水平。
为了解释神经网络的工作方式,Hinton 教授举了一个翻译程序的例子。他解释说,使用神经网络作为翻译器涉及到将巨量词汇和句子片段送入一个计算机网络。该系统会找出句子的含义,并将其送入另一个神经网络,然后再以另一种语言输出该句子,而无需使用编程或语言学规则。它甚至能自己学会主动语态和被动语态。
「没有告诉它什么是主动语态和被动语态。就像你的小孩一样,你不会说:『瞧,Johnny,这是主动语态,这是被动语态……』你不会这么说,但他们在一段时间后就学会了。」Hinton 教授说,「对于这些神经网络来说,关键就是它们确实学会了。」
在游历了美国多所大学后,他于 1987 年来到多伦多大学,并将做出这个决定归为两个因素。一个源于加拿大高等研究院资助了他的人工智能研究。另一个则更带有政治色彩:「我不想从美国军方获得资金。在美国,大多数人工智能研究资金都来源于军方。」
Hinton 教授出生于英国的温布尔登,并在布里斯托尔长大,他的母亲是一个数学老师,父亲是一个专注甲壳虫研究的昆虫学家。他的高曾祖父是 19 世纪的逻辑学家 George Boole——现代计算科学的基础布尔代数的发明人。Hinton 教授上的是他称之为的「二流私立学校(second-tier private school)」(在英国被称为公立学校):「在学校中我并不很擅长数学。我喜欢物理学,还有足球。」
后来他去剑桥大学学习物理学和化学,但只持续了 1 个月,就退学并转学建筑,在只学了 1 天的建筑之后,又重回到物理学和心理学,但是发现物理学中的数学太难了,因此转学哲学,花 1 年修完了 2 年的课程。
Hinton 教授说:「这一年大有裨益,因为我对哲学产生了强烈的抗体(antibodies),我想要理解人类意识的工作原理。」
为此,他转向了心理学,仅仅为了确定「心理学家对人类意识也不明所以」。在 1973 年前往爱丁堡大学研究生院学习人工智能之前,他做了 1 年的木匠。他在爱丁堡大学的导师是 Christopher Longuet-Higgins,其学生包括多伦多大学化学家、诺贝尔奖得主 John Polanyi 和理论物理学家 Peter Higgs。
即使当时 Hinton 已经确信不被看好的神经网络才是正确之路,但是他的导师却在那时不久改为支持人工智能传统论点。
Hinton 教授说:「我的研究生生涯充满了暴风骤雨,每周我和导师都会有一次争吵(shouting match);我一直在做着交易,我会说,好吧,让我再做 6 个月时间的神经网络,我会证明其有效性的;当 6 个月结束了,我又说,我几乎要成功了,再给我 6 个月;自此之后我一直说,再给我 5 年时间,而且其他人也一直说,你做这个都 5 年了,它永远不会有效的。但终于,神经网络奏效了。」
他否认自己曾怀疑过神经网络未来某天会证明自己的优越性:「我从没怀疑过,因为大脑必然是以某种方式工作的。而大脑绝对不是以某种规则编程的方式工作的。」
当被问到「机器人会接管世界吗?」这样的烂大街的问题时,他认同应该限制人工智能。他最近还签署了一份请愿书《阻止杀人机器人运动(Campaign to Stop Killer Robots)》,请求联合国禁止人工智能致命武器。他说:「我认为这是最可怕的地方,而且那不是遥远的未来……就是现在。」
他预测说,人工智能也有更好的未来,比如医生使用神经网络来诊断疾病或皮肤癌。它们也可以被用于个人助理,不仅可以提醒你午餐约会,而且还能使用「常识(common sense)」来观察你的行为,在你忘记了午餐约会的时候能根据情况决定是否打断你正在进行的活动。
大银行、有线电视公司和其它许多公司都在尝试使用人工智能来分析销售数据等东西,以便更好地与他们的客户进行交互,Steve Irvine 说。他之前在 Facebook 工作,后来离开 Facebook 来到了多伦多,创立了一家名为 Integrate.ai 的公司来帮助其它公司使用人工智能。
「我认为对他太多赞美都不为过。」Irvine 这么评价 Hinton 教授,「因为他经历过人工智能的黑暗时代,那时候他看起来就像是一位疯狂科学家,人们从没想过这真的会成功……现在,这些已经被谈论了 20、30 年的事情终于发生了,我觉得这对他来说是一个很好的奖励……现在这已经掀起了全世界的狂潮,而他就是教父。这绝对不是一夜之间就能取得的成功。」
来源: http://dl.dataguru.cn/article-11060-1.html
原文链接:https://beta.theglobeandmail.com/news/toronto/u-of-t-professor-geoffrey-hinton-hailed-as-guru-of-new-era-of-computing/article34639148/
关键词:

版权声明:本站原创和会员推荐转载文章,仅供学习交流使用,不会用于任何商业用途,转载本站文章请注明来源、原文链接和作者,否则产生的任何版权纠纷与本站无关,如果有文章侵犯到原作者的权益,请您与我们联系删除或者进行授权,联系邮箱:service@datagold.com.cn。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

This site uses Akismet to reduce spam. Learn how your comment data is processed.