深度｜诺奖AI之父Hinton：我确实有些孤独，但并不是完全孤立无援

图片来源：Heidelberg Laureate Forum

杰弗里·辛顿（Geoffrey Everest Hinton）出生于1947年，是一位英国裔加拿大计算机科学家、认知科学家、认知心理学家。

Hinton在人工智能领域的贡献极其卓越，被誉为 “神经网络之父”、“人工智能教父”。他的主要贡献包括：反向传播算法的改进与推广、深度学习模型的创新（深度置信网络、卷积神经网络等多个深度学习网络结构）。Hinton还为AI行业培养了包括OpenAI前首席科学家伊尔亚・苏茨克维（Ilya Sutskever）在内的诸多人才。

Hinton目前是多伦多大学教授。从2013年到2023年，他同时供职于谷歌和多伦多大学，直到2023年5月宣布离开谷歌。

Hinton于2018年获得图灵奖，这一奖项被称为“计算机界的诺贝尔奖”，Hinton也被誉为“人工智能之父”。2024年10月8日，2024年诺贝尔物理学奖揭晓，Hinton与美国科学家约翰·霍普菲尔德（John Joseph Hopfield）分享了这一荣誉。

Hinton出生于科学家家庭，他的父亲是英国皇家学会会员，Hinton自幼就接受非常严格的教育，然而Hinton的成长之路并不是一帆风顺。十几岁时他在给母亲搬取暖器的时候腰部受伤，这直接导致他五十多岁之后成了“无法坐下的人”，只能站立或者卧床；在找到自己的学术方向之前，他甚至还在伦敦做过一年木匠；对于他的人工智能之路，他用“我确实感到有些孤独”来形容自己初期的经历。

本期，我们编译了Heidelberg Laureate Forum Foundation对Hinton的采访。这段采访于2020年进行，在这段约1h的访谈中，Hinton分享了他好奇心起源以及学术生涯。这位如今当时无愧的AI之父一路的成长经历，希望对你有启发，Enjoy:)

Z Highlights：

• 对于我而言，硬币向上移动同样充满了神秘和奇妙，就像第一次发现磁性一样，我无法相信所发生的一切。当时的我，对这一现象感到既惊讶又困惑……我想自己解开这个谜团，虽然它看似毫无意义，却始终在我脑海中挥之不去。我的研究生涯也充满类似的小困扰，它们令人费解，却深深扎根在我心里。

• 我从小被教育认为宗教不过是无稽之谈，且至今仍然相信这一点，这是一种肌肉记忆。

• 这正是我后来对心理学的总体感觉，我想知道感情是什么，感觉是什么。你只有能够构建一个事物，才能真正理解它。

• 我的研究方法论的结论与哲学家们在会议上宣读论文的习惯有关……科学家们通常会站起来发表演讲，提出一些主张，有时还会展示证据。相比之下，哲学家们则会宣读他们的论文，而他们宣读的方式本身也非常重要……哲学中，言辞的优美与内容的深刻并无二致。在科学领域，某些理论听起来可能荒谬至极……但这些理论却可能是真实的。科学已经证明的许多事实，比任何宗教狂热者所能想象的都要离奇得多。科学揭示的真相，往往超出了宗教狂热者所能梦想的极限。这些事实通常显得相当平凡。科学所确立的真理，比普通人所能想象的要更加奇异。因此，认为科学家们视野狭窄的想法是极其荒谬的。

• 这是一个非常有趣的论点，为什么优雅的东西应该是真的？如果你看物理学、粒子之类的东西，你会发现大约有15种粒子可以很好地适应一个模式，除了有一个缺失的。说我们应该寻找那个缺失的，因为所有这些对称性。它一定在那里，这种方法是有效的。问题是，为什么那样，为什么它有效？所以在生物学中这并不清楚。

• 我更感兴趣的是利用反向传播来解决像语音识别和物体识别这样的复杂问题，而这些问题心理学家们并没有有效地解决。因此，我对使用反向传播进行机器学习充满了热情。

• 我确实感到有些孤独，但并不是完全孤立无援。完全说我是在荒野中孤独的声音是不准确的，还有其他一些孤独研究者的声音，荒野中有学习。

回顾好奇心的起源

主持人：Hinton教授，我们可以称这为您好奇心的传记。我想了解一下您好奇心的起源，或许是在童年时期，您可能阅读的书籍，以及您在智力上是什么样的孩子。

Geoffrey E. Hinton：让我想想，大约在我五岁的时候。

主持人：好的，地点是在哪里呢？

Geoffrey E. Hinton：在英格兰的乡村，我的母亲不仅是一位教师，也是位于布里斯托郊外约10英里处一所小学的校长。而我也就读于她所管理的那所学校。这样的关系有时会带来一些小困扰，比如有时孩子们会在操场上围住我，请求我说服母亲做某件事情，但是这不是一件特别坏的事情。我五岁时，公交车的座位是天鹅绒做的，座椅上覆盖着一种厚重的材料。我坐在公交车上，把一便士硬币放在天鹅绒座位上，它竟然动了，而且是向上移动的。这显然是不可能的，我对此感到无比着迷。有时放下的硬币会向上移动，仿佛是梦境中的场景，虽然不是每个人都能经历，但许多人都有过类似的幻想。就像在梦中突然发现自己能够飞翔，心中既怀疑又兴奋，当你再次尝试，发现自己真的能够飞翔时，那种感觉太神奇了。对于我而言，硬币向上移动同样充满了神秘和奇妙，就像第一次发现磁性一样，我无法相信所发生的一切。当时的我，对这一现象感到既惊讶又困惑。

主持人：可能有点实验性质。你尝试了几次吗？

Geoffrey E. Hinton：我反复尝试了多次，尽管不是每次都能成功，但确实有那么几次尝试。我记得很多关于那辆公交车的细节，包括我坐在公交车的哪一侧，座位的位置等。很多年里，我都无法理解这枚硬币是如何向上移动的。这成了一个潜藏的记忆，像是发生过的奇怪事情，显然不可能发生。

主持人：那么你有没有急忙去找最近的成年人，告诉他们你注意到了这个？你想请他们帮忙理解为什么会这样吗？或者你只是猜测而已？

Geoffrey E. Hinton：我想自己解开这个谜团，虽然它看似毫无意义，却始终在我脑海中挥之不去。我的研究生涯也充满类似的小困扰，它们令人费解，却深深扎根在我心里。后来我成为老师、十几岁时在学校学习物理，我才终于揭开了这个谜底。我不需要通过物理课程来理解这件事，但我最终明白了当时硬币是如何移动的。

我记得公交车的另一个特点是震动很大，前面的发动机巨大且似乎不太牢固，导致整辆车震动。所以显而易见的是材料上的绒毛是朝上倾斜的。座椅是这样的，绒毛就也是这样的，所以硬币不能向下移动。当公交车震动时，震动朝这个方向，它就会上升，而不能向下震动。所以这就是硬币向上移动的原因。

主持人：你最终真的在追求这个问题吗？

Geoffrey E. Hinton：或许是当我对阀门等事物有了足够理解时，自然而然想到的。

学校教育经历的教训和不满

主持人：这段是了解你好奇心的宝贵经历。那你的教育情况是怎么样的呢？在母亲担任校长的学校里，你在科学方面的学习怎么样？有没有遇到让你感兴趣的老师？

Geoffrey E. Hinton：在母亲的乡村学校，我与一群拥有浓重Somerset口音的农家孩子一起成长。其实Somerset有不少德语，很多听起来像德语的词，我想这些词可能源自德语。

当我母亲怀上我妹妹时，她不得不离开学校，那时我大约六岁。之后，我去了一所离家近的小学，我的父母希望我能进入一所文法学校，那所学校设有初中部。我不记得具体是什么时候，但我记得我参加了文法学校的入学考试，结果没考上。于是我父母决定送我去一所私立学校——Clifton College，那所学校我从来都不喜欢。他们愿意让我进初中，但在预备学校（为进入大班做准备）阶段，他们指出需要解决我的口音问题后才能入学。他们不允许我立即入学，因为我的口音不符合他们的标准，他们建议我在小学再待一年，直到我的口音得到改善。

主持人：我可以把这个称为“只有在英国才会发生的情况”吗？

Geoffrey E. Hinton：也许吧，我不太确定。在当地的小学里，我逐渐适应了更标准的口音。之后我去了这所英国预备学校。我并不喜欢那里，感到格格不入，因为我父亲是斯大林主义者，母亲是坚定的工党支持者，还担任当地工党的秘书。我从小被教育认为宗教不过是无稽之谈，且至今仍然相信这一点，这是一种肌肉记忆。

这所学校并不虽不特别强调宗教，但仍然带有基督教色彩。他们认为对男孩有益的事情就是玩橄榄球和去教堂。因此我们每天早上都要参加礼拜。多年后，当我长大为青少年时，周日仍需返回校园，因为我住在家里。学校里大多数孩子是寄宿生，只有大约20%的学生是住在布里斯托的，我们周日不能只是呆在家里，必须来学校参加礼拜。他们还会邀请其他学校的校长来讲道。我记得有位其他学校的校长讲了一个关于俄罗斯多么可怕的讲道，谈到他们如何强迫进行意识形态的马克思主义教育，人们必须坐在那里，不能请假，得强迫听这些马克思主义的无稽之谈。我坐在那里想，实际上我也是被迫听这些宗教的无稽之谈。我差点站起来走出去，心里也希望我当时这样做了。虽然我会被学校开除，但我真希望我那样做过。

主持人：敢这样做的人少之又少。在这个强调力量的学校里，没有人注意到你的聪明才智。

Geoffrey E. Hinton：不，有一些老师对我非常好。我记不太清他的名字了。我记得他个子高高的，瘦瘦的，喜欢数学，和很多小学数学老师不同的是，他是真的认为数学很有趣，他对纪律有奇特的想法。我还记得他做了一些现在你不可能逃脱的事情。我记得有一次课上有两个男孩在后面说话，他们坐在路对面，他试图解释某事时，这两个男孩窃窃私语。他沿着过道走下来，抓住他们的两个头，按着头发把他们的头撞在一起。那是不被接受的做法。

在我刚刚踏入这所学校的前几周，我就被介绍给了一位美术老师。他有点虐待狂倾向，他不允许我们在更衣室里奔跑。我们只能换下运动服，挂好衣服，换上运动服。如果你在更衣室里奔跑，他会告诉你这是不允许的。有一次，另一个男孩偷了我的领带，更衣室中间有隔板。他和隔板另一边的男孩把领带扔来扔去，穿过隔板，我围着隔板跑来跑去，试图拿回我的领带。当我试图绕过隔板去拿我的领带时，这位美术老师走了进来，我记得他是天主教徒。我认为这就是偏见真正开始的方式。我从来没有原谅过天主教徒。

他走进更衣室的时候我正在跑，所以他抓住了我，把我带到走廊上，带我去校长办公室，他用竹竿狠狠地打了我。我的裤子还穿着，但他真的很享受。我只记得一种巨大的委屈感，你不会听解释。我只记得对他和天主教徒感到非常委屈。

主持人：但我猜，也许你是反抗权威的。你觉得我说得对吗？

Geoffrey E. Hinton：是的，因为我父亲的原因，我从来不喜欢那个主要的政党。

主持人：但是，你已经有了挑战权威的理由。这将在你以后的生活中显现出来。我强调这一点的唯一原因。我们如何让这个受压迫的年轻人，偶尔被这所学校压迫，在他在那里的最后时期，实际上会被剑桥大学录取？怎样才能在智力上或道德上超越这个阶段的生活？

Geoffrey E. Hinton：好的，在我们继续之前，请允许我再讲一个我认为你会喜欢的故事，那是关于那所学校的，我们必须接受宗教教育。当然，这有点像主日学校，关于耶稣有多好，上帝会照顾我们。我还记得一些细节，因为，显然，其他孩子们都对上帝有着不同程度的信仰。在那个时期，我有一位非常聪明的朋友，他对上帝的信仰坚定不移。

我记得在一次宗教课上，老师说所有的好事都是上帝的恩赐。那大概是8岁或9岁的时候。我当时认为有问题。我不记得我当时的想法有多连贯，但她说的是有问题的，她只说它们来自上帝是因为它们是好的，她不能使用上帝的事实，你不能把这当作上帝是好的证据，因为你只是假设它们来自上帝因为它们是好的。这就是你会称之为循环论证。当时我不知道循环论证，但我知道她刚才说的话有些非常可疑，我想我当时很想争论。我争论了很多。顺便说一句，我当时是学校里最小、最矮最轻的男孩。但我用争论来弥补，所以我举手，我试图向她解释她刚才说的话有什么问题。我想她感到沮丧，她说好的，Hinton，你认为所有好事都来自哪里？这是一种典型的父母式举动，把假设融入问题，让孩子去处理。我想了一会儿，说俄罗斯。这在1950年代的英国私立学校里是意想不到的。1950年代中期，冷战正处于高潮。这让你对我在学校文化中的适应程度有所了解。

主持人：我已经有所了解。现在我们可以聊聊怎么进入剑桥大学的经历吗？

Geoffrey E. Hinton：后来我有问父母，他们为什么坚持让我留在那里，尽管我不开心，他们说，那里的科学教学很好。在我进入高中之前，我喜欢数学。但后来到了某一点，我对数学感到困惑。当他们介绍函数时，我不明白函数是什么。我在算术和代数方面都做得很好，现在有了这些我不理解的东西，比如sinx，我不知道正弦是什么。我总是一个非常具体的思维者。实际上，我对函数感到不快，直到我成为研究生开始编程时才感到自在，一旦我开始编程，函数就是一个盒子。你给它一个东西，它给你另一个东西。

主持人：可以概括地说，如果你不理解它的目的，你就会质疑它或忽视它吗？

Geoffrey E. Hinton：我当然想要。在理解它们之前，我对事物并不满意。我所说的理解它们，我认为和Feynman的意思一样。你足够理解它，以至于你可以构建一个。

主持人：是的，听起来确实是这样。

Geoffrey E. Hinton：确实，这正是我后来对心理学的总体感觉，我想知道感情是什么，感觉是什么。你只有能够构建一个事物，才能真正理解它。当然，很多人说你无法构建一个。

主持人：如果我们谈到你目前的方法，你不会对感情和情绪这样的术语感到多愁善感，但我们会谈到那里的。

Geoffrey E. Hinton：我不确定你所说的不感情用事是什么意思。

主持人：我的意思是，希望它们是无法定义的、不可复制的、人类的，而不是你可以分析和已经分析过的东西。

Geoffrey E. Hinton：我不会称那为多愁善感，我会称那为愚蠢。一位好的科学老师，你有几们好的科学老师。所以我擅长科学。我的数学还可以。因为我父亲曾去过剑桥的一所特定学院，他希望我也去那里。我参加了入学考试，考试成绩相当不错，所以我被录取了。我去了剑桥。这是一个巨大的冲击，因为在学校里有一些孩子很聪明，有趣的想法。我有一个叫Inman Harvey的朋友，他非常聪明。他在三一学院获得了数学奖学金，这是英国数学最好的地方。

探索信仰和学术兴趣

主持人：他们大多数不是受你所上的学校类型的影响吗？

Geoffrey E. Hinton：在我的高中，你会称之为北美的高中，大多数孩子对剑桥不感兴趣，每个人都很聪明。实际上不是每个人都很聪明。这有点让人震惊。所以我在那里待了一个月后，我离开了。我觉得压力太大了。我去伦敦做了各种零工、读了很多令人沮丧的文学，比如《罪与罚》和《卡拉马佐夫兄弟》。我记得坐在伦敦地铁上，这本来就是一个相当令人沮丧的地方，读这些令人沮丧的俄罗斯小说。我做了各种各样的工作。

我最终对建筑产生了浓厚的兴趣。然后我重新申请了剑桥学习建筑。他们让我回到了同一个学院。但在我到达那里之前，我在一家建筑师事务所工作了一个夏天，我发现了建筑实践是什么样子。我想象坐在那里勾勒出将要建造的美妙建筑的样子，或者可能是建造建筑的新方法。实际上，建筑师事务所的生活包括：要选择便宜的地板还是便宜的门把手，必须是便宜的，否则我们就不会满足预算。所以在我做了一天的建筑工作后，我去找我的导师。所以我想把专业换回自然科学。我的导师说，好的。

主持人：如果我理解正确的话，这是剑桥教育方法的一个优势，他们可以灵活调整。

Geoffrey E. Hinton：非常灵活。所以我第一年学自然科学，我想我是那一年唯一同时学物理和生理学的学生。我一直对生物学感兴趣，但在学校里没有被允许学生物学，因为我父亲不允许。他说他们会教我遗传学，遗传学是无稽之谈。他确信所有宏观可观察的特征都是由许多基因的复杂相互作用引起的。而真理是，蓝眼睛是由这个基因引起的，智力是由那个基因引起的。当然，这与共产主义教育非常不符。所以出于意识形态原因，我在学校不被允许学习生物学。

尽管我父亲是个生物学家，以他的方式是个非常好的生物学家。他成为皇家学会的成员。实际上，他在49岁时成为皇家学会的成员。而我在50岁时成为皇家学会的成员，这总是让我感到恼火。所以我和父亲竞争非常激烈。无论如何，在剑桥，我学了物理、生理学和化学。生理学真的很有趣。这是我从未做过而且不知道的东西。

我记得课程的高潮将是最后一个学期，他们将教我们关于中枢神经系统的知识。我对大脑如何工作非常感兴趣，因为我在学校的一个朋友对大脑如何工作感兴趣。我们讨论过这个问题。我记得当他们教我们关于中枢神经系统时我是多么失望，因为中枢神经系统的工作方式是这样的：有神经元，它们有轴突，电冲动沿着轴突传播，并导致一些化学物质的释放，使其他神经元兴奋。他们教了我们很多关于电冲动如何沿着神经元传播的知识。这就是中枢神经系统的工作方式。我记得我非常沮丧，因为他们实际上并没有说它是如何工作的。他们只说了冲动是如何传播的，但它实际上是如何工作的呢？神经元是如何相互交流的，这很有趣，但那不是我所说的它的工作原理。我想知道大脑是如何工作的，以及它是如何产生情感和感觉等等。

主持人：为什么会这样？

Geoffrey E. Hinton：我不认为想知道这些是激进的事情。我认为很多人都想知道这些。只是生理学上，他们不知道。第一年之后，我转到了哲学，因为我认为哲学会教我更多关于我真正感兴趣的事情。那是一个很大的错误。我记得学习维特根斯坦，感到非常沮丧，因为我无法理解。后来，我认为学到这些东西非常有用。但真的，我在剑桥学哲学一年的主要收获是我对哲学产生了抗体。尽管那里有一位哲学家我非常合得来。实际上，有两个。我的导师，一个叫Jim Hopkins的人。他非常好，也对心智实际上是如何工作的感兴趣。

然后是一位哲学家叫Bernard Williams，他是一个非常优秀的哲学家，后来去了伯克利。我再也没有见过他，这一直是个遗憾。他过去常常在周一晚上举行一种开放式的聚会，如果你感兴趣，你可以去他的房间，花一两个小时讨论哲学，会有很多人出现，我和他相处得很好。他是个伟大的人物。他非常折衷，思考非常流畅。他一点也不教条。他只是非常有趣，从他那里学到东西非常有趣。他总是认真对待学生的想法，总是对他们有一些有趣的话说。他从不轻视。那是我真正欣赏的一位哲学家。然后我对哲学感到厌烦，因为他没有告诉我我想知道的。所以我又转到了心理学。

主持人：他们没有提出有趣的问题？

Geoffrey E. Hinton：不，他们确实提出了有趣的问题。我非常喜欢的另一位哲学家是Daniel Dennett，他提出了有趣的问题。他们只是没有工具来回答这些问题。我的研究方法论的结论与哲学家们在会议上宣读论文的习惯有关，而科学家们则很少这么做。科学家们通常会站起来发表演讲，提出一些主张，有时还会展示证据。相比之下，哲学家们则会宣读他们的论文，而他们宣读的方式本身也非常重要。在哲学领域，你的表达方式至关重要，因为你的话语就是全部内容。哲学中，言辞的优美与内容的深刻并无二致。

在科学领域，某些理论听起来可能荒谬至极，例如将加速度等同于重力，但这些理论却可能是真实的。科学已经证明的许多事实，比任何宗教狂热者所能想象的都要离奇得多。科学揭示的真相，往往超出了宗教狂热者所能梦想的极限。这些事实通常显得相当平凡。科学所确立的真理，比普通人所能想象的要更加奇异。因此，认为科学家们视野狭窄的想法是极其荒谬的。你可以做到这一点，因为它有理论化之外的东西可以告诉你这些理论是对还是错。我听不懂弦理论，但我听说过人们声称，那个边界正在被弦理论推动，目前还不清楚它是否只是数学，或者它是否真的正在被数据验证。科学有这种独立的测试，哲学没有。

主持人：有时候有一种冲动，我可能只在想数学，寻找优雅的解决方案，这总是让我惊讶，是术语。优雅并不一定是真实的，但也许这就是数学优雅的精髓。

Geoffrey E. Hinton：这是一个非常有趣的论点，为什么优雅的东西应该是真的？如果你看物理学，如果你看粒子之类的东西，你会发现大约有15种粒子可以很好地适应一个模式，除了有一个缺失的。说我们应该寻找那个缺失的，因为所有这些对称性。它一定在那里，这种方法是有效的。问题是，为什么那样，为什么它有效？所以在生物学中这并不清楚。所以当我在圣地亚哥做博士后时，我认识了Francis Crick，他对大脑非常感兴趣，他是一个非常令人印象深刻的思考者，但他的观点是。这种认为优雅的东西将是真实的观念并不一定适用于生物学。

主持人：如果哲学不能满足年轻的本科生，我会假设，鉴于他未来的职业生涯，他会跳到科学领域，但实际上，他跳到了社会科学领域。

Geoffrey E. Hinton：不是的，心理学兼具了科学和社会科学两个方面。但在剑桥，心理学属于科学领域。事实上，我实际上非常恼火，它没有教我们任何关于人的东西。所以我去找我的导师，不是我的心理导师，而是我在国王学院的一般导师，他负责我的经费。我解释说心理学课程没有告诉我任何关于真正的心理学。例如，心理学课程中没有任何关于精神分析的内容。所以我想做的是，每周去伦敦一次，从一个存在主义精神分析师那里得到一个教程，这样我就可以学习那个我感兴趣的内容。我希望学院为此付费。所以我的导师只是说，嗯，听起来合理。学院会为此付费的。那是真正的自由教育。那是剑桥国王学院，它很有钱。

主持人：那么，大胆的本科生提出了要求，学院同意了，这实际上有多重要？

Geoffrey E. Hinton：我唯一真正记得的关于存在主义精神分析教程的事情是，精神分析师有一个非常漂亮的日本女友。这让我们对精神分析产生了非常好的想法，但他教了我关于胡塞尔和海德格尔的知识。我从来没有真正理解过这些。

主持人：因为我们没有太多时间。我要快速带你完成你的心理学课程。我会在任何对你的智力发展至关重要的点停下来。

Geoffrey E. Hinton：所以我觉得心理学完全没有一个合适理论的样子。他们没有物理学的观点，即理论应该真正解释一些事情。所以它有实验方法。所以在那种意义上它比哲学好。但他们使用实验是为了试图决定一些理论，这些理论是无望地不充分的。你可以直接不用做实验就驳回，因为你根本做不到。所以我必须做一个实验。我记得那个实验，会拿3到5岁的孩子，试图决定他们在那个时期是否发展，在这个时期，他们开始更多地关注形状，更少地关注颜色和质地。

所以这个模型的小孩子，刺激像形状、颜色和质地，他们对刺激做出反应。这是行为主义心理学，开始变得有点复杂。实验是要决定对形状的反应强度是否增加，对颜色的反应强度是否减少。所以你在训练期间给他们三个物体。比如说，两个三角形和一个黄色的正方形。他们学会挑出与众不同的那个，就是正方形。给他们三个三角形，其中一个是红色的，另外两个是黄色的。当他们学会红色三角形时，然后一旦他们用各种不同的刺激维度训练过，然后给他们一个黄色的三角形，一个红色的三角形，和一个黄色的正方形。所以现在有冲突了，他们要基于颜色挑出旧的那个，还是要基于形状挑出旧的那个，然后你看看他们怎么做。希望是随着他们年龄的增长，较大的孩子会用形状来挑出旧的那个，而较小的孩子会用颜色。

实际上发生的事情是这样的。实验进行过程中，我遇到了一个聪明的五岁小孩，我第一次给他看一个没有明显与众不同的冲突物体时，他指着红色的圆圈说，你把那个颜色涂错了。他认为我犯了一个错误，因为那是旧的与众不同的游戏。显然我给那个涂错了颜色。我想，这个有机体对颜色或形状做出反应，是这个有机体刚刚做了一件推理，。这远远超出了这些理论的范围。与这些理论相比，这是一种极其复杂的行为。这个有机体基本上弄清楚了我的意图，认为我在这里犯了一个错误。这完全超出了范围。这对我来说影响很大。我完全对心理学失去信心，因为尽管它有实验方法，但它以一种极其幼稚的方式使用它来测试真正愚蠢的理论。

人工智能的职业演变和学术旅程

主持人：因为那些可能在听的人，不太理解人工智能计算机等方面的探究状态，你接下来如何规划你的下一步？

Geoffrey E. Hinton：所以我做了一年的木匠。我退出了学术界。然后我通过一个项目重新进入学术界，研究儿童语言发展，这个项目受到Chomsky的很大影响，他声称几乎所有的语言都是先天的，但语言的句法方面是先天的，这完全是胡说。这个项目是观察布里斯托的一大群幼儿，通过测量实际发生的事情来实证地观察他们的语言发展。这个项目和水门事件同时发生。我们有带无线电麦克风的小夹克。所以我们给一个孩子穿上这件小夹克，他会整天穿着它，我们会广播孩子说的每件事和房子里说的每件事。

那时候人们不认为这是一件坏事。在房子里，我们有一台录音机，每20分钟会取一分钟的样本。它是通过让一个纸盘在它的一个凹槽中慢慢旋转，一个小杠杆会掉下来，连接磁带录音机来实现的。那时候的技术就是这样的。我们会得到这些儿童语言的样本。然后我们会尝试分析它们。这就是问题所在。我们在看标签，看看孩子们是否很早就不表达复杂的语法结构，因为音素太多了，或者因为他们只是不知道这些结构。标签很好，因为它的音素很少，但有很多语法。我们有一个孩子的家长对她的孩子说，如果你说话不标准，就不会给你玩具。我只是觉得这是一个很好的例子，说明孩子们从中学到了说好英语的数据。1972年，我开始攻读人工智能博士学位。我开始读博的几年前，爱丁堡建立了一个大型的人工智能中心，所以科学研究委员会决定资助一个大型的人工智能项目。

主持人：现在回想起来，他们当时认为自己在做什么，给你留下深刻印象了吗？

Geoffrey E. Hinton：这是一个明智的做法。我认为建立一个真正优秀的中心是一个好的政策。我认为那里的几乎所有人。相信符号人工智能是好的，现在被称为老式的符号人工智能。但我认为他们犯了一个巨大的错误。在几年后，我记不得确切的时间了，可能是1974年左右。政府让一位名叫James Lighthill FRS的杰出数学家对爱尔兰中心进行了一项报告。他提出了一份非常具有破坏性的报告，基本上说这些人不知道自己在说什么。他与McCarthy进行了一次交流，McCarthy是人工智能之父之一。我记得很多年后看到了这次交流，McCarthy说，任何你可以计算的东西，你都可以用符号操作来计算。所以我们正在做的事情一定是对的。Lighthill说的是，是的，但你不知道大脑是如何做到这一点的，这是我们知道的唯一能够思考的设备，你不知道这种方法是否高效。

现在回想起来，当时，英国的所有人都对人工智能感到愤怒，因为James Lighthill FRS不相信它。我认为双方都在假设一些事情，双方都在假设计算不会比现在快几百万倍，可能会快几千倍，但不会快几百万倍。在那种假设下，Lighthill完全正确，这种符号化的方法，尽管理论上你可以用我们拥有的计算速度做任何事情，但没有希望做到像感知测量这样的事情。

主持人：报告是什么时候发表的，你当时是在本科阶段还是研究生阶段？你是在宣布这一决定的时候的研究生吗？

Geoffrey E. Hinton：确实，我的导师是三位在爱丁堡大学创立人工智能学院的教授之一。后来，由于种种原因，包括与另一位重要人物的个人冲突，他离开了爱丁堡，转而前往苏塞克斯大学。我也随他一同前往。

主持人：你是否发现你的研究生同学们对这个分析感到困惑？

Geoffrey E. Hinton：我不记得当时的情况了。不过，我认为Lighthill对人工智能太过严厉了。当然，有很多同龄人的压力让你相信这一点。我不记得和他们讨论过这个问题。所以，我不得不每隔一段时间就回爱丁堡一次，签个字证明我还住在那里，这样我就能拿到从布莱顿到爱丁堡的往返车票，一天之内来回奔波。

主持人：但是爱丁堡的某个人将不得不批准这个论文题目。那个人是谁？

Geoffrey E. Hinton：在人工智能领域有一位资历较浅的老师叫Jim Howe，他是我的官方导师，但所有人都知道这只是一种安排。

主持人：在这种情况下，你是如何确定论文题目的？

Geoffrey E. Hinton：我本想研究神经网络以及它们的学习机制，但我无法理解它们是如何学习的。我想不出有什么显著的方法能超越50年代末到60年代初就已经为人所知的感知器收敛定理。我的导师，直到我来爱丁堡之前，他一直在研究神经网络。就在我到达爱丁堡之前，他改变了自己的观点。他之前研究的是全息记忆，这让我非常感兴趣。大约在我刚开始研究生学习的时候，他对特里·温诺格拉德的一篇论文印象深刻，那篇论文使用符号方法来尝试理解自然语言命令，比如‘是的，请把红色的积木放在绿色积木上的蓝色盒子里’。他对那个印象深刻。他基本上把他的兴趣从神经网络转向了符号人工智能。他收了一个显然对神经网络感兴趣的研究生，试图说服我改变兴趣，但我对此不感兴趣。

我当时非常固执。当我回想起来，作为一个导师或研究生，是的，见过各种类型的研究生，包括那些极其固执的人，我记得他走进我的办公室，对我说：“Geoffrey，我有个你可能感兴趣的主意，让我解释给你听”。所以他向我解释了这个想法，这个想法看起来相当有趣。在想法的最后，他说“Geoffrey，你觉得你想研究这个吗？”，我惊讶地看着他说，不，我有自己的想法需要研究，所以他非常宽容。他容忍我作为研究生，尽管他认为我在做疯狂的事情。我们一直在争论。我最后同意，如果六个月内我没有取得进展，我就转向符号人工智能。然后我会一直食言。这就是他的宽容之处。

主持人：你的脾气也让你不愿意去做那种工会卡片上的事情，也就是按照教授说的任何事情去做，然后继续你的真实生活。你没有准备那样做。

Geoffrey E. Hinton：不，我的意思是，我不会去研究我不相信的想法。

主持人：但不是那样，我仍然希望你获得学位。这是如何实现的呢？

Geoffrey E. Hinton：最后，我设法做了一些不是神经网络学习的事情，而是神经网络中的推理。我让它起作用了。它有一点点数学来证明它，他对此很满意。所以我获得了博士学位，然后我就离开了那里，那时我对一切都非常失望。我经常辍学，我又休息了一年。我去了伦敦，在一所自由学校教书。自由学校的环境非常不同，有很多情绪不稳定的孩子。然后我回去了。我可能休息了大约六个月。然后我回去做了博士后的工作。我们在苏塞克斯，苏塞克斯待了一会儿，最后我申请了圣地亚哥的工作。那似乎是一份非常好的认知科学工作，他们将招聘6名不同领域的博士后，他们将相互交流，试图理解心智。

主持人：我读过的关于你的文章之一，不一定准确，但说经济支持工作的问题也是去美国的一个因素，这是真的吗？

Geoffrey E. Hinton：因为Lighthill报告，人工智能领域根本没有工作，基本上在那里就完蛋了。爱丁堡有一个人工智能的工作，很多非常优秀的人在竞争，所以你几乎别无选择。我根本得不到，我根本得不到英国的学术工作，没有任何机会，我甚至得不到一个学术工作的面试机会。

主持人：现在我们差不多快结束了。这次采访的重点是思考的起源，所以这不是问题。但我想知道我们是否能接近尾声，描述一下你当时去圣地亚哥时遇到的美国大学的学术环境和策略。

Geoffrey E. Hinton：这是一个巨大的对比，在英国，人工智能的学术界是单一的。有一种正确的观点，没有容纳多个阵营的空间。而在美国，至少你有两边的海岸，在语言学上，东海岸有乔姆斯基阵营，西海岸有菲尔莫尔和莱考夫阵营。人工智能也是如此，在圣地亚哥，有一群人，特别是David Romhart，他来自心理学但数学很强，他基本上有一个完全不同的人工智能观点。他对大脑中实际发生的事情感兴趣。他认为理解大脑中发生的事情对于理解这一点是有用的，这与许多心理学家不同。他的观点与我一直在思考的非常吻合。所以这是我第一次来到一个我和某人一起工作的地方，他真的对如何理解心智以及它是什么样子有同样的信念。这很美妙。

主持人：当接近尾声时，我的意思是，我要问一个可能是荒谬的概括性问题。我也完全准备好听到你说这是荒谬的。但当人们回顾你的职业生涯时，有一些教训，一些是关于在美国顽固坚持一个想法的教训，尽管大多数人说这是胡说八道，然后甚至在你后来去的加拿大，仍然有学术界说你感兴趣的东西和你追求的东西是错误的。

Geoffrey E. Hinton：是的，我对心理学的一些观点提出了批评。但是，当反向传播算法被Dave Rumelhart重新发现之后，我和他以及其他研究者已经证明了它在提升学习能力方面具有巨大的潜力。这在计算机科学界引起了一阵热潮，但随着时间的推移，由于它的效果并没有达到我们的预期，这股热潮逐渐冷却。然而，在心理学领域，人们对它的兴趣却持续不减。因此，它在心理学界占有一席之地，心理学家们总是愿意支持这些创新的想法。尽管如此，我更感兴趣的是利用反向传播来解决像语音识别和物体识别这样的复杂问题，而这些问题心理学家们并没有有效地解决。因此，我对使用反向传播进行机器学习充满了热情。但心理学家们并没有真正推动这一领域的研究。

主持人：在某种程度上，你相对孤独？

Geoffrey E. Hinton：我确实感到有些孤独，但并不是完全孤立无援。完全说我是在荒野中孤独的声音是不准确的，还有其他一些孤独研究者的声音，荒野中有学习，但整体上，学术界对机器学习的研究并没有那么热衷。

主持人：非常感谢！

图片来源：Heidelberg Laureate Forum

原视频：HLF Laureate Portraits: Geoffrey E. Hinton

https://www.youtube.com/watch?v=z9Fz96Mr4bM&t=1864s

编译：Huiru Jiao

文章来自于微信公众号“Z Potentials”，作者“HLF”