天下晓趣|“AI教父”离开谷歌：AI毁灭人类并非不可想象

记者 王晓莹 编译

“他被认为是人工智能（AI）历史上重要的人物之一，这位有远见的领导者帮助塑造了人工智能的未来。”这是谷歌聊天机器人Bard对英国科学家杰弗里·辛顿的评价。如今，这位“AI教父”却发声对他为之奋斗了大半辈子的人工智能成果提出质疑。75岁的辛顿在5月1日自曝已从谷歌离职，他在接受采访时坦言，从谷歌离职后他才能*地说出人工智能带来的危险，他甚至“对毕生研究的东西感到后悔”。

辛顿

AI发展快过预想

去年底，美国人工智能研究实验室OpenAI研发的聊天机器人程序ChatGPT一经上线就走红社交媒体，带来了一阵人工智能热潮。然而，在今年3月OpenAI发布新版ChatGPT后，1000多名科技领域的领导者和研究人员签署*，以担忧人工智能会给人类和社会带来风险为由，呼吁暂停训练人工智能系统至少6个月。

辛顿并不在这千人之列，那时他也没从谷歌辞职。辛顿与OpenAI颇有渊源：他从上世纪70年代就开始研究“神经网络”——一个可以通过数据分析来学习技能的系统，为如今的ChatGPT、Bard等聊天机器人程序的发展打下了基础。他与两名学生创办了一家专门开发和研究“神经网络”的公司，其中一名学生伊利亚·苏茨克维尔，现在正是OpenAI的首席科学家。

辛顿（右）与他的两个学生，左一为伊利亚·苏茨克维尔。

辛顿从谷歌离职后才在接受采访时表示，他也对人工智能的发展深表担忧。他说，目前人工智能发展太快，而且缺乏足够的保障措施，不仅会改变人类的就业市场，导致私人助理、翻译等大量工作岗位消失，那些利用人工智能生成的虚假图片、视频、文字在网络上传播，还会让人分不清虚实。

辛顿还表示，如果人工智能变得比人类更聪明，就会开始操控人类；如果人工智能学会了编程，就会想办法绕开人类对其施加的限制。人工智能机器人甚至可能对人类发起攻击，世界各国应该尽量保证人工智能系统的安全性。“我曾认为，这一天要等到30至50年甚至更长时间之后才会到来，显然现在我不再这么想了”。

考虑到人工智能的发展现状，辛顿甚至表示，他对自己毕生的工作感到有些后悔。“我只能这样安慰自己：即便我不做相关研究，也会有其他人从事这项工作。”他还担忧，有些公司可能正在秘密开发一些比我们预想到的更强大的系统。但75岁的辛顿承认，他也不知道未来该如何处理这一问题。

尽管辛顿称辞职后才能在不需要考虑对公司造成多大影响的情况下谈论人工智能的危害，但今年3月被问到“人工智能会不会毁灭人类”时，辛顿回答：“这并非不可想象。我只能说这些。”

出身科学世家

被誉为“AI教父”的辛顿，1947年出生在英国温布尔顿。或许家族基因决定了他注定走上科学之路：他的高曾祖父是数学家乔治·布尔，提出了布尔代数；他的父亲是一名物理学家、数学家，也是英国皇家学会成员；他的堂姐琼·辛顿是核物理学家，曾参与美国二战期间研制原子弹的“曼哈顿计划”。出生于这样的家族，母亲曾对辛顿说：“你要么做个学者，要么是个失败者。”

辛顿的高曾祖父是数学家乔治·布尔

辛顿本科就读剑桥大学实验心理学专业，后来获得爱丁堡爱丁堡大学人工智能博士学位。早在1972年，还在读研的辛顿接触了“神经网络”这一概念，当时还没有多少人相信它能成真。此后，辛顿在英国、美国、加拿大等国的顶尖大学从事人工智能方面的研究，探索训练人工智能的方法。19*，他也入选了英国皇家学会。

上世纪80年代，已是卡内基梅隆大学计算机科学教授的辛顿，因为不愿接受美国国防部的资助，转而前往加拿大。2012年，他在加拿大与伊利亚·苏茨克维尔及另一名学生亚历克斯·克里泽夫斯基创立了一个计算机视觉系统，通过分析数百万张照片，打造出一款可区分动物、物体图片的神经网络系统，能识别常见物体，被视为当代人工智能的基础。

辛顿

这一成果后来受到谷歌关注。2013年，谷歌以4400万美元的价格*了辛顿等人创办的公司，此后辛顿一边就职于多伦多大学，一边在谷歌*从事人工智能开发，为其效力10年。2018年，他获得图灵奖——这一奖项专门奖励那些对计算机事业作出重要贡献的个人，有“计算机界诺贝尔奖”之称。

美国消费者新闻与商业频道报道称，一份内部文件显示，在过去一年里，辛顿减少了自己在谷歌的上班时间。去年3月，他只有20%的时间在全职工作，后来被分配到“谷歌大脑”项目工作。从谷歌离职前，辛顿的职位是“谷歌大脑”项目的副主管和研究员，直接向现任谷歌首席科学家杰夫·迪恩汇报工作。辛顿的离职被认为是谷歌人工智能的一大损失，但除了对人工智能感到担忧外，正如辛顿自己所说，“75岁，的确是个该退休的年龄了。”

新闻线索报料通道：应用市场下载“齐鲁壹点”APP，或搜索微信小程序“齐鲁壹点”，全省600位记者在线等你来报料！

以上就是【天下晓趣|“AI教父”离开谷歌：AI毁灭人类并非不可想象】的相关内容，查看其它ai资讯请关注微咔网