人工智能(AI)先驱之一、2018年图灵奖获得者杰弗里·辛顿(GeoffreyHinton)现已出柜,对自己毕生的工作表示遗憾。
在最近接受纽约时报采访时,Hinton承认他对自己对AI的贡献感到遗憾,正是这导致了当前的AI热潮。在谷歌工作了十多年的Hinton现在已经离职,开始畅所欲言地谈论AI的风险。
75岁的Hinton说,他安慰自己说,如果他没有做到,别人就会做到。然而,他补充说,很难阻止不良行为者将AI用于邪恶目的。他上个月从谷歌辞职,以便能够更公开地表达他的担忧。
据TheVerge报道,Hinton于4月27日星期四直接与CEOSundarPichai进行了交谈。
Hinton在谷歌的工作对神经网络的开发起到了重要作用,神经网络可以通过分析数千张照片来自学识别日常物体和动物,如狗、猫和花,这些照片可能是通过谷歌自己的数据集训练的。
这项工作最终促成了ChatGPT和GoogleBard的诞生。Hinton对谷歌对该技术的管理感到满意,直到微软推出了新的OpenAI注入的必应,它挑战了谷歌的核心业务,并在公司内部引发了“红色代码”的反应。谷歌了解到三星正在考虑在其设备上用Bing替换默认的谷歌搜索引擎。根据内部消息,谷歌对该消息的第一反应是“恐慌”。
Hinton认为,如此激烈的竞争可能会导致一个假图像和假文字无法辨别真假的世界。然而,值得注意的是,Hinton并没有签署最近致全球AI实验室的一封公开信,要求暂停大规模AI系统的开发。这封信由伊隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、Skype联合创始人贾安·塔林、Pinterest联合创始人埃文·夏普、StabilityAI首席执行官埃马德·莫斯塔克以及其他几位著名的人工智能研究人员共同签署。
“这种东西实际上可以变得比人类更聪明的想法——一些人相信了,”欣顿对纽约时报说。“但大多数人认为这还很遥远。我认为这还很遥远。我认为它是30到50年甚至更长的时间。显然,我不再这么想了。”