财新传媒
财新网 > ESG > 社会共益 > 正文

特稿|神经网络之父辛顿:如何训练出“向善”的超级AI

文|财新 徐路易
2025年07月26日 22:36
辛顿认为目前最重要且尚未解决的问题是,如何训练 AI使其最终成为仁慈的存在。人类需要找到方法让AI不想接管世界,但目前没人知道该怎么做
辛顿是世界首位图灵奖与诺贝尔物理学奖双料得主。图:视觉中国

  【财新网】“几乎所有专家都认为,我们最终会创造出比我们更聪明的智能体。而人类已经习惯了成为最聪明的物种。”在7月26日于上海举行的2025年世界人工智能(AI)大会开幕式上,神经网络之父、加拿大多伦多大学名誉教授杰弗里·辛顿(Geoffrey Hinton)说。

  作为深度学习领域的奠基人,77岁的辛顿在过去一年中引发了全球广泛关注。他从最初认为大语言模型仅是“鹦鹉学舌”的统计机器,转变为相信它们已具备真正的“理解”能力——一种通过精准预测而显现的智能。然而,正是这种日益逼近人类的理解力,让辛顿对超级智能的未来走向,以及人类能否继续掌控并与它们“向善”共存,发出了前所未有的深切警示。

责任编辑:冯禹丁 | 版面编辑:汪苏
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅