图灵奖得主杨立昆发声:AI安全是工程问题,不必恐慌“失控”

图灵汇官网

在人工智能领域,一场关于未来方向的讨论正在展开。杨立昆,这位图灵奖得主,提出了一个全新的视角:AI的竞争并非欧美与中国之间的较量,而是开源与封闭系统的对决。

自2023年夏季以来,Meta推出的Llama模型家族已经被下载超过8亿次,这个数字让人惊讶。他强调,确保AI行为符合人类价值观,本质上是一个工程和设计问题,就像过去工程师让喷气式飞机安全飞行一样。

杨立昆提出了一种“目标驱动架构”,其核心是为系统设定明确的目标和必要的限制,以确保任务在可控范围内完成。他认为,AI的发展可能像15世纪的印刷术一样,带来新的文化繁荣,提升人类智慧。

对于年轻人来说,他鼓励他们不要被一些夸张的负面故事所影响,要相信自己的能力,主动创造自己想要的未来。

2025年7月,Meta宣布成立超级智能实验室,加快通用人工智能的研发。然而,在这一过程中,长期担任基础AI研究实验室首席科学家的杨立昆逐渐淡出了公众视野。

几个月后,他在巴黎接受了一位人工智能专家的采访,分享了他对AI研究、行业竞争和安全问题的看法。杨立昆目前是纽约大学教授,曾与杰弗里辛顿和约书亚本吉奥共同获得图灵奖,被称为“人工智能三大教父”之一。

他一直坚信神经网络的力量,认为机器可以通过学习掌握技能,而不是依赖显式编程。这一理念如今已成为现代AI的基础,但在早期却很少被人关注。

四十年前,他与同事探索的神经网络技术属于小众领域,如今却广泛应用于各个行业。他的职业生涯始于法国索邦大学,博士论文中提出了反向传播算法的早期形式。之后,他在多伦多与辛顿合作,并在贝尔实验室取得突破性成果。

2003年,他回到纽约大学,重新启动神经网络研究,并将这一技术称为“深度学习”。随后,深度学习在语音识别领域取得重大进展,迅速成为主流。

如今,巴黎成为欧洲AI和高科技初创企业的中心,得益于本地人才和创新环境。杨立昆指出,AI发展的竞争不是地区之间的对抗,而是开放研究与开源生态对封闭系统的挑战。Meta的Llama模型家族在全球范围内受到欢迎,显示出开放研究的优势。

作为一位知名科学家,他提出的“目标驱动架构”为AI系统设定了清晰的目标和安全机制,确保其行为可控。他反对“智能必然导致控制”的观点,认为AI的安全问题是可以通过合理设计解决的。

他热爱音乐和手工制作,对法国文化和美食充满感情。他希望AI能够像印刷术一样,推动社会进步,激发更多人的创造力。

在一次访谈中,他回顾了自己的研究历程,提到在博士期间对机器学习产生兴趣,以及如何与辛顿等人建立联系。他解释了深度学习如何从一个不被重视的概念发展为主流技术,并谈到欧洲能否在AI发展中赶上美国和中国。

他认为,AI的发展不应局限于地域竞争,而应关注开放研究和开源社区的作用。他强调,Meta支持开放研究,许多公司现在都在使用开源模型。

关于政府是否应限制企业对数据的控制,他表示自己同时在学术界和企业界工作,没有感到明显冲突。他提到Llama模型的广泛使用,说明开源模式的成功。

获得图灵奖后,他的影响力有所增加,但更让他感到欣慰的是与辛顿和本吉奥一起获奖的荣誉。

他相信,打造符合社会价值的AI系统虽然复杂,但并非不可实现。他提出的目标驱动架构,帮助系统在设定范围内执行任务,避免失控风险。

他认为,AI可能引发类似印刷术带来的文化复兴,提升人类整体智慧。他希望激励更多人参与其中。

除了科研,他还喜欢分享音乐、艺术和动物视频。他怀念法国的生活,尤其是巴黎的文化和美食。

他的兴趣广泛,包括航海、飞行器制作和各种音乐风格。他鼓励年轻人不要被负面信息影响,要相信自己的力量,积极塑造未来。

本文来源: 互联网 文章作者: 张朝玮
    下一篇

导读:“欢迎来到时尚的未来。”这是一位00后女生菲比盖茨(Phoebe Gates)的创业项目。从斯坦福大学毕业后,菲比与室友一起创立一个AI购物平台Phia,帮助消费者完成“商品一键比价”。而她还有