全球目光聚焦上海。今天(7月26日),2025世界人工智能大会暨人工智能全球治理高级别会议主论坛在上海开幕。这场AI领域的“思想盛宴”,用一天的时间,探讨了AI发展的过去、现状和未来。
在“智能时代同球共济”的主题下,参会嘉宾无论是对技术本质的反思、对普惠价值的追求,还是对未来发展的思考,都彰显了一个核心共识:人工智能的发展不仅是技术革命,更是关乎人类文明走向的全球性课题。
AI不是一出生就聪明
“数字智能是否会取代生物智能?”作为开场主题演讲嘉宾,2024 年诺贝尔物理学奖得主、2018 年图灵奖得主、人工智能教父杰弗里·辛顿(Geoffrey Hinton)国内首次现身演讲,便以此为题。
这是辛顿首次访问中国并发表演讲,今年已77岁高龄的辛顿,长期受腰伤困扰,无法久坐。此次他万里迢迢来到中国,不仅说明中国AI发展已成全球不可忽视的力量,也更凸显此次大会主题,智能时代,需要“同球共济”。
这位通悉AI发展史的“教父”,开场伊始便回顾了AI的历史:AI已经有60年发展历史,它有两种不同发展范式:以符号型的逻辑性范式以及以生物为基础的范式。1985年,辛顿做了一个小模型,尝试结合这两种理论,以解释人们如何理解词汇。
“我认为,如今的大语言模型就是我当年微型语言模型的衍生。”辛顿表示,几乎所有专家都认为,人类会创造出比人类更智能的Al。
不过,AI并不是“一出生”就这么聪明。
中国工程院院士、人机混合增强智能全国重点实验室主任郑南宁把人工智能技术的发展分成了四个阶段,第一阶段统称之为“专家学习系统”,人类将领域知识和规则交给机器去搜索;
第二阶段则是“特征工程”,这时候有了更多可以给机器的数据,不过人类需要手动提取这些数据特征和答案,再交给机器学习;
第三阶段则是“由模型驱动智能”,输入原始数据和标签,机器就可以进行深度学习;
未来会进入第四阶段“意图驱动智能”,人类只需要将任务和目标交给机器,机器就可以像人类一样感知和理解世界。在这一阶段,具有人类意识的人工智能系统,能够像人类一样在广泛的任务和环境中进行学习和适应,实现通用人工智能。
目前,AI还处于第三阶段,但已经成为引领新一轮科技革命和产业变革的重要驱动力量,孕育出颠覆性的“黑科技”,也出现前所未有的新问题。
AI超出经济发展范畴
在辛顿之后出场演讲的,是一位行业新星——上海人工智能企业Minimax创始人闫俊杰。几天前,英伟达创始人黄仁勋来华,并在演讲中提及了几家中国公司,其中就包括MiniMax。
已有60年发展史的AI,也是年轻的事业。在闫俊杰看来,AI大模型领域会一直有多个玩家,“有些模型像一个靠谱的程序员;有些模型有强交互能力,情商高;还有些模型充满了想象力”。
闫俊杰认为,AI公司做的不是互联网,而是一个能提供更多生产力的公司。目前,MiniMax公司70%的代码、90%的数据分析由AI来完成。关键在于,AI的能力是持续的,你教给AI一个思考过程后,它就会变得越来越接近人类专家的水平。“人类很难一直变得更聪明,也很难一直学习新知识,但AI可以。今后它一定会变得越来越强。”
AI之所以被视为划时代的技术,不仅因为AI赋能千行百业、走入千家万户,更因为它开始影响社会治理、伦理秩序和全球格局。这项技术的发展,已远远超出了经济发展的范畴。
在前微软执行副总裁沈向洋与前谷歌首席执行官埃里克·施密特的对话中,聚焦人工智能时代的全球竞争与合作,也反映出两位商业科技领袖几十年来对技术变迁的亲历与理解。
任谷歌CEO期间,施密特主导推动了Android系统的开源战略。他提到,中国很多AI大模型是开源的,美国的大多数则是闭源的。他认为开源让更多人参与,有利于技术发展。
他认为美国和中国是全球两个最大经济体,有责任保持世界稳定。“这是技术问题,也是合作问题。”他说,技术上需要合作解决安全问题,政策上需要讨论如何设规则,避免失控。施密特引用了亨利·基辛格的观点:“只要双方有共同目标,就能谈成。”他举例,中美当年建交就是从零开始,只要有共识,就能建立起信任。“现在AI的问题也可以用类似方式处理”。
AI和人类,会走向哪里?
诚然,AI正在推动产业发展、全球格局变迁,但一些关于AI的“冷”思考也在主论坛上激荡、碰撞。
“我们目前仍然没有科学方法来确保人工智能的安全性,也无法确保人工智能可以始终符合人类的意愿,并被人类控制。”图灵奖得主约书亚·本吉奥说。
近期有实验结果证明,随着大模型的能力不断提升,人工智能系统正在日益显现出欺骗性和自我保护倾向。在这份研究的模拟情境中,当系统即将被新版本替换时,甚至试图胁迫开发者。随着智能水平的不断攀升,人工智能系统一旦失控,便可能给人类带来灾难性乃至生存性风险。
类似的担忧也来自另一位图灵奖得主,“我们习惯成为最聪明的生物,所以很多人难以想象,如果AI比人更聪明会怎么样?”辛顿强调,大模型一旦具备比人类更强的智能,仅靠“关掉它”并不能解决问题。“有人觉得他们变得聪明了我们就可以把他们关掉,这是不现实的。他们会劝说操控机器的人不要关掉它们。”他说,人类的处境更像是在“养一只老虎当宠物”。人类只有两个选择:第一,把它训练好,让它不来杀你;第二,把它干掉。
但显而易见的是,现在把AI消灭掉已经不是一个选项。如果人类想要生存,就必须找到一个办法来训练AI,让他们不要消灭人类。这也回到了一个永恒的话题——AI和人类的未来,会走向哪里?
智元机器人联合创始人兼首席技术官彭志辉(稚晖君)把这个问题抛给了一位特殊的朋友,用稚晖君思维训练、音色也与其接近的机器人灵犀X2。
“未来我也许会越来越像你。”灵犀X2说,但请不要误解,理解人类、预测人类的行为,甚至在某些时候做出判断并不代表要取代人类,相反是为了人类做更核心、更有创造力的事情。
“让人类回归人性,而机器专注于效率。”——在世界人工智能大会上,AI给出了答案。