当机器智能超越人类……

□ 尹传红

  • 来源:科普时报
  • 作者:
  • 2025-03-21 09:45

具备通用性、交互性和灵巧性,能像人类一样理解周围世界并作出反应的“具身推理”机器人AI模型,新近由谷歌旗下的一家人工智能(AI)企业推出。它可将物理动作作为一种新模式来直接控制机器人,适用于处理极其复杂、需要精确操作的多步骤任务。这将为开发新一代实用机器人奠定基础。

而在中国,以“具身智能”为核心的人形机器人的技术进化,已经从单一的运动能力提升,转向了更为复杂的“感知-决策-执行”全链条智能化升级。据国家地方共建人形机器人创新中心首席科学家江磊介绍,人形机器人将能更加深入地理解人类情感,提供更加自然和人性化的交流互动。未来,这无疑将深刻地改变人类的生产方式和生活方式。

“热闹”之时,风险及其监管问题也被提出来了。3月17日的《经济观察报》以“AI会觉醒吗”为题,刊出中国社会科学院研究员刘诚撰写的文章,表达了某些疑虑:人工智能目前已具有很强的自主学习的主体性,社会认知大幅提升。由数据驱动、大量节点构成的神经网络,或将形成属于机器的自我意识空间。我们面临的最大风险,是“人工智能觉醒后形成的自我意识与人类的利益相悖。”

作者的担心源于这样的“推理”:在充分掌握了人类现存的知识后,人工智能当能自主模拟现实世界,形成新的认知,从而超出人类的知识边界。人工智能还可以学习人类的情感和思维,具备一定的人格化特征,甚至把人类情感因素当成知识来学习和模仿,进行谋略计算、价值观计算、社会计算、情感计算等人类思想领域的学习训练……

当机器智能超越人类并不受人类控制时,会怎样?多年来这一直都是科幻小说和科幻电影所热衷呈现的主题。

在1966年出版的科幻小说《严厉的月亮》中,美国科幻作家罗伯特·海因莱因描述了一台具有自我意识与情感、能够跟人类进行对话和交流的思想型电脑。它帮助由地球移居过去的新生月球人展开武装斗争,终于在月球上获得了独立自主权。由英国科幻作家阿瑟·克拉克参与剧本创作、美国导演斯坦利·库布里克执导的科幻电影《2001太空漫游》中,则有一幕恐怖的场景:在一艘从地球出发飞向土星的宇宙飞船上,控制飞船的大型计算机突然反叛,设计谋杀了处于“冬眠”状态的几位宇航员。唯一幸存的宇航员不得不与其展开较量,最后终于夺回了主动权。

其实,早在计算机刚被发明出来不久,科学界就有对于“思维机器”可能存在风险的忧虑了。1951年,英国数学家、“计算机科学之父”阿兰·图灵告诫说:“……它们可以通过互相交流来增进它们的心智。所以,到了某一个阶段,我们将不得不考虑机器控制世界这个问题了。”过后不久,计算机的重要奠基人之一、匈牙利裔美籍数学家冯·诺伊曼首次提出,随着技术的加速进步以及人类生活方式的转变,人类历史似乎即将面临某个本性奇点,自此人类文明将很难延续。

20世纪90年代初,“奇点”一词被美国计算机专家和科幻作家弗诺·文奇引述,并进行了“改造”,用来描述那种无情的、飞速前进的科技发展最终将达到的一种临界聚集状态。他认为,人工智能、人类生物改良或脑机接口这样一些由超人类智能驱动的进步极其迅速,很可能会引发奇点来临。后来,美国发明家和思想家雷·库兹韦尔对“奇点”(Singularity)的概念和涵义进行了更为详细的阐释,并用“奇点”来表示独特的乃至无法掌控的事件以及种种奇异的影响。

在科学史上,与奇点相似的概念被称为“范式转移”。这是美国科学哲学家托马斯·库恩在其经典著作《科学革命的结构》中提出的一个重要概念,指的是某种新概念或新技术的到来彻底摧毁了人们以往理解事物的方式,导致“科学革命”的发生。而据奇点理论可以推测,人工智能研发将不可避免地导致“智能爆发”和“超级智能”的出现。

近来有学者提示说:能够自行处理信息的人工智能,堪称能够做出决策的行为者。人工智能是历史上第一个能够自行做决策、创造新想法的技术。还有一种预示:21世纪前50年内,人类社会将作出艰难的抉择,允许智能机器拥有成为我们的仆人、伙伴或主人的潜力。

身处已经到来的智能机器时代,我们再不能以看待过去的视野,去理解必将超越它的事物了。

相关新闻

  • TEL:010-58884104
  • E-Mail:kepu@kepu.gov.cn
  • 如果您有任何意见或建议,请联系我们!