摇曳烛光

在人工智能技术狂飙突进的时代，有不少人发声警示，AI（人工智能）可能对未来发展产生负面影响，甚至存在潜在威胁。

2023年，数百名人工智能领域的杰出人士签署了一封公开信，称人工智能对人类构成了严重威胁。签名者包括人工智能教父约书亚·本吉奥、人工智能顶级专家和图灵奖得主杰弗里·辛顿，还有数十名人工智能研究人员，以及顶级人工智能实验室的首席执行官和技术负责人。

另外，人工智能研究人员的调查发现，人类因超级人工智能而灭绝的概率约为六分之一。研究表明，足够聪明的人工智能会发展出自己的目标，并与人类发生冲突。但是，从目前而言，人工智能竞赛已呈现出愈演愈烈的趋势。

美国作家埃利泽·尤德考斯基和内特·索雷斯的新书《谁若造之，众生皆灭：为什么超级人工智能会杀死我们所有人》（以下简称《谁若造之，众生皆灭》）阐述了一个惊人的观点：人类对人工智能的争夺已经把我们推向了灭绝的道路——但现在改变方向为时不晚。

两位作者在书中讲述了几个核心问题：一个超级智能机器怎么可能消灭人类整个物种？它为什么要这么做呢？它会想要什么？在这本书中，埃利泽·尤德考斯基和内特·索雷斯给出了理论和证据，提出了一种可能的人类灭绝情景，并解释了人类在什么条件下才能生存。

美国作家雷·库兹韦尔在其著作《当我们沉迷于AI时，奇点正在逼近》中曾预测，人工智能将在2029年达到人类的智力水平，并研究了技术的指数增长。他认为技术将以指数级速度迭代，最终在“奇点”时刻实现“人类智力的百万倍扩展”，届时人工智能与人类智能深度融合，将从根本上重构人类的生存方式、认知边界乃至生命形态，彻底改变文明发展轨迹。这些思想在《谁若造之，众生皆灭》一书中得到了进一步的阐释。

在《谁若造之，众生皆灭》一书中，作者逐步地阐述了其核心论点：比人类更聪明的人造智能系统是如何追求目标的，为什么专家们说的“我们会拔掉插头”仅仅是一种幻想，微小的偏差是如何演变成不可逆转的结果的。

《谁若造之，众生皆灭》可以说是21世纪最重要的一本书。无论对人工智能了解多少，你都可以通过作者描述的简单易懂的案例，理解他们的观点，以及了解超级人工智能存在的风险。这本书的英文版只有323页，在阅读时并不需要储备高等数学知识或编程知识。对于那些对人工智能领域很好奇但了解不多的人来说，这本书是合适的；对于该领域的专家或者对作者比较关注的人来说，这本书在文本层面构建了足够深入的对话空间。作者将几个关于超级人工智能风险的论点和案例放在一起，很容易被读者理解。

这本书毫不留情而且直截了当地强调，如果不改变目前的情况，或者出台相关人工智能的安全措施，人类可能会付出最惨痛的代价。

（作者系中国科学院大学教授、国际科学素养促进中心研究员）