摇曳烛光

在《AI控：人工智能统治的未来——人工智能将如何重新定义民主、社会和人权》（以下简称《AI控：人工智能统治的未来》）一书中，作者达尔·阿斯特拉提出了一个关于人工智能时代治理的富有前瞻性的愿景，并首次引入一个术语——“Aiocracy”。目前，该概念在国内尚未引起广泛关注或讨论，笔者将其译为一个相对中性的中文表达：“AI控”。

作者凭借敏锐的洞察力和引人入胜的叙事，试图让读者了解AI带来的道德困境：AI控会带来前所未有的公平、效率、自由，还是预示着一个数字暴政的新时代？该书融合了深思熟虑的分析，让公众理解“AI控”这个概念，以及目前AI在技术和治理交叉领域发生的深刻变革。

谈到这一变革趋势，“奇点”的到来将不足为奇。作者提到，在临界点，人工智能系统将通过自我改进，超越人类的智能。到那时，机器人将真正接管世界，人工智能将使战争、贫困、疾病成为过去。在这样的背景下，《AI控：人工智能统治的未来》生动地展现了将最关键的决策，委托给算法的可能性和危险性。通过细致的研究和扣人心弦的现实世界案例，作者阿斯特拉揭示了人工智能将如何影响司法裁决、经济政策，甚至人权，并为不确定的未来绘制发展道路。

不可否认，在人工智能的推动下，一些重大科技进展即将出现，并为我们创造更好的未来。例如，人工智能可以用非常低的成本为更多人提供可靠的建议；它可以帮助我们探寻目前无法治愈的疾病的治疗方案，扩大获得可靠医疗建议的机会，而不需要额外的医学专家。

但是，在其他领域，我们应该对未来的人工智能发展保持一种审慎的悲观态度。人工智能的发展可能在军事、个人隐私保护，以及就业等方面带来潜在风险。目前，自动化武器已经投入应用，未来它们可能具备自主选择攻击目标的能力。与此同时，随着政府和企业获取大数据的能力不断增强，个人隐私面临越来越严重的泄露威胁。此外，随着人工智能逐步接管越来越多的日常任务，许多传统职业将被取代，工作的本质也将发生深刻变化。在这种背景下，我们或许需要探讨实施“全民基本收入”的可能性，当然，这依赖于有足够的税收基础。

人工智能可能带来的另一个令人担忧的影响，是取代人与人之间的真实互动。例如，当我们打电话寻求帮助时，电话只能在自动语音系统中反复转接，我们无法与真实的人进行沟通，无法获得自己想要的答案。这种缺乏人类同理心的交流，不仅让人沮丧，也可能影响人们的情感表达。尽管有人相信自然语言处理技术可以胜任这类任务，但实际上，人工智能即便能识别词汇、语调、停顿，或者表情中的部分情绪，却无法作出真正恰当的人类反应。它可以说“我理解你的感受”或“这真是个好消息”，但这些话语往往空洞无意义。

当然，另一种可能性是让人类继续发挥自身作用，而将机器人作为辅助工具。现实中，许多涉及身心照护与情感交流的工作长期被低估。理想情况下，这些工作将在未来获得更多的尊重、更合理的报酬。但或许，这只是我们一厢情愿的想法。

这是一本富有洞察力和挑衅性的必读书籍，它揭示了人类即将面临的十字路口。未来就在眼前，问题依然未得到解决：我们准备好面对这种形势了吗？

（作者系中国科学院大学教授、国际科学素养促进中心研究员）