阿西莫夫与“机器人三定律”
  • 来源:科普时报
  • 作者:付昌义
  • 2019-08-21 08:52




2016年的3月15日,谷歌围棋人工智能AlphaGo获得人机大战的最后一场胜利,最终以4:1大胜世界围棋冠军韩国人李世石。这场世纪大战之后,就有人大呼人工智能元年已经到来,人类的未来要被人工智能统治。

其实,一场围棋之战说明不了什么,早在1997年电脑“深蓝”战胜国际象棋世界冠军卡斯帕罗夫时,就已经有过类似的说法,但20年过去了,人工智能仅仅是由国际象棋拓展到围棋而已。更早之前就预见了人工智能与人类之间对抗的,还应是世界科幻大师艾萨克·阿西莫夫,他的作品《我,机器人》《钢穴》《裸阳》《曙光中的机器人》《机器人与帝国》早在60年前就设想了人工智能和机器人的出现,以及人类如何应对的策略。

当然,在小说中写出机器人这个词不是阿西莫夫,而是捷克科幻作家卡尔恰佩克,他于1921年在名为《罗素姆万能机器人》的戏剧作品中创造了“robot”(机器人)这个名词。它源于捷克语的“robota”,意思是“苦力”。在该剧的结尾,机器人接管了地球,并毁灭了它们的创造者。阿西莫夫对机器人小说最大的贡献是,他创造了“机器人三定律”,给机器人设立了规则,有效地降低了机器人毁灭人类的可能。他在1950年出版的小说集《我,机器人》( I, Robot )(最新翻译版本是2014年江苏文艺出版社出版的《机器人短篇全集》)中系统阐释了“机器人三定律”:“第一,不伤害定律:机器人不得伤害人类,也不得见人受到伤害而袖手旁观;第二,服从定律:机器人必须服从人的命令,但不得违反第一定律;第三,自保定律:机器人必须保护自己,但不得违反一、二定律。”

这三条定律在制造机器人伊始便被嵌入其大脑,永远无法消除。毋庸置疑,阿西莫夫的贡献是巨大的,其后的文学作品,如果不是专门讨论人工智能伦理问题,基本都会遵循该定律来叙事。在三定律的背后,是阿西莫夫为了确保人类的统治地位,而设想了一种符合康德“绝对律令伦理学”的人工智能。

三定律应用在复杂多变的现实社会,常常会捉襟见肘,有时甚至会引发自相矛盾的窘况。阿西莫夫本人也意识到了这一点,因此对三定律的修改成为他后期作品的主线。在《可以避免的冲突》( The Evitable Conflict,1950 )中,机器人为了避免人类个体彼此伤害,便限制人类的行为,转由机器人掌控一切。这促使阿西莫夫补充了“第零定律”:机器人不得伤害人类整体,或袖手旁观坐视人类整体受到伤害。原先的三定律都要服从第零定律。

但是,这条定律的最大问题就是:机器人如何权衡自己当下的行为会不会伤害人类整体?后来,其他学者也提出了修正建议,最著名的当属保加利亚作家狄勒乌(Lyuben Dilov)在小说《伊卡洛斯之路》(1974)中提出的“第四定律”:机器人在任何情况下都必须确认自己是机器人。

另外,机器人三定律也忽视了人类和机器人的情感问题。众所周知,人类的情感世界是非常复杂的。也许机器人保姆把某些人抚养长大后,他们之间会产生类似亲情的感情,譬如阿西莫夫的小说《罗比》(1950)。不过,难能可贵的是,阿西莫夫在后期作品《两百岁的人》(1976)中打破了传统观念。小说描写机器人安德鲁为了成为真正的人,逐步将自己的机械零件替换成活体器官,终于在两百岁生日的弥留之际,以死亡的代价获得了人类的承认。

不过,即使这样,阿西莫夫对机器人的真正感情还是没有深入的思考过,而且关于机器人或者是人工智能的感情模块也是目前讨论最多的话题。当然,如果把人造人也视为人工智能的一部分,那么,雪莱夫人1818年发表的《弗兰肯斯坦》应该是对这人造人情感话题探讨的最早的科幻小说了。

(作者系南京工业大学副教授,江苏省科普作家协会科幻专业委员会主任委员)


  • TEL:010-58884104
  • E-Mail:kepu@kepu.gov.cn
  • 如果您有任何意见或建议,请联系我们!
  • 版权所有:中国科普网
  • 京ICP备05022684号-3
  • 网站标识码:bm06000004