阿西莫夫机器人第零原则

2010-04-03 10:09阅读：

http://blog.sina.cn/dpool/blog/u/1624368617

为每一滴水担忧
——阿西莫夫机器人第零原则

干戈戚扬http://blog.sina.com.cn/ggqyzm

第零原则由“伟大的机器人”R·丹尼尔·奥利瓦（R. Daneel Olivaw）最先明确提出，但丹尼尔却是从“伟大的人类”贝莱那里获得这样的观念。在《机器人与帝国》里，丹尼尔深情地回忆伊利亚·贝莱临终前的话：全人类的生命——过去的、现在的和将来的——汇成了永不停息的生命的长河，并将变得越来越壮丽。一个人的生命，只是这生命长河中的一滴水。“要想到人类生命的长河，不要为一滴水而担忧。”
如果回溯到更早以前，在《钢穴》时期，贝莱就已经认识到“机器人不得伤害人类，除非这个机器人能证明伤害他最后是为了他好。”而这个认识却是在听完丹尼尔一个长篇演说后形成的。所以应该说，第零原则是贝莱与丹尼尔共同推动产生，并由丹尼尔最终完整提出。最后，吉斯卡特又为第零原则加入一个重要限制，最终形成了一个由丹尼尔和它的伙伴们掌控实施、对银河系人类未来历史产生巨大影响的弱第零原则。
在基地前传及后传中，阿西莫夫仍然使用机器人原则作为推动故事情节的工具，继续对机器人原则进行探索。在各个原则中，广义的第一原则（即第零原则及狭义的第一原则）仍然是主角，所不同的是，关注的要点不再是狭义第一原则，而是第零原则。此前相互独立的机器人三原则与“心理史学”开始交汇，由此展开阿西莫夫人类未来史中极为壮

丽的篇章。
第零原则有两种，一种是丹尼尔的第零原则，另一种是吉斯卡特的第零原则。丹尼尔是第一个提出第零原则的机器人，吉斯卡特是第一个实践第零原则的机器人。吉斯卡特为了挽救地球人类，断然使用心灵感应能力，使阿曼蒂罗博士丧失了记忆及思维能力，并抹去曼德默斯博士对自己所作所为的记忆。按照第零原则的字面规定，吉斯卡特的行为没有任何违反规则之处，这提供了一种遵循第零原则的模式：为了人类整体利益，可以故意伤害甚至严重伤害人类个体。虽然吉斯卡特最后领悟了这种强烈的第零原则存在问题，但毕竟只有它按照这种方式实践过第零原则，所以，这是“吉斯卡特的第零原则”。
而基地前传时代的丹尼尔，这个时任银河第一帝国首相，遵循的却是附加了最小限度原则的第零原则。这是说，第零原则高于第一原则，但第零原则的运用却必须极度谨慎，哪怕为了人类整体利益，也只能在最小限度内对人的思想进行干预，应将人类个体可能因此遭受的伤害降到最低限度。这就意味着，第零原则还是高于第一原则，但现在只是高出一点而已，已经不允许为了第零原则的原因去故意伤害或者严重伤害人类个体。
把最小限度原则加入第零原则，使阿西莫夫的两大假想学说——机器人学和心理史学找到了共同点。心理史学也遵循最小限度原则，要求将心理史学对人类历史的干预减小到最小限度。把最小限度原则加入第零原则后，第零原则被拉到了只比第一原则高出一点点，第零原则的实施遭受巨大的困难，所能产生的效用也极度减弱。基地时代丹尼尔遵循的第零原则就是这个降级版第零原则，与之相比，吉斯卡特曾经实践的第零原则是不折不扣的强原则，而降级后的第零原则是不折不扣的弱原则。
丹尼尔的弱第零原则要求，机器人不能以维护人类整体利益为由伤害或者严重伤害人类个体，这是对第零原则和第一原则之间关系的实质性变动。难怪丹尼尔在弱第零原则支配下，虽然贵为帝国首相，却仍步步心惊胆战，处处诚惶诚恐。弱第零原则就像是阿西莫夫给我们开的一个小小的玩笑：根据第一原则的性质（它是机器人的自然属性和本能），普通机器人没有任何违反第一原则的可能性，所以他们不会因为违反第一原则而被毁损；相反，只有像吉斯卡特、丹尼尔这样技术先进、心智成熟、境界高远、以维护人类整体利益为己任的人类保护神，才有可能因为试图按照弱第零原则行事，面临违反第一原则而毁损的现实可能。这的确是阿西莫夫版“老实人吃亏”幽默剧。
阿西莫夫为什么会在第零原则中加入最小限度原则？其实这算是吉斯卡特的“遗训”。虽然吉斯卡特第一个按照第零原则伤害人类个体，但也是它首先认识到第零原则的问题所在。吉斯卡特在临终前教导丹尼尔说：谨遵第零原则，但除非万不得以，不要伤害人类个体，第一原则几乎同等重要（对比吉斯卡特的行为，这句话竟然是吉斯卡特说的！）。从丹尼尔此后的行事看，它对此的确算是欢喜信受的。从观念上说，丹尼尔之所以遵循弱第零原则，是因为“人类整体利益”过于抽象，它不能判断什么符合人类整体利益，什么又不符合；也因为机器人不能代替人类就其整体利益问题作出决定——一是无法，二则不能。《基地与地球》中，丹尼尔困惑地说：“理论上，第零法则可以解决我们的问题；实际上，我们永远无法做出决定。人类是个具体的对象，对一个人构成的伤害不难估量判断；人类整体则是抽象的概念，我们应该如何对待处理呢？”这的确道出了第零原则存在的巨大缺陷。
丹尼尔解决这个问题的方法实际上是在回避问题（或者是超越问题）。它并不是想办法去界定“人类整体利益”之类抽象概念，而是取消集体利益，让整体利益变成“个体利益”。它的办法是，策划建成盖娅行星，并准备把盖娅行星模式推广到整个银河系人类中。所谓“盖娅行星模式”，就是行星上所有人类、动物、植物甚至一切无机物共有一个集体意识，形成一个超级有机体，这个超级有机体中的每一个成员都把这个超级有机体看得比自身更重要。盖娅模式已经远远超出了伦理学上集体主义的范畴，它标志着一种新的社会制度（如果还有“社会”的话），标志着阿西莫夫设想的人类进化的终点，从物质形态发展历史看，还标志着一种全新的物质形态。虽然很多读者对银河系最终会按照盖娅行星模式组建心怀不满，但阿西莫夫通过这种方式，一劳永逸地解决了第零原则存在的根本缺陷，并阐述了他对人类（及人类社会）作为生物（及物质形态）未来演化方向的超前预测。
盖娅属于遥远的未来，即使对站在阿西莫夫人类未来史终点处（距今两万多年后）的丹尼尔来说，也是如此。在丹尼尔开始执行其保护人类的神圣使命开始，直到盖娅银河系建设成功，它仍然要面对第零原则内在存在的问题。正是在这种情况下，丹尼尔遵循吉斯卡特的“遗训”，采弱第零原则，将运用第零原则对人类造成的影响降低到尽可能低的程度。
不能不看到，第零原则与第一原则、第二原则及第三原则还存在一个根本的不同。第零原则是机器人自行参悟出来的，而其他原则是人类在制造机器人时就已经置入正电子脑的，很显然，第零原则并不是隶属于正电子脑“数学基础”范围内的规则；它并不是人类赋予的、正电子脑先天固有的规则，而是机器人通过后天学习、领悟产生的规则，其有效性自然要大打折扣。这也是第零原则成为弱原则的非常重要的原因。
由于上述几个原因，在阿西莫夫小说中，弱第零原则是第零原则的常态，这是意料中事。贝莱所说“要想到人类生命的长河，不要为一滴水而担忧”，实际上并没有做到。贝莱的观点和此后形成的第零原则，实际上只是给丹尼尔指出了一个主动维护人类整体利益的目标，但在这个目标之下，并没有强有力的手段支持。到最后，丹尼尔不仅要想到人类整体生命的长河，还不得不为这条河中可能受到自己行为影响的每一滴水担忧。

其他相关文章：
·阿西莫夫机器人三原则
·阿西莫夫机器人第一原则之一
·阿西莫夫机器人第一原则之二
·阿西莫夫机器人第零原则
·阿西莫夫机器人第二原则
·阿西莫夫机器人第三原则

举报/Report

我的更多文章

下载客户端阅读体验更佳