机器人学三大法则，似乎也难以真正调和未来可能涌现的人机关系
第一条：机器人不得伤害人类，或因不作为而使人类受到伤害。
第二条：除非违背第一法则，机器人必须服从人类的命令。
第三条：在不违背第一及第二法则的情况下，机器人必须保护自己。
——《我，机器人》序机器人的“摩西十诫”“机器人学三大法则”是美国科幻作家阿西莫夫在1950年出版的短篇小说集《我，机器人》中提出的。书中，阿西莫夫为这本过去十年作品的集锦重新作了序言，并在序言中把这三条“机器人学三大法则”放在了首位。
阿西莫夫采取了一种类似于归谬法的方式来验证三大法则的完备程度。
即提出它们的变体，然后又在科幻故事中展示这些变体所带来的的逻辑困境与伦理学灾难。正是这些作品让更多的人类意识到了机器人的恐怖，以及三大定律的重要性。
在阿西莫夫之后，风云际会的科幻界又接连抛出许多概念。20世纪末互联网的兴起，赛博空间的隐喻、数字乌托邦的远景、攻壳机动队的迷幻、Matrix的象征，无不让读者将目光投向了一个虚拟的网络空间。
无论如何，在1950年代科幻界的兴趣还在现实世界时，阿西莫夫的机器人三大法则对于机器人的地位则犹如摩西十诫，这三条规则环环相扣，逻辑清晰，如同数学公式般透出简洁美，是一切人与机器人共处社会的伦理基石。
在人工智能技术飞速发展的今天，机器人已经从应用研究阶段向普及化发展，除了工业机器人，服务业、交通、社交机器人也不断投入研发推广，人与机器人相处将不仅仅是科幻小说中的故事。也正因此，阿西莫夫的三大法则，对未来人与机器人之间的伦理建构具有一定的指导意义。但哪怕在新技术涌现一百年前，社会研究的变量就已经十分繁多，靠三条数学公式一般的法则，真的能够囊括所有情况吗？
“三大法则”的漏洞事实上，阿西莫夫正是在这三大法则漏洞的基础上，构建了《我，机器人》中的9则小故事。“一开始机器人还不会说话，最后他们挺立于人类与毁灭之间”，苏珊·凯文所讲的9个小故事，贯穿始终的是机器人在法则出现漏洞情况下的失范行为。
在《转圈圈》中，机器人速必敌正是由于第三法则“自保”和第二法则“服从命令”相冲突，因而在硒矿周围兜圈子。这样的故事数见不鲜：精通人性的机器人厄比为了不对人造成精神上的伤害，而说出刻意迎合他们内心的话，成为了一个两面三刀的“骗子”；纳斯特十号由于服从主人说出“给我消失”这样的气话，试图伪装自己逃跑。甚至在最后一则故事中，机器人成为了联邦首领，为了逃避检查，他们已经学会了如何绕开三大法则行事。
在《机器人与帝国》中，阿西莫夫补充了第零法则：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。这主要是为了类似于刑罚的情况，有些犯下重罪必须处死的罪犯，机器人却由于不能对人类个体受难而袖手旁观，而出现“劫法场”的情况。
但在书中，阿西莫夫展示了这条法则的毁灭性力量。诞生之初被赋予机器人三法则的VIKI，在自然进化的过程中跨越了三法则的界限，获得了“第零法则”这一高等智慧。经过计算，她认为任由人类发展只会导致更多的灾难、战争和贫穷，于是在“第零法则”的支配下，她只能选择用自己理性的“大脑”支配和保护人类，以免这一物种的灭绝———实际上，“她”还是在为人类着想，但代价是抹消人类的自由意志。
事实上，以“义务伦理学”为基础的伦理框架很难在现实中行得通，即一项行为合不合道德，只决定于行为本身是否符合几条事先确定的规范，和行为的结果、动机等等完全无关。
此外，第零法则“人类整体”这个混沌的概念有时连人自己都弄不清楚。譬如国家之间的战争，正义与否从来都是存在争议的，机器人的二进制算法，使得他们面对模糊的问题将很难做出抉择。
零和抑或融合别忘了，阿西莫夫所构建的机器人伦理依旧是以人为中心的对抗式逻辑。一些爱好者将其称之为“基质沙文主义”：仅仅因为机器人是硅基生命，而不是人的碳基血肉之躯，他们就必须服从三法则，维持一个人类特权的社会结构，哪怕自身有再强的适应性与工作能力。”
但人与机器人的相处方式必须是对抗式的吗？至少在科幻以外的现实世界，卡内基梅隆大学计算机学院副院长卡塞尔表示：“我不会允许我的人工智能独立于人类工作。我只打造与人合作的人工智能。”至于诸多科幻作品中，人工智能反抗人类暴政，最终取代堕落无能的人类的剧本，她则强调：“这些作品就像是拿了一面镜子，我们通过镜子审视自己，这些作品是在表达我们自己对未来的恐惧，而不是机器将会演化的未来。”“对我来说，最可信的一个未来，是自下而上的（变革）。也就是说，作为一个社会，我们要共担制造向善且公平的机器人这种责任，最终它会为所有人带来益处。”
更为激进的预言在著名发明家雷·库兹韦尔的《奇点临近》一书中：“人类与机器联合，嵌入我们大脑的知识和技巧将与我们创造的容量更大、速度更快、知识分享能力更强的智能相结合。”“这种融合便是奇点的本质。我们的智能会逐渐非生物化，其智能程度将远远高于今天的智能——一个新的文明正在冉冉升起，它将使我们超越人类的生物极限，大大加强我们的创造力。在这个新世界中，人类与机器、现实与虚拟的区别将变得模糊，我们可以任意装扮成不同的身体，扮演一系列不同的角色。”人与机器人从事工作的界限模糊，乃至人与机器人在物种上的界限模糊，都将产生与阿西莫夫三大法则完全不同的伦理规范。因而，机器人时代的人机伦理，仍然需要我们对新技术发展的仔细研判。
评论 (0)