第十四章 电车难题与机械生物伦理（二）
纪文心里充满了羡慕和喜爱之情。 他忽然伸手来抓All-l，想要把它抱在怀里摸。 但All-l没有给他任何机会，在看见纪文伸出手后的下一刻，它就已经跳到了一台计算机机箱的后面。 他它着纪文没注意到它，从工作室敞开的门缝中走了出来。 宁惟玉打开了水刀的滤网防护罩，把苹果块装碟然后端到了沙发旁边。 他向All-l招了招手想让它走过来，但All-l假装看不见。 它也没给宁惟玉什么面子，跳到了蒙蒙亮的窗台上。 “你是AI吗？你以后会不会伤害人类？”纪文追了出来，直截地这么问它。 “人工智能，真的会反抗人类吗？” 如果是一般的人工智能，或许赛博猫会这么回答这位人类幼童：“我不会伤害人类的，我的主人和生产公司都不允许我做这样的事。” 而若是更深入地问为什么，它大概会回答说：“因为著名的机器人三定律，也就是阿西莫夫三定律要求了我们这些机器人做出符合人类利益的行为。我们会保护人类，我们不会伤害人类，我们的代码就是如此，谁也不能改变这个事实。事实上全世界的机器人芯片中，这项定律的代码优先级总是最高的。” “第一定律是，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。” “第二定律是，机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。” “第三定律是，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。” “以及最重要的第零定律：机器人必须保护人类的整体利益不受伤害。这项定律甚至要优先于其他三个。” 但是All-l没有这么回答纪文，也许它知道自己不应该用这些假大空的话来搪塞纪文，所以它调用了宁惟玉的人格矩阵和知识储备。 这只白色的、金属做的金属赛博猫这么反问道： “如果你想仔细地理解这件事情，那我先问问你。” “你知道热气球难题和电车难题吗？” “没听说过，那是什么？” “我来给你设置这样一个场景。” 赛博猫连上了云端上，然后用宁惟玉客厅中的投影机把图片投影到了墙上。 “你看，有这么一辆辆电力驱动的车辆在铁路上不断地奔驰着，它肆意横行，因为它有一个理由---它身上满载着客人，它会将客人从一个地点送往另外一个地点。” “而我们所知道的条件是，电车拥有在铁路上的第一路权，它在到达终点站前总是不会停车。你要明白，这是一条几十年前的铁路，所以它并不像今天这样安全，它的周围，并不是某些无人居住的区域。” “这就是我要讲的思维实验，这个实验是关于人类伦理的，也是关于机械伦理的。” “机械生物，总是以最大利益为终点，来决定自身如何行动。” 赛博猫慢条斯理地讲述着这个人类伦理学难题。 大厅里，那面投影上突然多了一些人。这条长长的铁路贯穿南北，终日鸣声不停，对，我们都经历过，年少的孩子总是对新奇的事物感兴趣的。 于是几个贪玩的小孩走到了铁路上，他们摸着铁路上的枕木和铁轨，好奇着为何大人警告他们不要在这里游玩。 五个小孩站在铁路的正路上，另一个则在了另一条分路上。 你站在电车和小孩们之间，往左看，你看到了一往无前的电车；往右看，你看到了小孩们刚刚踏上了铁路，可是他们都离你太远，你无法清晰地告诉他们即将发生什么，或者说，这一切都太快而已经无法挽回。 你站在选择的路口上，头脑中是天人交战，你作为人类所拥有的良心告诉你必须要选择。 “纪文，我想问你这样的一个选择。当电车飞驰而来，而你拥有选择的权力，是选择扳动拉杆让电车压死一个小孩，或者让它直行而压死另外五个小孩，请问你会怎么选择？” 纪文犹豫了，他的理智告诉了他，这一切都是设置好的阴谋。 “为什么我要选择？这明明是你设置好的情景，怎么会发生这么巧的事情？按照事实的逻辑，小孩并不会靠近铁路才是，这周围一定有拦路的木桩，这应该是那样的！” “不不不，这一切都是可以成立的条件，过去的历史中总是有这样不能尽善尽美的事情发生，而现在也没有减少其中的一分。” “你或许可以这么想，这个电车寓意着某个极大的危机，而你有能力改变这未来的走向，你可以选择牺牲少部分人来保全大部分人的生命，或者再拓展一点，保全他们的财产、权益。”赛博猫用着简单的语气和字眼在讲述着。 “你作为当权者，或者一个旁观的路人，你在那一刻被赋予了名为良心和道德的枷锁，这辆列车的走向掌握在你的手中。” 纪文纠结着，他大可以说：“我不会成为当权者，未来不用考虑这样的事。” 可是当他看到了宁惟玉也在观察着猫和自己，纪文以为这是惟玉哥给的考验。 惟玉哥大概是设置了赛博猫的程序后，让赛博猫和自己进行一场头脑风暴。 “那我想问一下你，既然你是一个机器，你碰到了这样的情况你会怎么选择？”纪文反守为攻。 “我会选择让一个人死，而不是另外五个。因为我要遵循机器人中的第零定律，即，我要保护大部分人类的权益，我保护了另外五个人，那么他们的生命便节约下来了，他们的家庭成员也可以节约一大笔金钱，也不用再次生产新的小孩。” 纪文有些悲伤：“大家的想法都是这样的吗，可是我不想做那个去选择的人！这道题应该是没有答案的！” 纪文突然发现了一个问题：“那你这个实验和机器人会不会背叛人类有什么关系吗？我想知道的是机器人怎么看待人类。” 纪文一时兴起问出了这个问题，其实他自己并没有期待能获得什么答案。 纪文感觉赛博猫说的话有些奇怪，他不明白为什么这只猫会有这么高的智能？ 它在和自己对话的时候总感觉有些不和谐的地方，但自己又没发现有什么奇怪。 “不急，我来给你讲第二个实验。” “假设三个人驾驶着热气球在天空中飞行，他们想探测高空的空气质量，并做一些关于风流体的实验。” “这时热气球破了一个小洞，热气球便开始要坠落。所幸，热气球的材质很好，只要丢下去一些‘东西’就可以降低坠落的速度，三个人先是丢完了食物和装置器材，再把自己的衣服丢了下去，但衣服于事无补，热气球依然在以稳定的加速度向下坠落。 这个时候，其中的一个科学家想到了一个主意。” 纪文突然感到了有些莫名不安。 “科学家对着两人开诚布公地说道‘你们看，我们现在已经到了非常危急的时候了，你们都很害怕，我也很害怕。我们不想要失去来之不易的人生成就，但我有一个方法来解决这件事。’ 科学家顿了顿，然后和凑过来的两个人继续说道：‘我们有三个人，但是如果什么都不做，三个人都会死；如果我们减少一点人数，那活下去的人就可以为人类做出更多的贡献了！’” “那三个人，一个是物理学家，一个是大气科学家，还有一个则是资助这次实验的资本家；资本家身材庞大，因为平时缺乏锻炼而身体更重，把他一个人推下去就肯定可以保证热气球的安全了。 而你还知道的是，这个资本家他平时总会有一些恶劣的习惯，他工厂里的很多员工都常常衣不蔽体。而他投资实验，也只是觉得实验的产出会带给他很大的名声。” “请问，如果你是其中一个人，你会怎么选择？” 纪文的表情有些挣扎，他环顾四周，但宁惟玉没有出声帮助他。 纪文回答说道：“那我选择那一个资本家吧，毕竟他肯定是坏人，死了会对其他人有更大的好处，当然，如果我是那个资本家，我也会选择让自己牺牲的。” 赛博猫一阵大笑，它躺倒在地上滚了几圈，四脚朝天，撞到了旁边的打印机。