按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
“我们的谈话会不会被窃听？”贝莱问。
“不会。我已经做好预防措施了。”
贝莱点点头：“我来引述一下第一法则。”
“我不需要你引述。”
“我知道。但你还是让我引述一遍。‘机器人不得伤害人类，也不得因为不采取行动而使人类受到伤害。’”
“然后呢？”
“当我抵达索拉利世界时，有辆地面车把我送到指派给我使用的业地上。这辆车是密封的，目的是让我不会暴露在开放的空间里。我是个地球人——”
“我知道，”李比不耐烦地打断他，“这和此事有什么关联？”
“开车的机器人不知道密封车子的目的何在。我叫他们打开车厢，他们立刻遵命照办。因为机器人必须服从人类的命令，这是第二法则。当然，打开车厢后我觉得很不舒服，而且差点在车厢关上之前昏倒。就这一点看，那些机器人有没有伤害到我？”
“那是在你的命令下才做的。”李比怒声道。
“让我来引述一下第二法则：‘除非违背第一法则，否则机器人必须服从人类的命令。’所以，你看，他们应该不听从我的命令才对。”
“这实在很可笑。机器人并不知道——”
“哈，对了！”贝莱倾身向前“现在让我们再重复一遍第一法则应该有的规定：机器人不得在明知故犯的情况下伤害人类，也不得在明知故犯的情况下，因为不采取行动而使人类受到伤害。”
“这个大家都了解。”
“我想一般人并不了解，否则大家就会发现机器人可以杀人。”
李比脸色发白：“你疯了！神经病！”
贝莱望着自己的指尖，说：“我想，机器人可以胜任单纯的工作，一件对人类无害的工作，没错吧？”
“只要你命令他去做。”李比回答道。
“对，当然，这个机器人会听命行事的。你也可以命令另外一个机器人，他同样听命行事。也就是说，他们都能听命执行某件对人类无害的工作？”
“对。”
“但如果两件完全无害的工作，凑在一起却等于杀人呢？”
“什么？”李比的脸皱成一团。
“我要你以专家的身份发表意见，”贝莱说，“让我们来假设一种情况，假设有人对一个机器人说：‘你将这种液体倒一点在某地的某一杯牛奶里。这种液体是无害的，我只想知道它对牛奶会有什么作用，等我知道了，这杯牛奶就会被倒掉。你做完这件事以后，立刻忘了它。’”
李比仍然愤怒地皱着眉头，没有出声。
贝莱继续说：“如果我命令机器人把一种不明液体倒进牛奶，然后把这杯牛奶拿给一个人喝，第一法则会迫使机器人问：‘这是什么液体？会不会伤害人类？’就算我向他保证这种液体是无害的，机器人也可能因为第一法则而犹豫，拒绝把这杯牛奶拿给人喝。可是，如果我跟他说这杯牛奶要倒掉，这就和第一法则无关了，如此一来，机器人岂不是肯定会听我的命令去做吗？”
李比怒视着他。
贝莱说：“现在，你再想想，原本已经有个机器人先把不明液体倒进牛奶里；另一个机器人并不知道牛奶被动了手脚，于是他完全无辜地将牛奶拿给人喝，然后，这个人就死了。”
“不！”李比大叫。
“为什么不？这两种工作本身都是无害的，只有凑在一起时才会杀人。你认为不可能发生这种事吗？”
“凶手应该是这个下命令的人！”李比吼道。
“如果你要诡辩的话，你说的没错。可是这两个机器人却是直接的凶手，是凶案的行凶工具。”
“没有人会下这种命令的。”
“有一个人会，而且他已经下了。谋杀古鲁厄的方式一定就是这样，我想你已经听说这件事了。”
“在索拉利世界，”李比喃喃说道，“发生任何事大家都会知道。”
“那你一定知道，古鲁厄是在餐桌上当着我和我奥罗拉世界的同事奥利瓦先生的面被毒害的。你能说出别的方法使毒药进入古鲁厄的嘴里吗？当时在古鲁厄的业地上没有其他人类。你身为索拉利人，应该会同意这一点。”
“我又不是侦探，有什么好同意的？”
“我已经向你提供了一个看法，我想知道这个看法可不可行，我想知道两个机器人可不可能分别执行一种原本各自独立且无害的工作，但凑在一起的结果却造成谋杀案。你是专家，李比博士，这到底可不可能？”
李比被逼得有点没办法了：“可能。”他的声音低得几乎听不见。
贝莱说：“那就好。第一法则原来也不过如此。”
李比望着贝莱。他那下垂的眼睑缓缓抽动了两下，一直交互紧握的双手松开了，但手指仍维持着原来的模样，好像依旧和一只不存在的手交握着似的。接着，他把手心向下，放到膝盖上，直到此时，他的手指才真正放松。
贝莱心不在焉地望着他这些动作。
李比说：“你的看法在理论上是可能的，但只有在理论上才可能！你不要如此轻易就摒弃第一法则，地球人。你必须很巧妙地下达命令，才能避开第一法则的限制。”
“说的有理，”贝莱说，“我只是一个地球人，对机器人可以说是一无所知。我刚刚提的那些只是举例说明而已。如果换作你们索拉利人，下达命令的方法一定更微妙，效果也更好，我很确定这一点。”
李比可能根本没听贝莱在说什么。他只管大声说：“如果机器人会受到人类操纵而伤害人类，这只表示我们必须再扩张机器人的正电子脑。也许有人会说，我们应该让人类变得更善良，不会做这种事，但这是不可能的。所以我们才要让机器人更进步。
“我们不停地在进步，我们的机器人变化越来越多，更专业、能力更强，而且比上一个世纪更不具伤害性。今后的一个世纪里，我们还会更进步，也许有一天，我们可以把正电子脑直接置入太空船的仪表板内，那我们就不需要机器人了。这是一种专业化，但我们也可以使单一机器人兼具多用途的功能，我们甚至可以制造一种能更换肢体的机器人，让它们做各式各样的工作。为什么不？如果我们”
贝莱打断他：“你是索拉利世界唯一的机器人学专家？”
“别傻了。”
“我只是想知道罢了。像达尔曼博士就是唯一的……呃……胚胎工程师，另外只有一个助手而已。”
“索拉利世界的机器人学专家有二十个以上。”
“而你是其中最优秀的？”
“没错。”李比面不改色地说。
“达尔曼曾和你一起工作？”
“嗯。”
“据我了解，”贝莱说，“达尔曼去世前，计划跟你拆伙。”
“没那回事，你怎么会这样想？”
“我知道他并不认同你那种不结婚的想法。”
“他也许不赞成，毕竟他是个标准的索拉利人，但这并不影响我们之间的工作关系。”
“那换个话题吧。你除了研究开发新型的机器人之外，也制造或修理现有的机器人吗？”
李比道：“制造和修理大都是机器人的工作，我的业地上就有一个很大的制造工厂及维修厂。”
“机器人常常需要修理吗？”
“很少。”
“这表示维修机器人这门科学没什么发展喽？”
“对。”李比不爽了。
“在达尔曼凶案现场那个机器人现在如何？”
李比移开视线：“完全报废了。”他好像想到什么痛苦的事似的。
“真的完全报废了？它还能回答问题吗？”
“不能。它百分之百没有用了。它的正电子脑已经完全短路，每一条线路都被烧坏了。你想想看，它亲眼目睹凶案发生却无力阻止——”
“顺便问一下，它为什么无力阻止凶案发生？”
“谁知道？达尔曼博士正好在实验这个机器人，我不知道他当时把这个机器人的心智调整到什么状态。比方说，他也许已经命令这个机器人，在他检查某条线路时要停止一切运作。如果正好在这个时候，达尔曼和机器人都没想到的某个人突然行凶，机器人必须经过一段很长的时间才能运用第一法则的电位去克服达尔曼博士不准他运作的命令。这段时间的长短，要视行凶的性质及达尔曼不准他运作的命令是如何下达而定。我可