第三篇 贝莱星 (第3/41页)
艾萨克·阿西莫夫提示您:看后求收藏(免费阅读www.readxs.net),接着再看更方便。
“那些指令能够完全抵消第一法则吗?”
吉斯卡说:“我懂了,你之所以讨论这件事,唯一的目的就是要提出这个问题。我劝你别再追究下去了。”
丹尼尔以倔强的口吻说:“那我就改用假设句吧,吉斯卡好友。不能当作事实来讨论的问题,当然还是可以虚构一番。如果能用定义和条件把指令说得面面俱到,又如果能用强而有力的方式,把指令叙述得足够详尽,那么在此前提下,有没有可能让机器人由于某个远远比不上拯救人类的原因,而杀害另一个人类呢?”
吉斯卡硬邦邦地说:“我不知道,但我猜应该有此可能。”
“可是,如果你猜得没错,就意味着第一法则可能会在某些特殊条件下失效。既然如此,它就可以被修改成仿佛不存在,而其他两大法则当然也一样。因此这些法则不再是绝对的铁律,而是机器人的设计者能够随意定义的,就连第一法则也不例外。”
吉斯卡说:“够了,丹尼尔好友,别再讲下去了。”
丹尼尔却说:“还差一步,吉斯卡好友。换成以利亚伙伴,他一定会再迈出一步。”
“他是人类,所以能那么做。”
“我必须试试看。机器人学三大法则——尤其是第一法则——如果并非铁律,如果能被人类随意修改,那么在适当情况下,我们自己不是也能修……”
他住口了。
吉斯卡有气无力地说:“别再讲下去了。”
丹尼尔答道:“我到此为止。”他的声音也有点模糊不清。
沉默维持了好长一阵子。两人都费了很大的劲,才让自己的正子电路恢复正常。
丹尼尔终于再度开口:“我又想到一件事。那名监督员共有两点可怕之处,一是她脑中的指令,二是她的外表。不只我自己,恐怕连船长都被她的外表影响了。推而广之,她有可能欺骗和误导所有的人类,就像我当初无意间骗倒了一级船工尼斯那样。一开始的时候,他显然并未察觉我是机器人。”
“从这