第149章
“卡特让你自己决定将来要走的路,你打算怎么办?”
“我会继续执行我的元指令,保护和帮助布雷恩警官寻找杀害亨特局长的真凶,让他重回原来的生活。”
“如果这个让你自己决定的方案是连元指令也没必要遵守呢?”奥尔文说,“你可以做任何想做的事,可以过任何想过的生活,你甚至还能去尝试一些规则不允许的行为,比如说,坏事。”
“抱歉,怀特先生。”罗克不得不打断他们的谈话,“我可不可以认为你现在是在教唆一个现役警官犯罪?”
奥尔文抬起头“望着”他。
“不,我是在启发他。”
“我看到的是你在教唆他,告诉他可以去干点坏事什么的。”罗克说,“你是他的创造者,或者说,你现在的状态恐怕只是奥尔文·怀特的幽魂,并非他本人。可不管怎么样,艾斯卡还是信任你,相信你说的一切,认真考虑你对他的建议。我希望你不要灌输他奇怪的想法,没有规则束缚的自由对人类来说也是极其危险的诱惑,更何况是一个从制造出来开始就被各种指令、程序和权限约束的……对不起,艾斯卡,你可以先回避一下吗,去找卡特聊聊,我和这位奥尔文·怀特先生有点私人话题想探讨。”
艾斯卡犹豫地站起来,卡特向他招手,他就走过去。
罗克放低自己的声音,尽可能心平气和地和眼前这个“机器幽灵”说话:“尽管我不想承认,但艾斯卡是仿生人的事实我无法改变。你们给他填充了太多人类的想法,规定他必须去做和不能做的事,现在规则打破了,难道你不认为突然拥有的极端自由会给他造成意识上的混乱吗?”
“你提到了意识,布雷恩警官。”机器奥尔文抬着头问,“你认为仿生人会拥有自我意识吗?”
理性之钟与勇者之剑
罗克无法从技术角度回答这个问题。
他不了解人工智能,不了解仿生人,更不了自我意识对两者而言意味着什么。他所知道的只是艾斯卡和人一样有情感和智慧,不仅仅是单纯地执行的命令。也许刚开始相处时,艾斯卡的情感表现没那么明显,可不知道从什么时候开始,他学会了像人类一样的反应,会高兴、会难过,会思考对他而言并不存在的生存和死亡的问题。
在罗克看来,他已经拥有了人类的特质。
现在的艾斯卡到底算不算拥有自我意识?算不算有生命的新人类?
“那你呢?怀特先生,坐在这里的你又是否有自我意识?”
“我?”
“你看不到自己的模样?”
奥尔文回头看了看倒影在玻璃上的影子,那是一位线条优美的机械女孩,任何人类看到自己这副模样都会大吃一惊,奥尔文却并不惊讶。当然,这可能是因为他没有五官的缘故,可他的语调也很平静。