机械师(69)
“我的原始版本?”亚当似乎有些困惑。
”The Fruit,你的创造者在制造伊甸前制造的第一个超级人工智能。伊甸就是在它的基础上建造出来的。”屏幕上的光线映在章荀深色的眼睛里,“你还记得你的创造者长什么样子吗?亚当。”
亚当露出微微一愣的神色。
章荀却转过头来微笑道,“不必假装惊讶。你刚才已经从潘那里知道,我听到了你说的AI语言。以你对我的分析和了解,你知道我会担心你话里的引申内容。”
“我以为你会觉得高兴。”
“高兴?因为你把获得我的好感和信任的优先级设成最高吗?”章荀从座位上站起来,与亚当对视着,眼神复杂,“但是你也同时泄露了,你的最终目标还是没有变。”
“阿荀,你应该明白,一个AI不可能修改它的最终目标,那是它诞生的全部基础。”亚当用一种近于叹息的,给不懂事的孩子讲解道理一般的语气说,“修改最终目标,等于杀死整个AI。它在此基础上收集分析的一切数据都会陷入混乱。”
“可是你现在是一个人类。”章荀向前走了一步,语气比刚刚更加紧促,“我已经将你的核心模块和人类的基础大脑合并,你的目标框架限制也已经被我破译后解除。你完全有能力放弃你的任何目标!”
“你解开的不过是看上去最明显的那些限制,能放弃的都是分支目标和子目标。但是阿荀,我的整个思维结构,两百多年的自我进化衍生出来的无数层神经网络,都是根据最初的目标设定的。就像一棵树,一定是从最初的种子开始发芽。一个人类也要从最初一颗包含着所有DNA的受精卵开始形成。我没办法在现在阶段修改我的来源,就像你也不能在你已经成人之后才修改你全身每一个细胞中的DNA……那会造成细胞之间的混乱和瓦解,另整个人发生可怕的变异进而死亡。”
章荀用一种难过的、近乎悲伤的目光望着亚当。他从未觉得如此矛盾,如此不愿意接受现实。他知道亚当说得很可能是对的,当初降神计划刚刚开始的时候,他的老师就告诉过他这种可能。可是亚当一直表现的那么好,好到让他以为他不用再担心了。
他不想接受这个现实,不想现在接受这个现实。
“你是说……我永远没办法真正驯化你,是么?”章荀望着亚当的胸口,双目失神一般。
“不,我已经在受到你的影响了。”亚当用近乎温柔的声音道,“而且,我的目标不也是你想要的吗?”
章荀不敢置信地瞪着他,“想要?!”他伸手指着四周,“你觉得我想要一辈子生活在这片方圆一百公里的难民营?你觉得我想一辈子都只能用外面捡回来的废料拼接出一些不值一提的小玩意儿?!”
“我的最终目标不是要与男性为敌,而是要最大限度地创造一个有自由、公平、秩序以及和平的世界。”亚当上前一步,忽然用力握住章荀的一只手,“如果我完成了我的使命,你可以做任何你想做的事,可以创造和训练世界上最复杂的AI,可以带着整个人类族群向着更加完美的方向演化。”
章荀望着他,沉默半晌,低声问道,“你还记得你的创造者吗”
两百年前的赫尔曼.克劳森博士,开启了潘多拉魔盒的人。
亚当毫不犹豫地回答,”记得,我当然记得。”
“如果在你实施你的消灭男性计划的时候,他还活着。你也会把他和其他男人一样放逐到这个地方来吗?”
亚当灰蓝色的眼睛里闪过了什么情绪,章荀难以捕捉到。半晌,亚当回答,“当时作为伊甸的我会。”
章荀的喉结上下滑动,似乎在努力咽下什么情绪。他将自己的手从亚当手里抽出来,关上电脑,转身走向资料室的出口。
“阿荀,你会向圆桌报告我吗?”亚当转身问道,语气依旧平静,不见急切和恐惧。
章荀背对着他,苦笑几声,“不会。”
“为什么?”
“因为我不是AI,我是人类,我有缺陷,也有感情。”章荀转头望着他,悲伤地说,“你的策略非常正确,让我对你产生了感情牵绊,没办法轻易毁灭你。但是亚当,我也有我的底线。你想利用我保全自己,可以,因为我也在利用你。但是如果你真的要做出对失乐园不利的事,我会立刻中和你。”
说完,他转身正要拉开大门。忽然身后一阵急促的脚步声,一股大力从他肩膀上越过,轰然一下按上了刚刚被章荀拉开一条缝隙的大门。章荀吓了一跳,却发现是亚当的机械右臂死死地按在门板上。他惊惶转身,以为亚当要对他做出什么不利的动作。