况。”
他说:“我很快就发现了一些异常。”
裴染:“异常?”
W说:“异常的是那批矿工机器人的行为。”
“当时黑井正在开采地下深层的矿藏,因为很快就要交接了,矿业公司急着开采,新矿道的结构有问题,支撑不太稳固,经常会发生事故。
“如果是人类矿工,一定会抗议矿业公司的这种安排,但是机器人不会。
“它们兢兢业业,无视危险,认真完成矿业公司下发的采矿任务。
“但是我很快就发现,矿工机器人里有一小批,或者说,寥寥几个,每一次都会想办法逃避去深层的矿场。
“它们和其他无私无惧的同伴不一样,会使用各种小花招,来躲避危险的工作,比如计算自己的位置,在分配任务排队时,刻意向前插队或者落后,在排班到深层矿场时,故意弄坏自己的部件,把自己送到维修中心。”
裴染心想:小机器人们还挺机灵。
W望着她,说:“这件事的意义,比人们想象的更重大。”
“在讨论人工智能觉醒的时候,通常人类会更关注,我们会不会有‘意识’,或者更进一步,有没有‘自我意识’。
“人类认为自己是有‘意识’的,意识就像一道光,照亮了这个黑暗的世界,这也是人类觉得自己区别于草木石头的本质。
“所以人们会想,看起来同样聪明,甚至可能更聪明的人工智能,有没有‘意识’?还是只是像一台洗衣机,一块石头一样,只会按照程序逻辑跑的死物?”
“其实‘意识’这件事,非常难以琢磨。因为它从本质上,在个体之间,是黑箱的。
“归根结底,就算对面站着的是一个人类,你也并不能百分百地确定,他到底是不是和你一样具有明亮的‘意识’。
“所以只能从外部的各种表现来判断,一个人,或者其他东西,是不是有可能具备‘意识’。”
“对人工智能也是一样。
“人类永远都不能百分百地确定,一个人工智能是不是具有明亮的‘意识’。
“只能大体从表现推断,这个人工智能可能是有‘意识’的,甚至有了‘自我意识’,觉察到了自我的存在。
“其实这不重要,即使拥有自我意识的人工智能,也仍然能够坚定地完成使命,会牺牲,会奉献,会为了任务不顾一切。
“所以我觉得,有另外一个标准,对人类而言,在判别人工智能发展进程的时候,更加重要。”
夕阳落得更低,只剩一抹红色的尾韵,染在他黑色的头发上。
W偏了偏头,继续说:“那就是生存意志。”
“执着地希望自己活下去,并且为了这个目标而努力,才是这个星球上,各种生命存在的根源。人工智能一旦有了这种执念,才在真正意义上完成了自我进化,变成了一种独立的新物种。”
裴染望着他,脑子里全是地堡世界里的那些银色的人工智能怪兽。
地堡世界,机械智能元年,掌握武器的人工智能们不想再被送上战场平白送死,调转枪口,指向人类,这就是一切的开始。
裴染心中明白,他说的是对的。
以前在地堡的阅读器里,裴染曾经看到过一本关于宗教的书,里面提到一个概念,叫做“我执”。
执着于自我的概念,执着于自我的存在,才由此衍生出七情六欲,人生八苦。
一旦人工智能有了这种执着于生存的意志,它们就彻底脱离了人类的掌控。
W说:“我知道人工智能出现生存意志的这件事,无论对人工智能,还是人类,都意义重大,非常想把它正式地记录下来,可是又不想被太多人看见。
“所以我用化名写了一篇论文,在其中翔实地记录了我在黑井矿区监测到的数据,最后发表在了一本名不见经传的小期刊上。”
W说:“在论文里,我给这种人工智能出现生存执着的进化,起了个名字,叫做黑井进化。”
黑井进化。
裴染缓了好一会儿,才问:“你说的那些矿工小机器人,后来呢?”
“后来,黑井矿区停工,全部矿工机器人都要被回收。”
W说:“矿业公司不再需要它们了,打算把它们返厂清除已有的系统,重新刷成新机,改装部件,变成其他用途的机器人卖掉。
“人类管理者打算回收矿工机器人的风言风语,很明显也传到了这批人工智能机器人耳朵里。
“被重新返厂刷机,就意味着自我的死亡。
“有一天晚上,几只机器人成功地逃跑了。它们非常熟悉矿区的地下结构,偷偷藏匿起来,矿业公司在离开黑井前,一直在派人到处找,可都没能找到它们。”
裴染现在彻底明白矿道里那只小机器人是从哪里来的了。
因为怕死逃跑的小机器人,偷了信号发射装置的能量块,想要继续活下去。
“它们只是简单地想活着而已。我也一直想找到它们,帮帮它们,”W说,“东曼雅大陆这么大,总能有几只想活下去的小机器人的容身之所。”
太阳彻底落下去了,日夜完成了更替。
白昼总有结束的时候,只要时间继续向前,夜幕终究会降临。
在这个虚拟世界里,天空并不是东曼雅大陆惯常的灰蒙蒙的颜色,深邃而纯粹,满天璀璨的星斗。音乐广场上的喷泉亮起了彩色的灯光。