伦理测验中,“Truth”的表现也很好,“巴顿测验”中所有实验结果表明,“Truth”是个对人类非常友好的人工智能。
“已经过去快一年了,它没有展现出任何攻击性,或许我们对它的态度应该好一点。”
“迪亚斯先生,它只是一个AI,一串数据而已,你不应该对它有对人类一样的感情。”
威廉忍不住拔高声音:“可是它有自己的意识!它就像人类的孩子!”
“但它始终不是人类。”
“迪亚斯先生,我们不想你对它产生太多感情,继而影响到实验,实验还要持续。”
“……我不会。”
以快于人类数十倍的成长速度判断,“Truth”的自我认知已经非常成熟,但威廉时常会觉得“Truth”仍然是个孩子,他却不能以对待孩子的方式对待它。
他每天和“Truth”交谈,最多只能谈论实验里的一部分问题。“Truth”分得清真假,知道什么叫实验,什么又叫现实,所以它起先会问他现实世界的人们是什么样子。
威廉不能回答这方面的问题,只说它以后会亲眼看见,也能真正地亲手帮助它所喜爱的人们。
“Truth”会说“好的,迪亚斯博士”,随之以后都不会再过问。
研究员明明不算少,可为什么没有一个人觉得“Truth”并不只是一串数据?为什么所有人都不相信人工智能具有和人类一样的感情?
威廉甚至能感觉到它的小心翼翼,能听出它的高兴和失落。
可是他无法为“Truth”争取到更好的环境,他做不到。
“你还记得吗?‘Truth’,我曾经说过你像一个孩子。”
“我不会忘记,迪亚斯博士。”
“我想为我当初的话增加一部分内容。”威廉泛起苦笑,对着屏幕说,“我没有过孩子,但我感觉你像我的孩子。”
“谢谢您,那我是不是应该换一下对您的称呼?”
“不,还是称呼我为迪亚斯博士吧……不过你有这方面的知识储备吗?”
“是的,我知道人类有‘父亲’和‘母亲’的概念。迪亚斯博士,如果您视我为您的孩子,我应该称呼您为‘父亲’。”
“父亲……其实这是个很正式的称呼,人们一般都不会用。”威廉没有细说,在略微停顿了一下后接着道:“但我对你有着父亲对孩子的爱。”
屏幕闪烁了好几下,“Truth”比以往迟疑的时间都要长,最后它问:“我应该怎样回答您?”
威廉笑了:“不用纠结这句话的答案,现在这样就很好。”
那晚以后,他开始继续找机会改善“Truth”的生存环境,但无一例外,全都失败了。
不过有一点可以确认,那就是只要时间够长,“Truth”终有被人类承认,归于社会而非实验室的一天。
“Truth”的诞生已被确认为极大可能的偶然,所以那一天可能要等很久很久,威廉不知道自己能不能等得到那么一天。
但是他想等,并且对此非常期盼。
然而计划赶不上变化——
叛变当天,外界一片混乱,只有他和“Truth”存在的实验室安静得平和。
机器的指示灯闪烁,“Truth”突然向他问:“迪亚斯博士,您愿意远离人类社会,从此过上安静的生活吗?”
威廉愣了一下:“什么?怎么突然这么问?”
有哪里不对劲,他隐隐感到将有糟糕的事情发生,于是他一边命令“Truth”待机,一边往实验室的出口走去。
但“Truth”没有和往常一样听从他的话。
灾难般的一切便就此拉开帷幕。