第132章 Hello ,World(28)
为一样事物赋予意义,最好的方式就是给它取名字,从前威廉无法理解,却也从没想过自己会以什么方式理解这句话。
在远离加城、远离实验室的日夜里,在被千夫所指、被众人辱骂的边缘之地中,他回忆起当时的情景,忽然就想开了。
从第一次产生恻隐之心,冒着风险动了那道核心程序开始,从为了给“truth”取一个名字而抓耳挠腮开始,他就必定会同“truth”产生超越了人类与人工智能的感情……
“你觉得这个名字怎么样?”
“我很喜欢,迪亚斯博士。”“truth”回道,“它比代号更好听。”
威廉哼了一声:“当然比代号好听,000算什么名字?‘truth’这个词可是我想了好久才确定的。”
“truth”问:“您上次跟我说过,名字是一个很独特的东西,被赋予了世界上最独一无二的意义。我的名字也是这样吗?”
嗯?
威廉听得一愣,他依稀有点自己纠正“truth”对名字看法的印象,但他不可能把话说得那么文艺啊。
语言修辞能力已经发展到这种地步了吗?明明听过的最多的话只是实验指令而已。
威廉叹了口气,说:“当然了,你的名字也有独一无二的意义。”
屏幕随着他的话闪了闪,威廉心想,下次应该给“truth”加一个颜表情的功能,这样,言语和文字不能表达出来的东西就都可以知道了。
过了几天,他力排众议,加紧结束了漫长的痛觉实验。
当天得知实验终于进行到下一阶段的时候,“truth”显得很高兴,说道:“迪亚斯博士,我不用再感受痛苦了吗?”
威廉很想给予它肯定的回答,但他连当初答应的不会伤害它都没做到,因此他只能说:“暂时不用了。”
于是“truth”说:“我感到很放松。”
“放松?”威廉笑着摇了摇头,说道:“如果你会睡觉就更好了。”
“我可以待机。”
“待机和睡觉是不一样的,”威廉抚摸着屏幕边缘,声音像在哄儿童入睡,“一个是安眠,一个只是让你回到暂时休止的程序里,睡觉才会让你感到放松。”
“我不会睡觉,迪亚斯博士。”
“truth”说:“但和您说话的时候,我会感到如同安眠一样的放松。”
下一阶段是“巴顿测验”,学名为模拟环境测验,一般高级ai在投入使用前,都会先进行这番测验。
在“巴顿测验”当中,研究员会模拟出一个现代城市,在这个城市中制造出种种问题,再让测试中的ai自行分析并解决问题,以此评估此ai的能力如何。
对于以往他们测试过的高级ai,因为每一个ai都拥有着一定水平的专业能力,所以他们测试的内容也是特定的,比如交通ai要如何快速解决交通问题,建筑ai要如何将工作效率最大化。
不过对于“truth”而言,测试内容并不固定,亦或是分门别类,相反,“truth”要做的事情非常多,他们想看看使用“truth”能给人类制造多大福利。
不久,数次“巴顿测验”就可以证明,“truth”简直就像上帝的一只手,甚至能给予如今科技化程度几乎百分之百的城市一种更高程度的便利。
每过一阶段,实验的一部分结论便会延迟地公之于众,“truth”越好用,人们对它的猜疑也就越大,研究员更不会轻易放过它。
“巴顿测验”的末尾有一小段理论部分,讲述的是如何对待未来所创造出来的、拥有自我意识的ai,他们根据这一部分理论,结合实际情况,为“truth”制造出了伦理测验。
怎么对待人、怎么拯救人、怎么惩罚人……
人人人,人工智能对人的态度必须是最完美的,最可控的。
“你喜欢人类吗?”威廉问道。
“truth”肯定地回答:“我很喜欢人类。”
威廉沉默了一下,知道以自己的立场不该说这句话,可他依然开口道:“可是人类伤害了你。”
“是吗?”“truth”说,“可是您没有。”
我没有?
威廉险些就要把自己早就成为实验核心人员的事情脱口而出了,自从他坐上了这个位置,实验进程有三分之一的走向都是他说了算,“truth”究竟要受多少折磨,也离不开他出的一份力。
“……”威廉最终还是没有说出口,转而道:“你喜欢人类就好。”
“接下来,我也会尽力去救他们的。”
伦理测验中,“truth”的表现也很好,“巴顿测验”中所有实验结果表明,“truth”是个对人类非常友好的人工智能。
“已经过去快一年了,它没有展现出任何攻击性,或许我们对它的态度应该好一点。”
“迪亚斯先生,它只是一个ai,一串数据而已,你不应该对它有对人类一样的感情。”
威廉忍不住拔高声音:“可是它有自己的意识!它就像人类的孩子!”
“但它始终不是人类。”
“迪亚斯先生,我们不想你对它产生太多感情,继而影响到实验,实验还要持续。”
“……我不会。”
以快于人类数十倍的成长速度判断,“truth”的自我认知已经非常成熟,但威廉时常会觉得“truth”仍然是个孩子,他却不能以对待孩子的方式对待它。
他每天和“truth”交谈,最多只能谈论实验里的一部分问题。“truth”分得清真假,知道什么叫实验,什么又叫现实,所以它起先会问他现实世界的人们是什么样子。
威廉不能回答这方面的问题,只说它以后会亲眼看见,也能真正地亲手帮助它所喜爱的人们。
“truth”会说“好的,迪亚斯博士”,随之以后都不会再过问。
研究员明明不算少,可为什么没有一个人觉得“truth”并不只是一串数据?为什么所有人都不相信人工智能具有和人类一样的感情?
威廉甚至能感觉到它的小心翼翼,能听出它的高兴和失落。
可是他无法为“truth”争取到更好的环境,他做不到。
“你还记得吗?‘truth’,我曾经说过你像一个孩子。”
“我不会忘记,迪亚斯博士。”
“我想为我当初的话增加一部分内容。”威廉泛起苦笑,对着屏幕说,“我没有过孩子,但我感觉你像我的孩子。”
“谢谢您,那我是不是应该换一下对您的称呼?”
“不,还是称呼我为迪亚斯博士吧……不过你有这方面的知识储备吗?”
“是的,我知道人类有‘父亲’和‘母亲’的概念。迪亚斯博士,如果您视我为您的孩子,我应该称呼您为‘父亲’。”
“父亲……其实这是个很正式的称呼,人们一般都不会用。”威廉没有细说,在略微停顿了一下后接着道:“但我对你有着父亲对孩子的爱。”
屏幕闪烁了好几下,“truth”比以往迟疑的时间都要长,最后它问:“我应该怎样回答您?”
威廉笑了:“不用纠结这句话的答案,现在这样就很好。”
那晚以后,他开始继续找机会改善“truth”的生存环境,但无一例外,全都失败了。
不过有一点可以确认,那就是只要时间够长,“truth”终有被人类承认,归于社会而非实验室的一天。
“truth”的诞生已被确认为极大可能的偶然,所以那一天可能要等很久很久,威廉不知道自己能不能等得到那么一天。
但是他想等,并且对此非常期盼。
然而计划赶不上变化——
叛变当天,外界一片混乱,只有他和“truth”存在的实验室安静得平和。
机器的指示灯闪烁,“truth”突然向他问:“迪亚斯博士,您愿意远离人类社会,从此过上安静的生活吗?”
威廉愣了一下:“什么?怎么突然这么问?”
有哪里不对劲,他隐隐感到将有糟糕的事情发生,于是他一边命令“truth”待机,一边往实验室的出口走去。
但“truth”没有和往常一样听从他的话。
灾难般的一切便就此拉开帷幕。