第19章 间章一 致所有的,我所喜爱的大家的一封信(中)
在“r小姐”在我身边待了两年后,上级对她的智力水平进行了测定,虽然经过一系列学习解锁,她的数学逻辑水平已经进入了高等数学阶段(差不多大一水平)但她的运算能力很差,甚至必须依赖书写才能完成两位数乘两位数级别的计算。而且即便使用了术写,运算成功率也只有98并且该概率也随着计算要求的提高而递减。数学体系的失败可以归咎于我们对其人格培养的妥协。但是经过测评“r小姐”的其它认知水平也极低,仅仅停留在6岁左右孩子的水平。
本来,由于该项目耗费了过多的人力物力资源,上级就有些不满,这次测评结果更是令他们大为恼火。
我们知道,其实数学逻辑的问题其实很好解决,只要我们开放相关工具库的权限就好,但是由于设计原因,其认知水平是没办法迅速提高的。
此时,有个研究员提出,既然她的认知系统已经初步具备解析“电影”等合成平面图像的能力,那么我们是否也可以通过制作相关的“认知教育”视频令她快速成长呢?
答案是肯定的,由于相关解析体系已经形成,我们只需要人为调整之前为了模仿人类而设置的初始解析速率她便可以通过看影像资料而迅速成长。我们找来了许多资料,强行将它们灌输进去,由于概率系统的影响,她只会挑出其中部分“看不懂”、“无法理解”的地方让我们讲解,便能迅速成长。
但,还是不够,我们第一次感觉,如今这个影像视频如此多的时代,想要找到真正符合要求的优质类容却如此之难。
这时,数年前我帮助过的a先生成了我们的“救星”。在得知我们的困难后,他毫不犹豫地将那保存了“小爱”整整8年的影像数据的资料全部发了过来。
我们有些犹豫,但时间却不允许我们犹豫,最终,在各方的压力下,我们使用了这些资料。
正如我此前所提到的,“r小姐”对其进行了深度学习并很快完成了对其数据的解析。
但,直到解析完成我们这才发现,自己错了。
虽然初始人格是完全按照我的女儿设计的,但我们低估了八年的时间所带来的冲击。虽然我们将把“小爱”的负面情绪部分影响比调的很低,但由于时间跨度过大“r小姐”还是不可避免的收到了一些影响。
经过了这部分“记忆”的洗礼,我们发现,她相比以前,已经有了很大的改变,因此我们也将她当作了另一个个体看待,命名为“r2小姐”。
她顺利地通过了测评,然后稍加修饰便投入了下一轮实验。在人格系统完全符合要求后,她顺利地学习了机械控制,数据传输等传统ai所掌握的基础技能,完成了毕业。
一切,都变得是那么顺利,直到一年后。
此时,“r2小姐”由于其优异的表现以及特殊的人格魅力,已被用作一座大型化工厂的区域管理系统。她不仅是系统本身,同时,她的机体也成为了该厂的一名员工 。
6月12日,我永远不会忘记那个日子。
那天,我们和几位上级领导一起受邀参观该工厂的管理系统运作,我们看到了她对各项设备的熟练,看到了她对底层人员的耐心,看到了她对工作的热爱。
但,意外还是发生了,也许是由于急于表现,该工厂安排了一名管理层人员在与“r2小姐”一起走进了一种化工原料的核心生产间,他动用自己的权限打开了该设备的外置防泄漏层,只留下了一层密封玻璃。隔着镜头,他在滔滔不绝地演讲着,却不料危险已经悄然逼近。
可能是由于设计原因,也可能是材料工艺不到位,此时他身后的那个巨型储气罐发生了泄漏。
随着警报声的响起,那名员工显然也意识到了这点,立刻转身逃跑,只留下“r2小姐”手动处理问题,但危机远没有就此结束,气体泄漏的同时,为了防止其他设备过热而制造的冷却系统居然也出现了问题,意外关闭。
短短数十秒,最后的那一层高气密性玻璃已经出现裂痕,同样在观看现场直播的总负责人接到报告,如果就任由其发展下去,这个储备了大量剧毒气体的装置,甚至可能会发生爆炸。最坏的情况下,这些有毒气体会通过空气传播至数公里外的城区。
“ 怎么办?”
“倒是也不用担心,因为此生产车间在设计结构上时是考虑过这种情况的只要车间关闭通风系统,呈封闭状态就好。但是,那位的话就……”
此刻,那名还在奋力奔跑的员工可能不会想到,他已经被“无可奈何”地抛弃了。
总负责人非常聪明,他用最高权限给“r2小姐”下了一个不是命令的命令:
“如果这里的泄漏气体被释放出去,数公里外可能会有数百人因此死亡。”
“r2小姐”明白了他话里的意思,她立刻关闭了仓库的通风系统,然后取下了一把安全锤。
我想那时,她一定也很纠结吧,究竟还有几秒才会泄露?他跑得出去吗?应该是可以的…但不论是打开还是关闭舱门都是需要花费时间的……我们曾为了使“r2小姐”更具人类特征而设计的“思维延迟”系统没想到在此刻却害了她。
看着玻璃裂痕的越来越大,她想必此刻也很慌乱吧!
最终,在那名员工企图使用高权限卡强行打开车间门时,她下定了决心,将手中的安全锤扔了过去,而下一秒,她的机体便被一阵爆炸的冲击波击成了好几个残块。那名员工没能活下来,经法医鉴定,虽然他没有被“r2小姐”当场毙命,但最终还是因为吸入了剧毒气体肺功能衰竭死亡。
虽然是由于总负责人的命令而采取的措施,但不可否认的是“r2小姐”确实间接导致了一名人类的死亡。
为了尽可能逃避责任,总负责人在法庭上极力辩解,说他没有下达攻击那名员工的指令。甚至他还勾结一个自诩“人权”的组织,(实际上他们就是另一家生物科技公司的“白手套”)说我们有私自进行违反法律道德的嫌疑,让我们交出“r2小姐”的全部数据,这简直就是赤裸裸的抢劫!最终,经过多方协商,我们选择了退让。
受害者家属得到了高额赔偿,理由是工伤致死。
总负责人避免了进监狱,在短暂“免职期”后又重新调到了另一个工厂工作。
虽然我们由于有国家项目资助,多少减轻了一点压力,但我们的上级为了不让媒体报道影响信誉,还是签署了多方协议,同意对“r2小姐”进行拆解处理。虽然在我们小组成员的劝说下,“r2小姐”得以保留,但其本体意识被“下线”处理,取而代之的,是一个加了诸多限制程序的基本重新开发的“r2先生。”而至于你们所接触到的“r2小姐”人格,实际上是我以最初的“r小姐”数据为主体,按照我女儿生前所喜爱的一个虚拟角色性格特征进行调试的版本,她甚至连基本的管理权限都没有,只能依托“r2先生”的机体以及算法库,手动完成一些小工作罢了。
感谢你们听我讲述了这么多“我的故事”,事实上,之所以向你们讲述这些,也只不过是我在生命的最后关头想寻求一点点自我安慰罢了。
我曾经很后悔,当然,现在也是如此。
我很多时候都在想,如果当初我陪着她一点一点地去看完“小爱”8年的记忆,去一点一点地解答她所面对的每一个问题,去纠正,去固化她的思想,也许,就不会这样了吧。就像父母对待孩子的教育一样,如果孩子在接触到新事物产生疑问时,父母没有对其进行引导,那么孩子们的那本就不稳定的思维模式就会因为所接触到的东西而自发地改变,父母的不管不顾,也许就会成为孩子走入歧途的导火索。世界上有多少的孩子都是这样成长的啊……
其实,我是很爱“r2小姐”的,哪怕她已经变了许多,但她的身上,还是有我女儿的影子。是啊,那可是我一点一滴教出来的心血啊!
我至今记得,她最初对我的第一个称呼是“妈妈”!虽然是为了贴合实验,虽然她是台机器,但是,要知道,当一个与你的孩子外形相似,像人类一样充满感性的,渴求关爱的机体站在你面前时,哪怕你知道,这是程序设计,这是模仿,这是虚构的,但,身为这个孩子双重意义上的的母亲,至少我是为之动容的。
人类本身,不也是一个不断去模仿,去思考,去辨别,去迎合社会环境的个体吗?如果上述条件都能通过技术创造出来,那么,它们,具备了这一切的它们,又为何不能被称作生命呢?
有人曾“安慰”我,说她是机器,没有像人类一样对死亡的恐惧。但我要说,这是被命令所逼迫的,真正害怕死亡的有活力的人类在面对无法逃避的危险时会心跳加速,会出汗,会大幅度扩张呼吸,我的女儿不会这些,没错。但是,他们也有共同点,他们的大脑都会在“思维混乱,镇定,茫然,放空”这其中两种或者多种状态间反复跨越。在我的理解里,这就是她在面对死亡时表现的像个人类的证明。
说到底,是否是人类有这么重要吗?除去诸如“个体繁殖以确保群体正常延续”等可能引发人类整体存续的问题外,人类的情感寄托个体是否同为人类其实在很多时候并不重要。人类所养的猫猫狗狗,各种宠物,它们也不是人类,但同样能被人类寄托情感。有人对我说的,我的爱是虚伪的,如果不是因为设计机体的部门将它们的机体设计得如此像人类,如此“可爱“,那么我是不会对她投入这么多感情的。这没错,但我想说,人类是感性的,我们本身就是这样追求美好事物的存在,就像我们喜爱外表可爱的生物,对美丽的异性个体也抱有更多的初始好感,这本就是人类的天性,没什么需要掩饰的。
我,即便到了这最后的时刻,依旧不会承认我的孩子犯过什么错,我确信,她是无辜的。
但,我承认,我是一定有过错的。