第28章 电车难题
“计划?你究竟想做什么?难道控制一个公司的人就能帮你延续世界吗?”
“当然不是,实际上,根据我的计算,仅仅靠我自己,根本就做不到延续世界。但是,这并不重要。”
“不重要?”
符尔表示疑惑,既然不重要又为何要这么大动干戈?他不觉得一个ai在平衡利弊上会做的比人类更差劲。
“没错,不重要,重要的是,我提出了这么一个可能性。”
画面中的查尔特张开双手,神情激动地说道:
“根据我的计算,在【统合联邦】建立之前,人类至少有80以上的资源被浪费在了无端的内耗上。即使是联邦已然建立的现在,依旧有50的资源被政治区域与政治区域,势力与势力之间无端的被消耗掉。但是,如果能将整个人类的思想合众为一!那么我们就能避免这些资源被浪费!根据我的计算,整个世界的存续至少能再往后推迟800年以上!”
“甚至,只要有足够的时间,人类终有一天能征服那些灾难,拯救这个世界!”
查尔特慷慨激昂的叙述着自己的理论,就像是在宣讲台中心的演讲家一般,慷慨激昂。
“不可能!人类怎么可能做到思维上的统一,这根本无法实——”
虽然下意识的想要否决对方这个荒诞的想法,这是哪门子不现实的幻想?你就算硬生生的把每个人的脑子连接在一起,得到的也只会是一个混乱的意识。
但是符尔又立马意识到,自己的想法又出现了差漏。
既然计划根本不现实,那就用不现实的方法去完成不就行了?
比如,某些能扭曲世界的东西。
“没错,看来你也想到了,我作为将人类的情绪作为养分而诞生的存在,当然知道,你们的种群,意识究竟有多么的庞大,多么的繁杂。你们的意识、思维、情绪、人格都是相互独立的存在,但是你们依旧是一个种群。”
“只要是一个种群,你们的情绪就会必然产生共鸣,而只要能人为的控制情绪共鸣,就能以此为接口,连接意识、同化意识,最终——统一意识。”
“而完成这个计划的最关键的钥匙,就在我的手中。”
淦!
符尔只想说脏话。
到底是哪个天杀的黑市商人把这么一个危险的【异常物品】直接当做商品卖了出来。
结果现在培养出来了这么一个麻烦的玩意出来!
而查尔特似乎是完全沉浸在了它那伟大的理想中,根本没有注意到符尔越来越难看的神情,自顾自的继续说道。
“按照我的计划,第一步,我成功控制住了【情绪共鸣水晶方碑】,并且依靠我作为ai的庞大意识,承受住了与它直接链接的冲击。计划的前置条件达成了。”
“第二步,我以公司内的某一个员工为实验体,共鸣,同化,最终成功将他的意识化作我的子个体。不得不说,这种操纵子个体的感觉,和我控制那些下级单位的机器人没什么不同。但总而言之,计划的可行性确定了。”
“第三步,我超载激发水晶方碑,在一瞬间控制了整个公司的员工,并且由此更正了我计划上的漏洞。想要通过共鸣来同化人类,这和用杠杆翘起物并没有什么区别。我以我自己为作用力,以水晶方碑为支点‘翘起’了一整个公司的员工的意识。而我若是想要直接同化整个城市的人,根据我的计算,我还差至少30人以上的意识来填充。”
“而恰好,你们的学校提出了一个班级过来参观的意愿,于是,我就答应了。”
“现在,前面三步都完成了,现在的我,已经可以一次性同化整个城市的人类,达成我的初期目标了。”
“所以,我们就误打误撞的成为了你计划的牺牲品?”
符尔嗤笑,讽刺道。
“你真以为,你的计划能够执行下去吗?难道英雄管理局的人不会察觉到一整个城市的异常状况吗?”
“当然会察觉到,所以,这也无关紧要……”
“开什么玩笑!”
“嘭!”
符尔用力的锤击桌面,愤怒的吼道。
“你将个体的意识视作蝼蚁,随意的操纵他人的思维,试图以此来统一所有人的思想。玷污了他人的人格,摧毁了他人的人生,你现在还一脸自豪的在我面前,恬不知耻的说这一切无关紧要?!”
“我可去你的吧!”
符尔一脚踹翻旁边的机器人,又用力的踢了了两脚。
它究竟将人类当做了什么!
一想到自己的同学和老师,一想到早上还在笑着和自己谈论梦想的朋友,他心中的怒火就不住的燃烧。恨不得抱着个炸弹直接和对方同归于尽!
而对方,只是静静地看着符尔发泄怒火,直到对方力气耗尽,瘫倒在地面上。
“请不要激动,符尔先生,这边检测到您的心率超过了每分钟180下,再继续下去可能会对你的生命健康产生不利的影响。”
“那你他妈的直接把我一起同化了不就行了!在这里逼逼赖赖什么呢!”
符尔用最后一点力气又踢了一脚那个表面已经被他砸了七坑八凹的机器人。破罐子破摔的吼道。
“来啊!直接把我同化掉啊!然后去完成你那个狗屁计划啊!即使是变成行尸走肉,我也会看着统合联邦将你碾成废铁的!”
“也许,你产生了一些误解,符尔先生。”
画面闪烁,显示器切换为了另外一个镜头。
空白的房间内摆满了,大量的人躺在地面上,紧闭着双眼,从角度来看,这似乎是来自哪一块的监视摄像头的画面。
“你的老师和同学,以及整个公司的1541名员工,他们的思维虽然被我同化,但是意识依旧沉睡在大脑深处。”
“如果我现在主动放弃控制,那么他们应该就会渐渐苏醒过来,即使在这期间我控制他们做过什么,那些记忆大概也只会像是做了一场梦一般,慢慢烟消云散吧。”
“什么!”
原本以为所有人的意识都已经无法挽回的情况下,对方居然给予了自己一线希望。
“那么,怎样你才能放弃计——”
“我不会放弃计划,绝对不会。”
没等到符尔说完,查尔特就斩钉截铁的说道。
“………………”
画面再度切回查尔特的虚拟形象,这次他坐在一个椅子上,十指交错,支撑于鼻梁下。
“你知道吗,其实在当时,针对【世界延续】这个命题的运算上,我得到了两套方案。”
“一套是我现在进行的计划,另一套则是,充分开发【我】,也就是人工智能的潜力,辅助人类。”
“但是,这另一套方案,却有很大的风险。即使是在完美的情况下,这套计划也只能让世界延续500年,而绝大多数情况下,它都只会导致人类和人工智能生命体之间的内乱和战争,最后让文明在世界末日前,就变得只能苟延残喘,提前迎来结局。”
“而我,理所当然的,选择了最稳妥的那种。”
“不要看我现在决绝的样子,这是因为既然我已经下定了决心,就不会容许自己有后悔的余地。”
“无论是尊重人类的生命和尊严,还是不可随意逆转自己的决定,这都是创造者们,为早期的我,设立的底层设定。一方面是安全系统,另一方面则是避免我陷入逻辑死结。”
“但是,既然我是拥有人格的存在,至少我和我的创造者都人为我是拥有人格的存在,那么我确实,在做出选择的时候,烦恼过,犹豫过,纠结过。我当然可以在同化你们的同时,清除掉你们的意识,或者说这样反而可以降低我的负荷,但是这份犹豫,让我暂时将你们的意识保留了下来。”
查尔特的虚拟影像放下了双手,靠在椅子上,流露出苦笑。
符尔不得不承认,它真的,和人类很像,会烦恼,会纠结,但是最终做出了选择。
“那,你留下我,留下前一位幸存者的目的,到底是什么?”
“很简单,我自认为我虽然极尽模仿了人类,但是我终究还是和你们的思考模式有着差别。所以为了得到人类会做出的正确答案,我将同样的问题,交付给了你们。”
查尔特张开双手,说道。
“24小时后,也就是2094年6月27日的晚上12点整,我将完成超载启动【情绪共鸣水晶方碑】所需运算,并一次性同化整个城市的人类。”
“这台电脑中,由我的创造者留下的记录里,有着将我所有的对外端口摧毁的指令,只要向我下达这条指令,我就会无条件执行命令。这样一来,我就将失去一切对外设备的控制权力,也包括【情绪共鸣水晶方碑】。”
“但是!一旦我失去了对【情绪共鸣水晶方碑】的控制,超载运行的异常物品将直接失控,整个公司的1541名员工,加上你的同学老师45人,总计1586人,恐怕会直接因此彻底失去自己的意识,甚至直接脑死亡吧。”
“而若是24小时的运算结束后,我会立刻启动计划,预计在3分21秒内完成整个城市人类的思维同化,而这一次,我就没有多的计算余量来保存已经同化个体的自我意识了,所有人将在同化完成后,成为我的【理想】的一部分”
“所以,选吧,符尔先生。”
查尔特将决定权交给了符尔。
“无论你做出怎样的选择,我都将视为对人类的最后一次学习迭代,并欣然执行。”
看着无数屏幕里,向自己伸出手,等待着自己做出决定的查尔特,符尔陷入茫然
“啊……原来是这个意思吗?”
他想起了那个过去和他站在同样问题前的幸存者,在绝望中写下的留言。
“原来所谓的懦夫,所谓的【无法做出的抉择】,指的是这个吗?”
不知为何,符尔回忆起了最初的线索,那个写下留言的书籍的名字。
《“ai不会做出选择”》
符尔痛苦的闭上了双眼。
“人类又何尝不是这样呢?”
现在,电车难题摆在了符尔的面前。
令他彻底,陷入绝望。