写在第三卷前面的话
第三卷就要开始了,在这里做一些剧透,或者说是在这里讲一下自己写这一卷的逻辑,便于读者理解。
这一卷讲的是研究所的覆灭。研究所与代表着人工智能系统的un是两个互相针对的阵营,虽然,在前面两卷里,两者已经有一些合作,但是两者的矛盾更大。
因为研究所的技术和业务的存在,其实是在人工智能系统上,人为做了一个漏洞。人工智能系统是无法控制人的意识的,只能是以人的身体信息作为标识,分配资源的。而研究所做的事情,是可以把人的意识换掉。
这样,没有特权标识的人,实际上可以利用别人的特权标识去做他想做的事情。而有特权标识的人可以利用其他人的聪明才智,来完成自己实际无法完成的任务,再把这些成绩归属到自己身上。
这里说的特权标识并不特指真的特殊权力,只是说明一种身份的分类或是差异。就比如前两卷的例子,我可以让别人代替自己去高考、应聘、解决难题等等。
而反向的,当这些人成为了高官、领导,又可以替换掉他们的意识,从而实现一些其他的目的。人工智能系统无法识别出这种改变和不同。
这样做的结果是,研究所可以帮人合理的避开系统规则,从而让人工智能系统确定的规则失效。
un本是想通过运行这套体系,让人类看见这套体系的公平、合理,让人类自愿地支持她继续推行人工智能的管理,心甘情愿地服从这套管理体系。因此,她一定不会允许有人利用类似研究所这样的技术,使这套系统失效或是绕过系统确定的规则。
而在研究所来说,每一个发现系统bug的人或组织,可能一开始并不想利用这些bug去做恶和谋取私利,但是随着时间的推移,领导层的更迭。一旦有人改变、忘记,甚至是不清楚、不认同组织的初衷,那么一定会想最大化的利用这个漏洞,让自己获益。
研究所经营了这么多年,有这么多的客户,帮助了各个领域众多优秀人才获得成功,这是多么大的资源池!一旦某些人掌握了这些资源,会发生什么?
研究所虽然有道德委员会把关,但是,就如前面所说,任何的基于人的防范措施,都会因为人本身失去效果。我们一直以为多么完善的制度体系设计,你看看现在的西方国家现状就知道,在人面前,不持续完善,都会漏洞百出。
对于研究所来说,只要有一任领导者,通过一些手段或是方法左右了研究所的道德委会,那么,实际上,他就已经打开了潘多拉的盒子。
那些曾经使用过研究所服务的人,会害怕别人知道自己曾经使用过这样的服务,从而会帮助研究所,即使他们知道研究所的行为不对。因此,研究所会多出无数的帮凶和同伙。
同时,也会有一部分人,不想同流合污,想摆脱自己的这种授人以柄的处境……
左岩在这里会起到什么样的作用?他会跟苏所长直接冲突吗?un会给左岩很大的支持吗?那些研究所的同事朋友,会支持左岩吗?究竟会发生什么样的故事?
……请看第三卷,研究所的倾覆……