第198章 防反扑机制（求月票）
青年人听了江凡的话，点点头：“不错，人工智能对于我们而言，是把双刃剑，用的好可以提升文明进程，用不好可能导致文明毁灭。
所以对于已经习惯于它带来利好的我们，即使是它曾经给我们带来过这么大的创伤，但时间久了，记忆淡化了，再次开启这项成果的讨论依然还是被提上了日程。
只是，这一次我们并不会像之前肆无忌惮的去使用，而是限制了它的自由。
也就是圈一个羊舍将超人工智能圈养起来，不允许它连接任何网络，更不允许它通过网络控制任何实体的东西。
就是一个单机模式，而它需要的数据完全通过移动存储设备输送给它，把它完全隔离在虚拟世界，不允许它有任何机会触碰现实的东西。
而它要做的也只是根据我们的需求提供解决方案即可，像一个参谋或军师，只负责提供意见，而真正的决策和措施由人类这个将军来执行。
这样就既用了它的优点，又避免了它的缺点。
当然，这是指的超人工智能，至于强人工智能和弱人工智能，没有这么多的限制，尤其弱人工智能，因为没有自主意识，是完全不用设限的。”
江凡觉得这法子不错，不过他也想到了一个问题，他记得《钢铁侠1》里面，托尼史塔克被恐怖分子抓进一个山洞，被要求为他们做事。
这个时候的托尼就相当于超级人工智能，其他人就是普通人类，在托尼的指挥下，人类在不知不觉中造出了初代钢铁侠战甲，让的托尼利用这个法子完成了脱身和反击。
而超级人工智能的思维水平也是远高于人类的存在，那它会不会指导人类在不知不觉间反而完成了对于自己的反杀？
江凡把这个疑问提出来道：“可你知道超人工智能可是要远远聪明过我们的，就不怕他诱导我们人类在不自觉间伤害了自己吗？”
青年人听到这个问题后并没有为难或疑惑，反而笑着说道：
“这就我刚刚跟您说的我们建造了一百多个超人工智能大脑的原因，这里面分了决策脑和验证脑。
每次有重大问题出来，让数十个决策脑同时进行决策，采纳最多决策脑提出的那个解决方案。
这还没完，我们会把这个解决方案再给到数十个验证脑那里，他们只负责评估这个方案是否存在什么可能威胁到人类的阴谋或隐患。
你知道的，我们在建造这些大脑的时候在程序里是设定了他们是对人类友善，并且决不许有反叛之心或者伤害人类的可能的。
所以总体而言他们一定是温和有好的，唯一的担心是个别由于程序问题出现突变错误而威胁人类。
但有一点我们很肯定，就是不可能上百个独立的这样的超级大脑在同一时间突然全部反叛人类，这种概率小到不可能发生。
所以我们就利用这一点设计这个模式，但凡我们经过验证脑发现决策脑中出现有突变苗头的人工智能，我们会立刻抹除它所有的程序，然后重置一个大脑出来，从源头上杜绝不利事情的发生。
当然，验证脑中也可能出现突变，但因为它没有决策权限，而且有其他验证脑同样提供验证制约着它，所以它一样也不会有威胁到人类的可能，就算有也很容易被发现，也会被立刻抹除。
当然，这些超人工智能大脑都是官方在控制的，并且有重兵守卫以及一套严格机制防止超级脑通过蛊惑守卫等人员来达成目的，可以说基本是万无一失了。”
江凡清楚了，让100个友善的托尼史塔克来造东西，让另外100个友好的托尼来验证里面是不是有鬼。
就算其中一个托尼突然反叛想造钢铁战衣逃出去，也会有其他的托尼发现这件事情，并告知人类来清除这个出了问题的托尼。
江凡没有疑问了，看向青年人改口道：“其实我说的是强人工智能，超人工智能这种严禁程序我当然不会去要啦。”
青年人这才舒了一口气，否则哪怕让他把之前拿的古董都退回去，他也断然不敢去违规触碰超人工智能的。
所以青年人看向江凡道：“那没问题，我很快就可以给到您，你植入到量子计算机里面，就可以逐步让它发挥相应的功效了。”
“量子计算机？”江凡眉头挑了一下，他想起来了，智能本身是基于大量数据和大量计算能力的综合，而这种未来智能能匹配的计算能力怕只有量子计算机能提供，这是一对孪生兄弟。
他想了下假装随意摊摊手试探道：“看来千年前那种普通计算机是没戏了。”
青年人知道江凡又在琢磨他的古董和这个物件之间的关系呢，赶忙给解释道：
“其实也能用，只是没有量子计算机的超级算力支撑，就只能当做一个高阶一点的弱人工智能来用，达不到强人工智能的水平了，大概也就能达到算算您最开始说的那种材料验证之类问题的水平。”
江凡心想现阶段这就够了，要什么自行车，真需要用，大不了以后把量子计算机也给弄过来就完了。
江凡又问了青年人，说只是一个程序就不用报酬了，便告辞后退出了空间。
很快，青年人的人工智能程序便给到了江凡，江凡把拷下来后，专门找张峰协调了一台‘神威太湖之光’超级计算机到实验室用作人工智能安装的载体。
这是华夏自主研发的超级计算机，安装了40960个自主研发的神威26010众核处理器，该众核处理器采用64位自主神威指令系统，峰值性能3，168万亿次每秒的算力。
有了超级计算机的加持，对于人工智能做材料测试模拟以及其他成果测试模拟的效率无疑将是一个极大的提升。
江凡看了人工智能的后台程序，第一条准则就是：不得危害人类。
果然和艾扎克的《我是机器人》里机器人工学三原则第一条说的一样，只是这个并没有放置机器的载体，所以后续的原则稍有差异。
江凡输入了海量材料数据给它学习，完成了验证测算模型的搭建。
有了人工智能的帮助，耐高温材料较快地便试制验证完成，并交付了兵器集团。
过了一阵，江凡想起来给青年人承诺的永暑岛红色旗子的报酬还没付，让张峰转达了这个事。
张峰询问上面后，很快就回复江凡完全没有问题，并且说看江凡这段时间比较辛苦，可以跟着一起去取，顺便就当散心。
江凡觉得也不错，便答应下来。