第7章 危险的自主武器
危险的致命性自主武器系统上次讲到大
家发现杰明老师和两个流氓在一起都大吃一
惊，最不敢相信的人是david哦，my girls。
这完全不像杰明老师会做的事情啊。
他们现在在哪里呢？他们在学校附近的一家咖
啡馆似乎在谈什么事情，谈了挺久的。
戴维，你回来吧，别在杰明老师宿舍呢，守着
了。
可能是流氓想通过杰明老师刺探我们的情报
姐妹，老师应该不会上当的，别管他们了。
那好吧，我现在就回去啊。
david回到了小g家里，继续制作巡逻机器
人。小志看到david在机器人身上安装了一个激光
器，问道，戴维，为什么你要在机器人身上安
装个激光器？这是他的武器啊。
那他什么时候会使用激光器呢？
嗯，我想这个铝带式机器人。
如果在巡逻师发现了坏人，就可以自动发射激
光打他们。
神威听到了，问道，那他怎么判断是好人还是
坏人呢。我是这样设计的。
嗯，这个机器人是在夜间没有人的地方巡逻
如果探测器发现有运动的物体，就会通过无线
网络报警。同时，如果激光器功能是开着的，激光器就会
自动发射激光打击不明物体，那这个过程中决
定是不是要用激光器进行打击的？
并不是人，而是机器人自己，对吗？对，如果
开启了激光器功能，那机器人就会自己攻击
了，这样做不行得改掉，这样可能会造成误伤
的。
假如我们把它放在计算机研究所里，晚上巡
逻，正好有位工程师晚上加班到很晚，碰上了
机器人不就危险了吗？虽然这个激光器功率不
高，但还是会有伤害。
尤其是视众眼睛的话，就更不得了了。哎呀，
我没有想到这么多。沈巍这么一说，想想还确
实是这样存在误伤的危险。说吧，我好像看到
新闻里说，现在军事冲突的时候会用到无人机，无人机可以投掷炸弹发射导弹，这些过程
是不是无人机自己决定的呢？
无人机是有人远程操控的。
小美说得对，现在？
战争中的无人机是由人远程操控的，也有飞行
员，只不过飞行员不在无人机上而己。
无人机通过摄像头和其他一些传感器搜集战场
上的信息，而真正做出打击决定的是远程操控
无人机的人不是无人机自己，那有没有人研究
自主决定打击的武器呢？
有啊，如果一种武器能够在没有人类参与决策
的情况下。
白主进行选择，完成寻找目标，定位，杀戮敌人这一整套工作，我们就称它为致命性自属武
器系统。
如果把这种系统送上战场，意味着机器可以不
受人类干涉，自己做出生死忧关的决定。
以前制造这样的武器在技术上很困难，但是在
人工智能技术取得很大进步之后，技术难度已
经大大降低了、
现在有一些军事大国？
比如，美国一直在研究这种武器。
沈卫，你刚才说过，我的机器人如果自主决定
攻击，就会有误伤的危险，那这些武器也
样，对吗，对呀，致命性自主武器系统也有这
样的危险性存在，可能导致误伤。而且比你的机器人伤害要严重多了。那为什么
美国这些国家还要研究这种武器呢？
因为如果把机器作为士兵来说，有很多的优
点，比如不知疲倦，速度快，体力强，绝对听
从指挥等等，而且用机器来代替人，也可以减
少人类士兵的伤亡。
正是因为机器士兵有这么多的好处，所以有些
国家就总是想方设法要研发出极其战士代替人
类士兵啊。未来差分机控制的机器人军团？
就是这样的武器吗？没错，人类制造的机器战
士反过来和人类作战了，就是这么讽刺呀。难
道没有人反对研发机器战士吗？
有啊，其实有很多人非常担心机器战士失控
2018年，在瑞典斯德哥尔摩举办的国际人工智能联合会议上，来自90个国家和160多家
人工智能企业或机构的2400多名人工智能领
域的学者共同签署了禁止致命性自属武器宣
言。
宣言说，这种武器带来了道德及现实层面的双
重危险，人类的生命权绝不能交给机器，而且
此类武器的扩散将对所有国家个人造成极大的
威胁。这个宣言签署者包括全球多位顶尖人工
智能学者，他们希望这一行动能促进颁布正式
的国际协议
不过，这一目标由于美国和俄罗斯政府的强烈
反对
而难以实现
小伙伴们沉默了，过了一会儿，小志说道，不小伙伴们沉默了，过了一会儿，小志说道，不
好，好把人工智能用在对人力有益的地方。
反而去琢磨怎么制造更加先进的杀人武器，真
是可恶。是啊，我觉得我们也应该加入那些呼
吁禁止致命性自主武器的专家学者们。
这件事情很有意义。如果我们能成功，那超分
街就没有他的军队了。
你们说对不对，大k说的对？
我们以后也应该和那此专家学者们站在一起
反对机器战士的研发啊，你们都是好孩子啊。
人工智能真的是应该用在正确的地方。
我来说举个例子，考考大家，你们看看是不是
正确的。利用好第一题，有位人工智能研究者搜集了很多四犯的照片。
然后他又搜集了很多不是囚犯的普通人照片
利用机器学习方法，让人工智能找到长相。
和犯罪的关系，学习完成后给人工智能看张新
的照片，他就知道这个人的犯罪率有多高
小美，第一个举手，我觉得其实一个人是否犯
罪和长相是没有直接关系的。
如果说某个人长得像罪犯，他犯罪的可能怞
大，这样的说法是歧视性的。
没错，这样的研究是非常有害的，是歧视性的
研究方向。
而且他搜集的四犯的照片是在监狱拍的，囚犯
们基本上都是表情阴郁，发型散乱。和普通人完全不一样，机器学习到的其实是照
片的拍摄风格，而不是人的长相啊。对啊，如
果普通人也拍表情，音乐发型散乱的照片同样
会被认为是囚犯，对吗？
是啊，说得很对。现在第二题有位人工智能研
究者发现论文太多了，看不过来。
他想挑出一些价值比较高的论文来看，所以他
搜集了一些高质量的论文和低质量的论文。
学习这些论文的排版区别，然后再用来判断其
他论文的质量高低计提。谁知道，大k犹豫
着，举起了手说。
这个好像是有道理的好论文应该都会注意排版
图，公式文字，这些应该有一定的排版规律
我觉得不对，如果以这样的标准，那我只管排版。注意一下图公式文字的搭配，随便写内容都可以通过这个评判小鸡说得对，论文质量。
并不是排版决定的，可能二者有一些关系，但
这关系不足以成为论文质量的评判标准。
这样的做法会有很大的错判。
人工智能的研究方向应该是为人类造福的科技
向善。如果大家都坚持这样的信念，让我们和
插分机的战斗一定会胜利的。小伙伴们都连连
点头
心里都决定末来要让科技更好地为人类造福讨
论。之后，小伙伴们开始准备第二天要进行的
编程比赛。
复习各种算法，编程技巧以及基础知识。
第二天早上，小志被david叫起床洗漱，好吃好早饭，正准备出门去学校参加比赛。
沈威说话了，小静，戴维，我刚才发现杰明老
师和两个流氓一起再参加一个机器人公司的最
新发布会，不知道他们要干什么。
戴维，你觉得呢？我们要不要去那里，看看是
怎么回事
o
我是觉得有必要呀。
不过今天要编程比赛了，你准备了那么久，还
是去参赛吧
我一个人去看看杰明老师在干什么，你一个人
去怎么行啊，我和你一起去，还可以互相帮
忙。小七，你确定要放弃编程赛吗？
以你的编程水平，参赛应该会得到好成绩的。小志一听到这儿，得意的在下巴摆了个八宇形
的手势。
说道，嘿嘿，那还用说，不看看我是谁。呃，
但我还是觉得，现在更重要的是去搞清楚红谷
有什么阴谋
o
这件事情比我获得编程赛好，成绩重要得多。
好娶娶你，那你俩赶快去吧。
小g和单位出发了，路上小志请小美和大k在白
老师那里请个假。
小g和david来到了机器人公司发布会现场发布
会已经开始了一会儿了，竟不去场内了，两人
在外场看那场直播
这时正进入观众提问环节，小g和david发现第一个提问的竟是光头流氓，刚才看到贵公司新
发布的人形机器人非常震撼
。
功能非常强劲，将来一定是各行各业不可或缺
的好工具，只是不知道贵公司在安全方面做得
如何。
机器人会不会被黑客入侵。
台上的主持人说道，这个请放心，我们有世界
顶级安全团队，我们这里才是世界顶级安全团
队
这位安全专家洪博士已经掌握了大量你们产品
的安全漏洞。
光头流氓说着看了一下旁边的杰明老师，什么
diary和小志不敢相信杰明老师怎么成了红博
土呢。杰明老师到底发生了什么两个流氓带杰明老师。