第10章 流氓利用人工智能大

    上次讲到小g和大k，小美在弄堂里碰上了光头流氓。他们刚想转身往回走，却发现长头发流氓从后面走上来

    小志赶紧通过眼镜向神威呼救神威，我们家弄堂里遇上流氓了，赶快救我们。收到我马上报警，流氓围了上来，光头流氓对小志说，你竟敢欺骗我们老大啊。大k冲了上去，把小志护在身后，对光头流氓说．你们老大算什么？

    小季显得十分淡定，我什么时候欺骗你们老大了，你明明说不学黑科技术啦，我都听见了长头发流氓帮腔说，对，我也听见了，可是你现在还在使啊起品，我们老大不会有好果子吃。

    小志装作不知道的样子，奇怪了，我什么时候跟你们说，我不学了呀，也不是跟我们说，但是我就是听见了，对我们偷听了长头发流氓说漏了嘴、光头流氓瞪了他一眼，对小志说，最近黑客圈出来一位叫做少年黑客的我们老大说就是你小志心想，还好他们只是针对我来的，不知道少年黑客其实是三个人。你们到底想干什么啊，是这样的，我们老大说啊，觉得你是个可造之才啊。别跟沈威学了跟我们老大学吧啊，你应该也见识过我们老大的技术比神威克厉害多了。将来啊，你可以协助拆分机大人管理，你看怎么样啊。小志刚想言辞拒绝。

    一位警察出现在弄堂口，朝这边大声地喊道，你们干什么呢，两个流氓？一看警察来了，立刻撒腿朝弄堂另一边跑了，跑得飞快，一眨眼就不见了。

    警察跑过来问道，小朋友们，没事吧？谢谢警察叔叔没事了，有流氓想欺负我们，没事就好，你们住哪里啊，就在前面的小区啊，我送你们回去吧。警察护送着三位小伙伴回到了小区，到了小志家里，小季先把声音屏障打开，覆盖了房间，防止窃听器听到声音，然后马上问沈威说，神威，为什么这次眼睛没有骜报呢？神威也没有料到眼镜会失效。

    是啊，我也觉得挺奇怪的，人脸识别系统没有是啊，我也觉得挺奇怪的，人脸识别系统没有

    发现他们的踪迹，他们是不是整容了啊？没有啊，他们两个还是和上次一样的呀。我一眼就认出来了，人脸识别系统怎么会认不出呢？

    是啊，我记得你说过、现在人脸识别系统做得比人类的识别能力都要强得多了。嗯，一般来讲是这样的。

    沈威停了一会儿，说道，他们有什么奇怪的地方吗？小志想了想要说奇怪的地方也有，那就是他们的衣服图案好像有点不寻常、对，我也觉得他们的衣服图案挺怪异的。是什么样的怪异大k，你能描述一下吗？他们的衣服看起来像是水泥路一样。

    对了，还有他们俩的脸上有几个带颜色的圆点。是的，有点像画家工，工作时候不小心在脸上弄到了颜料。我知道了，这是一种针对人脸识别系统的对抗攻击，对抗攻击。

    什么是对抗攻击？沈威，能跟我们讲讲吗？嗯，好呀。当科学家使用人工神经网络来识别图像得到很好的效果时，有研究者发现，在有些时候人工智能会识别错误，而且错误得很离谱。

    比如有一张图片，上面是一只熊猫，人工智能可以顺利识别出来。然后研究者把图片稍微改一下，改动的地方非常小，但是精心设计的人类看这张改过的图片。

    觉得没有什么变化，还是一只熊猫，可是人工智能就识别错了，把熊猫认成了长臂猿，这样被改过的图片，被称为对抗样本活动处的私意哦。这可以看作是人工智能系统的一种错觉，人类的视觉系统也有错觉。

    只不过不一样而己。另外，除了图像会有对抗样本声音，也会有有一些经过处理的声音，让电脑听起来是完全不同的理解。比如有科学家把一段鸟叫。

    经过修改之后，人听起来还是鸟叫，但是语音识别系统却识别为人说话，还能听出说话的内容，这会有什么害处呢？

    你可以想象一下，如果你听到窗外的几声鸟叫，并没有注意，以为那是正常的，但是家里的智能音箱却听到了一个语音命令。这个命令的执行可能会导致你隐私泄露。

    哦，这确实是个严重的安全问题。那两个流氓衣服上的图案还有脸上的点。

    都是为了形成一个对抗样本吗，对，看起来就是对抗样本。这些图案和点是人脸识别系统认为这不是个人所以就没有发现他们。原来是这样啊，这应该是腊肠干的。可能他发现手下流氓总是不能在路上堵到。我怀疑我们用人脸识别系统来见识，所以搞了对抗样本，衣服和装扮对应该是这样的情况。小美还在仔细琢磨。

    神威对抗样本上人工智能算法犯错的，对吗？是呀，他会误导人工智能算法，让他做出错误的决定。那这不是对抗机器人军团最好的武器吗？说得很好，确实是这样对抗样本在我们和机器人军团作战的时候起了很大的作用。

    有一次，我们的几个战士被包围了，黑客首领让大家穿上一首特殊图案的衣服，就被机器人军团认为是树机器人找不到他们就放弃了围攻，这就是。对抗样本的作用，那以后一直穿着，我们不就可以打胜仗了吗？不是那么简单的。

    后来插分机发现了这个情况，他修改了机器人军团的视觉算法，同样的图案就不灵了。哦，那如果我们修改人脸识别的算法，应该也可以重新认出流氓吧。是的，我会在算法里添加一些防守方案，应该能够解决这个问题。

    明天我们就可以继续监视流氓了。嗯，我明白了，不过还是有个问题。从现在的情况看，辣肠已经猜到我们在用人脸识别技术见识流氓，如果他以后出来总是蒙着脸，那我们不就找不到他们了吗啊，除了面部特征，还有头发，体型，姿势等等，可以识别身份，我可以对人脸识别系统进行增强。添加这些算法，不过你说的确实也有道理，用其他方法来识别并没有面部特征，那么容易准确率会降低，还是有可能出现不报警的问题。我再想想有没有其他办法。

    沈威想了一会儿，说道，哈，我有办法了。神威到底想到了什么好办法呢？周三，五，七，更新两章，6:00更新