当下的图像识别技术看似愈发成熟了，但自带蠢萌属性的它实际上依然可以被轻易愚弄。
研究人员最近就成功忽悠了一把以智能著称的算法，让它们一脸懵逼地犯下了一系列错误：
比如把两个滑雪的人辨识为一只狗，把一个棒球看成是一杯意式咖啡，又例如把一只乌龟误认为是一把步枪。
最新的一个欺骗机器的方法操作更为简单，却有更深远的影响，所需要的道具也仅仅是一张简陋的贴纸而已。
图注按顺序为：将贴纸放在桌上，输入分类器的图像，分类器输出结果
这款由谷歌的研究人员新近开发的自带迷幻剂属性的小贴纸可是相当厉害了。只要将它放在任何一张图片上，深度学习系统就会傻乎乎地把毫无关联的图像分辨为一部烤面包机。
据一篇最近提交的和这个神经网络攻击有关的研究论文所述，这块小小的“狗皮膏药”（对抗性补丁）是具有“场景无关性”的，这意味着任何一个“对光照条件、相机角度、被攻击的分类器类型或甚至场景中的其他事物没有事先了解”的人都可以利用这张贴纸，去实行对图像识别算法的攻击。
相关研究论文的arxiv链接：https://arxiv.org/abs/1712.09665
再加上贴纸本身可以在网络上被分享和打印出来，这个攻击方法简直是唾手可得。
一个由谷歌深度学习研究团队Google Brain的成员Tom Brown上传的油管视频，就展示了这块对抗性补丁是怎样作用于一张香蕉的图片上的。
点击查看相关视频
起先，一只香蕉放在桌上的图片是能够被VGG16这个神经网络正确识别为“香蕉”的，但把迷幻小贴纸放置于香蕉旁边后，神经网络随即把图片分类成了“烤面包机”。
网友评论