末世救亡计划

第19章：一心二用双世事

都需要事先获取被攻击对象（即被识别的图像）的大致内容，但这张“神奇贴纸”却什么都不用做——不管它试图干扰的图像里有什么，它都能正常工作。

人类不会轻易被这些黑客手段蒙骗，但这并不意味着我们可以彻底的免疫。比如，魔术师们就可以利用人类大脑的潜意识行为倾向，分散我们的注意力。这里有一个典型的例子——著名的两队传球：如果要求观众计算其中一支球队的传球次数，他们的注意力就会完全集中在球上，而看不到一个身穿着球衣的男子走到球员跟前，猛击他的胸部后离开了。可见，不仅算法存在视觉盲点，我们人类一样也有视觉盲点。

无人驾驶汽车所使用的也是视觉识别算法，很明显，这些算法也可能受到类似的攻击。想象一下，一个停车标志上贴着一张“神奇贴纸”，一个安检系统把枪错认为一只海龟……将会发生什么？

我尝试在摄像头前做一些奇怪的、扭曲身体的动作，以对Kinect算法进行测试，看是否会对其识别结果产生影响。事实上，即便是训练数据中从未出现过的瑜伽动作，Kinect算法也能高度准确地识别出我身体的各个部位。由于缺乏外部刺激，即人身体能够做出的所有动作基本都是固定的，所以这个算法没有进一步“进化”。事实上，它也不需要进化，因为它正在有效地完成人类交给它的工作。而其他的一些算法可能需要不断适应新的变化，例如，算法若要给我们推荐喜欢看的电影、想读的书、想听的音乐，那么它必须是灵活的，足以应对我们不断变化的审美品位，并要能启发人类的思维和智慧去生成创造性的新潮流。

这就是算法能够不断学习、完善并适应新数据的力量所在。机器学习为其开辟了一个新篇章，即算法会像我们人类一样成长并走向成熟。