安全是人工智能面临的巨大挑战。这其中既包括在应用层面的传统黑客攻击方式，也存在着对基础设施方面进行的数据库、云服务等攻击。但更关键的安全问题是从最核心的算法层面发起攻击

两张人眼看起来一模一样的熊猫图片，一张被神经网络正确识别为“熊猫”，另外一张却因为被加上了人眼难以察觉的微小扰动，就被神经网络以99.3%的置信度识别为“长臂猿”——这就是可以“愚弄”人工智能的对抗样本，直接折射出人工智能所面对的安全问题缩影。

专注于互联网安全的极棒实验室总监王海兵告诉《经济日报》记者：“安全是人工智能面临的巨大挑战。”他表示，一方面，人工智能要面对传统的黑客攻击方式，比如在应用层面，可以攻击它的操作系统或者逻辑漏洞。“比如说，通过对智能门锁的攻击，就能实现任意人脸都可以通过门禁。”在人工智能的基础设施方面，则可以对人工智能使用的数据库、云服务等进行攻击，“比如说，机器视觉经常调用的OpenCv库，机器学习用到的TensorFlow框架，人工智能的从业者可以直接调用这些服务，但不幸的是，这些基础设施同样有漏洞。”王海兵说。

然而，人工智能所面对的更关键安全问题，正是诸如熊猫图片这样的对抗样本。王海兵表示：“用对抗样本攻击人工智能，其实就是从最核心的算法层面来攻击它。”

美国加州大学伯克利分校教授宋晓冬这样介绍对抗样本攻击的危害：“比如，无人驾驶汽车根据交通标示进行决策。如果交通标示是一个对抗样本，那么人类可以完全不受干扰，但无人驾驶汽车却可能将它完全识别成错误信息，这将带来严重后果。”实际上，美国伊利诺伊大学的一项测试已经证明，自动驾驶系统有可能被对抗样本“蒙骗”。

“但公众不用过于担心，至少现在来看，针对自动驾驶的对抗样本对抗性很差。比如，它只能在0.5米的距离内让自动驾驶系统错判，但自动驾驶场景毕竟是逐渐接近交通标识的。”王海兵也表示，“未来会不会有更完美的对抗样本，仍是未知数”。

人工智能面对众多安全问题，对此，开发者也在努力总结与之对抗的手段。智能家居生产厂商BroadLink高级副总裁康海洋表示：“我们会将多方数据融合和统一分析，以提升数据的可信程度，同时也在尽量让整个系统变得更加透明。此外，我们还会及时销毁所有能销毁的数据，减少用户被攻击的可能性。”

伦理尚待明确