「埃尔法哥哥」自动驾驶汽车安全的五个组成部分在所有的人工智能解决方案中

「埃尔法哥哥」自动驾驶汽车安全的五个组成部分//草丁生活 http://life.caoding.cn/

在所有的人工智能解决方案中，我认为自动驾驶汽车的网络安全是最关键的方面。一个影响人类生活的事件不仅可以扰乱一个受害的公司，而且可以扰乱整个行业。人们很快就会对这些技术失去信任，这是合情合理的。举个例子，在亚利桑那州的一次事件中，一名自动驾驶汽车在街上杀死了一名妇女。这起案件引起了轰动，研究人员开始关注自动驾驶汽车中人工智能系统的安全问题。 2014年，首批关于对抗性攻击的论文发表后，人工智能安全问题成为讨论的话题。两年后，研究人员从理论转向实践，并开始将理论攻击应用于实际解决方案。从那时起，自动驾驶汽车的人工智能系统由于其重要性而成为人们关注的重点领域之一。随着自动驾驶汽车越来越普遍，其安全性也受到质疑，人们正在讨论生产自动驾驶汽车的公司必须遵守的许多规定。根据州议会全国会议发布的一份报告， 41个州和哥伦比亚特区已经考虑了无人机汽车法案，而众议院在国会搁置之前已经通过了hr3388法案，该法案要求自动驾驶车辆必须遵守统一的标准。考虑到所有相关的担忧，我相信，如果未来围绕自动车网络安全的事件不停止，自动车的声誉将被粉碎。让我们来看看一些可能被攻击的人工智能驱动的自动驾驶汽车组件，这只是整个各种方式中的一小部分。

图像识别系统

图像识别系统能够检测道路标志。然而， 2016年有公开的证据表明，他们可以通过特殊的贴纸和涂鸦来欺骗。这导致了2017年的改善，结果更好。所谓对抗性的例子就是那些在视觉上指向一个类别的图像，然而人工智能系统却错误地将它们识别为来自另一个类别的图像，例如一辆汽车正在检测一个右转而不是一个停车标志。

目标检测系统

有人可能会说，自动驾驶汽车不需要识别路标，他们应该在未来从其他渠道收集这些信息，比如来自知道所有道路规则的服务器的加密通信。不幸的是，在世界范围内部署这样的系统需要花费太多的时间。此外，即使路标是不必要的，汽车将不得不检测其他汽车和行人有效。这就是目标检测分析和语义分割算法发挥作用的地方，然而，就像任何深度学习算法一样，它们也容易受到敌对性攻击。中佛罗里达大学的研究人员分析了通过伪装来隐藏汽车的可能性。绕过对象检测器的想法并不是一个新的，但首次提出的霍迪尼攻击。尽管如此，我们应该记住，这项研究描述了一个针对自动驾驶汽车的实际案例。

语义分割系统

语义分割是一个人工智能的任务，它允许汽车检测另一个物体的边缘。牛津大学的研究人员发布了一项研究，展示了他们如何成功演示了对语义分割系统的实际攻击，这种攻击可以对人类的生命构成真正的威胁。基恩安全实验室的研究人员发现，一些自动驾驶汽车可以通过在道路上贴上几个标签来制造“假车道”在研究过程中，汽车自治系统认出这些标志是原来车道的延续，导致汽车转入一条可能会迎面而来的车道。

语音识别系统

不幸的是，视知觉并不是唯一一个针对自动驾驶汽车的攻击载体。车辆可以通过识别来自无线电的错误命令来欺骗。浙江大学的一群安全研究人员发明了海豚攻击声学技术，这种技术可以通过向语音识别系统发送恶意命令来实施无声攻击。黑客还可以发送包含对抗性攻击的广告信息给无线电台，并在自动模式下在道路上制造混乱。

LiDAR「埃尔法哥哥」自动驾驶汽车安全的五个组成部分

大多数自动驾驶汽车都有一个特殊的系统，叫激光雷达，代表光探测和测距。 2019年7月，密歇根大学的研究人员发表了第一篇关于激光雷达系统遭受实际攻击的论文。入侵LiDAR的方法类似于常见的深度学习模型的入侵方法，但是只是针对LiDAR功能做了一些修改。这些包括使用激光二极管引入对抗性信号和后处理的限制。

应该做些什么？

根据我的经验，自动驾驶汽车，就像其他任何物联网解决方案一样，不应该有任何软件或硬件漏洞。更重要的是，您必须确保后端的算法是安全的。虽然很多人关注硬件、软件和无线安全，但是通常对算法的安全性关注不够。深度学习等机器学习技术应该接受针对所有人工智能威胁的测试，包括对抗性的例子、投毒、隐私问题和后门。越来越多有关无人驾驶汽车的安全相关文章正在发表。由于自动驾驶汽车可以保护我们最亲近和最亲爱的人的生命，我们都应该负起责任来帮助汽车行业，让供应商在汽车真正上市之前解决这些问题。 ?「埃尔法哥哥」自动驾驶汽车安全的五个组成部分