11月27日,汽车制造商宣称,复杂的自动驾驶系统能够提升驾驶安全性并减轻驾驶员的压力,因为这些系统能够识别即将发生的碰撞并采取措施避免。然而,最新研究表明,某些系统可能在关键时刻产生适得其反的效果。
以色列内盖夫本-古里安大学和日本科技公司富士通集团的研究人员联合发表了一篇论文,指出基于摄像头的自动驾驶系统在遇到应急车辆闪烁灯光时,可能无法准确识别道路上的物体。研究人员将这一现象称为“数字癫痫发作”(Digital Epileptic Seizure),简称“epilepticar”。尽管经过人工智能训练,这些系统在应急车辆灯光闪烁的影响下,识别效果会显著下降,尤其是在黑暗环境中更为明显。
应急车辆的灯光可能导致自动驾驶系统对前方形似汽车的物体产生疑虑,难以准确判断。研究人员认为,这一漏洞存在重大风险,可能导致开启自动驾驶系统的车辆在应急车辆附近发生碰撞,甚至可能被恶意利用来制造事故。
研究尚未在具体的驾驶系统上验证该理论,例如特斯拉的Autopilot系统。实验中选择了五款嵌入市售行车记录仪的现成自动驾驶系统进行测试,这些记录仪均通过亚马逊购买。虽然这些产品被宣传为具有一定的碰撞检测功能,但在研究中仅作为摄像头使用。研究人员将捕获的图像通过四个开源对象检测器处理,但不确定是否有汽车制造商使用了这些检测器。这可能是因为大多数系统已经针对应急车辆灯光漏洞进行了改进。
内盖夫本-古里安大学的网络安全与机器学习研究员本·纳西表示,这项研究受到2018年至2021年间特斯拉Autopilot系统与约16辆静止应急车辆发生碰撞事故的启发。他指出,这些碰撞可能与应急车辆的闪烁灯光有关。美国国家公路交通安全管理局(NHTSA)对上述事故进行了长达三年的调查,最终促使特斯拉召回了Autopilot软件。NHTSA调查显示,Autopilot未能确保驾驶员在系统启用时保持足够的注意力并控制车辆。
其他汽车制造商的高级驾驶辅助系统如通用汽车的Super Cruise和福特的BlueCruise也能完成部分驾驶任务,但要求驾驶员在驾驶过程中保持专注,并且这些系统仅能在地图绘制好的特定区域内运行,这与Autopilot有所不同。
NHTSA发言人露西娅·桑切斯表示,应急车辆灯光确实可能对某些先进驾驶辅助系统的性能产生影响。在某些情况下,当应急车辆出现在车道上时,部分高级驾驶辅助系统未能对其闪烁灯光做出适当反应。
研究人员强调,他们无法断言特斯拉的Autopilot与应急车辆灯光之间的具体关联。实验主要集中在基于图像的物体检测技术上,许多汽车制造商还使用雷达和激光雷达等其他传感器来检测道路障碍物。特斯拉等少数技术开发者主张,通过复杂的人工智能训练增强的图像系统不仅能支持驾驶辅助,还能实现完全自动驾驶。特斯拉首席执行官埃隆·马斯克表示,该公司计划明年利用基于视觉的系统实现自动驾驶。
自动驾驶系统如何应对应急车辆灯光,取决于汽车制造商的设计思路。有些制造商选择调整技术,对不完全确定是障碍物的物体做出反应,但这可能导致“误报”,例如误将一个形似儿童的纸箱当成真实障碍物,从而紧急刹车。其他制造商则可能选择仅对高度确信是障碍物的物体做出反应,这种策略在极端情况下可能导致车辆未能及时刹车,与另一辆车发生碰撞,因为系统未能正确识别该车辆。
为解决这一问题,本-古里安大学和富士通集团的研究人员开发了一款名为“Caracetamol”的软件修复程序。这一名称结合了“car”(汽车)和“Paracetamol”(扑热息痛)。该程序通过专门训练识别带有应急灯光的车辆,显著提升物体检测的准确性。
加州大学圣地亚哥分校计算机科学与工程助理教授劳伦斯·费尔南德斯评价该研究“合理且有意义”。麻省理工学院AGE实验室研究车辆自动化与安全的研究员布莱恩·雷默认为,这项研究揭示了基于人工智能的驾驶系统存在的更广泛局限性。他强调,汽车制造商需要开展“可重复、可靠的验证”来识别盲点,如对应急灯光的敏感性。