影响全自动汽车的发展的一个关键因素是车辆能否在周围环境中可靠地导航，并对不可预见的事故迅速作出反应。据外媒报道，德国马克斯普朗克智能系统研究所（Max Planck Institute for Intelligent Systems）团队表明，基于深度神经网络的运动分析方法很可能用于未来自动驾驶汽车，而这些方法可能会被用来“攻击”神经网络的小模式所混淆。
自动驾驶或半自动驾驶汽车通过传感器感知周围环境。为了分析场景，制造商使用光流法（optical flow），即像素在视频帧之间的2D运动。
（图片来源：马克斯普朗克研究所）
光流描述了场景中的各种运动。开车或步行时，树木、房屋或塔架等静态物体似乎会朝相反的方向移动。物体的运动速度可以使我们判断与其之间的距离，例如附近的树会迅速消失在身后，而远处的物体，如云或山似乎是静止的。
为了分析各种运动，车载摄像头快速连续地记录大量的场景图像。计算机使用复杂的数学方法，根据图像之间的差异推断单个物体的运动。计算机为每个像素计算速度矢量，表示像素在图像中移动的速度和方向。其中很重要的一点是，车辆的运动和周围物体的运动都会产生光流。因此，车载计算机必须能够将自身运动与其他物体的运动区分开来，这是一项非常复杂的任务。
机器学习的最新进展催生了更快更好的计算此种运动的方法。该研究所的联合项目证明，这些方法容易受到攻击。例如，一个简单的、色彩鲜艳的图案偶然或故意出现在图像数据中。即使图案不移动，也会导致深度神经网络计算错误，网络会突然计算大部分场景在往错误的方向移动。有时彩色图案甚至会破坏整个系统，这是非常危险的。
目前，市场上现有车辆受影响的风险较低。不过，为了安全起见，研究人员告知了一些正在开发自动驾驶车型的汽车制造商，表明光流网络可能遭受攻击。该项目的目标是警告自动驾驶汽车制造商这一潜在威胁，并开发出应对攻击的新方法。
为此，研究人员构建了5个彩色图块来攻击这些系统。事实证明，只需几个小时的计算就可以相对容易地构建出此种模式。在测试运行期间，研究人员将这些颜色图案放置在场景中的随机点上，就能轻易干扰所有神经网络。在测试中，即使是占整个图像不到1%的一小块色块也能影响一半的图像区域，足以使系统混乱。色块面积越大，后果就越严重。
研究人员使用这些色块来分析网络中正在发生的事情，并发现网络中人们没有意识到的系统偏差。这些神经网络受人类大脑工作方式启发，输入数据通过加权和简单计算在网络中进行分析。系统权重经过训练，使网络学会输出场景的正确运动，而网络失误类似于人眼的视觉错觉。
神经网络本身无法改变所学习的优先级，这可能导致错误判断。然而，人们可以对其进行再训练，使其不再被错觉所欺骗。研究人员进行了简单的测试，证明神经网络仍然需要改进。他们给系统展示了两个相同的图像。尽管两者都没有运动或变化，但网络识别出现了差别。这些问题表明光流网络对于自动驾驶汽车而言还不够成熟。
如果神经网络非常可靠，将使自动驾驶更加安全。一方面，汽车不仅使用摄像头，还使用其他传感器进行导航。另一方面，越来越多的自动驾驶车辆会相互通信，车载计算机能够更容易地分析街道场景。在这种情况下，汽车不仅依赖自身传感器信号，而且还接收其他车辆的位置和速度的数据。尽管披露了自动驾驶技术的弱点，但研究人员仍然认为自动驾驶可以让道路更安全，因为90%的事故都是人为失误造成的。