南加州大学研究识别自动驾驶感知系统故障

图片来源：南加州大学官网，图中人物：Jyo Deshmukh（左），Anand Balakrishnanand（中），Xin Qin（右）

　　在洛杉矶此类交通密集的城市，很多人都在问自动驾驶汽车什么时候会出现？但是由于在美国发生了一系列自动驾驶汽车重大事故，自动驾驶汽车的安全问题让普及自动驾驶汽车的梦想戛然而止。

　　但是，据外媒报道，美国南加州大学（USC）的研究人员发布了一项新研究，解决了自动驾驶汽车开发人员长期面临的一个问题：如何测试自动驾驶系统的感知算法，该算法可让汽车“理解”“看到”的东西。

　　南加州大学研究人员与亚利桑那州立大学（Arizona State University）的研究人员合作，采用了新数学算法，能够在自动驾驶汽车上路之前，识别其系统中存在的异常情况或是故障。

　　感知算法基于卷积神经网络，由机器学习（一种深度学习）提供动力。众所周知，很难对此类算法进行测试，因为人们无法完全理解其是如何做出预测的，而这最终可能会给自动驾驶汽车等安全关键系统带来灾难性的后果。

　　一般来说，自动驾驶汽车通过机器学习系统“了解”世界，机器学习系统在自动识别物体之前，会接收大量的道路图像数据。但是，该系统可能会出现故障。去年3月，在亚利桑那州发生的一起自动驾驶汽车撞死行人事故中，该软件将行人分类为“假阳性”信息，并且做出不需要停车的决策。

　　该研究的合著者Jyo Deshmukh表示：“我们认为，此种训练感知算法的方式显然存在问题。当人类看到一段视频时，我们会做出一些有关接下来发生的事情的假设：如果我们在视频的某一帧中看到了一辆车，我们就会希望在下一帧视频中看到附近位置出现了该车。而这就是我们希望感知算法在部署之前能够满足的几个“正常条件”之一。” Jyo Deshmukh还是南加州大学计算机科学系教授，以及丰田前研发工程师，专注于自动驾驶汽车安全。例如，一个物体不可能从这一帧到下一帧就突然出现或消失。如果发生了此种情况，那么就违反了“正常条件”，或物理学的基本定律，表明感知系统存在缺陷。

　　该研究小组制定了新型数学逻辑，名为“时间质量时序逻辑”（Timed Quality Temporal Logic），并利用该逻辑，使用原始视频数据集的驾驶场景，测试了两种非常流行的机器学习工具 - Squeeze Det和YOLO。

　　在机器学习工具在多帧视频中违反“正常条件”的实例中，最常见的就是，机器学习系统未能检测到物体或是对物体进行错误分类时，该逻辑成功得到了应用。例如，在一个实例中，当自行车的轮胎看起来看是一条细细的垂直线时，该系统无法识别后方的骑车人。相反，该系统将骑车人错误归类为行人。在此种情况下，该系统可能无法正确预测骑车人的下一个动作，从而导致事故的发生。“幽灵物体”，即系统在没有物体时也感知到物体，此种情况也非常常见，可能会导致汽车误踩刹车，也是一个非常危险的举动。

　　该研究团队的方法能够在感知算法部署之前，识别其异常情况或缺陷，并可让开发人员查明具体问题所在。该方法就是在虚拟测试中找到感知算法的问题，让该算法更安全、更可靠。至关重要的是，由于该方法依赖“正常条件”库，因而不需要人类给测试数据库内的物体贴上标签，而此过程往往非常耗时且容易出现错误。

　　未来，该团队希望当发现错误时，在感知算法中集成该逻辑可以重新训练感知算法。此外，该逻辑还能扩展应用，用作汽车驾驶时的实时安全监测器。