该报告所提出的问题包括:
一、 雨刷的视觉识别缺陷
特斯拉Autopilot系统借助图像识别技术,通过识别外部天气状况实现自动雨刷功能。科恩实验室通过研究发现,利用AI对抗样本生成技术生成特定图像并进行干扰时,该系统输出了“错误”的识别结果,导致车辆雨刷启动。
二、车道的视觉识别缺陷
特斯拉Autopilot系统通过识别道路交通标线,实现对车道的识别和辅助控制。科恩实验室通过研究发现,在路面部署干扰信息后,可导致车辆经过时对车道线做出错误判断,致使车辆驶入反向车道。
三、遥控器操控车辆行驶
利用已知漏洞在特斯拉Model S(版本2018.6.1)获取Autopilot控制权之后,科恩实验室通过实验证明,即使Autopilot系统没有被车主主动开启,也可以利用Autopilot功能实现通过游戏手柄对车辆行驶方向进行操控。
不过特斯拉对腾讯科恩实验室的演示似乎不以为然,该公司评论道:“该实验通过放置在汽车挡风玻璃前的电视显示图像,从而证明这项研究,然而这不是司机面临的现实情况,也不涉及安全问题。此外,正如我们在使用手册所述, “我们挡风玻璃刮水器的自动设置,目前处于测试阶段。客户可以随时选择使用手动挡风玻璃的刮水器设置。”
特斯拉还表示,在这次演示中,研究人员调整了车辆周围的物理环境(例如在公路上放置磁带或改变车道线路),以使汽车在使用自动驾驶仪时有不同的表现。然而有鉴于驾驶员可以随时使用方向盘或制动器轻松取代自动驾驶仪,该实验反应的并非现实世界的情况。”
腾讯作为特斯拉的投资者,旗下腾讯科恩实验室,对高级辅助驾驶安全技术保持着高度关注。在2018年Black Hat USA大会上,科恩实验室发表相关议题,面向全球首次公布了针对特斯拉Autopilot系统的远程无接触攻击(相关攻击链已经被特斯拉修复)。由于曾多次设法控制特斯拉汽车,该实验室的研究使特斯拉升级了其软件安全性。