FSD 比人类安全十倍？特斯拉 AI 训练师自己都不信

北京时间 5 月 29 日，路透社发文称，特斯拉声称其“全自动驾驶”(FSD) 软件的安全性最高可达人类驾驶员的 10 倍，但该公司用来支持这一说法的数据经不起推敲。参与训练这项技术的员工则表示，这项技术远未达到能够大规模安全交付自动驾驶汽车的水平。特斯拉涉嫌夸大 FSD 安全在美国犹他州的一间办公室里，数百名特斯拉员工正在仔细审查车辆采集的视频，这些车辆搭载了特斯拉 FSD 功能。一些片段显示，车辆撞上了猫、狗或鹿，以及发生更常见的交通事故。有时，车辆在撞击前甚至没有刹车，很多时候还会超速。偶尔，这些员工还会看到车辆险些撞到在街道上玩耍的儿童。这些员工被称为“数据标注员”，他们负责训练特斯拉 AI 驾驶辅助软件。他们会对良好或糟糕的驾驶行为进行标注，并将问题上报给负责改进系统的工程师。特斯拉 CEO 埃隆 · 马斯克 (Elon Musk) 表示，FSD 很快将让所有特斯拉汽车实现完全自动驾驶。但路透社对九名前数据标注员和一名前特斯拉自动驾驶工程师的采访显示，这项技术在最近几个月里依然难以完成一些基础操作，例如避让紧急车辆，或在校车上下学生时停车。尽管存在这些危险的缺陷，马斯克和其他高管却越来越频繁地吹捧 FSD 的安全性，同时推动特斯拉举办“全自动驾驶”能力的公开展示。这种能力是马斯克十年来每年都向投资者承诺的目标。这些展示活动包括在得州奥斯汀市推出的自动驾驶出租车试点项目，该项目于去年 6 月启动，车内有真人安全监控员，同时还有其他人进行远程监控。安全展示依赖人工四名前特斯拉员工告诉路透社，在特斯拉内部，随着这些展示活动临近，员工需要长时间工作，对路线进行地图标注，并针对特定危险情况训练软件，以让特斯拉的自动驾驶技术看起来比实际能力更强。这些员工称，这类高度依赖人工的安全保障措施，根本无法进行大规模部署。特斯拉内部这些的安全保证努力此前未被报道过，削弱了马斯克长期以来的说法。马斯克一直宣称，特斯拉的自动驾驶技术很快就能在全球任何地方运行，而且不像竞争对手那样，需要对道路和潜在危险进行繁琐的本地化地图绘制。特斯拉称 FSD 能应对多种场景，但前员工称基本操作仍成问题马斯克曾表示，特斯拉采取了一种更简单的方法，仅依赖摄像头和 AI，这将使其能够以“超指数级”的速度扩展其自动驾驶出租车服务，并通过软件更新让现有特斯拉车主实现完全自动驾驶。马斯克和其他特斯拉高管还通过引用公司的安全统计数据，进一步强化了外界对其自动驾驶能力的信心。他们声称，这些数据证明 FSD 的安全性已经高达人类驾驶员的 10 倍。对比数据不可靠然而，路透社对特斯拉统计方法的审查以及对公司内部人士的采访显示，特斯拉距离安全地大规模交付自动驾驶汽车还相差甚远，而这一承诺正是支撑这家汽车制造商 1.6 万亿美元市值的关键所在。这项审查包括：路透社对特斯拉如何将其自身的事故数据与联邦事故数据进行比较的分析；对自动驾驶出租车竞争对手 Waymo 所采用的相对更严格统计方法的评估；以及对 11 位交通安全研究人员的采访，这些研究人员为路透社审查了特斯拉的统计方法。此次审查发现，特斯拉 FSD 安全报告中的统计数据背后存在若干无效的数据比较。10 位研究人员表示，这些比较无异于误导性的营销，而非对关键安全问题的严肃调查。Model 3 开启 FSD例如，特斯拉通过将 FSD 驾驶下特斯拉触发安全气囊的事故率，与涵盖远没那么严重事故的联邦所有车辆事故率进行对比，从而夸大了该技术的安全性。研究人员还指出，该公司将其车辆与美国普通车辆进行比较，但美国普通汽车的平均车龄远高于特斯拉。研究人员表示，这会扭曲结果，因为所有车企近年来都推出了新的安全功能，从而降低了事故发生率。“任何新车都比一辆使用了 12 年的旧车安全得多。这就好比说：‘我的喷气式飞机比你的二战轰炸机更快’。是的，但那又能说明什么呢？”卡内基梅隆大学工程学教授、自动驾驶汽车安全专家菲尔 · 库普曼 (Phil Koopman) 表示。特斯拉没有回应路透社就这篇报道提出的详细问题。去年 7 月，特斯拉 CFO 瓦布哈维 · 塔尼亚 (Vaibhav Taneja) 在该公司启动奥斯汀自动驾驶出租车项目后，首次提出了“FSD 安全性高出 10 倍”的说法。特斯拉董事长罗宾 · 德霍姆 (Robyn Denholm) 在去年 11 月的一次会议上重复了这一说法。在那次会议上，股东批准了授予马斯克高达 1 万亿美元特斯拉股票的薪酬方案。在同一场会议上，马斯克展示了一张图表，根据近期修订后的特斯拉统计方法，提出了一个稍显保守的说法：“事故减少 85%。”“我们对于让人们一边发短信一边开车几乎已经感到放心了，这可以说是一个杀手级应用，”马斯克对股东们表示，“在未来一两个月内，我们会密切关注安全统计数据。但基本上，我们会允许你们边发短信边开车。”然而，六个月过去了，特斯拉仍未批准用户在启用 FSD 时边发短信边开车。特斯拉 FSD 官网的小字说明依然写着：“当前启用的功能仍需要驾驶员主动监督，并不会使车辆实现自动驾驶。”在涉及严重事故的诉讼中，特斯拉也经常引用这类免责声明进行抗辩。别信马斯克FSD 被普遍认为已经能够应对许多驾驶场景，有时甚至可以长时间行驶。但事实证明，对于特斯拉和其他公司来说，完全自动驾驶仍然难以实现，因为这项技术要求系统在包括最复杂路况在内的所有场景下都能做到完美运行。马斯克七名前数据标注员告诉路透社，他们不会放心让 FSD 来驾驶车辆。“我们都见过它出错。”其中一人表示。另一人则说，即使有人给他钱，他也不会乘坐特斯拉的自动驾驶出租车。一位曾多年审查特斯拉事故数据的资深自动驾驶工程师称，特斯拉的安全宣传是“胡扯”。“绝对不要在这件事上相信马斯克。”这位工程师说。10 名交通安全研究人员表示，特斯拉安全统计数据的前提本身就存在缺陷，因为 FSD 并不是真正的自动驾驶系统。他们指出，特斯拉高管所说的“与人类驾驶员比较”其实并不准确。实际上，特斯拉是在拿“普通人类驾驶员”与“使用 FSD 的普通人类驾驶员”进行比较。此外，特斯拉也没有考虑到，驾驶员可以随时开启或关闭 FSD。而且研究表明，驾驶员在复杂的交通情况下 (即他们感到该技术不安全时) 往往会避免使用高级辅助驾驶系统。特斯拉自己的数据显示，FSD 主要在高速公路上使用。Waymo 更严谨Alphabet 旗下 Waymo 则将其目前已部署在美国 11 个大都市区的完全无人驾驶自动驾驶出租车，与类似条件下的人类驾驶车辆进行比较。Waymo 自动驾驶汽车Waymo 采用了比特斯拉更严格的方法，仔细审查其运营所在市场的事故数据，并根据其自动驾驶出租车所行驶的道路类型和社区环境进行调整。Waymo 关注的是特定的事故率，例如气囊弹出或严重受伤的事故，并将其车辆与同一市场中人类驾驶车辆的事故率进行对比。“我们必须非常谨慎地使用措辞，” Waymo 安全研究员约翰 · 斯坎伦 (John Scanlon) 表示，“你需要非常明确的研究问题，以及非常具体的结论。”相比之下，特斯拉既没有寻求同行评审，也只发布了概括性的安全统计结论，同时对其特斯拉车辆的事故原始数据保密。安全部署急不来四名知情人士表示，要实现安全规模化部署可能还需要数年时间。然而，去年 7 月，也就是特斯拉奥斯汀自动驾驶出租车项目启动一个月后，马斯克预测，到 2025 年底，这项服务将覆盖美国一半的人口。今年 1 月，马斯克错误地声称，特斯拉在奥斯汀和旧金山湾区运营着 500 辆“自动驾驶出租车”，并补充称，他预计这个数字将沿着“指数曲线”实现“每月翻一番”。马斯克还表示，特斯拉在湾区运营着一项“自动驾驶出租车服务”。但实际上，该公司只是在州许可证下运营着一项叫车服务。该许可证通常用于需要人类司机的专车服务。特斯拉在得州的自动驾驶出租车现实情况是，根据奥斯汀市官员最近的一次幻灯片演示，在奥斯汀项目启动近一年后，特斯拉在那里仍然只运营着大约 50 辆自动驾驶出租车。三名知情人士称，这些车辆行驶在有限且经过精心地图绘制的区域内。根据路透社记者最近的观察，其中一些车辆的前排乘客座位上仍然有安全监控员。今年 4 月，特斯拉表示正在达拉斯和休斯顿推出自动驾驶出租车服务，并附上了服务区域的地图。路透社记者最近在两座城市测试了该服务，发现等待时间很长，且可用性不稳定。在记者设法成功在达拉斯打到车的三次经历中，自动驾驶出租车都无法把他送达市中心的目的地，尽管该目的地仍在特斯拉标称的服务范围内。每次，特斯拉自动驾驶出租车都把他放在距离目的地需要大约步行 15 分钟的地方。