这事儿得从头说起。北京时间5月29日,路透社的一篇报道给特斯拉的“全自动驾驶”(FSD)安全神话泼了盆冷水。特斯拉一直号称FSD的安全性最高能达到人类驾驶员的10倍,但支撑这个说法的数据,恐怕经不起仔细推敲。

直接参与训练这项技术的员工们,心里跟明镜似的。他们坦言,这项技术离大规模安全交付自动驾驶汽车,还差着十万八千里。
在犹他州的一间办公室里,几百号特斯拉员工每天都在干一件事:仔细审核从搭载了FSD功能的车辆上采集回来的视频。画面里,车撞上了猫、狗、鹿,或者干脆就是各种常见交通事故。有时候,车辆在撞击前连刹车都不带踩一下的,超速更是家常便饭。偶尔,还会看到车辆险些撞上在街上玩耍的孩子。
这些员工就是所谓的“数据标注员”,他们负责训练特斯拉的AI驾驶软件。把好的、坏的驾驶行为都标注清楚,然后上报给工程师,让他们去改。尽管CEO埃隆·马斯克一再表示FSD很快就能让所有特斯拉实现完全自动驾驶,但路透社采访的九名前数据标注员和一位前自动驾驶工程师却透露,就在最近几个月,这项技术连一些基础操作都搞不定——比如避让紧急车辆,或者在校车上下学生时停车。
然而,即便存在这些危险的缺陷,马斯克和其他高管却越来越频繁地吹捧FSD的安全性,同时还在大力推动FSD的公开展示。这种“全自动驾驶”能力,是马斯克十年来每年都向投资者承诺的目标。这些展示包括去年6月在得州奥斯汀启动的自动驾驶出租车试点项目——当然,车里和远程都有真人安全监控员。
安全展示依赖人工
四名前员工告诉路透社,每当这些展示活动临近,公司内部就会进入“高压”模式。员工们需要长时间加班,对路线进行地图标注,并针对特定危险情况训练软件,目的就是让FSD看起来比实际更强大。这些员工指出,这种高度依赖人工的安全保障措施,根本没法大规模推广。这种内部的安全保障努力,之前可没人报道过,它直接动摇了马斯克长期以来的说法:特斯拉的自动驾驶技术很快就能在全球任何地方运行,而且不像竞争对手那样,需要对道路和潜在危险进行繁琐的本地化地图绘制。
马斯克曾宣称,特斯拉只靠摄像头和AI,走的是“更简单”的路线,这能让其自动驾驶出租车服务以“超指数级”速度扩张,并且通过软件更新,就让现有特斯拉车主实现完全自动驾驶。他还和公司其他高管一起,引用公司的安全统计数据,进一步强化市场信心,说这些数据证明FSD的安全性已经达到人类驾驶员的10倍。
对比数据不可靠
然而,路透社对特斯拉统计方法的审查,以及对公司内部人士的采访,都指向同一个结论:特斯拉距离安全地大规模交付自动驾驶汽车,还差得远。而这个承诺,恰恰是支撑这家汽车制造商1.6万亿美元市值的关键。
这次审查,路透社分析了特斯拉如何把自己的事故数据与联邦事故数据进行比较,评估了其竞争对手Waymo相对更严格的统计方法,还采访了11位交通安全研究人员,请他们审查特斯拉的统计方法。最终发现,特斯拉FSD安全报告背后的统计数据,存在若干无效的比较。10位研究人员一致认为,这些比较根本就是误导性的营销,而不是对关键安全问题的严肃调查。
具体来说,特斯拉通过对比FSD驾驶下触发安全气囊的事故率,与涵盖了远没那么严重事故的联邦所有车辆事故率,来夸大技术安全性。研究人员还指出,特斯拉拿自己的车和美国普通车辆比较,但美国普通汽车的平均车龄远高于特斯拉。这会扭曲结果,因为近年来所有车企都推出了新的安全功能,事故率本来就下降了。
卡内基梅隆大学的工程学教授、自动驾驶安全专家菲尔·库普曼打了个比方:“任何新车都比一辆用了12年的旧车安全得多。这就好比说:‘我的喷气式飞机比你的二战轰炸机更快’。是的,但那又能说明什么呢?”特斯拉没有回应路透社的详细提问。
去年7月,特斯拉CFO瓦布哈维·塔尼亚在奥斯汀自动驾驶出租车项目启动后,首次提出了“FSD安全性高出10倍”的说法。随后,董事长罗宾·德霍姆在去年11月的股东会议上再次重复。在那次会议上,股东批准了授予马斯克高达1万亿美元特斯拉股票的薪酬方案。马斯克本人则展示了一张图表,根据近期修订后的统计方法,提出了一个稍显保守的说法:“事故减少85%。”他甚至对股东说:“我们对于让人们一边发信息一边开车几乎已经感到放心了,这可以说是一个杀手级应用。在未来一两个月内,我们会密切关注安全统计数据。但基本上,我们会允许你们边发信息边开车。”
然而,六个月过去了,特斯拉并未批准用户在启用FSD时边发信息边开车。FSD正式的小字说明依然写着:“当前启用的功能仍需要驾驶员主动监督,并不会使车辆实现自动驾驶。”在涉及严重事故的诉讼中,特斯拉也经常引用这类免责声明进行抗辩。
别信马斯克
FSD被普遍认为能应对很多驾驶场景,有时甚至能长时间行驶。但事实证明,完全自动驾驶对特斯拉和其他公司来说都难以实现,因为这要求系统在所有场景下,包括最复杂的路况,都能完美运行。
七名前数据标注员告诉路透社,他们绝不会放心让FSD来开车。“我们都见过它出错,”其中一人说。另一人则直言,就算有人给钱,他也不会坐特斯拉的自动驾驶出租车。一位曾多年审查特斯拉事故数据的资深自动驾驶工程师,更是直言特斯拉的安全宣传是“胡扯”。“绝对不要在这件事上相信马斯克,”这位工程师说。
10名交通安全研究人员也指出,特斯拉安全统计数据的前提本身就存在缺陷,因为FSD根本不是真正的自动驾驶系统。他们强调,特斯拉高管所说的“与人类驾驶员比较”并不准确。实际上,特斯拉是在拿“普通人类驾驶员”与“使用了FSD的普通人类驾驶员”进行比较。此外,特斯拉也没考虑到,驾驶员可以随时开关FSD。研究表明,驾驶员在复杂的交通情况下——也就是他们觉得技术不安全时——往往会避免使用高级辅助驾驶系统。特斯拉自己的数据也显示,FSD主要在高速公路上使用。
Waymo 更严谨
作为对比,Alphabet旗下的Waymo,将其已部署在美国11个大都市区的完全无人驾驶出租车,与类似条件下的人类驾驶车辆进行比较。
Waymo采用了比特斯拉更严格的方法,会仔细审查其运营所在市场的事故数据,并根据其自动驾驶出租车所行驶的道路类型和社区环境进行调整。它们关注的是特定的事故率,例如气囊弹出或严重受伤的事故,并与其车辆在同一市场中人类驾驶车辆的事故率进行对比。Waymo安全研究员约翰·斯坎伦表示:“我们必须非常谨慎地使用措辞。你需要非常明确的研究问题,以及非常具体的结论。”相比之下,特斯拉既没有寻求同行评审,也只发布了概括性的安全统计结论,同时对其车辆的事故原始数据保密。
安全部署急不来
四位知情人士表示,要实现安全规模化部署,可能还需要数年时间。然而,就在去年7月,也就是奥斯汀自动驾驶出租车项目启动一个月后,马斯克就预测,到2025年底,这项服务将覆盖美国一半的人口。
今年1月,马斯克又错误地声称,特斯拉在奥斯汀和旧金山湾区运营着500辆“自动驾驶出租车”,并补充说这个数字将沿着“指数曲线”实现“每月翻一番”。他还说特斯拉在湾区运营着一项“自动驾驶出租车服务”。但实际上,该公司只是在州许可证下运营着一项叫车服务——这种许可证通常用于需要人类司机的专车服务。
现实情况是,根据奥斯汀市官员最近的幻灯片演示,在项目启动近一年后,特斯拉在那里仍然只运营着大约50辆自动驾驶出租车。三名知情人士称,这些车辆行驶在有限且经过精心地图绘制的区域内。根据路透社记者近期的观察,其中一些车辆的前排乘客座位上仍然有安全监控员。
今年4月,特斯拉表示正在达拉斯和休斯顿推出自动驾驶出租车服务,并附上了服务区域的地图。路透社记者最近在两座城市测试了该服务,发现等待时间很长,且可用性不稳定。在记者设法成功在达拉斯打到车的三次经历中,自动驾驶出租车都无法把他送达市中心的目的地——尽管该目的地仍在特斯拉标称的服务范围内。每次,特斯拉自动驾驶出租车都把他放在距离目的地大约需要步行15分钟的地方。
