车东西（公众号：chedongxi）
作者 ｜ 赵婧初
编辑 ｜ 志豪

特斯拉FSD最大的风险，或许已不是能力不足，而是过度信任。

车东西6月2日消息，日前，美国电动车媒体Electrek发布评论文章称，随着特斯拉FSD（Full Self-Driving，完全自动驾驶）能力不断提升，驾驶员正在面临一种新的安全隐患——过度信任驾驶辅助，从而逐渐放松警惕，甚至酿成事故。

在其看来，特斯拉FSD的问题已经不再是“会不会开”，而是“开得太好”，以至于让人忘记自己仍然是驾驶员，仍需要监督FSD驾驶。

而在特斯拉加速推进Robotaxi业务的背景下，这场关于技术、人类与信任关系的讨论，也正在成为智能驾驶行业的新课题。

▲特斯拉FSD（图源网络）

一、FSD越来越成熟 驾驶员却越来越容易分心

评论文章的作者、Electrek主编弗兰德·兰伯特（Fred Lambert）表示，自己已经测试特斯拉驾驶辅助系统超过十年。

兰伯特称，在早期版本中，由于驾驶系统频繁需要人工接管，驾驶员必须时刻保持高度警觉。但随着FSD持续迭代，他发现情况正在发生变化。

按照其描述，最新版本的FSD已经能够在两次关键干预之间连续行驶数千公里，在城市道路、高速公路以及复杂交通场景中的表现明显提升。

问题恰恰出现在这里。

当系统绝大多数时间都能够安全驾驶时，人类会本能地降低注意力。

这种现象在心理学和人因工程领域被称为“自动化自满”（Automation Complacency）。简单来说：

面对一个自动化能力较弱、不可靠的系统时，人们会始终保持警觉，因为它会频繁地出现问题，进而迫使人们集中注意力；

相反，当系统实现了百分百的自动化能力、完全安全时，人类也无需警觉和介入；

而最容易出现问题的，恰恰是介于两者之间的阶段——系统绝大部分时间表现优秀，能够处理大部分路况，但又远未达到真正的无人驾驶水平，仍会不可预测地出现故障，需要驾驶员随时准备接管。

但是人类的心理机制决定了我们并不擅长长时间监督一个几乎不会犯错的系统。

也就是说，FSD驾驶辅助水平越高，驾驶员越容易忘记自己仍然承担着监督其驾驶的责任。

二、这并非特斯拉独有 而是自动化行业的共同难题

事实上，类似问题并非首次出现。

在航空领域，自动飞行控制系统已经应用数十年。有研究发现，当飞行员长期处于监督状态而非主动操控状态时，其警觉性和接管能力都会下降。

轨道交通、医疗设备等领域，也都曾出现类似现象。

▲自动飞行控制系统（图源网络）

系统自动化程度越高，人类参与度往往越低。

而当系统遇到超出能力范围的极端情况时，人类却未必能够迅速恢复状态并完成接管。

多项人因工程研究表明，监视高度自动化系统的过程极为无聊，监视者的警惕会大幅下降。而当驾驶辅助系统需要将控制权交还给驾驶员时，驾驶员需要8到15秒的时间才能重新集中注意力。

也就是说，当FSD遇到突发状况需要驾驶员紧急介入时，例如遇到突发障碍物或者难以识别的施工区域，如果驾驶员在那短短几秒钟内没能快速恢复注意力，可能会导致严重后果。

全球知名出行服务公司优步（Uber）的前自动驾驶部门负责人拉菲·克里科里安，曾在驾驶特斯拉Model X（参数丨图片）使用FSD的过程中遭遇事故。当时车辆在弯道中突然失去方向判断，克里科里安未能及时接管，最终整车报废。

人因工程领域一直存在一个经典观点：自动化系统最困难的阶段，并不是完全人工阶段，也不是完全自动阶段，而是人机共同承担责任的过渡阶段。

从这一角度来看，上述问题实际上并非只针对特斯拉一家企业，而是整个智能驾驶行业共同需要面对的挑战。

三、FSD越来越强 功能宣传与用户预期的边界在哪

相比技术本身，争议更大的地方，其实是特斯拉FSD的营销。

目前，特斯拉官方命名FSD为“Full Self-Driving（Supervised）”，即“完全自动驾驶（监督版）”。5月22日，特斯拉中国官网更新命名为“特斯拉辅助驾驶”。

从法律和监管层面来看，FSD仍然属于需要驾驶员全程监督的辅助驾驶范畴。

▲特斯拉官网FSD命名

过去几年中，马斯克围绕FSD描绘了一幅宏大的未来图景。无人监督驾驶、大规模Robotaxi运营网络等概念频繁出现在特斯拉的宣传中。

这些愿景本身并非问题。

问题在于，当未来愿景与当前产品同时存在时，消费者往往很难严格区分二者。

对于许多消费者而言，他们接触到的不只是“监督版（Supervised）”这个限定词。

更容易被他们记住的，往往是“自动驾驶正在实现”“无人驾驶正在到来”“Robotaxi时代即将开启”等宣传话语。

而当这种认知逐渐形成后，用户对于智能驾驶功能的信任程度也会随之提高，甚至会产生过度信任。这种过度信任并不一定来自技术本身，也可能来自用户对技术能力的主观误判。

企业需要不断地展示技术进步，需要向市场描绘未来蓝图；但又必须避免用户对产品能力产生超出实际水平的预期。

如何在技术愿景与现实能力之间找到平衡，正在成为亟需解决的问题。

▲特斯拉（图源网络）

结语：智能驾驶时代 过度信任也是一种风险

过去几年，围绕FSD的讨论大多集中在技术层面。比如感知决策能力如何提升、端到端路线如何优化以及Robotaxi商业化落地效果如何。

但随着智能驾驶技术不断进步，新的问题已然从“系统能不能开车？”转变成“当系统越来越会开车时，人类还应该扮演什么角色？”

智能驾驶行业最大的挑战，也许不再只是算法、芯片和数据。而是在用户和系统之间，真正建立起一种合理的信任关系。

如何让用户既相信系统，又不过度依赖系统，或许将成为整个行业迈向下一阶段必须回答的问题。