刷到一段老视频:行人突然跌入车道,视频中的特斯拉向左急打方向,虽然避开了行人,但与对向车辆迎面相撞。
这起事故发生在2024年10月9日的罗马尼亚,当时无法证明究竟是系统采取了避让动作,还是人类司机的本能反应。这支视频广为流传,网上至今仍有人把它当成FSD/AES案例传播。
评论区里的讨论很有意思:
一方认为,车有金属外壳,有安全带和气囊保护,但人是血肉之躯。紧急变线造成财产损失,但不伤行人就是更好的选择。
另一方认为,不应贸然驶入对向车道。因为无法提前知道对向车辆的情况、乘员数量,为了避开眼前的危险,把风险转移给其他车辆,可能造成更严重的后果。
这似乎变成了自动驾驶的“电车难题”
在我看来,这件事如果发生在当下,那台特斯拉拥有FSD系统,大概率也是优先制动,只有在旁边无车时,才可能紧急转向避让。
自动行业里有过这样一条安全原则:能避免的事故,必须避免;但前提是不能因此制造另一场事故。
放在这件事上,就是系统不能自行比较“撞行人更惨,还是撞对向车辆更惨”,然后挑选一个它认为代价较小的结果。它不知道对向车里坐着几个人,也不知道撞车会引发什么后果。
一旦允许自动驾驶判断“撞谁的代价更低”,问题就会失控。老人、儿童、骑车人和车内乘员应该各占多少权重?谁有权给这些风险定价?
所以,自动驾驶就该老老实实做一台机器,别在最后一秒替人类扮演道德裁判。能刹就先刹,能把车稳住就别乱打方向;旁边真有空当再躲。实在避不开,就把碰撞速度和损失尽量降下来,这才是好的自动驾驶。
发布于 四川
