首页 首页 汽车 救更多人之前要先杀死一些人,自动驾驶必经之路?

救更多人之前要先杀死一些人,自动驾驶必经之路?



三月的一个早晨,黎明前,杰里米·班纳从床上爬起来。像其他通勤的日子一样,他坐上红色特斯拉3型车,前往目的地。

从车里望出去,沿路的沼泽和农田看起来像一大片绿地。这时,班纳点击了屏幕上的一个操作。以轻快的语调,市场上最复杂和最有争议的自动驾驶模式被激活了。

也就是说,在电脑的控制下,汽车可以加速,换车道和选择出口。如果前方有障碍物,它也会刹车。

但这是班纳最后一次使用这个功能,也是他生命的最后一天。

特斯拉的目标是通过制造世界上第一辆完全自主的汽车来主宰全球汽车市场,它认为这是至关重要的一步。顾客也相信了。

该公司已经从自动驾驶仪中收集了超过15亿英里(约24亿公里)的里程,其中许多里程是故意挑战软件的极限。

尽管《车主手册》提醒司机密切注意路况,但这并没有阻止一些人阅读、打盹、弹钢琴或摇晃汽车。然而,大多数时候,汽车会带他们去他们想去的地方。

回到班纳的故事,那天他的车“见过几次”。这辆车没有发现一辆卡车正穿过它前面的一条四车道公路,班纳本人显然也处于不稳定状态。

接下来,他的车以超过100公里/小时的速度与卡车相撞,车顶被掀翻。这位50岁的车主是三个孩子的父亲,当场死亡。

后来,班纳的家人根据佛罗里达州的《异常死亡法案》起诉特斯拉。给出的理由很简单:特斯拉承诺提供一辆安全的汽车,但交付了一辆危险且有缺陷的汽车。

人类有时会在判断上犯错误,但并不总是会导致严重的后果。这是因为人们会在不同程度上犯错误,并选择不同的方法来补救。

这就提出了一个问题:如果系统有问题怎么办?即使汽车装有各种检测装置,当软件认为前方道路上没有危险时,它也会认为一切都是安全的,不会采取任何保护措施。

自从特斯拉在2015年引入自动驾驶系统以来,已知的五起死亡事故中有四起是由这种疏忽造成的。

然而,自动驾驶仪不同于历史上几乎所有其他消费品。在某些方面,它为我们提供了未解决问题的预览,这样我们就可以提前看到在自动驾驶时代将会面临什么样的令人不安的问题。

特斯拉首席执行官埃隆·埃隆·马斯克(Elon elon musk)表示,这项技术拯救了生命,许多特斯拉车主提供了自己的证词,证明该车能够探测到危险并避免碰撞。(如果你不相信我,还有一段输油管道视频可以证明这一点。)

班纳发生致命事故后不到两个月,马斯克邀请了大约100名投资者和分析师来到特斯拉位于帕洛阿尔托的总部,在宽敞的会议室与他们交谈,仿佛什么都没发生。

也许双方都是对的。依靠计算机系统,一些本来可以幸存下来的司机失去了生命,但与此同时,技术的不断更新也将使未来大幅度减少致命事故成为可能。

黄:所有特斯拉汽车的里程,黑色:自动驾驶里程,单位:英里

马斯克决定让尽可能多的人拥有自动驾驶仪,这相当于把来自世界各地的高速公路汇集在一起,成为一个前所未有的实验场所。

由此可见,这个问题不再仅仅是一个学术讨论。在未来几年,社会——尤其是监管机构和法院——将不得不决定这是否是一种可接受的商品。

让我们看看另一个特斯拉车主。

26岁的年轻软件工程师奥马尔·卡齐在洛杉矶州际公路上“驾驶”特斯拉。加上引号的原因是他实际上没有把手放在方向盘上。黑色模型3也开启了自动驾驶模式,以大约80公里/小时的速度行驶,或者在最繁忙的交通时间行驶。

“完美。”卡齐评论说,当看到方向盘自动向左转动一点,汽车又回到了平缓弯道的中央。

留着胡茬,穿着一双蓝色耐克运动鞋,就像卡齐一样,特斯拉的大量铁杆粉丝大多是有钱、痴迷科技的男人,有些人经常在推特上与马斯克互动。

在充电站停留后,卡齐演示了“智能呼叫”功能,这在本质上仍然是实验性的。

他按下手机上的一个按钮,然后他的特斯拉汽车从停车场开了过来。"这个函数还没有用."卡齐笑着说,但因为它能吸引这么多观众,他经常忍不住试一试,谁喜欢炫耀。

智能呼叫(Smart Call)让人们一瞥马斯克承诺的自动驾驶的未来,但对于公路驾驶来说,自动驾驶是从头到尾避免的关键。

特斯拉说这项技术不够可靠,所以司机被要求把手放在方向盘上,一秒钟也不能集中注意力在其他地方。

当然,这也有法律目的。因为美国大多数州仍在研究如何管理自动驾驶汽车,对于州监管机构来说,自动驾驶仪只是一个高级驾驶员辅助程序,或者巡航控制的增强版本。

自动驾驶仪还不能很好地处理非公路上的交通灯和停车标志。然而,高速公路上已经积累了四年的数据和信息,这确实使它逐渐承担了更复杂的任务,例如顺利合并道路、防止其他车辆插队或从一条高速公路导航到另一条高速公路。

“它不能完美地自我驾驶,但每隔几周你就会得到更新,汽车驾驶越来越像人类。”卡齐叹了口气,但也表达了一种担忧,“这让人有点害怕。”

为什么会这样?因为机器应该超越人类的标准,但是现在它们变得像人类一样,在一定程度上降低了标准。以防止插队为例。如果自动驾驶变得更像人类驾驶,这意味着系统可能选择让步,让其他车辆先行。

事实上,开车是大多数成年人做的最危险的事情之一。去年,美国有4万人死于车祸,全世界有140万人。

1974年,为了节省燃料,美国限制高速公路的时速为55英里。一项研究发现,这一变化在第一年减少了至少3000例车祸死亡。但是人们喜欢开快车,所以国会后来取消了限制。

几年前,交通事故死亡人数开始略有上升,一些专家将其归因于智能手机的使用。然而,这也没用。仍然有人在开车时发信息。

然而,不管有什么缺陷,电脑都不会喝醉、疲倦、生气,也不会有开车时刷手机的冲动。这是一个巨大的优势,它不会变得像人类一样。

自动驾驶技术承诺消除94%的人为错误事故。从这个角度来看,自动驾驶汽车可能成为青霉素和天花疫苗同等水平的救星。

卡齐做了一个计算,说有一天,自动驾驶汽车每天可以拯救3000人的生命。根据他的逻辑,任何阻碍这一进程的人在那时都会被鲜血染红。"想象一下,有人把软件推迟了一天,那么多人丧生."

商业火箭、高速隧道、大脑植入、电动汽车,马斯克出生并在南非长大,30岁前赚了很多钱,然后我们看到了他一系列大胆的项目。

特斯拉的股价已经下跌了几个月。尽管推出了世界上最畅销的电动汽车模型3,该公司仍有很长的路要走才能盈利。

因此,马斯克有了新的关注点。"几个月内,今天上路的汽车将能够在当地道路上使用自动驾驶仪。"他说,“到2020年的某个时候,车辆将不再需要人工监管,将能够在闲置期间通过自动驾驶租赁服务赚钱。”

崇拜者认为马斯克是一个改变世界的梦想家,而他的敌人认为他是另一个会吹牛的骗子。

"从财务角度来看,购买特斯拉以外的任何东西都是不可靠的."马斯克继续说道。

包括通用汽车、戴姆勒和优步在内的数十家公司正竞相开发这项技术。对于任何关心自动驾驶汽车行业的人来说,马斯克的时间表似乎太大胆了。

许多观察家认为最强的竞争对手仍然是韦莫。但是waymo已经努力解决这个问题十多年了,还没有向公众出售自动驾驶汽车。

马斯克自信地告诉投资者,特斯拉将超过他们所有人,这要归功于已经上路的50多万辆配备自动驾驶系统的特斯拉汽车。简而言之,自动驾驶仪就像一个草稿。随着人越来越多,数据越来越多,它可以逐渐被“描绘”得更加灵活可靠,最终实现真正的全自动驾驶。

这正是智能手机应用和视频游戏的用途。他们首先向客户发布不完整的软件,并希望在这个过程中解决问题和增加功能。

然而,有一点需要注意,这些产品并不完美,不会导致死亡,但自动驾驶是可能的。

瓦伊莫(Waymo)、通用汽车(General Motors)等公司也有总体设计计划,但它们只安装在数百个测试模型中,部署在全国几个精心挑选的社区中,几乎总是有专业的安全司机。

马斯克显然不这么认为。他正在尽快将“草案”发送给消费者。我不得不说,这使特斯拉工程师能够从客户那里收集tb级别的数据,并根据现实世界的情况使用这些信息来改进自动驾驶软件。

即使特斯拉没有处于自动驾驶模式,他们也会自动将人类驾驶员的选择与电脑的选择进行比较。每隔几周,特斯拉将能够推出新的自动驾驶仪版本,并上传到汽车上。

对此,卡齐和其他球迷非常高兴。

"每个人都一直在训练这个网络."马斯克解释并称这种良性循环为“舰队学习”,将其与谷歌搜索引擎每年处理1.2万亿次查询的方式相比较。他坚信有一天这个软件会变得足够好,以至于司机不再需要方向盘。

另一方面,当摩根士丹利(Morgan Stanley)分析师就自动驾驶仪的安全记录向马斯克施压时,马斯克很快转向了人类驾驶的危险和技术修复它的潜力。

汽车就像手动操作的老式电梯,“每隔一段时间,工作人员会感到疲倦、喝醉或其他什么,然后他们会在错误的时间转动杠杆,从而造成灾难。”马斯克接着说,“现在没有电梯操作员了。”

除非司机和电梯服务员走同一条路,否则自动驾驶是下一个最佳选择。

他表示,让自动驾驶仪退出市场“在道德上应该受到谴责”。有趣的是,不仅马斯克或他的支持者这么认为,受害者也站在他一边。

第一个死于自动驾驶仪的美国司机是约书亚·布朗,俄亥俄州的一名海军老兵,他和班纳一样,在十字路口撞上了一辆半挂车。2016年车祸后,他的家人发表了一份声明,基本上表达了对特斯拉道德考虑的支持。

“变化总是伴随着风险。我们的儿子对未来的道路安全有着如此积极的影响,这让我们的家庭感到欣慰和自豪。”声明说。

事实上,他是马斯克事业的烈士。

不可否认,当我们把大部分(但不是全部)责任移交给电脑时,我们会分心。此外,作为一名司机,驾驶技能可能会变得陌生。

航空史上充满了由于人类过度依赖自动驾驶模式而导致的错误。两名西北航空公司的飞行员同时完全分心,导致他们的飞机从原来的目的地飞行160公里。

"注意力分散是人类的天性。"米西·卡明斯(Missy cummings)是杜克大学普拉特学院的前海军战斗机飞行员和工程教授,给出了这个答案,并希望自动驾驶仪退出市场。

同时,系统考虑的一些最具挑战性的任务对人类来说往往是小菜一碟。因此,当电脑出现问题时,司机也可能觉得最安全。

以上两起事故就是很好的证明。任何有洞察力的成年人都能区分良性道路特征(公路立交桥、高架标志、停放的汽车)和潜在风险(道路中间的卡车)。

但是对于世界上最复杂的机器视觉软件来说,这是非常困难的。

特斯拉一直拒绝对其自动驾驶仪施加限制,因为这使得系统更加安全,使用起来也不太方便。该公司允许驾驶员将自动驾驶仪的巡航速度设置在当地速度限制之上,并允许车辆在任何可以检测到车道标志的地方启动自动模式。(手册说它的使用应该仅限于高速公路。)

马斯克或多或少鼓励了那些想测试特斯拉汽车驾驶极限的人。

他个人在电视节目中扮演了一个反面的例子,按照手册中的警告,打开自动驾驶仪,把手从方向盘移开,然后展示了一个模型3。

后来,一段涉及自动驾驶仪的色情视频在互联网上疯传后,马斯克发了一条推文,开玩笑地说:“事实证明,这个功能的使用方式比我们想象的要多。”

甚至卡齐也承认他和他的前女友在自动驾驶模式下在车里亲热过。他尽力留意道路。

由于自动驾驶仪现在已经积累了超过24亿公里的驾驶记录,应该很容易确定它的安全等级。但到目前为止,特斯拉既没有正式发布数据,也没有向第三方研究人员提供相关信息。

据我们所知,只有马斯克声称自动驾驶的安全性是没有自动驾驶的两倍。

特斯拉确实公布了自动驾驶仪的季度事故率数据,但安全专家表示,如果没有这些事故的具体情况,这些数据本身将毫无用处。

2016年布朗撞车事故后,国家公路交通安全局调查了自动驾驶仪,但没有发现召回它的理由。该部门得出的一个结论是,配备自动驾驶仪的特斯拉汽车的事故率比没有该功能的同品牌汽车低40%。

这一结果所依据的数据并不完全可靠。你知道,尽管特斯拉当时已经提交了44000辆汽车的里程和碰撞数据,但除了5700辆汽车之外,其他所有汽车的关键数据都缺失或相互矛盾。

马里兰州独立统计顾问兰迪·惠特菲尔德指出了报告中的不足之处,但美国国家公路交通安全管理局表示,他们将坚持最初的发现记录。

评估自动驾驶仪或全自动驾驶技术的一个主要问题是不清楚社会会在多大程度上接受安全。

自动驾驶汽车应该在上路前完美无瑕,还是仅仅比普通的人类司机更好?

"人类对机器缺陷造成的伤亡几乎没有容忍度."负责丰田自动驾驶技术研发的吉尔·普拉特(Gill pratt)在2017年的一次演讲中表示,“机器学习需要很多年,加上远远超过他人模拟测试和真实测试的里程数,才能达到理想的完美效果。"

然而,如此高的标准可能会导致更多的死亡。在2017年RAND的一项研究中,研究人员nidhi kalra和david groves评估了500种不同的技术开发方案。

在大多数情况下,与接受一辆比人类安全一点的汽车相比,等待一辆近乎完美的自动驾驶汽车的成本是用成千上万的生命来衡量的。

"那些仍在等待完美的人应该意识到这并非没有代价。"机器人专家卡拉给出了这样一个答案。

我们习惯于认为代码是由人类程序员编写的一系列指令。卡拉争论的关键在于他对汽车如何学习的洞察力。

识别一辆自行车,然后预测它将向哪个方向行驶,这太复杂了,不能简化为一系列的指令。大多数电脑都是这样工作的,但是特斯拉和其他自动驾驶汽车的开发者却不是。

相反,程序员使用机器学习来训练他们的软件。他们可能会给它展示成千上万张不同自行车的照片,来自不同的角度和不同的背景。他们也可以给它看一些摩托车或独轮车,这样它就知道区别了。随着时间的推移,系统可以制定自己的规则来解释它所看到的。

这台机器积累的经验越多,它就会越聪明。但这只能解决部分问题。即使我们制造了一辆完美的自动驾驶汽车,我们怎么知道呢?

卡拉接着说:“如果我们真的想最大限度地拯救生命,我们甚至可以在无人驾驶汽车比人类更危险的时候让它们上路,以加快它们的学习能力。”

此外,从统计数据来看,致命事故实际上相当罕见。在美国,每行驶1.3亿公里就会有类似的事故发生。如果用模拟数据代替,达到必要的测试次数将是浪费时间。

在兰德(RAND)的另一篇文章中,卡拉估计,无人驾驶汽车需要行驶约4.42亿公里,但不能证明它比人类驾驶员更好,而且这段距离需要100辆测试车才能连续行驶12年以上。

考虑到这一切,回顾马斯克同时完善和测试他的自动驾驶仪的计划,以及在真实道路上使用老顾客作为志愿者测试员的计划,似乎并不那么疯狂。

这可能有点可怕,但如果大量司机没有被机器撞死的危险,就不可能实现自动驾驶安全性的根本提高。

马斯克决定加快自动驾驶仪的发展,让它在未经批准的道路上运行,这背后有一定的逻辑。

每当驾驶员试图通过避免事故来重新获得控制权时,这对于计算机来说都是一个潜在的教育时刻,对于软件来说也是一个学习不应该做什么的好机会。

再来看一个例子。美国已经有了一个对可能拯救生命但也可能有致命副作用

山西11选5 摩斯国际 快三app 甘肃11选5



上一篇:《攀登者》《我和我的祖国》《中国机长》三部大片同日上映

下一篇:定了!成都将承担这项“国家级”试点工作

相关新闻

最新新闻

热门新闻