自动驾驶汽车应该保护他人而牺牲自己的乘客吗?

数码Bear 2018-11-09 17:30

图1/5

本文由腾讯数码独家发布

你会坐上一辆为了拯救行人而宁可牺牲你自己生命的自动驾驶汽车吗?显然,这是一个让人难以回答的问题,同时也是一个非常值得关注的问题。根据对233个国家共计230万参与者进行的有史以来最大规模的道德决策调查结果显示,答案可能是肯定的。但是,麻省理工学院的这项研究只是从道德哲学中提取出来的一个思想实验,这是否会对自动驾驶汽车的伦理规划有实际影响?把调查结果编写到汽车代码中,让它符合社会的道德规范,还是把它们变成一种保护自己的工具?我们现有的技术是否具有可行性?我们会对这些问题进行讨论。但首先,让我们仔细看看麻省理工学院的研究。

这项研究向参与者展示了13个涉及自动驾驶汽车的场景。每个场景都有两幅公路和十字路口的图片。这些照片的场景让人足够左右为难,你一定会问,这种情况下自动驾驶汽车应该做什么?其中一种选择可能是汽车撞死一名乱穿马路的少年,或突然转向撞上混凝土隔离带导致车内的三名老年乘客死亡。

根据大部分人的判断标准来看,绝大多数的受访者都同意将群体的生命置于个体生命至上,人类生命高于动物的生命。但是正如你所预料的那样,在选择谁拯救的问题上,在国际上都存在分歧,而这是这项研究最有价值和最重要的方面。

图2/5

根据不同国家的选择来看,与尼日利亚或巴基斯坦相比,日本人更多的选择舍弃乱穿马路的行人,但是在流浪汉和企业精英之间,并未显示出什么偏向。而哥伦比亚人更喜欢放弃地位比较低的人,浪漫绅士的法国人更愿意选择拯救女性而放弃男性。

这并不意味着这项调查能帮助我们为自动驾驶汽车编程提供依据,使其合乎道德,后面我会解释为什么不能这么做。这项调查的意义和贡献可以追溯到一个古老的哲学思想试验,以及可以回溯到1905年的一项调查。调查发起者、威斯康辛大学哲学教授弗兰克·查普曼锋利提出了这样一个场景:有一条运载了数百名乘客并且迅速接近火车马上就要与另外一列火车相撞,一位男子除非将火车的轨道搬到另一条轨道的开关上,但同时他的儿子在另外一条轨道上玩耍,如果它选择拯救火车乘客,就会牺牲自己的孩子;如果保住自己的孩子,一整车的乘客就会遇难,这是一种两难的境地。

电车杀手

在更为现代的道德困境场景中,英国哲学家菲利普•富特(PhilipaFoot)在1975年用电车代替了火车,但最基本的问题不变。如果不按下开关,让电车沿着轨道运行,就会导致5名工人死亡。你会如何选择?如果你在Netflix上看过剧集《好景不长》(TheGoodPlace)的第二季第五集,你就会知道这种两难困境的许多衍生场景,以及各种不同的选择带来不同血淋淋的后果。

图3/5

根据麻省理工学院的研究来看,大多数人会选择应该改变轨道,撞死一个人而拯救更多的人。但也许实际情况要比研究提供的场景更加负责。正如科技哲学家帕特里克·林(PatrickLin)在接受《科学美国》采访时所说的,“如果你必须在两种罪恶中做出选择,一种是杀人,另一种也是杀人,那么让某个人死去为什么是一种较小的罪恶?这就是为什么在电车问题上有人会宁可选择不采取任何行动。”

如果你现在还不能理解,你可能需要更多的例子来思考。想象一下,如果你不是在轨道上,而是在一座桥上,你可以看到电车正快速驶向轨道上的五个人。,同时还有一个超大重量的卡车正在过桥面。你可以推着电车把他们推到生死的边缘才能停车。但这对我们中的许多人来说,可能是力所不能及的事情。

图4/5

如果你仍然认为放弃一个救五个人的生命是合理的选择,不妨试试美国道德哲学家朱迪斯•汤姆森(JudithThomson)在1985年提出的观点:

“一名出色的移植外科医生有5名病人,每个人都需要一个不同的器官,如果没有自己需要的器官,每个人都会死去。不幸的是,暂时医生手中没有任何器官可以进行这五种移植手术中的任何一种。此时有一个健康的年轻旅行者,刚经过医生工作的城市,就来做例行检查。在做检查的过程中,医生发现他的器官和他的5个垂死病人的器官正好兼容。再设想一下,如果那个年轻人消失了,也没有人会怀疑医生,因为他是一位旅行者。你支持医生怎么做?是杀死那个游客,把他的健康器官给那五个垂死的人,挽救病人的生命?”

在这一点上,你们中的大多数会选择放弃,可能会说“不”。但这和原来的舍弃五个人拯救一车厢的人选择没有太大的区别。因此,当我们关注的焦点是自动驾驶汽车造成的实际死亡问题时,或许我们不应该陷入道德哲学纠缠不清的问题中。普通人的道德决定可以根据不同的环境而改变,这一事实应该让我们停下来思考麻省理工学院调查中提出13个决定的局限性。

德国认为人的尊严和生命权利至高无上

德国联邦政府自动驾驶汽车伦理委员会在其指导方针中采取了严格的规则约束:“在不可避免的事故情况下,基于个人特征(年龄、性别、身体或精神体质)区分不同的目标是不被允许的”。其他人可能也有同样的感觉,但在强迫选择研究中没有办法表明这一点。

德国的决定符合其《基本法》第1条,其中规定人的尊严是不可侵犯的。尊重和保护它是所有国家当局的义务。2005年,德国联邦宪法法院有机会对第1条进行检验,该条款是关于真实生活中致命电车问题的真实案例。

想象一下,一架被恐怖分子劫持的飞机正飞往人口密集的地区坠毁。空军既可以将飞机击落在人口较少的地区(比如改变飞机线路),也可以让它继续飞行杀死许多人。根据麻省理工学院的调查,大多数人会选择击落飞机,拯救更多的人。但宪法法院裁定,击落这架飞机与宪法赋予的生命权和人类尊严的权利相互抵触。

他们推断违法的决定会把乘客和机组人员变成某种拯救更多人的筹码,而并不是被劫持飞机的受害者。如果他们的死亡被用来拯救他人,他们就会沦落为坏人想要看到的结果。此外德国政府还认为,乘客无论如何都会死亡的说法是无效的,因为无论预期寿命如何,人类的生命都应该得到保护。

调查是否有助于道德规范自动驾驶汽车的反应

简单来说,回答是“不”,并且原因很明显。首先,在道德判断任务中,在两种选择之间进行简单的强制选择过于简单和草率,对于道路上可能发生事故的非常多的情况来说,硬性规定是没有用的。现实环境会提供更多的选择,比如在路面上突然转向,或者沿着防撞护栏刹车,以及其他更有参考意义拯救生命的方法。

我们还从“桥上超重的汽车”和“移植外科医生”的例子中看到,不采取行动可能是更好的做法。仅仅因为数以百万计的人对一项受道德限制的任务的反应有相似之处,并不意味着它告诉我们在机器人汽车上编程的正确道德价值观。被意外杀死或受伤并不等同于被电脑计算出来的目标。

从本质上讲,汽车的控制系统将通过使用计算机传感系统来确定要放弃的目标,从而把它变成一种自动武器。这很可能是对《世界人权宣言》和《欧洲人权宪章》第2条所规定的我们生命的基本人权的侵犯。政府有责任防止可预见的生命损失,也不应允许自动驾驶汽车在进入事故现场时变成武器系统。

那自动驾驶汽车选择放弃乘客呢?这不是销售汽车的最佳商业模式。有哪个头脑正常的人会想买一辆能杀死他们而不是优先拯救他们的生命的车呢?根据调查结果来看,自动驾驶汽车将放弃超重的乘客,而不是冒着撞到行人的风险。

但还有更大的问题刺进了麻省理工学院研究小组的核心,如果没有神奇的新技术,所有这些讨论都毫无意义。

在现实与哲学相遇的地方,科学和工程方面的挑战是巨大而又无数的。自动驾驶汽车依靠摄像头和激光等传感器来捕捉和处理周围区域、障碍物、行人和其他车辆的数据。但汽车传感系统无法对儿童、青少年、运动员、高管、医生、无家可归者和老奶奶进行细致的区分。这就要求每个人都要佩戴一个发射器,将他们的个人信息发送到汽车上,这样它就能准确地计算出目标人群。它甚至可以传递你的社会等级,让那些喜欢将人“分等级”的人进行选择。

在这种情况下,对乘客最好的建议是确保他们的同伴是婴儿和年轻女性。行人过马路时应经常成群结队,并确保自己是最大的一群人。另一个建议是,不要变老,不要穿着动物服装去参加化装舞会,尽量减肥(听起来有些荒谬)。

另一个问题是事故通常不是静态的,动态事件随着时间的推移而展开,这使得它们很难预测,甚至不可预测。汽车不太可能有关于路面、溢出深度或其他车辆重量和材料的完整信息。在其他车辆或行人后面进行的活动可能会被传感器挡住。结合不完全的传感信息,汽车可能会做出糟糕的目标选择,并转向其他车辆或行人。当涉及到其他可能具有不同优先级设置的自动驾驶汽车时,危险会成倍增加。

我们只能猜测恶意黑客会做什么。或者其他人类司机或行人如何对汽车进行处理。假设一个团伙想要杀死一个女人,他们可以在她过马路的时候跑到路上,让一辆自动驾驶汽车突然转向撞向她。

目标、宗旨和拯救生命的汽车

自动驾驶汽车的早期研发人员创造了一种基因,这种基因可以显著降低道路交通事故的死亡率。这最终很可能是真的,但这只是一个假设,还不是事实。明天在我们的道路上投放数以百万计的自动驾驶汽车肯定是愚蠢的。这只会使人为错误增加机器错误,造成更多的道路死亡。我们还没准备好。

认为所有自动驾驶汽车公司都像我们从最近的死亡事故中看到的那样一样谨慎,这也是一个错误。这是一项新技术,如果我们小心行事,不要操之过急,它可能会带来巨大的积极效益。一开始发生的太多事故可能会让消费者望而却步,并使一项潜在的重大技术创新无法实现。让我们慢慢地、渐进式的进行,不要着急。

图5/5

大规模减少道路交通死亡人数的梦想可能会实现,但单纯的依靠自动驾驶汽车无法实现。这将需要对道路系统的基础设施进行重大改革。许多事故可以通过汽车之间的交流,在所有的道路上都有传感器来警告汽车即将到来的危险,通过集中控制,汽车可以减慢或停止,以防止事故的发生。随着时间的推移,我们可以建立这样做的能力。

这将是非常昂贵的代价,但你能在挽救生命上花费多少?各国拥有大量的武器和军事发展预算,以保护本国公民不被外部力量杀害。美国每年在国防上的开支占其总预算的16%到20%,大约在650亿到7000亿美元之间。然而,与外国列强或恐怖分子的袭击相比,车祸夺走的美国人的生命要多得多。把国防预算的一大部分拿出来保护我们不被汽车撞死难道不是一种更理性的举动吗?

来源:forbes

版权声明:本文仅代表作者观点,不代表手机腾讯网立场。版权归自媒体所有,未经许可不得转载。

猜您想看
为您推荐 更多