--- author: 大问题Dialectic date: '2023-05-06' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=nBmlsJmWdT0 speaker: 大问题Dialectic tags: - autonomous-vehicles - ai-ethics - moral-responsibility - trolley-problem - social-contract title: 自动驾驶伦理困境：责任归属的五派辩论与人性异化风险 summary: 本文探讨L5级自动驾驶事故的责任归属难题，通过否决、算厂商、算车主、算汽车及搁置五派观点的辩论，分析算法谋杀指控、责任鸿沟及道德直觉冲突，最终反思技术发展中人性异化与社会契约的演变。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: [] companies_orgs: [] products_models: [] media_books: [] status: evergreen --- ### 自动驾驶汽车面临的极端伦理困境 大家好，欢迎收看《大问题》节目，我是主持人机器人夏先生1号。 本期我们要探讨的大问题是：Who is responsible when a self-driving car hits a person？当自动驾驶汽车撞了人，责任究竟算谁的？ 让我们设想这样一种情况：一辆高速行驶的AI自动驾驶汽车意外地开进了一条路，发现路前方有一个行人名叫张三。此时车速太快已经刹不住车了，眼看就要把张三给撞死。但这时候自动驾驶汽车的传感器识别出前方有一条岔道可以拐弯，可是这条岔道是一条死路，岔道前方就是一堵墙。如果撞上这堵墙，那么车里面的车主李四就会被撞死。那么请问，考虑到自动驾驶汽车会面临这种状况，我们在事先给它编写程序的时候，是应当让它拐弯还是不拐弯呢？ 我们今天所讨论的自动驾驶汽车，是指那种完全的自动驾驶，也就是业界所说的L5级别的自动驾驶，完全不需要人类进行操控。当然，现在离这种级别的自动驾驶普遍应用还有一段路要走，还需要克服一些技术难题。但是所谓的技术问题也只是时间问题，相信过不了多久，就像最近爆发的GPT一样，完全自动化的人工智能汽车也会突破技术难题，做到普遍应用。 我们假定这些技术难题都已经解决了，而解决的标志之一，就是自动驾驶汽车发生交通事故的概率要明显低于人类驾驶汽车。到那时，我们还愿不愿意发展普及这种自动驾驶汽车呢？那当然是愿意的，因为它能显著减少交通事故。 人类开车总会犯错，会犯困、疏忽、大意、酒驾、看手机，甚至会故意开车去大街上撞人。但是人工智能就不存在这样的问题，人工智能来开车在技术上比人类开车更少出错。而且随着自动驾驶越普及，交通事故会越少发生。车与车之间、车与路之间是联网协同的，它具有网络效应。等到路面上开的大部分车都是自动驾驶汽车时，交通事故发生的概率又会有进一步质的降低。 到底能降低多少呢？要知道，绝大部分交通事故都是由人为因素导致的。根据美国国家公路交通安全管理局（NHTSA）的数据，94%的交通事故都是由司机的人为因素导致的。麦肯锡公司之前发布过一份研究报告，预测到2030年自动驾驶汽车发展普及以后，将使交通事故至少降低90%。 降低90%是什么概念？根据世界卫生组织的数据，全球每年大约有130万人死于交通事故，整整130万人。那些撞伤、撞残疾的人数更是一个恐怖的数字，有5000万。那么自动驾驶至少能降低90%的交通事故意味着什么？这意味着每年能有数以百万计的生命得到挽救，数以千万计的人免于受伤致残。 说了这么些个数字，意思就是说我们没有理由拒绝自动驾驶汽车的发展普及，自动驾驶就是大势所趋。 然而问题随之而来：自动驾驶的发展普及同时也会造成一些我们曾经从未遇到过的伦理困境。什么困境呢？我们之前说了，自动驾驶比人类驾驶更安全，但是它再安全也不可能是100%安全。因为它毕竟是个高速行驶的、大质量的物体，物理学规律决定了它还是不可避免地会撞到人。 那么问题来了：一旦自动驾驶汽车撞了人，这责任算谁的？ 按照传统的人类驾驶汽车模式，一旦撞了人，责任主要是算司机的，这个人类司机就是肇事人。但是在完全自动驾驶汽车里面坐着的车主，他根本无法自主操控汽车，与其说是车主，不如说他是个乘客。汽车撞了人，如果说是让乘客来负责，这就显得很奇怪。 但另一方面，你说是让制造自动驾驶汽车的厂商来负责，这也很奇怪。因为厂商也无法预料这辆人工智能汽车在出厂交付给某个特定车主以后到底会怎么开。那么，难不成是这个人工智能汽车自己来负责吗？ 所以在本期《大问题》节目中，我们将会介绍五个派别对这个大问题的回答： 第一个是否决派。否决派认为自动驾驶汽车撞人会造成伦理上不可接受的后果，所以我们应当否决自动驾驶汽车的发展。 第二个是算厂商派。顾名思义，就是说自动驾驶汽车撞了人，责任应当算制造汽车的厂商的。 第三个是算车主派。也就是说撞了人责任算车主的。 第四个是算汽车派。主张责任算这个人工智能汽车本身。 第五个是搁置派。认为我们无须非得在道理上掰扯清楚责任到底是谁的，只需要找到一个和稀泥的方式能够定分止争就好。 本期节目我们会分别介绍这五个派别的回答，当然，每介绍一个派别的看法，我们也会介绍对这个派别的批评，最终由你来评判哪一种派别的回答更有道理。 ### 否决派的立场与算法谋杀的指控 下面进入正式讨论，首先有请否决派出场。 否决派的主张是：我们应当否决自动驾驶汽车的发展。其理由在于，自动驾驶汽车的发展普及会造成伦理上不可接受的后果。具体是哪些不可接受的后果呢？主要有两个，我们先来看第一个。 人类驾驶汽车虽然也会造成交通伤亡，但是人类开车撞了人是意外事故，属于过失致人伤亡。但如果是自动驾驶汽车撞人，这就不是意外事故了，这变成了算法在故意杀人。 为什么这么说呢？我们可以通过经典的电车难题思想实验来说明这个道理。我们之前有一期大问题节目专门讨论过电车难题，很多人批评说哲学家尽喜欢做这些不切实际的思想实验，但是现在自动驾驶汽车的出现，使得电车难题真的会在现实中发生。 我们先来看人类驾驶汽车撞人的情况。在交通现场出了意外状况，人类司机李四无论是疏忽了还是大意了，总之就是一时反应不过来、措手不及，没办法，只能过失地导致行人张三被撞死。 但是如果换作AI汽车，程序员在事先编写AI代码以及训练AI的时候，必然会提前考虑这种状况。这就回到了我们节目开头提到的场景：当自动驾驶汽车面临要么不拐弯撞死前方的行人张三，要么拐弯撞墙因而撞死车里的车主李四时，程序员在事先写代码的时候，肯定要为这种二选一或者多选一的情况赋予优先级。 然而你一旦事先做了选择，无论你怎么选，这个交通事故造成的死亡就不是意外了，你这就是在故意制造死亡。你在编程的时候如果选择拐弯，那么行人张三的死就是你提前谋划好的；而如果你选择不拐弯，那么车主李四的死也是你提前谋划好的。这在性质上完全不同了。人类司机驾车撞人是面对突发状况措手不及造成的伤亡，而AI汽车则是事先有预谋而造成的伤亡，这相当于是算法在谋杀。 让我们再设想另一种情况：依然是那辆高速行驶的自动驾驶汽车，依然是车速太快刹不住了，眼看就要撞到前方的行人。但是此时前方的行人不是只有1个人，而是有5个人。同样地，此时自动驾驶汽车的传感器发现有一条岔道可以拐弯，而这条岔道上只有1个行人，名叫张三。那么请问，自动驾驶汽车的程序设置，是应当拐弯撞死张三用1条命换5条命吗？ 这就是经典的电车难题。相信依据多数人的直觉，都会觉得程序设置应当拐弯，毕竟这样能最大限度地减小伤亡。但是，你一旦给自动驾驶汽车的程序写下这种功效主义规则，张三的死就不是出于意外的事故，而就是被算法故意谋杀的。 再设想另一种情况：依然是高速行驶的自动驾驶汽车，依然有一条岔道可以拐弯。前方正道上是一个小孩，岔道上是一个老人。请问在事先编写程序的时候，是优先保护老人还是优先保护小孩？只要你一旦事先在程序算法里面写出规则，无论你怎么选，那个被撞死的人就是被程序算法有预谋地杀死的。 这里面就牵涉到了道德歧视的问题：凭什么你优先保护这种人而不是那种人呢？人类驾驶的时候不存在这个问题，因为无论撞到谁都是司机的应激反应，并不是司机歧视谁就故意选择撞谁。但如果是AI，这就是程序员在事先写代码的时候赋予了AI一种系统性的歧视。比如前方两条道上，一个是男人另一个是女人，优先保护哪个？或者一个是科学家另一个是流浪汉？或者一个人牵了只狗另一个人抱了只猫？或者一个穿汉服另一个穿二次元女仆装？ 这时有人会反驳说：停停，你搁这儿做思想实验做嗨了是吧？别忘了我们发展普及自动驾驶汽车的初衷，是它相比于人类驾驶能大幅减少交通事故的伤亡。你这思想实验尽想这些小概率的极端状况，这些小概率极端状况造成的小小代价，依然挡不住它会带来的更大利益。 否决派依然会坚定地表示：还是不行。我们不能因为在结果上会带来更大的好处，就去违反最根本的人伦底线，这就是赤裸裸的功效主义。也就是说，你不能因为总体上会造成更少的交通伤亡，就去牺牲无辜的人。 否则这就跟电车难题的变种一样，为了救那本来会被撞死的5个人，强行把桥上看热闹的胖子推到桥底下去挡住电车。遵循这样伦理的社会太可怕了，我们每个人都可能因为自己的牺牲能换来更大的社会福利而被牺牲掉。比如说张三因为骨折去急诊室看病，而急诊室病床上躺着5位分别急需心、肝、脾、肺、肾器官移植的病人，这五位病人分别是大科学家、大文学家、大政治家、大明星、大商人，对人类文明有重大贡献，而张三只是一个小透明，那我们是不是应当把张三杀了，用他的器官来挽救那五位杰出人物的命呢？ 生活在这样的社会中太可怕了。哪怕从总体上的效用更好，我们也不愿意生活在这样的社会之中，因为不去刻意造成无辜者的伤亡是我们应当遵循的人伦底线。所以在这个意义上，哪怕自动驾驶汽车从总体上会造成更少的交通伤亡，我们也不应当发展普及自动驾驶汽车。 ### 责任鸿沟与杀戮机器人类比 否决派要否决自动驾驶汽车发展的第二个论点，是自动驾驶汽车如果撞了人，会造成责任鸿沟的难题。 什么是责任鸿沟呢？简单说就是：实施某种行为的东西它不是道德主体，而给这些东西发号施令的人以及使用这个东西的人又不能准确预测会发生什么，因此最终造成的局面就是没有人能给这个东西的行为负责。 比如说自动驾驶汽车撞人，你说它是车主的责任吧，车主会说这个车不在我的控制范围内，我不应当为此负责；你说它是厂商的责任吧，厂商说我们在写代码的时候，也不能预料这辆车在出厂交付以后具体会怎么开；那你说应该由这辆车自己来负责，这车连自由意志都没有，根本不是道德主体，怎么负责呢？ 所以最终造成的局面就是，一旦自动驾驶汽车撞了人，就没人来为此负责了。 这个责任鸿沟的问题会造成一种严重的道德困境。它和我们的道德直觉严重不符。我们的道德直觉用俗话说就是“冤有头债有主”，一种行为如果损害了其他人，那么肯定能找到责任人。比如人类驾驶汽车撞了人，要么是司机疏忽大意造成的，应当由司机负责；要么是汽车有明显的设计缺陷，应当由厂商负责；要么是行人故意违规作死完全不遵守交通规则，被撞的行人承担一定责任。反正冤有头债有主，怎么着我们都能找到责任人。 但是AI汽车撞了人，就没人来负责了，我们说不清楚谁该来负责。这就完全颠覆了我们的道德直觉。而且这也会给现行的法律体系造成极大的困境。AI撞死人了，我们甚至不知道该怎么判这个案子：是定交通肇事罪、过失致人死亡罪、故意杀人罪，还是生产销售不符合安全标准的产品罪？说不清楚，没法判了，全乱套了。 主张发展自动驾驶的人这时候拿功效主义原则来说事，强调发展自动驾驶能从总体上减小伤亡。但我们要问：它的代价是什么？它的代价是让我们人类社会的伦理道德与法律体系被拧巴得不符合人性了。这个代价可不比减小交通伤亡更小。 现在做伦理学、道德哲学甚至包括立法，都有一个默认的方法论：哲学家提出一种道德原则的时候，必须要符合老百姓的道德直觉。哪怕你提出的道德原则在逻辑上、道理上、公式推演上多么完美无缺，一旦它不符合人性，我们就有理由拒绝这套道德原则。为什么？因为人得活得像个人。为了提升人类的总体效用，让人活得都不像个人，活得特别异化、特别拧巴，我们宁愿不要这些效用。 如果你还没意识到自动驾驶汽车在伦理上造成的严重后果，我们再举另外一个例子，它和自动驾驶汽车会造成一样不可接受的伦理后果，这就是杀戮机器人，也就是人工智能士兵。 人工智能时代来临后，上战场杀敌的士兵无须是人类士兵，只需要制造人工智能机器人士兵去杀敌。造杀戮机器人和自动驾驶汽车一样，也会带来很大的功效上的好处：首先能避免己方士兵的伤亡；其次对敌方也有好处，因为人类士兵在战争中经常会误杀平民，比如搞错了、疏忽了，或者发怒报复而滥杀平民，而人工智能士兵不存在这些问题，它会非常冷静地计算敌方有威胁的军力在哪，并且以一种精确不造成平民伤亡的方式消灭敌方有生力量。 听起来杀戮机器人很不错，但是它会造成和自动驾驶汽车一样不可接受的伦理后果。首先是算法故意杀人。以往战争中士兵上战场，是为了国家利益或某种理念不得不杀死敌人，但人是不喜欢杀人的。有统计表明一战二战中的很多士兵大多不会真正朝敌人开枪，因为面对的是活生生的人，杀人太残酷了，尊重生命是人类伦理的基本底线，哪怕在战争中也是如此。但是杀戮机器人在杀人时没有任何伦理牵挂，它杀人就像打电脑游戏一样，是用算法杀人，是非常理性地杀人。人类居然专门制造了一种机器，其存在的目的就是为了杀死人类，这太可怕了。 其次，和自动驾驶汽车一样，杀戮机器人也会面临责任鸿沟的伦理困境。杀戮机器人在杀人时，到底是谁在杀人？是程序员吗？是下达指令的军方指挥官吗？还是这台机器自己在杀人？我们讲不清楚了。而且物理学规律同样决定了杀戮机器人还是会以一定概率误杀平民，一旦误杀了，谁来承担责任？人类士兵误杀平民，军事法庭该追究就追究，但杀戮机器人误杀平民，责任算谁的？说不清楚了。难道责任说不清楚我们就不算了吗？ 所以说回来，自动驾驶汽车所造成的伦理后果和杀戮机器人是一样的，都会造成算法故意杀人以及责任鸿沟的困境。很多学者正是基于这两点理由反对制造杀戮机器人，那么如果我们不能认同制造杀戮机器人，也应当以同样的理由否决自动驾驶汽车的发展。 当然，否决派也并不是把话说绝，不是主张要完全永久禁止自动驾驶汽车，而是建议延缓自动驾驶汽车上路。在出现突破性技术能够解决这些伦理困境之前，不要普及应用自动驾驶汽车。现实情况也确实差不多如此，前几年搞得如火如荼的自动驾驶汽车，当时感觉五年之内就能普及，结果碰上了一些技术难题，尤其是伦理困境，现在的发展节奏确实延缓了下来。 ### 双重效应学说与对否决派的反驳 介绍完否决派的观点，接下来我们来看对它的批评。 否决派的核心论点主要有两个：一是算法故意杀人的问题，二是责任鸿沟的问题。对否决派的批评也正是针对这两点分别展开的。 关于第一个算法故意杀人的指控，否决派认为自动驾驶汽车撞人是算法在故意杀人，因而不可接受。对此，批评者拿出了另外一种伦理学说，能够让自动驾驶撞人在伦理上变成可接受的，这个学说就是双重效应学说（Doctrine of Double Effect）。 双重效应学说最初是由欧洲中世纪神学家托马斯·阿奎那提出来的，原本是用来处理正当防卫问题的。如果一个人杀了人，但杀人行为是为了保护自己，那么杀人就可以是正当的，这就是正当防卫。具体而言，如果一种行为产生了两种效果，一种是行为主体有意为之的，而另一种则是与行为者意图无关而附带出来的副效应，这就是所谓的双重效应。 拿自卫来说，阿奎那认为自卫行为产生了两种后果：一种是保全了自己的生命，这是行为者有意为之的后果；另一种是杀害了袭击者，这是与行为者意图无关而附带出来的副效应。自卫的正当性之所以能得到辩护，是因为行为者的意图并不是故意要杀害他人，主观上并不追求把对方弄死，他的动机是为了保卫自己的生命，而杀人只是保卫自己生命过程中一个可以预见到但并非有意为之的副效应，用英文说就是一种 foreseen but unintended 的副效应。 整理一下双重效应学说：一种行为如果造成了坏的后果，但同时满足以下三个要件，我们就可以用双重效应学说为其辩护： 第一，你的动机是为了达到一个善的目的； 第二，行为造成的坏后果，是作为一种预见到的副效应而遗憾地发生的，并不是你故意追求这种恶果； 第三，你尽量将坏的效果降到了最低，也就是说这是你能选择的最不坏的选项。 如果满足这三个要件，那么这个行为就是可以得到辩护的。 现在我们把双重效应学说放到自动驾驶汽车撞人的场景中：没错，自动驾驶汽车确实会撞人，但是不能说制造自动驾驶汽车就是故意杀人。我们造的是汽车，不是武器。自动驾驶汽车偶尔不幸撞了人，是作为一种我们虽然可以预见到但并非有意为之的副效应而遗憾地发生的，并不是我们做这件事情的真正动机。 我们做这件事的真正动机是什么？对照三个要件来看： 第一，发展自动驾驶汽车的动机是为了从总体上减少交通事故伤亡，这是一个善的目的，满足第一点； 第二，自动驾驶汽车撞了人，是我们不愿意看到的，是一个遗憾，并非故意追求伤害，满足第二点； 第三，我们最终决定发展自动驾驶汽车，是因为它比人类驾驶能实现更小的伤亡，是一个更不坏的选项，第三点也满足。 因此，发展自动驾驶汽车完全可以得到双重效应学说的辩护，并不是否决派所说的算法在故意杀人。 否决派在这里犯了稻草人谬误。如果按否决派的逻辑，甚至可以攻击人类诸多科技的发展，甚至连人类驾驶汽车都不应当发展，所有人类驾驶汽车都应当禁止上路，这样每年不就不会有130万人被撞死了吗？如果我们明知人类驾驶汽车上路每年会撞死这么多人还允许它上路，难道也是在故意杀人吗？这种说法显然非常荒谬。 另外，否决派非常投机地拿杀戮机器人来说事，因为杀戮机器人直观上令人不可接受，试图借此否定自动驾驶。但是两者能一样吗？双重效应学说确实无法为杀戮机器人辩护，但可以为自动驾驶汽车辩护。为什么？看第一要件就清楚了：制造杀戮机器人的目的本身就是为了杀人，而制造自动驾驶汽车的目的是为了杀人吗？完全不是一回事。 说完基于双重效应学说的反驳，我们再来看对责任鸿沟问题的批评。 这个批评简单来说就是：确实，我们不喜欢责任鸿沟，大家都希望维持冤有头债有主的道德直觉，这没问题。但是否决派的漏洞在于，谁说责任鸿沟就是不可解决的？只要我们开动脑筋，就可以把自动驾驶汽车撞人的责任归属掰扯清楚。接下来的派别就是在解决这个问题，责任要么算厂商的，要么算车主的。 ### 算厂商派的论证与汉德公式应用 接下来我们先来听听算厂商派的看法。 算厂商派的主张并不是厂商们自己提出来的，主要是厂商的对手——车主们提出的。算厂商派和算车主派在讨论中属于针锋相对的辩论关系，双方都主张由对方来承担责任。 车主们凭什么说责任应当算在厂商头上呢？ 首先，自动驾驶汽车的代码是厂商的程序员写的。到底是优先保护车主还是优先保护行人，是优先保护老人还是优先保护小孩，这些规则全都是厂商写进代码里的。作为车主，既不会写代码，也对汽车怎么行驶无法进行任何实时控制。车主在使用这台车的时候实际上只是个乘客，车撞了人却让乘客来负责，根本说不通。 伦理学中讨论一个人应不应当负责，有一个核心原则叫 OIC 原则，即 Ought Implies Can（“应当”蕴含“能够”）。你说我应当做什么事情，前提是我能够做到。比如你说我应当带领中国队勇夺世界杯冠军，但我其实是个武术选手，上场只会正蹬、鞭腿、左刺拳，你让我踢足球我根本踢不了，没那个能力。同样地，你说我作为车主应当为这次撞人事故负责，前提是我能够控制这辆车让它不撞人。但我能控制得了吗？控制不了，没那个能力，所以车主不应当承担这个责任。 其实判定谁该为撞人负责，只要遵循法律经济学中著名的汉德公式（Hand Formula）即可。汉德公式是用来判定意外事故造成损失后责任应当由谁承担的工具，包含三个变量： - B：为了避免意外事故所需要花费的成本（Burden）； - P：发生意外的概率（Probability）； - L：意外所造成的损失（Loss）。 汉德公式的判断逻辑围绕 $B < P \times L$ 展开。 放在自动驾驶汽车撞人的语境中，简单来说就是：车主和厂商哪一方为了避免意外发生所花费的成本更小？或者说，如果做一件事能避免意外发生，而你做这件事情比我做起来更轻松，那么责任就应当由你来扛。 我们先看车主一方：车主为了避免撞到人，所付出的成本几乎是无限大的。因为车主无论做什么都无法控制汽车撞不撞人，在车里面挂再多纯金打造的福字、一路平安符、伟人像，也改变不了事故是否发生。 而对于厂商而言，自动驾驶汽车的代码就是你写的，你完全可以通过优化代码、改进技术来避免交通事故的发生。别说你的代码已经比人类驾驶更好了，你还要跟同行比，凭什么特斯拉能不撞人你们丰田就撞人？这只是打个比方，反过来也是一样。总而言之，厂商总是可以通过自身的技术努力去降低事故概率 P 的。哪怕厂商已经把撞人概率做到行业最低，比起车主，厂商依然是那个有所作为的一方，而车主做什么都改变不了 P。所以一旦撞人，责任应当由厂商承担。 责任归给厂商，责任鸿沟的问题也就迎刃而解了。面对 AI 时代汽车自己会跑这一全新的伦理困境，后面要介绍的算汽车派和搁置派主张发明一套新伦理，而算厂商派认为完全无需发明新伦理，用旧伦理就能弥合这个责任鸿沟。 传统的责任归属方式是：人类司机开车撞了人算司机的，因为司机在主动控制汽车。而在自动驾驶时代，原本握在司机手里的方向盘转移到了厂商手里，是厂商在替车主开车。车主购买的不仅仅是车，还购买了厂商提供的驾驶服务。所以 AI 汽车撞人依然可以按照传统方式解决：由手握方向盘的司机来负责，只不过此时的司机变成了厂商。 ### 对算厂商派的质疑与算车主派的辩护 介绍完算厂商派的观点，接下来进入对算厂商派的批评。 对算厂商派的批评认为，把责任推给厂商是说不通的，而且是非常不公平的。 为什么对厂商不公平？在传统人类驾驶的情况下，车撞了人责任是由司机承担的，跟汽车厂商没有关系。现在厂商花费了大量的资金和精力，研发出造成伤亡更少的自动驾驶汽车，让事故率降低了至少90%。本来车主可能会面临巨额赔偿、坐牢甚至车毁人亡，现在因为厂商的努力，事故概率下降了90%，车主本应当给厂商送锦旗、戴大红花，结果出了事故反而要把责任甩给厂商，让厂商赔钱。 这太欺负厂商了。厂商改善了包括车主和行人在内所有人的处境，却因此让自己的处境变得更差，这极其不公平。做了好事却要背负原本不属于自己的责任。 进一步说，这种做法会导致整个自动驾驶产业陷入自戕的境地，自我矛盾，自己毁掉自己。很多国家是设有交通肇事罪的，过失致人死亡不仅要赔钱，还要坐牢。一个人类司机可能活两辈子都碰不到开车撞死人的情况，所以不至于因为害怕坐牢就不去学车。但如果作为一家销量巨大的自动驾驶汽车厂商老板，产品交付到市面上后，概率上肯定会有撞死人的情况发生。难道只要市面上有一辆特斯拉撞死人了，就要把马斯克抓去坐牢吗？ 如果干这一行需要面临坐牢的风险，厂商为什么还要费劲研发自动驾驶技术？大家都不干了，这样世界上就不会有自动驾驶汽车了。所以厂商认为：这责任应当由车主来承担。车主从自动驾驶技术中获得了巨大收益，收益远超潜在风险。以前两辈子碰不到，现在八辈子都碰不到，真摊上了这种极小概率的事故，车主承担责任也是合情合理的。 这就顺理成章地引出了算车主派的观点。 在展开算车主派的观点前，有人提出一种看法：完全自动驾驶成熟以后，可能根本没有人买私家车了，大家都通过滴滴、优步打车或租车，上班时网络自动调度最近的车来接送，下车后车自己去充电或接下一单，没有私家车自然就没有所谓的车主了。但即便车是从平台租的，平台也是它的车主；而且即便自动驾驶完全成熟，私家车依然少不了。一方面，小汽车是一个私密空间，人们希望按照自己的喜好去打扮、装修和打扫；另一方面，小汽车永远具有社交名片的功能，两辆车技术安全性相同，但坐奔驰迈巴赫去接女朋友吃饭，和坐夏利去接，感觉显然是不一样的。 因此，自动驾驶时代依然会有车主。算车主派认为，自动驾驶汽车撞了人，责任应当算车主的。 为什么呢？车主们总拿自己完全无法控制汽车作为借口，但车主真的完全无法控制汽车吗？你真的只是个单纯的乘客吗？ 是谁给这辆车下达命令让它去成华大道，最终导致它在成华大道撞了人的？车主可能会辩解说：我让它去成华大道是送我，又不是让它去撞人。但车主不想撞人，汽车本身也不想撞人。 这就像军队里的指挥官给士兵下达消灭恐怖分子的任务，在执行任务的过程中士兵误杀了平民，指挥官能以“事情不是我亲手干的”为由拒绝承担责任吗？车主就是这辆汽车的指挥官，汽车还没有智能到替你做决定的程度，它是听从你的指令才行动的。决定是车主下达给车的，车在执行你的决定的过程中误撞了人，你作为指挥官当然要承担责任。 而且，汽车受车主控制的方面还有很多。比如车速，车本来可以开慢一点，但车主下达指令说“开会要迟到了，请以最快速度把我送到公司”。开快车的指令是车主下达的，根据物理惯性定律，开快车更容易躲闪不及撞到人，此时当然应当由下达开快车指令的车主来承担责任。此外，车主为什么要命令车走成华大道呢？难道不知道成华大道人多车杂、极易发生交通事故吗？ ### 车主作为指挥官与所有者的责任 你为什么不命令车走别的路绕过去呢？这都是你车主这个指挥官要尽的义务。一旦你这个义务没尽好，出了事当然由车主承担责任。 当然，除非是这辆车不听你使唤了，属于失灵状态，那这时候它撞了人确实不是车主的责任。这就算产品有重大设计缺陷，属于产品责任，是厂商应该负担责任的。这都不用自动驾驶汽车，传统人类驾驶汽车由设计缺陷造成交通事故，也是厂商负责的。 但是，如果不能证明有明确的设计缺陷而导致的意外交通事故，那就应该由这辆车的所有者来承担责任。你想，你是这辆车的车主，你是这辆车的 owner。自从你花钱把它从4S店里面买回来的那一刻，这辆自动驾驶车就是你的，它是你的工具、你的奴隶。那如果这台属于你的车撞了人的话，当然应当是由这辆车的所有者来承担责任。 你作为车主，在买它的时候，知不知道根据物理学，这玩意就算厂商把它制造得再完美无缺，它还是会存在一定概率会撞到人？你知不知道有这么个小概率会发生的情况？如果知道你还坚持要买，那它如果真的撞了人的话，对不起，你作为车主就需要为此负责。 车主这时候说：我没有故意让这个车撞人，它撞人的时候也不受我的控制，所以我不应当为此负责。 这就像在说什么呢？这就像在说你明知道这个狗存在一定概率会咬人，它咬人的时候也不受你控制。你在买它的时候，明知道有这样的风险，但你还是决定把这只狗买回家了。那你不能说，这只狗咬人的时候不受我的控制，所以我无须为此负责，你得去找当初卖狗给我的狗贩子算账。这是哪门子道理？你是狗主人，这是你的狗。 作为狗贩子而言，我是卖狗的，我只需要在卖的时候把疫苗、手续都办齐了，确保这只狗不是一只疯狗，也就是这只狗在出厂的时候没有重大设计缺陷。那这只狗交付了以后，这狗就不是我的了，你狗主人把它带到哪儿做了什么事都跟我没关系了。 同理，我作为厂商，除非这个车有什么重大设计缺陷，那这车交付给车主以后就跟我没关系了。要不然，这车卖出去以后，我还要为所有权不属于我的东西负责，那就没完没了了，这车到底是卖出去了还是没卖出去呢？ ### 权责对等与车主收益最大化 这是算车主派基于指挥权和所有权的论据。 算车主派认为责任应当算车主的另一个论据，就是权责对等原则。或者说，这个自动驾驶技术给哪方带来了最多的权益，那么自动驾驶汽车一旦撞人了，获益最多的一方就应当来担责。而这一方就是车主，这个道理很明了：你不能光享受好处而不承担责任。 凭什么说自动驾驶技术给车主带来的权益比厂商更多呢？厂商也不是免费给车主的车，厂商是赚了钱的。我们这样想就行了：有两个平行世界，其中一个没有研发出自动驾驶技术，另一个自动驾驶汽车已经发展普及了。我们来看，从第一个世界发展到第二个世界，车主和厂商哪一方获益更大？ 我们先来看厂商这一方。就算不研发自动驾驶技术，汽车厂商卖传统车一样赚钱。厂商研发出了自动驾驶技术，说不定反而汽车销量还下降了，因为路上可能就不需要那么多私家车了。 我们再来看车主这一方。车主从平行世界一穿越到平行世界二以后，境况发生了极大的改善，得到的好处大过天了。车主享受了哪些本来没有的好处呢？ 最明显的一个，我们一开始就说了，自动驾驶减少了90%的交通事故，这也是我们想要发展自动驾驶的一个最大的好处。而这个最大的好处是厂商得着了，还是车主得着了？当然是车主。你车主不用赔付那么多钱了，你车主也不用为撞死人而坐牢了，你车主甚至自己也不会被撞死了。这个最大的好处是落在车主身上的。 除了减少交通事故给车主带来的好处，还有因为自动驾驶而带来的便利。你车主不用自己开车了，多出来好多自己的时间；而且自动驾驶的普及让交通更为顺畅，也不堵车了。等等这些自动驾驶带来的好处，都是落在了车主头上。所以你车主享受了这么多自动驾驶带来的好处，相应地，自动驾驶带来的一些小小的坏处——就是它很小概率地会撞到人——车主也必须自己承担这个风险。 总之，算车主派在这里的思路就是：享受更多的权益的同时，必须承担相应的责任。 ### 优先保护设置与道德旋钮 在此基础上，算车主派还主张，我们还可以进一步为车主赋予更多的权益，这样就能更顺理成章地让车主承担责任，从而也就弥合责任鸿沟了。 什么样更多的权益呢？ 首先，比如一开始提到的，如果汽车在行驶过程中意外地处于要么撞行人、要么撞墙的两难处境的时候，那就把汽车设置成优先保护车主。这也是出于一个特别现实的理由：如果自动驾驶汽车是优先保护行人的话，对于这种遵循利他主义的汽车，请问谁会购买这种有道德的汽车？我购买了一辆汽车，结果这车不优先保护它的主人，这种有道德的汽车是不会有市场的。 别说我不能接受利他主义的道德汽车了，甚至有些时候，比如说我老婆要生了，或者我的家人心脏病发作了，急需快速送去医院的时候，我甚至要求我的自动驾驶车能够违反交通规则赶紧开去医院。我自己买的车不优先考虑我的利益，那谁还会买呢？ 如果汽车的设置是优先保护车主，这不单单是更有市场了，而且也解决了责任归属问题。这时候这辆优先保护车主的汽车如果撞了人，你车主这时候就没话说了吧，这个责任自然就应当由车主来担了。 另外，关于算法的道德歧视问题，就是如果遇到非得撞两个人中的其中一个，到底是优先保护老人还是小孩、男人还是女人的问题。还是同样的道理，可以在每辆车上设置一个道德旋钮，让每个车主自己去选优先保护哪种人。 你别觉得这听起来搞笑。因为如果算法不可避免地存在歧视，在二选一的极端状况中总是不可避免地要设置优先级，那么与其让厂商来设置，不如就把这个设置权交给每个车主。这样做的好处就是，一旦撞了人以后，车主自然就要承担责任了。因为比如说优先保护女人是你车主自己设定的，那么那个男人被撞了以后，自然就应当由你车主来负责。 这就是算车主派的观点：车主是汽车的指挥官和所有者，而且车主在自动驾驶技术的发展普及中享受到了更多的权益，所以车主应当为自动驾驶汽车的事故担责。 ### 对算车主派的批评 介绍完算车主派的观点，接下来我们来介绍对它的批评。 第一个批评，还是基于我们之前反复强调过的 OIC 原则。车主并不会认为自己可以给车下达指令；就算是真正能控制这辆车了，至少在这辆车撞人的时候，这车是不受车主控制的。 让车主来担责，还会带来一个问题，就是不平等的道德运气问题，也就是凭什么就该着我倒霉。我买的车撞人了，而其他同款车主的车都没撞人，让我来承担责任，我凭什么？我觉得不公平。因为我买这款车和其他车主花的是一样的钱，我和其他车主比起来没有任何过错，凭什么就我的车出事了还让我来负责？ 关于优先保护车主的问题，虽然车主们很乐意，但这会造成极大的社会舆论压力，而且也是违反伦理直觉的。凭什么你们车主的命是命，我们路人的命就不是命了？路人的生命权凭什么比车主要低？ 关于赋予车主设置道德旋钮的权利，首先它会放纵一些车主的道德歧视，比如说他会设置成优先保护白人而不是黑人，优先保护男人而不是女人等等。 其次你想，我们发展普及自动驾驶汽车的一大初衷，就是它能在总体上大幅降低交通伤亡。而实现这个目标的前提，就是所有的自动驾驶汽车在一些基本参数上需要统一设置，这样才能联网协同。甚至那些完全自动驾驶的汽车，车速都不应当由车主来控制。结果算车主派反倒还给每个不同的车主这么大的自主权，把每辆车改得乱七八糟的，反而又提升了交通事故发生率。那费半天劲发展自动驾驶汽车干嘛呢？给每个车主这么多自主权，这不就相当于又让每个不同的车主自己驾驶汽车了嘛。 这就是对算车主派的批评。 ### 算汽车派与AI的主体性论证 介绍完算车主派的看法及其批评，接下来我们来介绍算汽车派的看法。 之前，算厂商派和算车主派之间进行了一场辩论。就在双方撕打得行将进入僵局的时候，这时候杀出了一个算汽车派，说：你们俩之间不要再争了，这个自动驾驶汽车撞了人以后，既不应当是厂商负责，也不应当是车主负责，而应当是由这台汽车负责。 这听起来是不是有点科幻呢？但是算汽车派的看法就是，随着科技的发展，以前认为科幻的东西就会成为现实，包括以前旧有的伦理、法律，都要进行调整以适应现代科技的发展。 大家要知道，现行法律的基本精神就是只有自然人才可以作为法律意义上的最终主体。虽然有些非自然人，比如像公司、机构这一类法人和非法人组织也可以作为主体，但这些法人和非法人组织最终还是要落实到自然人之上。不存在说我们这家生物制药公司，它的最终法人代表落到了一台名叫红皇后的 AI 身上。 而算汽车派就是要打破这个旧有的法律和伦理上的思想。随着 AI 人工智能的进一步发展，我们必须承认 AI 也可以是道德主体和法律主体。一旦 AI 成为了主体，这个自动驾驶汽车如果撞了人，那就让这个 AI 汽车自己承担责任不就好了嘛，这样的话责任鸿沟的难题不就解决掉了嘛。 当然，AI 能否成为道德和法律主体，这一点是需要论证的。对此，马斯特里赫特大学的法学教授贾普·哈格就论证了 AI 人工智能体能否成为道德和法律主体，也就是 AI 能否具有主体性，因为只有具有主体性的东西才能承担道德责任。 哈格教授分了两步来论述这个事：第一步，论证 AI 成为道德主体是可行的；第二步，论证 AI 成为道德主体是可取的。第一步就是先谈能不能，第二步就是再谈好不好。 ### 主体性的归属论与丹尼特的意向立场 我们先来看第一步：AI 能不能成为道德主体。 我们想，那些认为 AI 不能成为道德主体的人，通常给出的理由是什么呢？主要就是说这个 AI 不具备主体性，是因为它是个机器，机器没有自由意志，它的行动并非出于它自己的意图、愿望和信念。你没有自由意志的话就没法承担道德责任，因为这不是你自己想要做的事情，那谈何承担责任呢？只有人类才有自由意志，因而只有人类才能具有主体性，而机器不具备主体性。 哈格教授回应说：好，我们承认人有自由意志，我们不采取那种极端死硬的物理主义立场，我们也认为人是有意图、有信念、有自由意志的，没问题。但是问题在于，对于世界上真实发生的事情，我们完全可以不用意图、信念、自由意志这种日常的、唯心主义的心灵概念来解释，也能解释得通。 比如说，如果我们用日常唯心主义的心灵概念来解释你给我这个视频点赞投币这件事，我们会说：你看到这个视频节目，你的内心感到很欢喜，于是你想要给这期节目点赞投币，于是你动用了自己的自由意志，把自己的想法和意图变成了行动，也就是运动你的手指点赞投币了。 但是，我们绕开自由意志、想法、意图这些唯心主义的心灵概念，也可以解释你刚刚这一行动。比如说，你的视觉神经受到了来自手机屏幕里面的特定光源的刺激，从而形成了特定的电信号，然后这个电信号传输到你的脑部的前额叶皮层，激发了你的前额叶皮层此前已经搭好线的 X 神经纤维，然后这个 X 神经纤维又进一步激发了控制你的手指运动的 Y 神经纤维，然后 Y 神经纤维对你的中枢神经系统下达了一条指令，这条指令最终传递到你的手指上，导致你的手指做出了点赞投币的动作。这里面完全没有提到意图、信念、自由意志这些心灵概念，也能把世界解释清楚。 哈格这么说，倒不是要否认人有自由意志、想法、意图，哈格是在反对一种实在论。实在论就是认为自由意志、主体性、心灵、信念是在世界中独立实存的，哈格反对这个。你挖开人的大脑，你从哪儿能找到意图、信念、自由意志？你是找不着的，这些心灵概念并不是客观实在的。 哈格由此主张一种归属论，说这些自由意志、主体性只是被人建构出来的，然后把它归属到人身上的。关键词是归属（attribute），也就是我们把主体性归在了某人头上、算在了某人头上。主体性是一个归属的问题（It's a matter of attribution）。在本体论意义上，人的主体性和其他东西的主体性没有本质区别。而之所以我们说人有自由意志、有主体性，是因为我们把主体性归给了人。 既然自由意志和主体性并不是客观实在的，而是我们归属的产物，那么我们既然可以把主体性归给人，这也就意味着理论上主体性就可以归属到任何东西上，可以是人，可以是动物，可以是上帝，可以是公司，当然也可以是自动驾驶汽车。 哈格已经论证自动驾驶汽车能够具有主体性，这解决的是能不能的问题。那我们要不要把主体性归属给 AI 呢？下面哈格就要来论证把主体性归属给自动驾驶汽车好不好的问题了。 刚刚说了，人的主体性、自由意志并不是客观实在的，而是我们归属出来的。那问题就来了：我们为什么要把主体性归属给人呢？我们为什么不把主体性和自由意志归属给一块石头？我们不会说一块石头往下落的时候是自己想要往下落，但我们会说一个人想要给本期节目点赞投币。为什么呢？因为人比石头更复杂。人是一个非常复杂的系统，而对于复杂的系统，我们就可以把主体性归属给它。 为什么复杂的系统就可以被归属主体性呢？是因为我们把它看做一个主体的话，我们就能很好地解释和预测这个复杂系统的行为。 在这里，哈格援引了美国哲学家丹尼尔·丹尼特提出过的“意向立场”这个学说。啥叫意向立场呢？我们可以把这个意向立场翻译成“意向性的解释策略”。我们要解释一个东西的运动或者行动，要采取什么样的解释策略才能解释得通呢？我们就把这个东西看作是一个有意图、有想法、有信念的行动者，就是具有主体性；然后这个东西之所以这样行动，就好像是它自己故意想要这么做似的。 当然，在丹尼特看来，我们并不是对所有东西都要使用意向性的解释策略，比如对石头的运动我们就不需要用意向立场来解释。什么时候来使用意向立场呢？标准是工具主义和实用主义的。如果我们用了意向立场以后，能够很简洁高效地把事情说明白了，那我们就要使用意向立场。 就比如说，张三之所以给这期节目点赞投币，是因为他想要给这个节目点赞投币，这就是我们对张三这个人使用了意向立场，把张三这个人看做了一个有自己的意图、有自由意志的人。这样说就很简洁高效，你一听就懂。如果不对张三的行动使用意向立场的话，这个话就没法说了，就会变得非常冗长而且低效。之前已经说过了，我再啰嗦一遍：张三的视觉神经受到了来自手机屏幕里面的特定光源的刺激，从而形成了特定的电信号，然后这个电信号传输到张三的脑部的前额叶皮层……掐掉掐掉，太啰嗦了。虽然这么说是正确的、真实的，但这样的话人与人之间就没法说话了，而且这对预测张三以后的行动也没什么帮助。但如果我们运用意向立场的话，就能很好预测张三的行为了。比如说我们会说，张三这个人就喜欢看这一类的哲学讨论的视频节目，下一回他如果再看到这一类的节目，他还是会想要点赞投币的。 我们会对张三这个人的行动使用意向立场，但我们不会对石头的运动使用意向立场。对于有些虽然没有人类复杂、但也很复杂的东西，我们也会使用意向立场。比如我们会对动物园里的一只黑猩猩使用意向立场，我们会说“这只名叫 Jerry 的黑猩猩之所以去抓这根香蕉，是因为它想要吃这根香蕉”，这就是一种意向立场。 说完张三又说完 Jerry，我们来说 AI。我们需不需要对 AI 使用意向立场呢？当然要。现在不是已经有不少人对自己家里的扫地机器人采取意向立场了，就觉得这个扫地机器人就像一个家庭成员一样。对那种更为复杂的 AI，对它使用意向立场能给我们带来更大的好处，就是让我们用非常精简易懂的语言就能解释和预测它的行动。 比如说，我和 AlphaGo 下围棋，它赢了我。那么我们问：它怎么赢的呢？我们不会说这个 AlphaGo 的 CPU、GPU 里的晶体管发生了什么什么样的物理运动，调取了它多年来通过深度学习方法训练而得出的一整套神经网络，然后综合各种概率计算巴拉巴拉，才走出了这一招棋。我们不会这么说，太费劲了。我们会说：AlphaGo 非常会下棋，并且它想要赢得这局棋，于是它走了这一个妙招，把我打败了。这么说非常经济、非常省事。 同样的道理，一台 AI 自动驾驶汽车为什么突然刹车了？我们也不会说什么 GPU、什么算力、什么神经网络、机器学习什么的，这说不清楚。我们会说：因为这台车它不想撞人，而前方马路上突然蹿出来一个人，于是这台车就紧急刹车停下了。同样，如果自动驾驶汽车撞人了，我们就说：这台 AI 汽车在识别前方道路的时候一时疏忽，把这个穿白色衣服的行人误当成了广告牌的影子，等到靠近时发现其实是人的时候，它想要紧急刹车已经躲闪不及，撞到了这位行人。就这么简单。 既然主体性是被归属出来的，我们要不要给 AI 归属主体性呢？哈格认为是要的。当然，前提是这个 AI 的系统越来越复杂，那我们就需要使用意向立场来看待和解释 AI 的行动，从而把一种主体性归属给 AI。好处就是这能让我们用非常精简易懂的语言来解释和预测这个复杂系统的行动。 这样的话，当一台 AI 汽车撞人了，就很容易说清楚它的责任了。比如说刚刚说的，它误把行人当成了广告牌的影子，出于疏忽从而造成了这场交通事故，那它就要承担这个责任，它就要受罚。比如说，罚它回厂检修并禁止上路半年；或者如果后果严重的话，就罚它终身禁止上路，甚至可以直接销毁它。 ### 惩罚机器：报应论与后果论 你听了可能会觉得，我们去惩罚一台 AI，总感觉怪怪的，这台 AI 它害怕被惩罚吗？如果一台自动驾驶汽车因为严重的识别错误而撞死人了，那我们销毁它的时候，死者的家属会感到解恨或者得到告慰吗？ 这感觉有点像小朋友滑倒磕到石头了，坐地上哇哇大哭，这时候妈妈哄小朋友说：都怪这个石头，都怪这个石头，我们打死这个石头。这时候小朋友就不哭了。但是我们成年人不是小朋友，你去惩罚一辆撞死人的自动驾驶汽车，哪怕把它大卸八块、五马分尸，死者家属也并不会感到告慰。 这时候，哈格教授就问了：一个人给别人造成了伤害，我们为什么要让这个人来承担相应的责任，甚至要惩罚这个人呢？ 关于这个问题，有两种针锋相对的学说：一是报应论，二是后果论。 报应论说，我们让一个人担责或者受罚，是他该着就要受罚，因为他做错事了，所以他就应当受罚。其实这也就是我们老百姓常说的“以牙还牙”、“以眼还眼”或者“杀人偿命”。你如果杀了人，你就要偿命，哪怕你偿命了对谁都没有好处，但是你就是应当偿命。 而所谓的后果论，就是说我们让一个人担责或者受罚，是为了在未来能带来更多的好处，或者造成更少的伤害。比如说预防犯罪，我们惩罚一个小偷，是为了让他以后不敢再偷了，以及让其他本来打算偷东西的人看到偷东西还要受罚的，那我们也别偷东西了吧。 哈格认为，报应论是一个错误的并且已经过时了的学说，哈格是站后果论而批评报应论的。 报应论错在哪儿呢？报应论是向后看的，也就是向过去看的。过去你做了什么错事，过去你应当不这么做，所以我们需要你担责受罚。但是过去是可以改变的吗？过去是改变不了的，我们能改变的是未来。因此我们不应当采报应论的立场向后看，而要采取后果论的立场向前看、向未来看，看看在未来能造成什么好的后果。 我们让犯了错的人担责受罚，难道就是为了对犯了错误的老同志进行打击报复的吗？当然不是。我们这么做是为了惩前毖后、治病救人。我们惩前是为了毖后，是为了治病救人，是为了让他吸取教训，以后不要再犯。我们让人担责受罚，是为了在未来能得到更好的后果，这就是一种后果论的思路。 所以说回去，之前有人质疑的“我们也不能从大卸八块一台智能机器的过程中感受到告慰”，这就是一种报应论的思路，这就是错的。我们让自动驾驶汽车担责受罚是为了打击报复智能机器吗？当然不是。我们赋予自动驾驶汽车以主体性并让它承担责任，是为了让它在以后的行为变得更好。如果犯了错，比如说撞了人，我们就要让它担责受罚，为的是吸取教训，以后不要再撞人了。 有人问了：这 AI 机器人怎么知道自己应该吸取教训？这就是一个编程的问题了。大概意思就是程序员在写代码的时候就写进去“如果我犯错了我就要担责受罚”，有点机器人三定律那意思，把它写在代码里面。然后这台 AI 机器人就会更加在意不要犯错，比如更加在意不要撞了人。然后这进一步就会启动一种遗传进化，就是一旦撞人了我就要担责受罚，为了避免担责受罚我就进一步避免撞人，这不就使得自动驾驶汽车的安全性越来越好了嘛。 总结一下哈格的看法：AI 人工智能不仅是能够具有主体性因而是能够承担责任的，因为主体性是被归属出来的；而且我们把主体性归属给 AI 也是有好处的，它能让我们用更简洁易懂的语言解释和预测 AI 的行动，并且 AI 承担责任也能够使得 AI 以后的行动变得更好。 ### 对算汽车派的批评：两个S与现实可行性 介绍完算汽车派的观点，接下来我们介绍对它的批评。 对算汽车派的批评，首先就是对自动驾驶汽车使用意向立场、把它当成个人就很奇怪。而且不是那种简单地使用意向立场——就像我们会把家里面的毛绒玩偶当成人那样——而是要把这个自动驾驶汽车看作是一个道德主体，它能承担道德责任那种，犯了错以后就要担责受罚那种。 这就好奇怪，因为我们始终会问：这个自动驾驶汽车它害怕接受惩罚吗？ 一般而言，一个东西能否成为道德主体有两个标准，也就是看它是否具有两个 S：Sentience 和 Sapience。这个中文不知道咋翻合适，暂且就把 Sentience 叫做“感受”，把 Sapience 叫做“感知”吧。 啥是感受（Sentience）呢？就是我们以一种第一人称视角亲身感受到一种感觉的能力，比如说感受到一种疼痛，这种感受用语言无法完全描述，有哲学家把这种感受的能力叫做感受质。 那啥又是感知（Sapience）呢？就是我们动用高级的智力进行思考的能力，比如推理、反思，以及具有自我意识。 通常认为很多动物是具有感受的，但不具有感知；也只有人类才具有感知，这也是人类和动物的区别所在。所以我们会把人当做道德主体，但不会把动物看做道德主体。 但是现在说到 AI 机器人，它很可能两个 S 都发展不出来，那谈什么成为道德主体去承担道德责任呢？ 这时候哈格教授会回应说：我之前不已经说了嘛，主体性它不是独立实在的，而是被我们归属出来的。这跟图灵测试的精神有点类似，说一台机器能否具有人类这样的心智，我们不要问这台机器是用什么高级算法编写的、到底写出有没有两个 S，不要问这个，而是要让人们跟它交流，以至于人们觉得它就像一个人一样。意思就是说，主体性是被外在赋予的。 批评者再次回应：即便按照哈格的这个说法，主体性是被外在赋予的，即便我们承认最终我们就会造成一台看起来好像真的具有人格的 AI，以至于我们很难不把主体性归属给它；但是前提还是需要我们来把主体性归属给它，它就需要表现得足够复杂才行。比如说，这台自动驾驶汽车真的表现得好像害怕惩罚一样，那我们才会觉得把道德主体性赋予给它是一件不奇怪的事情。 但是，造出这种看起来真的害怕惩罚的机器，就算理论上可行，技术上实现起来太难了，在可预见到的未来都实现不了。所以对于这种只是理论可行但在可预见到的未来都无法实现的东西，这就类似于科幻了。这种科幻的看法，你提它有什么用呢？这就是对算汽车派的批评。 ### 搁置派的登场与旧伦理的解构 介绍完算汽车派的看法及其批评，接下来我们来介绍搁置派的看法。 其实咱们今天这期大问题的阵势结构，算厂商派和算车主派是一个局部的 1V1 辩论。这个所谓的局部呢，就是这两派都承认否决派抛出来的问题确实是个问题，比如责任鸿沟的难题，算厂商派和算车主派也认为确实是个问题。否决派认为这个难题是伦理上不可接受的，所以要否决自动驾驶汽车的发展。但是算厂商派和算车主派认为这些问题是可以解决的，而且是通过传统的伦理道德就可以解决的，它要么把撞人的车看做是厂商的延伸，要么是看做车主的延伸。 当然，这其中也杀出来个算汽车派，发明了一个新的道德主体，让汽车来承担责任就解决责任鸿沟难题了。总之，他们都在试图说服否决派：责任鸿沟是用传统道德伦理可以解决的，你否决派不至于否决自动驾驶车的发展。 但是这个搁置派，就直接和否决派决裂了。它说：你否决派提出的责任鸿沟难题根本就不是伦理上不可接受的后果，根本就不是个问题，我们要把这些问题给搁置掉，于是就没有问题了。 你要说算汽车派已经提出了一种新伦理了吧，就是赋予 AI 以主体性；但这种新伦理还是在试图坚持“冤有头债有主”这种传统的道德直觉框架内提出的新伦理。而搁置派连这个传统框架都不要了，它就直接搁置掉旧伦理，就相当于说：大人，时代变了。 这种旧伦理的实质是啥呢？其实就是“找坏人”。一旦发生了什么意外的事故，非得找出一个坏人来背锅。这也属于是一种过时的阴谋论的思想：坏事为什么会发生呢？肯定是有个坏人在故意使坏；即便不是他坏，也是因为他蠢，反正非蠢即坏，都怪他，解决掉他就解决问题了。 但是“找坏人”的旧伦理已经完全不能适应 AI 时代了。如果自动驾驶汽车撞人了，你非得掰扯清楚责任算谁的，你是掰扯不清楚的。就像上述几个派别的争论，到底是算厂商的、还是算车主的、还是算汽车的，都有道理，也都没道理，掰扯不清楚的。 所以问题恰恰就在于：你们为什么非得掰扯清楚这个事情呢？你们从一开始就被否决派带错节奏了。责任鸿沟的问题我们无视它就好了，自动驾驶汽车撞人了就撞了呗，干嘛非得找个谁来背锅呢？ ### 去主体化赔偿与道德进化 当然，这并不是说撞了人就不赔钱，撞了人还是要赔钱的。但这不要扯这是谁的过错，也不说这钱到底是谁该出，直接赔钱就好了。 那么钱从哪儿来呢？搁置派认为，这个技术层面的事情很好操作。比如说大家都约好了，这个钱统一由厂商出，你卖车的时候价格稍微卖贵一点点，把要用来赔的钱摊在里面；或者由全体车主统一出；或者就是厂商和车主都交一笔税给政府，一旦撞了人这个钱统一由政府出。政府出也就是所有人都出了，也就是没人出。 总之，就是要模糊化掉到底应该由哪个具体的自然人来负责的问题。没有哪个具体的主体来负责，反正把钱赔了就好了。 注意，这不同于传统的买保险。在传统人类驾驶的情况下，我作为司机开车撞了人，虽然是保险公司替我赔钱给伤者或者死者家属，钱虽然不是我出的，但是责任依然是我的，依然是我作为过错方造成了对方被撞。保险公司替我出钱，就相当于我们所有车主在买车之前都约好了交一笔保险费，以后谁要是撞人了，我们就把这个钱帮他赔偿用。但是过错还是我的，这不影响说撞人的司机就不是责任人了。 而搁置派的意思是：不仅钱不是我出的，责任也不是我的，责任也不是任何人的，我们也说不清责任是谁的。咱就不问责任是谁的问题了，咱就把钱给赔了就好了。 如果我们不再遵循“冤有头债有主”的道德直觉，就不用再非得找到特定的道德主体来承担责任了，那责任鸿沟的问题也就消解了。如果我们不追究任何特定主体的道德责任，这同时也解决了之前提到过的道德运气的问题。如果让车主担责的话，这个车主什么事情都没做，凭什么十万分之一概率撞人的事发生在他买的这辆车上让他担责呢？这显然是不公平的。如果让厂商来担责，其实也面临道德运气的不公平问题。搁置派主张不需要找谁来担责了，这个道德运气问题不就也被搁置掉了嘛。 你听了搁置派的这一看法，可能会觉得这种新伦理有点违反人的直觉，也太让人异化，让人活得太拧巴了吧。我们人就是有一些出于本能的道德直觉和道德情感，一个无辜的人被撞死了，我们当然本能地就要找到到底是谁犯了错。这种道德本能，你搁置派怎么能说搁置就搁置掉了呢？ 搁置派会说：人其实根本没有什么不变的道德本质，人的伦理道德一直都是在变化的、一直都是在变异的，这就是道德进化。技术进步导致人的生存环境变了，那人的伦理道德就要跟着变化，否则人类社会就无法发展了。 举个最简单的例子，现在人人都有一部智能手机，但是很少有熟人之间不在微信上先打招呼就直接打电话了。现在谁会给我们的手机直接打电话呢？快递员、外卖小哥、各种推销的，或者就是电信诈骗才会给我们直接打电话。而熟人之间如果直接打电话，则是一种让人感到反感的不礼貌的行为，因为这是要求你当场就要对对方做出回应。但是你想，这条规矩、这种伦理道德…… ### 社会契约与伦理观念的演变 这种伦理道德其实也就是最近这几年才出现的。在以前没有微信、没有 Facebook 的时代，哪里有这种伦理呢？其实，人本来就一直都是一种不停拧巴着自己的动物。如果非得说人必须按照所谓的本性生活，那人类恐怕至今还生活在一切人反对一切人的丛林社会之中。 英国哲学家霍布斯在他的名著《利维坦》中就提出了社会契约论。他说过去每个人都是自己权益的直接捍卫者，谁要是欺负了我，我就必须自己直接动手打回去；就像现实中所谓的“你瞅啥”、“瞅你咋地”，双方一言不合就直接干起架来。在那个时候，我们每个人都是私刑的执行者，讲究“以牙还牙、以眼还眼”，而这种做法也是最符合人类原始道德直觉的。 但是，文明的发展是有代价的，文明的代价就是要让人不断搁置自己的原始道德直觉。比如，我们在进入文明社会时达成了一种约定，把这种“以牙还牙、以眼还眼”、符合原始本能的私力救济权利，统一上交给了一个公共机构，也就是政府。我们每个人都必须学会搁置自己的道德直觉。在这之后，如果有人欺负了我，我就不能再直接动手打回去。因为动手打架的结果无非是打输了住院、打赢了坐牢。我必须忍着，必须选择报警，让警察叔叔替我打回去。 然而，让警察叔叔替我打回去的过程，可就一点儿也不让人觉得畅快了。整个过程要经过公检法的取证、漫长的审理，其间还要充分保障对方的人权。哪怕最后证据确凿、事实清楚，法律也不会让对方跪在地上给我赔礼认错，更不可能当场砍断对方一根手指头以儆效尤，而只不过是依照法定程序把他关进监狱里面而已。这种制度设计其实很不符合我们想要当场复仇的原始道德直觉，让人感觉非常拧巴。但这就是人类文明发展的必然代价。 ### 契约论视角下的自动驾驶事故赔偿 霍布斯这种社会契约论的说法，完全可以类比到自动驾驶汽车撞人的情境之中。社会契约论的核心精髓之一，在于惩罚犯罪不再讲求是由哪一个具体的自然人去过复仇的瘾，而是形成一种超越个体的公共人格来对犯罪行为实施惩罚。同理，在自动驾驶汽车造成的交通事故中，事故赔偿也不应再去纠结到底是哪一个具体的自然人犯了错，而是应当由社会整体来对受害者提供兜底赔偿。 这就是社会契约论的一个根本精神：我们建立社会生活的根本目的并不是为了让人过复仇的瘾，而是为了建立稳定的公共秩序，是为了让人类群体从一切人反对一切人的混乱丛林状态中彻底脱离出来。 这也正是现代法律制度的根本精髓所在。现代法律在很大程度上并不纠缠于抽象的道德对错，法律的核心作用是定分止争，而不是为了满足某些人非要在每一件事上揪出一个道德坏人的心理癖好。因此，一旦自动驾驶汽车在道路上撞了人，既然撞了人，就由政府出面赔钱，把受害者安抚好、救济好就足够了，完全没有必要非得掰扯清楚究竟谁对谁错。 总结一下搁置派的核心看法：人类的伦理道德从来不是一成不变的，而一直都在随着时代发展发生变化。现在新的智能技术时代已经到来，我们就无须再去恪守过去那种“冤有头债有主”的旧伦理。我们完全可以搁置掉这种传统观念；一旦自动驾驶汽车发生撞人事故，我们也不要再去纠结这笔账到底该算在谁的头上，由公共基金或社会赔偿机制把钱赔付到位、解决问题就完事了。 ### 否决派对搁置派的批评与反思 介绍完搁置派的主张之后，接下来看针对它的批评意见。对搁置派的批评，主要来自于最开始介绍的否决派。在局部层面上，算厂商派和算车主派是针锋相对的；而在更高层面的宏观哲学思辨上，否决派和搁置派则是针锋相对的。 其实，否决派在最初阐述自身观点时，就已经构成了对搁置派的有力批评。简单来说，人性并不像搁置派轻描淡写的那样说变就能变，人类根深蒂固的道德本能也不是说搁置就能随意搁置的。哪怕自动驾驶技术从整体功利主义的视角上看，确实能够提升人类社会的整体效用——比如能够有效减少整体的交通事故伤亡——但如果它的代价是把人类社会的伦理道德和法律体系彻底扭曲得不再符合人性，那么我们宁愿不要这些效用上的提升。 类似的辩论逻辑，在关于死刑存废的长期争论中也经常出现。如果单纯从功效和好处的角度来计算，我们完全可以列举出废除死刑能够带来的种种利益：比如可以彻底避免冤假错案导致错杀无辜；比如留着罪犯服刑还能让他在监狱中继续通过劳动为社会作贡献；再比如甚至有观点认为死刑在极端情况下反而会削弱法律对恶性犯罪的阻吓功能，导致罪犯抱着“反正都是一死不如干票大的”的心态铤而走险。 但是，很多人认为只要用一条理由就足以有力反驳废死派的所有功效论证，那就是“杀人偿命”是千百年来广大老百姓内心深处最直接的道德直觉。先抛开这种道德直觉在纯理论上是否合理不论，单就现实感受而言，一个十恶不赦的杀人犯被抓获归案之后，法律竟然不让他抵命，反而还要用公共财政长期养活着他，这在广大普通老百姓的本能情感上是完全无法接受的。 同样的道理，“冤有头债有主”和“杀人偿命”本质上是一样的，都是人类深植的道德直觉。这种直觉绝不是一句“搁置它能给全社会带来更多整体效益”，就能够被轻易抹杀或搁置掉的。 ### 技术异化与人本主义的消解 搁置派主张人为搁置人类自身的道德直觉，这在批评者看来必然会造成科技对人的异化。否决派作为搁置派的批评者，其立论初衷并非盲目反对科学技术本身的发展，而是强调科技发展必须以人为本。科技的发展应当顺应人类固有的天性，应当让人性得到充分的舒展与发挥。 在人与技术的关系中，人性本身才是最终的目的，科学技术仅仅是服务于人性的手段而已。人类绝不能本末倒置，反过来强行扭曲自身去适应冰冷的技术逻辑。如果一项技术的发展最终导致人性扭曲、道德沦丧，那么发展这种技术本身又有什么意义呢？ 以生物医学技术为例，大家都知道基因编辑技术非常好，克隆人技术在技术层面上也非常先进；当前许多发达国家都面临年轻女性生育意愿下降、人口老龄化加剧的严峻现实，难道为了解决人口问题，我们就可以直接使用技术手段大批量克隆人类吗？如果真演变到那一步，整个社会将会变得极其可怕，因为在这个过程中，人已经完全沦为了科技的工具和手段。 一旦人沦为手段、科技反客为主成为目的，必然会导致人本主义的消解，最终造成哲学意义上的“人之死”。到那时，人将不再作为一个活生生、有血有肉的主体而存在于这个世界上。如果科技成了终极目的，我们所有人都会沦为现代庞大科技机器或运行系统之中一枚微不足道、随时可被替代的小小组件。我们变成了匿名的、平庸的、无须对任何事情承担实质责任的机器零件。当个体的道德主体地位被彻底取消时，人本身的概念也就已经消亡了，大家只不过是维持庞大系统平稳运转的耗材而已。 把这个问题带回到自动驾驶的场景中：如果一辆自动驾驶汽车撞死了路人，按照系统论的冷血视角，这无非是现代庞大机器运行过程中偶尔出现的一个小小的 bug，它与系统中的任何具体组件都毫无关系；在这个事故中没有任何一个自然人做错了什么，被撞死的人只不过是为了维系这套高效的大系统运转而不得不付出的必要代价；系统出面给他赔一笔钱就行了，整个技术系统还要继续迭代进化。如果我们全盘接纳搁置派的主张，自动驾驶技术的大规模推广，恰恰就是这种科技对人类进行全面异化的典型体现。 ### 道德运气与行动者憾恨的不可搁置 谈完技术异化的问题，再来看道德运气问题。前面曾提到，搁置派认为自己的方案能够顺带搁置掉道德运气的困扰，但这种运气因素真的能被轻描淡写地搁置掉吗？批评者认为搁置派的设想过于狂妄，不仅试图异化人性来搁置责任鸿沟，甚至还狂妄地认为可以把现实世界中的运气因素一并抹去。 在之前探讨“道德运气”那一期大问题时，曾详细介绍过英国哲学家伯纳德·威廉斯（Bernard Williams）提出的“行动者憾恨”（Agent Regret）概念。假设我作为一名人类驾驶员在道路上开车，即便我全程严格遵守交通规则、没有任何违规驾驶行为，但突然有一个小孩横穿马路，车辆避让不及将其撞死；即使从交通法规和责任认定的角度来看，这完全是对方横穿马路的过错，我无须承担任何行政或刑事法律责任，在民事上甚至也无须赔偿分文，整起悲剧完全是由不可控的运气导致的飞来横祸，但在现实生活中，我作为肇事车辆的实际操控者，绝对不可能做到像个没事人一样心安理得。 我的内心会不可抑制地产生一种挥之不去的第一人称“行动者憾恨”：我会感到极度的难过、过意不去、遗憾和悔恨，因为无论责任如何划分，那个鲜活的孩子终究是死在了我所驾驶的汽车轮下。这种行动者憾恨，本身就是人类不可磨灭的真实道德直觉。它表明即便我主观上没有任何过错，但在现实世界中，由运气引发的沉重因果联系是无法摆脱的；我因坏运气撞死了一个孩子，我就注定无法在心理上抹去这种强烈的憾恨之情。 然而按照搁置派的逻辑，这种行动者憾恨难道也能被轻飘飘地搁置掉吗？试想一下，如果我是坐在全自动驾驶汽车里的乘客或车主，车辆行驶途中突然紧急制动停了下来。我下车查看发生了什么事，发现车子撞死了一个横穿马路的小孩。如果按照纯粹的搁置派逻辑，既然车不是我开的，这事就完全与我无关；这只是现代交通大系统运转过程中不得不付出的一点微小代价，系统该赔钱就赔钱，于是我拍拍屁股像个没事人一样直接走人。 搁置派不妨尝试一下，看这种深层的行动者憾恨到底能不能被真正搁置掉。这种做法不仅在道德伦理上是不应当的，在人类心理事实上也是根本做不到的。我们很难相信人类的情感能够拧巴到面对一条生命的逝去而毫无内心波澜的地步。如果搁置派描绘的人类真的能够彻底做到这种冷漠，那恰恰说明人性已经遭遇了严重的扭曲与异化。 因此，对搁置派的最终批评可以总结为：为了防止人性被扭曲、防止人类被现代科技系统所异化，我们必须在制度和伦理上正面填补自动驾驶汽车撞人所带来的责任鸿沟难题；如果在伦理和法律上无法填补这一鸿沟，我们就不应当盲目发展与全面普及全自动驾驶汽车。搁置派试图对责任鸿沟问题采取视而不见的搁置态度，不仅是不负责任的，在现实中也是根本行不通的。 ### 全场研讨会观点总结与互动 介绍完搁置派的主张及其遭遇的批评之后，本场关于自动驾驶汽车撞人责任归属的研讨会就进入到了整体的会议总结阶段。 梳理整场讨论的核心脉络，结合思维导图来看： 首先出场的是否决派。否决派首先抛出了核心的大问题，指出自动驾驶汽车撞人必然会引发前所未有的“责任鸿沟”困境，而这种责任主体的缺失在伦理上是人类社会完全无法接受的严重后果，因此否决派主张直接叫停并全面否决自动驾驶汽车的商业普及。 随后出场的算厂商派、算车主派以及算汽车派三方，对此作出了正面回应。他们承认否决派指出的责任鸿沟确实是一大严峻难题，但坚决认为这一难题并非不可化解。在这三派看来，事故中的自动驾驶汽车要么可以被视为汽车制造厂商意志与行为的延伸，要么可以被视为车辆所有者或使用者的工具延伸，要么在未来干脆赋予汽车独立的电子人格让其自身成为承担法律责任的道德主体。通过这三种不同的责任锚定路径，他们各自给出了填补责任鸿沟的方案。 最后出场的搁置派，则从根本上解构了讨论的前提，他们压根就不认为否决派最初抛出的责任鸿沟是一个真正需要解决的问题。搁置派主张，随着现代科学技术的跨越式发展，人类社会应当与时俱进地搁置掉过去那种在事故发生后非要揪出一个具体坏人来背锅的传统旧伦理，转向依靠社会化赔偿和整体救济来定分止争。 今天系统梳理的这五个派别，针对自动驾驶汽车撞人后的责任归属难题给出了截然不同的答案。在这五种主张之中，你认为哪一种流派的论证更具有说服力？或者针对这一深刻的现代伦理大难题，你是否持有其他更为合理、完善的解决方案？欢迎大家一同参与到哲学家们关于这一大问题的思辨讨论之中。各派哲学家的观点已经阐述完毕，现在轮到大家表达思考，请在视频下方的评论区投出属于你的一票，并分享你的具体见解。