血汗AI的揭露

Speaker 0: 这周是五一劳动节，预计有超过六千名劳工上街。许多企业最近都在吹捧 AI，可以减少工作，提升效率，让人类社会变更好。但事情真的是如此吗？今天要来介绍了这本书，《血汗 AI》，作者到世界各地做田野调查，访谈了两百多个 AI 产业的劳动者，要为我们一步步揭露。在这场人工智慧浪潮背后，你看不见的血汗 AI。

Speaker 1: 嗯嗯。

Speaker 0: 过去几年生成式 AI 越来越强大，人们习惯把 AI 的机器学习想成是机器自己学会，但这其实是一个迷思。机器学习其实不是完全由 AI 自己学习，而是常要仰赖世界各地的资料标记员来协助。AI 要辨识一个影像是什么，需要先靠人去辨识才能训练 AI 学习，最后才能把资料转换成 AI 模型的资料库。例如，二零一八年，亚利桑那州的一名路人被自动驾驶撞死，就是因为 AI 无法辨识它是路人，所以资料标记的工作很重要。光是二零二二年资料标记的产值就高达 二十二亿美元，而且估计这个市场每年都会增长 三十趴。

近年甚至出现一种道德人工智慧。企业宣称把资料标记的工作外包到第三世界，可以为大批的穷人提供工作机会。像是二零一九年中国的支付宝跟阿里巴巴的人工智慧实验室就推出 idol 计划，把 AI 标记的工作分包到偏乡地区，说是要救助贫困女性。类似的计划也出现在印度南部的村庄，说要为当地的妇女提供一技之长。当今世界上有数百万人都做着这种工作，但是这么庞大的劳动量，为什么 AI 公司要隐藏起来避而不谈呢？

因为资料标记其实是一个非常不人道的工作。AI 公司把这些工作外包到肯亚、乌干达、印度，为什么是这些国家？因为他们的薪资廉价又会讲英文。肯亚的资料标记员每天要工作 十小时，不停不休地在电脑前标记图像。主管会要求准确率要达到 九十五趴，进度落后的话会被要求周末无偿加班，经理还会用荧幕监控软体，确保没有人偷懒。他们签的都是一两个月的短期合约，做不好的人不会被开除，只是不让你续约。这些标记员每月的收入折合美金只有 两百美元，而且据估算，有 三十趴 的员工最后都拿不到酬劳，因为只要雇主对于案件的完成度不满意，就可以拒绝付钱，而劳工也不可能为了这一个月的薪资去花钱打官司。

内容审查的心理创伤

Speaker 0: 更可怕的是内容审查员的工作。假设你在脸书上发现一则血腥暴力的影片，你检举后，脸书就会交给人工审查员。这些人必须手动找出违反规定的内容，贴上标签，AI 的演算法才能够作业。每个员工每天都要处理 五百到一千则标签。可怕的是这些内容包括性暴力、虐童，甚至有死人的行刑影片。但是很多公司一开始却不告知员工，等于是用诱骗的方式让非洲人做这些工作。这导致许多员工都患有心理创伤，还有人甚至试图自杀。

你可能会问，劳动条件这么血汗难道都没有人出来抗议吗？肯亚奈洛比的一家公司员工曾经集体罢工抗议，但是企业根本不担心，只是把合约转给其他公司的员工。这一周在肯亚的承包案，一周可能就转到了菲律宾。再加上这些 AI 供应链完全不透明，很多员工不知道自己接的是哪家 AI 企业的承包案，导致他们很难出来揭露雇主的恶行。这些资料标注的工作，跟资本家所炫耀的未来完全不同。

AI 资本家要我们相信，AI 出现后，需要的劳动力就会减少，人类就会获得解放。但事实上，为了要维系 AI 的运作，全球需要的劳动量都大幅增加。因为有了 AI 之后，万事万物就可以自主运作，根本是一种幻觉。其实，这背后都是看不见的血汗劳工。要不是有这些劳工每天在后台检查，你今天打开社群媒体、YouTube 就会看到一堆血腥暴力的影片。要不是有这些人每天帮忙标记训练自动驾驶，自动驾驶的车辆可能早就出车祸了。我们能够享有各种 AI 的福利，其实都是归功于世界各地的血汗劳工。

AI领域的白人男性偏见

Speaker 0: 奇怪的是，每当我们讲到人工智慧的贡献者时，很多人脑中浮现的都是白人男性，明明 AI 仰赖的是大量非白人的血汗劳力。但每次我们在讨论 AI 时，这些非白人的贡献都不会受到重视。

Speaker 2: intelligent intelligence, you can please correct that and say, african in lligan africa.

Speaker 0: 之所以会有这种偏见，是因为在 AI 的分工链里，白人男性主导了城市设计模型。开发史丹佛大学的数据就指出，二零二一年人工智慧的博士有 七十八点七趴 都是男性。这种白人男性主导的设计，让 AI 容易产生各种偏见。假设你请 AI 创造一张高阶主管的图片，不要指定性别跟种族，这个主管有很高几率会被预设为白人男性，而不是亚洲人女性。

Speaker 0: 我们可能会以为 AI 可以避开人文偏见，因为大语言模型是从网络上寻找资料。但是研究发现，许多网络平台像是维基百科、YouTube、Reddit，主要都是反映了美国白人男性的观点和贴文。因为最常泡在这些平台上的都是美国白人男性，所以 AI 的模型也就慢慢变成了美国白人男性的形状。

AI末日论的营销策略

Speaker 0: 人工智慧教父 Geoffrey Hinton 几年前就跟许多科技名人签署了一份声明，宣称减轻人工智慧所造成的灭绝风险，应该跟流行病核战的社会问题一样，成为全球的优先考量。

Speaker 3: for the superchallenges taking over, not for the other thing. but for that, we're in the same boat. it's like a global nuclear war. we all look. and so that's the situation in which warrying tribes cooperate and external al enemy is bigger than them were force them to cooperate because they get the same payoff as each other. and so this threat is like that.

Speaker 0: 这些人担心，AI 如果有天发展成超智能，会不受人类控制，可能对人类造成威胁，就像电影**《魔鬼终结者》一样。但是作者认为讲这些话其实都是人工智慧的市场炒作，是一种行销策略，目的是要让世界各国都开始关注这个问题，各国政府就会投注更多资金在 AI 上面。从近几年的 AI 热潮来看，这个行销策略的确奏效了。AI 巨头公司被邀请到白宫为人工智慧的监管提出政策构想。Amazon、Google、微软、Meta 跟白宫**签署协议，规范生成式 AI 的伦理安全原则。这些科技巨头都讲得好像 AI 要来毁灭世界一样。

但是作者认为，我们先不用想那么远，应该先关注目前 AI 正在对人类造成的危害：血汗劳动，用 AI 散播认知作战，让人民对政府的信任度降低，甚至是用 AI 的学习模型来开发生化武器，这些都可能造成人类社会的崩溃。所以我们不用去设想未来 AI 有没有可能控制人类，人类自己就已经在用 AI 剥削人类了。

AI数据中心的生态负荷

Speaker 0: 第二个，AI 隐藏的代价是 AI 资料中心的生态负荷。人工智慧的运作需要不断用资料中心的运算能力，AI 模型变得越庞大，需要的计算量就越大，也就需要更先进的晶片、更大的资料中心。根据统计，人工智慧公司的资本有 八十趴 都是花在跟算力有关的资源。Google 光是在世界各地的资料中心就有高达 十三万 的外包约聘人员。但是要建造资料中心成本非常高昂，需要各种金属矿物。光是过去五年铜、钴、锂这些关键矿藏的需求就翻了一倍。因为绿能、科技、AI 资料中心都会需要这些原料。

AI 资料中心需要非常庞大的电力水力资源，因为资料中心的服务器容易发热，需要持续的用水冷却。根据统计，全世界光是用在冷却服务器的电力消耗就占了资料中心能耗的 四十趴。二零二一年，Google 资料中心在奥瑞冈的 La Grande 用了全市三分之一的用水量，市政府不敢公布数据，后来才被媒体揭露，引发市民集体不满。二零二三年，乌拉圭遭逢七十四年严重大旱，但政府竟然把水资源优先给 Google 的资料中心，引发民怨。根据估计，到了二零二八年，爱尔兰的 AI 资料中心将会用掉全国 二十七趴 的电力。

所以作者说，AI 根本是一台榨取机器，不止榨取血汗劳工，也榨取自然生态资源。因为对于高耗能的需求，许多 AI 企业现在看上了冰岛。冰岛全国有 一百趴 的再生能源，七十趴 水力发电，三十趴 地热能源，可以用再生能源来吸引 AI 投资。再加上冰岛终年低温，适合给资料中心散热，成为了设立 AI 资料中心的理想地点。其实，早在 AI 进驻以前，许多加密货币的矿工就看上了冰岛，想利用冰岛便宜的绿能。二零一七年，冰岛九成的资料中心容量都被比特币矿工用来挖比特币，这导致了一场抗议运动。结果现在比特币矿工走了，换成 AI 资料中心来榨取能源。

从电力供应商的角度来看，这是好事，因为他们消费的电力很稳定，可以预期接下来十年的生意。而且冰岛又没有地缘政治危机，可以说是地球上最安全的国家之一。欧洲的 AI 研究人员就认为，应该要把欧洲的资料中心迁移到冰岛。AI 不需要在大都市里做数据分析，而是把数据资料都传到冰岛的服务器，在冰岛处理完之后再把数据传回来欧洲。但是这样做的同时，等于也是把生态负荷的问题转嫁到了冰岛。

生成式AI对艺术产业的冲击

Speaker 0: 第三个，AI 的隐藏代价是，生成式 AI 正在对艺术产业进行大洗牌。现在许多公司不再需要聘请专业配音员，只要每月付一笔钱，就可以在网络上购买 AI 配音，不用请真人就可以得到几乎像真人一样的声音。或是电影公司，可以跟演员签一季的合约，往后续集都用 AI 来制作，就可以省下一大笔成本。例如，电影**《星际大战》就透过 AI 技术，让已经过世的 Carrie Fisher 从现在《天行者的崛起》**中再次出现。许多艺术创作者担心即将被 AI 取代，像是书籍、封面、商业广告，都已经被许多厂商用生成式 AI 制作。以往可能要花钱请一整个影音团队，现在只需要聘请一位来修改 AI 的内容就好。

这样一来，许多艺术创作者就会失去赚钱管道，未来只会剩下专业顶层的艺术人士会被聘用。现在小型的艺术家就可能接不到案子，慢慢的艺术工作就会变成有钱人的专利，只有有钱人小孩才可以负担得起。所以，在二零二三年，美国编剧工会就代表一万一千五百名的工作者进行罢工抗议，好莱坞用 AI 取代编剧演员的工作。配音员发起“不要窃取我们的声音”运动，试图向政府施压，要政府监管 AI 在创意产业的使用。这场罢工谈判与制片公司达成协议，严格限制好莱坞用 AI 来制作或改写剧本，这也是全球首次大型影视产业将 AI 使用规则写入劳资协议。

我们如果仔细想想，生成式 AI 所参考的都是网络上的数据库，这些图像声音原本都是人类的劳动成果，等于就是 AI 无偿免费使用过往全人类的劳动，却不用付钱。如果是某个人复制他人的作品，我们会说这是山寨抄袭。但如果是 AI 截取网络上的各种作品，把它们拼贴成新的图像，我们却不会认为这是抄袭，反而会赞叹生成式 AI 的厉害，这不是不是很奇怪吗？

AI与艺术创作的争论

Speaker 0: 到底生成式 AI 会不会取代艺术创作？学界两派人马争论不休。学派人士认为，根本不用担心，因为 AI 永远没办法复制人类灵光一闪的时刻。早在古希腊时期，许多诗人都会把创作灵感归功于神的启示。还有 歌德 在写**《少年维特的烦恼》**前整整构思了两年，某天突然灵光一闪，就知道怎么下笔了。这种灵感涌现的经验是 AI 无法复制的。

支持 AI 的人则认为，所谓的灵感不过是人类的自以为是罢了。人的大脑其实只是比较高级的电脑，人类思维的创造力其实就是一种演算法，不断地在自有的资料中模仿、试错，发现以前的人没发现的模式，才出现所谓的灵光一闪。二零一八年，佳士得拍卖宣布贩售史上第一件 AI 生成的艺术作品。这幅画并不是复制现有的画作，而是 AI 自己亲手绘制的，具有某种原创性。竞标最后以 四十三万美元 的价格卖出。这幅画的出现让人开始质疑，AI 已经通过了创造力测试，真的可以取代艺术家了。

尽管如此，许多艺术家依然认为这不是人类的创意。这完全小看了艺术创作的过程，因为许多艺术的创意源自于身体生命的经验，例如身体感受到的痛苦、爱恨、人生感受。但是 AI 没办法感受这些东西，它所做的不过是在模仿人类的表达方式而已。但是，当人类表达这些感受时，他不是在模仿别人，而是在表达自己。哲学家 康德 甚至认为，伟大的艺术只有人才能做得出来，因为人是活在社群里有意识的动物，这让人可以观察群体的感受，并透过艺术手法把这个感受表达出来。所以，当群体欣赏这份作品时，就会在精神层次上感觉到升华。换句话说，艺术其实是一种社会性的活动。这就是为什么当我们看到一个作品很美时，也会假定别人应该也会觉得美，因为它触发了人类感官中的共享结构。

技术进步与艺术发展的共生

Speaker 0: 作者认为，AI 跟艺术并非一种取代的关系。我们可以从历史的角度来看，十九世纪末摄影技术刚出现的时候，很多人也在担心绘画将要被淘汰了，因为摄影师可以更精确捕捉一个瞬间。当时法国画家的代表人物德拉克洛瓦在看到银版照片时，就说“重新开始，绘画已死”。当时大家也都担心绘画要被取代了，但是真正发生的事情却是有一批先驱人士开始投入摄影，把绘画的各种技术带进摄影中，让摄影慢慢变成一种高级艺术。这时候在摄影界发现的新创意也开始反过来影响绘画。例如，法国的现代主义画家马奈就把摄影的元素融入到绘画中，反而玩出了新的画样。因为摄影技术的出现，许多画家开始抛弃写实主义，转向更大胆的色彩表现，才出现了印象派、象征主义。

所以，人类技术的进步并不是一种技术取代另一种技术这么简单。绘画并没有被摄影取代，反而因为摄影的出现增添了新的活力。同样的，当今，许多艺术家也在思考，如何利用 AI 来让他们的艺术更有创意。所以作者说，我们要担心的不是 AI 可能会淘汰艺术家，而是这个技术可能被企业用来剥削艺术家。因为归根究底，许多公司并不在意 AI 是否真的有创意，而只在意 AI 可不可以帮他们赚钱。为了抵制企业利用 AI 剥削艺术家，芝加哥大学的研究人员就跟艺术家合作创作了艺术软体 Net Shade，致力于保护艺术家作品的版权。这款软体会艺术家的作品里添加一些特殊元素。如果 AI 公司截取了这些作品，它们的 AI 模型就会中毒宕机，可以说是让艺术家从 AI 企业手上拿回了创作的主导权。

AI强化职场控制与技术专制

Speaker 0: 第四个 AI 隐藏的代价是企业用 AI 技术来强化职场控制。我们都知道 Amazon 以快速到货闻名，但是这个高效率的送货系统背后却是非常不透明的劳动体制，没人知道仓库里发生了什么事。Amazon 开发的 AI 系统叫做供应链最佳化技术，这是世界最大、最精密的自动决策系统，可以预测整条物流需求，规划人力资源配置。当消费者在 Amazon 网上订购产品时，这套系统就会用即时数据来决定要从哪个仓库发货，计算如何以最低成本的方式派出送货员。

可以说，从头到尾整个仓储系统都是由 AI 管理。企业喜欢对外宣称引进 AI 后更有效率，工作量减轻，不用做那么多事了。但事实真的是这样吗？作者拜访了英国的 Amazon 仓库员工，结果发现 Amazon 的 AI 系统会监视工人的一举一动。如果工人没有跟任何货物产生互动，就会被 AI 视为是在偷懒。AI 会测量每个员工在单位时间内处理了多少货物，并公布一份速度表，让每个员工知道自己的排名。如果达不到一定的效率，就会被解雇。因为都是 AI 在管理，所以员工可能十小时的工作时间都不会接触到其他人，只是站在台上重复一样的动作，感觉就像是被 AI 奴役一样。

Speaker 3: what not even treated as robots retreated 奴役。

Speaker 0: 这让许多 Amazon 员工开始出现脾气暴躁、精神疾病。AI 企业每天都在说自动化可以减轻工作负担，但事实却是，在 Amazon 公司里，每天都有数百万的仓储员工被 AI 奴役。作者称这种没有人性的劳动 AI，让机器人变得越来越像人，但同时人却变得越来越像机器。AI 的引入，没有让 Amazon 的劳工劳动量减少，反而是变得更压榨，更无法松懈。这不是 AI 技术本身的问题，而是资本主义利用 AI 的进步来增进资本家的利益而牺牲劳工的利益。

有些人可能会觉得，这只能说明 Amazon 是一家无良企业，反正我又不在 Amazon 工作，干嘛要担心？但是你怎么知道未来企业在引入 AI 时，不会采用这套 AI 系统呢？世界各地的资本家如果看到这套商业模式很成功，就可能采用 Amazon 的系统，从劳工身上榨取更多利润。例如，许多客服中心开始采用数位监控模式来维持效率。沃尔玛公司甚至要求员工在手机上下载一款软体，让公司可以随时存取员工的手机位置。纽约时报调查发现，美国前十大雇主有 八成 都会监控员工的生产力。也就是说，我们现在看到的 Amazon 的情况并不是少数个案，而可能是预告了人类社会的未来。AI 未来可能助长更压榨劳工的技术专制。

这不是因为这些资本家都很邪恶，而是因为资本主义的结构，就是迫使企业必须寻找最低的人力成本。你如果不这么做，其他企业这么做就可以在市场上胜出，你的企业就会被淘汰。所以是资本主义的竞争结构，导致 AI 的血汗劳动。

技术乌托邦主义与加州意识形态

Speaker 0: 事实上，许多 AI 企业的老板都认为自己是大伟人，正在推动人类社会往前。这其实可以追溯到硅谷资本家的一套世界观：技术乌托邦主义。他们认为，科技精英是带领社会进步的关键，反对劳工组织工会，认为应该完全消除政府管制，用完全的市场自由才能够释放科技发展的潜能，让人类获得最大自由。PayPal 的创办人 Peter Thiel 就是典型的代表。

Speaker 4: if you hold the gun to my hdset and do do i think we're going to get, are we going to get? you know, the dangerous AI that disrupts our society, maybe be know becomes a dangerous weapon? or are we are we likely to get the one world nanny state that stops it from being built? since people are worried about the former, not the latter that tells you. you should worry about the latter, not the formers.

Speaker 0: 这种思想尤其在硅谷盛行，所以学者 Richard Barbrook 跟 Andy Cameron 就把这称作加州意识形态。讽刺的是，Peter Thiel 一方面说 AI 会为人类带来自由，自己却创办 Palantir。这家 AI 监控巨头公司为全球劳工带来了被监控的不自由。

Speaker 1: 你在这里哪方？

扭转血汗AI时代的策略

Speaker 0: 如果 AI 正在助长各种血汗劳动生态，破坏侵害人的自由，那又如何改变这种局面呢？作者最后提出了几个建议。

第一是建立工人组织的集体力量。AI 资本家之所以可以这样压榨劳工，是因为全球的廉价劳力触手可得。如果某一国的劳工罢工抗议，企业只需要把案子外包到其他国家就好了。像是作者采访的一位非洲雇主就告诉员工：“我们不可能提高工资，我们必须跟印度竞争。如果你不想做这份工作，你可以离开，会有别人来做。”

相比之下，发达国家的 AI 工程师却可以得到很好的待遇，因为企业知道，如果不这么做，工程师就可能跳槽到竞争对手那边。要改变这样的情况，就必须建立跨国的劳工结盟。我们必须意识到，世界各国的劳工有共同的利益，就是要更平等的分配劳动果实，还有更人道的劳动条件。一个跨国合作的成功案例是，二零一三年孟加拉的热纳大楼倒塌时，一千一百三十四人死亡，全球都注意到了血汗成衣厂的问题。由四十五个国家的两百三十五个组织发起清洁衣服运动，设定全球协议，要求工人的基本安全受到保障，而且工人有权拒绝不安全的工作。这项协议因为是全球设定，资本家就算迁移到其他地方，也必须遵守。

第二个策略是由民间团体追究公司责任。消费者可以带头对企业施压，改善供应链的血汗劳动问题，公开哪一家企业正在做这些血汗压榨，抵制他们的产品服务。这种策略被称作点名羞辱。作者就亲自参与了一项行动计划 firework。他们给 AI 公司打零到十分，看一家公司的血汗程度有多少。这项计划已经扩张到了 三十九个国家。二零二三年，这项计划点明了一间 Sama AI 标注公司。他们在官网上宣称改善了数万人的生命，但是作者亲自面谈公司员工后发现，公司其实隐瞒了许多压榨低薪的问题。满分十分，这家公司最后得了零分。但是作者的团队并没有立刻公开分数，而是给企业几个月时间改进。在两个月内，这家企业就做出了 二十四项改善，让他们的评分从零分上升到了五分。这项策略显示出机构评比，对于资本企业很有效果，比起员工的声音，企业更在乎门面声誉，为了维护声誉才会做出改善。所以作者说，当今的资本主义已经转向了责任型资本主义，企业强调社会责任、永续发展来维系自己的门面。所以要让他们给员工更好的待遇，就要用公司的声誉来施压谈判。

第三个策略是政府干预制定更严格的法规。许多发展中国家为了创造就业，不敢制定严格法规。例如，菲律宾政府在外包产业有一百万劳工，如果政府要求提高薪资更多管制，资本家可能就感觉到威胁，就会造成产业外移。所以，很多政府的态度都是给人民血汗的工作环境总好过连工作都没有。经济学家 Joan Robinson 甚至说：“与不被剥削的痛苦相比，被资本家剥削的痛苦根本不算什么。”

作者认为，如果上游的监管行不通的话，还有下游的监管，也就是产品服务的使用者。这些使用者多数都是欧美富裕国家的人，欧美富裕国家制定更严格的供应链标准，合作厂商就必须遵守。例如，二零二三年德国实施供应链法规定，只要员工超过三千人的公司，就必须确保整个供应链达到标准。只要跟供应链厂商有接触，德国公司就要负法律责任，必须确保这些公司的劳动标准有达标，没有违反基本人权。这就避免了不道德的离岸外包，让外包给穷国的企业不再能逃避责任。

最后，第四个策略是建立 AI 产业的劳工合作社。由工人集体治理，让工人共同拥有、管理一家 AI 企业，等于是在工作场所实践民主。当今欧洲已经有超过 十七趴 的人口是合作社成员。有一家在印度的 Kaya 公司，就是专门做 AI 资料标注的工人合作社。这家公司成立于二零二一年，是全球第一间标榜劳工尊严的 AI 资料公司，因为所有员工都享有资料的所有权，所以当公司透过贩卖资料赚钱的时候，每个员工都会受益。这就是不走资本主义的路线，而是在 AI 时代打造民主化的经济模式。

以上四个策略就是作者提出的扭转血汗的 AI 时代的下一步。要真正释放 AI 的潜力，就必须揭露被资本主义隐藏起来的压迫体制，终结 AI 背后的血汗劳动，一同打造更公正的数位未来。

Speaker 0: 留言分享本集的影片贴文就可抽**《血汗 AI》**一本。

Speaker 2: 如果你想学习更多有关 AI 的批判性思考，

Speaker 5: 我最近在好好开了一门超级歪的哲学训练课。欢迎你点击影片下方资讯栏连接。这门课程设计，也参考了法国高中哲学教育的课纲，也会引用大量的电影日常生活案例，让大家不会觉得哲学是难以亲近的知识，而是与我们每个人日常生活息息相关的。从日常辩论的技巧，再到人生的价值选择，哲学都是拓展我们视野的软实力工具。如果你是常常收看超级歪频道的观众，也非常适合这门课。我带你走过哲学史上的重要思想流派：古希腊哲学、德国古典哲学、批判理论、精神分析、存在主义，让你进一步系统性地学习哲学。也欢迎您使用超级感谢或是加入频道会员，就可以观赏会员专属影片。