数字时代的困境与思考

此前，我们曾介绍过一部关于算法与监控资本主义（Surveillance Capitalism: 科技公司通过收集用户数据并将其出售给广告商来盈利的商业模式）的电影。视频发布后，许多观众反馈，虽然大家早已了解这些问题，但却无能为力，难道要停止使用YouTube、Google、Facebook吗？今天，我们将通过《数字时代的人权思辨》这本书来探讨，当我们无法摆脱数字技术时，我们应该如何应对。

本书的作者是澳大利亚律师利兹·奥谢（Lizzei O'shea）。他在书中分析了互联网时代的十大关键争议，其中我选择了五个与大家生活更相关的议题，希望能帮助我们思考如何在数字技术主导的当代社会中生活。

监控资本主义的无孔不入

我们之前谈到过监控资本主义，它指的是科技公司利用电脑、手机和家用电器等设备，记录用户的数字足迹，从而生成个性化数据，再将这些数据出售给广告商以获取利润。2012年的一项研究指出，美国“数据挖掘产业”的市场价值高达1560亿美元，从业人员达67万人。监控资本主义已然成为一个巨大的商业机遇。

然而，与此同时，这些科技公司却常常承诺用户可以维护隐私。例如，手机可以设置“关闭定位”和“无痕模式”，或者使用“匿名浏览器”。但信息科学家拉坦娅·斯威尼（Latanya Sweeney）发现，仅凭邮政编码、性别和生日，87%的美国人就能被识别出来。即使你隐藏了所有这些信息，数据公司仍然可以通过一种名为**“生物特征档案”**（Biometric Profile: 通过分析个人独特的生物特征或行为模式来创建的身份识别档案）的技术进行识别。因为每个人敲击键盘的方式都不同，所以只要分析键盘敲击模式，就能创建你的个人档案。换句话说，我们似乎无法逃脱监控资本主义的掌控。

此时，社会上出现了各种不同的声音。有人说：“我没做任何违法的事，为什么要害怕被监控？”另一些人则认为：“他们提供了免费软件，当然要为此付出代价。”还有人觉得：“根据你的偏好推荐广告，这不是非常方便吗？”于是问题就变成了：当社交网络变成商品销售市场，不断向你展示喜欢的广告帖文和视频时，这种网络生活真的是一种好生活吗？

以约会软件Tinder和OkCupid为例，它们的母公司Match Group本身就是一家数据提供商。表面上，它们利用你的数据帮助你寻找合适的伴侣；私下里，却将你的个人资产出售给第三方以牟利。因此，你可能只会在约会软件上遇到系统认为适合你的人，这也排除了认识其他人的可能性。那么，这真的是一种好的互联网体验吗？还是仅仅让用户活在“同温层”中寻求慰藉？

科技巨头的垄断与审查

另一个更大的问题是，当在线平台完全被少数资本公司垄断时，它们也垄断了公众所能看到的世界。支付广告费用的公司可以让其网站出现在搜索结果的第一页，因此你所找到的并非中立的结果。这些监控公司有时为了市场利益，甚至会建立政治审查机制。

例如，2014年是天安门事件25周年，LinkedIn就审查了与天安门事件相关的内容。如果你的简历中提及在中国历史中研究天安门事件，你的页面就会被直接封禁。LinkedIn的发言人曾表示：“为了给中国和世界各地的会员创造价值，我们必须执行内容控制。”又如2017年，美国政府和以色列政府联手，命令Facebook删除数百万追踪的巴勒斯坦领导人政党账户，以阻止他们号召民众组织行动。在巴勒斯坦方面的消息“消失”后，Facebook上的“主流媒体”开始宣传巴勒斯坦向以色列开火的新闻，使得全球用户只能看到单方面的信息。

因此，过去几年，许多Facebook的意见领袖都在说要走出“Facebook同温层”。但事实上，Facebook的本质就是为了创造一个同温层，因为其收入来源于广告浏览量。只有让用户沉浸在同温层中并花费更多时间，社交媒体才能赚取更多的广告利润。所以，与其说Google和Facebook是社交媒体平台，不如说它们本质上是广告公司。Google在2018年84%的收入来自广告，Facebook在2019年98%的收入来自广告。这些社交媒体实际上助长了政治激进化信息来源的单一化。

研究人员认为，过去五年数字网络实际上没有改善，反而变得更糟，因为信息流通变得更少、更封闭。相反，在互联网刚出现且未被监控资本主义入侵时，信息流通反而更自由。

网络中立性与数字公民权

例如，美国法学教授吴修铭（Wu Xiuming）提出了**“网络中立性”**（Net Neutrality: 指互联网服务提供商应平等对待所有互联网流量，不应基于内容、网站、平台、应用程序、连接设备类型或通信方式进行歧视或区别收费）的概念。他认为在线平台不应该是人人都能花钱购买页面的空间，它应该是中立的。只有这样才能保证信息的自由流通，实现公平竞争。

就像在民主政治中，我们坚持一人一票是平等的，不会让富人的选票更有价值。同样，我们应该在网络空间中建立**“数字公民权”**（Digital Citizenship: 指公民在数字社会中享有平等的参与权、隐私权、言论自由等权利），让每个公民拥有平等的参与权，而不是让有钱打广告的公司拥有更大的话语权。

作者认为，我们可以进一步追问：我们对网络空间的想象是什么？如果网络空间像一座城市，而这座城市被资本企业占据，没有中立的公共空间，那么城市中的人将完全被某种权力所支配。

在20世纪60年代，纽约市进行城市更新，想要拆除华盛顿广场公园并重建高速公路。当时支持拆迁的人，其论调与今天支持监控资本主义的人如出一辙，声称有高速公路能让驾车更方便！但实际上，这只会让有钱买车的人更方便。于是，当时美国社会活动家简·雅各布斯（Jane Jacobs）站出来写信给纽约市长，反对拆除公园。简·雅各布斯认为，一个城市要成功繁荣，必须创造一个公共空间来容纳不同社会背景的人。公园可以促进不同人群的互动，为城市注入多样性和惊喜。简·雅各布斯为此奋斗了十年，最终保住了纽约的华盛顿广场公园，让新一代纽约人拥有了一个开放交流的公共空间。

同样的原则也适用于今天的数字网络。我们这一代人对网络空间的想象——是让资本公司为所欲为的监控，还是坚持网络空间应是中立、自由交流的——将决定下一代人生活在怎样的网络空间中。

国家监控的隐忧

除了企业监控，近年来国家监控也备受讨论。中国政府在过去几年发展了公共安全大数据系统**“警务云”**（Policing Cloud: 中国政府开发的大数据系统，用于监控公民、识别“异议人士”和“政府追踪者”），可用于监控“异议人士”和“政府追踪者”。此外，还有社会信用评分系统，试图通过计算分数来建立“和谐社会”。

与此同时，美国政府实际上也在做同样的事情。政府与数据提供商合作开发**“预测性警务技术”**（Predictive Police Technology: 利用大数据和算法分析来预测犯罪发生地点和识别潜在犯罪嫌疑人的技术），以识别犯罪嫌疑人。例如，硅谷最赚钱的数据公司Palantir Technologies，就被称为“美国执法机构的宠儿”。因此，美中两国表面上政治体制不同，但在监控民众方面却非常相似。

有些人会说：政府监控可以维护社会秩序和国家安全。但我们可以进一步追问：国家监控真的能让生活更安全吗？例如，在2017年发生的“想哭病毒”（WannaCry: 一种利用Windows系统漏洞进行攻击的勒索病毒，曾导致全球范围内的计算机系统瘫痪）攻击事件中，全球Windows用户受害，黑客正是利用了美国国家安全局（NSA）的漏洞。他们劫持了微软用户的电脑以勒索赎金。事实上，美国国家安全局早在五年前就发现了这个漏洞，但并未通知微软进行修补。

这就是为什么逃离美国的爱德华·斯诺登（Edward Snowden）会说，“隐私”与“安全”的交换实际上是一个虚假的对立。因为信息安全的前提是信息必须有足够的隐私。就像在现实生活中，我们会要求警察持有法院的搜查令才能进入我们的家中搜查。但在数字空间中，我们却允许国家随意使用我们的数据，甚至不需要搜查令，这难道不奇怪吗？所以我们必须反思：为什么在现实世界中我们注重隐私权不受国家侵犯，但在网络世界中我们却允许国家侵犯隐私权？

从隐私到数字自治

在讨论了数字监控之后，作者进一步指出，隐私的概念实际上不足以理解我们当前的数字生活。因为我们不仅仅是被监控和观看，更是被暗中操控着我们在互联网上的行为。我们被迫观看公司希望我们看到的广告，并且被告知这是通过数据分析为我们推荐的最适合的产品。

这就像20世纪阿尔及利亚作为法国殖民地时，阿尔及利亚的黑人只能通过白人压迫者创造的黑人广告来认识自己。但通过压迫你的人来认识自己，本身就是一种非常异化的体验。当时的黑人在广告中被白人描绘成娱乐的笑柄。这与我们当前的数字生活如出一辙，我们只能通过公司制作的广告来认识自己，人类生活的多样性被简化为一种类型：即购买商品的消费者。

但这并不意味着我们要否定数字技术。因为被统治者也可以反过来利用统治者创造的工具。例如，法国殖民阿尔及利亚时，白人殖民者引入广播技术来管理当地黑人。但在反殖民独立战争爆发后，当时的哲学家法农（Fanon）发现，当黑人占领广播电台后，广播成为了比报纸更好的传播渠道，可以将信息传递给不识字的人。

因此，作者认为21世纪的一个主要挑战是，将数字监控的网络空间转变为一个去中心化的自由空间。因为互联网在刚出现时本来就是去中心化的，直到20世纪末数据挖掘产业的出现才被监控公司入侵。所以仅仅拥有隐私是不够的，我们还必须获得**“数字自治”**（Digital Autonomy: 指个人在数字空间中拥有自主控制其数据、行为和体验的权利，不受外部操纵或监控）。换句话说，数字空间可以摆脱广告数据提供商的秘密操纵。

摆脱监控资本主义听起来遥不可及，但事实上，去中心化平台正越来越多地涌现。例如社交媒体平台Diaspora、网络平台Solid、服务器系统Freedom Box，或者开放街道地图OpenStreetMap。OpenStreetMap允许用户共同协作编辑地图，不像私人公司Google Map可以决定地图上显示什么。因此，它实际上对那些想要前往灾区进行救援的组织更有帮助。

另一方面，美国耶鲁大学法学家杰克·巴尔金（Jack Balkin）也指出，我们应该将控制我们资产的科技公司，视为掌握我们个人资源的律师和医生。律师拥有客户的机密信息，医生拥有患者的病历。法律不允许律师或医生利用这些信息来赚钱。即使患者同意医生出售医疗信息，这仍然是非法的。这些规定也应该适用于科技公司。否则我们无法解释，为什么我们不接受律师和医生利用我们的信息赚钱，却能接受科技公司利用我们的数据赚钱？

算法偏见与伦理挑战

2015年，Google的照片应用发布后，自动将黑人男性的面部识别为大猩猩，这促使Google主动立即修正了面部识别算法。如果你在Google上输入黑人男性的名字，网页也更有可能显示与犯罪相关的广告。这让人不禁思考，算法是中立的吗？或者算法是否会复制现实世界中的偏见和不平等？

2016年的一项研究调查指出，硅谷排名前十的科技公司中，没有一家雇佣黑人女性。有三家公司根本没有黑人，六家公司根本没有女性高管，且高管都是白人男性。因此，Google设计的算法和产品，实际上反映了白人美国男性的价值观。例如，“人工智能可能产生意识并统治人类”的科技焦虑，实际上反映的是顶层白人男性的焦虑。因为只有他们每天面对着通过算法监控数据的高科技产品。普通大众则在为下个月的房租和生活费担忧，根本没有时间去担心机器人是否会有意识。

如果设计算法技术产品的人都是富有的白人男性，那么他们设计出来的东西当然不可能具有多样性。反之，如果程序员是黑人或女性，我们使用Google时可能会得到不同的搜索结果。

因此，在2018年，数万名Google员工发起了全球罢工，抗议Google的性别不平等和职场性骚扰。许多工程师开始反思：算法是为谁服务的？因为有时白人男性设计的算法，竟然是为了掠夺底层人民。例如，美国大学的招生部门会利用算法寻找低收入家庭的弱势群体，投放招生广告。因为这些底层人民最渴望阶级翻身和向上流动，所以看到招生广告最有可能上钩。结果，许多穷人通过助学贷款上大学，据统计，超过一半的学生在四个月后就辍学了，不仅没有拿到学位，还背上了贷款。简单来说，富人设计算法，诱骗穷人申请负担不起的助学贷款。

近年来，工程师反对不平等算法的事件也越来越多。例如，2018年，美国移民局希望将项目外包给微软。但美国不允许美墨边境的儿童难民进入美国，于是数百名微软工程师抗议，致信微软，要求微软取消与美国移民局的合同。同年，4000名Google员工也联名签署，拒绝美国军方的委托，要求科技公司不再为军事单位服务。美国计算机协会（ACM）甚至在2018年发布了伦理原则，要求工程师识别老板要求他做的工作，是否可能造成潜在的伤害或滥用，希望用伦理价值观来改造信息技术产业文化。

所以作者指出：算法在测试阶段所寻找的受试者，应该具有足够的代表性，以反映不同的性别、阶级和种族。科技公司也必须提供足够的渠道，让用户报告负面体验。就像我们不会让一辆未经碰撞测试的新车直接上路一样，我们也不应该让未经多样性测试的算法上线。

自由软件运动：数字共享财富的探索

1953年，IBM制造了世界上第一台可以批量生产的电脑。电脑刚开始销售时，软件是免费的，购买硬件就附赠软件。而且用户使用后还可以修改软件，提供反馈。当时最著名的案例是早期的麻省理工学院（MIT）电脑实验室，流行着一种黑客文化，MIT的学生喜欢通过编写程序来解决问题，并且不要求经济回报。历史上最早的电脑游戏**《太空大战》**（Space War: 历史上最早的电脑游戏之一，由麻省理工学院的学生合作编写）就是当时MIT合作编写的。所以电脑产业刚出现时，是硬件制造商与用户社区共同开发软件。

但随着个人电脑销量的增加，当硬件变得更便宜、更容易获取时，IBM在1969年开始将硬件和软件分开销售，独立销售的**“专有软件”**（Proprietary Software: 指受版权保护，其源代码不公开，用户未经授权不得修改、复制或分发的软件）开始出现。原本用户可以获取的开源代码，变成了用户不知道的商业机密。专有软件的出现彻底改变了整个编程圈，编程不再以用户利益为基础，而变成了服务企业利益。

自20世纪70年代以来，开源软件越来越少。1976年，专有软件的坚定拥护者比尔·盖茨（Bill Gates）致信工程师社区，称：硬件要付费，软件却要共享，谁在乎软件工程师是否能拿到报酬？谁会愿意花三年时间编写程序来抓错误，然后免费分享成果？这种行为简直是偷窃！而这一年也是美国开始实施新版权法的时间。

最终在1979年，主流操作系统Unix做出了最后一击，更改了授权协议的内容：禁止用户读取和更改原始代码。软件版权的观念成为行业主流。但很快，工程师社区就出现了争议。美国工程师理查德·斯托曼（Richard Stallman）与朋友共同设计程序，结果他的朋友将共同开发的软件出售给了一家私人公司。他自己编写的程序因此受到版权法限制，无法再改写自己创造的程序。自己创造的产品反过来限制自己使用，这种体验正是马克思所说的**“异化劳动”**（Alienated Labor: 指劳动者在资本主义生产关系中，其劳动产品、劳动过程、自身本质以及与他人之间关系被剥夺和异化的状态）。

原先网络世界的黑客文化，是通过集体协作编写程序来推动科技发展。但资本主义为了企业利润，甚至利用法律禁止工程师获取源代码，从而阻止他们设计出更好的程序。理查德·斯托曼因此愤怒地发起了**“自由软件运动”**（Free Software Movement: 一场旨在确保用户拥有运行、复制、分发、研究、修改和改进软件的自由的社会运动）。自由意味着让软件变得更好，让每个工程师都有自由改写软件的权利。因为集体研发可以为用户创造出更高效、更优质的软件，而不是让软件被私人公司拥有。

于是斯托曼自己创建了一个新系统：GNU（GNU系统: 一个由理查德·斯托曼发起的自由软件操作系统项目，旨在创建一个完全由自由软件组成的操作系统）。他找律师制定了一套自由软件法律，名为**“通用公共许可证”（General Public License Terms, GPL: 一种广泛使用的自由软件许可证，允许用户自由使用、修改和分发软件，但要求任何基于GPL软件的衍生作品也必须以GPL发布）。所有用户都可以自由分享和更改程序的版本。但如果你想拿走GNU中编写的代码，就必须遵守这一条款，将你编写的程序的源代码向公众开放。所以源代码就像一种“数字共享财富”（Digital Shared Wealth: 指在数字领域中，通过开放源代码、共享数据等方式，让知识和资源能够被集体拥有和利用的模式）。资本企业的版权会写“保留所有权利”（All rights reserved），但自由软件的版权是著作传**（Copyleft: 一种版权许可方式，与传统版权“保留所有权利”相反，它允许作品被自由使用、修改和分发，但要求任何衍生作品也必须以相同的自由条款发布），即“反向保留所有权利”。

过去经济学认为人性是自私的。例如，高中公民课常提到**“公地悲剧”**（Tragedy of the Commons: 指当个人理性地追求自身利益时，往往会导致公共资源的枯竭，从而损害集体利益的现象），认为如果草地是公共的，每个人都会带牛去吃草，只顾自己的利益导致过度放牧，最终就没有草地了。最好的解决方案是土地私有化，每个人都会为了自己的利益而爱护土地。这是比尔·盖茨所支持的观点，即私有财产权可以提高经济效率。

但诺贝尔经济学奖得主埃莉诺·奥斯特罗姆（Elinor Ostrom）发现，人类社会实际上会想出创新的方法来集体管理共享资源。资本公司认为，如果源代码开放，人人都能获取，那么就没有人愿意付费，大家只会坐享其成，从而出现“公地悲剧”。但事实上，“自由软件运动”的发展结果却完全相反。因为每个用户都会遇到不同的问题，所以当源代码开放时，每个人都可以报告问题并进行不足之处的修改，这将使程序更加完善。许多业内人士也承认Linux系统性能优于Windows。工程师社区甚至发现了一个规律：阅读源代码的人越多，问题被发现和解决的速度就越快。这被称为**“林纳斯定律”**（Linus' Law: 指在足够多的眼睛下，任何软件缺陷都会变得显而易见，从而被迅速发现和修复）。换句话说，最好的调试方式就是透明和开放。

相比之下，封闭源代码的“专有软件”价格昂贵且效率低下。它常常需要雇佣专家来抓虫，检查程序漏洞是否会被黑客入侵。更危险的是，封闭源代码可能让公司逃避法律责任，做一些伤害社会的事情却未被发现。例如，大众汽车在2015年被查出，在测试汽车排放时使用作弊软件，从而规避环境法规。这些作弊软件是受版权保护的商业机密，所以没有人知道代码内容是什么。

资本主义原本声称是最有效率的经济体系，但软件发展史却告诉我们，资本公司为了利润竞争，宁愿使用效率较低、甚至可能危害社会的封闭源代码，它阻碍了程序员以更具创造性和协作性的方式解决软件问题，也阻碍了信息时代的繁荣。

结语：数字时代的未来选择

在本期节目中，我们介绍了数字时代的五个关键议题：科技公司的网络垄断、国家监控、监控资本主义、不平等的算法以及软件版权争议。作者也针对这些问题提出了各种可能的解决方案：数字公民权、数字自治和数字共享财富。当今科技界有许多律师、工程师和黑客正在实践这些概念。如果你想了解更多数字科技领域的热门议题，我强烈推荐你阅读这本《数字时代的人权思辨》，与我们一同思考，如何将服务少数人的数字技术，转变为促进社会繁荣的力量。