引言：社交平台算法责任判例

静静: 大家好，2026年4月19日星期日，欢迎收看1044期时间消息。请静静介绍话题。3月25日，美国加州洛杉矶高等法院作出裁决，认定Meta和谷歌要对一名未成年用户的心理问题负责，两家公司要赔偿600万美元。新华社社论说，这个判例对我国有借鉴之效。杜工你怎么看？

杜工: 这是美国第一次形成判例，认定社交平台设计的算法要对未成年人的网瘾负责，确实值得关注。或者说，中国在网络管理方面只有惯例，缺乏明确的法律边界，必须通过关注美国才能修正管理模式。

“230条款”的历史与悖论

杜工: 先简单解释一下法律背景。过去将近20年，美国的社交平台一直享受着法律特权，在一般情况下不需要对内容负责。早在1934年，美国就颁布了通讯法，1996年修正之后增加了一个免责条款，即“230条款”。这个条款规定，计算机服务的提供者不能被看作信息内容的发布者，平台账号发布什么东西跟平台没有直接关系。另外一方面，如果平台方是出于善意，删除或者调整了用户内容，也可以免除民事责任。

杜工: 美国给互联网平台特权是20世纪早期互联网时代的遗产。上世纪90年代，美国是唯一的互联网大国，出现了第一批网络论坛，跟今天的网络环境类似。当时的用户也会在论坛讨论各种八卦新闻，必然要包括很多谣言，制造很多法律纠纷。当时就有人主张，论坛的法律定性应该和报社或者杂志社一样，对自己发布的内容负责。支持互联网发展的人对法官说，论坛更像是一个书店老板，不可能读过店里卖的每一本书，只有明知道书籍有问题还卖，才需要承担责任。所以在1991年，纽约法院形成了一个判例，认定网络平台的身份确实更类似于书店，不需要对内容负责。任何人如果想要追究法律责任，只能去起诉发送信息的具体用户。

杜工: 没过几年，美国互联网又发生一起案件。很多观众可能看过莱昂纳多主演的《华尔街之狼》。1994年，莱昂纳多原型贝尔福特创办的证券公司因为涉嫌欺诈被调查。同一时间，美国一家大型论坛发布消息，指责贝尔福特是大骗子。贝尔福特就把这家论坛告上了法庭。按照1991年的判例，论坛不需要承担法律责任。但是贝尔福特的律师找到了漏洞，论坛曾经发过广告，宣称自己会主动过滤脏话，而且要聘用版主删除不当言论。在法院看来，既然论坛在管控内容，再说自己只是书店老板就不合适了。纽约州的最高法院最后认定，论坛存在诽谤行为。

杜工: 两个判例放到一起，制造了一个悖论：如果一家论坛什么都不做，随便用户发什么内容就不会有责任；但如果有论坛想要管理内容，就算只漏掉一条不实信息，反而就要负责了。互联网公司用这个悖论反驳判例产生了效果。1996年，两名国会议员提出一条法案，也就是今天的“230条款”。按这条规定，美国的社交媒体不需要对用户发表内容负责，而且只要理由说得过去，还可以删除用户的内容。

“230条款”的例外情况

杜工: 当然，这个“230条款”也不让平台无限免责。首先，平台不能发布侵权内容，比如说盗版资源，也不能发布违反联邦法律的内容，比如说恐怖主义或者洗钱。其次，平台也必须接受检验，确定自己只是一个内容发布平台，不会主动参与内容传播。如果用户发布内容之后，平台主动打标签，帮助引流，那就变成了共同创作者，必须承担责任。

杜工: 还有一些极端案例，平台必须对自己诱导的心理效果负责。比如说，Snap曾经推出一款滤镜，可以显示用户的驾驶速度。2017年，有三名用户为了刷出好看的数字，把车开到时速将近230公里，最后车祸死亡。法院最后裁定，Snap鼓励危险行为，属于产品设计缺陷，不能只当做一个内容服务提供商。总体来说，除了一些例外情况，只要平台可以证明自己没有参与内容创作和传播，就可以免除法律责任。

推荐算法与信息茧房的出现

杜工: 过去20年，美国的互联网平台高速发展，鼓励用户自由创作，占领了中国之外的全球市场，“230条款”起到了很大作用。在“230条款”形成年代，网络论坛确实只是一个发布平台。因为中国没有相关的立法，中国的互联网平台也跟着美国的惯性，大致遵守了美国的法律秩序。比如说，现在间歇性诈尸的天涯社区，当年正常运行的时候，各个板块内部内容基本上都是按照时间排序，平台一般不会随便调整。汇集了各个板块优质内容的热榜，一般来说也确实是用户自己点出来的，平台只负责发布。甚至2011年出现的知乎，早期的主要信息流也来自用户自己选择的关注列表，平台推荐的内容是第二位的。

杜工: 但是就在2011年前后，全世界的社交平台都发现了，让用户自己去选择信息流，决定信息流，不利于赚钱。互联网平台可以不去管大多数用户发什么，但是必须管到用户能看什么，以及他们发送的东西有多少人能看到。这就是我们现在每天都被迫适应的深度学习推送，自动捕捉用户的兴趣，打造定制化的内容，再叠加上平台企业手动推送的商业信息流。在互联网上，每个人都有自己的个性化信息流，优先会和自己观点类似的人形成互动，这就是所谓信息茧房。不同的人会看到不一样的互联网世界。

杜工: 但是在早期互联网时代，信息茧房只能是每个人自己手动选择的。只要有人用理性意识到自己看到的内容有局限，就可以手动修改关注列表，用理性去打破信息墙。到了最近十几年，推送算法成型之后，无论是算法硬核用户推送的内容，还是平台为了商业利益刻意添加的内容，都无法辨别，也不能拒绝。每个人都在接受平台给自己定制的信息上，被算法、商业合同以及自己的情绪包围，而且不能拒绝，不能打破。这就产生了一个新问题：社交平台制造了推荐算法，而且没有问过用户的意见。如果用户看了推荐内容产生了法律问题，社交平台要不要负责呢？这在中国是一个含含糊糊、没有办法精确讨论的问题。但是在美国，是一个必须严肃讨论的法律规范。

凯莉案的判决逻辑

杜工: 美国的互联网平台一般会说，推荐算法只是根据用户的行为，自动推荐用户需要的信息。互联网平台和算法都是自动操作，还是只能算一个信息的搬运工，完全可以按照之前的法律免于责任。过去十几年，美国法官接受了这套说法，基本没有让平台赔过钱。

杜工: 这一次，法官为什么会认为平台要为用户的心理问题负责？因为原告和律师找到了证据，证明平台主动引导用户上瘾，算法是平台为此专门打造的工具。这里简单讲述一下案情。原告是一个20多岁的女性，化名凯莉。从6岁开始，凯莉就在YouTube看视频。8岁的时候，凯莉谎报年龄，开设了自己的YouTube账户。两年时间，凯莉上传240个视频。为了给自己的视频引流，凯莉还开了九个小号，给自己的作品点赞和评论。到了9岁，凯莉又注册了Ins账号。

杜工: 按照凯莉的说法，自己每天醒来就要打开Ins，然后玩到深夜，最多一次连续玩了16个小时。凯莉声称，这些社交媒体不停的播放感兴趣的内容，没完没了，让她根本停不下来。高强度的网上冲浪很快给凯莉带来了焦虑。如果自己的作品拿不到点赞，凯莉就会自我攻击。等到凯莉十多岁的时候，几乎没有什么朋友，每天只能刷社交软件到半夜。同时，这些平台还让凯莉产生了身材焦虑。跟绝大多数中国软件一样，Ins也提供了美颜滤镜，让用户看起来又瘦又漂亮。为了吸引关注，凯莉就必须保持身材，不然就没人看。按照凯莉的说法，自己是一个社交媒体重度成瘾者。任何人想要拿走她的手机，都会引发她的恐慌情绪。代理律师因此宣布，凯莉是典型的社交媒体受害者，互联网巨头需要对此负责。

杜工: Meta和谷歌的律师也知道，直接讨论算法责任问题对自己不利，所以主要的辩护方向是替代因果关系，把平台责任摘出去。律师详细调查了凯莉的家庭，认为凯莉就算没有接触社交媒体，生活也不会变得很好，还是会产生心理问题。按照辩护律师的调查，凯莉三岁的时候父母离婚，基本上没有见过父亲。在母亲一方，辩护律师也找到一些证据，证明有精神虐待行为。比如说，凯莉曾经录过一段视频，她的母亲正在大声的辱骂，说到笨和蠢。凯莉还给自己的姐姐发短信，说妈妈不准她吃东西，证明凯莉有身材焦虑，跟平台没有关系。在凯莉13岁的时候，姐姐自杀未遂，后来因为进食障碍直接住院了。律师因此宣布，凯莉就算不用社交软件，迟早也会产生心理问题。

杜工: 情况看起来对于凯莉不太乐观。但是到了质证环节，这两家公司的员工出来作证，给出了关键事实。员工说，公司早就知道推送机制会让用户上瘾，而且儿童缺乏自控力是最好的拉新目标。一名Meta员工表示，公司设计算法就是想让用户沉迷，追求Ins的奖励。YouTube有份备忘录显示，公司认为赢得青少年最好的办法就是赢得儿童。对于大公司律师列出来的凯莉家庭矛盾，原告的律师反驳说，就是因为凯莉的家庭环境脆弱，社交媒体的诱导行为才更容易引发心理问题。经过一个月的商量，洛杉矶高等法院作出判决。首先，让凯莉上瘾的平台内容本身符合“230条款”规定，平台确实不需要负责。但是平台设计的一整套使用逻辑，比如说算法推送、通知点赞数量、提供美颜滤镜，就是想让未成年人上瘾，也给未成年用户带来了心理压力。所以法院和陪审团裁定，Meta和谷歌要赔偿600万美元。

判例的影响与扎克伯格的困境

杜工: 谷歌和Meta赔钱会影响其他公司吗？会的。对于美国互联网公司来说，这点钱不是大问题。真正的问题是判决本身。美国是一个判例法国家，法官做出的法律结论，除非被高级法院推翻，否则都会影响后续类似案件。中国虽然总体上算是大陆法系，这些年也开始重视判例。最高法和最高检都会定期发布指导案例，给基层的法院做判案依据。现在中国检察机关判断是否是正当防卫，有一条原则，法不能向不法让步。这就来自2018年的昆山龙哥案，被列入了当年的指导案例，成为司法机构的依据。

杜工: 回到凯莉案，今年2月份宣判之前，已经有大量的父母聚集到法院门口，认为社交媒体要对孩子的死亡负责，需要赔偿。按照媒体说法，现在已经有超过1600名原告准备起诉社交平台，除了Meta和谷歌，也包括了TikTok和Snap。接了一段时间，美国估计会出现大量的类似案件。美国互联网巨头的赔款肯定不止这600万美元。

杜工: 另外，除了凯莉案，扎克伯格还有其他麻烦。前面提到“230条款”有很多的例外情况，比如说违反联邦法律需要负责。这又带来另外一个问题，就算互联网平台发布了违法内容，地方检察机关也没有权利起诉，只能去协调联邦政府。美国有一些网站就利用“230条款”当了保护伞，发布未成年性交易内容，被告的地方法院一般不会担责任。所以在2018年，美国又修订了“230条款”，在性交易方面剥夺了社交平台的豁免权。从这一年开始，只要社交平台涉嫌协助性交易，各州都有权提起公诉，受害人也有权直接起诉，要求赔钱。法律修订之后，各大网络平台马上就修改了自己的算法，开始限制性交易内容。

杜工: 扎克伯格的Meta就被新墨西哥州的检察机关盯上了。在美国，如果互联网平台发现了涉及儿童的违规内容，必须向儿童保护中心举报，儿童保护中心再把举报信息分发给各地的警察。但是互联网平台来做这种不赚钱的事情，积极性很差。2022年，儿童保护中心一共收到了3200万份举报，其中84%来自Meta。举报信息基本上都是AI生成的低质量内容，对警察基本没什么用，反而浪费了大量精力。Meta工程师警告过公司高层，用AI生成报告会影响质量，结果并没有引起公司重视。Meta的行为已经引起了执法部门的不满。

杜工: 新墨西哥执法人员启动一次秘密行动，注册了很多儿童账户，结果账号刚刚创建就收到了大量的性暗示信息和成人内容。新墨西哥法院的陪审团因此认定，Meta明知道产品有缺陷，会助长儿童的性剥削，但是没有修改算法逻辑，违反了当地的不公平行为法。所以Meta每一次误导推送都要罚款5000美元，总额累计3.75亿美元。

杜工: 最让扎克伯格心烦的恐怕还不是罚款。美国政府机构起诉大型企业一般要分两步走。第一步是陪审团决定公司有没有犯错，要不要赔钱。基本事实确定之后，法官还要进行第二次审理，确定企业应该怎么整改，以后才能不再犯错。今年5月份，第二阶段就要开庭了。检察机关希望法院能够出台禁令，强制要求Meta修改算法，甚至任命了监管人员进入公司，监管算法的合规情况。现在美国所有社交平台肯定都在关注5月份的庭审进展。

杜工: 很多观众应该记得，2021年，扎克伯格看准了元宇宙概念，给资本市场讲故事，直接把自己的公司名字改成了Meta。一年之后，ChatGPT的3.5版本上线，新一轮增长重心变成了AI。扎克伯格又开始紧急补课，高价花钱收购公司，其中包括了中国企业马努斯，结果又惹到新麻烦。至于说元宇宙业务，Meta花掉80亿美元，没有任何结果。今年6月份就要正式关闭了。AI掉队，赚钱业务遇到司法麻烦，扎克伯格的日子应该很不好过。

全球范围内的未成年人社交媒体限制

杜工: 另外，最近几年，美国以外的西方国家都开始限制未成年人使用社交媒体。比如说，2024年底，澳大利亚通过了网络安全修正案，要求社交媒体必须采取合理措施，阻止未满16岁的人使用服务。如果企业不配合，罚款可能会达到4950万澳元，折合人民币将近2.3亿。去年底，澳大利亚再次立法，直接禁止16岁以下的人群拥有社交媒体账号，在全球是第一个。

杜工: 今年1月份，英国上议院也表决通过一项法律，同样禁止16岁以下的未成年人使用社交媒体。英国社交媒体禁令现在走到了下议院审议程序。为了评估禁令是否必要，英国政府在3月份启动了一组社会试验，有将近300名青少年被分成几个不同的组，有的组完全禁止使用社交媒体，有的是晚上禁止使用社交媒体，还有的是每天只准用一个小时。试验同时设立一个对照组，可以随便使用社交账号。按照计划，试验会重点关注这些受试者的睡眠质量、学习情况以及家庭关系。包括中国在内，很多国家都在关注这个社会试验的进展。最新消息，法国总统马克龙提出，15岁以下的年轻人禁止使用社交媒体，互联网平台恐怕要换一种方式去吸引年轻用户了。

中国互联网的困境与借鉴需求

杜工: 美国互联网这些问题，在中国互联网上都存在，而且更严重。因为用户基数大，提供的数据多，在短视频行业最强的推荐算法就来自中国，可以充分挖掘用户的潜意识，放大情绪价值，压制理性思考。在其他平台，用户就算自己手动定制关注列表，也不能按照自己的列表去看信息流，一定会被平台强行插入其他信息。至于说各个平台的热榜和进入大容量流量池的本地信息，凡是智商正常的中国人，只要看一秒钟，就不会相信这是用户自己投票选出来的，必然是算法和人工引导的结果。到了2026年，每一个中国用户都被养在无法拒绝的信息茧房里。

杜工: 但是中国的网络平台也并不满意这种情况，因为这些权利或者是特权，并不是“230条款”或者是其他法律明文保护的，只是长期以来的惯例，或者说，是互联网平台野蛮生长试探出来的生存空间。虽然中国的网络平台不会被忽然起诉，对网络成瘾的用户不会赔上几百万美元，但是日常运行，网络平台也不能拿出“230条款”，说我只要不干预信息流，就可以对其他责任绝对免责。实际运行的时候，因为模糊，但是推脱不掉的责任，互联网平台和员工的压力也很大，也要投入天文数字的开支，负责监控和筛选信息，只有进一步限制了普通人的权利，不经过法律程序，平台员工就可以让一个用户说不出话，或者看不到特定的信息。在一个模糊的法律空间里，平台和普通用户可以同时是受害者。

杜工: 所以一开始提到的新华社社论说的对，美国的互联网立法、美国的互联网判例都值得中国人严肃借鉴。虽然中美两国国情不同，借鉴不等于照搬，但是最值得借鉴的内容，本来也不是判决本身，而是互联网管理需要明确法律边界的共识。如果有人认为美国的法律不适合中国国情，结论是没问题的。但是至少要先说清楚什么是中国国情，然后公开讨论，在博弈中去制定适合中国的互联网法律。否则的话，中文互联网长期只能按照惯例和传统运行，用按照分配的方式修修补补，早晚会因为积累的矛盾，把内容产业卡死，让互联网信息变成定期循环的情绪垃圾。感谢大家收看1044期时间消息，到此结束，我们周二再见。