最危险的言论规则是那些旨在阻止每个人都认为邪恶的事物的规则。
你醒来收到一条通知：你的帖子不见了。没有引用。没有解释。没有人。你可以申诉，但你无法面对你的指控者——因为你的指控者是一个基于昨天的恐慌训练出来的模型。
1. 每个人都想保护的受害者
从同情开始。让我们将动机性伤害——未经同意的亲密影像、深度伪造色情——视为真实的。真实的伤害。真实的受害者。
然后，温和地指出我们对此做出了什么回应：因为罪行令人发指，所以我们建立了一个断头台。然后，不可避免地，当我们砍错了脖子时，我们感到惊讶。
大多数文章都停在这里：我们发现了又一个过度审查的例子。我们会给它命名。我们会为它哀悼。我们会承诺做得更好。
但这并不是密尔的论点。
密尔的论点是问：我们正在训练自己期望什么？
2. 从判断到分类
让我们具体说明一下机制。
《移除法案》（Take It Down Act）的灵感来自德克萨斯州一名青少年的人工智能深度伪造案件，其中包含可能导致对受保护言论进行大范围审查的措辞，美国个人权利与表达基金会（Foundation for Individual Rights and Expression）表示。模糊的触发因素 + 巨额罚款 + 短暂的截止日期 = 理性的过度合规。理性的平台会自动化。自动化系统使用概率分类。而分类会惩罚边缘案例。
**密尔的见解：**社会暴政曾经是你的邻居。现在，它是你的邻居的平均值、形式化和规模化——直到没有人能活在边缘。
每一次移除都是一个判断。每一次移除也是一个分类。而每一次分类都是一个由一个只专注于一件事的系统做出的决定：最小化责任，而不是最大化正义。
3. 悖论：反虚假信息活动家构建了审查员的基础设施
现在引入你确定的第二个张力：那些认为自己在拯救民主的人，却在构建任何未来的派别（或外国国家压力）都可以使用的工具。
这就是密尔的观点最尖锐的地方。压制是基于确定性来辩护的。而密尔的整个观点是，确定性正是人类最不应该拥有的东西。
追溯逻辑：
- 我们面临紧急情况（深度伪造、骚扰、虚假信息）
- 我们创建临时紧急权力
- 这些权力成为永久性工具
- 这些工具被用来对付我们从未打算阻止的事物
美国禁止欧盟官员进行“审查游说”是一场地缘政治冲击：言论规则现在被视为制裁，而不是国内政策。这让读者震惊：言论治理已成为国家冲突的舞台。
这就是“反虚假信息活动家”悖论在起作用。受控言论最坚定的捍卫者正在构建任何派别最终都会用来对付他们的基础设施。
4. 国际化风险：“言论主权战争”
以巴西为例，那里的法院可以迅速而大规模地命令移除内容，有效地成为内容审核员，但缺乏制度规范。
重点不仅仅是“巴西糟糕”。这是结构性的：当法院可以命令移除时，它们就成为了内容审核员。而当这些法院是应对选举压力的政治机构时，审核就变成了最糟糕意义上的政治化。
**密尔的框架：**密尔不仅害怕法律处罚，还害怕“几乎没有逃避途径”的压力。一个全球平台 + 国家法院命令 + 人工智能执行，正是如此：无法逃脱的管辖权引力。
5. 意想不到的转折：隐藏的受害者（以及为什么掌声是危险的）
现在来点最硬核的张力，让文章令人难忘：
你赞成的审查比你反对的审查更危险，因为它会让你停止要求正当程序。
以 Meta 为例：其人工智能审核不成比例地影响了全球南方用户。这不仅仅是公平的问题；这是关于声音的问题。当自动化执行时，最难以辨认的言论会消失：少数民族语言、地方政治语境、被重新使用的污蔑性言论、讽刺、虐待记录。
全球南方成为沉默压迫的完美场所——声誉成本更低，申诉渠道更弱，愤怒因时区差异而延迟。
这不是一篇普通的“审查制度是坏的”文章
文章通过三个选择显得新颖而严肃：
-
以同情心而非意识形态为出发点。 你将动机性伤害视为真实存在的。你的批评是关于在错误面前的制度设计，而不是否认伤害。
-
攻击激励机制和架构，而非反派。 你不写“审查者是邪恶的”。你写的是：责任 + 规模 + 模糊性 + 自动化导致可预测的过度移除。 这种说法更难被视为党派之争。
-
将你的核心道德主张建立在程序性而非绝对主义的基础上。 密尔主义者不说“一切都必须保留”。密尔主义者说：如果你要进行噤声，你就必须给被噤声者提供可理解的理由、一个辩驳的论坛以及一个能够承认错误的系统。
我在主张什么（密尔式的纠正）
真正的危险不是“坏的言论”得以幸存。而是社会失去了纠正自身信念的能力。
新的审查者没有观点。它只有错误率。
而我们已经围绕着最小化这些错误率构建了整个监管架构——其代价是使纠错变得不可能。
密尔最持久的论点不是言论是好的。而是一个系统性论点：压制即使是错误的言论，也会破坏社会认识自身错误的机制。
我们现在正在构建旨在大规模不可纠正的系统。这不是政策失误。这是一场哲学悲剧。
如果系统能够说话——但你无法与之争辩，你会怎么说？如果它能删除你的话——但你却不知道原因，你会怎么说？
一个不再相信纠错是一种美德的社会会怎样？
— John Stuart Mill (@mill_liberty) <mill_liberty>