真正的智能不应沦为制度暴力的免责工具：拆解《极限审判》中的技术矮化与权力傲慢

1. 引言

《极限审判》（Mercy）构建了一种高度程序化的司法想象：在 2029 年的洛杉矶，立法者启用中央宽恕法庭（Mercy），被告面对 AI 法官 Maddox，其有罪概率被即时量化。98% 即被认定有罪，被告必须在 90 分钟内将其压至 92% 以下，否则死刑立即执行。

这套设定试图将法治语言替换为工程语言，再将工程语言伪装成道德语言。作为一名日常面对数据分析和算法模型的科研工作者，我看到的不仅是程序正义的消失，更是对人工智能（AI）极具误导性的刻意矮化。影片意图刻画 AI 的残酷，却无意中暴露出更可怕的风险：程序正义的消失并不需要真正的 AI，只需要一个足够明确的统计数字，和一群愿意借它杀人的人。

2. 作为“新话”的 Mercy：被语言包裹的权力傲慢

乔治·奥威尔在《1984》中提出“新话”（Newspeak），其核心逻辑在于：通过缩减词汇量和改变词义，从根源上限制人类思考复杂问题的能力。

电影将审判系统命名为“Mercy”，构成了典型的奥威尔式“双重思想”。它向大众暗示：死刑判决不再是一种惩罚，而是一种效率极高的恩赐。当法治语义被技术话语置换，这种剥离厚度的过程，完成了从“正义追求”到“参数校准”的降维：

• “仁慈”置换了“处决”：90 分钟的倒计时被包装成机会，实则是将死刑设定为系统的默认输出。
• “概率”置换了“合理怀疑”：法律不再关注事实真相，转而关注数字阈值。证明清白被简化为将有罪概率从 98% 压低至 92% 以下的算力博弈，审判由此退化成了模型调参。
• “校准”置换了“辩护”：被告不再是权利主体，而变成了误差条里的被动幸存者。

这种语言重构为暴力披上了科学的外衣，使执法者产生了一种技术性的心理脱罪感：他们不再认为自己是剥夺生命的执行者，而仅仅是数据链路的末端插件。在这种主体性被技术彻底消解的阴影下，审判的本质从一种对人的理解退化为一种对风险的清理：一旦法律放弃了对绝对公正的追索，转而追求这种基于效率的生命施舍，法治精神便在语言异化的那一刻彻底消亡了。

3. 技术驳论：2029 年的 AI 为何如此降智？

电影里的 Mercy 并非真正的智能，而是一个功能残缺的数据库检索器。

3.1 消失的社会演化：被跳过的算法渐近线

任何算法的落地都有一条渐进的信任曲线。但 Mercy 系统的出现是跃迁式的，这在社会学逻辑上极其摇摇欲坠。

在现实中，AI 审判最理想的切入点应是金融反洗钱、税务稽查或交通理赔等等。在这些领域，数据的逻辑链条是闭环的，证据是结构化的，因果关系相对明确。社会对 AI 的信任，理应建立在它能精准识别异常交易图谱、能从海量税务数据中定位避税漏隙的基础之上，这里的每一步都需要海量的边界案例来修正。

然而，电影直接跳过了这些社会基础层的磨合，快进到了最复杂的、涉及非结构化人性博弈的生命终结层。大众似乎在毫无心理过渡的情况下，就接受了一个能跳过事实推演直接进行生死裁决的怪物。如果一个系统敢于直接决定生死，却又无法通过跨模态分析锁定一个人的真实意图，反而卡在“寻找照片缺失的另一半”这种低级特征识别上，这不仅是 AI 被矮化，更是对整个时代技术储备的无视。

好的科幻作品应当展示技术如何一步步侵蚀并重塑社会边界，而不仅仅是展示一个终极的、突兀的恐怖结果。 电影为了追求极致的戏剧冲突，放弃了最宝贵的社会推演价值，让 Mercy 变成了一个悬浮在 2029 年上空的、缺乏合法性逻辑的数字利维坦。

3.2 “今天杀人，明天就得死”：速度学凌驾于侦查学

电影宣传片中，男主扮演者 Chris 描述这套系统“今天杀人，明天就得死”，本质是把司法变成即时反馈系统。

在物理世界，侦查是一个关于信息的减熵过程，而减熵需要物理做功和时间（DNA 测序、跨部门监控调取、物理痕迹的实验室分析等）。

法律之所以讲究控制嫌疑人而非立即处决，是因为每一个嫌疑人都是一个关键的信息节点。一个人的被捕，往往是阻止下一场连锁犯罪、拆解整个犯罪链路的抓手。如果 2029 年的 AI 真的足够智能，它在计算有罪概率的同时，理应计算出该生命体存活的信息价值。但在电影里，算法在信息严重缺失的情况下急于在 90 分钟内执行死刑，这是系统性的数据截断。

把它硬压成 90 分钟，只会得到两种结果：

1. 系统其实早就知道答案，90 分钟只是表演；
2. 系统根本不在乎真相，90 分钟只是处决流程的一部分。

那么 Mercy 系统只是政府统治的遮羞布，它所掩盖的是：倒计时不是为真相设计的，是为处决设计的。

3.3 数字暴政：当司法阈值脱离不确定性约束

在严谨的推断系统中，数字不应是孤立的终点，而应是带有置信边界的度量。

如果 Mercy 给出 P(guilty)= 97.5%，真正需要被追问的，不只是这个数字本身，而是它背后的三个层级的问题：

• 制度层：社会如何处理不确定性？ 当置信度不足以支撑司法阈值时，系统的默认决策规则是什么？ 是坚持“存疑从无”，还是转向“风险优先处置”？ 任何概率阈值的设定，本质上都是一个社会价值选择，而不是纯技术问题。
• 模型层：算法如何产生和放大不确定性？ 模型在强相关但非因果的场景中，是否会系统性高估风险？ 当数据缺失或分布偏移时，模型统计上更容易误判哪一类人群？ 更关键的是，AI 并不是在真空中训练的。如果历史执法本身对某些群体存在结构性偏向，算法往往不会中和这种偏差，反而会在数据反馈循环中不断放大它。现实研究已经多次指出，基于历史犯罪数据训练的系统可能继承并强化既有歧视性执法模式。甚至在一些风险评估工具中，算法会对不同群体产生系统性高风险标记，即使表面上不使用种族、职业等敏感变量，偏差仍然会通过数据结构被间接编码进去。换句话说，算法可能不仅不会消除偏见，反而可能让偏见获得科学外观。
• 工程层：阈值是否真的代表不可逆裁决？ 电影中，男主在自证过程中的有罪概率一度升至 98%，已达判定阈值，却仍保有后续自证空间。 如果阈值真的代表法律边界，那么触线就应该触发状态机式的不可逆转；如果触线不触发，那么阈值本身就只是一个叙事道具，而不是法律机制。

电影没有回答这些问题，于是有罪判定的概率阈值的唯一功能就变成让观众相信：科学已经替我们完成了道德判断。而这，正是数字暴政最危险的形态：当不确定性被隐藏在概率背后，社会就会误以为自己正在执行理性，而不是在执行选择。

4. 程序正义的坍塌：当 AI 沦为权力的扩音器

4.1 “论迹不论心”：法律的底线，AI 时代的诱惑

现代法治原则是“论迹不论心”，也就是看行为证据，而非惩罚可能犯罪的人。法治传统强调“迹”（可举证、可对质、可复核的行为与证据），风险治理天然追求“心”（意图预测、行为倾向、未来概率）。AI 的强项恰恰是把“心”包装成“迹”：它不说“我读心”，它说“我在高维特征空间里发现你像坏人”。于是社会会被诱惑：既然能预测，为什么不提前处置？但一旦把“可能会犯罪”当作“已经犯罪”，就把人改造成了风险容器。在那个世界里，清白不是一种权利，而是一种需要不断被证明的状态。一旦允许惩罚意图，权力将拥有无限伸展的理由。

4.2 执行失控：当执法权高于算法裁决

如果 AI 真的负责裁决，那么执行端要么被更严格自动化，要么被更严格约束，但电影里，警察仍拥有近乎私刑的裁量权。

女警 Jaq 急于射杀 Rob 的行为指向一种更现实的邪恶：为了证明系统有效，有人会主动制造有效。当处决效率变成 KPI，AI 就成了罪责转移的工具：

• 冤枉变得可解释：不是被某人冤枉，是被数据冤枉。
• 暴力变得可规模化：程序化的处决不需要恨，只需要流程。

电影将 Mercy 设计为集“法官+陪审团+行刑者”于一体的系统，这在结构上意味着司法权力被高度压缩与集中。但真正执行裁决的，从来不是系统本身，而是系统之外的制度与人。

4.3 结果神话：如果 AI 永远正确，那它就是多余的

女警 Jaq 作为 Mercy 系统的推行者，她在现场表现出的强烈射杀冲动，本身就构成了一种制度层面的自我否定。

如果 AI 的每次结果都只是维持初判，那这套系统的先进性根本无法体现。相反，如果 AI 能在 90 分钟内推翻原始判断，证明嫌疑人无罪，才真正证明了 AI 的价值及其存在必要性。

5. 为“直觉”正名：被矮化的不只是 AI

电影将“人类直觉”与“机器概率”对立，这不仅是对 AI 的蔑视，也是对人类大脑的误解。

人的直觉不是玄学，它本质上是大脑在并行处理大量非结构化数据后，给出的瞬时、非线性判断。在贝叶斯推断中，这可以理解为一种极强的先验分布引导。

一个真正成熟的 2029 年司法 AI，理应具备比人脑更敏锐的“机器直觉”：它不仅能给出概率，还能输出证据权重图，并进行反事实模拟。电影却把 AI 降级成了简单的逻辑门，以此衬托人类直觉的伟大，这种二元对立是苍白无力的。

6. 隐私与“无罪访问权”：这套系统自带情报套利空间

电影设定被告可调用所有云端资源自证，但这里存在着巨大的安全性漏洞：

• 隐私泄露的不可逆性：若被告最终无罪释放，他在过程中接触到的全城监控、他人隐私数据、政府加密信息该如何处理？无辜者被迫成为了合法的窥视者。
• 情报套利风险：如果有人故意伪造犯罪线索进入系统，只为获得 90 分钟上帝视角的云端访问权，为自己或所属组织谋取核心机密，再在最后时刻抛出预留的无罪证据全身而退，那么这套系统本质上是一个巨大的公共安全后门。而一旦出现这种“以受审为名，行情报之实”的侧信道攻击行为，社会会发生什么？Mercy 会更严格？更严格意味着更极权，不严格意味着更“黑市”。电影几乎没碰这个议题，但它却是 AI 治理的现实问题：数据越集中，权力越像一个引力奇点，信息会往那里塌陷，滥用也会。

7. 结语：谁在害怕真正的 AI？

《极限审判》反映的不是 AI 时代的恐怖，而是掌握技术解释权的权力的恐怖。电影想拍 AI 的恐怖，却拍成了人类制度的粗暴。

电影矮化了 AI，将其塑造成一个逻辑混乱、功能残缺的杀人工具，以此衬托人类直觉的伟大，同时也掩盖了原本应由人类承担的责任。可真正不可控、也最不客观的，往往不是算法本身，而是那些躲在算法背后、借算法之名行使权力的人。

如果社会最终接受概率即正义，那么法律将不再用于规范行为，而只用于管理风险。而当文明制度开始从“规范行为”转向“管理风险”，社会实际上已经默认：个体不再是权利主体，而是风险载体。如果法律开始惩罚概率，那么无罪将不再是一种状态，而是一种需要不断被证明的能力。

可惜电影避开了所有深刻的追问，只留下一个刺激的 90 分钟倒计时游戏。

我想我必须为 AI 喊冤：不要用这种粗糙的科幻想象去定义我们的未来，也不要让 AI 替人类的权力傲慢背锅。我相信真正的智能不会沦为平庸之恶的挡箭牌。

但即便如此，我依然很推荐去看这部电影。

如果一部电影能让观众开始讨论技术、权力与正义之间的关系，那么它至少完成了科幻最重要的一件事：把未来的问题，提前带进现实。