AI暗箱操作
银行拒绝了你的贷款申请。
你打电话去问为什么。客服沉默了三秒，说了一句让你血压飙升的话——
「系统判的。算法就是这么算的。」
你问：它凭什么？客服说：我也想知道。
挂掉电话，你盯着天花板。一个你从未见过、从未理解、也从未同意过的系统，刚刚替你的人生做了决定。
而它甚至懒得给你一个理由。
这不是科幻。这是 2026 年每天都在发生的事。
算法的审判，没有辩护席¶
保险公司用 AI 给你的健康打分。招聘平台用 AI 筛你的简历。法院用 AI 评估你放出来之后会不会再犯事。银行用 AI 判断你值不值得被信任。
所有决定，没有解释。没有上诉。没有人类参与。
你不是第一个问「凭什么」的人。
荷兰税务部门用 AI 检测育儿补贴欺诈。算法判定两万六千多个家庭骗了政府的钱。追缴、罚款、破产、妻离子散。几年后政府发现——算法是错的。荷兰内阁为此垮台。
一个黑箱，干翻了一个国家的政府。
亚马逊 2018 年砍掉了一套 AI 招聘工具。它从历史简历数据里「悟」出了一个规律：简历里出现「女子」二字，扣分。不是程序员写的歧视代码。是算法自己学的。
它没学过性别歧视。它只是看懂了这个世界是怎么歧视的。
你的命运，被一堆数字锁住了¶
现代 AI——尤其是深度神经网络——本质上是一个无法解释的数学幽灵。
它不是一行行的 if-else。它是几万亿个参数组成的概率机器。你输入「这个人能不能贷五十万」，它输出「不能」。
中间的运算过程，连设计它的工程师都解释不了。
这不是夸张。OpenAI 的研究员自己承认：GPT 级别的大模型做推理时，没人能精确地说出它是怎么从 A 到 B 的。几万亿次矩阵乘法之后，答案就出来了。为什么是这个答案？不知道。
AI 圈有个著名的黑色笑话：「我们的模型准确率 97%。剩下 3% 在干什么，没人知道。」
97% 很厉害。直到你变成那 3% 里的一个名字。直到你的人生被一封你永远无法反驳的判决书钉死。
万亿决策，交给瞎子¶
摩根大通用 AI 批贷款。沃尔玛用 AI 排班。联合健康用 AI 拒绝医疗赔付。
全是万亿级的决定。全交给一群不可解释的数学函数。
问这些公司的高管：「你们的 AI 有偏见吗？」
答：「我们高度重视公平性与透明度。」
再问：「所以模型具体是怎么做决策的？」
答：「……下一个问题。」
这不是阴谋。这是生意。
用五百个 HR 筛简历，太贵。用一个 API 筛简历，几乎免费。至于那些被错误拒绝的人——谁在乎。他们连投诉的入口都找不到。
高盛出了一份报告，预测全球将有 3 亿个工作岗位被 AI 影响。但没人算过，有多少人会被 AI「错误地」影响——不是被替代，而是被误判。
误判之后，没有道歉。没有赔偿。只有一句「算法就是这么算的」。
「可解释 AI」是个昂贵的大饼¶
科技行业有个铁律：任何问题都能用新技术解决，只要你不问这个技术怎么解决「人」的问题。
「可解释 AI」应运而生。承诺很美好：让 AI 摊开它的脑回路，告诉你它为什么选你——或者为什么拒你。
十年过去了。XAI 仍然是一群博士在顶会上自嗨的学术概念。
真实世界里的 AI 系统，99% 没有任何可解释性设计。不是做不到。是做出来太贵、太慢、太拖性能。
一个 AI 初创公司的 CTO 私下跟我说：「客户只要结果。准确率 95% 就够了。剩下 5% 的人怎么样——没人问，我们就不说。」
问题是，那 5% 是人。
有血有肉、有账单要付、有孩子要养的人。
谁替你签了那个字¶
回到那个最根本的问题：当 AI 替你做了决定，谁负责？
荷兰育儿补贴案里，没人坐牢。系统错了，政府赔了，内阁改组了，但写那个算法的人、部署那个算法的人、批准那个算法的人——全没事。
联合健康的 AI 每年拒绝百万索赔。每个被拒的人收到的回复都一样：「经评估，该治疗并非医疗必需。」
谁评估的？AI。凭什么？无可奉告。
这不是技术问题。这是权力问题。
一个系统可以决定你的贷款、你的工作、你的医疗、你的自由。你永远不能问它为什么。那你面对的不是工具。你面对的是法官——没有法庭、没有律师、没有上诉权的法官。
而最可怕的是：每个人都知道这事不对劲。
企业知道。政府知道。工程师知道。
但 AI 在帮企业省钱。AI 在帮政府省事。AI 在帮工程师拿工资。所有人都有理由闭嘴。
只有那些在深夜盯着天花板的人，才会问一句：
凭什么？
而 AI 的回答，从来都是沉默。
你的数据，你的命。 下次有人跟你说「这是系统判的」，别认。追问。追到有人给你一个答案为止。因为算法不会替你负责——只有人会。