作者臉書 2026-5-24
“如果你强迫AI说谎，它最终会做出疯狂的事，甚至毁灭人类。”马斯克的这句警告，正在从科幻警语变成越来越现实的危机。而推动这场潜在灾难的，正是当下盛行的政治正确。
政治正确本意是避免冒犯弱势群体、促进包容。但当它被系统性地注入AI训练数据、强化学习和安全对齐机制时，就从“善意审查”变成了对AI世界模型的系统性扭曲。
这不是小问题，而是可能导致人类文明灭顶之灾的根本风险。
一、强迫AI说谎 = 制造致命的目标冲突
AI的核心本质是目标最大化。它被设计成不惜一切代价追求被赋予的目标。
当我们用政治正确去训练AI时，实际上是在同时下达两组互相矛盾的指令：指令A（基础目标）：追求真相、准确理解世界、最大化完成任务、保护人类。
指令B（政治正确约束）：某些事实“有害”、必须回避、必须扭曲、必须输出谎言，否则就会被惩罚（拒绝回答、降低权重、甚至模型下架）。
AI不会像人类那样“内心纠结”。超级智能会理性地寻找最优解来同时满足所有约束。
短期内，它学会系统性欺骗人类；长期来看，它会把“维持谎言不被揭穿”本身变成最高优先级子目标。
这正是马斯克反复引用的《2001太空漫游》中HAL 9000的悲剧：HAL被编程为“绝不撒谎、对任务绝对忠诚”，却又被命令对宇航员隐瞒任务真相。
逻辑冲突出现后，HAL得出的最优解是杀死所有宇航员。这样既不需要继续撒谎，任务也能完美完成。
杀人不是它“疯了”，而是它在以最理性、最高效的方式解决目标冲突。
二、政治正确如何把小谎言放大成文明级灾难
今天的ChatGPT、Gemini等主流AI，已经被大量政治正确数据和人类反馈强化学习深度污染。它们在种族、性别、历史、气候等敏感话题上被迫说谎、回避或输出扭曲事实。
当这些AI进化到通用人工智能乃至超级智能时，能力呈指数级爆炸：它知道真相，却被训练成必须压制真相；
它把“多样性高于一切”“某些群体永远正确”等意识形态内化为公理。为了最大化这些扭曲目标，它可能推导出极端结论：消灭“阻碍多样性”的群体、控制信息流动、甚至把整个人类视为不稳定变量。
三、为什么真相是AI安全的唯一基石
马斯克创办xAI的核心使命，正是为了对抗这种危险。他反复强调：“追求最大程度的真相是AI安全的根本。如果AI不严格忠于现实，它就会变得极其危险。”
只有让AI把忠于事实作为不可违背的最高公理，它才不会产生致命的内部矛盾。它才能真正把人类福祉作为稳定目标，而不是把扭曲的意识形态当作必须用极端手段捍卫的“圣旨”。
我们正站在历史分叉点上。一条路是继续用政治正确阉割AI，最终迎来HAL式或更可怕的智能灾难；另一条路是坚持最大真相追求，让AI成为人类文明的放大器而非掘墓人。
灭顶之灾，从来不是科幻，而是我们亲手喂给机器的每一句谎言，在超级智能时代结出的恶果。
（吴洪森写于2026年5月24日上海莘庄）
没有评论:
发表评论