人工智能独裁者

 2026-10-3  Jinhuasan的博客

这是《外交事务》杂志日前刊发多伦多大学两位教授的评论。塞瓦·古尼茨基（Seva Gunitsky）是多伦多大学政治学副教授、乔治·伊格纳季耶夫和平与冲突研究讲席教授。布鲁斯·施奈尔（Bruce Schneier）布鲁斯·施奈尔是多伦多大学蒙克全球事务与公共政策学院教授。他们的评论旨在探讨－－“技术如何赋予独裁者权力——又如何使他们陷入危险”：

2022年3月，莫斯科全面入侵乌克兰两周后，俄罗斯第一频道的编辑玛丽娜·奥夫相尼科娃（Marina Ovsyannikova）突然闯入晚间新闻播报现场。她在新闻主播身后举起一块手写标语牌，上面写着：“停止战争。不要相信宣传。他们在欺骗你们！”她不断高喊“不要战争！”，直到被人拖离现场。

此后，再也没有人在俄罗斯电视节目中抗议这场战争，部分原因是安全措施更加严格，以及普遍存在的恐惧气氛。但是，2024年10月，俄罗斯主要宣传人物之一玛格丽塔·西蒙尼扬（Margarita Simonyan）提出了另一种解释。她在接受采访时解释说，今日俄罗斯电视网越来越多的新闻主播并不是真人。“那张脸根本不存在。我们生成了声音和其他一切。”她的意思是，这些主播都是由人工智能制作出来的。在随后接受《新闻报》采访时，她进一步阐明了其中的逻辑：“这些主播不需要薪水，也不需要保险，”她说。“他们不会被逮捕，警察也不会搜查他们的住所。这一切既美妙又可怕。”

这正是人工智能向每一位威权统治者许下的承诺：无需将任务委托给不可靠的人类，就能够维持控制。这是一个极具吸引力的前景。无论独裁者拥有多大的权力，他们始终需要下属——审查人员、宣传人员、保安、警察、情报分析人员和地方官僚——来执行自己的命令。但是，下属始终构成潜在威胁。他们可能怠工、盗窃、撒谎、泄密，或者密谋反对自己的上司。因此，威权统治者面临的最古老困境之一，就是如何在赋予代理人执行命令所需权力的同时，又不使他们获得反对领导人的能力。威权统治者通常通过任用平庸之辈担任关键职位，来处理这种权衡取舍。正如政治理论家汉娜·阿伦特（Hannah Arendt）所说，这些人的无能是“他们忠诚的最佳保证”。但这不可避免地使独裁政权更难有效治理国家和度过危机。

人工智能似乎为威权统治者提供了两种解决这一长期困境的方法。首先，这意味着他们现在可以轻而易举地实时监控和约束下属。地方官员消费习惯或会议日程的变化，可以由人工智能系统自动标记出来，完全不需要依赖那些怀有私利的告密者。其次，人工智能可以彻底消除下属的必要性。通过将过去需要人类自行判断的任务自动化，统治者可以用无法被贿赂或操纵的忠实算法，取代不可靠的中间人。威权政权的官员也曾明确表达过这一观点。2025年4月，俄罗斯数字发展部长马克苏特·沙达耶夫（Maksut Shadaev）在莫斯科举行的一场数据论坛上表示，人工智能“绝对可以取代一半的官员”，并补充说，“也许还会略多一些”。

然而，这些关于国家能够自行运转的承诺只是一种幻象，因为人工智能从来不是真正自主的。系统必须由一批工程师和数据科学家负责建设和维护，而政治领导人根本无法评估他们的专业能力。一个试图通过人工智能减少对不可靠人类依赖的统治者，最终可能发现，自己反而比过去更加盲目地依赖少数维持系统运转的人工智能专家。而这支新的数字禁卫军可能具有与旧式禁卫军相同的弱点，从而对统治者构成威胁。

耳目

在开发能够监控或取代下属的人工智能系统方面，中国处于领先地位。北京、上海和其他城市中心的智慧城市计划利用人工智能追踪地方官员的工作表现，并将对这些过去能够在不受关注的舒适环境中行事的官员的监督集中起来，使他们接受算法绩效评估。中国还开发了一套“零信任人工智能系统”，并在过去十年间将其部署到大约30个县市。该系统交叉比对150多个政府数据库，以查处地方官员的贪污和裙带关系。它的效果甚至有些过于出色，在标记出8,700名官员之后，地方政府迫于受到该系统监控的官僚们的压力，开始逐步撤回这一系统。但是，北京并未废除其新建立的电子政务门户。这些门户利用自动化系统签发文件和许可证，减少了容易滋生小规模腐败或徇私行为的面对面接触。与此同时，中国共产党继续大力推进其所谓的“思想管理”研究，即如何利用人工智能制作针对特定微观群体的宣传内容。中国的网络评论员大军过去由领取报酬的真人组成，如今已经开始被机器人取代。

俄罗斯也正以同样的热情追求相同的目标。莫斯科覆盖全市20万个摄像头的人脸识别系统，曾在2021年的反政府示威期间被用于识别和逮捕抗议者。中央政府已经开始利用自动化数据收集和汇总，绕过那些可能篡改数据或利用数据谋取自身利益的地区官员。2023年，俄罗斯互联网监管机构推出了名为“奥库卢斯”的人工智能系统，每天扫描数十万张图像，寻找包括政治内容在内的违禁内容，其处理能力比人类审查员高出数个数量级。俄罗斯安全部门的“改良者”工具已被用于创建一千多个虚构美国人的个人档案，主要活跃于前身为推特的X平台，以远低于雇用真人网络水军的成本传播克里姆林宫的叙事。

其他威权国家也正在追随北京和莫斯科的脚步。2025年4月，阿拉伯联合酋长国成立了一个监管情报办公室，利用人工智能起草和修订联邦法律，而这些工作过去由立法工作人员完成。一年后，阿联酋总理谢赫·穆罕默德·本·拉希德·阿勒马克图姆（Mohammed bin Rashid al-Maktoum）宣布，自主人工智能代理将在两年内接管联邦政府一半的业务，而且“部长、总干事和各机构的绩效，将根据他们采用这一转型的能力进行评估”。

一个政权越是依赖人工智能，就越是依赖那些维持人工智能运转的人。

这些创新可能减少威权统治者所需要的官僚人数。但是，它们实际上无法创造出独裁者最渴望的东西：一个能够自行运转的国家。即使是人工智能生成的电视新闻主播，也需要有人负责建造和维护；而随着异议人士使用的词汇不断变化，审查系统也需要有人对其进行重新训练。每一个人工智能模型背后，都有一小群工程师和数据科学家在从事必不可少的维护工作，而他们的工作具有如此高度的技术性，以至于统治者根本无法理解。

因此，这种依赖本身就变成了另一种形式的权力。例如，维护威权统治者监控设备的工程师，可以决定统治者看到什么。他们决定哪些信息重要到值得向上呈报，以及以何种形式呈现这些信息。他们决定哪些威胁会被标记出来，还可以调整那些决定哪些内容受到压制、哪些人遭到逮捕的算法。而且，他们可以在宫廷内任何人都没有察觉的情况下完成这一切。那些试图通过人工智能摆脱对不可靠下属依赖的威权统治者，只不过是将自身的脆弱性转移到了一群新的官员身上。

事实上，这支新的禁卫军可能比以往的精英阶层更加危险。这部分是由于人工智能技术的不透明性，但也因为这个小集团的规模要小得多。罗马皇帝通常拥有数万名禁卫军成员；现代威权统治者则依赖常备军。但是，有了人工智能，威权统治者只需要一小群工程师，就能够建立和维护大规模人工智能系统。这可能有利于统治者，因为他们需要监视的人更少了；然而，这也使潜在的故障点更加集中，因为只需要少数几名工程师就能造成毁灭性的系统中断，而且也使这些成员更容易密谋反对领导人。这支新禁卫军的成员还可能变得不可或缺。独裁者可以更换将军，而不必摧毁军队。但是，运行复杂的机器学习系统需要一套高度专业化的技能，以至于在不造成系统运行中断的情况下，很难替换工程师，从而赋予这些人巨大的制衡筹码。

不可或缺的人

技术工作者对威权政权的重要性已经显现出来。例如，2022年2月俄罗斯全面入侵乌克兰之后，当信息技术专家开始逃离俄罗斯时，克里姆林宫的回应不是威胁，而是提供诱因，允许技术工作者延缓应征入伍。政府还免除了他们所在企业的税收，并为他们的住房抵押贷款提供补贴。七个月后，当俄罗斯总统弗拉基米尔·普京（Vladimir Putin）下令动员30万名男子时，信息技术工作者获得了全面征兵豁免。考虑到一套人工智能系统只需要少数几名工程师就能维持运转，这种做法似乎有些过度。但是，一个政权无法预先知道自己将需要哪些工程师，也无法迅速培训替代人员，因此，它必须留住能够从中选拔这些少数人才的整个专业人才库。

这些措施并未阻止2022年全年约10万名专业人员外流——这一数字约占俄罗斯技术劳动力的十分之一。但是，莫斯科仍然坚持采用利益收买的方式，因为专业知识极难通过枪口强制征召获得，而且被强制征召的专家也可能不太愿意按照指示行事。即便如此，金钱和特权也无法保证这些精英始终保持忠诚。威权统治者应当牢记最初那支禁卫军留下的教训：在一段时期内，它为罗马皇帝提供了保护和安全。但是，后来禁卫军发现了自己不可替代的地位，到了公元二世纪，他们已经开始将帝国拍卖给出价最高的人。这批新的精英也能够做同样的事情。2023年6月，当叶夫根尼·普里戈任（Yevgeny Prigozhin）领导的瓦格纳准军事公司的车队沿着公路向莫斯科挺进时，普京必须依赖自己的安全部门向他报告正在发生的事情。未来处于普京这种境地的统治者，将通过机器接收此类警报：由软件分类的截获通信、经过识别系统过滤的摄像头画面，以及被汇总到信息仪表板上的地区报告。负责运行这些系统的工程师可能与一名新崛起的挑战者达成交易，然后故意拖延。他们可以延迟数据传输，让警报晚几个小时才送达，在关键时刻降低信息传输质量，或者使识别系统停止运作。在这种情况下，统治者将如同盲人一般行事。禁卫军当年并不需要亲手杀死尼禄皇帝（Nero）就能将他取代。他们只需要抛弃尼禄，转而支持他的竞争对手即可。

这些程序员不太可能亲自夺取政权，因为他们不太可能掌握政变领导人最终必不可少的东西：枪支。但是，工程师利用自身权力影响领导权争夺，已经有过先例。1991年，当苏联军队试图从米哈伊尔·戈尔巴乔夫（Mikhail Gorbachev）手中夺取控制权时，俄罗斯电信网络的少数几名程序员维持了向国外的信息流通，并将俄罗斯总统鲍里斯·叶利钦（Boris Yeltsin）的命令传递给国内外受众。政变策划者无法阻止叶利钦反抗的消息传播，政变在三天内宣告失败。

精简规模

人工智能不会让威权统治者能够解雇所有执行其命令的人员。仍然需要有人实施逮捕和管理监狱，而且威权统治者可以通过向支持者提供政府职位来换取忠诚。但是，人工智能将使威权统治者能够缩减人员规模，而官员的数量最终不如统治者如何监督他们来得重要。追踪那些密谋不轨或能力不足的下属，始终是威权统治者最主要的负担。人工智能可以减轻这一负担，使统治者无须投入同样多的主动关注，就能够更加密切地监视自己的官员。

因此，从短期来看，人工智能可能为威权政权带来巨大利益。尽管在部署方面存在诸多障碍，这项技术已经开始为威权政权带来成本更低的监控、更智能的审查，以及更少需要恐惧和猜疑的人类下属等好处。但是，对威权统治者而言，人工智能的诱惑可能重新制造出他们正试图摆脱的同一个陷阱。一个政权越是依赖人工智能，就越是依赖那些维持人工智能运转的人。而这些人，就像历史上所有其他禁卫军阶层一样，将很快发现自己不可或缺的地位究竟价值几何。