单月50万次人脸识别：中国如何用AI监控维族人
当局将面部识别技术整合到监控摄像机网络中，根据外貌专门识别维吾尔人、记录行踪用以搜索和审查。中国已成为应用下一代技术对民众进行监控的先行者。
商汤科技是中国开发人脸识别技术的人工智能公司之一。 GILLES SABRIÉ FOR THE NEW YORK TIMES
因对西部地区穆斯林少数民族进行严厉镇压，包括将多达一百万人关押在拘禁营，中国政府已受到国际社会的广泛谴责。
现在，文件和访谈显示，当局还在使用一个庞大、秘密的先进面部识别技术系统来跟踪和控制维吾尔人——一个以穆斯林为主的少数民族。专家说，这是目前已知的第一例政府有意使用人工智能进行种族归纳的情况。
面部识别技术已整合到中国迅速扩张的监控摄像机网络当中，它根据外貌专门识别维吾尔人，并记录他们的行踪用以搜索和审查。这种做法使中国成为应用下一代技术对民众进行监控的先行者，或将开启一个自动化种族主义的新时代。
该技术及其对中国1100万维吾尔人进行监视的用途，是基于五名对这些系统有直接了解的人士所述，他们因担心遭到报复要求匿名。《纽约时报》还查阅了警方使用的数据库、政府采购文件和制造此类系统的AI公司分发的广告材料。
中国当局已经在生活着许多维族人的西部新疆地区维护一个庞大的监控网络，包括用DNA追踪维族人。但这类之前未报道的新系统的规模正将监控范围扩展到中国许多其他角落。
去年秋天，购物者在喀什集市外排队接受身份验证。多年来，以穆斯林为主的维吾尔少数民族一直受到中国的监视和迫害。 PAUL MOZUR
据其中两名知情者透露，警方现正采用面部识别技术瞄准杭州、温州等富裕东部城市以及沿海省份福建的维吾尔人。中国黄河沿岸中部城市三门峡的执法部门今年使用了一个系统，一个月就进行了50万次的筛查，查看居民中有无维吾尔人。
警方文件显示对此类能力的需求正在扩散。根据采购文件，中国16个不同省份和地区约二十个警察部门2018年开始寻求获取这种技术。例如，中部省份陕西的执法部门去年计划置办一套"能够支持面部识别，辨认维吾尔与非维吾尔人特征"的智能摄像系统。
一些警察部门和科技公司称这种做法为"识别少数民族"，尽管其中三名知情人士说，这是专门识别维族的隐晦说法。维吾尔人在外形上更像中亚人，一般与中国占大多数的汉族人很不相同。这种差异降低了软件识别难度。
几十年来，民主国家几乎垄断了尖端技术。如今，迎合北京专制需求的新一代初创企业开始为人工智能等新兴技术定下基调。类似工具可根据肤色和其他地方的族群特征实现偏见的自动化。
"就拿这种技术最具风险的应用方式来说，而且很可能会有人去尝试，"乔治城大学法学院隐私与技术中心(Center for Privacy & Technology at Georgetown Law)的助理克莱尔·加维(Clare Garvie)说。"如果你制造出可以把人按族群加以划分的技术，那么就有人会用它来压制这个族群。"
从技术角度来看，使用算法根据种族或族群对人进行标记已变得相对容易。像IBM这类公司宣传其软件可以对人进行大致的划分。
但中国出于执法目的对单一族群进行识别已然打破了原有界限。中国初创企业云从科技在对自身监控系统的营销过程中概述了一个体验样本，其中表示这项技术可以识别出"敏感人群"。
"如果起初一个维吾尔人生活在一个社区，20天内出现了六个维吾尔人，"该公司在其网站上说，"它会立即"通知执法部门。
其中两名知情人士表示，在实际应用中，这些系统并不完善。它们的准确性通常取决于灯光和拍摄机位等环境因素。
在美国和欧洲，人工智能社区的争论集中在技术设计方的无意识偏见上。最近的测试表明，IBM和亚马逊这类公司制造的面部识别系统在识别肤色较深人群的特征方面不太准确。
中国的举动引发了更为棘手的问题。虽然面部识别技术可以使用肤色和面部形状等特征对照片或视频中的图像进行排序，但它必须由人类发出命令才能根据种族或族群的社会定义对人进行分类。在初创企业的帮助下，中国警方已经做到了这一点。
"这在美国人看来相当惊人，我们的算法很有可能置入了种族歧视，但不是以这样公开的方式，"电子前沿基金会(Electronic Frontier Foundation)的监控诉讼主任詹妮弗·林奇(Jennifer Lynch)说。"例如，没有一个系统可以将某人识别为非裔美国人。"
该软件背后的中国AI公司包括易途、旷视科技、商汤科技和云从科技，其估值均在10亿美元以上。据其中一位知情者表示，另一家销售摄像头及图像处理软件的公司海康威视提供了一项少数民族识别功能，但在2018年开始逐步将其淘汰。
2018年，中国最高警察机关公安部根据名为"天网"和"雪亮"两项政府计划拨款数十亿美元的工程，用于对监控、警务和情报收集的计算机化。这些公司的估值随即骤增。
商汤科技发言人在一则声明中称，她与"相关团队"进行了核实，他们并不知道其技术被用于人脸识别。旷视科技在声明中称，其所关注的是"商业而非政治解决方案"，并补充称，"我们关注的是个别公民的福祉和安全，而不是关注人群监控。"云从科技和易途均未回应置评请求。
中国公安部没有回复记者通过传真发送的置评请求。
这些初创企业销售的产品有"火眼"、"天眼"和"蜻蜓之眼"等名字，它们承诺利用人工智能分析中国监控摄像头的镜头。该技术还不成熟——2017年公司在宣传中称警方在一座火车站对其发出的警报做出反应，成功率达到三分之一——而且中国的许多摄像头都不够清晰，无法让面部识别软件有效工作。
然而，它们有助于推进中国的社会控制架构。根据两名知情人士的说法和采购文件，为了让算法发挥作用，警方为有犯罪记录、精神疾病、吸毒记录以及因不满向政府请愿的人建立了人脸图像数据库。他们说，一个全国在逃罪犯数据库中收录了大约30万张面孔，而温州一个为有吸毒史者建立的数据库中共有8000张面孔。
通过一种叫做"机器学习"的过程，工程师将数据输入人工智能系统，训练它们识别人脸上的模式或特征。在进行种族归纳时，他们会提供成千上万维吾尔人和非维吾尔人的带标记照片。这将有助于产生一种区分种族群体的功能。
这些人工智能公司从重要投资者那里获得了资金。富达国际(Fidelity International)和高通风投(Qualcomm Ventures)都是向商汤科技投资6.2亿美元的联合领投方的成员。红杉资本(Sequoia)投资了依图。旷视科技得到了中国知名科技投资者李开复的基金——创新工场的支持。
创新工场的一位发言人表示，该基金最近出售了其在旷视科技的部分股权，并放弃了在董事会的席位。富达拒绝置评。红杉和高通没有回复记者通过电子邮件提出的置评请求。
李开复是中国人工智能的支持者，他认为，中国在发展人工智能方面具有优势，因为中国领导人不那么在意"法律牵连"或"道德共识"。
"在人工智能的故事中，我们不是被动的旁观者——我们是它的创作者，"李开复去年写道。"这意味着支撑我们对人工智能未来愿景的价值观很可能成为自我实现的预言。"他拒绝就其基金对旷视科技的投资或该公司的做法置评。
上述知情人士说，中国科技行业的种族归纳并非秘密。它已经变得非常普遍，以至于一位知情人士把它和短程无线技术蓝牙相提并论。另一位知情人士说，旷视科技的员工被警告说，种族目标是敏感话题，不应公开讨论。
中国以新疆的民族暴力和其他地方的维吾尔族恐怖袭击为由，投入大量资源追踪维吾尔人。北京已将数十万维吾尔人和其他在新疆的人投入再教育营。
该软件扩大了政府识别维吾尔人的能力。据两名知情人士说，一个国家数据库存储了所有离开新疆的维吾尔人的面孔。
过去两年的政府采购文件也显示，需求已经扩大。根据一份文件，在湖南省永州市，执法人员正在寻找软件来"识别和搜索维吾尔人"。
在贵州省的两个县，警方列出了识别维吾尔人的必要性。其中一项要求是基于身份证照片识别维吾尔人的能力，准确率最高超过97%。在中部大城市重庆和西藏地区，警方对类似软件做了招标。河北省的一份采购文件描述了如有多名维吾尔人在同一天预订同一航班时应如何通知警方。
当局在2018年的一项研究中描述了对其他类型数据库的使用。这篇由上海一名警官参与撰写的论文称，安装在学校附近的人脸识别系统可以对数据库中收录的精神病患者或犯罪嫌疑人进行筛选。
时报看到的一个由依图软件生成的数据库显示，从2月中旬开始，在一个多月时间里，三门峡警方使用依靠摄像头的软件试图对居民进行识别，达到50万次以上。
除了"rec_gender"（识别性别）和"rec_sunglasses"（识别墨镜）等标签，代码中还有"rec_uygur"（识别维吾尔人），如果软件认为它找到了维吾尔人，就会返回一个"1"。在摄像头试图记录的50万人中，该软件猜测它看到了2834次维吾尔人。图片和数据条目保存在一起，以便警方进行核查。
依图及其竞争对手有向海外扩张的雄心。麻省理工学院(Massachusetts Institute of Technology)的人工智能研究员乔纳森·弗兰克尔(Jonathan Frankle)说，这样的努力很容易让其他国家的政府得到种族分析软件。
"我认为不夸张地说，这是关乎民主存亡的事，"弗兰克尔说。"一旦一个国家采用这种威权模式，它就会利用数据来强化思维和规则，比70年前的苏联能做到的更加根深蒂固。从某种程度上说，这是一场我们正在梦游般慢慢走进去的紧迫危机。"
孟宝勒(Paul Mozur)是驻上海科技记者。他报道的领域包括亚洲最大的科技公司、网络安全、新兴互联网文化、审查以及亚洲地缘政治与科技的交叉点。他此前在《华尔街日报》供职。欢迎在Twitter上关注他 @paulmozur。
翻译：纽约时报中文网
——读者推荐
没有评论:
发表评论