不止数字：中国的社会信用体系存在固有偏差

简介

在反乌托邦科幻电视剧《Nosedive》中，一位名叫 Lacie 的女性，她痴迷于攀登社会阶梯，但却因为她的低社交媒体评分而无法获得她梦寐以求的公寓，她遵循社交媒体顾问的建议，试图给 “High Fours” 留下深刻印象，这些 “High Fours” 的评分最接近她社会对社会成就的标准，即五星评级。《黑镜》的创作者 Charlie Brooker 将其构思为 “对接纳和我们喜欢表现出来的形象的讽刺”， “Nosedive” 谈到了当前的社交媒体焦虑和我们对 社交媒体影响者 的过度崇拜。 但是，正如剧集所描绘的那样，因为低社交评分而实际失去工作，这太牵强，对吧？其实不然。事实上，这正是今天中国因其社会信用体系而可能发生的事情。

数字的背后

中国拥有世界上 最强大的互联网存在，拥有近十亿用户。 中国也拥有最严格的媒体审查制度，西方世界使用的多数网站和 Web 2.0 服务被完全屏蔽，并随后被他们自己的 “山寨版” 取代：西方世界习惯使用 Google，而中国人则使用 Baidu。中国人使用 微博 而不是 Twitter。中国人创建了 人人 来替代 Facebook。中国人使用 优酷 和 土豆 来观看视频，而不是 YouTube。

通过将中国人留在他们自己的网站上，这些网站通常会将所有个人数据记录和存储在该国首都北京的建筑物内，政府可以不断监控在线活动及其执行者。 现在，中国正在实施全国社会信用体系，这种政府监控加上中国人对其 审查互联网 的接受，可能会导致灾难性的结果。历史表明，掌权者——特别是那些能够接触到创新技术的人——往往会偏袒富人和精英。

社会信用

那么，新的中国社会信用体系是什么，它是如何运作的呢？中国总理 温家宝 于 2011 年正式推出社会信用体系，该体系是中国政府旨在创建统一的记录系统，以跟踪和评估其公民、企业和区域行政部门的信誉。一些区域行政部门使用数值来评估信誉，而中央政府则主要使用黑名单和白名单。 该体系原本定于 2020 年开始实施，但由于 COVID-19 大流行，该截止日期被推迟了。 该体系的某些方面类似于银行在提供贷款之前进行的信用检查——在美国使用 Experian 等信用评级公司——它也类似于西方世界衡量社交媒体价值的方式，通常取决于互联网用户的粉丝数量或他们在在线帖子上的点赞数量。然而，中国体系将这些评级应用于中国生活的各个方面。公民或企业因捐赠慈善机构而获得高排名，或者因玩音乐太大声等行为而被扣除价值。 

一旦全国性体系完全实施，中国公民、企业和地方政府将根据从中国 “大科技” 收集的数据分配一个数字，即该国收集个人信息以及从人们和小企业可能访问的网站收集的其他数据的创新技术。

信息收集的关键技术之一是使用面部识别技术来监控公民及其行动的 人工智能 (AI)。由于中国政府将寻找的违规行为范围从乱穿马路和不合理的商业行为到分享反政府言论的证据，因此一旦该体系到位，AI 和摄像头将能够完成大部分跟踪公民并提醒政府违规行为的工作。

对企业和个人而言，低评分的负面影响也有所不同。如前所述，中央政府已经对他们认为行为不端的企业和个人实施了黑名单制度。通过将这些违规者列入黑名单，政府公开羞辱他们，同时禁止一些个人权利，并可能限制他们继续经商的能力。一些地方政府为获得高评分提供了积极的奖励，以试图提高对该体系的信任，例如优先医疗保健和免押金住房。

中国与互联网

如前所述，中国政府屏蔽了 Facebook、Twitter 和 YouTube 等西方社交网络，并用他们自己的网站取代了它们。通过只允许这些网站存在并监控其公民被允许发布的内容，中国政府可以控制全国的叙事和舆论。

说一些关于审查制度法律或对官员的谴责言论？人们可能会被下线、起诉，甚至在某些情况下，被永久列入黑名单，失去基本人权，例如获得医疗保健和交通的机会。说一些好的事情或发布一个政府可能想要罢免的官员的故事？当政府允许你的观点传播几天，然后最终将其删除时，预计你会获得一些知名度。这种选择性审查可能会让中国公民感到不安，他们现在面临着政府应用分数的影响，这些分数会影响人们对谁有资格获得基本人权的看法。

中国是世界上人口最多的国家，根据其最后一次人口普查，占世界人口的 20%，公众希望以社会信用体系的形式进行监督是意料之中的，但这种期望也可能会有偏差，因为中国是一个威权政权： 

总的来说，[中国人] 对 SCS [社会信用体系] 表现出高度认可，80% 的 [参与者] 对 SCS 表示赞成或强烈赞成。只有 19% 的 [参与者] 对 SCS 持价值中立态度（既不赞成也不反对），而只有 1% 的人表示强烈反对或有点反对。在一定程度上，我们发现 SCS 的高认可度和几乎不存在的反对意见可能反映了在威权环境下进行调查的性质——虽然我们明确告知数据是匿名的，仅用于研究目的，但一些比较谨慎的 [参与者] 可能出于对表达反对意见会导致国家报复的担忧而伪造了自己的偏好。 

这种相同的意识形态也可能促成了公众对其审查制度的互联网的普遍接受。由于中国人没有获得反对政府的机会，人们必须希望新技术的实施会带来更多的好处，而不是坏处，特别是现在中国政府正在推动对儿童的监控，正如《华尔街日报》的特稿报道 “中国如何在课堂上使用人工智能” 中所述。该报道重点关注一种 脑电图 (EEG) 头带，年轻学生必须佩戴它来衡量他们在课堂上的注意力，其输出由教师监控，并与所有学生的家长共享。当记者将这段画面展示给旧金山加州大学神经学家西奥多·桑托时，他感到惊讶，并指出该技术容易出现错误读数，因此他不确定它对测量注意力到底有多有用。然而，中国教师解释说，佩戴头带本身 “迫使学生变得更有纪律”。 换句话说，这项技术正在从小培养学生的行为。

新疆

中国的新疆。新疆的意思是“新的边疆”，与蒙古、俄罗斯、哈萨克斯坦、吉尔吉斯斯坦、塔吉克斯坦、阿富汗、巴基斯坦和印度接壤。

此外，中国长期以来一直利用技术来监控和压制其少数民族人口。在新疆，这个位于中国边境且拥有中国最大穆斯林人口的地区，遵守规则的方式是通过虚拟检查站和刷身份证来强制执行的。中国政府已将警务完全数字化，并正在创造一种持续监控的状态来控制人口。有些人被允许绕过这些检查站，不受数字化警务的约束。据《纽约时报》的克里斯·巴克利和保罗·莫祖尔报道，“在许多检查站，特权群体——汉族人、有通行证的维吾尔族官员和外国游客——会被放行通过“绿色通道”。虽然中国人可能寻求更多信任和警务，但这显然是一种有针对性的监控形式，有可能蔓延到更多少数民族群体。

结论

由于中国已经实施了社会信用体系，并且对被列入黑名单的恐惧始终存在，我理解抵抗政府是一项艰巨的任务。我也理解这是一个重大的道德问题，越来越多的中国人将被剥夺基本人权。技术创新正在以比任何人都能跟上的速度发展，盲目地追随政府对该技术的应用将对所有各方造成灾难，但正如历史所证明的那样，少数人将永远承受最大的负担。

我恳请中国人民抵制使用这种信用体系。第一步是选择不加入私人数据汇总机构。在社会信用体系大规模实施之前，私营公司已经开始在自愿的基础上收集信息，我恳请你们抵制。每次政府指定的大公司受到青睐，政府就会获胜。中小企业和任何拥有招聘权的人也应该在招聘决策时忽略信用评分的考虑。通过这样做，人民可以废除信用体系，让政府独自使用它。虽然中国公民可能认为监控国家（包括安全和保障）的好处超过了本文中概述的弊端，但我请你重新考虑。此外，我认为，由于诸如乱穿马路之类的轻微违规行为而失去人权和自由的风险应该超过任何好处。

在“Nosedive”的结尾，Lacie 最终被她终生渴望获得高分的愿望所压倒。她意识到，她渴望融入她虚伪朋友的完美生活，而这种生活是由一个社会标准构成的，这个标准永远不会让她真正过上充实的生活。在一天之内，她和她在生活中一直忽视和谴责的人一起被贬到了社会阶梯的底部。通过喝下一瓶红色威士忌，这让她最终摆脱了错误的认知，*她终于能够再次生活，并看到人们的真实面貌，而不是他们被分配的得分。我请中国公民做同样的事情：拿起红色的酒瓶，看穿他们之间可能实施的任何社会信用体系。从长远来看，你的孩子、你的邻居和你自己都会感谢你。我们不仅仅是一个数字。

注释

*这是对 1999 年科幻电影《黑客帝国》中一个场景的引用，在这个场景中，主角可以选择选择服用红色药丸来了解残酷的真相，或者服用蓝色药丸来继续沉浸在舒适的幻觉中。

进一步学习

Antonia Hmaidi. "The" Social Credit System in China. 35C3.

• Antonia Hmaidi. "'The' Social Credit System in China." (Video). 35C3. 27 December 2018. 2018 年Chaos Computer Club 大会上的一场讲座，试图对中国的社会信用体系提供比西方媒体提供的更细致入微的视角。
• Victoria Adelmant. "Social Credit in China: Looking Beyond the 'Black Mirror' Nightmare." Center for Human Rights and Global Justice, New York University School of Law. April 20, 2021. 对中国社会信用体系的人权影响的讨论。包含许多额外的资源和对相关组织的解释。
• Eunsun Cho. "The Social Credit System: Not Just Another Chinese Idiosyncrasy." Journal of Public and International Affairs. 1 May 2020.

讨论问题

• 在美国有哪些形式的财务、工作绩效和社会信用评分？它们与中国的制度有何相似之处？它们又有哪些不同？在你看来，管理我们财务和社会信用评分的机构能否转变为类似中国的松散统一体系？
• 中国政府试图通过其信用奖励和惩罚体系获得什么样的公民？将每个公民的评分公开、可访问和可显示的理由是什么？在学校部署监控技术的理由是什么？
• 操纵人口的社会行为可能会产生哪些意想不到的后果？