刘述良：驯化数维坦：反数字支配的复合方案（上）

【内容提要】 作为数字社会中的新型组织形态，“数维坦”为人们带来便利的同时，也产生了严重的数字支配问题。本文试图从数字社会的“中心-边缘”结构入手，分析数字支配方式及其形成原因，寻求驯化数维坦的可行方案。本文的中心命题是：身处数字铁笼之中的人们，和“政治数维坦”“商业数维坦”打交道已成为其数字化生存的重要方式；自发形成的“中心-边缘”结构不可避免地引发数字支配。本文讨论数维坦施加在人们身上的权力主导型、资本驱动型以及合作共谋型数字支配形式，指出驯化数维坦可基于“强边、限中、制衡”的思路，修正当前数字社会的“中心-边缘”结构，通过构建完整的反数字支配体系，消除数字资源与算法权力不对称分布、算法不完美、固有偏见等产生的消极影响。

一、问题的提出

在以“一切皆数”为信条的时代，数字化生存、智慧生活、数字治理和数字兴国已成为不少国家的战略选择。当前，大数据、信息物理系统（cyber physical systems， CPS）、人联网（internet of humans， IoH）、“大蚂蚁”（BIGANT）和“4R”技术等①的迅猛发展，已经并将继续改变工业时代建立起来的社会结构、生活方式、政府与社会的关系、组织形态、政治观念、国家治理理念和治理结构。工业时代基于科层制的“中心-边缘”治理结构正在进行深度调整，数据与算法的作用日益突出，“数维坦”已经到来。

在《利维坦》一书中，霍布斯分析了原始丛林中“所有人对所有人”的战争状态，并用怪兽“利维坦”一词来指代人类为摆脱战争惨状，通过缔约让渡其权利而建立起来的强大机构（霍布斯，1985：94，131-132）。根据霍布斯的设想，利维坦的作用在于“通过其威慑组织大家的意志，对内谋求和平，对外互相帮助抗御外敌”（霍布斯，1985：132）。作为强势国家（政府）的代名词，利维坦在为人们提供安全、秩序和归属感的同时，也可能随时失控进而反噬人类，高度依赖利维坦的人们因此惶惶不安。

在数字技术迅猛发展的今天，基于算法的数字治理日益变得重要。数字治理在公共部门和私人部门大行其道，越来越多的新技术公司介入并接管部分原本由公共部门垄断的公共事务（樊鹏，2018）。数字技术进步与运用的后果，就是促成了新“利维坦”的诞生，同时也使传统利维坦改头换面——国家利维坦与巨型数字公司一起正以“数维坦”的面目出现在世人面前。

本文中的“数维坦”，亦可称作“迪维坦”，对应的英文单词为“deviathan”（取“digit”和“leviathan”两词的组合），或称作“赛维坦”（“ceviathan”的音译，由“cyber”和“leviathan”两词组合而来）。与利维坦一样，数维坦代表着人们既爱又恨的庞大数字机构：一方面，庞大的数字组织将人们带入数字化生存状态，没有庞大的数字组织和算法的持续开发，就没有所谓的自由、秩序和便利；另一方面，在人类数字化生存的四个特质②（Negroponte， 1995：229）之外，数字技术也可能对人们的生活产生消极影响，特别是在政治经济领域，如不加约束，数字技术极易演变成对权力和资本的定向赋能，产生权力集中或政治极权。一旦数字技术变成权力、技术占有者统治和支配他人的工具，人们身上便多了一副数字枷锁。因为在庞大的算法机器面前，个体显得渺小而无助，数字威权和数据独裁似乎成为大数据时代无法避免的厄运（唐皇凤，2018）。在此背景下，驯化数维坦，防止个体沦为算法的附庸（张爱军，2021）就成了数字时代人们必须面对和认真审视的重大议题。本文提出并界定“数维坦”这一概念，力图探讨隐藏在数维坦背后的深层结构以及由此带来的数字支配问题，以期寻求驯化数维坦的可能方案。

二、泛在数维坦失控的后果

（一）泛在数维坦

数字技术具有解放和压迫双重功能。数据和算法既可以为个体自由和社会发展赋智、赋能、赋权，实现分权，也可以为国家和商业机构赋能。新技术原本可以让生活更美好，但糟糕的是，数字技术与科层制这一传统治理术联姻以后，原本作为国家利维坦约束手段的数字技术开始其异化过程（郧彦辉，2015）。近年来的发展表明，作为“技术控制人类”的新型统治力量，数维坦因“无处不在”“无所不能”，以致其能够令人们“无所不从”（袁超，2021）。

与利维坦作为主权国家这一单一指涉不同，本文中的数维坦既包括主权国家（政治数维坦），也涵盖巨无霸数字公司（商业数维坦）。其中，当数维坦意指主权国家时，强调的是数字时代人们的安全、秩序与自由高度依赖数字化主权国家，但人们对数字化主权国家潜在的算法偏见和支配却又无能为力这一窘境；当数维坦用于巨型数字公司时，则重在强调人们为了获取生产生活便利、数字准入机会和参与数字活动，对无条件接受商业机构所提供的服务条款、自身数据被滥用、算法黑箱及对其他数字支配形式的无奈。近年来，政治数维坦与商业数维坦深度渗入日常公共和私人生活，并呈现融合互用之势。这一趋势带来的后果，就是被数据洪流裹挟的人们，无论身在公共部门还是在私人部门，都很难抛弃既有数据系统。人们对数字巨头（digital giant）爱恨交加，在国外是“GAFA”（谷歌［Google］、亚马逊［Amazon］、脸书［Facebook］和苹果［Apple］），在国内则是“ATM”（阿里巴巴［Alibaba］、腾讯［Tencent］和美团［Meituan］）或“BAT”（百度［Baidu］、阿里巴巴和腾讯），后浪三巨头“TMD”（今日头条［Toutiao］、美团和滴滴［DiDi］）。这些公司太大了（“GAFA”和“ATM”的市值都曾在万亿美元或万亿元人民币以上），并且掌握着全球的关键信息流及用户的习惯、兴趣偏好、搜索历史等，垄断了全球数字经济与互联网及其衍生市场，具有不容挑战的话语权。用户依附于这些公司生存，离开它们则有太多不便，甚至无法正常工作生活。设想一下，假如谷歌、百度、腾讯这样的数字巨头严重侵害用户权益，用户又能作何反应？用户很可能会寻求电子邮件收发、网络搜索、文档存储等的替代方案，但这些巨头的数字架构被整合到太多的系统当中，用户们至少需要一段时间才能逃离数字巨头的“掌控”（尤班克斯，2021）。所以，“如果所有算法都突然停止运行，世界末日也就到了”（Domingos， 2015：1）。

（二）去中心化表象之下的支配问题

1. 作为表象的去中心化

工业时代，科层制是国家治理的基石。科层制顶端的人们身处工业社会中心，是国家与社会发展的决策者，也是社会生活方式的引领者。科层制中的精英们，依凭科层组织体系，通过权力、资本、文化和传播机器操控着可见的物理世界和无形的精神世界，而处于结构边缘的普通百姓则是各类权力和政策的支配对象。进入数字社会以后，社会运行方式发生了重大转向，国家治理方式、治理结构乃至治理理念正经历重大调整。工业时代的权力、资本、文化和传播机制逐渐失去绝对主导力，以算法为基石的数字治理结构迅速发展成传统治理方式的补充性、竞争性甚至是替代性方案。

关于数字治理，理论界与实践界达成的共识是，数字时代的治理具有分布式（distributed）、开放性（open）、自治（autonomous）和去中心化（decentralized）的特征。人们发现，基于区块链与即时通讯技术，即时响应、突破物理限制的无界治理变为可能。运用算法，可以发展出一种全新的“岛”（decentralized autonomous organization， DAO，其缩写与“道”同音，也可以理解为一种治理之道），即去中心化自治组织，以应对复杂世界的不确定性和多样性。依靠智能合约和通证化（tokenization）激励机制，传统高度统合的权利束加速分离，所有权、治理权和收益权（分红权）相互分离并为进一步分享提供可能。从产权的角度看，工业时代的私有制正向数字世界的共享型公有制进化。

然而，这一切只是表象。人的自利本性，加上个体间差异的不可消除性，社会中的一部分人必然处于国家与社会运行的中心位置，另一部分人则处于边缘地带。换言之，工业时代的等级控制方式在“再中心化”后，改头换面重新出现在世人面前。长久以来，数字化技术一直被人们视为透明治理、去中心化、民主化的利器，被颂赞为传统治理的“颠覆者”（disruptor）和数字民主的孕育者。然而，数字技术本身具有自主性和自我强化的特征，拥有数字技术的数维坦同样有着自身独有的发展逻辑，它们的存在并非总是符合广大群众的利益，也并不总是给人们送来福音。

2. 泛在数维坦支配

数维坦本质上是以数字技术为基础的复杂组织机器，它们的前台是数字组织和各类应用，背后则是动机各异的个体。数维坦若被身处“中心”并为利益所驱使的人操纵，数字社会中的边缘人群就会沦为被支配的牺牲品。

面对数维坦的支配，个体对“数据霸权”“算法统治”和“技术支配”除了被动接受和深感无奈之外，常常无能为力。随着线上生活成为主流模式，个人数据的价值已经远超石油。在大数据时代，个人的欲望、喜好、价值观和恐惧心理都可以通过数据被精准刻画，并用于政治和商业活动，操控国家和支配社会。在数字社会中，奥威尔笔下的“老大哥”不只是在“看着你”，而且是在“看着”所有人。此外，虽然当前机器智能还未演化成具有独立意识的智慧生命，但数字技术已然控制了社会发展方向，决定着社会运行与生产消费过程，支配着个人的劳动与闲暇时间，意见被压制和操纵，人们不复为独立自主的个体。

在数维坦的世界里，人们身处“天狱”（hell ven）之中（Leonhard， 2016：14），这一天堂与地狱的混合体既是人们的极乐世界（nirvana），也是算法和机器人奴役人们的苦海。一方面，面对发展迅猛的数字技术，人们对其发展前景、内在规律及其可能后果所知仍然不多，为了尽可能地释放技术红利，抢占数字技术高地，当前各国对数字技术的发展基本上持开放、放任和包容的态度。由于数据收集、管理、使用、传输和处分制度建设滞后，缺乏“算法审计”（algorithm auditing），寄生于数维坦的权贵资本阶层，常常能够采取全球行动，操纵政治和支配大众，他们左手以民主为食，右手以自由为饵，享尽数字技术红利却又不需要承担传统责任。另一方面，由于数字资源的不对称分布、算法不完美以及固有的社会偏见，数字规制法律制度又不完善甚至缺失，使得政治数维坦和商业数维坦得以恣意支配公众和用户。数维坦施加在人们身上的各种支配，不仅限制了人们奉若圭臬的自由，也阻碍了社会正义的实现。

三、数字支配的类型学分析

结合韦伯及技术支配理论（theory of technology dominance， TTD）关于支配的论述（杨雨娇等，2020），数字世界中的支配乃是支配者旨在影响他人（单数或复数的“被支配者”）的行动，基于被支配者对自己的依赖而主导、掌控其认知和行为的状况。从另外一端看（被支配者），此种情况即可称为“服从”（韦伯，2004：8-9）。可见，支配赖以存在的基础是支配者与被支配者之间的利害关系，而这种利害关系又是基于权力独占（政治计较）、市场地位独占（商业计较）、技术独占（知识计较）而产生的。在传统社会里，支配的本质乃经营物质手段集中于支配者手中（韦伯，2004：54）；而在数字社会，支配的本质则是支配者在集中经营物质手段之外，还集中经营数字资源和数字技术手段。数字资源、数字技术这两种新要素的出现，不仅改变了支配者的类型、可用资源与支配资格的产生方式，也一改过去的支配关系与支配手段。根据支配结构的不同，可将数维坦带来的数字支配分为权力主导型、资本驱动型和合作共谋型三种类型（详见表1）。

（一）权力主导型数字支配

近年来，基于“权力＋”实践，国家管控治理能力迅速提升。这种能力提升产生了正反两方面后果：一方面，围绕“权力＋数字技术”，公权力日益与数据、算力资源、数字技术联姻，数字社会完成了对权力的数字化赋智、赋能、赋效。毫无疑问，政治数维坦有望加快政策工具创新，带来更高的组织决策能力，采取更敏捷的行动和提供更高品质的公共服务，最终加快公共部门组织形态的演变进程，实现更包容的治理。比如基于警务大数据及面部识别技术，改进警务算法可以快速锁定犯罪嫌疑人及预判可能的犯罪；运用医疗大数据可以更好地评估疾病风险。另一方面，迅速提升的国家控制力改变了国家对公众的支配实践，衍生出权力主导型数字支配形式。这一支配方式混合运用权力、数据与算力资源、算法等数字技术，以强制性（如经济性与社会规制、法律制裁等），诱导性（政治与政策宣传、政府奖励等），操纵性（公民画像与歧视、政治投喂）等支配手段，展开国家治理、公共服务供给与政治秩序构建。以权力这一稀缺性资源为中心，借算法规制权和主导权，通过算法确立、巩固和扩大自身的支配力，完成国家意志对公众认知和日常行为的彻底渗透，是权力主导型数字支配的基本特点。

1. 政治投喂与政治操纵

在政治领域，数字技术的运用大大提升了国家对社会的监控力，也大大改变了既有政治法则。通过数据“圈地”，抢夺数据资源可以实现数字寡头统治，操纵大众舆论，推行数字暴政，在国际关系中则可利用数字霸权干预他国内政（林爱珺、章梦天，2022）。2018年3月，总部位于伦敦的英国政治咨询机构剑桥分析公司（Cambridge Analytica）因不正当使用海量脸书用户隐私数据助选特朗普而深陷丑闻，随后宣布倒闭。根据《纽约时报》和英国《观察者报》的深度报道，这家在后来成为特朗普竞选团队高级顾问的史蒂夫·班农（Steve Bannon）主导下成立的公司，运用从剑桥大学教授亚历山大·科根（Aleksandr Kogan）手中买来的8700万份用户数据，如性格特征、价值取向、成长经历和行为模式等，在2016年美国总统大选中对目标受众精准推送广告，运用心理剖绘技术操纵广大选民的情感反应，最终帮助特朗普拿下摇摆州的选票，赢得2016年大选。剑桥分析公司可谓通过“微观行为目标锁定”（behavioural micro-targeting）推行心理战、操纵选举和精准投喂政治广告的先驱。其首席执行官亚历山大·尼克斯（Alexander Nix）透露，剑桥分析公司运用脸书和社交媒体调查数据剖绘了2.2亿人的性格特征，在特朗普与希拉里进入第三轮电视辩论期间，团队测试了17.5万种竞选广告语，以挑选最佳版本。此外，脸书上传播的“隐秘帖”（dark post）也只有指定用户才可以浏览。在数字战略师布拉德·帕斯凯尔（Brad Parscale）的精心策划下，超级用户画像（super profiling）、数据挖掘、机器学习等数字技术悉数登场，特朗普竞选团队为目标选民频繁推送只有其个人才能看到的政治隐秘帖，运用精准的广告投放和心理统计操控术、虚假信息战，重塑选民政治立场，最终成为赢家。

2. 数字治理歧视

当然，并非所有政治领域中的数字支配都是人们有意为之的。在政治与商业数字巨头不当采集和使用数据之外，内隐于算法设计者的社会偏见、劣质数据、数据训练不充分等先天缺陷，也会产生数字支配问题。

在公共部门，算法的渗透能力也越来越强，数字技术被嵌入社会的“毛细血管”中，基于“独特的分散和非个人化的现代权力形式”（芬伯格，2018：279），数维坦的支配力得以快速上升。“偏见进，则偏见出”（bias in， bias out）。数字技术的不当使用，为边缘群体带来了巨大风险。尤班克斯深入研究了美国印第安纳州福利资格自动认证系统、洛杉矶通过外包为无家可归者设计的协调入住系统、阿勒格尼县的家庭筛查系统三个典型案例，发现在公共部门引入数字技术会带来一些意想不到的后果。其中，印第安纳州的福利资格自动决策系统漏洞百出，加大了贫困阶层获取福利的难度，成百万人的福利申请遭到拒绝。而且，一旦自动认证指标出现错误，责任都被归于申请人，州政府和承包商的责任则撇得一干二净。同样，洛杉矶的无家可归信息管理系统以及基于“弱势指数”（VI-SPDAT）开发的匹配算法，同样造成2.15万人未能获得援助，并且模糊了贫困与犯罪之间的界限。阿勒格尼县则开发出风险预警模型，这一模型根据个人的历史行为及其关系网推测其将来可能采取的行动，而预测变量仅来自非常有限的数据。同时，贫困阶层使用公共资源的信息也被纳入其中。这样，穷人由公共服务、执法活动和社区监督共同织就的大网支配着，被打上“风险”和“问题父母”的标签，他们今天的举动将影响其自身及其孩子的未来，数字决定着系统中穷人们的命运。

这三个典型案例共同指向了全面数字时代算法带给贫困群体的影响，戳破了技术中立的谎言。尤班克斯指出，那些表面上看起来快速高效的自动化社会问题解决系统，不仅难以改善贫困家庭的境况，相反，数字技术之类高科技的运用，反而使弱势群体面临更为严格的数字追踪、监控甚至惩罚，牢牢困于数据哨兵、算法分析与算法监管网、不公正的信息反馈循环之中，无从逃离，并因此成为惩罚性公共政策的目标人群（Eubanks， 2017）。在算法支配下，穷人们只能小心翼翼地申请社会服务项目。相较于过去，数字济贫院固化而非将穷人们从“底层”拯救出来，服务变成了监督，救助变成了惩罚。

在一些公共服务领域，传统的种族歧视已经为数字歧视所取代。在这一意义上，数字济贫院是一套“甄选式”治理体系（a “gotcha” system of governance）（Eubanks， 2017），是一个锁定、管制和惩罚穷人的隐形恶霸，它强化了政府对贫困阶层数据的收集、存储和共享，并将这些数据用于识别不法行为和预防犯罪，既限制了目标群体的自由，也削弱了他们的自决权，即按照自身意愿发展的能力（尤班克斯，2021：162-169）。

当算法成为法官，经过精心设计、持续改进、开放审查的自动决策算法确实可带来比人类决策更公平的结果。但在训练数据数量不足、数据代表性不强、存在数据噪声与数据垃圾、数据过拟合与欠拟合、缺乏动态算法监测机制的条件下，开动数维坦这架巨型机器，人类现有的偏见就有可能加剧。尤为严重的是，相较于人类偏见产生的点状小范围后果，算法偏见带来的往往是面状的大规模负面影响。