【文章精选】魏远山丨智能时代政府治理算法化的优势、困境与应对策略丨2024年第4期
智能时代政府治理算法化的优势、困境与应对策略
◉魏远山
【摘要】在当下复杂的社会治理需求和决策环境下，算法的技术优势在促进政府治理体系和治理能力现代化的同时，正逐渐将系统型官僚推向算法型官僚。但碍于算法在技术、权力和社会维度的局限性，政府治理算法化易出现权利救济和决策理解困难、权力代理和主体责任游离、违背公平原则和民主进程倒退等难题。因此，有必要从管理视角规范政府治理算法化的过程，保证负责任的算法化；从法律视角明确政府治理算法化相关主体的责任，确保可责任的算法化；从文化视角强化伦理教育和技术教育，提升公众算法德性和素养，共同规范政府治理算法化的进程。
【关键词】 政府治理算法化；算法治理；算法型官僚；算法决策；智慧政府
【作者介绍】魏远山：广东外语外贸大学法学院讲师，wys＿victory@163.com。
【引用格式】魏远山.智能时代政府治理算法化的优势、困境与应对策略[J].公共管理与政策评论,2024,13(4):24-38.
—文章结构—
一、引言
二、政府治理算法化的演进与优势：三次转变与两大利好
（一）政府治理算法化的演进历程
（二）政治治理算法化的治理优势
三、政府治理算法化的潜在弊端：个人政府社会三个层面
（一）个人层面：决策理解与权利救济困难
（二）政府层面：权力代理与主体责任游离
（三）社会层面：破坏公平原则与民主进程
四、政府治理算法化的弊端成因：算法的多维度局限
（一）技术维度的局限性：技术负面效应的叠加
（二）权力维度的局限性：算法权力解释难度大
（三）社会维度的局限性：硅基文明抑制碳基文明
五、政府治理算法化弊端的消除：管理法律文化三重视角
（一）管理视角：推进负责人的算法化
（二）法律视角：建设可责任的算法化
（三）文化视角：提升全社会算法德性
六、结语
一、引言
一方面，2022年6月发布的《国务院关于加强数字政府建设的指导意见》要求到2025年“政府履职数字化、智能化水平显著提升，政府决策科学化、社会治理精准化取得重要进展；到2035年整体协同、敏捷高效、智能精准、开放透明、公平普惠的数字政府基本建成”，促使政府进一步接纳新兴信息技术深化政府智能化水平。另一方面，算法可批量快速处理数据、极大程度缩减处理成本、只注重数据间逻辑关系而不进行价值判断的特性，也使公共领域开始借助算法引入数理逻辑来改写知识逻辑和取代经验逻辑，避免人类经验逻辑的不理性。正是上述因素使算法成为推进政府治理体系和治理能力现代化的重要工具。如上海、深圳和广州等地政府为响应“十四五”规划“提高数字政府建设水平”的要求，纷纷制定“数字政府建设‘十四五’规划”，将算法作为政府转型升级的一大助力。高层推动下各级政府正广泛参与算法化进程，相信在不久的未来会形成算法全面嵌入政府治理的态势。“算法治理”作为21世纪重要的治理范式，虽确可提高行政效率和行政理性，但算法技术是简化和封闭的工具，不仅要将拟解决的任务分解为按照特定步骤执行的命令集，还需确保不受外部干扰。这意味着算法治理不仅可能缺乏必要的透明度，还会隐藏分类和决策的道德维度，易引起算法歧视或偏见、算法操纵等问题。故，消除算法治理的弊端以彰显治理优势，成为推进国家治理体系和治理能力现代化的必然要求。
近年来，学者愈发关注人工智能和算法技术嵌入政府治理活动的现象，相关研究可分为两类：一是对嵌入政府治理的算法技术进行规制，即“对算法的治理”。如人工智能对政府治理模式的革新、以杭州城市大脑为例检视人工智能嵌入政府治理活动的风险、剖析算法辅助公共领域决策的规制挑战，进而从法律、伦理和技术层面提出解决方案。并且，相关研究日益精细化，如深度剖析技术资本侵蚀行政权力、公共领域的算法偏见、人工智能等技术对街头型官僚自由裁量权的影响等问题。二是将算法治理作为一种新型治理形态，分析和强调其对既有政府治理范式的革新与挑战，即“对‘算法治理’的解构与建构”。如有学者提出“数字治理生态理论”揭示技术融入政府治理的理论范式；也有学者认为算法官僚会产生四重委托代理关系，挑战着既有官僚运行秩序和逻辑，需建立事前、事中和事后监管机制，从技术与政治双重路径加以控制，或提出分布式责任形式修补算法治理中的责任问题，或关注算法治理中决策公平问题。
与“对算法的治理”相关的研究日益细化，且较深刻揭示算法嵌入政府治理活动引发的问题。但本文并非关注“对算法的治理”，而是将“算法型官僚”作为一种新型治理行为体，剖析“算法治理”的优势及弊端。而与“对‘算法治理’的解构与建构”相关的研究暂逊于“对算法的治理”相关研究：一是国内相关现有研究不及域外；二是国内现有研究缺乏对“算法治理”演进历程的归纳，尤其是未明确从技术嵌入流程角度构建算法治理的规范路径；三是现有研究更多从价值、监督、透明等微观角度构建规范“算法治理”的规则，从“个人→政府→社会”宏观角度勾勒“算法治理”弊端的研究相对较少。本文拟从算法嵌入政府治理活动的宏观视角剖析算法治理的结构面向，分析算法治理的优势和弊端，并提出消除弊端的应对策略。文章主要分为四个部分：第一部分主要梳理算法嵌入政府治理的过程，并将这一过程概括为“政府治理算法化”，进而阐明其治理优势；第二部分主要分析政府治理算法化的潜在弊端；第三部分则分析政府治理算法化弊端产生的原因；第四部分尝试消除上述弊端。
二、政府治理算法化的演进与优势：三次转变与两大利好
“没有信息化就没有现代化。”促进政府信息化是革新政府治理理念和方式、形成数字治理新格局、推进国家治理体系和治理能力现代化的重要举措。纵观我国电子政务发展历程，从纸笔办公到智能化行政实现了根本性转变。
（一）政府治理算法化的演进历程
1. 街头型官僚向屏幕型官僚的转变
在信息通信技术出现前，公共部门处理社会事务需行政人员去现场，或公民去政务大厅。完全依靠纸笔的人力办公，成为这一广阔时间跨度的显著特征。此时，在公民与“大型决策工厂”的互动中，行政人员，尤其是基层行政人员或街道办事员扮演着重要角色。他们据成文规则或律法，按既定行政程序，将法律法规和行政程序适用于个案，享有较充分的自由裁量权。尽管最终的行政决定是以行政机关的名义下达，但实际上却是由他们作出。按Lipsky的观点，此时政府治理模式属于“街头型官僚”（street-level bureaucracies）。其主要特征是基层行政人员直接与公民面对面交流，以纸和笔记录信息，按照成文规则的既定程序，在允许的自由裁量权范围内作出决策。
1994年互联网的接入，为我国政府信息化带来新属性，政府可以借助万维网更好地响应公众需求和服务社会。21世纪第一个十年，互联网技术的快速发展使基层行政人员或政务大厅的窗口职员日益被网站取代，节省了大量人力和时间成本。此时，通过计算机将公民和政府连接，减少了行政人员上街频率和范围。统一格式和材料填写要求，使行政机关迅速成为“嘈杂的信息精炼厂”。即作出行政决策所需的信息存储在计算机中，行政人员只需在屏幕前，按既定行政规则、程序和原则，凭借经验逻辑和价值取向，在法律允许范围内作出决策。此时，行政机构及工作人员已不是曾经那般：在巨大建筑内部狭小拥挤的办公室内，一大群行政人员被堆积如山的文件所累，紧锁眉头地签注各种文件，并将其复制多份。取而代之的是：一间干净整齐的现代化办公室—— 一台台高性能计算机和一个个坐在屏幕前的行政人员。这意味着信息通信技术的嵌入，使街头型官僚转变为屏幕型官僚（screen-level bureaucracies）。
2. 屏幕型官僚向系统型官僚的转变
2014年以来，信息通信技术快速发展，一方面革新了信息收集、处理等工作范式，另一方面也为认知设计、决策常规化和标准化奠定了基础。政府为追求行政效率、降低决策成本，将部分行政程序和决策模式计算机化、流程化。只要将案件相关数据输入计算机，就可自动生成决策。行政决定虽仍是行政人员作出，但他们更多只是点击鼠标选择接受或拒绝计算机作出的决策。借助快速发展的信息通信技术，政府信息化水平和行政能力得到长足发展。如2018年深圳实行的“普通高校应届毕业生引进和落户‘秒批’工作方案”，只要申请人提交的材料完备，系统将依预先设置的程序及标准审批，并将结果发送至有关部门和申请人。
此时，屏幕型官僚已向系统型官僚（system-level bureaucracies）转变。随着数字政府建设进程的推进，各数据库逐渐融通，政府各部门的计算机和数据库组成一个巨大系统，作为“微粒人”的个人存在于不同的子系统中，同时或不同时地成为不同部门的决策对象。在这个新型行政构架中，表格处理人员取代了原来坐在屏幕前方的决策人员，屏幕型官僚的决策工作逐渐变为将处理案件所需的数据输入系统。然后，计算机按照预先程式化的流程作出决定，并分发给被决策对象。在被决策对象提出异议时，将申请转交给行政人员进行复查、评估。这时，先进的专家系统正在取缔案件管理人员和裁决人员，行政机构正迅速成为“安静的信息精炼厂”，其中大多数决策是由预先设置的决策树作出，而不是由行政人员组成的嘈杂“决策工厂”决定。这一阶段行政机构的现实场景更多是：一间办公室里摆满了轻轻嗡嗡作响的服务器，外加受理反对意见的行政人员和少数系统管理员。
3. 系统型官僚向算法型官僚的转变
在复杂治理需求和环境下，政府需要更高的治理能力来更好地预测公共需求，也就愿意接纳新技术来获得“合理的行政管理机构”的新身份。算法强大的学习能力和自主性使其逐渐嵌入政府治理活动，主要有以下两种作用形式：
一是辅助人类决策，也是当前算法在政府治理领域最常见的应用。如纽约州假释委员会推出的“罪犯惩教管理系统”，以辅助量刑和再犯预测功能助力法官裁判，成为当前美国应用最广的智能辅助量刑系统。在我国，2017年上海市高级人民法院研发的“智能辅助办案系统”，辅助办案人员对证据审查。此后，我国多省市检察机关研发或引入智能量刑辅助系统，辅助检察官进行量刑答辩或法官裁判。
二是取代人类决策。算法通过程序化和自动化决策结构中的“人类机构编码”来替代人类决策。如政务新闻推送算法取代了传统编辑，由算法据个体偏好精准推送。如“i厦门”App根据用户需求推送政务信息，且在具体场景中会自我优化，以更好实现推送功能。在美国，洛杉矶市借助VI-SPDAT系统实现无住房者与社会救助性房源匹配的自动化。此系统分为排名与匹配两种算法。前者收集无住房者信息并与洛杉矶无住房者管理信息系统对接，自动对无住房者评分（1—17）。0—3分者被判定为无需住房干预；4—7分者有资格获得有限期租金补贴或其他帮助；8分及以上者有资格获得永久性福利房。后者用于识别“最需要该特定住房的人”和“符合特定资格标准的人”。匹配成功者获得住房，反之匹配算法将再次运行直至出现适合的匹配者，而未匹配成功者进入等候名单。此算法系统使无住房者免受复杂且耗时的街头型官僚程序，极大提高了无住房者与救助性住房分配的匹配性和效率。
辅助决策的算法系统，实际是引导人类决策；取代人类决策的算法系统，将决策阶段的自由裁量权前移至数据收集阶段。尽管现阶段算法嵌入政府治理仍无法完全摒弃人类自由裁量权，但在官僚主义类比视角下，取代人类决策的算法系统会形成新行政机制并重新分配行政权力，而现有规则多以“自上而下式工具理性”观念设计，需多维度前瞻性研究来解构算法治理的全景。
上述算法嵌入政府治理活动的过程可称为“政府治理算法化”，即在智慧政府建设中，政府围绕使用智能算法进行行动和决策来改变其社会治理工序，逐渐由智能算法代理的过程。政府治理算法化将学习算法与系统型官僚融合，以“数据+算法+算力”为支撑，开始向“算法型官僚”（algorithm-level bureaucracies）转变，使算法治理（algocracy）成为未来方向。在算法型官僚的高级阶段，行政权威甚至不需要韦伯意义上的合法性，因为要么没有替代路径，要么这些路径本身是预先给定和程序化的。而且，智能算法具有生成权威命令的能力，在一定程度上扮演着控制机构的角色，颠覆了人类与机器的单向关系，使行政机构逃离“克罗齐埃陷阱”成为可能。
若“人力治理”是“纸笔政府”的原始阵地，“信息治理”（infocracy）是“信息政府”的主战场，那么“算法治理”就是“智慧政府”的新场景，街头型官僚→屏幕型官僚→系统型官僚→算法型官僚的转变过程，就是政府治理能力伴随技术发展的进化史（见表1）。这一转变并非是对行政人员或政府的全面取缔，而是深化和扬弃了治理主体与治理技术间的“社会-技术关系”，宣扬了一种理性法律权威，进而改变了政府的组织形式和治理范式，使算法型官僚能适应复杂社会治理需求和决策环境，切实推进政府治理体系和治理能力现代化建设。
（二）政府治理算法化的治理优势
政府治理算法化为提高政府治理能力与革新治理范式提供了新途径。治理的合理性增加、权力运作模式的转变以及决策程序的关闭，凸显了算法技术在政府赋能和社会赋权上的显著优势。
1. 政府赋能：治理能力的转型升级
政府治理算法化不仅“推动政府治理从经验转向数字化、从被动转向自动决策模式”，还降低了政府治理成本和不确定性、提高了行政效率及政策制定的精度与质量，极大提升了政府的治理能力。
第一，政府治理算法化降低政府治理成本。从治理主体角度看，帕金森定律和社会分工细化，预示行政机构层级和人员增多，导致治理主体成本畸高。算法的介入取缔了负责基础工作的行政人员，降低了治理主体成本。从治理资源角度看，特定时间内的治理资源有限，而经验逻辑下的人力决策受制于信息不对称和生理局限，难免存在资源浪费现象。通过对复杂现实做更全面观察，算法与大数据合力可准确分析被治理对象的需求并给出最优治理策略，避免治理资源浪费。从部门协调角度看，部门分工细化与治理复杂化，意味着政府治理有时需多部门协同，行政层级与部门独立增加了治理协调成本。政府治理算法化可使行政层级扁平化，快速协调各级别、各部门的治理资源，降低协同治理成本。
第二，政府治理算法化提高政府行政效率。治理范围、对象数量及事务复杂程度趋大，使行政部门和层级过多、效率偏低。智能算法可自行构建和优化模型，在摆脱人力干预和提高行政决策效率的同时，使各部门协调运作更便捷，对控制政府规模、简化行政程序有积极意义。如安徽亳州市2021年发布的“城市大脑3.0”已实现至少88项政策服务事项“免申即享”、数字城管助力城市精细化管理等，且亳州市人民政府正进一步推行并升级城市大脑项目，推进“数字亳州”的纵深发展。此外，基于算法的预测性行政可提高行政成效。算法基于个人、社会的历史数据，可发现并预测个体未来行为动向，对潜在社会风险预警。预测性行政改变结果导向治理模式，大幅降低行政延迟的可能性和矛盾化解的滞后性。
第三，政府治理算法化推动政府转型升级。一是经验治理转向数理治理。算法“把非结构化问题转化成结构性数据，把问题表述成可以有效地进行数据处理的形式”，借助数理逻辑解决问题可减少经验逻辑的不确定性。二是实现资源配置的智能化。治理资源配置决定治理成效，政府治理算法化能进行问题优先级排序和治理资源需求量评估，按治理需求实现资源分配的智能化。如“长三角生态绿色一体化发展示范区智慧大脑工程”将三省（市）部分地市资源打通，通过算法优化资源配置，让公众办事更便捷、跨域协同治理更有效。三是优化政府与公民关系。绩效考核过于注重效率而忽视被治理对象的意愿，疏离政府与公民关系。算法可“通过协作与激励机制的创新强化公众合作治理的积极性，将公众共同纳入社会协同治理的联合体当中，形成一个广泛的‘人-物联网’”，打造“技术逻辑+民意指向”的治理闭环，切实改善政府与公民的关系。如深圳免申即享、秒批秒办、无感申办等政策算法化、服务算法化的创新，让公众切实感受到政府治理水平和治理能力的提升。
2. 社会赋权：回应能力的显著提升
算法治理促进政府决策的中立性、去价值化，实现政府治理的回应性和公民参与性，拓展治理的公正维度和决策的可接受度。
政府治理算法化有助于克服决策片面问题，减少人为干预，拓展政府治理的公正维度。从治理信息全面性角度看，传统治理模式依靠人力感知和判断来决定决策信息范围，但人力有限导致决策信息不全面。算法可基于治理对象的全部信息制定治理策略、作出行政决策，能极大克服人力局限导致的决策偏差。从决策的价值判断角度看，决策主体潜意识、自身经历、道德观念等，会减损自然人决策的客观性。算法以“只注重数据的逻辑关系，不进行价值判断”著称，仅据决策信息作出决策，较大程度避免了人为干预和价值选择，可“有效避免传统政府治理模式下行政裁量的偏向性问题”。
政府治理算法化有利于及时全面收集民意，避免民意背离，提高政府决策的可接受度。一方面，“历史任务就是要使政治国家返回实在世界”，政府治理算法化就是使各类数据以信息的方式重返社会并服务于社会治理。政务数据、个人数据等数据源成为算法决策基础，有助于提升算法决策的准确性和全面性。另一方面，全方位渗透的智能终端助力获取公民言论等信息：通过算法分析网络舆论动向，甄别公众关注的热点、重点话题；算法的持续运行，可实时对民意追踪，便于政府掌握民意走向。政府基于实时高清“民意走向图”，可避免揣测民意的误差，有针对性地回应公众诉求，提高政府决策的可接受度。
三、政府治理算法化的潜在弊端：个人政府社会三个层面
（一）个人层面：决策理解与权利救济困难
第一，政府治理算法化可能侵害公民的基本权利。首先是个人隐私被刺探。随着社会数据化程度加深和智能终端渗透力增强，个人行为、言论日益被数据化并被捕获。个人在现实空间的生物化存在逐渐转化成虚拟世界的数字化存在。基于这些数据描绘的个人虚拟画像在便利政府治理时，也将个人隐私跃然“屏”上。“我看不见你，但你能看见我”成为这一时代，个人与数据控制者在隐私关系上的精准描述。其次是行为自由被限制。将权力交托于技术确可提高决策效率和行政监管的规范性，但对个人产生的直接或间接的影响力和控制力也有侵蚀个人行为自由的可能性。如在紧急突发公共卫生事件时，采用算法支持的健康码弹窗就是一大例证。当某项公共决策交由算法决定时，人们直观感受是只改变了决策工具，但算法介入的程式已然改变原有权力运行架构，算法技术从公共决策的辅助者跃迁为决策的作出者。由此引发疑问：政府治理算法化是否会导致官僚机构的“理性的自负”，进而去改造社会以扩大管控范围？最后是决策错误难以救济。在算法型官僚中，数据是治理的依据，算法是治理的核心，算力是治理的支撑。数据的完备程度与质量情况直接影响治理效能，为实现更高治理效率，有时需整合不同机构或部门的数据。这意味着依靠单个部门难以纠正其他部门的数据错误，导致基于多部门数据的算法决策难被修正。如荷兰公民Saskia汽车被盗，警方找到丢失汽车但未向其告知。因车辆登记机构与税务机关的数据系统是联通的，导致Saskia需承受高额欠税与罚款。尽管十余年后该案事实被查清，税务机构免除Saskia未缴欠税，但车辆登记机构与税务机关均无法修复或更改系统中已存数年的记录，也无法返还已缴税款。
第二，算法行政决策难以被公众理解。在传统政府治理场景下，解释人类决策有两种路径。一是法律体系构建的法治民主。人们生活在自己制定的规则下，可在救济程序中对规则的适用提出疑问，以打开规则（法治）的黑匣子，在治理者和被治理者间建立一个反馈回路。因此，所有生活在法治下的人都不是单纯被控制的对象，而是参与集体自治、对自己行为负责、对政府负责、对彼此负责的主体。二是人文社会科学的解释路径。在自然人决策中，尽管决策过程仍是在复杂的人脑中进行，但发展良久的人文社会科学为理解人类决策提供了理论主义途径，甚至现身说法为决策解读提供了实用主义路径。而政府治理算法化和它所支持的数据驱动机构正在打破这种平衡。从结构面向来看，通过在高度细化层面持续跟踪个人，政府治理算法化就像一面单向镜，允许那些缺乏窥视现实前景又无法解释算法的俯视者监视下面的人，进而让黑箱算法越来越多地规范人们日常生活。从规范面向来看，由具有高度技术复杂性的算法作出行政决策，不仅可能隔绝人类干预和感知，也会增加公民认知成本，更难以清晰解读算法决策的现实图景。最终，算法决策成为难以言说的“黑幕”，却分配着社会公共资源，塑造着公民行为模式，影响着个体权利与义务。
（二）政府层面：权力代理与主体责任游离
算法的技术面孔削弱行政人员自主性，并导致行政责任游离。就行政人员自主性减弱而言，算法技术为政府治理范式变革带来契机，使行政人员开始借助算法技术缓解治理压力。在政府治理算法化程度持续深化的背景下，行政机构自身技术储备不足和行政人员算法技术素养欠缺，导致行政机构及其工作人员在人事结构、权力异化和组织变革等方面对算法嵌入政府的影响认识不足，可能出现行政人员管理和组织能力退化，个案评估能力下降的问题。就行政责任模糊化而言，主要体现在两个方面：一是算法治理导致行政责任主体模糊。政府治理算法化涉及多方主体，在算法决策致害后，行政人员以权力转移为由推诿责任，难以确定责任主体。如2020年12月，斯坦福医学中心在利用算法决定疫苗接种顺序时，将99%以上的疫苗优先分配给高级管理人员和远程接诊的医生，而医院一线工作人员仅获得0.14%的疫苗。此后引发巨大争议，但医学中心负责人将事件责任归咎于算法。二是算法嵌入政府治理导致行政责任边界模糊。算法决策依赖于数据和算法，但因算法的不透明和复杂性、数据的完备程度和瑕疵情况，致害责任应在多大程度上归于行政人员难确定。况且信息是“问责的命脉”，但算法的不透明性、保密性、专有性和复杂性，导致问责所需信息不充分，阻碍算法责任的落实。此外，政府治理算法化也使正当程序与比例原则被冲击。因数据收集和共享不透明、问责困难，行政机构会将数据正确性责任转嫁给其他组织，导致正当程序原则受到威胁；因检测和修正错误后果的责任被转移给公民，甚至需对多个组织控制的信息进行更正，导致比例原则被颠覆。
算法的资本面孔导致技术公司俘获行政权，并易致使行政权力流失。碍于政府自身技术水平，需算法公司及技术人员协作来完成算法部署。通过政府采购或公私合作的形式，算法逐渐嵌入政府转型、治理升级和组织架构中。在此过程中，算法公司及技术人员渗透到政府各个层级，演变为“算法影子官僚”，并且算法公司利用技术优势入驻政府内部，凭借算法部署活动完成算法与行政权力的融合，使大型科技公司逐渐进入行政权力行使层，为俘获行政权力奠定基础。尤其是在逐利本性驱使下，技术公司利用算法操纵能力影响行政决策的制定与执行，可能以盈利思维驱逐公共价值，以算法秩序支配公共领域，谋取不当利益，导致行政决策背离公共治理意愿。如剑桥分析公司利用算法操作公众造成的“2016美国大选”“英国脱欧”事件即是典型例证。
（三）社会层面：破坏公平原则与民主进程
第一，政府治理算法化对社会民主的减损。其一，算法决策可能排除公众参与。“公众选举代表→代表决策→公众监督代表”的政治授权生态、诸如听证等公众参与制度，彰显了传统技术环境下公众参与政府治理的面向。算法虽可整合被决策对象的多方数据用以决策，但算法决策系统允许“将决策参数与决策前的所有结果联系起来”，并将决策过程封闭化，导致在算法决策时有排斥公众参与的可能，也使公众监督机制难落实。其二，算法存在驯服公民的嫌疑。在权力演进中，新技术通过对空间的分配、动作的控制、时间的调节和力量的编排，渗透到社会各个角落，用一整套方法、知识、描述、方案、数据和行为规范，而非暴力来“构建他人可能的行动空间”。算法的规训权力不仅在于其代码，还在于它成为规范化代码的方式。算法不仅拥有经典意义上的权力，还因作为治理技术为政府塑造或管理集体和个人行为提供了“有用的见解和良好的起点”。因此，无论是据信息权力理论、说明权力理论、数据权力理论还是心理权力理论来解读政府治理算法化，算法均正在驯服公民，有使公众沦为“全景敞开式数字牢笼”中囚徒的嫌疑。其三，政府治理算法化抑制社会活力。政府治理算法化的基础是个人及其活动数字化组成的大数据，这些数据在填喂算法时脱离了数据主体的主观性和生活经验，并被构建为仅具计算特征的数字角色。它们不产生主体化，却旨在构建与单个主体重新连接的可管理数字主体，并与基于个体历史数据预测的未来，共同成为政府治理的基础。政府治理算法化的核心其实是一种与生物权力或田园权力无关，而与数字炮制相关的新真理制度，构成控制社会公众的机械判断基准。大幅推行与持续渗透由算法治理塑造的“可能的行动空间”，将削弱人类主观能动性，侵蚀人的价值意义，抑制社会活力。
第二，政府治理算法化对社会公平的破坏。首先，算法技术的中立性存疑。技术是文化与政治的工具，其本身就荷载着当时的社会价值。算法技术的发展须以在先技术为基础，在先技术的价值取向会被在后的算法技术承袭，且算法设计、目标设定、问题定义、数据筛选无不涉及价值选择。即使在算法决策时隔绝了直接的人力干预与价值选择，但隐藏在技术设计与目标设定中的价值倾向依旧克减着算法中立性。其次，少数人掌握权力造成不平等。“技术的胜利，似乎是以道德的败坏为代价换来的。”尽管算法并非新技术，但普罗大众仍难理解算法技术的复杂性。资本与技术的联姻使算法权力与行政权力杂糅，共同作用于社会，导致本应服务社会公共利益的算法，“将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中，造成前所未有的社会及政治不平等”。再次，算法偏见有悖社会公平。算法偏见陷入难发现、突破和自我纠正的循环中，使算法的预测成为“自我实现的预言”，甚至出现“行政排斥”现象。2019年，拉希达·理查德森（Rashida Richardson）等人的研究表明，美国多个辖区的警察部门使用的预测系统可能建立在过去歧视性和非法的警察实践之上。在包含“脏数据”的历史数据上训练的算法，必然会破坏依赖这些数据的预测系统的中立性；而产生的包含偏见的数据又被作为训练数据进一步巩固偏见。最后，算法治理无法进行价值选择。在传统政府治理中，原则性地对所有人一视同仁是形式公平的要求。但为追求实质公平会在特定条件下做例外处理，是价值选择的体现。但政府治理算法化在一定程度上摒弃了价值选择，在数理层面机械地践行公平理念，导致理应被特别对待的人得不到公平待遇，在一定程度上导致社会价值消泯。
四、政府治理算法化的弊端成因：算法的多维度局限
分析为何会出现上述问题，是消解政府治理算法化负面影响的关键。算法在网络世界扮演着基础架构和规则制定者的角色，且逐渐溢出到物理世界并影响着权力运行与资源配置。可以说，算法在技术、权力和社会维度的特性正赋予其独特的社会价值和规范含义，在加速社会变革的同时，也使革新的阵痛更为明显。
（一）技术维度的局限性：技术负面效应的叠加
第一，算法自主学习能力的负面效应。机器学习算法逐渐有摆脱人为编程的可能。在传统技术条件下，算法完全依赖人类编程，喂养算法的数据需人为标注，否则无法产生准确输出。人为可编程性意味着可治理性。早期的算法设计，工程师可清楚地解释算法原理、每一个指令的目的与作用，必要时可调整算法参数。而机器学习技术赋予算法从新数据中提取相应价值以完善模型的能力，在技术本身复杂性的基础上进一步隔绝了人类感知，增加了人类认知和理解算法的难度。或许算法工程师能理解自动化算法决策原理，但缺乏相关技术知识的行政人员很难理解，而不熟悉治理算法的普通民众认知难度更高。
第二，算法黑箱特性的负面效应。首先，技术本身的黑箱属性。技术复杂性、保密性、使用者的刻意隐瞒，以及公众相关技术知识的匮乏，共同导致算法难以被人们理解。其次，决策信息的难开示性。在算法型官僚中，数据获取或已摆脱行政人员人为收集和输入的要求，遍布社会各个角落的感应终端可收集大量数据、行政相对人自己主动填写的信息，以及政府以采购和公私合作等形式从外部采集的信息，成为算法决策的基础。要在行政相对人有异议时开示上述数据，不仅面临规模上的阅读阻力，还因数据涉及他人隐私、商业秘密或国家秘密不便公开。最后，算法技术的误差。技术是人类有意识的活动，必然荷载着人类的认知局限和社会价值取向。算法虽展现出一定自主性，但不可避免存在缺陷，如自身不能识别歧视或消灭歧视等。这意味着“终极算法”并不存在，算法运行的偏差和算法治理的副作用也就无法根除。
（二）权力维度的局限性：算法权力解释难度大
“代码即法律”深刻揭示了算法在虚拟空间的地位。经过多年发展，算法早已外溢到物理世界，并逐渐参与社会规则制定、资源分配和规范构造。尽管物理世界的算法不像虚拟世界中那般神话，但也影响着社会的方方面面。具体到政府治理中，算法权力或来源于行政权力的外化，或是通过技术赋权实现的。但前者主要将算法作为治理工具，故以技术赋权产生的算法权力更值得关注。此类算法权力主要表现在：第一，算法通过介入政府决策，改变行政权力的分配，参与社会资源配置；第二，因制定规则和本身就是规则，算法在拥有传统权力时，与传统行政权力共同勾勒着社会运行框架；第三，算法通过潜移默化而非惩罚或强迫的方式进行规训，影响着人们的思维方式和行为模式，塑造社会行为规范。
“权力是需要解释的东西，而不是提供解释的东西。”但解释算法权力存在难题：一方面，解释算法权力的主体发生偏移。传统技术条件下，权力的解释主体可以是权力拥有者，也可以是被权力支配者。但在政府治理算法化中，算法决策指向的对象被排除在解释算法权力的主体之外，甚至在一定程度上也排除了行政机构，反而更多由算法技术人员负责解释算法权力。另一方面，算法权力解释难度增大。在政府治理算法化中，“算法因机器、潜入、架构和资本优势，横跨虚拟和现实世界、公权和私权领域，隔绝人们的理解”，不仅导致解释人与算法、行政机构组成的“数字集体行动者”的权力构造存在困难，也使想要清楚解释算法权力的生成、演变与运行机理困难重重。
（三）社会维度的局限性：硅基文明抑制碳基文明
“按照马克思的观点，正如人的本质不是具体的抽象意义，技术的本质也不是某些抽象的物，它实际上体现的是一种关系。一方面体现着人与自然界之间的一种客观的物质、能量和信息的交换过程，另一方面也反映着技术形态中人与人及人与社会的关系。”相比于人与自然界间的交换关系，技术所反映的人与人及人与社会的关系才更值得人们思考。同理，算法技术映射的人与人、人与社会的关系应是技术哲学和技术伦理的核心命题，也是技术使用者应关注的话题。就政府治理算法化而言，政府通过“渗透-传导-生成”机制实现的政府治理转型，在快速地全方位改变和影响人们生产生活的同时，技术伦理图景却未跟上技术发展与应用的步伐，使技术道德成本增加。
一方面，硅基文明大肆兴起，为高效迅速的秩序奠定了基础。在智能时代，以计算机为载体，以大数据和算法技术为支撑的硅基文明正快速崛起。以效率和成本为考核指标，革新了社会运行模式，为塑造高效迅速的秩序奠定了基础。尤其是政府治理算法化进一步使硅基文明迈入权力阶级，以个人数字画像为基础进行的智能治理，将个人视为算法规则下的粒子，加速了“微粒人”的流动性和治理性。另一方面，碳基文明被降格，人类精神文明与伦理图景被弱化。随着硅基文明的兴起，作为孕育社会秩序和人类精神文明的碳基文明正日益被压缩。人类决策让位于算法决策，人类劳动被机器作业取缔，人类的价值与意义备受冲击。如当下人们如此关注科学、技术、工程和数学的STEM知识框架，以至于解释现实的人文社会科学知识框架几乎“过时”。在硅基文明的入侵之下，作为孕育人类精神文明和伦理图景的人类价值与生物灵性正被忽视；在现代技术的限定与强求下，包括人在内的一切事物都失去了自身的质、独立性、价值和意义，展现为单纯可被加工的遭受着技术暴政的千篇一律的物质，进而“融化成被谋算的市场价值”。
五、政府治理算法化弊端的消除：管理法律文化三重视角
算法在技术、权力和社会维度的局限性，导致政府治理算法化在个人、政府和社会层面的弊端，可从管理、法律和文化三个视角来因应。
（一）管理视角：推进负责任的算法化
政府制定算法部署政策并由专门行政人员负责算法化，技术专家通过定义拟解决的问题并按相关要求部署算法，对算法决策进行监测与评估。在治理算法达到要求后投入使用，并将相关决策送达行政相对人。按算法技术的应用流程，可将政府治理算法化至少分为算法技术、技术专家、部署政策、决策数据、监测与评估、负责算法化的行政人员六个环节。只有保证上述环节的可靠性，才能保证算法化的质量以促进政府治理算法化的规范进程，才能让社会公众从中切实感受到政府的能力、正直和仁慈，提升公众对政府治理算法化的信任度。
第一，算法技术。算法技术是政府治理算法化的基础，至少涉及算法设计和算法引入两个层次的问题。前者是开发能用于政府治理的算法，后者是政府在治理中引入算法。就算法开发而言：一要嵌入除效率之外的公平、民主和诚信等价值；二要确保用于开发或训练算法的数据不包含明显歧视或有违治理目标和价值的特征；三要科学合理界定所需解决的问题与治理目标，考虑治理目标与相关价值敏感度的关系。就算法引入而言：一是在部署算法前应就算法设计、部署、使用等环节的可能风险和漏洞进行评估，并分析算法应用后产生的意识形态、社会公平、道德伦理等风险；二是在政府部署算法时，需保证算法部署行为与行政权力相对独立或在严格规范下进行，避免算法公司借助技术与资本优势俘获行政权力。
第二，技术专家。政府治理算法化进程的推进有赖于技术专家的协助。而技术专家对拟解决问题的理解和定义、自身的技术伦理和道德水准，均是影响算法化过程的重要因素。因此，一方面，要事先对拟聘请的技术专家进行甄选，对其技术伦理进行测评或进行技术伦理培训，并严格规范技术专家的算法部署行为；另一方面，须考察技术专家是否注意到或理解所需考虑的价值，以及他们是否有足够的价值敏感度来平衡政府治理算法化的价值追求。
第三，部署政策。科学制定政府使用算法进行社会治理的策略，尤其是与算法部署框架、指导原则、目的、使用责任、算法系统维护等相关的具体策略。只有科学合理的算法部署政策，才能为政府引入算法的过程提供明确的规范指引。
第四，决策数据。算法是将输入按照一定规则转化为输出的工具，“垃圾进，垃圾出”形象描述了输入与输出的关系。因此，治理算法的输入至关重要。只有确保赖以作出决策的数据的合理性，尤其是消除数据中的偏见，同时考察新数据组合所反映价值的合理性，才可能保证决策的合理性和正当性。
第五，监测与评估。无监督学习技术赋予算法更高的学习能力，可据应用场景优化算法，摆脱人力编程和干预。这意味着算法设计、运行和决策有逐渐脱离人类控制的可能。因此，对算法决策的监测与评估，就成为避免政府治理算法化弊端的重要方式。在推进可信任算法化过程中，须审查政府是否有对算法决策结果进行监测与评估的制度，来审核政府治理算法化的价值结果。只有切实做好对政府治理算法决策的监测与评估，才能实质减少算法妨害。
第六，负责算法化的行政人员。政府治理算法化过程不仅是对单个部门的改革，更是对整个政府系统架构的革新。为统一和协调部门或机构间的算法化，需明确负责算法化的人员。因为他们是控制算法化进度及效果的直接责任人，也是最熟悉算法部署与算法应用的人员，明确责任人对可信任算法化的推进和可责任的算法化均有重要意义。
（二）法律视角：建设可责任的算法化
除规范算法部署行为外，为回应政府治理算法化中主体责任游离问题，须落实主体责任，建立相应问责制。问责制是指对其他人负责，有义务解释和证明作为和不作为的正当性。问责过程由信息、解释或理由，以及后果三个阶段组成。其中，信息致力于减少问责主体与决策主体间的信息不对称；解释或理由是就观察到的错误或损害结果向决策主体提出问题并要求其解释，以证明具体决策的合理性；后果则是基于损害结果对决策主体实施制裁，责令其采取措施来解决或纠正错误决策，并为受到不利影响的主体提供救济。
1. 以算法透明保证问责所需的信息
若缺乏必要的透明度，那所需评估的事实不可用，问责制将难以实现。需建立政府治理算法透明机制来满足问责信息需求。即在可责任的算法化项下，提高政府治理算法决策的透明度，要求算法决策相关信息是可被行政相对人获取的。
就公开内容而言，政府治理算法的透明度要求算法技术、技术专家、数据关系、部署政策、监测和评估、负责算法化的行政人员等在政府治理算法化中的作用信息，可被公众获取。尤其是有关决策过程的输入和输出信息，包括使用了哪些数据、应用了哪些决策规则以及结果如何等信息。
就公开范围而言，应据公开内容涉及的利益类型区别对待。如作出决策所依赖的数据是个人隐私信息、涉及商业秘密或国家秘密的，应尊重私主体或国家的合法权益，采取特定主体知悉的模式作小范围公开或不公开。而对算法技术、技术专家、部署政策、监测和评估、负责算法化的行政人员等信息或其在政府治理算法化中的作用，需对社会公开。
就公开形式而言，应采取易读性标准。算法作为专业性较强的技术，即使是相关专业人员也难保证对算法所有技术细节与运行原理如数家珍，更何况作为不具有相关技术知识的普罗大众。因此，在事前公开政府治理算法相关信息时，应采取易读性标准，确保社会公众可理解公开内容。
就公开时间而言，考虑到政府治理算法化是较为烦琐的动态过程，应采分阶段公开的方式。在政府引入算法之前，应就部署政策、负责算法化的行政人员、算法招投标等信息进行公开；在算法部署阶段，应公开算法技术、技术专家、数据关系、监测和评估等相关信息；在算法部署完成后，若对算法进行了维护升级、数据比重调整等，需及时向社会公布。
此外，政府还应设置信息反馈渠道。算法公开不应仅限于政府向社会公开，还应允许社会公众提出疑问或意见。政府应设置相应的信息反馈渠道，并及时告知异议者或申请者相关事务的处理进度及结果。
2. 以算法解释审查治理决策理由
对算法决策的解释或理由，要求特定主体对算法决策进行解释说明。在政府治理算法化过程中，当行政相对人对算法决策提出异议时，应要求对算法决策进行复核或审查的行政人员作出解释或说明，以证明算法决策的合理性或正当性。
就解释主体而言，政府治理算法所作行政决策，是以行政机关的名义向行政相对人作出的。当行政相对人认为具体行政决策侵害其合法权益时，负责算法化的行政人员应进行解释。在必要时，行政机关可要求部署算法的技术专家提供说明或解释，进而判断该决策是否合理。
就解释内容而言，应包含算法在决策中的作用、技术专家给出的专业意见及原因、为何要以及如何使用这些数据、政府为何制定相应的算法政策、政府治理算法化的可能影响等。特别是对算法决策原理（算法决策树）、各数据权重（不同类型数据在决策时的影响力）等内容的解释。
就解释标准而言，应采用可理解性和可救济性标准。可理解性要求行政人员或算法技术人员提供的解释，应是可被行政相对人理解的；或通过相关解释能使行政相对人知晓算法决策是如何作出的以及其存在的意义。可救济性意味着对算法决策的解释能满足相对人寻求法律救济的需要。
就解释触发机制而言，究竟是选择对社会公众有利的“有异议就触发”，还是出于节省行政成本的考虑选择“有重大影响时触发”？前者会导致行政机关负担过重，而后者对社会公众保护不足。但既然行政复议和行政诉讼是以“行政相对人认为行政机关所作的行政行为侵犯其合法权益”为条件，来充分保护行政相对人的合法权益；那么“有异议就触发”并不存在法理诘问。尽管“有异议就触发”会增加政府成本，但这并非政府拒绝对社会公众进行保护的正当理由，更何况是政府主动将算法引入其治理过程，就需努力避免政府治理算法化的负面效应。
3. 明确决策错误时的救济方案
在算法决策错误时，应重新作出决策或对被治理对象进行救济。
情形一：在确定算法所作决策确有问题，且能重新决策时，应撤回先前错误决策并重作。不过，根据错误来源，可要求不同主体协助。若决策错误是个人数据原因，可要求行政相对人完善或重新提供数据；若是政府可修正的原因导致，应要求行政人员作出调整；若是算法自身原因，应要求专业人员及时完善算法，必要时应追究技术人员的法律责任。当然，不论是何原因导致算法决策妨碍，均应及时告知行政相对人，或在必要时向社会公告。
情形二：即使重作决策也无法消除错误决策的不利影响，或无法作出新决策时，应赔偿相对人所受损害，或为行政相对人向其他机构寻求救济提供帮助。在政府治理算法化中，因数据流动的范围广、存储多元等特征，存在无法救济或寻求救济难度大的情况，如行政部门相互推诿、以保证数据完整性或以数据由其他部门控制为由拒绝补救。因此，若行政相对人向其他机构寻求救济，或要求其他机构对其控制的数据作出必要且可行的调整时，原决策机关应提供必要协助。同时，为保障行政相对人的合法权益，行政机关应采取措施降低行政相对人寻求救济的难度。如对错误数据修正难问题，可考虑采取“唯一的真相来源”机制，即由特定部门统计或保存数据，其他组织不再复制数据，而是在有需要时进入特定部门系统查新。
管理和法律视角保障的是负责任与可责任的政府治理算法化。算法是基于输入转化为输出的工具，鉴于负责任的算法化须贯彻至算法技术等六个环节，可责任的算法化是将政府治理算法化中的责任落实到相关人员，可绘制出治理算法工作流程简图（见图1中透明方框部分），并将管理视角路径（见图1中灰色方框）和法律视角路径（见图1虚线方框部分是透明度流程，右侧“A→E”和“1→3”是可解释性的两种路径）进行叠加，具体如图1所示。
（三）文化视角：提升全社会算法德性
尽管政府治理算法化可引入数理逻辑取代经验逻辑，但算法的部署和运行仍需人类参与，算法的社会效应也及于社会全员，且技术官僚制与行政官僚制依旧并存。因此，有必要从文化角度以教育方式回应政府治理算法化的弊端。
第一，算法技术教育。算法的复杂性、保密性、技术盲点以及使用者的刻意隐瞒，导致算法成为隔绝公民感知的“黑幕”。算法的保密性和使用者的刻意隐瞒，可通过算法公开等制度解决，但技术本身的复杂性和技术盲点，则需借助算法技术教育化解。算法技术门槛较高，意味着应将诸如编程等计算机课程作为通识教育予以普及。一方面，提高全民算法技术知识储备，理性看待算法技术的优势及限度；另一方面，应培养公众的算法基础知识，能满足维权时的阅读和理解需求。只有技术教育与技术应用处于匹配状态，才能最大程度释放算法技术的优势，并避免算法妨害的发生。
第二，算法伦理教育。技术的进步既能促进道德进步，也能导致道德退步。政府治理算法化的进程仍伴随人的足迹，为避免出现道德退步现象，应加强相关人员的算法伦理教育。首先，强化数据伦理教育。算法运行的前提是有足够的数据，数据质量直接决定了算法成效。为避免算法歧视，应要求数据处理者尽量避免将个人价值融入数据，也尽量消除所用数据中的不合理属性。其次，强化算法道德教育。尽管机器学习赋予算法自主学习能力，但尚无法完全摆脱人的干预。应加强相关人员的伦理要求，从设计、部署和应用阶段减少算法妨害的发生。最后，算法正义教育。政府治理算法化的目的应是在追求公平正义的基础上保证效率，为避免算法治理的偏颇，应加强正义理念教育，增强政府治理算法化的正义之维。
第三，算法文化教育。随着算法从计算机领域进入到社会科学领域，改变了社会文化发展的结果，尤其是作为权力、话语和行动者的算法，应进一步被公众认知。除算法技术和伦理教育外，对算法在社会科学领域的影响及其“祛魅”也应被重视，尤其是应注重从社会科学等角度解构并重构算法“神话”，阐释算法的社会规范含义，正确引导公众对算法的认知，培育科学的算法文化。
六、结语
算法的技术优势与社会治理需求正将系统型官僚推向算法型官僚。在极大提升政府治理能力的同时，算法的技术、权力和社会维度的局限性使政府治理算法化过程易滋生个人、政府和社会层面的难题。有鉴于此，本文从管理、法律和文化三个视角助益于政府治理算法化的部署设计和责任落实等，提升政府治理算法化的正义、效率和可信之维。但算法嵌入政府治理活动是一个广阔维度的社会现象，其结构、规范和政治等含义均需更细致的刻画。本文主要是从宏观角度描述政府治理算法化的进程及其可能的利弊，剖析弊端成因并给出解决方案，但缺乏从具体视角审视政府治理算法化的叙事，尤其是未能就算法治理与自由裁量权、公众对算法治理的看法等微观问题进行雕琢。后续研究可从多重视角分析政府治理算法化在行政权力配置、社会治理等方面产生的深刻影响，如在把握公众对算法治理的态度、算法嵌入政府治理的深度与广度等现实情况后，从算法嵌入流程角度解析算法治理的原理，从微观角度描绘政府治理算法化的点线，从宏观角度总结提炼算法治理的政治规范含义，为认识、推进和规范政府治理算法化的面向提供真知灼见。
扫描二维码免费下载全文
本期目录
更多精彩 敬请关注
深入学习贯彻党的二十大精神
专题研讨：数字治理研究
王翔 白劼丨公民参与的数字化“回声”：信息公开如何塑造意见表达
魏远山丨智能时代政府治理算法化的优势、困境与应对策略
宋锴业丨制造灵活性：数字治理的组织生态及其制度环境——基于M省A市的实证分析
专题研讨：实验方法研究
马亮 吴培熠丨专题引论：复制公共管理实验研究正当其时
姚洁 孙涛丨联合实验方法在法律威慑领域的复制推广——以中国“醉驾入刑”为例
方学梅 高煜辰 樊妍妮丨公众如何感知公共组织绩效？——基于两项大样本复制实验的证据
王思琦丨提高公共管理实验复制的适应性：一种贝叶斯实验设计框架
论 文
孟凡蓉 张润强 陈子韬丨国家创新体系整体效能：概念内涵与分析框架
施文凯 董克用丨中国基本养老保险制度激励约束机制研究
郑国丨《周礼》中的城市管理制度及其历史演进
陈纪东 易路平 张安录丨政府规划权力配置及启示——基于美英空间规划法规的研究
孙景冉 黄楚君丨共同富裕背景下财政支出对慈善组织公益支出的影响——基于我国慈善基金会的证据