人工智能进入公共管理领域后,算法系统开始参与审批、分配和决策,一种被称作“算法官僚制”的治理形态逐渐成形。机器可以快速处理海量信息,减少人为偏误,但随之而来的问题是:当算法出错或产生不公时,谁来负责?如何确保这些系统在公共决策中保持正当性?这成为许多公共管理研究者关注的焦点。
我院行政管理系助理研究员刘若玄与韩雁冰将目光投向这一难题。他们的最新论文《Holding AI accountable like herding cats: The contingent impact on the legitimacy of algorithmic bureaucracy》近日发表于公共管理学科国际权威期刊Public Administration。该刊创刊于1923年,由WILEY出版社出版,2018年起成为美国政治学学会公共管理分会的会刊,也是公共管理学科五大顶尖英文期刊之一。
论文标题用了一个形象的比喻—像放猫一样对AI问责。猫不会乖乖排队,你很难让它们朝同一个方向走。在研究者看来,对算法系统的问责同样如此:试图用一套统一标准去约束复杂、分散且不断变化的AI应用,往往事倍功半。这篇论文的核心观点是,AI问责对算法官僚制合法性的影响并非固定不变,而是具有条件性(contingent)。换句话说,问责机制能否提升合法性,取决于具体情境、制度安排和技术特征。
这个判断挑战了“只要加强问责就能解决问题”的直觉。作者通过分析指出,问责不是越严越好,也不是所有场景都适用同一种模式。在某些条件下,问责可能增强公众对算法决策的信任;在另一些条件下,过度或不当的问责反而可能削弱合法性。这种条件性的视角,为理解算法官僚制提供了更细致的分析框架。
对于政府部门和公共机构而言,这项研究的实践价值在于提醒管理者:引入AI决策系统时,需要同步思考问责机制的设计。不同领域的算法应用—例如社会保障资格审核、城市管理中的资源分配、行政审批中的风险评估—面临的问责需求和合法性压力各不相同。简单套用一套流程未必有效,需要根据技术特点、公众期待和制度环境来调整。
论文也引发了对后续研究的期待。算法官僚制仍是一个较新的现象,其伦理与治理问题远未解决。如何在动态的技术演进中保持问责的有效性?如何让公众参与算法监督?这些问题值得更多跨学科探讨。刘若玄和韩雁冰的研究为公共管理学科打开了新的讨论空间,也为AI时代的政府治理提供了理论参考。
