第二章　算法的正义与秩序革命

当今社会正在加速进入“算法政治”的时代。伴随着人工智能技术的成熟和广泛应用，算法已触及社会生活的每一个角落。从智慧健康到智慧金融，从智能家居到智慧教育，算法正悄然演变为统治一切的新型权威。

通过一系列预设规则和指令，算法不仅裁决着谁有资格获得银行贷款、谁将在面试中被录取、谁可以优先接种新冠疫苗，甚至还可以自行判断谁最有可能被解雇、谁会自动被降薪、谁最有可能犯罪。

尽管人们宣称代码是中立的，技术也是中立的，但代码中往往更容易内嵌严重的社会偏见，制造、强化并且注入种族歧视、性别歧视、宗教歧视等社会不平等现象。因此，当前在算法治理领域，学界和政界围绕“算法正义”存在争议：作为处理特定任务的模式化解决方案，算法究竟是推进了社会公正还是塑造了新的社会歧视？如果算法应用过程中有其负面性，又当如何约束其不良影响，进而建构公平、公正的算法秩序？

虽然“算法”这一概念在现实生活中广为人知，但其定义在学界却并没有形成高度共识。狭义的理解认为算法是用于解决特定问题的决策逻辑及技术，而广义的理解往往将算法视为建构社会秩序的理性模型，更深入的研究则对算法进行分类并特别关注“与公共利益相关的算法”。

就此而言，算法可抽象归结为有关具体任务的解题规则和解题步骤，反映的是设计者所偏好的价值观念与选择标准，在计算机领域主要表现为：哪些数据遵循什么样的标准和程序可以被挑选进入处理流程，进入处理流程的数据又该按照什么样的规则和逻辑被清洗、挖掘和重构，以及什么样的计算结果可以被认为是符合预期目标的计算输出。

从法学角度来看，算法是法律原则外化的符号。在佐治亚理工学院教授伯格斯特看来，算法就像“黑洞”，我们能清晰地感受到它的影响，却并不能对其内部一窥究竟。正因为如此，试图给出算法的一般性定义不仅困难，也是一个不可能完成的任务；而不同学科按照各自的理解与兴趣对算法的不同侧面展开研究则可能是更为实际的途径。计算机科学关注算法的模型与构成，社会学将算法视为设计者与技术参数互动过程的产物，而法学聚焦算法作为法律原则外化的符号或代表的作用。

就算法的规则属性来看，莱辛格教授提出的“代码即法律”无疑是研究的起点，不过他在十余年前对于该论断的解释并不足以完全回应算法治理在当前所面临的挑战。在莱辛格教授看来，“代码即法律”的意义在于回应了网络自由主义者对于“网络乌托邦”的想象。他指出，网络空间虽然能够避免政府干涉，但它却被置于市场主体这只“看不见的手”的完美控制之下，而后者正是通过算法来塑造网络空间的运行规则并进而对人类社会产生影响的。

莱辛格教授的洞察开启了社会科学对于算法的研究兴趣，不过伴随着技术演化与业态发展的进程，算法本身的生产过程及其对于人类社会的影响机制与结果都发生了巨大变化。就前者而言，在以机器学习为代表的第三次人工智能浪潮兴起的背景下，算法不再仅由商业公司（甚至不由人类）生产并控制，算法的自我生产能力决定了其作为“规则”的复杂性；就后者而言，网络空间与现实空间的不断融合使得线上和线下的边界逐渐模糊，原本局限于网络空间的算法规则开始对现实空间产生越来越多的影响。