算法正义不过是正义的一种表现,是正义在新兴科技领域的一种具化,鉴于权利衡平可作
为正义的衡量标准,权利衡平自然可作为算法正义的评价手段。
三、权利衡平标准下算法正义的检视
算法的发展与应用总体上呈现出对正义的发展与促进,但实践中也存在违反或威胁
算法正义的情形。鉴于权利衡平在算法正义评价中的应用价值,可依权利衡平为标准检
视算法正义的实现程度,并探讨算法应用中对正义的偏离及其矫正。
(一)权利衡平标准下算法正义偏离的呈现
算法正义偏离其一呈现为破坏平等原则。算法破坏平等或算法导致不公的表现包括
算法歧视、算法偏见、算法共谋、大数据杀熟等情形,其中算法歧视因其多样性、普遍性与
深远性而备受关注。算法歧视一般是指在运用智能算法进行决策或辅助决策时产生的歧
视性后果[14],具体可表现为年龄歧视、性别歧视、地域歧视、种族歧视、就业歧视、群体歧
视等。比如算法可能根据用户的年龄、性别、种族等身份差异做出决策结果,而使得长者、
女性、少数族裔等群体受到不平等对待,不仅违背了算法正义也破坏了社会正义。引致算
法歧视的原因很复杂,包括算法部署中的歧视、数据采集与输入的歧视以及算法自主学习
中的歧视等等,最终表现为算法输出结果的不公平、不平等。算法应用的本初目的之一是
维护平等、促进公平,但算法歧视不仅延续了社会原生的歧视,“甚至以算法为中介放大既
有的社会歧视与偏见,或者催生新的歧视风险、社会不公”[15]。
算法正义偏离其二呈现为违反自由原则。自由是人类追求的最高价值之一,算法应
用中却存在多重、多种对自由的违反,其典型侵害就是搜索引擎类算法使用过程中的算法
支配。搜索引擎的功能主要是整合网络信息并提供获取信息的源泉,但某些算法的技术
设计与应用却导致搜索引擎的输出结果有失客观公正,甚至对用户的认知产生误导,形成
用户所不期望的算法支配,实际上破坏了用户的自由选择权。比如当用户搜索“小学”时
搜索引擎所提供的结果可能是私立学校处于排行榜前列,由此可能导致用户产生“私立学
校优于公办学校”的误判。如若私立学校确实优于公办学校,当然无可厚非,但现实情况
往往是搜索引擎正在被算法部署者或运营者不当利用,成为操纵信息并干扰用户选择自
由的帮凶。更甚者,一些算法巨头利用搜索引擎构建互联网围墙,阻断网络信息的自由流
动,实际支配用户的选择,从信息源头上剥夺了用户的选择自由。
算法正义偏离其三呈现为威胁安全原则。算法对于人类安全的危害具有普遍性,这
通过学界对算法风险的分类就可见一斑。无论是按领域把算法风险分为社会风险、法律
风险与政治风险 [16],还是将算法风险分为技术类、数据类、决策类风险[17],或者将算法风
险具化概括为算法黑箱、算法歧视、算法垄断、算法支配等,足见在算法部署、运行与决策
的全部过程中都可能危害人类安全。加之算法本身所具有的高度技术性的特点,导致了
算法风险具有较大的隐蔽性,即使是计算机领域的专业人士可能也很难发现算法对安全
的威胁,遑论非专业人士对算法风险的察觉,因此算法可能侵害了安全但人类并不自知。
尤其是具备自主学习能力的算法其更新迭代速度远超人类的能力发展速度,人机技术鸿
沟不断加大,人类对算法的控制可能越来越弱,人类的安全将面临算法的更大威胁与
挑战。
(二)权利衡平标准下算法正义偏离的实质
算法引致的正义偏离的实质之一为权利被剥夺。在信息获取领域,算法推送的新闻
46