算法偏见问题的技术权力互构论解析黄晓伟李育慧摘要：近年来的数据集下架潮、算法偏见大辩论使得算法偏见成为一个不可忽视的社会问题，这归根结底是由算法的政治性决定的。本研究从技术与权力的互构共生关系视角，批判了算法的价值中立论，在算法赋权的社会—技术系统中，算法作为非人类行动者参与到人类行动者的决策过程中。算法偏见可以区分出若干类型，其实质是当代数字化社会的一种形式偏见，可能加剧新兴的数字排斥。算法社会的道德底线应该是不造成算法伤害，避免算法作恶，同时还要从激励性伦理的角度推动算法的负责任创新，实现算法向善。算法风险的基本治理机制是算法透明，而同样重要的是算法问责。关键词：算法偏见;算法权力;技术与权力的互构;数字排斥;算法向善：B829;TP18文献标识码：A：1003-1502（2021）01-0039-10在启蒙现代性发端之初，英国哲学家培根发出了“知识就是力量”的时代呼唤。随着工业化进程的扩散，世界各国人民也确实见证了现代技术迸发的巨大力量。20世纪以来，现代性的迷思为世界大战、环境公害、核威胁、恐怖主义等风险事件所动摇，居于技术力量背后的“权力”幽灵不再游荡，“知识即权力”以及“技术即权力”的观念受到越来越多思想家的重视和讨论。近年来，算法创新、海量数据与运算能力共同推动了新一代人工智能的蓬勃发展，由于算法创新的核心驱动作用及其广泛的社会影响，一些社会理论家们甚至宣称“算法社会”正在来临。与此同时，以黑箱化为特征的算法所引发的杀熟、歧视、伪造等风险也逐渐暴露，因而有必要批判性地反思算法力量背后的权力因素。本研究尝试从算法与权力的互构共生关系视角，分析“算法偏见”这一基本且为热点的社会问题，从而更深入地理解现代技术的权力之维，以期为推动新一代人工智能的健康发展提供学理借鉴。一、算法偏见何以成为社会问题从学术史的角度看，社会科学领域关于偏见问题的研究由来已久，经历了从早期聚焦人类偏见到后来关注技术偏见的扩展。社会心理学家戈登·奥尔波特在其经典著作《偏见的本质》（1954）中，将偏见定义为“因为错误和僵化的推论，而对某一群体的成员产生反感或厌恶的情绪”，分析了人类偏见的认知过程、动机过程和社会文化过程，但忽视了新型的、内隐的、复数的偏见形式[1]。由于技术偏见大多是内隐的，早期的偏见研究并不涉及技术议题，对非人类行动者与人类行动者的关注是不对称的。20世纪末，计算机和互联网逐步普及，“价值敏感性设计”理念的提出者芭蒂娅·弗里德曼等最早讨论了计算机系统的偏差问题，尤其关注那些具有道德含义的偏差[2]。计算机伦理学中的偏见研究由此发端，如今引起热议的算法偏见指涉的就是算法造成的具有道德含义的偏差。进入21世纪，算法伦理伴随深度学习的发展而兴起，最早关于算法伦理的专题论文发表于2011年，基于医学图像分析技术的案例分析，得出了特定算法是负载价值的判断[3]。此后，信息哲学家卢西亚诺·弗洛里迪与合作者们持续追踪并系统综述了算法伦理领域的争议与进展，指出了由算法决策引发的六类伦理挑战：论据不确定、论据难理解、证据有误导、结果不公平、影响多变化以及可追溯性，旨在提供对算法的认识论和规范性问题的最新分析，并为算法的设计、开发和部署提供可行的治理建议[4][5]。在快速增长的算法伦理文献中，算法偏见问题始终是一个焦点议题，不过从算法权力角度的探究还有待深化。时至今日，算法偏见不再仅仅是一个人工智能领域的学术问题，而成为一个不容忽視的社会问题。在新一代人工智能发展热中，算法创新开始显现出熊彼特意义上的“创造性破坏”的现实特征。一方面，算法赋能数字经济发展的“创造性效应”不断积聚，这在很大程度上得益于三位图灵奖得主杰弗里·辛顿、杨立昆、约书亚·本吉奥为深度学习算法奠定的基础，并在多个领域得到了规模化应用;另一方面，有关算法的社会争议也引起公众对其“破坏性效应”的警惕。以大量应用深度学习算法的图像识别领域为例，2019年以来因系统性的标注缺陷而出现了“数据集下架潮”，迄今已涉及微软公司的MS-Celeb-1M名人人脸数据集、杜克大学的DukeMTMC行人监控数据集、斯坦福大学的Brai...