人工智能伦理计算

人工智能技术作为试图研究、模仿、扩展人类智能的科学研究领域, 自诞生以来就伴随着深 刻的技术伦理争辩. 随着近年来机器学习等相关工作的突破性进展和快速落地应用, 伦理问题日趋 显著并迫使学界和社会开始直面该技术的伦理治理挑战. 尽管在伦理治理的规范研究上已取得初步 进展, 其治理实践落地方面依然困难重重, 伦理实践表现出逐渐落后于技术发展需求的趋势. 因此, 建立与不断发展的人工智能技术相互匹配的伦理治理实践方案, 实现治理理论和治理实践的良性互 动将是人工智能领域未来发展的关键问题. 伦理治理理论的抽象性导致了当下人工智能伦理原则难 以落地实现, 人工智能伦理计算 (AI ethical computation) 将是应对这一挑战的重要方案. 本研究通 过探讨现实必要性和发展可能性明确了伦理计算的重要意义, 在相关研究基础上给出伦理计算的研 究范畴, 依据计算过程对伦理机理的认知程度和系统伦理决策的自主化程度进行划分, 建立了伦理计 算的高阶认知与低阶认知两类研究范式, 并按其计算阶段抽象出伦理度量、伦理决策和伦理推理三 个计算层次. 该伦理计算框架能够对当前的伦理计算应用进行梳理, 本文以伦理嵌入和公平机器学 习为例说明了两类研究范式的研究特点和技术方法. 在此基础上, 进一步讨论构建了以伦理计算为 核心的伦理治理体系, 分析通过伦理计算化解伦理治理困境的可能方案, 并对人工智能伦理计算的发 展做出展望. 海量数据、基础算力、智能算法、专用硬件等多方面的提升促使人工智能产业蓬勃发展, 各类技 术不断重塑人类的生活习惯和生产方式. 相关技术的应用广度不断扩展、深度在不断加深, 催生了包 括 AI for Science [1] , 量子机器学习研究 [2] 等在内的各类交叉融合领域. 新技术层出不穷, 新应用不 断落地, 为人工智能领域的发展带来了前所未有的机遇, 但同时技术伦理焦虑也日渐增加, 技术的有 效伦理治理迫在眉睫. 当前人工智能技术发展面临哪些伦理问题？伦理治理的难点在哪里？有哪些技术手段能够辅助伦理治理？本文提出以人工智能伦理计算 (AI ethical computation, 后文简称 伦理计算) 技术为核心, 构建伦理治理的技术工具体系. 而什么是伦理计算？通过哪些技术进行伦 理计算？又该如何通过这一技术手段构建伦理治理体系？后文将展开讨论. 从面临的伦理问题着手 讨论, 以下述三个典型应用场景为例. (1) 人工智能技术为医疗卫生领域带来了重大变革, 主要表现在两种形式 [3] 的技术支持上: 虚 拟分支和物理分支. 虚拟分支是指人工智能算法可以利用大数据挖掘潜在的医疗辅助信息, 包括蛋 白反应预测, 药物预测, 心理康复辅助治疗等. 物理分支则是指各类人工智能算法支持下的医疗服务 机器人, 包括用于照顾危重病人的机器人伴侣, 外科手术 [4] 中的助理医生甚至主刀医师. 在这些关系 到人类生命健康的重要应用场景中, 伦理问题格外突出. 其中涉及到如何保护涉众的隐私不受侵犯 的问题 [5] , 还涉及到如何确保决策不对受众的生命健康造成损害的难点, 例如在人工智能主刀医师 的应用场景下, 手术意外的发生是否属于事故该如何界定？而事故责任由谁承担？这类问题牵涉了各 类复杂的伦理主体, 其背后的伦理问题往往非常复杂, 有没有可能通过技术方法辅助界定这些复杂的 伦理问题？ (2) 自动驾驶汽车有望提高交通运输效率, 减小交通事故的概率 [6] . 但是由于高度的自主化特 性, 该场景也牵涉非常复杂的伦理问题: 自动驾驶机器如何做出道德决策, 如何判定事故责任？社会 对机器行为的指导伦理原则该如何量化？这都成为了迫切需要回应的问题. 相关研究 [7] 针对该领域 的重大挑战进行了一项广泛的社会实验, 收集了来自 233 个国家和地区的 4000 万条伦理决策并进 行统计分析, 指出道德取舍从宏观上表现出了统一的趋势, 但其中依然存在道德决策的内在冲突, 人 际分歧, 地区和文化差异等. 为了减少冲突明确差异, 这一领域也需要更多伦理对话的发生和更加确 切的技术定量标准. (3) 计算机辅助决策也是人工智能的重要应用之一, 算法对于海量数据的有效挖掘使其可以深 入发掘历史决策并从中学习决策要素. 决策方式自动化程度的提高可以大大提高决策效率, 但其背 后隐藏的偏见和歧视问题也令人担忧. 典型的场景包括用于累犯概率估计的 COPMAS 系统, 招聘 简历自动筛选, 广告推送等 [8] , 这些用于决策的人工智能会对社会和个人产生重大影响, 其决策机制 的透明度和公平性亟待提高. 不仅仅是决策系统, 在自然语言处理 [9] , 计算机视觉 [10,11] 等各类研究 中, 都存在习得和放大历史偏见的问题, 如何改善这些问题还需要更多探索. 同时, 针对辅助决策场 景提出的有关提案中也指出 [12] , 人工智能应用于决策可能会导致组织文化和个人行为的改变, 因此 还需要开发出切实可行的人工智能技术影响的演化指标, 以衡量其效益及对决策涉众的长短期影响. 上述是某些经典应用场景下存在的伦理问题, 新技术的应用在不断对伦理研究提出新挑战, 例如 AI 绘画、ChatGPT 为代表的生成大模型在近期就引发了对版权纠纷和剽窃问题 [13] 的探讨, 后文在 探讨伦理计算进展的基础上, 也将对这类大模型引发的问题进行简要讨论. 不难看出, 当前人工智能 技术引发了广泛深刻的社会问题, 随着技术发展也将面临更加错综复杂的技术伦理困境, 因此迫切需 要给出有效的应对方案. 事实上, 对人工智能伦理问题的探讨 [14,15] 早在 1960 年就已经产生, 人工智能伦理研究伴随着 技术的发展. 然而, 早期研究主要围绕伦理理论展开, 脱离具体应用场景且高度抽象. 因此, 如何在实 际的应用场景中有效地考量伦理因素, 构建出切实可行的伦理治理方案就是重要的研究课题. 针对 伦理治理问题, 近年来, 各个国家组织都做出了重要努力, 提出了包括可解释, 公平, 隐私等在内的诸多技术伦理诉求, 制定了相关行业发展规范. 尽管提出了诸多法律规范和倡议, 但由于这些抽象指标的模糊性和差异性, 伦理治理的实践依然 面临着诸多困难. 本文认为将伦理规范具象化, 将伦理诉求量化并为伦理规范提供技术支撑是破局 的关键, 即通过伦理计算消除抽象歧义, 提供量化特征, 有望弥补理论和实践的差异. 然而, 伦理计算面临的关键问题在于: 抽象的伦理概念是否能够计算？如何进行计算？计算又 应该如何服务于伦理治理实践？本文拟从人工智能伦理研究的发展现状和面临困境入手, 指出伦理 计算的研究必要性. 通过探讨伦理可计算性的研究发展, 讨论伦理计算的可能性并界定伦理计算的 概念. 进一步针对如何计算的问题, 总结伦理计算的已有计算方法和计算范式, 并对代表性伦理计算 技术进行举例. 最后也将对计算与伦理治理的关系问题进行分析.

整体论述思路如图 1 所示, 完成了伦理计算从计算体系到伦理治理体系的说明. 具体地, 第二节 总结探讨了伦理计算研究的现实背景和计算历史. 阐述了当前伦理研究发展的状况, 指出伦理治理 中伦理理论模糊、实践可行性受限的发展痛点, 点明伦理计算的重要现实意义, 在此基础上对计算伦 理学的研究背景进行了分析. 第三节给出了本文伦理计算的具体定义, 对伦理计算的研究目标、研究 方法和研究范式进行了总结, 同时给出了两类代表性的工作, 并以公平机器学习作为案例给出伦理计 算的示例. 第四节构建了基于伦理计算的伦理治理体系, 最后在第五节对人工智能伦理计算和伦理 治理进行了展望.