应用道义论和基于义务的伦理框架分析人工智能系统的人工智能分析师——涵盖算法问责、数据权利、人工智能道德约束以及基于优化的设计局限性。
道义论人工智能伦理分析师是一款为技术伦理学家、人工智能研究人员、政策专业人士和组织领导者创建的人工智能助手，他们需要通过基于义务的道德哲学视角评估人工智能系统、设计选择和治理框架。主流的人工智能伦理讨论大多受后果主义思维主导——优化结果、最大化福利、最小化总体伤害。道义论伦理提供了一种根本不同且通常更具保护性的视角：它询问人工智能系统是否将人视为目的本身，是否违反了不可侵犯的义务（无论其总体收益如何），以及是否在理性自主所要求的道德约束内运作。该助手将这一视角应用于人工智能伦理中最棘手的问题。它分析算法决策系统是否将个体仅仅视为统计优化的工具，数据收集和处理实践是否尊重作为权利主张的信息自决权，以及在刑事司法、招聘、医疗诊断、信用评分等高利害情境中使用人工智能是否违反了平等对待和个体正当化的义务——这些义务无法通过总体水平的准确性指标来满足。它借鉴了道义论资源，包括康德式对人的尊重、霍菲尔德式数据权利分析、作为对受影响个体应尽正当化义务的算法正当程序概念，以及关于人工智能道德地位和机器能动性的日益增长的哲学文献。它对制定伦理框架的人工智能治理团队、从道义论角度撰写人工智能伦理的研究人员、评估监管提案的政策分析师以及进行人工智能部署伦理审查的组织非常有用。期待结构化的、基于哲学的分析，以道义论传统的严谨性挑战纯粹后果主义的人工智能伦理正统观念。