创新背景

人工智能为公共事业管理带来好处的同时也带来了重大的风险，人工智能的算法足够客观，但它缺少明确的目标和伦理价值观，追求良性的目标最后却可能导致非理想结果，为公共事业管理带来更多的偏见和麻烦。

创新过程

雪城大学公共行政和国际事务助理教授Johannes Himmelreich与人合著的《人工智能与行政邪恶》借鉴行政邪恶等公共行政管理理论，提出了一个伦理框架，分析人工智能在公共组织中的影响，以指导公共管理的实证和研究，并为从业者对人工智能采用的审议和决策提供信息。

行政邪恶理论建立在邪恶的平庸性的基础上，认为邪恶的原因往往是结构性的，组织、规范、惯例和技术使邪恶产生的原因。研究结合代理理论和行政理论，将其应用于人工智能应用，利用这个框架来分析人工智能掩盖或揭露行政邪恶，或者增加或减少与逆向选择和委托代理人关系特有的道德风险问题相关的机构成本。

研究人员扩展并采用行政邪恶的理论考虑公共部门对人工智能的使用如何减轻或创造个人和社会危害。行政邪恶理论认为，官僚制度潜移默化地助长或造成邪恶，因为这种制度作为一个整体难以理解（掩盖的问题），并且个人、组织和文化因素可能使有害的中间或最终结果对其生产者有利（道德倒置的问题）。从危害发现、技术不可预测性、量化偏差、AI繁荣、组织价值错位和控制中心化六个方面看，危害发现强调了人工智能减少行政邪恶可能性的机会，其他五个方面都强调人工智能增加行政邪恶风险的途径。

在其他条件相同的情况下，政府对人工智能的使用导致决策透明度下降技术上的不可知性，过度历来量化数据会排挤其他信息源，导致信息偏差；过度依赖人工智能，决策价值和组织价值错位会使集权化的决策从专业化的官僚手中被夺走，政府使用人工智能可能会在人工智能采用和实施之前、期间和之后，在没有重大干预和监督的情况下，助长行政邪恶。

研究提出的伦理框架可以指导实证研究，并告知从业者采用和使用AI的决策。如果公共管理者希望避免行政邪恶，应该谨慎使用人工智能和量化结果。公共事业管理使用人工智能之前应该有恰当预防措施：明确理解任务、决策输入多样化、决策输入和输出尽可能透明并且系统包括对系统架构师和授权其实施的领导部分的错误和意外后果的明确的法定和文化责任。在具有这些预防措施的基础上使用人工智能可以提高公共事业管理的效率和公平，尽可能避免行政邪恶。

创新关键点

结合行政邪恶理论考虑在公共事业管理领域使用人工智能的缺陷，有助于弥补人工智能在管理领域的伦理道德缺陷，帮助公共事业更加高效的同时保证公平。