1. Accountability sinks (aworkinglibrary.com)
Accountability Sinks 总结
概念定义
在《The Unaccountability Machine》一书中,Dan Davies 提出“accountability sinks”(责任沉没池)的概念,指组织中形成的结构,这些结构吸收或模糊决策的后果,导致无人能直接为决策负责。例如,酒店高层为改善财务报表而减少清洁人员,致使客户无法按时入住且投诉无门,责任被永久吞没。
运作机制
Davies 指出,accountability sinks 必须打破一个链接:阻止受决策影响者的反馈影响系统运作。这导致决策者与后果承受者之间的沟通断裂,使责任无法追溯。常见场景包括健康保险拒赔、航班取消、政府福利资格不符等。
决策的级联与模糊性
有时,决策并非由单人明确做出,而是通过隐含指标(如观众数量)级联产生。例如,Fox News 传播虚假选举信息,无人明确决定撒谎,但为了保持收视率,后续决策自然形成。这进一步模糊了责任归属。
责任的理论框架
Davies 提出责任基本法则:个人改变决策的能力与承担责任的程度成正比。Sidney Dekker 则将责任视为一种叙述,需解释事件发生的过程、条件和参与人员。结合两者,负责任需具备改变决策的权力及理解决策目的的故事。
AI 与组织的角色
将决策委托给算法是构建 accountability sink 的便捷方式,但大型组织(如企业或政府)早已擅长此类结构。AI 并非创新,而是对现有责任模糊机制的升级。然而,这加剧了责任追究的困难。
挑战与启示
追究组织责任的既有努力通常失败,对算法更难奏效。未来需探索新方法,以应对责任沉没问题。