1. 'Lavender': The AI machine directing Israel's bombing in Gaza (www.972mag.com)
该调查揭露了以色列军队在加沙战争中,使用名为“薰衣草”的人工智能系统大规模生成打击目标,并配合其他自动化工具,导致空前平民伤亡的流程。
1. AI目标生成系统:“薰衣草”
- 功能与作用:该AI系统分析加沙地带居民的大量监控数据,为每个人打分(1-100),评估其属于哈马斯或杰哈德军事派系成员的可能性。评分高的个人自动被列为打击目标。
- 规模与效率:在战争初期,“薰衣草”标记了约3.7万名巴勒斯坦人为潜在目标。军队将其输出视为“如同人类决策”,旨在解决“人类瓶颈”问题,实现目标生成的自动化与规模化。
- 准确性争议:内部评估显示系统准确率约为90%,即约10%的目标可能是错误标记。错误来源包括将与武装分子有通信联系的平民、亲属、同名同姓者或使用过武装分子旧手机的人误判为成员。
2. 高度自动化、简化的审核与打击流程
- “橡皮图章”式审核:对于“薰衣草”标记的低级目标,审核人员平均仅花费约20秒确认目标为男性,即批准轰炸。无需独立审查AI决策依据或原始情报。
- “爸爸在哪里?”等追踪系统:为定位目标,军队使用名为“爸爸在哪里?”等自动化追踪软件。这些系统实时监控标记目标,一旦目标进入家庭住宅,即自动发出警报,军队随即对该住宅实施轰炸。
- 选择武器与轰炸时机:为节省成本,对低级目标主要使用非制导的“哑弹”,可摧毁整栋建筑。系统性地在目标在家(通常是夜晚全家聚集时)时发动袭击,因为这比在军事活动中更容易定位。
3. 前所未有的平民伤亡容忍度
- 允许的“附带损伤”大幅放宽:在战争初期,为每名低级目标,军队被授权最多可造成15至20名平民死亡。对高级指挥官,可容忍上百名平民死亡。这与以往零容忍或极低容忍度的政策形成鲜明对比。
- 后果:导致数千名平民死亡,尤其是妇女和儿童。数据显示,战争前六周的死者中近半数在第一个月内丧生,其中许多是整户家庭被灭。
4. 配套的自动化与不精确工具
- 平民人数估算自动化:用于预估打击中平民伤亡的模型自动化且不精确,基于建筑大小和战前居民名单,再按估算的居民撤离比例折算,未实时核实实际居住人数。
- 缺乏实时验证与事后评估:有时从系统警报到实际轰炸存在时间差,导致目标已离开但仍轰炸住宅。对于低级目标的轰炸,通常不进行事后损伤评估,甚至不确认目标是否被击毙,只关注是否炸毁建筑。
5. 背景与态度
- 政策动因:10月7日袭击后,军方采取报复性心态,政策极其宽松。自动化系统旨在快速生成大量目标,以追求“杀伤力”。
- 军方立场:以色列军方否认使用AI定罪目标,称其仅为辅助工具,且要求独立的人类分析师审核。但多位参与行动的情报官员证词描绘了高度依赖AI、审核流于形式的相反图景。
- 影响:调查人员认为,这种大规模、自动化的打击方式造成了异常高的平民伤亡,并可能从长远上激发更多仇恨与反抗。