View source for The Guardian【机器冷酷无情地完成了任务：以色列利用人工智能识别了 37000 个哈马斯目标】

 <font color="grey">当前位置：</font>[[时政文萃 | 首页]]<font color="grey"> &rarr; </font>[[巴以冲突_Israeli-Palestinian_Conflict | 巴以冲突]]<font color="grey"> &rarr; </font>

'''The Guardian【机器冷酷无情地完成了任务: 以色列利用人工智能识别了 37000 个哈马斯目标】'''

-以色列情报人员透露在加沙战争中使用了 "薰衣草 "系统，并声称允许在追捕低级武装分子时杀害平民


耶路撒冷的贝森·麦克南和哈里·戴维斯（Bethan McKernan in Jerusalem and Harry Davies）| 2024年4月3日


据参与战争的情报人员称，以色列军方在加沙的轰炸行动中使用了一个此前未公开的人工智能数据库，该数据库曾一度根据目标与哈马斯的明显联系识别出37000个潜在目标。


除了谈及他们使用名为 "薰衣草"（Lavender）的人工智能系统外，这些情报人员还声称以色列军官允许大量巴勒斯坦平民被杀，尤其是在冲突的最初几周和几个月。


他们异常坦率的证词让我们罕见地看到了以色列情报官员的第一手经历，他们在六个月的战争中使用机器学习系统帮助识别目标。


以色列在对哈马斯的战争中使用功能强大的人工智能系统进入了先进战争的未知领域，引发了一系列法律和道德问题，并改变了军事人员与机器之间的关系。


一位使用过 "薰衣草 "的情报官员说："在我的记忆中，这是无与伦比的。"他补充说，他们更相信 "统计机制"，而不是悲痛欲绝的士兵。"包括我在内，那里的每个人都在 10 月 7 日失去了亲人。机器冷酷地完成了任务。这让事情变得更容易了"。


另一位 "薰衣草 "用户质疑人类在选拔过程中的作用是否有意义。"在这个阶段，我会为每个目标投入 20 秒钟，每天做几十个目标。我作为一个人，除了盖章认可之外，没有任何附加值。这节省了很多时间"。


这六名情报人员都曾在战争中参与使用人工智能系统识别哈马斯和巴勒斯坦伊斯兰圣战组织（PIJ）目标，他们的证词是记者尤瓦尔-亚伯拉罕（Yuval Abraham）在以色列-巴勒斯坦出版物《+972》杂志和希伯来语媒体《本地电话》（Local Call）发表的一篇报道中提供的。


他们的叙述在出版前独家提供给了《卫报》。这六个人都说，"薰衣草 "在战争中发挥了核心作用，他处理大量数据，迅速确定潜在的 "低级 "特工目标。其中四名消息人士说，在战争初期的一个阶段，"薰衣草 "列出了多达 3.7 万名被人工智能系统与哈马斯或巴勒斯坦伊斯兰祈祷团联系在一起的巴勒斯坦男子。


“薰衣草 "由以色列国防军的精英情报部门 8200 单位开发，该单位相当于美国国家安全局或英国的 GCHQ。


一些消息来源描述了以色列国防军如何针对某些类别的目标，在授权攻击前对可能被杀害的平民人数进行预先许可。


两个消息来源说，在战争的最初几周，他们在空袭低级武装分子时被允许杀死 15 或 20 名平民。消息人士说，对这些目标的袭击通常使用的是被称为 "哑弹 "的无制导弹药，这些炸弹摧毁了整栋房屋，炸死了屋内所有的人。


一位情报官员说："你不想把昂贵的炸弹浪费在不重要的人身上--这对国家来说非常昂贵，而且（这种炸弹）也很短缺。” 另一位情报官员说，他们面临的主要问题是，对平民造成的 "附带损害 "是否允许发动袭击。


"因为我们通常使用哑弹进行攻击，这意味着要把整栋房子的人都炸死。但即使袭击得以避免，你也不会在意--你会立即转向下一个目标。由于系统的存在，目标永远不会结束。你还有 36 000 个目标在等着你。”


据冲突专家称，如果以色列一直在使用哑弹炸平成千上万巴勒斯坦人的房屋，而这些人在人工智能的协助下与加沙的激进组织有关联，那么这就有助于解释战争中令人震惊的高死亡人数。


哈马斯控制的领土的卫生部称，在过去六个月中，有 32 000 名巴勒斯坦人在冲突中丧生。联合国的数据显示，仅在战争爆发的第一个月，就有1340个家庭遭受多重损失，其中312个家庭失去了10名以上的成员。


以色列国防军在一份声明中回应了《+972》和《地方呼声》发表的证词，称其行动符合国际法的相称性规则。声明说，哑弹是以色列国防军飞行员使用的 "标准武器"，其使用方式可确保 "高度精确"。


声明将"薰衣草 "描述为一个数据库，用于 "交叉比对情报来源，以生成有关恐怖组织军事行动人员的最新信息层。这不是一份经确认有资格进行攻击的军事人员名单。”


"以色列国防军没有使用人工智能系统来识别恐怖分子或试图预测某人是否是恐怖分子，"它补充说。"信息系统只是分析人员在目标识别过程中的工具"。


'''"薰衣草 "创建了一个包含数万人的数据库'''

在以色列国防军早期开展的军事行动中，制造人类目标往往是一个更加劳动密集型的过程。多名消息人士向《卫报》描述了前几次战争中的目标开发过程，他们说，"指控 "一个人或将其确定为合法目标的决定都要经过讨论，然后由法律顾问签字。


据消息人士称，在 10 月 7 日之后的几周和几个月里，这种批准打击人类目标的模式急剧加速。他们说，随着以色列国防军对加沙的轰炸不断加强，指挥官们要求不断获得目标。


"我们不断受到压力：'给我们带来更多目标'。他们真的对我们大喊大叫，"一名情报官员说。"我们被告知：现在我们必须不惜一切代价干掉哈马斯。只要有可能，就炸。”


为了满足这一要求，以色列国防军开始严重依赖 "熏衣草 "来生成一个数据库，其中收录了被判断为具有伊斯兰祈祷团或哈马斯武装分子特征的个人。


关于用于训练 "薰衣草 "算法的具体数据种类，或该程序如何得出结论的详细信息，并未包含在 "+972 "或 "本地呼叫 "公布的叙述中。不过，消息来源称，在战争开始的头几周，8200 小队改进了"薰衣草 "的算法，并调整了搜索参数。


消息来源说，在随机抽样和交叉检查其预测结果后，该单位得出结论，"薰衣草 "的准确率达到了 90%，以色列国防军因此批准将其作为目标推荐工具全面使用。


他们补充说，"薰衣草 "创建了一个包含数万人的数据库，这些人主要被标记为哈马斯军事部门的低级成员。该数据库与另一个名为 "福音 "的人工智能决策支持系统一起使用，后者推荐建筑物和结构为目标，而不是个人。


这些叙述包括情报人员如何与 "薰衣草 "系统合作以及如何调整其搜索范围的第一手证词。其中一个消息来源说："在最高峰时，该系统能生成 37,000 人作为潜在的人类目标。但数字一直在变化，因为这取决于你把哈马斯特工的标准定在哪里。”


他们补充说："有一段时间，哈马斯特工的定义比较宽泛，然后机器开始给我们带来各种民防人员和警察，在他们身上浪费炸弹是很可惜的。他们帮助哈马斯政府，但不会真正危及士兵。”


战前，美国和以色列估计哈马斯军事部门的成员约为 2.5-3 万人。


在哈马斯领导的 10 月 7 日对以色列南部的袭击中，巴勒斯坦武装分子杀害了近 1200 名以色列人，绑架了约 240 人，在袭击发生后的几周内，消息人士称，有一项决定是将与哈马斯军事部门有联系的巴勒斯坦男子作为潜在目标对待，无论他们的级别或重要性如何。


他们说，以色列国防军在最密集轰炸阶段的目标选择程序也有所放松。一位消息人士说："对于[轰炸]行动的伤亡，以色列国防军采取了完全放任的政策。” 一个消息来源说："这种政策如此放任，以至于在我看来有报复的成分"。


另一个消息来源为使用 "薰衣草 "来帮助识别低级目标辩解说，"当涉及到低级武装分子时，你不会想投入人力和时间"。他们说，在战争时期，没有足够的时间仔细 "确定每个目标的罪行"。


他们补充说："因此，你愿意冒着使用人工智能、造成附带损害和平民死亡的风险，冒着错误攻击的风险，去承受误差。”


'''轰炸一个家庭的住宅要容易得多'''

《+972》和《本地通话》发表的证词或许可以解释，拥有如此先进能力的西方军队，其武器可以进行高度外科手术式的打击，却如何进行了一场造成如此巨大人员伤亡的战争。


他们说，在针对哈马斯和巴勒斯坦伊斯兰祈祷团的低级嫌疑犯时，他们倾向于在他们被认为在家时发动袭击。其中一人说："我们对只在[哈马斯]特工身处军事建筑或从事军事活动时才将其击毙不感兴趣。"轰炸一个家庭的住宅要容易得多。我们的系统就是在这种情况下寻找他们的。

消息来源称，以色列国防军对其认为在针对一名哈马斯武装分子的袭击中可以接受的平民死亡人数施加了预先授权的限制。据说这一比例随着时间的推移而变化，并根据目标的资历而不同。


据 《+972》 和 《本地通话》报道，以色列国防军认为，在对哈马斯高级官员的袭击中杀死 100 多名平民是允许的"一位消息人士说："我们计算过旅长可以杀死多少[平民]，营长可以杀死多少[平民]，等等。”


另一位消息人士补充说："有规定，但只是非常宽松。"我们杀了人，附带损害高达两位数，甚至三位数。这些都是以前从未发生过的事情。在战争的不同阶段，军事指挥官所能容忍的数字似乎有很大波动。


一位消息人士说，允许平民伤亡的上限随着时间的推移 "时高时低"，一度低至五人。该消息来源说，在冲突的第一周，允许杀死 15 名非战斗人员，以消灭加沙的低级武装分子。但他们说，对平民伤亡的估计并不精确，因为无法确切知道一栋楼里有多少人。


另一名情报官员说，最近在冲突中，允许的附带损害率再次下降。但在战争早期的一个阶段，他们曾被授权为一名特工杀害多达 "20 名无关平民"，无论他们的军衔、军事重要性或年龄如何。


他们说："这不仅仅是说你可以杀死任何一名哈马斯士兵，这在国际法上显然是允许和合法的。"但他们直接告诉你 '你可以把他们和许多平民一起杀死。......实际上，相称性标准并不存在"。


以色列国防军的声明说，其程序 "要求对预期的军事优势和附带损害进行单独评估......如果打击造成的预期附带损害与军事优势相比过大，以色列国防军不会实施打击"。它补充说："以色列国防军断然拒绝关于在数万人的家中杀害他们的政策的说法。”


接受《卫报》采访的国际人道法专家对以色列国防军接受并预先批准高达20名平民的附带损害比率的说法表示震惊，特别是对低级别的武装分子。他们说，军队必须评估每次打击的相称性。


美国国务院的一位国际法专家说，他们 "从未听说过1比15的比例被认为是可以接受的，尤其是对低级别的战斗人员。虽然有很大的回旋余地，但这在我看来是极端的"。


美国国防部前律师、现危机组织分析师萨拉-哈里森说： "虽然在某些情况下，15 名平民的附带死亡可能是相称的，但在其他情况下，这绝对不是相称的。你不能只为某类目标设定一个可容忍的数字，就说在每种情况下都是合法相称的。”


无论以色列轰炸战略的法律或道德理由如何，以色列的一些情报官员现在似乎正在质疑他们的指挥官所制定的方法。一位军官说："没有人考虑过战争结束后该怎么办，也没有人考虑过如何才能在加沙生活下去。”


另一位说，10 月 7 日哈马斯发动袭击后，以色列国防军的气氛 "痛苦而充满报复"。"有一种不和谐的气氛：一方面，这里的人们对我们的攻击力度不够感到沮丧。而另一方面，你却看到一天结束时，又有一千名加沙人丧生，其中大部分是平民。


原文链接：（中文翻译出自翻译软件，仅供参考。）

https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai-database-hamas-airstrikes

 <font color="grey">当前位置：</font>[[时政文萃 | 首页]]<font color="grey"> &rarr; </font>[[巴以冲突_Israeli-Palestinian_Conflict | 巴以冲突]]<font color="grey"> &rarr; </font>