上周，有报道称，以色列国防军(IDF)正在使用一种名为Habsora(希伯来语为“福音”)的人工智能(AI)系统，在加沙对哈马斯的战争中选择目标。据报道，该系统已被用于寻找更多的轰炸目标，将地点与哈马斯特工联系起来，并提前估计可能的平民死亡人数。
在冲突中使用这样的人工智能目标系统意味着什么?我对军事使用远程和自主系统的社会、政治和伦理影响的研究表明，人工智能已经改变了战争的性质。
军队使用远程和自主系统作为“力量倍增器”，以增加部队的影响并保护士兵的生命。人工智能系统可以提高士兵的效率，并有可能提高战争的速度和杀伤力——即使人类在战场上变得越来越不显眼，而是从远处收集情报和目标。
当军队可以随意杀戮，而自己的士兵几乎没有风险时，当前关于战争的道德思维还会占上风吗?或者，人工智能的日益使用是否也会加剧对手的非人化，以及战争与以其名义作战的社会之间的脱节?
人工智能对战争的各个层面都产生了影响，从“情报、监视和侦察”支持，如以色列国防军的Habsora系统，到可以在没有人为干预的情况下选择和攻击目标的“致命自主武器系统”。
这些系统有可能重塑战争的性质，使其更容易进入冲突。作为复杂和分布式的系统，它们也可能使在不断升级的冲突中表明自己的意图或解释对手的意图变得更加困难。
为此，人工智能可能导致错误或虚假信息，在战争时期制造和放大危险的误解。
人工智能系统可能会增加人类信任机器建议的倾向(这一点在Habsora系统中得到了突出体现，Habsora系统以上帝无误的话语命名)，从而带来了对自主系统信任程度的不确定性。人工智能系统与其他技术和人类互动的界限可能并不清晰，而且可能无法知道是谁或什么“撰写”了它的输出，无论它们看起来多么客观和理性。
也许我们可能看到的由人工智能驱动的最基本和最重要的变化之一是战争速度的提高。这可能会改变我们对军事威慑的理解，即假设人类是战争中情报和互动的主要参与者和来源。
军队和士兵通过所谓的“OODA循环”(观察、定位、决定、行动)来制定他们的决策。更快的OODA循环可以帮助你战胜敌人。这样做的目的是为了避免因过度深思熟虑而减慢决策速度，而是为了配合战争的加速节奏。
因此，人工智能的使用可能是合理的，因为它可以解释和合成大量数据，处理数据并以远远超过人类认知的速度提供输出。
但是，在一个日益快速和以数据为中心的OODA循环中，在远离战场的安全距离上，伦理审议的空间在哪里?
以色列针对软件的攻击就是这种加速发展的一个例子。以色列国防军的一位前领导人曾表示，人类情报分析人员每年可能会在加沙产生50个轰炸目标，但Habsora系统每天可以产生100个目标，并提供实时攻击建议。
系统是如何产生这些目标的?它通过机器学习算法提供的概率推理来做到这一点。
机器学习算法通过数据学习。他们通过在海量数据中寻找模式来学习，他们的成功取决于数据的质量和数量。他们根据概率提出建议。
概率是基于模式匹配的。如果一个人与其他被标记为敌方战斗员的人有足够的相似之处，他们自己也可能被标记为战斗员。
一些人声称，机器学习可以更精确地瞄准目标，从而更容易避免伤害无辜的人，避免使用不成比例的武力。然而，从全球反恐战争中公布的和未公布的大量平民伤亡来看，更精确的空袭目标在过去并没有取得成功。
此外，战斗人员和平民之间的区别很少是不言而喻的。甚至人类也常常无法分辨谁是战斗人员，谁不是战斗人员。
技术不会改变这个基本事实。通常，社会类别和概念不是客观的，而是有争议的，或者是特定于时间和地点的。但是，计算机视觉与算法一起，在概念客观、相当稳定、内部一致的可预测环境中更有效。
我们生活在一个非正义战争和军事占领的时代，严重违反交战规则，面对美中竞争，军备竞赛刚刚开始。在这种背景下，将人工智能纳入战争可能会增加新的复杂性，加剧而不是防止伤害。
人工智能系统使战争中的参与者更容易保持匿名，并且可以使暴力的来源或导致暴力的决定变得不可见。反过来，我们可能会看到军队、士兵和平民与他们以国家的名义进行的战争之间越来越脱节。
随着人工智能在战争中变得越来越普遍，军队将制定对策来破坏它，从而形成一个不断升级的军事化循环。
我们能否控制人工智能系统，防止未来战争越来越依赖以学习算法为基础的技术?事实证明，在任何领域控制人工智能的发展，尤其是通过法律和法规来控制，都是困难的。
许多人认为，我们需要更好的法律来解释由机器学习支撑的系统，但即使这样也不是直截了当的。机器学习算法很难规范。
人工智能武器可能会自我编程和更新，从而规避法律对确定性的要求。工程格言“软件永远不会完成”意味着法律可能永远赶不上技术变革的速度。
Habsora系统所做的提前估计平民可能死亡人数的定量行为，并没有告诉我们多少关于目标的定性方面的信息。像Habsora这样孤立的系统并不能真正告诉我们罢工是合乎道德的还是合法的(也就是说，在其他考虑因素中，罢工是相称的、有歧视的还是必要的)。
人工智能应该支持民主理想，而不是破坏它们。对政府、机构和军队的信任正在受到侵蚀，如果我们计划将人工智能应用于一系列军事实践，就需要恢复这种信任。我们需要运用批判性的道德和政治分析来审问新兴技术及其影响，因此任何形式的军事暴力都被认为是最后的手段。
在此之前，机器学习算法最好与定位实践分开。不幸的是，世界上的军队正朝着相反的方向前进。
公司提供
nversation
本文转载自The Co在知识共享许可下的对话。阅读原文。
引用以色列的人工智能每天可以在加沙制造100个轰炸目标。这就是战争的未来吗?(2023, December 8)检索自https://techxplore.com/news/2023-12-israel-ai-day-gaza-future.html本文档
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
