审视智能化战争的深层内核

“在智能时代的军事对抗中,如果一方拥有高水平智能算法,而另一方没有,后者就面临输掉战争的巨大风险。”

2022年,美军计划在胡德堡军事基地进行无人战车编队的战斗实验,日本自卫队计划在2035年正式部署具有超强作战能力的无人空中编队……种种迹象表明,由无人作战系统和平台组建的机器人部队正在加速形成。

无论是人对无人作战部队的指挥与控制,还是无人作战编队内部的协同、交互与自适应调控,都离不开智能算法。智能化战争的一个突出特点就是无人化作战成为基本样式,而算法战将是无人化作战与智能化战争的深层内核。

算法简单说就是计算方法。当人们开始借助计算工具进行计算时,就必须设计适合这种计算工具的算法。随着计算机软硬件技术的突飞猛进和计算机科学的发展,计算机的功能和运用领域大为拓展。今天的算法概念,比简单的计算方法内涵更复杂、含义更丰富。当前所谓“算法”,通常指对于解题方案的整体的、准确的、完整的描述,包括解决问题所需明确定义的规则和一系列的具体指令,其实质是一套用系统方法描述和解决问题的策略机制。

最先推出“算法战”概念的是美军。2017年4月26日,时任美国国防部副部长的罗伯特·沃克签发关于“码文工程”的备忘录,要求国防部成立“算法战跨职能小组”,推动国防部加速融入人工智能、大数据及机器学习等关键技术的军事应用。国防部联合人工智能中心主任,同时也是负责人工智能军事应用的主管官员杰克·沙纳汉中将,在谈到算法对战争的影响时说:“怎样面对未来战争的速度、混乱、血腥和激烈场景,我们的答案只有一个,那就是算法战。”

科学技术不仅是第一生产力,也是第一战斗力。算法战的出现,标志着构成战斗力的要素发生了重大改变。在科学技术极其落后的冷兵器战争时代,战斗力的构成要素主要是人力和畜力;在机械化战争时代,战斗力构成要素增加了机动力和火力;当战争形态演变到信息化战争时代,因为信息的加入,及其将各作战单元、作战力量联成一体化作战体系的能力,战斗力构成要素增加了信息力和结构力;在智能化战争时代,因为人工智能、大数据及机器学习等最新技术的加入,战斗力构成要素又增加了算力和智能力。

既然算法的实质是一套用系统方法描述和解决问题的策略机制,算法战中所包含的算力,也就不再是简单的计算能力,而是《孙子兵法》里所谓的“庙算”,即筹算、计划、预判、定计等内容和步骤的机器化及系统化。概言之,算法战是作战双方以智能算法为主要技术支撑,由参战人员通过应用智能算法,对由作战部队、作战平台、作战保障系统等构成的作战体系进行指挥控制的对抗。算法战至少包括两个方面的含义:一是智能算法加入军事对抗,二是军事对抗中增加了作战双方算法与算法之间的对抗。

俄罗斯军方对人工智能军事应用和算法战高度重视,普京总统强调:“无论对俄罗斯还是全人类,人工智能都是未来。谁成为这个领域的领导者,谁就会脱颖而出,进而获得巨大的竞争优势。人工智能关系国家未来。”近十年来,与此相关的多个俄罗斯机构和战略文件相继问世。

目前,俄罗斯已经发展和正在发展的应用智能算法的军事系统达150多个,包括自主空中、水下、水面和陆地平台与系统,并累计培训无人机操作员和分队指挥员7000多名。

美国防部“算法战跨职能小组”承接的第一项任务是开发用于情报分析的智能算法。在反恐战争中,美军依托无人机获取了大量关于极端组织“国”武装分子的视频资料,但要从这些视频中发现高价值目标,仅凭人工分析,不仅需要招募数以千计的军事和民用分析师,而且因为时间长、效率低,无法满足实行定点清除所需的时效性和准确度。为此,美国防部希望以智能手段取代人工,提高时效性和准确度,并将这一工作命名为“码文工程”。

在美国防部的大力支持下,2017年底,“码文工程”研发出4套智能算法。“算法战跨职能小组”还归纳出了算法战所需的三个要素:针对特定需求的算法、与实现算法相匹配的计算资源、基于算法的各种智能化军事应用技术及系统。美国防部关于算法战研究的这些成果,为算法战在军事领域推广应用探索出了基本模式。

在此基础上,2018年7月,美国防部高级研究项目局(DARPA)启动“人工智能探索”计划,吸引社会、商业研究资源加入创新算法研究,缩短从军事应用技术与系统需求到特定算法之间的研发时间。

为加快智能算法的实战应用发展步伐,美国防部发布《国防部人工智能战略》。DARPA启动了一系列人工智能作战应用研究项目,如关于智能感知的“智能光谱时间融合”“敌对行为建模”、关于情报分析与处理的“分层识别验证利用”等。这些研究成果的交付与使用,将大大提升美军的算法战能力。

一是以创新概念引领军队建设。多年来,美俄等国家的军队不断通过提出创新作战概念,引领和推进军队建设和作战方式的转变和作战能力的提升。在信息化军事变革阶段,美军提出了网络中心战、数字化部队、基于效果作战、空海一体战等,俄军提出了非接触战争、非对称作战、第六代战争、统一信息空间等。在智能技术推动战争形态向智能化演变过程中,美军又提出了马赛克战、联合全域作战、算法战等,俄军也相应提出了军事共享结构、自主控制系统等。这些概念的提出,即使不能完全达成提出者所希望达成的目标,也会在军队建设中留下阶段性烙印,使军队作战能力在某些方面取得进展。算法战也是这样,它肯定不能代表智能时代军队建设的全部,但它无疑将强化智能算法在军队建设和作战能力方面的应用和作战能力的提高。

二是算法战将成为重要的作战样式。当某种作战行动在作战中发挥出重要甚至关键作用的时候,这种作战行动就会上升为一种作战样式。客观地说,在作战中运用算法并非始自现在,美军在海湾战争前的兵棋推演和战争期间的“爱国者”拦截“飞毛腿”,都用到了数学模型和算法。但那仅是零星、个别、分散的应用。随着智能算法在态势感知、情报分析、指挥决策、打击行动等各个方面,在观察、定向、决策、行动(OODA循环)的各个环节得到普遍应用,算法战作为一种新的作战样式已呼之欲出。

三是算法战将深刻影响大国竞争。算法战的出现与美国军事战略从反恐重返大国竞争在时间点上的重叠并非巧合。和反恐战争中美军以巨大的非对称优势碾压对手不同,美军大国竞争的对手无论是在军事上、科技上还是在整体作战能力上都是美军重量级的对手。美军针对某一个对手尽管在整体上仍占据优势,但在某个局部甚至是关键地区,优势可能明显减弱甚至被大部抵消。这使得历来重视以技术和装备优势获得竞争优势的美军更加仰赖智能技术的领先甚至代际优势,算法战作为智能时代大国竞争“皇冠上的明珠”也就更加受到重视和青睐。“在智能时代的军事对抗中,如果一方拥有高水平智能算法,而另一方没有,后者就面临输掉战争的巨大风险。”杰克·沙纳汉说。

当人类用畜力延伸体力,用机械能、化学能延伸和加强体能与技能,用信息能与智能延伸和强化人类的记忆、分析、推理与思维能力的时候,同时也在某种程度上将人的体力、技能与智能的使用授权给了技术及其承载系统与实体。这样的授权,一直都面临技术的风险和伦理的诘难。智能技术和算法战也不例外。

首先,算法设计的初衷是找到最佳性能、最有效率的解决方案,但结果可能与期望相差深远。算法是一套系统的解决方案,每一个步骤都包含多样化的选择与走向。而人的思维能力和系统资源的局限,决定了只能在有限的可能中进行选择和推演,否则算法将无法完成,即使能够完成,计算机系统也无法运行。这就使得算法的性能和效率必然受到人和系统资源局限的影响。虽然可以通过对抗性机制检验和优化算法的性能和效率,但是否是最佳的判断永远具有主观性和片面性。

以战胜国际象棋特级大师卡斯帕罗夫的“深蓝”为例。在进行算法设计时,一种思路是通过“蛮力”方式穷尽所有策略以寻找最优解,另一种是通过“启发式”逻辑识别以聚焦最有可能获胜的特定策略。限于当时计算机系统的软硬件技术性能,只得采用“启发式”逻辑识别的技术路线。此后,随着微电子和软件技术性能的发展,证明采用“穷尽式”技术路线能得到优于“启发式”逻辑识别技术路线的结果。但在当年的条件下,如果采用这种技术路线,“深蓝”就无法实现。由此可见,一定条件下的“最优”选择,其实并非最优。

其次,算法被假定是客观、理性、中立的,算法的设计者也努力这样去做,但结果可能并非如此。

以人脸识别技术的智能算法为例。加纳裔美国计算机科学家乔伊·布奥兰维尼发现,因为她的脸色偏黑,只有当她戴上白色面罩时,人脸识别算法才能辨认出她的脸。好奇心驱使她做进一步研究,结果发现,由微软、IBM和Megvii(旷视科技)开发的3款人脸识别算法,在识别深色皮肤的面部时错误率达到35%,而对白人面部识别的正确率高达99%。

以色列布拉瓦特尼克计算机科学学院和特拉维夫电气工程学院联合披露的成果则更“恐怖”:他们用计算机生成9张“超级大众脸”,成功地突破了几乎全部现有人脸识别算法,成为“”面孔。这意味着以人脸识别算法为核心技术的门卫、警戒系统可能形同虚设。

2021年7月14日,美国人罗伯特·威廉姆斯因一起盗窃案被警方用人脸识别软件“按图索骥”而“缉拿归案”。在警方终于确认抓错了人时,他已被拘留30个小时。这在战场上导致的结果将更加可怕,因为类似算法是美军使用无人机进行定点打击和清除锁定目标的关键技术,每一次算法错误都可能导致误伤和误杀的严重后果。33岁的黑尔于2012年被派驻阿富汗巴格拉姆空军基地任情报分析员,操作无人机袭击和摧毁目标。黑尔在退役后的2014年向一名调查记者提供了150多页机密材料,披露了美军无人机的操作细节,显示无人机打击并非如宣传所说的那样精准,实际上可致平民死亡。他强调自己这样做是因为内心的深度悔恨和不安。但他为自己的行为付出因泄密而致服刑45个月的代价。

第三,算法设计追求普适性,但算法的应用场景总是具体的。任何算法的设计,都在试图将其应用于一般场景,达成最大的普适性。但迄今为止,任何人工智能系统既不具有自身的意愿和诉求,也不具备区分应用场景的能力。这本质上是人与机器系统的区别,至少在短时期内不会有根本性的改变。

然而,在算法运用于具体场景的时候,不同的自然、人文、社会环境,以及人类情感、个人偏好等因素,都将与算法发生相互作用,影响算法运行的过程与结果。算法设计者即使考虑到这些因素中的某些部分,也不可能包含全部,更有一些因素的出现和所产生的影响是完全随机的,无法预测。这就导致数字化、模型化的算法无法成为现实社会、实际场景的精准映射,导致算法在实际场景中可能产生难以预知的后果,成为战场不确定性的新来源。

总的来说,智能算法的开发和军事应用都才刚刚起步。可以预见,以智能算法为核心要素的算法战将会成为军事对抗的重要领域,算法战将会愈演愈烈。但是,在发展和运用算法战的同时,必须冷静认清其不确定性和危害性,并采取有效措施限制和消除这些危害。在军事领域,算法战的滥用已经导致误伤误杀;在民用领域,算法的滥用导致有人莫名被抓,有公司员工莫名被解雇等。人类如果不能很好地管控算法而致被其反噬,那将是所有人的噩梦。

·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注