人工智能、国际竞争与大国均势
2018-06-17 09:55:16
  • 0
  • 1
  • 1

本文转载自全球技术地图

作者:Michael C. Horowitz

编译:IITE

人工智能就是我们的未来,它将对全球政治和力量均势产生极大的、甚至可能是决定性的影响。本文通过对军事创新、科技发展和国际政治的学术研究,评估人工智能在力量均势和国际竞争背景下带来的种种问题。

2017年9月初,俄罗斯总统弗拉基米尔·普京将人工智能这个话题带到了国际政治讨论的最前沿,而以往,它仅仅出现在硅谷的实验室、学术界和五角大楼的地下室里。“人工智能就是我们的未来,不只是俄罗斯的未来,而是全人类的未来,”普京说,“它带来了巨大的机遇,但同时也潜藏着难以预测的威胁。谁在人工智能领域占了先,谁就会成为世界的统治者。

普京的话反映了世界各行业和地区的人们都开始相信的一个观念——无论是在工作、社会还是军事领域,人工智能领域的进步对未来至关重要。世界经济论坛执行主席Klaus Schwab提出,人工智能是“第四次工业革命”的重要因素之一;谷歌前任CEO 艾瑞克·施密特认为,人工智能对于未来国家力量的重要性足以让美国政府制定人工智能的国家战略,就像冷战时制定太空技术发展计划那样;Tesla和SpaceX的CEO Elon Musk甚至声称,如果人工智能技术进步未能得到合理监管,可能会引起第三次世界大战。这些说法都表明,人工智能将对全球政治和力量均势产生极大的、甚至可能是决定性的影响。

无论人工智能带来的是革命性的后果还是仅仅是增量效应,我们都很有必要去弄清它为什么以及将如何影响国家安全。尽管大众媒体和商业期刊上登载了大量有关人工智能的文章,系统讨论人工智能发展对国家安全影响的学术著作却没有多少。本文意在通过研究弱人工智能,或用于完成特定任务的智能系统来填补此项空白,我所说的智能系统就比如在美国老牌知识问答电视节目“危险边缘”(Jeopardy!)中击败了两位人类冠军的IBM超级计算机Watson,还有擅长下围棋的AlphaGo。具体来说,本文通过对军事创新、科技发展和国际政治的学术研究,评估了人工智能在力量均势和国际竞争背景下带来的种种问题。

对人工智能的通俗探讨几乎只关注科技进步。纵观历史,科技确实在全球政治中起着非常重要的作用。数百年前,像印刷术这样的技术使书写文字兴起,为新形式的政治抗议和其他政治活动的发展提供了可能。20世纪,核武器的出现极大地提升了数国的毁灭性打击能力。

但科技发展的相对影响力往往不仅与它本身的特质相关,也同样、甚至更多地取决于人们、机构和社会如何利用这项技术。就比如英国海军在1918年发明的航空母舰。作为当时世界最擅长部署战舰的海军,皇家海军最初的设计是让航空母舰为战舰提供侦察机。但是日本和美国海军创新了航空母舰的使用方式,把它用作移动机场,从根本上改变了20世纪的海战。或者咱们再回到印刷术这项技术:它加速了民族主义政治运动,这是技术激励的结果,也是人们在政治运动中充分运用这项新技术来传播信息的结果。

人工智能将会扮演什么样的角色呢?这项技术的发展还有很多不确定性,因而现在要给出答案还为时尚早。但人工智能与内燃机、电力等更为相似,它不是武器,而是使能者,是一项应用领域广泛的通用技术。这使得人工智能不同于导弹、潜艇或坦克,而有更广泛的应用范围。

弱人工智能领域的进步会为政府和军事组织创造机遇和挑战。比如,图像识别技术能帮助到那些已经足够富强、能够支持技术更新的军方。但我们很难预测人工智能运用如何影响军事组织的核心部分,比如军事计划、招募保留新兵和军事力量结构等。如果军方越来越需要学习过编程和算法的士兵,或者如果大量的无人系统足以淘汰代价高昂的传统军事平台,那会出现什么样的改变呢? 领先的军事力量面对挑战现有组织形式的创新时总是手足无措,因为自认为领先的军事力量很难改变现有的官僚组织形式。

人工智能会使哪些国家受益,这部分取决于与军事相关的创新是在哪里发明的。像私人企业或者学术部门这样的非军事机构正在尝试扩大人工智能的应用领域。一些人工智能和机器人公司,比如Boston Dynamics,接受了军方提供的研发资金;而另一些,比如DeepMind,拒绝军方资助并且坚决反对和军方合作。与隐身技术这样具有典型军事目的的技术不同,人工智能在购物、农业、股票交易等众多领域都有应用。

如果商业驱动的人工智能研究持续创新,并且军方未来可能应用的算法与民用工程息息相关,那么人工智能领域的进步很有可能更迅速地扩散到世界各地的军事力量中。人工智能竞争可能会涉及世界研发AI技术的各个主体,就像19世纪晚期在钢铁和化工行业的竞争那样。技术扩散的可能性会使其难以保持在弱人工智能应用上的“先发优势”,这可能会改变世界力量均势,缩小美国和中国以及世界其他国家的军力差距。

然而专家们并未就未来人工智能的发展轨迹达成一致,这就意味着对人工智能发展影响国际安全环境的预测都只是尝试性的。尽管人工智能的基本原理可以用于民用和军事两种目的,但最重要的AI军事应用一定不是军民两用的。基于军事研究的技术进步排他性较强,通常较难被模仿,首先采用此类技术的国家自然具有更大的先发优势。此外,如果只有最富有的国家和公司有财力负担用于研发新的强大算法所需的计算硬件,从均势角度来看高端的人工智能技术会让富者更富。另一方面,如果先进的军队没能有效整合人工智能技术,则更有可能出现混乱。

本文首先定义何为人工智能并说明人工智能是一种怎样的技术,然后转而讨论弱人工智能有关发展轨迹的关键问题和假定,看它们如何影响人工智能军事应用的采用条件,这是考察人工智能如何影响均势的重要因素。之后,本文将评估,弱人工智能在以下两种情况下将如何影响世界力量均势:1)军民两用的人工智能技术有着很高军事相关性,并且能够迅速扩散;2)军用人工智能技术具有更高“排他性”,从而限制了技术扩散、产生更大先发优势。

我们无法确定在未来十年甚至更久的时间里人工智能会如何发展。中国、俄罗斯和其他一些国家已经在大力投资人工智能领域以提升相对军力,希望重塑均势。随着人工智能领域逐渐成熟,在物流、人力甚至部署单元等领域都将出现更多人工智能运用,各国需要考虑怎样切实利用人工智能技术提升军力。因而美国在力量均势上面临的风险在于它可能对自己的军事优势习以为常,像20世纪中期大英帝国的皇家海军对待航母那样去对待人工智能——如果不能通过组织采纳合理运用新技术,那么技术创新者也会被超越。

01
人工智能是什么?

人工智能是什么?对人工智能、自主性和自动化这些术语的具体定义,人们并没有达成广泛的共识。本文中人工智能指运用电脑模拟需要智力参与的人类行为。换句话说,人工智能就是一个人工合成体在“多种环境”下达成目标的能力。人工智能系统与可以远程控制的自主机器人和机器人系统不同。比如Boston Dynamics公司可以自动开门的SpotMini就不能算是人工智能,因为它有人远程控制。像日常生活中的烤面包机,或者军方用绊索引爆的炸药,这样的自动系统(automatic systems)机械地对环境因素做出反应。与之相比,自动化系统(automated systems)的运行是基于多道提前设计的逻辑步骤,而不是绊索那样简单的触发机制。而自主系统(autonomous systems)范围更广,在一定限制内用于实现某些目标,优化一系列参数。

目前人工智能研究大体上有两种路径。第一种是符号主义人工智能(symbolic artificial intelligence)——创造专家系统和生产规则以使机器能够推断行为路径。1997年IBM公司的Deep Blue系统在国际象棋中战胜了加里·卡司帕罗夫,它采用的就是符号主义方法。与之相对的是计算机学派或者联结主义方法(connectionist approaches),机器通过计算而非符号表示来识别问题并做出行动。机器自主学习是人工智能中非常重要的计算方法。编写机器学习算法需要多种计算技巧,包括贝叶斯网络、决策树和深度学习。深度学习让机器通过强化学习的方法掌握一种算法,利用神经网络来训练算法完成特定任务,比如图像识别。一些研究员试图融合符号主义和联结主义方法,希望通过这种混合型的研究方法来创造一种通用语言,让算法能通过多种路径去学习如何完成特定任务,使之更加高效。

就本文而言,理解人工智能发展的大致轨迹比研究赋予人工智能特定能力的具体方法更为重要。很多情况下,要判断哪些方法将生成哪些功能还为时过早。

人工智能是使能者,而非武器

一种新技术的影响部分取决于它潜在的基本用途。一些通讯技术,比如电报和电话的发明是使身处不同地方的人能更快地取得联系;军用技术,比如导弹和子弹,是用来打击破坏某个目标的;铁路还有自行车属于交通技术。这些科技大类下面还有很多小类,每类中都有很多种技术。举个例子,一架F-35战斗机由超过300000个零部件组成。另一类科技可以被称作“使能技术”,这类技术并不像上面的例子,为某个特定目的而研发,它是多用途的,可以广泛运用于其他很多科技中。电力技术就是一种使能技术。

所以人工智能属于哪种技术呢?尽管国防部门“第三次抵消”的说辞还有其他一些讨论让人工智能看起来像种军用技术,但它实质上是终极使能者。就像内燃机和电力一样,人工智能可以运用于很多具体技术。斯坦福大学的Andrew Ng认为,和电力一样,人工智能可以在多元领域中助力具体技术的发展,比如农业、制造业和医疗服务业。

人工智能能从多个维度发挥作用。首先,它能用于管理像机器人系统这样无人监管的实物, 无论是在坦克、飞机还是舰船里,人工智能都可以减少人类的参与,有时甚至是远程,成为人类-机器队伍里的一员。比如集群技术就用到了一些受人监管的算法,可以指挥类似无人机群这样的平台。其次,人工智能可以帮助人们处理和解释信息。图像识别算法可以用来给度假照片加上标签或者识别商店中的产品,也同样可以用于“Project Maven”计划,这是一个美国军事项目,意在研发可以自动分析无人机即时影像的算法。尽管在不同情况中应用方式不同,但背后的算法完成的任务是一样的——快速识别图像并标记。最后,多个弱人工智能系统的重叠应用可以被用来创造新的指令和控制方式——可以分析大量数据并做出预测指导人类行动的运行系统,包括作战系统——或者算法指导的行为。

人工智能的种类?

我们可以把人工智能看作一个相邻两者相似但两段截然不同的连续体。一端是弱人工智能应用,就比如能够战胜世界围棋冠军的AlphaGo。这类应用就是专门用于特定任务的机器学习算法,不可能被用于其他任务。弱人工智能可以被看作相对先进的自主系统,或者一启动就只会完成特定任务的机器。

而这个连续体的另一端是“超级聪明的”通用人工智能。这类人工智能采用单个或系列算法,不仅能完成简单的任务,也能有效思考并为更宽泛的问题设计解决方案。Nick Bostrom描绘了一种极端的可能,超级人工智能也许会主宰世界,其程序甚至可能在不经意间使人类灭绝。连续体中部或者中部偏人工通用智能那端是“变革性人工智能”,这样的人工智能可以完成玩电子游戏这样的特定任务之外的很多事情,但却不足以拥有超级智能。

本文重点关注弱人工智能应用对力量均势和国际竞争的潜在影响。从现存的人工智能技术来看,弱人工智能应用在未来二十年里最有可能影响军事领域,进而影响力量均势。此外,超过人类智能的通用人工智能会在中短期内还是数百年后出现,这个问题即便是专家也无法给出一致的答案。人工智能专家们也无法确定未来人工智能发展的轨迹。调查表明只有50%的人工智能研发者相信到2049年人工智能系统能写出一本畅销书,约75%的研究者认为这可能要到2090年才能实现。经过大量训练的专家也无法在人工智能发展问题上达成一致,这体现了人工智能领域很大的不确定性。

这使我们思考哪些人工智能技术将得到进一步发展,而本文重点关注那些在下一代最有可能兴起的技术。

02
技术和均势

新兴技术主要通过军事和经济手段影响均势。技术可以直接影响国家的作战能力,也能通过影响国家经济力量间接地影响均势。毕竟如果没有经济支撑,一个国家无法长期或者中期地维持军事优势,只要想想奥斯曼帝国和帝制中国的没落就不难理解这一点。

但是现在,我们还不清楚具体AI应用将如何转化为军事力量。尽管收到持续投资,将人工智能融合进军事技术仍不是件易事。Project Maven是美国 “算法战争” 提案的第一项计划,军方试图开发人工智能的潜力并将之用于增强军事力量。但是无论在美国还是其他国家,很多投资还只处于早期阶段。正如Missy L. Cummings所写:“坦克还有交通工具这类自主地面行驶车辆和自主式水下航行器都还在研发中。但是大多数研发机构正挣扎着想要实现从研发到实际运行的飞跃。”

我们很有必要将这些颇具潜力的技术创新和军事创新区分开来。尽管军事创新常常和技术创新相关,但这种关联性不是必然的。军事创新是组织行为和方式的重大变化,意在提高军方有效地将武器转化为力量的能力。美国和日本军方将航空母舰用作移动机场,这就是一个典型的例子。尽管人工智能有潜力实现一些军事创新,它本身并不是,而且目前没有哪一项被军方采用的人工智能运用能算得上一项军事创新。

因为人工智能研发和相关技术任处于初期阶段,人工智能在战争中的运用还远不能跟坦克在一战中的初次亮相相提并论,更别说二战中德军使用的颇为有效的联合武装作战法了(这项军事创新也就是现在人们熟知的“闪电战”)。这就限制了我们对弱人工智能将如何影响均势和国际政治的分析。对技术和国际政治的大多数研究关注像核武器这样特定成熟的技术,或者军事创新。由于人工智能还处于早期发展阶段,因此研究时需要运用现存的有关军事技术和创新的理论。

我的采纳容量理论(adoption capacity theory)能让我们更好地洞察人工智能的发展对力量均势的影响。此理论认为,采用一项军事创新所需的财政和组织条件会影响该军事创新的扩散速度并影响力量均势。财政上的考虑包括计算相关硬件的单位成本,以及判断这项性能是基于纯商业还是纯军事技术。需要考量的因素还有:评估采用此项创新需要在多大程度上影响军方目前的关键任务(也就是一个组织希望能达到的目标);评估组织内关键精英的地位(比如战斗飞行员在空军中的地位)。但因为采纳容量理论关注的主要是军事创新,要想适用于人工智能,这一理论还需要一些调整。

采纳容量理论建议,研究技术变革如何影响均势需要回答三个问题。

第一,技术本身很少(如果真的可能)是决定性因素,那技术的应用如何能影响战争的性质呢?举个例子,机关枪火力在非对称部署时能有效应对进攻,但和带刺铁丝网配合使用呈对称布局时,这项技术在一站中实现了战壕作战僵局。更广泛地来说,工业革命和制造业转向工厂大规模生产使步枪从少数军队配备的手工制作的武器变成了能够被广泛使用的武器。这提高了战争的杀伤性,也改变了军队的组织方式和战术。

第二,不同主体如何真正推行一项技术或者在推行过程中会受到官僚主义怎样的限制?由此对军事创新产生了怎样的影响?这个问题与本文高度相关,因为组织采用并推行一项技术创新所面临的挑战与推行的有效性密切相关。要衡量一项创新对国际政治的影响有多大,这些挑战是重要因素。

数十年的研究表明,相比于技术本身,技术变革对全球政治的影响——无论是经济、社会、外交还是军事领域的变化——更多地取决于政府和组织怎样采纳并运用新技术。Barry Posen,Stephen P. Rosen等人设立的军事创新奖学金就体现了这一点,单靠技术创新很难影响均势。而军方如何使用一项技术才是突破的关键。军方运用新技术的能力部分取决于这项技术的复杂程度,它有多难掌握以及它的运行是否可预测、可解释。这些因素影响了高级军事领导人对此项技术的信赖程度,进而影响他们是否采用此项技术的决定。此外,采用一项技术时对原有官僚秩序的影响程度越深,其在地位稳固的老牌机构面临的挑战越大——如果这个机构缺乏科研投资,也不懂得融合新技术、新想法,技术要得到采用就尤其困难了。

19世纪中期,每个欧洲国家几乎同时掌握了铁路、电报和制造步枪的技术。但普鲁士军队首先想到如何结合并充分利用这些技术,迅速部署力量。在那之后其他国家的军队才采取了类似的措施达到了相似的效果。

英国海军和航空母舰的例子进一步揭示了组织流程对于军事领域技术应用的决定性作用。如前所述,尽管皇家海军发明了航母,以战舰为先的制度性承诺使其把辅助为战舰提供信息的“侦察机”看作这项新发明的首要任务。而美军和日军这两支新崛起的海上力量没那么看重战舰,反而创造性地想到,航母的真正价值在于它的独立打击能力。由于战舰和经验丰富、已经习惯部署战舰作战的海军将官们在多国海军中占主导,因此把航母看作移动机场需要一个概念上的转变,这不是件容易的事。

即使后来将航母用作移动机场被证明是最优选择,要采用航母作战也是挑战重重。二十年来中国海军一直在研究航母运行机制,但也才刚刚开始建立真正的航母作战能力。苏联曾花费数十年时间试图采用航母作战,但最终失败。简单来说,要想操纵航母、使飞机顺利起飞和降落,以及与其他海上力量协调配合,需要不同系统的融合,这是很难实现的。一支军队试图有效运用新技术时需要做出的改变越大,它面临的官僚主义挑战就越大,强国就越有可能因为组织能力欠缺而放弃采用这项技术。这就是可能会改变力量均势的关键机制。

第三,一项新技术如何传播?这个问题的答案决定了采用新技术的相对先发优势有多大。Kenneth Waltz最初提出军事技术创新往往很快就会被效仿,但后续研究表明实际情况要复杂得多。扩散率很重要:如果某项技术扩散得较慢,那么首先采用此技术的国家就会有可持续的优势。但如果其他国家能够快速采用这项新技术,那么第一个的相对优势就会迅速消失。

军事技术和其他通用技术一样,可以通过多种机制扩散。采纳容量理论提出了几个影响弱人工智能技术扩散的关键因素。

首先是建立人工智能系统的单位成本。编写军事应用算法所需的硬件和计算成本越高,门槛就越高。相对的,一旦算法编出来了,成了软件,那就更容易扩散。

其次,只有军事目标驱动的技术往往比有商业目的驱动的技术传播得更慢。如果一项技术只在军事领域能派上用场——比如隐形技术——并且它的单位成本和技术复杂程度都很高,那么能效仿这项技术的主体就最少化了。

而反过来讲,有商业目的驱动的技术一般传播得要快得多。十九世纪铁路曾被当作一项“军事技术”,能够实现空前迅速的兵力部署和集结。但铁路能迅速运输货物的商业价值加速了世界范围内密集铁路网的建设,因而在铁路这项技术上很难有国家能保持可持续的优势。

03
人工智能对力量均势的影响

如果正如普京、埃里克·施密特、埃隆·马斯克所说,人工智能是一片竞争激烈的战场,那么这场竞争有什么样的特点呢?目前美国和中国应该是人工智能发展最为领先的两个国家。世界上最强大的两个国家在人工智能领域竞争全球领导地位,这让很多人想起20世纪的激烈竞争,比如美苏太空竞赛。已退役的军陆战队将军John Allen和Spark Cognition公司CEO Amir Husain认为,美国需要在人工智能领域投入更多以取得并维持领先地位。

为了经济发展和国家安全需要,全球各大国在人工智能领域皆有投资,这越来越普遍地被看作一场军备竞赛。2017年中国发布了一项有关人工智能的国家战略,认为人工智能是一个“重大战略机遇”,并提出一项协调战略以“打造中国的先发优势”,在人工智能领域引领世界。俄罗斯也在大规模投资,尤其是军事领域。有报道称俄罗斯军方正在设计用于守卫弹道导弹基地的自主车辆以及能够携带核武器的自主潜艇。在机器人领域,俄罗斯正在尝试Uran-9、Vehar等先进坦克的远程部署。

美国以外并不只有中国和俄罗斯对人工智能在国家安全领域的应用感兴趣。和机器人技术一样,人工智能技术可以被用于军事目的,因而吸引了很多国家的关注。人工智能的商业驱动因素和许多人工智能技术军民两用的特点意味着具备发达信息经济的国家更有可能成为此领域的领导者,至少也是快速跟进者。在东南亚,新加坡处于人工智能投资的最前沿(军事和非军事领域皆是如此)。其他东南亚国家也在进行着人工智能的相关研究。在军事领域,韩国已经研发出了半自动系统SGR-A1,用于防备朝鲜对朝韩非军事区的袭击。

人工智能也为资本密集的国家提供了机遇和激励。发达的经济体往往坐拥大量资本,却面临着高昂的劳动力成本或者规模较小的人口,比如澳大利亚、加拿大还有欧洲的许多中等强国,这些国家在军队征兵时会遇到困难。对它们来说,能将资本转化为劳动力的技术是极具吸引力的。澳大利亚国防学院的指挥官Mick Ryan将军就认为,将人工智能和机器人技术结合起来,人口规模小所带来的问题就能被解决。2017年法国国防战略回顾指出,人工智能技术的发展和运用对于法军保持“运作优势”至关重要。以色列这个典型的经济发达、资本多劳力少的国家也投资研发军用人工智能技术,用于预测火箭发射、分析录像片段。以色列国防军(IDF)中的人工智能军事相关性评估小组组长Nurit Cohen Inger中校在2017年说过,对IDF来说,人工智能“会影响军事冲突中的每一步、每一个细小的决定,甚至整场冲突本身”。

有了这些投资,人工智能领域的发展将怎样影响军事组织和战争性质呢?这些技术又将如何扩散呢?

人工智能和战争性质

一定时期的“战争性质”可以这样定义:在现有技术、组织和制度下战斗并取胜的主要方式。可用手段的变化会影响军队作战的组织形式,战争性质也会随之变化。拿破仑时代通过大规模动员鼓励人们投入战争,就是一个非技术发展改变战争性质的例子。

人工智能应用能通过几种方式在宏观上影响战争。最广泛来说,自主系统,或者弱人工智能系统,有潜力提高国家投入战争的速度,这正是人工智能和内燃机的另一个相似之处。即使决策者仍在犹豫是否要用致命武器,机器作战依旧可以大幅提升行动速度。

目前有部分军用人工智能应用正处于研发或讨论中,尽管许多都还在初级阶段。比如,有研究显示,神经网络可以分析图像数据库并对特定图像进行分类(比如一座山),这就使得具体定位更为精准。此外,弱人工智能系统的数据处理能力可以提高数据处理速度,这正是美国军方项目Project Maven的目标。投资研发图像识别技术,是为了更快地取得更精准的结果,这个领域很可能会得到持续投资和应用(意外情况、黑客入侵等系统出错的可能暂且抛开不谈)。

图像识别以外其他领域的人工智能应用如果得以成功实现,可能会产生新的运行概念,进而影响军队结构和人员构成,或者军队的组织形式和行动计划。其中的原则可能就是军事行动中大量小型平台的使用,这些平台被称为“集群”(swarms)。私营公司和学术界已经研发出了用于“集群作战”的算法和控制系统。军工级的算法还需要和预警机、有人驾驶飞机、卫星、传感器等其他军事系统协调配合。在战斗环境中部署的集群需要具备实时调整的能力,如果部分损毁,余下的仍要即时优化运行方式,这是商业运用不需要考虑的问题。研发集群算法可能需要用到的方法有行为树和深度学习。

弱人工智能的另一个可能改变战争性质的应用是通过多层算法协调合作来管理复杂行动。这些算法可能是产出行为树的专家系统,也可能由生成对抗网络发展而来。通过这种方式,不同算法相互竞争,在此过程中教会对方如何完成不同的任务。一些算法要用于辅助协调包括人和机器在内的军事资产。在这种情况下,对抗性学习有助于弥补个别战斗中决策的独特性,并在现有训练数据之外学习适应的问题。

通过算法加快运行速度,从而帮助人类指挥官做出最优战斗计划,包括实时指导,这样的技术可能会改变军队人员和结构,特别是海军和空军。自二战后,现代军队经历了一个长达数十年的从重数量到重质量的转型,其背后的逻辑在于,小规模但高质量的军队更有可能在战争中取得胜利。人工智能可以加速这一趋势,颠覆长久以来与军力结构相对应的权威战略,比如通过成本适中的反介入、区域拒止网络(A2/AD)打败对手。

如果以机器速度运行的算法和协调系统变得对战争胜败至关重要,昂贵的高质量平台的实战效果可能并不如协调运行的传感器集群和相对低成本的武器平台。这样,人工智能就能通过大量的机器人系统将数量这一要素重新放到与质量齐平的位置上。但在近中期,人工智能的最优应用还是通过机器学习优化现有平台。

几乎所有政体都有理由为军事目的而发展人工智能应用。对民主国家来说,人工智能可以减轻战争的人口负担并减少士兵承受的风险,远程指挥系统减少了人力使用,更能实现这一点。在专制国家,人本来就不受信任,将军事决策部分交予算法,减少战争中对人的依赖度,这样的能力本身就具有吸引力。

组织政治和人工智能

尽管具体的军事应用还有很多不确定性,上文中提及的人工智能应用于军事领域的例子已经证明,这些应用有可能严重打乱原有的组织结构。比如战斗管理协调系统(无论是不是人机合作):要想成功运行哪怕是半自主的战斗管理系统,也需要招募新的专业人员,这意味着在征兵、训练和升职等各个方面都会发生改变,以使既懂军队运行又懂特定人工智能系统的人能尽其才。Rosen已经证明,改变军方晋升体制以给予新领域的专业人才以更大的权力,这对于军事创新的采用至关重要,人工智能也不例外。

如上所述,操作层面人工智能系统的运用可以为军队组织和人力使用提供更多选择,因为可以大量使用以机器速度运行的网络系统来替代单一的少量高质量有人驾驶飞机。但实现这样的概念可能会打乱原有的组织形式,进而改变特定军职到军队领导层的晋升路径。这样的情况已经出现在空军组织中了,战斗飞行员一般是空军的主导,因此对无人飞行器的投资更为犹豫。人工智能应用也会挑战根深蒂固的官僚概念,比如数量和质量如何取舍。用最优方式采用弱人工智能技术对先进的军队来说会比较困难,因为这需要受过训练的专业人员来确保人工智能运用的质量和可靠性,保证合理有效运用。

而其他应用,比如美国国防部的Project Maven计划,相对容易实行,因为从组织创新的以往资料来看,它们属于可持续的技术。可以快速精准处理无人机图像的自主系统不会扰乱军队高层的职业专长,也不会改变军队服务的运作方式。只有当弱人工智能的最佳利用会导致大国模结构调整的时候,采用此技术的要求才会提高,官僚反对者才会增加。举个例子,X-47B型号无人机是能够在航母上自主起飞和降落的下一代系统,但碍于官僚阻力,美国军方没能投资该系统。这就体现了官僚政治和组织竞争对军方采用创新技术的妨碍作用。

军队或社会的战略或组织文化,或者更具体地说,这些文化对创新的开放程度,也会影响其对人工智能潜在发展的利用。当然说到这里可能会重复提到有关文化的争论,因为除非一个组织已经尝试或者已经采用了一项新技术,我们很难衡量它是否具备采该新技术的能力。但是,Emily Goldman在关于奥斯曼帝国的著述中提出,要估测一个社会试验并采用人工智能系统的意愿,有必要研究出一套文化开放程度的度量标准。

有趣的是,军队结构规范对于在特定军事任务中人工智能的使用也会产生影响。Theo Farrell研究爱尔兰独立后爱尔兰军队的发展,发现爱尔兰军方经常会效仿更强大的军事力量的功能形式,即使这可能并不适合它。如果把这个发现放到人工智能领域来看,一些军队可能不太会使用需要破坏组织结构的人工智能技术,尤其是当这么做会导致明显的结构变化时,就比如从使用少量先进的有人驾驶飞机到采用成本低、支配自由度更高的飞机集群的概念。

关于组织和战略文化的观点与采纳容量理论基本一致,因为两者都关注创新扰乱组织身份带来的挑战。我们最终得出,大力投资科研的、相对年轻的、对关键任务有广泛认识的军队在文化上更为“开放”,也更能采纳新技术或者将一项创新实行到底。

军用人工智能的扩散:两种情况

弱人工智能在军事领域的应用扩散速度是一个根本问题。要估测一项技术创新的先发优势,进而探究其对均势和战争的影响,就必须先弄清这个问题的答案。采纳容量理论认为,一项新技术的扩散难易程度主要取决于这项技术的单位成本,尤其是物理硬件的成本。

软件和硬件在人工智能设计中缺一不可。这决定了我们如何衡量人工智能的“单位成本”。基于硬件的军事技术往往比基于软件的技术传播得慢,也就给首先采用的国家带来更可持续的优势,特别是当这项技术的单位成本相对较高的时候。比如平顶航母高昂的单位成本就提高了门槛,只有富强的国家才能负担得起。

要说军事平台的话,算法都属于软件。就比如MQ-9 Reaper,美国军方采用的一款当代武装无人机。它是一款远程控制机,飞行员在其他地方操控无人机,下达开火打击潜在目标的指令。这种远程控制的无人机和算法控制运行的自主无人机的区别就在于软件。从外观上看,平台都是一样的。

但是,如果从军事角度来看,弱人工智能就是软件系统,它也需要大量的硬件支持。相关硬件成本——特别是弱人工智能的先进应用的成本——可能是极高的。算法越复杂,对计算硬件的要求就越高,因为需要硬件来“训练”算法。因此,商业和学术领域的人工智能研究者需要大量投资以提升运算能力,达到上万亿次浮点运算。这样的硬件要求和坦克、巡航导弹显然是不一样的,但它也同样是硬件。过去十年里人工智能依靠深度学习和神经网络取得飞速发展,也依赖于计算硬件的同步发展。MIT 电机工程与计算机科学学院的教授Joel Emer简单明了地说:“很多人工智能领域的成就都是依靠硬件发展才得以实现的。”但是一个算法训练完成之后是不需要依靠那样的计算能力就可以运行的,这时运行已完成的算法所需的计算能力就大大削弱了。

人工智能技术通过同步发明或模仿扩散的速度部分取决于提升计算能力的难易程度。如果像芯片效率逐渐提高、计算成本持续下降,那么拥有先进技术公司的国家会比其他国家更容易研发出人工智能技术。

相反,如果大多数国家的公司没有能力承担复杂算法的硬件成本,技术扩散就只能通过特殊的渠道进行,比如国家层面的交易或双边协定,或者间谍活动(也就是黑客入侵)。这就会减缓大多数人工智能发展的扩散速度,提升创新者的优势。

采纳容量理论要解决的另一个问题是,基于商业技术和基于纯军事研究的军用人工智能两者的比例如何。尽管目前很难得出答案,但研究这两种情况能够揭示这个答案将如何影响人工智能改变均势和国际竞争结构的方式。

军民两用的人工智能

对未来工作的研究表明,全球人工智能的发展背后有很强的商业驱动因素。2017年麦肯锡全球研究所的一份报告估测,2030年前,大约4亿人(中间值),也就是15%的劳动力将会受到自动化的影响。被大量引用的Carl B. Frey和Michael A. Osborne所做的研究也估测,美国47%的工作岗位有被自动化替代的风险,这不仅指向蓝领职业,也包括律师、股票交易商和会计师。各行各业的公司都有发展并运用算法的需要。

人工智能的商业利益太高了,以至于有人认为,高商业利益——还有一些有才华的人工智能工程师——阻碍了军用人工智能的发展。此外,商业公司能提供更优厚的薪水和待遇,这意味着军方或许得与民用公司合作来发展人工智能技术。谷歌和美国国防部在Project Maven计划的合作就表明,推动商业领域人工智能发展的人才和知识对于军事创新也必不可少。

如果技术进步主要源于民用部门,那么世界各国都可能迅速采用新技术。商业公司自己可以传播技术,其他国家的相关公司也会为了利润迅速模仿。巴西、德国、日本和新加坡的公司可能会成为人工智能领域的领导者,或者至少成为快速跟随者。

人工智能领域的主要研发者关于开放源码的承诺也会提高扩散率。比如在2015年,谷歌公开其人工智能引擎TensorFlow代码。其他承诺开放源码的研究者,为了减少高附加值时算法安全风险,会将他们的成果发表出来,使他们的算法更容易被复制。

尽管先进的人工智能商业应用需要大量的硬件支持和专业技术,采纳容量理论认为,一项技术的商业导向性越强,传播速度就越快。像DeepMind这样的公司现在确实有优势,但这样看来,很快全球就会有更多公司拥有类似的技术。私营主体依靠非政府的市场激励来发展或者复制先进技术,政府也能够更容易地对其施加影响。

那么在军事领域有重要应用的军民两用人工智能会如何影响全球力量呢?如前所述,如果一项技术能相对容易地被获得或复制,那么技术发明者拥有市场优势的时间就会缩短。保持技术领先不是件容易的事。在人工智能和机器人领域,这可能是另一个在军事系统中关注数量的理由。如果人工智能技术的先进性很难持保持,那么较为先进的军队可能会拥有质量相似的技术系统,当然前提是他们都意识到人工智能技术在军事行动中的巨大潜力。这种情况下,国家更有可能再次通过数量来取得优势——弱人工智能技术本身就鼓励数量增长,而这是内在激励以外的另一层原因。

如果军民两用的人工智能对军用人工智能至关重要,那么合理安排军力、训练、制定行动计划以充分运用这些应用的能力将会决定哪些大国能取得人工智能领域的领导地位。1940年的法兰西之战就很好地展示了在最极端状况下,什么才是生死攸关的决定性因素。德军和英法军队双方都有坦克、载重火车、无线电台和可以用作近距空中支援的飞机。而使德军获得巨大优势的是闪电战——一种新的战术可能胜过装备更先进的对手。

现在让我们回到人工智能和太空竞赛的对比。人工智能技术具有商业和军事双重目的,因而更容易扩散,也使得先发优势难以持续,在这方面它和太空竞赛没有什么可比性。太空竞赛是美国和苏联之间的竞争,两国都想送人类进入太空、登月,然后安全返回地球。火箭本身是洲际弹道导弹(ICBMs)研发过程中的产物。太空竞赛在经济领域的溢出部分包括卫星技术发展而产生的GPS技术和其他信息时代的关键促成因素。但总体来说,这场登月竞赛是两国政府为国家目的发起的,而不是为了军民两用的经济效益。

人工智能技术的商业驱动因素新算法扩散的速度使竞争范围远比两国间的太空竞赛更为广泛。这样的竞争更可能是多国的,全球各个国家和公司都会参与竞争。将之与19世纪末20世纪初的第二次工业革命相比较或许更为合适,法国、德国、英国、日本、美国和其他在钢铁生产、化工、石油、电力和其他行业激烈竞争,争夺霸权。

如果竞争国家能够成为快速跟随者,那么依靠商业发展驱动的军事人工智能应用领先并不会明显影响两国的相对实力。因而商业驱动的人工智能技术发展的意义更多在于创造新领域,改变现存行业性质,以及确保全球经济中领先的公司将总部设在本国。

纯军事人工智能

基于商业发展的AI军事应用之外,另一条路是研发专门军用的人工智能应用。要想复制“排他性”技术,也就是不基于广泛可用的商业技术的那些创新,只能通过间谍活动窃取(就像苏联窃取原子弹技术那样),或者通过观察模仿其原理。很多弱人工智能军事应用具备一些使它们难以被轻易复制的特点,具体如下。

首先,先进军事系统较为复杂,效仿成本高昂且不易成功。尤其是有的时候,很多零部件在商业市场上买不到,这些部件的制造技术被列为国家机密。当然有些顶尖的商业技术有时也会这样高度保密,但这并非常态。即使一些国家拥有先进的商业人工智能技术,大多数国家无法将商业算法用于军事目的,限制了基于人工智能技术的军事能力创新。这也意味着,由于系统整合面临的巨大困难,很多军队不会大量投资相关算法。

尽管特定人工智能技术能否转换为军用技术还存在不确定性,弱人工智能最重要的军事应用——那些可能会极大影响大规模军事行动的应用——可能并没有相对应的民用技术。能够以机器速度协调军事行动的战斗管理算法就不一定有商业原型——即使有位高权重的人监工也难以研发——除了用于自上而下管理工厂或运行系统的人工智能应用。在这些领域,军工级算法的研发需要概念上的突破,其他国家很难快速模仿。

其次,一些军事人工智能应用,比如图像识别技术,确实有对应的商业应用。但即便如此,军工级技术的网络安全指数和可靠度会比民用技术高很多。部署军用人工智能系统时会强化电子战备,额外增加对电邮欺骗和黑客入侵的防备,这在民用技术中会相对薄弱一些。在军事环境中,军方不得不提高安全防护以应对对手的欺诈和入侵行为。

对于拥有强大商业人工智能研发能力的国家来说,针对军用的弱人工智能应用比上一代的隐身技术更容易模仿。但隐身技术是个例外:它比过去数百年里的军事技术更难复制。

迅速采用没有对应商业技术的人工智能应用能为军队带来巨大的先发优势,尤其当这项技术在计算驱动下取得难以复制突破时,先发优势更为明显。这对人工智能领域的竞赛意味着什么呢?如前所说,中国的人工智能战略强调,把人工智能看作国家间的全球竞争,而不仅仅是公司投资的市场,这也是很多国家目前的看法。正如Elsa Kania所写,中国人民解放军正在大规模投资人工智能有关的各项计划,中国的国防工业和军事研究机构都在大力投入研发,有时也和私营企业进行合作。

采用纯军事技术也可能给军队带来巨大的组织压力。即使大多数国家很难成为快速跟随者,或者模仿其他军队的先进技术,人工智能领域的大国竞争也可能给那些没有能力快速适应并运用人工智能技术的国家带来风险。通常,世界领先的军事力量面临的风险最大,现在说来也就是美国。领先的军事力量不愿考虑采用具有组织破坏性的新技术,它们也可能忽视这一事实,坚信自己一直处于领先地位,直到他们放弃创新的后果显现出来。

从均势角度来看,这种情况更可能在新兴的强国造成一定混乱,而不会影响更大的军事范围。一些国家无法在人工智能领域取得进步,因此军事竞争主要在当前技术领先的国家中展开,比如美国、中国和俄罗斯。但这些国家也可能会出现重大混乱。如果中国军队比美军更迅速地研发关键算法,用于更大范围的战斗管理,或者更愿意将其投入使用,那它可能会积累起优势,改变亚太地区的力量对比。前提是这些算法都能按最初设计正常运行;所有军用人工智能技术都已经加强防护,不会被黑客入侵或者电子盗用;并且操作者只有在算法和现存人类操控或远程操控系统一样甚至更可靠高效时才使用弱人工智能应用。

尽管本文重点关注了弱人工智能应用,人工智能领域的双边竞争可能是人工通用智能领域最不容忽视的话题。本文并不涉及对人工通用智能的讨论,但只要首创者而非快速跟随者能获得足够的回报,它就会成为一个重要的离散竞争点。比如说,第一个研发人工通用智能技术的国家将能锁定经济或军事领域的领导地位,而其他国家将无法再采用该技术,或者它们的技术达不到同样的水准,这就可能成为竞争的一个离散“端点”。但这看起来是不太可能实现的,技术发展很难如此分立,一国可以在技术上领先,但也不太可能在他国追上来之前利用先发优势巩固领先地位。

结论

无论是机关枪、铁路还是长弓,技术创新都能对力量均势和国际冲突产生一定的影响。但这个影响通常取决于人和组织如何使用这项技术,而非技术本身。现在要说弱人工智能会产生什么样的影响还为时过早,但从目前的技术进步看,一定会产生一些变化。

作为一项 “使能”技术,弱人工智能领域的创新不是武器系统,而与电力和内燃机等更为相似,它的影响远不止解决军事优势的具体问题,而能够触及全球的经济和社会。本文阐明,人工智能领域的技术进步能够大规模影响全球均势。无论未来数十年内军民两用的人工智能和纯军事人工智能的组合将会怎样影响现代军队,采用新技术的组织条件是重要因素。世界各国的军队需要设法解决由此产生的新问题:如何改变征兵和晋升政策来赋予懂算法和编程的士兵更多的权力,以及如何调整军力结构以在战场上充分发挥基于人工智能的协调作战能力。

纵观军事史和经济史,我们会发现弱人工智能的影响可能是巨大的,尽管说人工智能引发新的工业革命确实夸大其词了。采纳容量理论显示,需要大规模组织调整并采纳新的运行概念的军事创新更有可能改变相对军力。历史上从密集战到闪电战的军事创新表明,就算美国、中国和俄罗斯在未来十年中人工智能技术水平基本相近,他们的军事力量也会因为使用人工智能技术的方式不同而产生差距。

不管人工智能技术扩散速度如何,主要军事力量很可能要面临人工智能发展和部署的安全困境。在技术扩散较慢的情况下,如果担心对手在难以模仿的技术领域取得领先——而在战场上任何微小的差距都很重要——各国就会加快发展和部署相关技术。而在技术迅速扩散的情况下,竞争性激励依旧存在,因为各国会觉得他们得赶紧跟上。此外,竞争者在人工智能领域的进展本身是很难衡量的(不像航母的建造情况一眼就能看出来),这就会使各国做出潜在对手发展最落后的假设。

人工智能领域的竞争正在进行着。尽管美国和中国看起来最为领先,世界各国都在大力投资人工智能领域。尽管拿太空竞赛来与之类比并不准确,我们还是有必要把人工智能看作一场竞争。这样的框架能帮助人们和组织理解他们身处的这个世界,从如何评估国际威胁到战争的可能轨迹。如果把人工智能领域的竞争与太空竞赛作类比能激励政府层面的积极作为,提高企业和公众意识,那么这个类比对美国来说还是有用的。

从研究角度来看,本文的一个局限在于它只关注了力量均势和国际竞争,而不是人工智能的具体应用。未来研究可以关注人工智能在军事领域的具体应用情况或者其他关键问题。具体应用包括可以自主选择和截获目标的武器系统,这些系统可能会引发人工操纵的伦理和道德问题,以及以“机器速度”展开的战争实务问题。将人工智能技术用于预警系统,其迅速锁定目标的能力可以影响危机稳定性和核武器的使用。在更广泛的安全领域,人工智能将会改变人类安全使命。本文列出了弱人工智能军事应用影响国际竞争和力量均势的初始框架,从而为将来对以上问题的研究奠定了基础。

本文也提出了一系列政策问题。如果把人工智能看作一个国际竞争舞台,就产生了这样一个问题:中国已经出台了人工智能战略,对此美国是否应该制定出自己的一套人工智能战略?2016年奥巴马政府发布了一份人工智能政策路线图,它指出了美国在人工智能领域取得领先地位的重要性,但主要关注了监管政策问题。特朗普总统上台后此领域的政策发展暂时停滞,尽管白宫最近宣布成立一个新的人工智能专家委员会来指导政策出台。

可能有一些人认为,美国有必要和中国一样出台一份正式的人工智能战略。尽管私营领域也有很大的动力发展人工智能技术,但只有政府能协调相关投资,保证特定关键技术的发展,以取得领导地位。

但另一方面,正是美国的自由市场和它与世界经济的联系使美国成为全球创新引擎。更集中计划的经济体制往往和创新相冲突。冷战时期,苏联国防工业基地和军队在完善现有技术和采用新技术方面做得很好,但苏联的集中体制让真正的创新难以实现。

中国在人工智能研究上的投入比美国多得多,中国研究者也比美国同行们写出了更多的相关论文,比如有关深度学习的论文。我们不清楚这些科研成果将如何转变为有形的人工智能新技术。从均势角度看,人工智能最好的发展道路是市场和政府研发并行。在经济领域,中央规划可能会扼杀创新,因此政府应该是基本研究的投资者,而把余下的留给市场来完成。

但是国防部门还是不一样的。对美国来说,国防部有义务清晰地界定哪些人工智能技术最有用,并且确定研发哪些技术,使之从构想变为现实。全球研究人工智能系统的政府机构正如Cummings所写的那样:“这些研发机构都在努力完成从技术研发到实际运行的跨越。”

更广泛地说,如果在21世纪,投资并合理运用AI技术对于军事力量至关重要,那么美国路径就是大杂烩。乐观主义者们看到机构投资将前沿研究运用到美国军队中,此类机构包括国防创新实验单元(DIUx)、战略能力办公室和国防部高级研究计划局(DARPA)。从有关“第三次抵消”和“多域作战”的讨论来看,军方和政府高级领导人也在慎重对待人工智能带来的挑战。

与此同时,大量创新是从军队底层逐渐向上传输的,其中既有技术创新,也有新的运行概念被实践。也许这样的研究以及美国给予资金支持的小型实验性项目在将来能成为美国军事项目的主体,使美国领先并保持军事优势。如果弱人工智能持续发展,高级领导人一定要持续关注新技术的采用。

但悲观主义者看到的可能是政府说辞、小单位层面的实验和实际预算之间的差距。确实有很多关于人工智能和机器人重要性的讨论,高级领导层也一致希望通过合理利用人工智能技术使美军联结更紧密、分布更系统、更具杀伤力。但在美国军方在人工智能领域的实际投资上,这样的语言环境还没有与现实接轨。比如在决定是否投资研发下一代无人机时,美国海军将其现有的计划资金投到MQ-25空中加油平台的研发上,此平台是为F-35这样的有人驾驶飞机提供支持的。MQ-25项目被选中了而一个先进的武器系统没得到资金,这个系统基于X-47B演示者工作,具有在危险的冲突环境中隐形的能力。如果美军在未来数十年中落后了,那么MQ-25这项决定就像煤矿里的金丝雀(俗语,指预警作用)——特别是如果未能采用人工智能和机器人领域的新技术最后被证明是相对军力衰退的关键原因。

但是最终,人工智能对国际政治的影响还是更多地取决于对特定军事项目的选择。美国面临的挑战在于,基于人工智能的发展潮流,校准该以什么样的速度整合弱人工智能应用,无论这些应用是军民两用的还是基于纯军事研究的。中国和其他竞争者的行动使人工智能通用和军事两个领域的竞争都复杂化了,各国似乎都对利用人工智能挑战美国军事优势颇有兴趣。

Michael C. Horowitz——宾夕法尼亚大学政治科学教授,Perry World House副主任。

 
最新文章
相关阅读