人工智能（AI）是公认的颠覆性技术，它能迅速改变各种业务和行业。它还能改变与国家安全和国防有关的功能（流程和系统）。虽然人工智能主要不是在国防部门开发，但它有望通过提高国防相关活动的效力、效率和速度，改变未来冲突的特点。然而，虽然人工智能在替代或协助决策中的人为因素方面潜力巨大，但它仍无法取代人类的战略思维。本文首先回顾了与人工智能技术相关的意义、当前发展和挑战。然后，文章从国防能力、决策制定和战略思维三个方面分析了人工智能对国家安全和国防的影响。文章最后展望了人工智能在安全与国防领域的总体前景，期待其在支持决策方面的最大价值。

1 引言

人工智能（AI）是我们这个时代争论最多的技术突破之一，显然也是最不为人所知的技术突破之一。它让人着迷，同时也让人恐惧。它让人着迷的是其潜力，从其日常应用和大国在这一领域的优势决心中就可以看出这一点。它也常常让人担忧，因为进一步的进步可能会导致人类能力的超越。后者在大众文化中尤为突出。

尽管人们经常讨论人工智能的未来能力，但在商业世界中，人工智能是 "当下"，并且已经渗透到我们生活的许多领域。除其他外，人工智能还能翻译文本、识别数字媒体上的物体和人脸、识别垃圾邮件、驾驶汽车、用聊天机器人取代客户服务、扮演私人助理的角色、创作艺术作品以及玩游戏。

人工智能已成为一个 "炒作 "词，其影响有时被视为过于乐观甚至深奥。因此，有必要分析这一技术的发展趋势，并预测其对我们社会和生活的全面影响。

人工智能的所有可能性和潜在应用还有待探索。有些人的期望很高。人工智能能否为我们带来 19 世纪末几项技术为我们祖先的生活带来的影响，我们拭目以待。第二次工业革命带来了电气化、铁路、电报和汽车等技术，从许多方面影响了人类的生活。这些技术促进了生活水平的提高，使生活变得更快、联系更紧密、可能性更丰富，并创造了新的社会关系和生活模式。作为第四次工业革命的一部分，人工智能有望改善人们的生活质量，提高人们的收入水平（Schwab，2016）。

与历史上许多其他颠覆性技术一样，人工智能有望创造机遇，但也会带来挑战。它可能会带来经济机遇（Tegge，2018 年），并通过许多积极的应用带来益处。与先进的机器人技术和其他新兴技术一起，它可能会推动人类的努力，甚至在制造、运输、医疗保健和教育领域取代人类。

可以说，人工智能的进一步发展将带来新的颠覆，并带来巨大的经济、社会、法律、伦理和安全挑战。这些挑战可能涉及经济安全（因为人工智能预计将在许多领域取代人类（抢走人类的工作）），也可能削弱已实现的人权（个人和政治自由）。这可能会造成普遍的经济不平等或政府对人口的广泛和侵入性监控。

在国际关系中，人工智能已经成为战略竞争的一个方面。主要大国认为走在人工智能技术的前沿对于未来全球经济和军事实力的竞争至关重要。虽然 "杀手机器人 "的发展仍停留在科幻电影的范畴，但人工智能已经在国防能力中得到了应用。目前，人工智能被视为一种前瞻性工具，尤其是在流程和系统中，其重点是在数据泛滥的环境中缩短决策时间（即决策）。

本文的分析仅限于人工智能在国家安全和国防领域的潜在应用。本文首先探讨了什么是人工智能及其重要性，然后回顾了与人工智能相关的挑战。文章的核心部分是研究人工智能对国家安全和国防的影响。最后，文章对人工智能技术未来的预期发展和使用进行了总结和思考。

2 人工智能介于神话和现实之间

目前，关于人工智能的公认定义尚不存在。人工智能是一个概念，或者说是一个领域，包括 "逻辑、概率和连续数学；感知、推理、学习和行动"（Russell and Norvig, 2003, p.vii）。在将人工智能描述为一个实体时，将其称为 "智能体 "更为准确。从这个意义上说，人工智能是 "研究从环境中接收感知并执行行动的智能体"（Russell and Norvig, 2003, p.vii）。

Gartner 公司将人工智能简单定义为 "模仿人类表现的技术，通常是通过向人类学习"（Andrews，2018 年，第 6 页）。更具描述性的是，人工智能使机器从 "经验 "中 "学习"，适应新的输入，并执行类似人类的任务。

多种新技术已被广泛归类为人工智能。如今，大多数人工智能应用在很大程度上依赖于它们的子领域，如机器学习（ML）和深度学习（DL）。这些技术可以 "训练 "计算机通过处理大量数据和识别模式来完成特定任务。

事实上，正是机器学习技术让人工智能系统能够在没有明确编程的情况下进行学习。人工智能系统通过识别以前未定义的模式来 "学习"。机器学习还能让智能体快速吸收和消化反馈信息。其结果是，与传统的基于人类的反馈系统相比，人工智能所连接的系统在工作中变得更加出色。然而，人工智能体并不 "理解 "它们所执行的任务，至少目前如此，在不久的将来也不会如此，而且也无从得知它们是如何得出结论的。

人工智能的魅力可能就在于，我们不能指望它按照一套预先确定的算法 "行事"。我们可以以汉森机器人公司开发的社交型仿人机器人索菲亚为例，它经常接受采访，甚至成为了沙特阿拉伯公民。另一个原因可能是，人工智能不同于其他技术进步，因为它不需要我们像使用计算机那样通过学习如何使用来适应。实际上，人工智能就是创造适应我们的技术，而不是相反。

在本文中，我们将交替使用 "人工智能 "一词，作为一个概念（一项技术或一个领域）和一种能力（一个AI智能体）。

2.1 理论框架

一般来说，人工智能是 "计算机系统执行通常需要人类智能的任务的能力，如视觉感知、语音识别和决策"。(卡明斯，2017 年，第 2 页）

经济合作与发展组织（OECD）在其定义中涉及知识和行为。经合组织将人工智能定义为 "机器和系统获取和应用知识以及执行智能行为的能力"（经合组织，2016 年，第 86 页）。就知识而言，以目前的发展水平，人工智能可以获取和应用知识，但无法转移知识。

Teradata 的 "企业人工智能现状 "报告（伯恩，2017 年，第 3 页）将人工智能定义为 "利用人机认知交互实现企业决策自动化的能力，机器能够通过感知和持续学习、推理和推断、决策和行动来增强和辅助人类能力，从而推动业务成果"。这一定义描述了人工智能的能力及其在增强和协助与业务相关的人类能力方面的目的。

最后，人工智能技术在国防领域的应用也备受关注。美国国防部将人工智能描述为 "机器执行通常需要人类智能的任务的能力--例如，识别模式、从经验中学习、得出结论、做出预测或采取行动--无论是以数字方式还是作为自主物理系统背后的智能软件"（USA DoD, 2018, p.5）。这一定义还涉及自主系统的使用。自主性在国防领域尤为重要，因为它能使系统（平台）自动（如自主决策）、在程序设定的范围内甚至 "自我管理"。人工智能对自主系统至关重要，因为它有助于在处理大量数据时做出决策。

当我们考虑人工智能时，重要的是要区分人工智能现在是什么或能做什么，以及未来可能或将要实现什么。目前，人工智能分为人工狭义智能（ANI）、人工通用智能（AGI）和人工超级智能（ASI），人工狭义智能是指在特定任务中，机器智能等同于或高于人类智能；人工通用智能是指在任何任务中，机器智能都能达到人类智能的全部水平；人工超级智能是指在任何任务中，机器智能都能超过人类智能（Spiegeleire, Maas & Sweijs, 2017）。

目前，所有现有的人工智能应用无一例外都属于 ANI。人工智能已经以各种姿态出现在我们身边。它往往不为人所注意，比如我们的搜索引擎、语言翻译器或设备上的个人助理。目前，人工智能助手领域有四个领跑者：亚马逊的 "Alexa"、苹果的 "Siri"、谷歌的 "Assistant "和微软的 "Cortana"。而从 2023 年开始，由 OpenAI 公司开发的 ChatGPT 在自然语言处理领域广受欢迎。

虽然根据目前的趋势，专家预测人工智能将在本世纪中叶出现，但人工智能的出现时间仍存在争议。许多专家预计，在此之后，人工智能会相对较快地出现，但很少有人预计这会引发 "人工意识"。

2.2 人工智能的演变

人工智能之所以能取得今天的重大进展，主要得益于算法质量的不断提高（得益于计算机科学研究的进步、新的编程语言等）、计算能力的不断增强以及数据的无处不在。

总体而言，人工智能的发展自其概念提出以来一直基于不同的技术；从 20 世纪 50 年代到 70 年代基于神经网络，从 80 年代到 2010 年代基于机器学习，到今天则基于深度学习。事实上，主要由学术机构和研发组织完成的早期工作为我们今天看到的人工智能应用奠定了基础。

20 世纪 50 年代末，美国正处于冷战时期。当时的国会代表愿意在人工智能上投入巨资，将其作为更大安全战略的一部分。当时的重点是语言翻译，主要是俄译英和英译俄。1954 年至 1966 年被称为 "乐观的十年"，然而，突破并没有像承诺的那样迅速到来。与人工翻译相比，机器翻译速度更慢、成本更高、准确性更低，因此对机器翻译的投资被突然取消。20 世纪 70 年代初和 80 年代末的这段发展停滞期通常被称为 "人工智能的冬天"。

随着计算机硬件（即大功率微处理器）的强大，人们对人工智能产生了新的热情。此外，新技术，特别是与深度学习相关的技术，以及可以在现有示例中 "训练 "后学习任务的神经网络，开启了人工智能的新时代。因此，在十年内，人工智能已从研究机构和大学的原型开发转向工业和现实世界的应用。

尽管该领域取得了进步，但一些人认为，包括纽约大学心理学教授、长期对人工智能持怀疑态度的加里-马库斯（Gary Marcus）在内，"人工智能的历史已经过去了六十年，我们的机器人所能做的不过是播放音乐、扫地和竞标广告"（马库斯，2018 年，第 5 页）。还有一些人，如 Siri 核心专利的共同作者吕克-朱莉娅（Luc Julia）声称，人工智能甚至还不存在（Cagan，2019）。事实上，人工智能的发展仍然缺乏一个有凝聚力的、超前的理论基础，而且是以一种临时的方式进行探索。

就其未来发展而言，人工智能可能将与物联网的发展齐头并进。也就是说，人工智能（通过机器学习）可以迅速从数据中得出意义。它可以识别智能传感器和设备数据中的模式并检测异常情况。这种更接近数据收集地点的潜力可能会引导人工智能的未来朝着小型系统的方向发展。

开发和使用人工智能的一个基本特征是，投资规模并不是获得技术效益的关键。在商业领域，开发人工智能解决方案往往只需要数据和机器来解决具体问题，最重要的是要有 "商业案例"。因此，成功的关键在于在定义案例时要有清晰的愿景。这使得那些在人工智能发展方面投入资金看似较少的国家和组织也能获得巨大收益。

在许多人的想象中，人工智能的发展也会引发 "末日 "景象。然而，尽管科幻小说和电影中描绘了这样的场景，但能够自我维持、自我完善并有可能主宰人类的 "超级智能 "的实现，至少在不久的将来，仍然是一种神秘的可能性。

3 人工智能的挑战

在社会中引入人工智能的结果并非都是有益的。与这项技术的实施相伴而生的破坏将对安全产生或隐或显的影响。

例如，在经济领域，人工智能系统预计将影响就业市场，可能会造成失业并加剧不平等。除了社会和经济方面的挑战，还应该分析其他一些问题，以评估人工智能的潜在影响。如今，我们可以确定几个与人工智能相关的问题，如其相关性（在功能和适用性方面）及其负责任的使用（关于其决策的自主性和数据的获取）。

3.1 人工智能的相关性

关于人工智能的相关性，使用人工智能的一个重要方面是提供 "训练 "人工智能系统所需的数据源。由于人工智能需要数据，可用的数据量越大，它能 "学习 "的算法就越多，人工智能的成果也就越好。数据创建量在持续增长。例如，2013 年，90% 的可用数据都是在前两年创建的（Jacobson，2013 年），这为人工智能的发展创造了非常有利的条件。对数据的这种需求使得云服务、社交媒体、电子商务或其他行业中能够获得大量数据的大公司自然而然地在各种人工智能领域处于领先地位。这包括语音识别、面部识别和自然语言处理。

3.2 对人工智能的控制

人工智能得出结论的过程不受用户的直接控制。也就是说，人工智能做出的 "结论 "并不一定是最初的、有顺序的算法或预测步骤的结果，因为人工智能体会 "学习"。因此，人工智能的进一步发展及其在社会中的应用绝不能处理不当。另一个值得关注的问题是网络领域的隐私问题。控制问题还包括利用人工智能进行虚假宣传的问题，如 deepfake（Villasenor，2019 年）。自动监控私人数据等做法以及上述挑战可能会导致公众对人工智能的不信任，甚至引发社会对人工智能的强烈批评。因此，数据驱动的人工智能系统的发展必须确保适应数据收集、使用和存储的法律框架（例如，见欧洲议会，2018 年）。

3.3 效率与人类包容性

人工智能的两大优势是可扩展性和可用性。人工智能系统可以每周 7 天、每天 24 小时运行，而且不会疲劳、生病或感到压力。因此，虽然人工智能并不比人类更聪明，但它的生产力要高得多。这些特点使其更容易以较低的成本进行采购。

4 人工智能及其对国家安全和国防的影响

人工智能在国防（即军事事务）中的应用尚未形成概念，其发展预计将随着其实施而发展。假定可以将人工智能与其他一些发明相比较，这些发明已在军事领域得到应用，并为那些使用它的人带来了巨大优势。全球定位系统（GPS）就是一个例子。现代互联网和手持式 GPS 的前身是美国研究人员在 20 世纪 70 年代开发的。20 年后，在第一次海湾战争（"沙漠风暴行动"）中，美军对信息技术和精确弹药的广泛应用震惊了世界。这次行动的成功巩固了美国几十年来作为卓越军事强国的地位。

4.1 人工智能在国防能力中的应用

人工智能已应用于许多新平台，例如 F-35 喷气式战斗机、现代水面战舰、导弹防御火控系统和网络防御。它可能适用于许多以决策速度为特征的新兴系统。利用人工智能工具制定战略和作战行动方针的工作还有待开发。

4.2 决策中的人工智能

目前，人工智能在国家安全和国防领域的主要用途是对越来越多的传感器收集到的大量数据进行分析。人工智能用于国家安全目的的一个例子是美国国防部高级研究计划局（DARPA，2019 年）试图开发基于模式的人工智能能力（详见：Pezzulo & Butz，2012 年），以加强对复杂世界事件的推理并产生可操作的洞察力。其结果应该是能够快速理解世界事件，这对于为国家安全工作（即决策制定）提供信息至关重要。

然而，挑战在于人工智能需要数据，而数据可能存在偏差。为了确保决策的可靠性，必须了解不良或错误（"中毒"）数据对决策的负面影响，以及如何检测和隔离不良数据。这是一个商业部门目前尚未解决，但国防部门必须解决的系统问题。

要评估人工智能对国防的影响，就必须预见到人工智能将给国家安全和国防概念本身带来的深刻变革。以往的工业革命不仅给生产方式，也给人们的生活方式带来了重大变化。有鉴于此，我们当然可以预见，作为第四次工业革命的一部分，人工智能将引发社会结构、关系和价值观的变革。

4.3 人工智能在战略思考中的应用

人工智能在战略思考方面的应用能力仍有待提高。虽然人类似乎可以利用人工智能生成内容和回答问题，但该工具仍无法在地缘政治分析和理解行为体行为方面进行 "思考"。简而言之，人工智能仍然没有 "战略文化"。

一项与美国国家战略相关的研究就说明了这一点。Elena Wicker（2021 年）利用机器学习创建了人工递归神经网络 "bernardcodie "程序。她用美国国家安全战略的全部语料库数据对其进行了训练。这意味着自该文件于 1987 年授权制定以来，美国发布的所有 17 项国家安全战略。作者使用一个人工智能工具，在前 17 个国家安全战略的基础上创建了新的美国国家安全战略。结果似乎是相关的，但显示出词语的选择是分析的核心，表明该工具娴熟地识别了战略语言中的模式和一致性。因此，Elena Wicker 认为，利用人工智能制定战略的方法仍需改进，不能取代人类的直觉。尽管如此，人工智能在与人类分析相结合时还是很有用的，因为它可以提供一个全新的视角（复杂系统中智能体之间的联系），拓展人类对战略的理解。

关于未来使用人工智能的结论和思考

几乎每一天都会有关于人工智能的新文章和讨论，关于它将给我们的日常生活带来哪些革命性变化，以及关于主要经济大国所做的大规模投资。人工智能作为安全和国防领域潜在的游戏规则改变者，其最有益的用途可能是决策。深度学习算法为改善态势感知和对信息环境的理解提供了前所未有的机会，使人工智能服务对最高级别的决策大有裨益。未来，人工智能有望在识别趋势和驱动因素以及各类人类活动的潜在结果方面提供独一无二的深刻见解。这将使其在前瞻性分析、处理不确定性和复杂性方面大有用武之地。

【以上内容为节选，完整内容请上专知查阅】

专知便捷查看

便捷下载，请关注专知智能防务公众号（点击上方关注）

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料