1 全球人工智能安全的趋势研判

1 人工智能技术概述

1.1 概念

一般而言，人工智能（Artificial Intelligence，简称 AI）是指人造机器所表现出来的智能，关于人工智能学科可被认为是研究、开发用于模拟、延伸和扩展智能的可行性、理论、方法、技术、应用系统及伦理等等一门新的科学和工程学科。这其中，核心在于“智能”，由于人类目前唯一认知的高等智能是人类本身，因此，人工智能企图通过探索人类智能的实质，制造出一种“像人一样思考或行动”的机器系统，前者解决的是逻辑、推理和寻找最优解等问题，后者则是可以通过认知、计划、推理、学习、沟通、决策等行动实现任务目标。

对于人工智能确切的定义，尚未有普遍可以接受的共识，从中也可以看出人工智能发展初期的阶段性特点。一是总体而言，人工智能理论建构尚远不成熟、技术突破也在探索突破的发力期，原因在于人类对智能本身运作的机理和构成要素了解较少；二是技术应用领先于概念理论，在不同的方向和子领域，存在一定的壁垒，且目前尚看不出人工智能的主流技术路线，原因在于人工智能是涉及计算机、通信、数学、神经、认知、心理、哲学等等各种生物、工程、技术、人文学科复杂交叉，不同学科背景的研究者进行人工智能研究时面对不低的沟通成本。

1.2 人工智能发展沿革

人工智能概念自 1956 年首次提出以来，经历了长期而又波折的算法演进和应用检验，直至近 20 年随着计算技术和大数据技术的高速发展，人工智能得到超强算力和海量数据的支持，才获得了越来越广泛的应用验证，无论是技术本身的演进还是应用领域的扩展，都取得了跨越式发展。迄今为止，人工智能的发展经历了三个阶段：

模式识别（Pattern Recognition）阶段：最初的模式识别阶段大致从 20 世纪 50 年代前后延续至 20 世纪 80 年代，此时期的人工智能技术主要集中在模式识别类技术的研发和应用上，包括沿用至今的语音识别和图像识别技术均发轫于此。模式识别主要是指模仿人类识读符号的认知过程从而实现智能系统。

机器学习（Machine Learning）阶段：机器学习最早可追溯至人工智能诞生不久时，但实际取得突破性进展是在 20 世纪 80 年代及以后。彼时的人工智能以应用仿生学为主要特点，受人脑学习知识主要是通过神经元间突触的形成与变化的启发，计算机也可用来模拟神经元工作，因此也称为神经元发展阶段，今天广泛应用的人工神 经 网 络（ANN，Artificial Neural Networks）、支 持 向 量 机 (SVM, Support Vector Machine) 技 术均来源于此，SVM 可谓这一时期的最顶峰成果，它实现了高效的归纳学习，具有数据样本有限情况下精确分类的优势。

深度学习（Deep Learning）阶段：2006 年，随着深度学习模型的提出，人工智能引入了层次化学习的概念，通过构建较简单的概念来学习更深、更复杂的概念，真正意义上实现了自我训练的机器学习。深度学习可从大数据中发现复杂结构，具有强大的推理能力和极高的灵活性，由此揭开了崭新人工智能时代的序幕。在人工智能第三波发展热潮中，深度学习逐渐实现了在机器视觉、语音识别、机器翻译等多个领域的普遍应用，也催生了强化学习、迁移学习、生成对抗网络等新型算法和技术方向。

 1.3 人工智能技术的典型代表

（1）机器学习 (ML, Machine Learning): 是当前人工智能的关键技术，通过设定模型，输入数据进行训练，改善自身性能，重在归纳、聚合而非演绎。

（2）专家系统（ES, Expert System）：专家系统主要是将规则和逻辑引入 AI 系统，帮助和执行自动化决策。

（3）过程自动化 (AT, Automation )：采用自动化脚本的方法，实现任务自动化代替或协助人类员工。

（4） 深 度 学 习（DL, Deep Learning）： 深度学习是机器学习中一种基于对数据进行表征学习的方法，使用特定的表示方法从实例中更容易学习新的任务。

（5）自然语言处理（NLP, Natural Language Processing）：让计算机处理并理解人类所使用的各类语言，广义定义还包含让计算机正确运用人类语言自如地与人进行多种形式的沟通。

（6）计算机视觉 (CV, Computer Vision)：研究让计算机如何“看”世界，常见的有对图像进行分析的图像处理技术（IP, Image Processing）、从动态视频获取有效信息的视频分析技术 (VA, Video Analysis) 等，还有支持 AR 和 VR 等的虚

拟智能技术（VI, Virtual Intelligence）等新兴技术。

（7）模式识别 (PR, Pattern Recognition)：对信息进行整合与智能分析，对由环境和客体组成的模式进行自动处理和判读，技术实现可分为有监督的分类（Supervised Classification）和无监督的分类 (Unsupervised Classification) 两种。

（8）情绪识别（ER, Emotion Recognition）：综合多种技术感知人类的情绪状态。

（9）AI 建模（DT, Digital Twin/AI Modeling）：通过软件来沟通物理系统与数字世界，这也是物理与虚拟世界的交界面。

（10）机器人技术 (RB, Robotics): 机器人有着广阔的应用，形态也各异，常见的有无人驾驶、无人机等。

（11）虚拟代理 (VA, Virtual Agents)：复合多项技术，能 够 与 人 类 进 行 交 互 的 计 算 机 代理 或 程 序， 目 前 常 被 用 于 客 户 服 务 或 语 音助理。

2 人工智能时代网络空间安全发展趋势

2.1 网络空间安全威胁趋向智能

随着网络信息技术全面普及以及数据价值的持续增长，网络空间安全威胁持续严峻，且呈现出智能化、隐匿性、规模化的特点，网络空间安全的防御、检测和响应面临更大的挑战。采用人工智能的网络威胁手段已经被广泛应用于网络犯罪，包括漏洞自动挖掘、恶意软件智能生成、智能化网络攻击等，网络攻击方式的智能化升级打破了攻防两端的平衡。魔高一尺，道高一丈，网络安全攻防不对称要求网络空间安全防御方采取更加智能化的思想与手段予以应对。

2.2 网络空间安全边界开放扩张

智能互联时代，网络空间安全的边界不断扩展。一方面，传统基于网络系统和设备等物理边界的网络安全防御边界日趋泛化，网络安全攻击范围被全面打开。另一方面，网络空间治理全面渗透在政治、经济、社会等各个领域，网络空间安全影响领域全面泛化。边界的开放扩张要求积极将各类智能化技术应用于全业务流程的安全防御。

2.3 网络空间安全人力面临不足

网络空间安全威胁形势日趋严峻，与之对应的是安全人员面临严重短缺，根据迈克菲调查显示，企业普遍认为他们需要增加 24% 的安全人员才能有效应对面临的网络威胁。网络空间不断延展、移动设备增加、多云端服务正在使安全人员的工作变得越来越复杂，而安全人员的短缺更是加剧了安全风险问题。利用人工智能等技术推动网络防御系统的自主性和自动化，降低安全人员风险分析和处理压力，辅助其更加高效地进行网络安全运维与监控迫在眉睫。

2.4 网络空间安全防御趋向主动

针对层出不穷、花样翻新、破坏加剧的恶意代码、漏洞后门、拒绝服务攻击、APT 攻击等安全威胁，现有被动防御的安全策略显得力不从心。智能时代，网络空间安全从被动防御趋向主动防御，人工智能驱动的自动化防御能够更快更好地识别威胁，缩短响应时间，是网络空间安全发展的必然方向和破解之道。

3 人工智能在网络空间安全的应用优势

3.1 网络空间安全的内涵

网络空间的概念是指由现代信息技术革命产生的，由通信线路和设备、计算机、软件、数据、用户以及任何接入网络的物体等要素交互形成的全新空间，涵盖物理设施、用户和内容逻辑等多个层面，它将生物、物体和自然空间之间建立起智能联系，是人类社会活动和财富创造的全新领域。

网络空间安全是网络空间中所有要素和活动免受来自各种威胁的状态。随着信息技术的不断创新发展，网络空间安全的范畴正不断扩大，成为非传统安全的重要组成部分，并与国家、政治、社会、经济领域的安全密不可分。从网络信息技术的发展历程以及技术逻辑来看，网络空间安全可分为三大领域，分别为网络系统安全、网络内容安全和物理网络系统安全。其中，网络系统安全包括信息基础设施、计算机系统、网络连接、用户数据等设备和信息的安全保障，需要抵御各种恶意攻击对信息和网络系统的入侵、渗透、中断、破坏，以及对用户数据的泄露、窃取，网络系统安全是保障全球网络和计算机系统稳定运行，保护用户数据和隐私的基础。网络内容安全是指在网络环境中产生和流转的信息内容是否合法、准确和健康，是否会对政治、经济、社会和文化产生不良影响和危害。物理网络系统安全包括网络空间中任何与网络连接的物、人等物理要素的安全，随着物联网、脑机接口、机器人等技术的迅猛发展，网络空间的威胁已延伸到物理空间和现实世界，由此产生对资产、人身以及自然环境等要素的潜在安全威胁。网络系统安全、网络内容安全和物理网络系统安全相互影响和融合交织，构成了本报告网络空间安全的基本内涵。

3.2 人工智能技术在网络空间安全应用的优势

人工智能是令机器学会从认识物理世界到自主决策的过程，其内在逻辑是通过数据输入理解世界，或通过传感器感知环境，然后运用模式识别实现数据的分类、聚类、回归等分析，并据此做出最优的决策推荐。当人工智能运用到安全领域，机器自动化和机器学习技术能有效且高效地帮助人类预测、感知和识别安全风险，快速检测定位危险来源，分析安全问题产生的原因和危害方式，综合智慧大脑的知识库判断并选择最优策略，采取缓解措施或抵抗威胁，甚至提供进一步缓解和修复的建议。这个过程不仅将人们从繁重、耗时、复杂的任务中解放出来，且面对不断变化的风险环境、异常的攻击威胁形态比人更快、更准确，综合分析的灵活性和效率也更高。因此，人工智能的“思考和行动”逻辑与安全防护的逻辑从本质上是自洽的，网络空间安全天然是人工智能技术大显身手的领域。

3.2.1 基于大数据分析的高效威胁识别

大数据为机器学习和深度学习算法提供源源动能，使人工智能保持良好的自我学习能力，升级的安全分析引擎，具有动态适应各种不确定环境的能力，有助于更好地针对大量模糊、非线性、异构数据做出因地制宜的聚合、分类、序列化等分析处理，甚至实现了对行为及动因的分析，大幅提升检测、识别已知和未知网络空间安全威胁的效率，升级精准度和自动化程度。

3.2.2 基于深度学习的精准关联分析

人工智能的深度学习算法在发掘海量数据中的复杂关联方面表现突出，擅长综合定量分析相关安全性，有助于全面感知内外部安全威胁。人工智能技术对各种网络安全要素和百千级维度的安全风险数据进行归并融合、关联分析，经过深度学习的综合理解、评估后对安全威胁的发展趋势做出预测，还能够自主设立安全基线达到精细度量网络安全性的效果，从而构建立体、动态、精准和自适应的的网络安全威胁态势感知体系。

3.2.3 基于自主优化的快速应急响应

人工智能展现出强大的学习、思考和进化能力，能够从容应对未知、变化、激增的攻击行为，并结合当前威胁情报和现有安全策略形成适应性极高的安全智慧，主动快速选择调整安全防护策略，并付诸实施，最终帮助构建全面感知、适应协同、智能防护、优化演进的主动安全防御体系。

3.2.4 基于广域治理的持续进化赋能

随着网络空间内涵外延的不断扩展，人类面临的安全威胁无论从数量、来源、形态、程度和修复性上都在超出原本行之有效的分工和应对能力，有可能处于失控边缘，人工智能对人的最高智慧的极限探索，也将拓展网络治理的理念和方式，实现安全治理的突破性创新。人工智能不仅能解决当下的安全难题，而且通过在安全场景的深化应用和检验，发现人工智能的缺陷和不足，为下一阶段的人工智能发展和应用奠定基础，指明方向，推动人工智能技术的持续变革及其更广域的赋能。

4.1 人工智能安全将成为产业发展最大蓝海

可以预见的是，智慧城市、工业互联网、自动驾驶等将在未来十年全面普及，安全将成为各类智能创新应用最核心的痛点需求，也是人工智能技术最重要的应用领域。为此，各国都会全面加大人工智能在安全领域的应用，如智慧城市建设中的安防领域，其产出的海量数据和其防护逻辑与 AI 技术逻辑的高度自洽，使AI 技术能够天然应用于安全。

4.2 人工智能本体安全决定安全应用进程

人工智能在助力解决各领域安全问题的同时，其自身的安全性也越来越重要。如何保障合理的运用 AI 技术一直是人类面临的难题。算法、数据、物理载体的安全性决定着 AI 的本体安全，是 AI 助力网络空间安全的基本前提。因此，AI 技术助力安全的发展如同 DNA 的两条单链，一条单链是在人工智能技术不断与更多产业融合下，人工智能保障安全需求迅速增长，第二条单链则为对保障人工智能本体安全的需求增长。两条单链相互催生，构成了人工智能技术助力安全的螺旋式发展。

4.3 “人工”+“智能”将长期主导安全实践

长期来看，人工智能技术只是辅助而非替代人类的关键判断，其中安全决策尤为复杂，更是人工智能无法完全替代的领域，因此人类决策与机器智能将长期并存。例如，Facebook对网络新闻的真假判断仍然是在机器学习对信息进行降级处理后进行人工审查作出最终判断在网络谣言治理领域，人工智能应用依然主要采用机器 + 专家审核模式。因此，基于人工智能对于复杂的社会关系、情感识别、价值判断的能力依然不足，智能和人工结合的人工智能模式将长期主导应用实践。

4.4 人工智能技术路线丰富将改善安全困境

机器学习、深度学习等人工智能技术高度依赖海量数据的“喂养”，但是，数据采集与隐私保护之间已经形成囚徒困境。因此，随着人工智能技术路线的不断丰富和发展，可以根据用户需求和应用场景，有针对性地选择人工智能技术，可以避免智能应用对数据资源的过度依赖，更好地保障网络空间安全。

4.5 网络空间安全将驱动人工智能国际合作

面对共同的威胁是国际合作的重要前提。人工智能时代，无论是在应对网络犯罪、网络攻击等安全威胁，或是无人驾驶、智慧城市的安全保障，都需要各国技术标准、信息资源、应对机制等方面的匹配协同。其中，面对技术规范、行业标准、法律法规尚未健全的人工智能新领域，制定统一的安全监测标准、安全防范架构、安全评估体系需要各国参与共同协调，网络空间安全成为人工智能国际间合作的重要领域。