★穆雷霆，乐翔宁波和利时信息安全研究院有限公司

关键词：安全可信；可信计算；人工智能；大语言模型；网络安全

1　引言

工业控制系统广泛应用于能源、交通、先进制造、公共设施等国计民生相关的重要领域，是工业运行的中枢。但自2010年伊朗“震网病毒”开始，针对工业控制系统的网络攻击事件层出不穷，给生产生活带来重大安全隐患，威胁到国民经济安全甚至国家战略安全。

智能化是当今世界最重要的技术发展趋势，以智能化为代表的新质生产力可为我国产业创新和经济长期稳定发展提供有力支撑，但新技术的深度应用和智能化的进一步加强，使得工业控制系统等关键信息基础设施面临着更为复杂的网络安全问题。与此同时，智能化的发展也给网络安全带来创新机遇，从而可以更有效地护航工业控制系统创新发展。

本文在分析控制、安全和智能发展趋势及相互关系的基础上，深度剖析智能化时代工业控制系统网络安全面临的困境和难题，阐述人工智能/大模型技术在解决工业网络安全问题时能够发挥的作用，进而提出采用工业网安大模型构建安全可信工控环境的思路。工业网安大模型与工业业务深度相融合，与可信计算技术相结合，形成以控制系统内生安全为核心、大模型全面赋能、安全和业务深度融合的信息安全防护体系，保证了控制系统由内而外的安全性，提高了安全运营的效率和有效性，并同时给客户带来了业务增值价值。

2　工控、安全、智能化的发展趋势及相互关系

回顾人类社会发展的历史，过去几千年里，社会生产力基本保持在同一水平线上，直至工业革命以来，这条曲线开始逐步上升，生产力呈加速发展趋势。从1760年大机器时代开始，人类已经历了四次工业革命，从机械化、电气化、自动化到智能化，人类社会也实现了从农业社会到工业社会到信息社会再到智能社会的变迁。

在当前这个数字化、智能化的时代，人工智能已经逐渐成为推动科技发展的核心驱动力，亦成为推动新质生产力发展的重要工具和手段。而人工智能的发展也经历了一个复杂曲折的过程，经过不断演进，当前的人工智能依靠知识驱动和数据驱动的融合，综合利用知识、数据、算法和算力四个要素，成为第四次工业革命的关键新兴技术，是行业转型升级的重要驱动力量。

智能化的发展进一步提升了工业自动化控制的能力水平。工业自动化控制，主要是指使用计算机技术、微电子技术、电气手段，使工厂的生产和制造过程更加自动化、效率化、精确化，并具有可控性及可视性。工控技术的出现和推广带来了第三次工业革命，使工厂的生产速度和效率极大幅度提高。而智能化并非是对自动化的取代，而是在自动化的基础上进行智能化提升，以高级大模型技术和智能化设备为核心，推进智能制造与工业自动化建设，进一步提升行业自动化水平及生产效率、降低人工成本、增强产业链灵活性和响应速度。

工业自动化和智能化的发展带来了严峻的网络安全问题。工业化和信息化深度融合，各类新的信息技术加速应用，海量的工厂设备和生产数据不断连接汇聚，原先封闭隔离的控制系统逐渐开放互联，使得工业系统的网络安全问题日趋严峻，亟待加强网络安全防护。而人工智能自身亦带来了很多安全问题，包括大模型内生安全、大模型应用安全以及大模型对网络攻击的赋能等。因此，在推动人工智能技术应用时，需要构建新的可解释和鲁棒的人工智能理论与方法，发展安全、可信、可靠的人工智能技术。

但同时，人工智能/大模型也能够赋能网络安全防护，提升安全防护的智能化水平。随着黑客攻击、恶意软件、网络钓鱼等威胁不断演变，网络攻击手段呈先进性和多样化趋势，网络安全建设和运营中存在检测手段不足、防护效果不佳、设备运维困难、人员能力低下及安全意识薄弱等痛点。而网络安全大模型聚焦运用人工智能技术提升安全产品和能力，在安全态势感知、深度威胁监测、风险评估、攻防演练和实训、系统自治运维方面，尤其是在协助安全团队实现安全运营质效提升方案方面，都能发挥很大的价值。

3　工业控制系统网络安全发展趋势和困境

工控系统与传统信息系统相比，保护对象不同，防护需求不同，防护手段也必然存在着差异。在当前新质生产力发展背景下，工业生产装备由机械化向高度智能化转变，硬件设施向软件化、平台化、柔性化发展，系统的各个方面、层次都面临着网络安全问题，具体到电力、石化、轨交、医疗等不同行业的不同系统、设备的各个层次，都需要考虑安全防护，安全已无处不在。并且，由于攻击手段复杂、来源广泛且处于不断变化之中，传统的防护手段已经不能满足需求，安全防护手段必须向泛在化、原生化、融合化、智能化方向发展。

泛在化指的是安全防护手段将无处不在。哪里有业务，哪里就有威胁，哪里也就需要安全防护，安全将成为业务系统的标配。未来所有业务系统，在产品设计和方案设计阶段，就要同时考虑到安全设计，没有考虑安全的系统将会失去市场。但是工业控制系统环境恶劣、计算资源匮乏、实时性强、要求不间断运行的特性，对传统安全防护手段的应用造成了约束，并且削弱了其防护的有效性，泛在化安全设计存在诸多困难。

原生化指的是安全机制将成为未来控制系统安全保障的突破点。通过安全芯片、安全固件、安全软件、可信计算等技术，提供原生的安全能力，防止系统遭到篡改、非授权控制或其它恶意攻击。而在原生化安全中，通常实现的是一种自主安全机制，即抛弃传统的被动防御方式，采用例如基于可信计算等技术的主动免疫防护机制，从而避免了传统封堵查杀等成本高且效率低的方式。主动免疫机制针对网络安全问题的作用如同疫苗针对新冠病毒的效果，是一种治本的解决方式。但是，由于可信计算机制以及工控环境的双重复杂性，可信计算在工控场景中的有效应用也有诸多细节问题需要解决。

融合化指的是通过网络安全和控制业务的融合，解决工业网络安全的深层次问题，并给客户带来增值价值。网络安全和工业业务融合，要综合考虑工业业务的可靠性、可用性和功能安全问题，要充分考虑工业系统的需求、工业用户的习惯、工业生产和安全管理制度及流程，网络安全产品和系统的设计、安全实施过程、安全运维和运营流程应充分考虑工业系统的特性。安全和业务融合方案需要在工业控制系统全生命周期安全管理中为客户体现价值，应实现全生命周期、全价值链的融合，而不仅仅是单个产品、单个功能点的融合。这种融合需要把网络安全域和控制业务域的知识和经验整合起来，依靠传统的人工方式实现难度极大。

智能化指的是由于黑客攻击、恶意软件、网络钓鱼等威胁不断演变，网络攻击手段呈先进性和多样化趋势，网络安全建设和运营中存在检测手段不足、防护效果不佳、设备运维困难、人员能力低下及安全意识薄弱等痛点。通过人工智能/大模型等智能化技术手段提升安全产品和能力，为工业业务、工业安全深度赋能，基于海量数据积累和行业经验，通过大模型训练转换成自智安全能力，融入安全产品和服务流程，开拓人机共智的工业安全新阶段。

4　基于AI大模型的智能化对工业网络安全的赋能作用

AI大模型是指在机器学习和深度学习领域中，利用大规模数据和复杂网络结构构建的庞大神经网络模型。大模型是在智算算力驱动下最为典型的重大创新，具有极强的语言理解和文本生成能力，其产生和发展为网络空间安全引入了新的变革，提升了安全领域的整体势能。利用先进的大模型技术，可以帮助企业自动化和智能化地应对工业安全领域面临的挑战，提高管理效率和安全性。大模型在安全态势感知、深度威胁监测、风险评估、攻防演练和实训、系统自治运维方面，尤其是在协助安全团队实现安全运营质效提升方案方面，都能发挥很大的价值。

在工业网络威胁监测方面，大模型通过对海量网络流量和日志数据的分析，能够迅速识别异常行为和潜在威胁，可以提高检测的精度，减少漏报和误报，同时缩短响应时间。

在工业行为分析方面，大模型能够对用户和设备的行为进行建模，进而检测出任何异常行为。通过持续的行为分析，大模型能够提供精准的威胁情报，有效防止内部数据泄露和复杂的攻击行为。

在工业漏洞和风险评估方面，通过深度学习和数据分析技术，大模型能够从海量的代码库和系统日志中识别潜在的漏洞，预测可能的风险。基于历史数据和实时态势分析，大模型可以动态评估系统和应用的安全状况，提供实时的风险评分和补救建议。

在工业态势感知方面，大模型通过整合和分析多源威胁情报、网络流量数据和日志信息，提供实时的全局安全态势视图，动态展示安全事件的发展趋势，预测可能的攻击路径，并提供预防性建议，帮助企业快速、准确地做出决策，增强了整体网络安全防护能力。

在工业网络安全攻防对抗方面，大模型通过攻击溯源和关联分析，能够揭示攻击者的行为模式和攻击链，帮助安全团队全面了解攻击手法。此外，大模型可以用于模拟攻击和防御测试，进行红队（攻击者）和蓝队（防御者）的对抗演练，优化防御机制，增强整体防御能力。

在工业网安自动化运维方面，大模型通过分析网络流量、系统日志、安全日志等数据，能够发现潜在的安全威胁和异常行为。同时，它能够根据分析结果生成相应的处置建议和安全报告，帮助运营人员及时了解安全状况并采取相应的措施。

5　基于AI大模型的工业控制系统安全可信防护方案

针对工业用户在资产管理、风险分析、安全加固、安全运维方面面临的诸多痛点，基于海量数据积累和行业经验建立工业网安大模型，在此基础上构建工业网络安全智能中心，通过和安全控制系统、安全检测产品、安全防护产品、安全服务人员、安全运营中心、安全教育平台相结合，形成一套能够实时监控、预警、分析和响应网络安全威胁的智能系统，实现深度赋能，形成安全业务融合的工控系统安全可信防护体系，如图1所示。

图1 工控系统安全可信防护体系

工业网络安全智能中心通过内嵌多个LLM大模型实现MOE多专家系统，利用深度自然语言处理技术，能够即时、准确地回答用户提出的专业问题。智能专家通过收集安全设备、保护对象、威胁情报等相关信息，并基于安全大模型对知识资料的学习、推理和生成能力，将所有数据结构化、知识化，提升了安全项目交付和安全运维的效率。

工业网络安全智能中心包括基于自然语言大模型的智能体机器人，机器人实现规划（Planning）、记忆（Memory）、工具使用（ToolUse）、行动（Action）等关键能力的编排与组合，使大模型具备分解任务、调用工具去逐步完成给定目标的能力。包含安全任务的理解和分解能力、安全资源管理和调度能力、安全计划编排和执行能力、多任务处理能力、错误处理和应对能力、学习和优化能力、执行结果评估能力、用户反馈整合能力、性能监控能力等。

工业网络安全智能中心通过对安全检测类产品赋能，对流量数据、日志数据、行为数据、业务数据等进行深度检测分析，识别异常行为和潜在威胁，提高检测的效率和精度，减少漏报和误报；工业网络安全智能中心基于安全数据和业务数据的智能融合分析，能够分析出常规安全方式无法检测出的问题，发现深层次的安全问题。

工业网络安全智能中心通过对安全防护类产品赋能，能够提高网络安全防护的主动性和准确性，降低外部攻击的风险。比如，使工业网安大模型和控制系统、安全产品打通，自动学习网络结构和业务通信需求，基于对控制系统及业务以及现场风险识别情况的理解，自动地生成和更新安全策略，提高安全响应的效率和准确度。

工业网络安全智能中心通过对工业安全运营中心赋能，将大模型能力和安全管理平台/SOC/SIEM/SOAR等产品融合，通过对话式辅助运营帮助安全运维工程师提高效率和能力，通过基于思维链的自主研判洞悉安全事件的状态和应对措施，通过全自动编排响应能力进行智能化安全事件响应和处置，通过全方位智能态势感知实现全景化安全视图并提升安全预测决策能力，进一步实现7×24小时自主值守和自智安全运维。

工业网络安全智能中心通过对工业安全教育平台赋能，在教学实训、比武竞赛、攻防演练、科学研究等方面实现智能化提升。比如基于安全专家知识库采用自然语言的方式进行智能AI教学，在攻防演练环境中实现仿真场景的自动化编排，自动生成攻击脚本，实现模拟攻击和自主攻防对抗，帮助安全团队深入了解安全攻击和防御方式，提高了安全教育和攻防实训的效果。

工业网络安全智能中心通过对安全服务团队赋能，在安全咨询、安全评估、安全测试、安全运营、安全应急、安全培训等领域提高安全服务工程师的能力水平。例如，在风险评估方面，大模型可以帮助安服人员更有效地识别工业系统潜在的脆弱性，评估安全状况，预测可能产生的风险，提供处理建议，生成加固策略甚至自动进行加固处置，从而提高服务实施水平及客户满意度。

工业网络安全智能中心同时赋能给安全可信的工业控制系统。以安全可信为标签的控制系统，指的是基于可信计算3.0主动免疫防护机制，和核心控制系统深度融合，实现安全可信PLC、安全可信DCS的原生安全，包括可信程序控制、可信身份管理、可信资源操作、可信网络连接、可信管理支持等能力。一方面，工业网络安全智能中心可提升控制系统的安全可信能力，通过助力可信策略生成、可信检测度量、可信阻断决策等方式，促进可信计算与工业控制环境的融合，增强应用效果；另一方面，工业网络安全智能中心能够深度解析工业控制系统的业务数据并和安全数据结合，通过AI大模型的知识语义增强和逻辑分析增强能力理解和分析工业/安全领域特定的数据内容，如控制指令、业务逻辑、故障模式、安全威胁、漏洞、攻击技术等相关知识和安全语义，从而更为准确地理解网络安全风险对工业业务的影响，促进工业业务和网络安全的融合，判断风险并提供处置建议，提升安全运维效率。

通过基于AI大模型的工业网络安全智能中心，助力构建安全业务融合的工控系统安全可信防护体系，能够实现工业安全的智能化赋能提升。基于海量安全数据、工业数据以及相关行业经验的积累，通过大模型训练转换成自智安全能力，融入安全产品和服务流程，开拓人机共智的工业安全新阶段。

6　安全方案创新价值

本方案采用工业网安大模型构建安全业务融合的工控系统安全可信防护体系。工业网安大模型与工业业务深度相融合，与可信计算技术相结合，形成以控制系统内生安全为核心、大模型全面赋能、安全和业务深度融合的信息安全防护体系，实现了控制系统可信计算自主免疫防护能力的智能化提升、安全与控制业务融合的智能化提升、安全运营效率和有效性的智能化提升，同时给客户带来了安全保障和业务增值价值，具备良好的技术创新性。

（1）可信计算自主免疫防护能力的智能化提升

在传统信息防护手段有效性不足的情况下，通过适用于工业控制场景的可信计算技术体系，增强控制系统的内生安全防护能力，控制系统能够对启动态和运行态的恶意代码和内核变化进行主动检测和可信度量，发现存在的威胁和隐患。但可信计算技术较为复杂，策略配置存在难度，有效检测依赖于对控制场景的深度理解。鉴于此，大模型和可信计算技术进行融合，一方面，大模型助力可信策略自动生成。基于预置可信策略库以及工程特性，结合用户输入决策，大模型对预置策略库策略进行分类调整转化，最终生成和场景适配的可信策略；另一方面，可信计算对大模型生成的控制逻辑及其运行过程进行动态度量，有效抵御生成式程序风险，保障控制系统安全稳定运行。

（2）安全与控制业务融合能力的智能化提升

目前国内工业控制系统面临的主要网络安全风险通常来源于在应用系统层面的误操作、违规操作或故意的破坏性操作，而对这方面问题的有效检测和防护依赖于对工业业务和安全的融合分析，需要将工业数据和安全数据打通，在此基础上进行综合研判。一般的安全运维人员或控制人员不具备这种跨领域能力，而通过AI大模型技术，可以深度分析工业数据里面和企业经营以及核心工艺相关的数据，并和安全数据结合起来，对生产网络的访问行为、通信数据的真实性、完整性进行监控和审计，结合工艺危害模式、设备故障模式进行安全融合分析，发现深层次的安全问题，判断对控制业务和现场设备的影响并采取处理措施，实现安全与控制业务融合的智能化提升。

（3）安全运营效率与有效性的智能化提升

工业安全大模型基于生成式AI大模型技术，能够协助安全运营团队进行检测、分析和处理等工作，面向安全运维人员通过简单的自然语言提示实现检测、调查或响应工作流程，从威胁检测和安全运营等角度提升安全效率和安全能力。一方面，可以助力安全运维人员的能力提升，帮助经验不足的安全运维人员快速做出更好的决策，让复杂的安全操作变得容易，提高操作准确性，降低安全运营门槛；另一方面，可以提升安全运营的效率和有效性，通过自动执行安全数据收集、智能化威胁搜索和检测、自动化编排并执行安全响应任务，缩短对关键事件的响应时间，降低安全运营的时间和人力成本。

作者简介

穆雷霆（1981-），男，安徽宿州人，工程师，硕士，现就职于宁波和利时信息安全研究院有限公司，主要从事工业自动化与网络安全方面的研究。

乐　翔（1981-），男，江苏南京人，高级工程师，硕士，现就职于宁波和利时信息安全研究院有限公司，主要从事工业自动化与网络安全方面的研究。

参考文献：

[1] 张弛, 翁方宸, 张玉清. ChatGPT在网络安全领域的应用、现状与趋势[J]. 信息安全研究, 2023, 9 (6) : 500 - 509.

[2] 沈昌祥, 陈兴蜀. 基于可信计算构建纵深防御的信息安全保障体系[J]. 工程科学与技术, 2014, 46 (1) : 1 - 7.

摘自《自动化博览》2025年1月刊