ABB
关注中国自动化产业发展的先行者!
CAIAC 2025
2025工业安全大会
OICT公益讲堂
当前位置:首页 >> 案例 >> 案例首页

案例频道

新一代工业物联网数据管理关键技术研究
  • 企业:     领域:物联网    
  • 点击数:564     发布时间:2024-12-15 18:55:23
  • 分享到:
工业物联网时序数据呈爆炸式增长,导致工业时序数据的存储与处理面临应用需求多样化、低成本存储、高并发写入、数据处理时效性与有效性等挑战。为解决上述挑战,本文拟对如下内容进行研究:通过对工业物联网时序数据采集-存储-查询-处理一体化协同机理、工业物联网-应用融合的工业时序数据分布式存储与处理方法、工业物联网数据管理开源软件生态系统的融入方法等关键科学问题的研究,形成新一代工业物联网时序数据管理的理论体系。围绕“端边云协同的工业物联网时序数据管理理论”“新型工业时序数据存储与高鲁棒处理技术”“工业物联网时序数据库管理系统原型研发及应用示范”等开展研究,旨在建立新一代工业物联网数据管理体系和应用方案、提升我国工业物联网软件平台自主研发能力,具有重要理论意义和工程应用价值。

文献标识码:B文章编号:1003-0492(2024)11-070-03中图分类号:TP29

★王晓东,郭亮亮(山西省信息产业技术研究院有限公司,山西太原030012)

关键词:工业物联网;时序数据;智能缓存;数据处理技术

目前,工业物联网数据管理系统的相关应用和产品已经得到了初步的探索,但海量时序数据的产生导致工业数据规模变大,工业物联网场景下海量数据的高并发写入、高吞吐存储和写多读少等特征导致数据管理和运营面临新挑战。由于工业物联网缺乏端边云协同场景下海量数据全链路管理的基础理论和技术体系,导致数据并发写入速度慢、分组聚合速率低、存储和处理不及时,难以实现数据采集、存储、查询、处理一体化。当前由于对工业大数据软件系统的构建逻辑与方法论存在模糊的认识,制约了工业大数据应用价值创造和良性持续发展,影响了工业物联网应用的推广。

针对以上问题,本文通过研究端边云协同的工业物联网时序数据管理理论、新型工业时序数据存储与高鲁棒处理技术、工业物联网时序数据管理原型平台研发及应用示范等基础理论与关键技术,建立了新一代工业物联网数据管理关键技术方案,为解决我国工业物联网数据处理困境提供了一种新思路。

1  端边云协同的工业物联网时序数据管理理论

时序数据作为工业大数据中最为基本和普遍的数据形式,其海量性、多源性、连续性和高动态性强的数据特征,给提供支撑服务的各种资源的优化管理带来了前所未有的挑战。同时,工业物联网设备的分散性与管理决策过程的集中性之间的矛盾,导致大体量数据在服务执行过程中带宽资源消耗增加、数据共享代价大,严重阻碍了工业物联网设备互联、数据快捷流通和交互聚合。

本文拟采用“端边云协同”思路,构建分布式一体化的数据管理架构(如图1所示),为工业时序数据的管理、调度和共享服务提供低时延、低能耗和高可靠性的算力支撑;研究“端边云”节点的粒度划分策略和联合建模理论,建立以“信息-模型-资源”为驱动的要素分级治理和信息整合方法,实现工业数据跨系统、跨层级的全局流通和链接共享;研究以数据流动为导向的多方资源协同管理机制,定义各角色、功能、组件及其相互之间的作用关系,构建面向工业时序数据的数据存储分布式架构;研究边缘节点的统一管控和动态扩展策略,建立基于工业物联网的端边云协同数据管理模型,提升多业务场景下边缘节点数据管理的自治与协作能力。

image.png

图1 分布式一体化的数据管理架构

为实现“节点自治、分层多级、协同调度、统一管理”的分布式数据管理,本文面向工业物联网体系,采用分布式架构,建立基于支持现场智能终端-边缘计算中心-云端互联互通的端边云协同架构,以解决传统工业数据孤岛的缺陷。本文探索以数据流动为导向的多方资源协同管理方法,定义面向工业时序数据的分布式数据管理架构,构建跨层级、协同调度的信息广播和数据管理机制,融合数据查询与处理机制,构建工业物联网时序数据管理模型。

2 工业物联网存-算-网资源协同调度与智能缓存技术研究

工业物联网时序数据存储在海量的分布式资源中,具有数据量大、冷热访问特征明显等特点。网络系统为任意应用提供数据传输、存储与计算支持,而同一应用被部署在任意网络下均可工作。

如何管理调度这些海量的存储、计算与网络资源,提高热时序数据的访问效率,对于提高工业物联网时序数据存储与处理效率至关重要。为解决上述问题,本文研究了工业物联网海量多类资源的协同调度与智能缓存技术。首先,提出存-算-网资源通用抽象理论,为工业物联网海量资源提供高精度、高隐私的抽象视图;其次,设计高效的存-算-网资源分布式调度算法,以资源抽象视图及应用的数据存储需求为输入,快速计算数据传输与存储的最优资源分配方案;最后,监测应用对数据访问的模式,训练热数据预测模型,构建多级智能缓存与替换策略。技术路线如图2所示。

image.png

图2 存-算-网资源协同调度与智能缓存技术路线

此外,针对传统物联网分布式网络系统模块化架构、网络与应用互为黑盒、互不感知的问题,本文提出了工业物联网-应用融合的新型工业物联网架构,并以此为基础,研究设计了低成本、高效的时序数据存储方法与高鲁棒、低时延的时序数据处理方法。在工业物联网-应用融合的新型架构中,网络与应用对彼此的黑盒抽象被打开,可以互相感知。应用可以向网络提供更多的存储与处理需求信息,而网络在执行数据存储与处理任务时可以充分考虑不同应用的不同业务特性,选择最优的存储策略与数据处理资源分配,从而实现工业物联网时序高效数据存储与高鲁棒性处理。

3 基于可编程硬件的高效网内时序数据处理技术

工业物联网应用需要对网内产生的海量时序数据进行实时高效的处理分析。传统的物联网数据处理方式需将数据从存储设备传输至计算设备进行处理,不仅会消耗大量的网络资源,也会造成较高的延迟,降低数据处理的效率。

为此,本文将研究基于可编程硬件与机器学习的网内时序数据处理技术。首先,为时序数据处理算子设计适用于可编程硬件的网内处理原语;其次,收集应用运行时不同算子的发生频率及其之间的依赖关系等信息,结合物联网资源信息,设计基于强化学习的时序数据处理任务调度算法,将数据处理操作分配到可编程硬件与传统计算硬件上,降低数据处理延迟。技术路线如图3所示。

image.png

图3 高效网内时序数据处理技术路线

为解决当前时序数据库存在的架构复杂、查询困难、一致性弱、成本高等问题,本文将构建多模数据实时分流、多级任务动态配置的分布式任务调度框架,分析工业物联网时序数据的冷热、时效等特点,构建基于人工智能的冷热存储空间智能配比方法,形成基于时效、资源、负载等多场景驱动的数据库软件配置策略,设计统一的、与环境无关的多模引擎和外部计算系统标准接口,构建新型工业物联网时序数据库软件架构,为新型工业物联网数据管理原型平台提供技术支持。

4 工业物联网时序数据管理原型平台研发

未来的工业物联网时序数据管理将向云端边一体化方向演进。数据管理平台支撑汇聚海量工业时序数据资源,数据资源通过时序数据库软件实现实时数据互联互通,提供面向工业数采、预防维护、数字孪生等复杂工业应用场景的数据存储与组织、查询、分析以及维护等管理服务。

为此,本文拟研究工业物联网时序数据管理原型平台的研发。首先,研究多模数据库多层级、多场景、可拓展的自动配置方案,分析工业物联网时序数据的冷热、时效等特点,构建基于人工智能的冷热存储空间智能配比方法,形成基于时效、资源、负载等多场景驱动的数据库软件配置策略;然后,研究企业多源异构生产数据的接入和融合方法,挖掘工业物联网时序数据间的运行规律和因果影响机理,建立基于分布式的并行时序分析模型;最后,采用B/S模式和基于JavaEE三层应用体系架构的先进技术框架,研发包括异构数据集成、分布式存储和处理、可集成智能应用的企业安全生产数据管理平台,支持风险态势动态研判、风险综合分析、动态预警、趋势分析等功能。

5 结束与展望

本文针对当前工业物联网场景下海量数据高并发写入、高吞吐存储带来的数据管理难题,从时序数据的采集、存储、处理与管理等环节着手,解决了工业数据的流动、转换、分析和互联困难等核心问题。本文研究的内容将支撑“新一代工业物联网数据管理关键技术研究”的一系列基础理论与技术创新,研发的工业物联网时序数据管理原型平台将为工业时序数据的全流程一体化管理提供实施手段,将满足工业物联网对工业软件平台及数字生态的创新发展需求,将提升我国工业物联网数据管理平台自主研发能力。

作者简介:

王晓东(1995-),男,山西古交人,硕士,现就职于山西省信息产业技术研究院有限公司,研究方向为新一代信息技术、智能制造、工业互联网等。

郭亮亮(1981-),男,山西晋城人,正高级工程师,硕士,现就职于山西省信息产业技术研究院有限公司,研究方向为政府/企业信息化技术研发与应用、工业互联网、智慧矿山等。

参考文献:

[1] 刘帅, 乔颖, 罗雄飞, 等. 时序数据库关键技术综述[J]. 计算机研究与发展, 2024, 61 (3) : 614 - 638.

[2] 谢伟, 卢士达, 时宽治, 等. 面向工业物联网时序数据的异常检测方法[J]. 计算机工程与应用, 2024, 60 (12) : 270 - 282.

[3] 王建民. 工业互联网端边云协同数据处理难题[C]. 中国通信学会工业互联网委员会. 2022工业互联网学术大会论文集. 清华大学, 2023.

[4] 关运通. 基于时序数据分析的工业互联网异常检测系统设计与实现[D]. 哈尔滨: 哈尔滨工业大学, 2020.

[5] 夏梦圆. 工业互联网中边缘数据管理架构和算法研究[D]. 长沙: 湖南大学, 2020.

[6] 王妙琼, 魏凯, 姜春宇. 工业互联网中时序数据处理面临的新挑战[J]. 信息通信技术与政策, 2019, (5) : 4 - 9.

[7] 秦宏志. 空地协同网络的智能缓存机制研究[D]. 沈阳: 沈阳航空航天大学, 2022.

[8] 周雨彤. 边缘计算网络中基于区块链的智能缓存策略研究[D]. 北京: 北京邮电大学, 2022.

摘自《自动化博览》2024年11月刊

热点新闻

推荐产品

x
  • 在线反馈
1.我有以下需求:



2.详细的需求:
姓名:
单位:
电话:
邮件: