国产欧美日韩精品a在线观看-国产欧美日韩精品一区二区三区-国产欧美日韩精品综合-国产欧美中文字幕-一区二区三区精品国产-一区二区三区精品国产欧美

北京郵電大學信息與通信工程學院沈昕炎，林亞捷，許方敏，趙成林

1　引言

隨著第四次工業革命的推動，工業生產逐漸邁入了數字化和智能化的時代，這不僅改變了傳統制造業的面貌，也為企業帶來了前所未有的機遇與挑戰^[1]。AI大模型作為驅動工業創新的關鍵引擎，在生產制造、研發設計和經營管理等方面發揮了巨大作用，也對構建高效、經濟、智能、安全、可靠的網絡和計算基礎設施提出了更為迫切的需求^[2]。算力網絡，作為“算力+連接”的融合形式，充分反映了新基建對5G、工業互聯網等基礎設施以及AI、云/邊緣計算、區塊鏈等新技術服務的融合需求。工業大模型的持續推進，對算力網絡在計算資源、海量數據傳輸與存儲、實時性和安全性等方面提出了更高的要求。本文旨在深入調研工業大模型的發展現狀，探究發展趨勢，提出面向工業大模型的算力網絡架構，并探討其中的關鍵技術問題，以促進工業領域數字化轉型的加速發展。

2　工業大模型發展現狀

2.1　AI大模型發展歷程

自20世紀50年代人工智能誕生以來，AI大模型一直以多維共進的高速發展為特點，經歷了以CNN等傳統神經網絡模型為代表的萌芽期、以Transformer為代表的全新神經網絡模型的沉淀期和以GPT為代表的預訓練大模型爆發期^[3]，如圖1所示。大模型每年的參數規模至少提升了10倍，從預訓練模型到大規模預訓練模型再到超大規模預訓練模型，實現了從億級到百萬億級的飛躍。此外，大模型也從最初支持文本、圖像、語音等單一模態下的單一任務，逐漸演化為支持多種模態下的多任務。在各個發展階段，涌現出多個代表性的AI大模型。

在技術架構方面，Transformer架構是當前AI大模型領域的主流算法架構基礎。2018年，自然語言處理模型參數量達到了3億規模；2020年，OpenAI提出了首個千億級的GPT-3模型，將模型規模推向了新的高峰；2023年OpenAI推出新一代多模態大模型GPT-4，升級了ChatGPT的人機交互能力；同年5月，谷歌推出升級版多模態模型PaLM2，宣布在其辦公套件Workspace和搜索引擎中嵌入新一代人工智能系統。在國內，華為于2021年發布了首個中文千億級的盤古模型；同年，中科院自動化所提出了首個三模態的紫東太初模型，預示著AI大模型進一步走向通用場景。

在應用場景方面，AI大模型可分為通用大模型和行業大模型兩種類型。基于通用大模型，結合行業知識，衍生出了以工業大模型為主的一系列行業大模型，滿足了工業制造業、金融業、能源業等不同領域的應用需求。

圖1 AI大模型發展歷程

2.2　AI大模型在工業領域的應用

2023年5月發布的《工業數字化/智能化2030白皮書》^[4]指出，數字化正全面改變工業生產的基本功能，正推動新的生產要素、制造體系、研發范式和組織形態的涌現，它是塑造工業體系、推進工業化進程和改變全球工業格局的最重要技術變量。

根據2023年IDC發布的《AI大模型在工業應用展望，2023》報告，大模型在工業中的應用主要分為兩個方向，如圖2所示。一是增強場景模型的泛化能力，以提升模型的適用性，二是利用自然語言對話和內容生成能力改變應用的交互方式，包括生成文檔、報表等。通過運用深度學習、強化學習等先進技術，工業大模型能夠高效處理海量數據，能夠快速識別生產過程中的問題和瓶頸，實現對生產過程的精細化管理^[5]。

圖2 工業大模型發展方向

3 工業大模型對算力網絡需求和挑戰

近年來，云/邊緣計算在工業領域嶄露頭角，為實現物聯網設備的智能和自治提供了關鍵支持。云計算作為中心化的大數據處理平臺，在復雜多樣的工業場景中，對低時延和高可靠性的需求日益凸顯。邊緣計算充分利用物聯網設備的嵌入式計算能力，在終端實現了更為智能的數據處理和決策，從而降低了數據傳輸時延，但邊緣計算仍面臨著資源有限和管理復雜的問題。

在這一演進過程中，算力網絡成為解決云/邊緣計算挑戰的新范式。算力網絡強調了算力資源的泛在化部署和協同優化，以支持工業大模型在復雜環境中的高效運行。工業大模型的飛速發展與以“海量數據、低時延、安全傳輸”為特點的關鍵需求，對現有的算力網絡提出了如下需求。

3.1　大規模數據處理能力

目前主流的大模型都是建立在巨大的參數量和運算量之上，對計算和傳輸能力提出了極高要求。以1750億參數的GPT-3為例，每生成一次1000字回答，所需算力資源約為4PFLOP/s^[6]。工業模型中數據規模指數級增長，節點間需要建立高效的通信和傳輸機制，以保證龐大的數據集在網絡中可靠流通，確保節點之間信息的共享與協同訓練，這是保障工業大模型整體性能的重要環節。

3.2　實時性與低延遲

面向工業制造、供應鏈管理與物流優化等重點核心領域的實時工業生產，需要在不同的場景中進行實時推理，以應對生產過程中的突發變化，這需要算力網絡提供足夠的算力資源，確保大模型能夠在短時間內做出準確的決策，從而維持生產線的高效運行^[7]。在設備監測和預測性維護中，大模型需要獲取終端設備的實時數據，統籌全局，分析設備的運行狀況并預測潛在的故障，以提高整體供應鏈的靈活性和適應性。

3.3　分布式并行計算

對于需要進行訓練的工業大模型，分布式訓練是一個關鍵需求，算力網絡應提供相應的框架和策略，支持高效的訓練過程并確保模型參數的一致性和收斂性。針對龐大的工業大模型參數，算力網絡需要支持高效的模型參數分布和同步，以確保各計算節點之間的模型保持同步，這些需求強調了對于模型、數據、計算任務的高效管理和協同處理能力，為分布式計算系統提供了挑戰和優化的方向。

4　面向工業大模型的算力網絡架構

本文將面向工業大模型的算力網絡劃分為四個關鍵層，如圖3所示，以滿足工業場景對數據處理和智能決策的需求^[8]。首先，數據接入層扮演著數據源的關鍵角色，它包括各類工業設備傳感器，通過高效的實時數據采集與傳輸機制以及符合工業大模型需求的數據預處理，實現對工業數據的實時采集和高質量精準傳輸。計算存儲層整合了智能邊緣節點和分布式存儲系統，可以對來自數據接入層的數據進行輕量化處理和海量數據的分布式存儲及檢索，以提高響應速度，減輕中心計算負擔。核心控制層是整個工業算力網絡的計算引擎，集成了分布式計算引擎和實時通信與調度方案，為工業大模型提供了強大的算力支持。其通過網絡控制單元和動態調整服務，實現對整個算力網絡的靈活管理和優化，適應了工業AI任務的動態變化和多樣性。工業AI服務層涵蓋了模型存儲服務、模型訓練與推理服務和性能監控服務。這一層確保工業大模型的高效存儲、訓練和推理，同時通過性能監控服務實現對模型運行狀態的實時監控與優化。這一完整而高效的架構使得各層次之間能夠高效協同，為工業大模型的全生命周期提供了全方位的支持。

圖3 面向工業大模型的算力網絡架構

如圖4所示是基于工業大模型與算力網絡相結合的質量控制流程，在此場景中，工業大模型需要大量的計算資源來訓練和推理，同時需要與算力網絡無縫協作。其主要包含以下步驟：

（1）數據采集與預處理：傳感器和攝像頭分布在廠房不同生產線上，可以實時收集汽車生產過程中的各種數據，并送入工業算力網絡的數據接入層，進行預處理和清洗。

（2）模型訓練與優化：工業大模型在云端的計算節點上進行訓練，并通過分布式并行計算加速模型的學習過程。優化過程需要大規模的計算資源來調整模型參數，以適應不同汽車型號和生產變化。

（3）實時推理與質量控制：訓練完成的大模型被應用到工業生產中，例如工廠內的服務器或邊緣設備。在汽車生產過程中，模型實時進行推理，分析各個階段的數據，檢測潛在質量問題，并共享數據信息。

（4）實時反饋與調整：通過算力網絡，模型的實時推理結果被反饋到生產線和邊緣算力中心，系統可以根據反饋實時調整生產參數，甚至在必要時停止生產線，這種實時性要求對于保障質量至關重要。

上述質量控制流程突顯了工業大模型如何依賴算力網絡的計算、通信和實時性能，以實現在復雜的工業制造環境中對產品質量進行精準控制。

圖4 面向工業大模型的生產流程圖

5　面向工業大模型的算力網絡關鍵技術

5.1　面向工業大模型的算力感知技術

算力感知是對算力能力信息、算力資源狀態信息、算力服務信息等要素的全面感知。在面向工業大模型場景的算力網絡中，計算負載各不相同使得計算資源具有異構泛在的部署特性和動態時變的資源特性^[9]，算力感知的目的是明確網絡中的算力資源部署，滿足不同規模工業任務的算力需求。

當前面向工業大模型場景的算力感知針對工業中單個節點存在的感知范圍有限、效率低等問題，將多節點感知的算網信息進行聚合來擴展感知的維度和范圍，并利用智能算法構建全局統一的算網狀態視圖^[10]，精準地對泛在異構、動態時變的工業信息資源的部署位置、實時狀態、負載信息等進行感知，并對工業網絡的傳輸時延、抖動、帶寬資源利用率等信息進行實時動態獲取，保證了工業生產的可靠性，如圖5所示。

圖5 面向工業大模型場景的算力感知示意圖

5.2　工業大模型大規模數據傳輸與存儲技術

工業大模型的數據量呈指數級增長，包括來自傳感器、監控設備、移動設備等多源數據，以及歷史數據和場景數據。為確保算力感知基礎，應用時間敏感網絡（Time-Sensitive Networking，TSN）等確定性傳輸技術，保障工業大模型中的業務流具備高可靠性和低時延的服務質量。TSN不僅滿足工業控制的實時性和確定性需求，還兼容以太網，可實現工業控制數據和以太網數據的混合傳輸^[11]。鑒于工業數據的突發性，TSN采用基于信用的整形器（Credit-Based Shaper，CBS）平滑流量，有效維護突發性實時業務流的時延上界。

此外，在工業大模型的生產場景中，存儲技術不斷創新，包括藍光存儲、硬件高密度、數據縮減、編碼算法、芯片卸載、多協議數據互通等技術，使得大規模數據存儲成為現實。

5.3　面向工業大模型的分布式計算和優化

應用于工業AI領域的大型模型，需處理龐大數量的參數和變量。為了實現高效可靠的數據處理，通常采用多層級復雜結構構建這些模型。為了應對工業領域龐大的過程性和歷史性數據，多數情況下采用并行計算和分布式計算技術。這利用了多個計算機或處理器同時處理數據的能力，從而顯著提高了計算效率，減少了訓練模型所需的時間，并解決了計算能力瓶頸的問題。同時，考慮到工業環境中可能存在節點故障或計算資源不足的情況，算力網絡需具備容錯性和彈性計算的能力，以確保計算任務的持續進行和動態資源調整。

5.4　面向工業大模型的協同資源調度

在工業大模型場景中，一方面，海量數據的處理很難在單一邊緣節點中完成，算力網絡的邊緣計算節點計算資源有限，計算能力各不相同，計算負載狀況動態變化。當多個計算節點可以完成某項計算任務時，需要考慮選擇哪一個計算節點來處理該計算任務；另一方面，計算量較大的計算任務需要分派給多個邊緣節點或者計算資源充足的邊緣節點來進行處理，如何將計算任務分派并調度至最匹配的邊緣計算節點以提升工業互聯網計算任務處理效率是算力網絡的關鍵技術之一。

協同資源調度策略需要將計算任務按照某種方式分配給云端或邊緣設備，同時還需要考慮任務的執行順序和資源的分配情況。在這個過程中，要盡可能地減少任務的執行時間，降低網絡的傳輸延時，從而提升系統的整體性能^[12]。一種策略是基于設備的計算能力和資源利用率來分配任務，將計算密集型任務分派給計算能力較強的網絡節點，而將數據密集型任務分配給邊緣計算節點，以最大程度地利用各節點的資源。另一種策略則是采用任務切分和協同執行的方式，將一個任務切割成多個子任務，并將這些子任務分配給不同的設備執行，最后將它們的結果協同合并，得到最終的計算結果，其過程如圖6所示。

圖6 工業算力網絡協同資源調度流程

5.5　工業算力網絡安全性和隱私保護

在工業算力網絡中，云、邊、端各類算力節點廣泛接入，節點間存在安全差異，安全風險復雜多樣，可信評估與安全認證機制尚未成熟。為滿足工業大模型網絡服務特點并應對安全挑戰，可在網絡層對數據流向、節點操作等信息進行編碼標記，構建跨系統、跨節點的數據流轉標記和預授權機制，實現對數據流出網時的有效管控，并在整個數據流轉過程中全程感知。結合工業算力網絡的保障能力，通過智能化分析和靈活配置，形成主動防護和聯動彈性的內在安全能力，提高網絡行為的可預見性和高效管理，同時滿足端對端極度差異性的安全需求^[13]。

6　結束語

本文深入研究了面向工業大模型的算力網絡架構及其關鍵技術，并通過對算力網絡在工業領域的需求、挑戰以及發展趨勢的剖析，深刻認識到算力網絡在支持工業大模型應用中的重要性。本文還提出了面向工業大模型的算力網絡架構，該架構包括應用服務層、網絡控制層、核心資源層、邊緣計算層和設備接入層，以全面滿足工業領域數字化轉型的需求。在關鍵技術方面，本文討論了算力感知、數據傳輸與存儲、協同資源調度等核心技術，為后續工業大模型的深入研究提供了參考。

作者簡介：

沈昕炎（2000-），男，碩士，現就讀于北京郵電大學，主要研究方向為工業算力網絡、工業互聯網。

林亞捷（1999-），女，碩士，現就讀于北京郵電大學，主要研究方向為工業算力網絡、工業互聯網。

許方敏（1982-），男，副教授，博士，現就職于北京郵電大學，主要研究方向為物聯網網絡、未來網絡技術。

趙成林（1964-），男，教授，博士，現就職于北京郵電大學，主要研究方向為短距無線傳輸技術、認知無線電技術、毫米波技術、工業互聯網網絡。

參考文獻：

[1] 申元善, 王圣淇. 數字化質量模型及其智能商業領域應用[J]. 中國質量, 2023 (1) : 5.

[2] 雷波, 陳運清, 王旭亮, 等. 邊緣計算與算力網絡: 5G+AI時代的新型算力平臺與網絡連接[M]. 北京: 電子工業出版社, 2020.

[3] 天翼智庫. 迎接大模型時代: 大模型發展簡史及攻略[J]. 互聯網天地, 2023 (5) : 8 - 15.

[4] 華為技術有限公司, 中國信通院, 羅蘭貝格. 工業數字化/智能化2030白皮書[R/OL]. 2023-5.  

[5] 國際數據公司 (IDC). AI大模型在工業應用展望，2023 [R/OL]. 2023-5.  

[6] 史庭祥, 張劍波, 曹越, 等. 一種基于超大規模云資源池的算力供給新模式及其關鍵技術[J]. 移動通信, 2023, 47 (1) : 83 - 89.

[7] 劉作國, 廖一星, 綦云華, 等. 一種工業生產設備故障預測分析方法及模型[J].

[8] 祁昊穎. "端-邊-云"超融合背景下的算力網絡架構[J]. 通信電源技術, 2022, 39 (13) : 124 - 128.

[9] 賈慶民, 丁瑞, 劉輝, 等. 算力網絡研究進展綜述[J]. 網絡與信息安全學報

[10] 蔡旭輝, 董曉荔, 趙宇, 等. 算網感知能力與關鍵技術研究[J]. 中國信息化, 2023 (11) : 64 - 67 + 63

[11] 李宗輝, 楊思琪, 喻敬海, 等. 時間敏感網絡中確定性傳輸技術綜述[J]. 軟件學報, 2022, 33 (11) : 4334 - 4355.

[12] 周旭, 李琢. 面向算力網絡的云邊端協同調度技術[J]. 中興通訊技術, 2023, 29 (4) : 32 - 37.

[13] 朱文閱, 董江帆, 李玉華, 等. 算力網絡安全與數據安全治理技術研究[J]. 電信工程技術與標準化, 2024, 37 (1) : 12 - 17.

摘自《自動化博覽》2024年第二期暨《邊緣計算2024專輯》