国产欧美日韩精品a在线观看-国产欧美日韩精品一区二区三区-国产欧美日韩精品综合-国产欧美中文字幕-一区二区三区精品国产-一区二区三区精品国产欧美

★廣州英碼信息科技有限公司 李甘來 

摘要： 隨著細分場景視覺算法需求的不斷挖掘，邊緣計算設備作為細分場景AI 應用落地的最佳載體，也逐步展現出高速成長的趨勢。而不同品牌的AI芯片平臺 都有獨立的開發架構，算法廠商的移植工作不能普遍適用于不同品牌的算力芯 片，這就大大限制了算法廠商對邊緣算力的選型，造成資源的浪費。本方案基于 英碼科技AIoT中臺，結合跨品牌的涵蓋高中低算力的軟硬一體邊緣計算設備，通 過“N個硬件平臺+1套管理中臺+N種場景算法”的方式，在日益碎片化的邊緣場 景，為用戶提供算法能力快速落地的全套解決方案。 

關鍵詞：邊緣計算；長尾算法；算力自定義；跨芯片平臺 

1　目標和概述 

1.1　行業需求分析 

隨著物聯網（IOT）技術和人工智能（AI）技術的 不斷發展，視覺識別技術開始廣泛應用于越來越多的 細分領域，這也讓視頻技術的發展經歷模擬化、數字 化、網絡化的過程后，進入了全面智能化階段。當各類 細分場景的算法需求不斷被攻克，視頻技術將會迎來場 景定義算法、場景定義產品的場景化時代。在場景化的 時代，把所有視頻上傳到云端統一運算的傳統模式顯然 已經不適應需求，算力下移到邊緣側或端側，與云端協 同，共同來形成更合理的運算架構，是場景化時代的必 然趨勢。 

基于龐大的細分場景需求，以及在國產化的發展 大潮下，各類適用于邊緣端的國產算力芯片不斷發展， 但各芯片平臺都有獨立的開發架構，算法廠商的移植工 作不能普遍適用于不同品牌的算力芯片，例如基于寒武 紀芯片的移植成果不能直接應用于算能的芯片，如果選 擇了其他芯片則需要重新移植，這大大限制了算法廠商 對邊緣算力的選型，造成資源浪費。對于市場側，細分 場景多如牛毛，雖然國內計算機視覺廠商有90%都集中 于做人臉識別、車輛識別、OCR等算法，其他細分場景 長尾算法的廠商僅有10%左右，但是人臉識別、車輛識 別、OCR等算法僅僅是海量需求里的冰山一角，大量的 長尾算法需求超過了一萬種，這些需求正在逐步被挖掘 出來。然而長尾算法碎片化、國產化移植周期長、試錯 成本高等問題，極大限制了邊緣計算的廣泛應用落地。 因此，只有突破這個局限，才能真正讓邊緣計算應用迎 來更大的爆發性發展。

 1.2　主要目標 

（1）解決跨芯片平臺快速移植的問題，降低算法 廠商的移植成本和試錯成本； 

（2）降低系統集成商對算法應用的難度，提升項 目部署落地的效果和效率；

（3）提升長尾算法從開發到邊緣設備移植，以及 項目應用部署的效率，完善算法精確度在邊緣設備上的 持續迭代問題； 

（4）提供完整的，包含多層次算力、可靈活搭配組 合的邊緣計算硬件設備及云邊協同平臺的整體解決方案。 

1.3　應用創新 

以AIoT中臺為基礎，打造3種核心能力： 

（1）自動訓練能力：打造自動化訓練平臺具備算 法自動訓練、模型自動移植的功能，提供場景數據-算 法模型-指定硬件平臺算法插件的一站式生成服務。自 動化訓練平臺可實現快速生成算法插件，結合嵌入式AI 推理平臺，實現邊緣場景算法能力的快速落地，最快一 周內產出算法模型。 

（2）多平臺算法移植能力：基于自動化訓練平臺 實現的場景算法，目前已支持包括VIT在內的20多種 常見算法模型，涵蓋目標檢測、旋轉檢測、關鍵點檢 測、文字識別、目標分割、實例分割、動作識別等多 種算法類別，均可在多種芯片平臺的邊緣算力硬件上 運行。 

（3）嵌入式AI推理系統：一套提供AI算法服務能 力的軟件，可以運行于邊緣算力硬件平臺之上，采用服 務與算法分離的方式，服務軟件主要適配各種硬件平臺 差異，實現視頻/圖像分析的通用業務/管理功能，算法 則采用插件式編程方式，通過服務軟件+算法插件的方 式，對外提供統一服務接口，實現算法能力的按需切換 與快速落地。 

通過以上3個核心能力，讓各類細分場景算法滿足 快速定制，以及快速適配多種芯片平臺的邊緣計算設備 的目的，達成算法與硬件解耦的效果，為集成商提供更 多靈活搭配的算力設備組合，最終實現硬件算力的自定 義。通過AIoT中臺的管理，可讓不同廠家的算法與不 同AI芯片平臺的設備連接起來，實現算法、算力設備的 自定義，最終達成場景定義產品的目標。同時，通過標 準接口協議實現AIoT平臺與集成商應用平臺的快速對 接，提升項目部署效率和降低成本。

 2　方案介紹 

2.1　總體技術介紹 

英碼“深元”產品體系是在英碼科技多層次邊緣算 力硬件產品布局的基礎上，基于自主研發的邊緣AIoT中 臺軟件，結合不同細分場景應用算法和嵌入式軟件的軟 硬一體解決方案，通過“N個硬件平臺+1套管理中臺+N 種場景算法”的方式，在日益碎片化的邊緣場景，為用 戶提供算法能力快速落地的完整解決方案。 

產品核心組成部分——AI賦能平臺，是一款集智 能硬件管理和AI算法應用管理的產品，產品旨在解決視 頻AI算法應用由“云”側下沉到“邊”側的成本、效率 和算力的問題，降低用戶的試錯成本，縮短客戶研發周 期，提供一套同等算力指標，且易維護、易部署，可靠 性強，使用簡單的輕量級解決方案，“撕掉”AI算法在 傳統認知里的“落地難”、“部署復雜”、“維護成本 高”三大標簽，引領邊緣計算在各行各業的場景創新， 促成視頻應用技術的第五次迭代，進入場景為王的時 代，高效應用海量視頻數據，解決當前業務痛點。

該平臺的核心功能，解決的是如何通過我們這套 方案，將AI算法和硬件解耦，實現x86的大量AI算法模 型下沉到邊端arm智能硬件上去，讓AI算法賦能千行百 業。而整個方案從AI算法模型下發、量化、SDK打包， 到邊側智能硬件的任務部署、可視化應用，支持離線對 接，一站式自動交付，全程不接觸客戶的數據集和模型 文件，此模式的設計，也是為了解除客戶對數據隱私安 全這最后一道“心鎖”。其次，英碼依托供應鏈上游的 支持，自主設計和研發了覆蓋海思、瑞芯微、寒武紀、 算能、愛芯、靈汐、平頭哥等國內主流AI芯片平臺的智 能工作站，算力從2T~38T實現了業務場景的全覆蓋， 供客戶靈活選擇，任意搭配。

同時豐富的場景算法與各系列平臺工作站的組合， 打磨出了智慧工廠、智慧工地、智慧城管、智慧交通、 智慧加油站和明廚亮灶等10+種場景解決方案，讓各行 業場景都能適配到最佳的AI智能解決方案，滿足客戶在 其應用場景、部署環境下達到滿意的應用效果，使AI視 覺算法真正落到千行百業。

2.2　總體技術架構 

AI賦能管理平臺的系統架構向開放式的架構演 進，整體上分為：硬件平臺部分、管理平臺部分、推理 引擎部分、基礎服務部分、業務服務部分、公共服務部 分、平臺規范部分及對外接口部分，其具體架構如圖1 所示。 

圖1 總體技術架構 

2.3　平臺業務邏輯 

英碼AI賦能管理平臺圍繞邊緣設備管理和算法模 型兩大功能模塊進行設計，可對場景應用中不同地理位 置的多個邊緣設備進行統一管理；對不同設備的性能實 時監測，了解設備運行狀態和故障問題；實現算法模型 統一配置，通過可視化界面一鍵遠程運維，對告警事件 實時查看和響應。平臺可向上賦能業務系統，向下統管 邊緣計算終端，是一套高效、便捷的一體化管理系統； 平臺業務邏輯覆蓋云邊端三層結構，如圖2所示：

 圖2 平臺業務邏輯

云側：平臺通過統一接口，上報邊側數據信息， 向上賦能業務應用平臺，廣泛應用于智慧工廠、智慧工 地、智慧城管、智慧交通、智慧加油站等場景。

 邊側：支持多平臺算力識別及適配；算法模型插件 化，跨平臺可用；統一下發模型以及配置任務，告警信 息及時響應；算法與邊緣設備在線升級，一鍵操作。 

端側：視頻采集到邊緣計算工作站集中處理，算力 池化將資源最大化利用。

 2.4　系統部署架構 

圖3 系統部署架構 

2.5　平臺特點 

AI賦能平臺是一套提供AI算法服務能力的軟件，可 以運行于邊緣算力硬件平臺之上，采用服務與算法分離 的方式，服務軟件主要適配各種硬件平臺差異，實現視 頻/圖像分析的通用業務/管理功能，算法則采用插件式編 程方式，通過服務軟件+算法插件的方式，對外提供統一 服務接口，實現算法能力的按需切換與快速落地。 

算法移植快，周期短，擁有豐富的平臺移植經驗， 對移植需求可以做出快速響應，并且移植后精度損失 小，效果理想； 

統一AI服務能力接口開放技術，支持不同平臺、 不同算法（包括自研算法、生態廠商算法)。通過統一 的開放接口，對外提供算法能力，代替原有服務器方 案，性能消耗小，成本也大大縮小； 

支持docker方式私有化部署，部署簡單方便，支 持離線對接，一站式自動交付，使算法部署到任務運行 最快僅需0.5小時； 

多平臺的算力識別及適配技術，可兼容平臺最多可 達到7+種：實現多種硬件平臺的能力識別，支持不同場 景不同算法的算力按需分配，實現算力協同。 

3　代表性及推廣價值 

本方案提供了完整的“平臺+硬件+算法”的自定 義服務，其中邊緣計算設備涵蓋了多家主流的國產邊緣 計算芯片，算力從2T~38T不等，提供了最小顆粒度的 算力組合。通過AIoT平臺把這些設備、算法有效地結 合起來，實現了算法快速定義、算法在設備的快速移 植、持續迭代更新等問題。基于這樣的模式，可以讓集 成商對各類細分場景有快速的響應能力，也可實現算力 設備的靈活搭配，并提升了項目的落地效率，因而可推 動行業市場往場景化時代發展，具備很好的推廣價值。 

3.1　應用案例：某廠區智慧工廠建設項目 

3.1.1　項目背景 

為了減少工作流程中的冗余環節，減少機器設備的 故障，規范技術工人操作標準，提高企業處置生產突發事 件的應急指揮能力，最大限度減少員工人數需要，提升員 工工作效率，提升企業產品質量，眾多的制造型企業紛 紛采取了一系列的信息化措施，“智慧工廠”“智慧生 產”“智能制造”等建設也發展火熱。借助邊緣智能技術 提升生產管理水平是智慧生產建設的重要組成部分，是實 現智慧工廠生產安全管控智能化工作的重要手段之一。 

3.1.2　總體架構 

對廠區綜合安防管理系統的建設，絕不應該是對各 個子系統進行簡單堆砌，而是在滿足各子系統功能的基 礎上，尋求內部各子系統之間、與外部其它智能化系統 之間的完美結合。系統主要依托于企業綜合管理平臺， 來實現對眾多安防子系統的統一管理和控制，通過企業 綜合管理平臺建設，實現統一數據庫、統一管理界面、 統一授權、統一權限卡、統一安防管理業務流程等，同 時考慮將各安防系統資源作為信息化基礎數據，滿足部 分生產運營管理的業務需求，輔助業務流程優化。 

圖4 AIoT綜合管理系統總體架構圖 

AIoT綜合管理系統總體架構如圖4所示。

 前端數據接入：負責前端設備及第三方系統接入， 實現數據的采集，分為視頻類設備、平臺的聯網共享和 物聯類聯網共享；

 數據分析及存儲：負責智能化數據分析（人臉、車 輛、結構化、行為等）和各類數據存儲及數據融合管控； 

智能化應用：實現各類數據融合后提供智能化的應 用，為項目管理者提供全方位智慧安防服務。 

3.1.3　應用效果

1、廠區人車分流管控：為提高廠區作業安全性， 防止車輛、人員交叉作業引發安全事故，本案例通過AI 技術規范廠區內室外人員、車輛安全行走區域，嚴格進 行廠區人員通行監督，實現廠區室外作業安全的智能化 管控。 

圖5 人車分流應用效果示意圖 

2、區域作業規范管控：為提高廠區作業安全性， 防止車輛、人員交叉作業引發安全事故，本案例通過AI 技術規范廠區室內裝卸貨區域人/車作業流程，實現廠 區室內作業安全的智能化管控。 

圖6 區域作業規范管控效果示意圖 

3、區域著裝規范管控：為保障工廠生產產品品質， 維持良好的生產車間潔凈度，配合精細管理的要求；本案 例采用AI技術針對工廠不同區域進行著裝規范智能監控 （含頭罩/口罩/工服/工鞋等著裝）。 

圖7 區域著裝規范管控效果示意圖 

3.1.4　經濟價值 

本案例的建設，改變了工廠原有的線下巡查模式， 大大節約人力成本、時間成本，減少重復工作，提升監 管效率；充分利用邊緣智能與視頻監控技術，全面覆蓋 工廠內部日常作業，確保無安全隱患，避免安全事故的 發生；同時事前自動報警，對于杜絕重大安全事故的發 生發揮重要作用，并為企業創造更大的邊際效益。

 · 監管模式智能化轉型，降低監管人力成本 

通過邊緣智能識別分析，改變原有線下人工巡查的 模式，降低監督成本，一旦發現違規違法現象立即進行 報警，有效降低廠區監管人力成本投入；

 · 重點區域全時段智能監管，提高監管部門監督效能 

通過智能識別分析的方式，對重點區域進行7*24 小時全時段智能監管，大幅提升監管效率，解決了當前 監管人員已無法滿足工廠日趨精細化管理的需求，增加 了工廠運營效益； 

· 變事后追責為事前預警，減少工廠損失發生 

通過識別一旦發現疑似不符合規定、不符合規定的 操作，實時自動告警，并且進行抓拍截圖錄制視頻，改變 原有“事后處置”的模式，依靠“事前預警”盡早對違規 違法現象進行勸阻及處置，減少因事故造成的損失。

 3.1.5　社會效益 

通過邊緣智能技術，實現工廠智能化轉型，有助于 推動區域經濟加速發展。 

在萬物互聯時代，本案例旨在構建基于邊緣智能應 用的智慧工廠AIOT綜合管理平臺，符合黨的二十大方 針及《智能制造2025》政策發展的需要，順應國際化趨 勢，將智能化技術與工廠生產工作緊密結合起來，可作 為安全管理的科技支撐。 

系統打通業務系統與上層決策系統的信息通道，解 決了人工處理下工作效率的瓶頸，可全面提升工廠的整 體生產管理水平；系統按需定制、柔性開發、各功能模 塊采用松耦合方式開發，可復制性強，具有良好的經濟 和社會效益。

摘自《自動化博覽》2023年第2期暨《邊緣計算2023專輯》