国产欧美日韩精品a在线观看-国产欧美日韩精品一区二区三区-国产欧美日韩精品综合-国产欧美中文字幕-一区二区三区精品国产-一区二区三区精品国产欧美

★廣州英碼信息科技有限公司 李甘來 

摘要： 隨著細(xì)分場景視覺算法需求的不斷挖掘，邊緣計(jì)算設(shè)備作為細(xì)分場景AI 應(yīng)用落地的最佳載體，也逐步展現(xiàn)出高速成長的趨勢。而不同品牌的AI芯片平臺(tái) 都有獨(dú)立的開發(fā)架構(gòu)，算法廠商的移植工作不能普遍適用于不同品牌的算力芯 片，這就大大限制了算法廠商對(duì)邊緣算力的選型，造成資源的浪費(fèi)。本方案基于 英碼科技AIoT中臺(tái)，結(jié)合跨品牌的涵蓋高中低算力的軟硬一體邊緣計(jì)算設(shè)備，通 過“N個(gè)硬件平臺(tái)+1套管理中臺(tái)+N種場景算法”的方式，在日益碎片化的邊緣場 景，為用戶提供算法能力快速落地的全套解決方案。 

關(guān)鍵詞：邊緣計(jì)算；長尾算法；算力自定義；跨芯片平臺(tái) 

1　目標(biāo)和概述 

1.1　行業(yè)需求分析 

隨著物聯(lián)網(wǎng)（IOT）技術(shù)和人工智能（AI）技術(shù)的 不斷發(fā)展，視覺識(shí)別技術(shù)開始廣泛應(yīng)用于越來越多的 細(xì)分領(lǐng)域，這也讓視頻技術(shù)的發(fā)展經(jīng)歷模擬化、數(shù)字 化、網(wǎng)絡(luò)化的過程后，進(jìn)入了全面智能化階段。當(dāng)各類 細(xì)分場景的算法需求不斷被攻克，視頻技術(shù)將會(huì)迎來場 景定義算法、場景定義產(chǎn)品的場景化時(shí)代。在場景化的 時(shí)代，把所有視頻上傳到云端統(tǒng)一運(yùn)算的傳統(tǒng)模式顯然 已經(jīng)不適應(yīng)需求，算力下移到邊緣側(cè)或端側(cè)，與云端協(xié) 同，共同來形成更合理的運(yùn)算架構(gòu)，是場景化時(shí)代的必 然趨勢。 

基于龐大的細(xì)分場景需求，以及在國產(chǎn)化的發(fā)展 大潮下，各類適用于邊緣端的國產(chǎn)算力芯片不斷發(fā)展， 但各芯片平臺(tái)都有獨(dú)立的開發(fā)架構(gòu)，算法廠商的移植工 作不能普遍適用于不同品牌的算力芯片，例如基于寒武 紀(jì)芯片的移植成果不能直接應(yīng)用于算能的芯片，如果選 擇了其他芯片則需要重新移植，這大大限制了算法廠商 對(duì)邊緣算力的選型，造成資源浪費(fèi)。對(duì)于市場側(cè)，細(xì)分 場景多如牛毛，雖然國內(nèi)計(jì)算機(jī)視覺廠商有90%都集中 于做人臉識(shí)別、車輛識(shí)別、OCR等算法，其他細(xì)分場景 長尾算法的廠商僅有10%左右，但是人臉識(shí)別、車輛識(shí) 別、OCR等算法僅僅是海量需求里的冰山一角，大量的 長尾算法需求超過了一萬種，這些需求正在逐步被挖掘 出來。然而長尾算法碎片化、國產(chǎn)化移植周期長、試錯(cuò) 成本高等問題，極大限制了邊緣計(jì)算的廣泛應(yīng)用落地。 因此，只有突破這個(gè)局限，才能真正讓邊緣計(jì)算應(yīng)用迎 來更大的爆發(fā)性發(fā)展。

 1.2　主要目標(biāo) 

（1）解決跨芯片平臺(tái)快速移植的問題，降低算法 廠商的移植成本和試錯(cuò)成本； 

（2）降低系統(tǒng)集成商對(duì)算法應(yīng)用的難度，提升項(xiàng) 目部署落地的效果和效率；

（3）提升長尾算法從開發(fā)到邊緣設(shè)備移植，以及 項(xiàng)目應(yīng)用部署的效率，完善算法精確度在邊緣設(shè)備上的 持續(xù)迭代問題； 

（4）提供完整的，包含多層次算力、可靈活搭配組 合的邊緣計(jì)算硬件設(shè)備及云邊協(xié)同平臺(tái)的整體解決方案。 

1.3　應(yīng)用創(chuàng)新 

以AIoT中臺(tái)為基礎(chǔ)，打造3種核心能力： 

（1）自動(dòng)訓(xùn)練能力：打造自動(dòng)化訓(xùn)練平臺(tái)具備算 法自動(dòng)訓(xùn)練、模型自動(dòng)移植的功能，提供場景數(shù)據(jù)-算 法模型-指定硬件平臺(tái)算法插件的一站式生成服務(wù)。自 動(dòng)化訓(xùn)練平臺(tái)可實(shí)現(xiàn)快速生成算法插件，結(jié)合嵌入式AI 推理平臺(tái)，實(shí)現(xiàn)邊緣場景算法能力的快速落地，最快一 周內(nèi)產(chǎn)出算法模型。 

（2）多平臺(tái)算法移植能力：基于自動(dòng)化訓(xùn)練平臺(tái) 實(shí)現(xiàn)的場景算法，目前已支持包括VIT在內(nèi)的20多種 常見算法模型，涵蓋目標(biāo)檢測、旋轉(zhuǎn)檢測、關(guān)鍵點(diǎn)檢 測、文字識(shí)別、目標(biāo)分割、實(shí)例分割、動(dòng)作識(shí)別等多 種算法類別，均可在多種芯片平臺(tái)的邊緣算力硬件上 運(yùn)行。 

（3）嵌入式AI推理系統(tǒng)：一套提供AI算法服務(wù)能 力的軟件，可以運(yùn)行于邊緣算力硬件平臺(tái)之上，采用服 務(wù)與算法分離的方式，服務(wù)軟件主要適配各種硬件平臺(tái) 差異，實(shí)現(xiàn)視頻/圖像分析的通用業(yè)務(wù)/管理功能，算法 則采用插件式編程方式，通過服務(wù)軟件+算法插件的方 式，對(duì)外提供統(tǒng)一服務(wù)接口，實(shí)現(xiàn)算法能力的按需切換 與快速落地。 

通過以上3個(gè)核心能力，讓各類細(xì)分場景算法滿足 快速定制，以及快速適配多種芯片平臺(tái)的邊緣計(jì)算設(shè)備 的目的，達(dá)成算法與硬件解耦的效果，為集成商提供更 多靈活搭配的算力設(shè)備組合，最終實(shí)現(xiàn)硬件算力的自定 義。通過AIoT中臺(tái)的管理，可讓不同廠家的算法與不 同AI芯片平臺(tái)的設(shè)備連接起來，實(shí)現(xiàn)算法、算力設(shè)備的 自定義，最終達(dá)成場景定義產(chǎn)品的目標(biāo)。同時(shí)，通過標(biāo) 準(zhǔn)接口協(xié)議實(shí)現(xiàn)AIoT平臺(tái)與集成商應(yīng)用平臺(tái)的快速對(duì) 接，提升項(xiàng)目部署效率和降低成本。

 2　方案介紹 

2.1　總體技術(shù)介紹 

英碼“深元”產(chǎn)品體系是在英碼科技多層次邊緣算 力硬件產(chǎn)品布局的基礎(chǔ)上，基于自主研發(fā)的邊緣AIoT中 臺(tái)軟件，結(jié)合不同細(xì)分場景應(yīng)用算法和嵌入式軟件的軟 硬一體解決方案，通過“N個(gè)硬件平臺(tái)+1套管理中臺(tái)+N 種場景算法”的方式，在日益碎片化的邊緣場景，為用 戶提供算法能力快速落地的完整解決方案。 

產(chǎn)品核心組成部分——AI賦能平臺(tái)，是一款集智 能硬件管理和AI算法應(yīng)用管理的產(chǎn)品，產(chǎn)品旨在解決視 頻AI算法應(yīng)用由“云”側(cè)下沉到“邊”側(cè)的成本、效率 和算力的問題，降低用戶的試錯(cuò)成本，縮短客戶研發(fā)周 期，提供一套同等算力指標(biāo)，且易維護(hù)、易部署，可靠 性強(qiáng)，使用簡單的輕量級(jí)解決方案，“撕掉”AI算法在 傳統(tǒng)認(rèn)知里的“落地難”、“部署復(fù)雜”、“維護(hù)成本 高”三大標(biāo)簽，引領(lǐng)邊緣計(jì)算在各行各業(yè)的場景創(chuàng)新， 促成視頻應(yīng)用技術(shù)的第五次迭代，進(jìn)入場景為王的時(shí) 代，高效應(yīng)用海量視頻數(shù)據(jù)，解決當(dāng)前業(yè)務(wù)痛點(diǎn)。

該平臺(tái)的核心功能，解決的是如何通過我們這套 方案，將AI算法和硬件解耦，實(shí)現(xiàn)x86的大量AI算法模 型下沉到邊端arm智能硬件上去，讓AI算法賦能千行百 業(yè)。而整個(gè)方案從AI算法模型下發(fā)、量化、SDK打包， 到邊側(cè)智能硬件的任務(wù)部署、可視化應(yīng)用，支持離線對(duì) 接，一站式自動(dòng)交付，全程不接觸客戶的數(shù)據(jù)集和模型 文件，此模式的設(shè)計(jì)，也是為了解除客戶對(duì)數(shù)據(jù)隱私安 全這最后一道“心鎖”。其次，英碼依托供應(yīng)鏈上游的 支持，自主設(shè)計(jì)和研發(fā)了覆蓋海思、瑞芯微、寒武紀(jì)、 算能、愛芯、靈汐、平頭哥等國內(nèi)主流AI芯片平臺(tái)的智 能工作站，算力從2T~38T實(shí)現(xiàn)了業(yè)務(wù)場景的全覆蓋， 供客戶靈活選擇，任意搭配。

同時(shí)豐富的場景算法與各系列平臺(tái)工作站的組合， 打磨出了智慧工廠、智慧工地、智慧城管、智慧交通、 智慧加油站和明廚亮灶等10+種場景解決方案，讓各行 業(yè)場景都能適配到最佳的AI智能解決方案，滿足客戶在 其應(yīng)用場景、部署環(huán)境下達(dá)到滿意的應(yīng)用效果，使AI視 覺算法真正落到千行百業(yè)。

2.2　總體技術(shù)架構(gòu) 

AI賦能管理平臺(tái)的系統(tǒng)架構(gòu)向開放式的架構(gòu)演 進(jìn)，整體上分為：硬件平臺(tái)部分、管理平臺(tái)部分、推理 引擎部分、基礎(chǔ)服務(wù)部分、業(yè)務(wù)服務(wù)部分、公共服務(wù)部 分、平臺(tái)規(guī)范部分及對(duì)外接口部分，其具體架構(gòu)如圖1 所示。 

圖1 總體技術(shù)架構(gòu) 

2.3　平臺(tái)業(yè)務(wù)邏輯 

英碼AI賦能管理平臺(tái)圍繞邊緣設(shè)備管理和算法模 型兩大功能模塊進(jìn)行設(shè)計(jì)，可對(duì)場景應(yīng)用中不同地理位 置的多個(gè)邊緣設(shè)備進(jìn)行統(tǒng)一管理；對(duì)不同設(shè)備的性能實(shí) 時(shí)監(jiān)測，了解設(shè)備運(yùn)行狀態(tài)和故障問題；實(shí)現(xiàn)算法模型 統(tǒng)一配置，通過可視化界面一鍵遠(yuǎn)程運(yùn)維，對(duì)告警事件 實(shí)時(shí)查看和響應(yīng)。平臺(tái)可向上賦能業(yè)務(wù)系統(tǒng)，向下統(tǒng)管 邊緣計(jì)算終端，是一套高效、便捷的一體化管理系統(tǒng)； 平臺(tái)業(yè)務(wù)邏輯覆蓋云邊端三層結(jié)構(gòu)，如圖2所示：

 圖2 平臺(tái)業(yè)務(wù)邏輯

云側(cè)：平臺(tái)通過統(tǒng)一接口，上報(bào)邊側(cè)數(shù)據(jù)信息， 向上賦能業(yè)務(wù)應(yīng)用平臺(tái)，廣泛應(yīng)用于智慧工廠、智慧工 地、智慧城管、智慧交通、智慧加油站等場景。

 邊側(cè)：支持多平臺(tái)算力識(shí)別及適配；算法模型插件 化，跨平臺(tái)可用；統(tǒng)一下發(fā)模型以及配置任務(wù)，告警信 息及時(shí)響應(yīng)；算法與邊緣設(shè)備在線升級(jí)，一鍵操作。 

端側(cè)：視頻采集到邊緣計(jì)算工作站集中處理，算力 池化將資源最大化利用。

 2.4　系統(tǒng)部署架構(gòu) 

圖3 系統(tǒng)部署架構(gòu) 

2.5　平臺(tái)特點(diǎn) 

AI賦能平臺(tái)是一套提供AI算法服務(wù)能力的軟件，可 以運(yùn)行于邊緣算力硬件平臺(tái)之上，采用服務(wù)與算法分離 的方式，服務(wù)軟件主要適配各種硬件平臺(tái)差異，實(shí)現(xiàn)視 頻/圖像分析的通用業(yè)務(wù)/管理功能，算法則采用插件式編 程方式，通過服務(wù)軟件+算法插件的方式，對(duì)外提供統(tǒng)一 服務(wù)接口，實(shí)現(xiàn)算法能力的按需切換與快速落地。 

算法移植快，周期短，擁有豐富的平臺(tái)移植經(jīng)驗(yàn)， 對(duì)移植需求可以做出快速響應(yīng)，并且移植后精度損失 小，效果理想； 

統(tǒng)一AI服務(wù)能力接口開放技術(shù)，支持不同平臺(tái)、 不同算法（包括自研算法、生態(tài)廠商算法)。通過統(tǒng)一 的開放接口，對(duì)外提供算法能力，代替原有服務(wù)器方 案，性能消耗小，成本也大大縮小； 

支持docker方式私有化部署，部署簡單方便，支 持離線對(duì)接，一站式自動(dòng)交付，使算法部署到任務(wù)運(yùn)行 最快僅需0.5小時(shí)； 

多平臺(tái)的算力識(shí)別及適配技術(shù)，可兼容平臺(tái)最多可 達(dá)到7+種：實(shí)現(xiàn)多種硬件平臺(tái)的能力識(shí)別，支持不同場 景不同算法的算力按需分配，實(shí)現(xiàn)算力協(xié)同。 

3　代表性及推廣價(jià)值 

本方案提供了完整的“平臺(tái)+硬件+算法”的自定 義服務(wù)，其中邊緣計(jì)算設(shè)備涵蓋了多家主流的國產(chǎn)邊緣 計(jì)算芯片，算力從2T~38T不等，提供了最小顆粒度的 算力組合。通過AIoT平臺(tái)把這些設(shè)備、算法有效地結(jié) 合起來，實(shí)現(xiàn)了算法快速定義、算法在設(shè)備的快速移 植、持續(xù)迭代更新等問題。基于這樣的模式，可以讓集 成商對(duì)各類細(xì)分場景有快速的響應(yīng)能力，也可實(shí)現(xiàn)算力 設(shè)備的靈活搭配，并提升了項(xiàng)目的落地效率，因而可推 動(dòng)行業(yè)市場往場景化時(shí)代發(fā)展，具備很好的推廣價(jià)值。 

3.1　應(yīng)用案例：某廠區(qū)智慧工廠建設(shè)項(xiàng)目 

3.1.1　項(xiàng)目背景 

為了減少工作流程中的冗余環(huán)節(jié)，減少機(jī)器設(shè)備的 故障，規(guī)范技術(shù)工人操作標(biāo)準(zhǔn)，提高企業(yè)處置生產(chǎn)突發(fā)事 件的應(yīng)急指揮能力，最大限度減少員工人數(shù)需要，提升員 工工作效率，提升企業(yè)產(chǎn)品質(zhì)量，眾多的制造型企業(yè)紛 紛采取了一系列的信息化措施，“智慧工廠”“智慧生 產(chǎn)”“智能制造”等建設(shè)也發(fā)展火熱。借助邊緣智能技術(shù) 提升生產(chǎn)管理水平是智慧生產(chǎn)建設(shè)的重要組成部分，是實(shí) 現(xiàn)智慧工廠生產(chǎn)安全管控智能化工作的重要手段之一。 

3.1.2　總體架構(gòu) 

對(duì)廠區(qū)綜合安防管理系統(tǒng)的建設(shè)，絕不應(yīng)該是對(duì)各 個(gè)子系統(tǒng)進(jìn)行簡單堆砌，而是在滿足各子系統(tǒng)功能的基 礎(chǔ)上，尋求內(nèi)部各子系統(tǒng)之間、與外部其它智能化系統(tǒng) 之間的完美結(jié)合。系統(tǒng)主要依托于企業(yè)綜合管理平臺(tái)， 來實(shí)現(xiàn)對(duì)眾多安防子系統(tǒng)的統(tǒng)一管理和控制，通過企業(yè) 綜合管理平臺(tái)建設(shè)，實(shí)現(xiàn)統(tǒng)一數(shù)據(jù)庫、統(tǒng)一管理界面、 統(tǒng)一授權(quán)、統(tǒng)一權(quán)限卡、統(tǒng)一安防管理業(yè)務(wù)流程等，同 時(shí)考慮將各安防系統(tǒng)資源作為信息化基礎(chǔ)數(shù)據(jù)，滿足部 分生產(chǎn)運(yùn)營管理的業(yè)務(wù)需求，輔助業(yè)務(wù)流程優(yōu)化。 

圖4 AIoT綜合管理系統(tǒng)總體架構(gòu)圖 

AIoT綜合管理系統(tǒng)總體架構(gòu)如圖4所示。

 前端數(shù)據(jù)接入：負(fù)責(zé)前端設(shè)備及第三方系統(tǒng)接入， 實(shí)現(xiàn)數(shù)據(jù)的采集，分為視頻類設(shè)備、平臺(tái)的聯(lián)網(wǎng)共享和 物聯(lián)類聯(lián)網(wǎng)共享；

 數(shù)據(jù)分析及存儲(chǔ)：負(fù)責(zé)智能化數(shù)據(jù)分析（人臉、車 輛、結(jié)構(gòu)化、行為等）和各類數(shù)據(jù)存儲(chǔ)及數(shù)據(jù)融合管控； 

智能化應(yīng)用：實(shí)現(xiàn)各類數(shù)據(jù)融合后提供智能化的應(yīng) 用，為項(xiàng)目管理者提供全方位智慧安防服務(wù)。 

3.1.3　應(yīng)用效果

1、廠區(qū)人車分流管控：為提高廠區(qū)作業(yè)安全性， 防止車輛、人員交叉作業(yè)引發(fā)安全事故，本案例通過AI 技術(shù)規(guī)范廠區(qū)內(nèi)室外人員、車輛安全行走區(qū)域，嚴(yán)格進(jìn) 行廠區(qū)人員通行監(jiān)督，實(shí)現(xiàn)廠區(qū)室外作業(yè)安全的智能化 管控。 

圖5 人車分流應(yīng)用效果示意圖 

2、區(qū)域作業(yè)規(guī)范管控：為提高廠區(qū)作業(yè)安全性， 防止車輛、人員交叉作業(yè)引發(fā)安全事故，本案例通過AI 技術(shù)規(guī)范廠區(qū)室內(nèi)裝卸貨區(qū)域人/車作業(yè)流程，實(shí)現(xiàn)廠 區(qū)室內(nèi)作業(yè)安全的智能化管控。 

圖6 區(qū)域作業(yè)規(guī)范管控效果示意圖 

3、區(qū)域著裝規(guī)范管控：為保障工廠生產(chǎn)產(chǎn)品品質(zhì)， 維持良好的生產(chǎn)車間潔凈度，配合精細(xì)管理的要求；本案 例采用AI技術(shù)針對(duì)工廠不同區(qū)域進(jìn)行著裝規(guī)范智能監(jiān)控 （含頭罩/口罩/工服/工鞋等著裝）。 

圖7 區(qū)域著裝規(guī)范管控效果示意圖 

3.1.4　經(jīng)濟(jì)價(jià)值 

本案例的建設(shè)，改變了工廠原有的線下巡查模式， 大大節(jié)約人力成本、時(shí)間成本，減少重復(fù)工作，提升監(jiān) 管效率；充分利用邊緣智能與視頻監(jiān)控技術(shù)，全面覆蓋 工廠內(nèi)部日常作業(yè)，確保無安全隱患，避免安全事故的 發(fā)生；同時(shí)事前自動(dòng)報(bào)警，對(duì)于杜絕重大安全事故的發(fā) 生發(fā)揮重要作用，并為企業(yè)創(chuàng)造更大的邊際效益。

 · 監(jiān)管模式智能化轉(zhuǎn)型，降低監(jiān)管人力成本 

通過邊緣智能識(shí)別分析，改變原有線下人工巡查的 模式，降低監(jiān)督成本，一旦發(fā)現(xiàn)違規(guī)違法現(xiàn)象立即進(jìn)行 報(bào)警，有效降低廠區(qū)監(jiān)管人力成本投入；

 · 重點(diǎn)區(qū)域全時(shí)段智能監(jiān)管，提高監(jiān)管部門監(jiān)督效能 

通過智能識(shí)別分析的方式，對(duì)重點(diǎn)區(qū)域進(jìn)行7*24 小時(shí)全時(shí)段智能監(jiān)管，大幅提升監(jiān)管效率，解決了當(dāng)前 監(jiān)管人員已無法滿足工廠日趨精細(xì)化管理的需求，增加 了工廠運(yùn)營效益； 

· 變事后追責(zé)為事前預(yù)警，減少工廠損失發(fā)生 

通過識(shí)別一旦發(fā)現(xiàn)疑似不符合規(guī)定、不符合規(guī)定的 操作，實(shí)時(shí)自動(dòng)告警，并且進(jìn)行抓拍截圖錄制視頻，改變 原有“事后處置”的模式，依靠“事前預(yù)警”盡早對(duì)違規(guī) 違法現(xiàn)象進(jìn)行勸阻及處置，減少因事故造成的損失。

 3.1.5　社會(huì)效益 

通過邊緣智能技術(shù)，實(shí)現(xiàn)工廠智能化轉(zhuǎn)型，有助于 推動(dòng)區(qū)域經(jīng)濟(jì)加速發(fā)展。 

在萬物互聯(lián)時(shí)代，本案例旨在構(gòu)建基于邊緣智能應(yīng) 用的智慧工廠AIOT綜合管理平臺(tái)，符合黨的二十大方 針及《智能制造2025》政策發(fā)展的需要，順應(yīng)國際化趨 勢，將智能化技術(shù)與工廠生產(chǎn)工作緊密結(jié)合起來，可作 為安全管理的科技支撐。 

系統(tǒng)打通業(yè)務(wù)系統(tǒng)與上層決策系統(tǒng)的信息通道，解 決了人工處理下工作效率的瓶頸，可全面提升工廠的整 體生產(chǎn)管理水平；系統(tǒng)按需定制、柔性開發(fā)、各功能模 塊采用松耦合方式開發(fā)，可復(fù)制性強(qiáng)，具有良好的經(jīng)濟(jì) 和社會(huì)效益。

摘自《自動(dòng)化博覽》2023年第2期暨《邊緣計(jì)算2023專輯》