HiLens是業界首個端云協同多模態AI應用開發框架,以簡潔統一的API降低AI應用開發者的上手難度,在保持高性能的前提下,簡化開發者工作量。HiLens Framework則為開發者提供了一套開發工具,讓開發者不必重復制造輪子,直接調用相關模塊的API,即可規范快速地開發出高性能的端云協同多模態AI技能和應用。
HiLens Framework開源,有力提速端云協同AI部署
現代生活中,很多地方都有AI應用落地的場景和例子。比如在線下零售門店中,可以通過攝像頭精準識別用戶,實現千人千面的個性化定制服務;在無人車比賽中,高速行駛的無人車通過快速識別圖像,實現實時推理,做出準確決策;在家里,具備AI能力的攝像頭,可以實時看護老人、兒童的狀態,一旦發生意外,就能第一時間發出警報;在各行業中通過OCR文字快速智能識別各種文本和票據等。
在這些應用場景中,有些數據敏感且要求實時處理響應,但往往因為網絡不夠穩定,無法上傳到云端處理,因而采用端云協同方式,結合云上高效開發和邊端側的敏捷快速部署,既能保證AI計算的性能,又能兼顧用戶隱私訴求,更加快捷高效。
但如何實現圖像、聲音等數據的端云協同AI計算呢?很多方案都存在AI運算能力不強、難以實現復雜的定制化功能、初學者上手難度太大、部署繁雜等缺點,無法在工業或商業用途中大規模落地應用。
華為云關注到這種用戶需求,在2018年的華為全聯接大會上,推出了業界首個端云協同多模態AI開發應用平臺Huawei HiLens,支持視頻、音頻、圖片、紅外等多模態數據的AI應用開發、AI應用在線部署、海量設備管理等,能夠對接多種端側計算設備,為諸多場景的AI應用提供了更大發揮空間。
Huawei HiLens發布兩年后的今天,華為云宣布開源HiLens Framework,作為HiLens的端云協同多模態AI應用開發框架,簡化了HiLens Kit技能開發者的開發工作,以簡潔統一的API降低AI技能應用開發者的上手難度,在保持高性能的前提下,簡化開發者工作量。10分鐘即刻學會開發技能;性能普遍提升3倍,代碼量減少80%,開發周期縮短70%,開發成本降低90%。
以音頻解碼+片段截取+預處理的代碼撰寫為例,基于TensorFlow/OpenCV 需要100+行,而采用HiLens Framework則只需3行;以模式初始化+推理的代碼撰寫為例,基于TensorFlow/OpenCV 往往需要20+行,而采用HiLens Framework則只需2行。
此次HiLens Framework開源,涉及了音視頻輸入、媒體處理、模型推理、資源管理、日志系統、EI 服務接口、輸出管理等功能模塊,通過HiLens Framework開發的AI應用可移植運行到任何基于Ascend 310設備上,提供常用語言Python和C++接口,符合AI開發者的開發習慣。
HiLens Framework的開源,能夠很好地幫助開發者快速定位AI開發中的問題,進而快速解決問題,實現端云協同AI的快速開發和落地。同時,將吸引更多的外圍設備輸入、輸出,更多的外圍工具集成等,更將匯聚開發者力量,豐富完善HiLens Framework集成能力,擴大HiLens端云協同影響力,同時拓展華為昇騰生態和華為云生態。
10倍提升開發效率,加速AI應用落地
AI應用開發框架HiLens Framework是打通端云協同的重要技術環節,與開發環境HiLens Studio、管理平臺和多模態AI技能市場一起,大大加速了開發者的開發效率,幫助行業快速構建設備端與云上能力高效協同的HiLens智慧解決方案,通過HiLens Kit、Atlas500智能小站、第三方商用攝像頭等端側設備,提供了高效易用、成本低廉的AI應用開發方案,能夠快速部署于商超、園區、家庭、工業等應用場景。
AI落地使用邊緣計算的應用場景時,往往場景數據都存在差異,難以用一個AI模型達到最佳性能。華為云HiLens與邊緣云創新lab技術合作,推出難例上傳與MA Pro HiLens套件結合的增量學習模板,實現了對模型的增量訓練,使得AI模型在具體應用場景中越用越聰明。
例如,某工廠出于安全原因,采用視頻監控智能檢測現場人員安全帽佩戴情況。項目部署方在HiLens技能市場檢索后發現,這一應用場景已有基礎模型,直接購買安裝后先搭建出基礎的技能。然后再通過HiLens Framework的接口將難以識別的部分數據篩選出來,上傳到自己賬戶下的云端存儲,借助ModleArts Pro HiLens套件,在基礎模型上增量訓練,使得模型越用越聰明,最終訓練出符合該工廠環境的模型,實現根據具體應用場景的模型定制化。在這一過程中,該工廠僅用800張安全帽檢測實踐數據,就將模型精度從80%快速提升到90%,漏檢率從25%下降到10%,通過幾次難例上傳與迭代,部署時間從原計劃的3個月縮減到1個月,有效地推進了行業應用落地。
端云協同,拓展新生態
HiLens Framework的開源如水到渠成,不止向開發者提供一個AI應用的高效開發框架,還進一步推動華為云HiLens與華為云ModelArts PRO視覺計算AI平臺的結合,形成一整套的AI模型訓練、應用開發、分發部署的端云協同管理平臺。
當HiLens用戶通過HiLens Framework連接到ModelArts Pro,就進入了一個更加廣闊的AI世界,聯接了從昇騰芯片、MindSpore開發框架,再到華為全棧全場景AI解決方案,以及華為不斷積累的各行業AI經驗。
此次HiLens Framework的開源,如同一條金線,一頭穿起華為云的云端AI能力,另一頭穿起更多AI場景,讓云端協同的邊緣計算更易于部署落地,推動AI更加普惠,在開發者的共同推動下,AI將拓展將到日常生產、生活的方方面面,和每個人都息息相關。
當前,HiLens已擁有80+生態伙伴,助力企業開發者加速商業落地,如上海意賦教育等。已擁有30+高校,助力AI教育和科學研究,如浙江大學、上海交通大學等,歡迎更多開發者加入到HiLens Framework的開源項目中來。