隨著物聯網的發展和互聯設備的不斷普及,開發有競爭力的物聯網解決方案的最大難題之一就是:將 “智能” 引入邊緣設備。
邊緣計算在物聯網應用中至關重要,因為它是本地基礎設施用來加快實時推斷的途徑。邊緣計算能夠給總體系統帶來可靠性與性能的顯著改善。
在邊緣計算日漸成為新一代互聯設備的基礎之際,應注重硬件加速器在決定這類應用的效率方面所發揮的重要作用。硬件組件是核心構建塊,所以在開發邊緣解決方案時應予以極度重視。
FPGA技術多年來的長足發展已經讓FPGA躋身為物聯網邊緣平臺的主流技術。FPGA性能先進,且能以極低時延提供極高的吞吐量,是邊緣應用的理想選擇。
iWave的Zynq UltraScale+ MPSoC FPGA SOM
上圖是 iWave 提供的 Zynq UltraScale+TM MPSoC FPGA SOM。它為方便快捷地實現圖像/語音識別、對象/姿態檢測等功能部署提供多功能硬件加速,同時還提供高度靈活的平臺,幫助開發者持續優化功能、提升競爭優勢。在FPGA中實現神經網絡,提供了使應用適配不斷變化的行業標準和最終用戶需求的靈活性,這又進一步驗證了設計。在此外,iWave還為快速評估AI/ML應用提供綜合全面的Zynq UltraScale+TM MPSoC 開發平臺(如下所示)。
為什么選擇賽靈思?
賽靈思可配置深度學習處理器單元 (DPU) 引擎專為卷積神經網絡開發,可加速AI推斷。
面向機器視覺應用的異構執行環境推斷速度快、精度高。
賽靈思Vitis AI平臺支持多種深度學習框架:Caffe、Tensorflow、Darknet、MXNet。
賽靈思Vitis AI編程模型簡化在Zynq平臺上開發和部署深度學習應用的工作。
針對不同的AI應用,提供可擴展的器件系列。
賽靈思提供獨到的模型優化和模型壓縮工具,使神經網絡模型的復雜度降低5至50倍,將AI推斷性能提升到新高度。
賽靈思DNNDK、Vitis AI Library等AI軟件開發工具為開發工作加速。
賽靈思FPGA平臺為AI邊緣計算解決方案提供訪問USB攝像頭、串行數字接口攝像頭、互聯網協議攝像頭以及以太網的便捷接口。
賽靈思Vitis AI采用iWave提供的 Zynq UltraScale+TM MPSoC SOM實現AI/ML推
該圖顯示了運行在iWave Zynq UltraScale+ MPSoC開發套件上的一些使用賽靈思Vitis AI平臺的AI/ML加速示例。
Zynq UltraScale+ MPSoC SOM 在 ARM+賽靈思FPGA架構中實現MPSoC和FPGA功能的智能混搭。異構ARM多核處理器通過高性能的非實時處理(如系統引導、外圍設備管理、服務器通信等)補充邊緣應用,同時使用Vitis AI模型從FPGA卸載并執行重要的實時任務。
由于支持多種類型的神經網絡,賽靈思Vitis AI平臺處于持續的演進發展中,不斷集成新算法和先進算法,為AI/ML應用提高確定性和推斷速度。iWave能夠根據各種應用需求,為龐大的Vitis AI模型庫提供支持。
工業邊緣應用示例
智能城市:使用FPGA加速和神經網絡的組合來執行實時監控和推理的智能平臺。
ADAS:能夠通過板載AI/ML算法生成準確和及時推理結果的實時計算平臺。
工業自動化:由AI提供支持的智能設備能夠感知、連接和計算海量數據流,并開展預測性維護和生成智能、直觀的決策。
智能醫療:使用AI/ML加速的設備開展實時監控與診斷,完成疾病的早期診斷。
結 論
毋庸諱言,邊緣計算憑借極具競爭力的應用,繼續推動物聯網生態系統的變革。iWave的賽靈思平臺為AI/ML推斷提供高性能硬件加速,以更低成本、更短交付周期加快創新步伐。
來源:邊緣計算產業聯盟