機器學習處理器是專門為移動和相鄰市場(例如智能相機、AR/VR、無人機、醫療和消費性電子產品等)推出的全新設計,性能為 4.6TOP/s,能效為 3 TOPs/W。計算能力和內存的進一步優化大大提高了它們在不同網絡中的性能。
其架構包括用于執行卷積層的固定功能引擎以及用于執行非卷積層和實現選定原語和算子的可編程層引擎。網絡控制單元管理網絡的整體執行和網絡的遍歷,DMA 負責將數據移入、移出主內存。板載內存可以對重量和特征圖進行中央存儲,減少流入外部存儲器的流量,從而降低功耗。
有了固定功能和可編程引擎,機器學習處理器變得非常強大、高效和靈活,足以應對未來的挑戰,不僅保留了原始性能,還具備多功能性,能夠有效運行各種神經網絡。
為應對多個市場帶來的挑戰,滿足不同的性能需求,從物聯網的每秒幾GOP到服務器的每秒數十 TOP,機器學習處理器采用了全新的可擴展架構。
對于物聯網或嵌入式應用,該架構的性能可降低至約每秒2 GOP,而對于 ADAS、5G或服務器型應用,性能可提高至每秒150 TOP。這些多重配置的效率可達到現有解決方案的數倍。
由于與現有的Arm CPU、GPU和其他IP兼容,且能提供完整的異構系統,該架構還可通過 TensorFlow、TensorFlow Lite、Caffe 和 Caffe 2 等常用的機器學習框架來獲取。
隨著機器學習的工作負載不斷增大,計算需求將呈現出多種形式。Arm 已經開始采用擁有不同性能和效率等級的增強型 CPU 和 GPU,運行多種機器學習用例。推出 Arm 機器學習平臺的目的在于擴大選擇范圍,提供異構環境,滿足每種用例的選擇和靈活性需求,開發出邊緣智能系統。
摘自《自動化博覽》2018年增刊《邊緣計算2018專輯》