近日,信息學院楊和林副教授和肖亮教授在智能邊緣計算和無線網絡研究取得重要進展,與新加坡南洋理工大學Kwok-Yan Lam教授、Dusit Niyato教授和Hao Hu博士,新加坡設計大學Zehui Xiong教授, 和普林斯頓大學H. Vincent Poor教授合作,共同完成的科研成果,Lead federated neuromorphic learning for wireless edge artificial intelligence,以廈門大學為第一署名單位發表于在國際期刊《Nature Communications》上。
近年來,隨著移動計算和物聯網(IoT)的快速發展,傳感器、機器人和智能手機等數十億設備連接在一起,產生了大量數據。在這驅動下,邊緣人工智能(AI)這一強大技術融合了邊緣計算和AI,使邊緣網絡的設備能夠本地分析和處理數據,無需將收集的數據傳輸到中心服務器。此技術不僅有助于數據隱私保護,還可以減少數據流量和網絡延遲。此外,在邊緣網絡中,通過深度學習為語音識別、圖像和視頻分類以及目標檢測訓練,已實現高精度檢測性能。盡管擁有這些優點,邊緣計算仍然面臨以下兩個基本挑戰。首先,深度學習等算法本質上依賴于復雜的學習方法,同時需要足夠豐富的訓練數據集。因此,邊緣設備在有限的局部數據集上很難訓練得到可靠的模型。其次,機器學習算法通常需要大量計算和訓練能耗,這阻礙了能量受限的邊緣設備訓練/分析數據。
本文提出了領導式聯邦神經形態學習方案(LFNL),是一種基于SNN的分散式大腦啟發計算方法,使多個邊緣設備無需中心協調器的情況下協作訓練全局神經形態模型。同時,我們提出了一種領導者選舉方案,選擇一個具有高能力(例如計算和通信能力)的設備作為領導者來管理模型聚合。該方法可以有效地加快聯邦學習的收斂速度,抵御模型中毒攻擊。
領導式聯邦神經形態學習系統示意圖
圖1a顯示了人類社交網絡的示意圖。每個人通過五個感覺器官觀察外部環境的模擬刺激,然后使用神經元將刺激轉化為尖峰信號,最后由人腦處理。每個人建立一個相應的知識模型,然后與其他人共享該模型,以創建一個優化的知識模型,以便更好地感知外界環境。受此啟發,邊緣人工智能引入了聯邦神經形態學習系統(圖1b),其中邊緣設備配備了攝像機(視覺)、麥克風(聽覺)、雷達(物體感應)、壓力傳感器(觸摸)和射頻信號檢測器(無線通信)。這些傳感器采用SNN作為神經形態處理器,將檢測到的信息轉換為尖峰信號。
LFNL由一個組中的一個領導者和多個追隨者實現(圖1d),學習模型參數通過分布式網絡共享和交換,每個設備在本地數據上獨立訓練其模型。受仿人學習功能的啟發,LFNL通過使用神經形態學習訓練或評估來自聽覺、視覺和雷達系統的尖峰信號來實現對外界環境的感知(圖1e)。
這項工作不僅推動智能邊緣計算、多模態網絡和無線網絡領域突破性發展的新策略,而且提供了一種技術和應用上可行的類腦神經計算思維方式,這些探索將為多模態網絡、虛擬現實以及元宇宙等的應用發展提供一定的參考意義。
來源:廈門大學