近年來,大模型在圖片、音視頻等多模態領域的表現展露出了巨大潛能,算力、數據處理與存儲需求也呈現指數級暴增,讓智能計算體系的結構發生了根本性變化,邊緣計算是伴隨物聯網設備大量出現而誕生的技術領域,其能否有效解決計算結構變化所導致的問題成為業界關注的焦點。近期,特斯聯首席科學家楊旸博士,特斯聯高級副總裁劉斌博士接受采訪,共同探討邊緣側在大模型時代下的發展趨勢。
特斯聯首席科學家楊旸博士
特斯聯首席科學家楊旸博士在接受采訪時表示:“通信網絡有越來越多的數據無法上傳,很多重要的數據也被無效信息研磨,網絡阻塞也導致了越來越長的服務時延以及安全性隱患,因此,需要在本地加一層邊緣計算的節點,保證邊緣有智慧的單元,而無需所有數據都傳到云上處理。”他指出,當前邊緣計算的需求十分旺盛,行業面臨的情況是用戶數量有限,但傳感器數量無限。因此,如何將這些海量數據在本地進行處理,成為了一個亟待解決的問題。
特斯聯高級副總裁劉斌博士也進一步解釋:“通信行業和計算行業融合的時候會遇到各種各樣實際的問題,針對這些問題我們可以分析、建模,做一些共性的研究,并進行結合產業的微調,為終端用戶創造價值。”他強調了邊緣計算在解決實際問題中的重要作用。
在現實場景應用中,楊旸博士表示:“我們在現實場景中遇到的問題并不能完全依賴大模型解決。因此,我們需要在邊緣節點把大模型分拆,將部分大模型的能力部署到小模型或行業模型中。”他認為,這樣一來,就可以在邊緣節點處理本地數據驅動的模型。模型不需要很大,不需要高昂的成本來訓練,只處理相對單一然而對用戶非常重要的數據,這就是大模型在邊緣側的應用。
上海交通大學重慶人工智能研究院AI大模型中心副主任沈國陽博士則從另一個角度闡述了邊緣智能計算在未來的發展機遇:“諸多終端設備都需要邊緣智能計算來實現,比如虛擬現實設備、感知設備、可穿戴設備等等,市場中也會有愈來愈多的感知設備出現。”他認為,算力成本的下降也將加速邊緣側及端側大模型的出現。
最后,中國科學院重慶綠色智能技術研究院副研究員陳琳博士介紹了特斯聯與中科院重慶研究院合作打造邊緣智能計算重慶重點實驗室的機緣:“我們的合作可謂強強聯合。”他表示,特斯聯與中科院重慶研究院的合作聚焦于多個方向:聯合的人才培養、共同解決技術“卡脖子”問題、在具身智能等方向開展聯合研究、技術的產業化落地以及資本合作。