近年來,大模型在圖片、音視頻等多模態(tài)領(lǐng)域的表現(xiàn)展露出了巨大潛能,算力、數(shù)據(jù)處理與存儲(chǔ)需求也呈現(xiàn)指數(shù)級(jí)暴增,讓智能計(jì)算體系的結(jié)構(gòu)發(fā)生了根本性變化,邊緣計(jì)算是伴隨物聯(lián)網(wǎng)設(shè)備大量出現(xiàn)而誕生的技術(shù)領(lǐng)域,其能否有效解決計(jì)算結(jié)構(gòu)變化所導(dǎo)致的問題成為業(yè)界關(guān)注的焦點(diǎn)。近期,特斯聯(lián)首席科學(xué)家楊旸博士,特斯聯(lián)高級(jí)副總裁劉斌博士接受采訪,共同探討邊緣側(cè)在大模型時(shí)代下的發(fā)展趨勢(shì)。
特斯聯(lián)首席科學(xué)家楊旸博士
特斯聯(lián)首席科學(xué)家楊旸博士在接受采訪時(shí)表示:“通信網(wǎng)絡(luò)有越來越多的數(shù)據(jù)無法上傳,很多重要的數(shù)據(jù)也被無效信息研磨,網(wǎng)絡(luò)阻塞也導(dǎo)致了越來越長(zhǎng)的服務(wù)時(shí)延以及安全性隱患,因此,需要在本地加一層邊緣計(jì)算的節(jié)點(diǎn),保證邊緣有智慧的單元,而無需所有數(shù)據(jù)都傳到云上處理?!彼赋觯?dāng)前邊緣計(jì)算的需求十分旺盛,行業(yè)面臨的情況是用戶數(shù)量有限,但傳感器數(shù)量無限。因此,如何將這些海量數(shù)據(jù)在本地進(jìn)行處理,成為了一個(gè)亟待解決的問題。
特斯聯(lián)高級(jí)副總裁劉斌博士也進(jìn)一步解釋:“通信行業(yè)和計(jì)算行業(yè)融合的時(shí)候會(huì)遇到各種各樣實(shí)際的問題,針對(duì)這些問題我們可以分析、建模,做一些共性的研究,并進(jìn)行結(jié)合產(chǎn)業(yè)的微調(diào),為終端用戶創(chuàng)造價(jià)值?!彼麖?qiáng)調(diào)了邊緣計(jì)算在解決實(shí)際問題中的重要作用。
在現(xiàn)實(shí)場(chǎng)景應(yīng)用中,楊旸博士表示:“我們?cè)诂F(xiàn)實(shí)場(chǎng)景中遇到的問題并不能完全依賴大模型解決。因此,我們需要在邊緣節(jié)點(diǎn)把大模型分拆,將部分大模型的能力部署到小模型或行業(yè)模型中?!彼J(rèn)為,這樣一來,就可以在邊緣節(jié)點(diǎn)處理本地?cái)?shù)據(jù)驅(qū)動(dòng)的模型。模型不需要很大,不需要高昂的成本來訓(xùn)練,只處理相對(duì)單一然而對(duì)用戶非常重要的數(shù)據(jù),這就是大模型在邊緣側(cè)的應(yīng)用。
上海交通大學(xué)重慶人工智能研究院AI大模型中心副主任沈國(guó)陽博士則從另一個(gè)角度闡述了邊緣智能計(jì)算在未來的發(fā)展機(jī)遇:“諸多終端設(shè)備都需要邊緣智能計(jì)算來實(shí)現(xiàn),比如虛擬現(xiàn)實(shí)設(shè)備、感知設(shè)備、可穿戴設(shè)備等等,市場(chǎng)中也會(huì)有愈來愈多的感知設(shè)備出現(xiàn)?!彼J(rèn)為,算力成本的下降也將加速邊緣側(cè)及端側(cè)大模型的出現(xiàn)。
最后,中國(guó)科學(xué)院重慶綠色智能技術(shù)研究院副研究員陳琳博士介紹了特斯聯(lián)與中科院重慶研究院合作打造邊緣智能計(jì)算重慶重點(diǎn)實(shí)驗(yàn)室的機(jī)緣:“我們的合作可謂強(qiáng)強(qiáng)聯(lián)合?!彼硎?,特斯聯(lián)與中科院重慶研究院的合作聚焦于多個(gè)方向:聯(lián)合的人才培養(yǎng)、共同解決技術(shù)“卡脖子”問題、在具身智能等方向開展聯(lián)合研究、技術(shù)的產(chǎn)業(yè)化落地以及資本合作。