邊緣計(jì)算領(lǐng)域又傳來(lái)喜訊!
以色列-特拉維夫,近日,邊緣人工智能處理器的領(lǐng)先芯片制造商Hailo宣布C輪融資再獲1.2億美元投資。與此同時(shí),Hailo還推出創(chuàng)新型Hailo-10高性能生成式人工智能(GenAI)加速器。這款加速器的問(wèn)世,將開(kāi)創(chuàng)一個(gè)新時(shí)代:用戶無(wú)需注冊(cè)任何基于云端的生成式人工智能服務(wù),便能在本地輕松擁有并運(yùn)行生成式人工智能應(yīng)用,享受更為高效便捷的人工智能體驗(yàn)。
本輪新融資由現(xiàn)有及新投資者共同領(lǐng)投,其中包括Zisapel家族、Gil Agmon、Delek Motors、Alfred Akirov、DCLBA、Vasuki、OurCrowd、Talcar、Comasco以及Poalim Equity等眾多機(jī)構(gòu)與個(gè)人。至此,Hailo的總?cè)谫Y額超過(guò)了3.4億美元。
Hailo由Orr Danon和Avi Baum于2017年共同創(chuàng)立,專注于為邊緣設(shè)備設(shè)計(jì)運(yùn)行AI工作負(fù)載的芯片。該公司表示,其在全球擁有超過(guò)300家客戶,涵蓋個(gè)人計(jì)算、汽車、安全和零售等多個(gè)領(lǐng)域。
Hailo首席執(zhí)行官兼聯(lián)合創(chuàng)始人Orr Danon表示:“新一輪融資的順利完成,不僅為我們提供了重要發(fā)展機(jī)遇,更為公司的長(zhǎng)期穩(wěn)健發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。隨著Hailo-10 生成式人工智能加速器的問(wèn)世,我們成功將傳統(tǒng)與生成式人工智能技術(shù)引入邊緣設(shè)備,這將大大拓展這項(xiàng)前沿技術(shù)的普及范圍和應(yīng)用場(chǎng)景。”他還進(jìn)一步強(qiáng)調(diào):“Hailo-10的設(shè)計(jì)理念是將生成式人工智能融入用戶的日常生活中,擺脫云網(wǎng)絡(luò)的束縛。這將保證靈活性和即時(shí)性,讓用戶充分利用聊天機(jī)器人、智能副駕駛等新興內(nèi)容生成工具,顯著提升工作效率,豐富生活體驗(yàn)?!?/span>
Hailo-10:邊緣生成式人工智能
全新的Hailo-10 生成式人工智能加速器支持一系列廣泛的應(yīng)用,進(jìn)一步鞏固了Hailo在性能成本比和性能功耗比方面的領(lǐng)先地位。借助與Hailo-8 人工智能加速器和Hailo-15 人工智能視覺(jué)處理器相同的綜合軟件套件,Hailo-10能夠輕松實(shí)現(xiàn)人工智能功能在多個(gè)邊緣設(shè)備和平臺(tái)上的無(wú)縫集成,為用戶帶來(lái)更加流暢、高效的智能體驗(yàn)。
在邊緣設(shè)備上啟用生成式人工智能可確保用戶隨時(shí)訪問(wèn)生成式人工智能服務(wù),無(wú)需擔(dān)心網(wǎng)絡(luò)連接限制。同時(shí),它還能有效消除網(wǎng)絡(luò)延遲問(wèn)題。此外,生成式人工智能在邊緣設(shè)備上的運(yùn)行還能更好地保護(hù)用戶隱私,因?yàn)閭€(gè)人信息在處理過(guò)程中始終保持匿名狀態(tài)。最后,減少對(duì)云數(shù)據(jù)中心龐大處理能力的依賴,也有助于提高整體的可持續(xù)性。
Danon先生進(jìn)一步闡述道:“隨著邊緣生成式人工智能技術(shù)的不斷發(fā)展,我們的重點(diǎn)已經(jīng)轉(zhuǎn)向在極低功耗范圍內(nèi)處理大型大語(yǔ)言模型(LLM),基本上可以控制在5瓦以下。”
在當(dāng)下熱門的生成式人工智能平臺(tái)中,Hailo-10展現(xiàn)出了令人矚目的性能。它能夠在功耗低于5W的情況下,以每秒生成10 個(gè)token(TPS)的速度流暢運(yùn)行Llama2-7B模型。同時(shí),在處理Stable Diffusion 2.1模型(該模型可根據(jù)文本提示生成圖像)時(shí),Hailo-10同樣在超低功耗范圍內(nèi)實(shí)現(xiàn)了每張圖像評(píng)級(jí)低于5秒的出色表現(xiàn)。
Hailo-10的性能高達(dá)每秒40萬(wàn)億次(TOPS),這為邊緣人工智能加速器樹(shù)立了新的性能標(biāo)桿。根據(jù)最新公布的基準(zhǔn)測(cè)試數(shù)據(jù),Hailo-10在性能上超越了集成神經(jīng)處理單元(NPU)解決方案,同時(shí)在功耗方面表現(xiàn)更為出色。與Intel的Core Ultra NPU相比,Hailo-10在保持功耗減半的同時(shí),實(shí)現(xiàn)了至少2倍的性能提升。
Hailo-10 生成式人工智能加速器的初步應(yīng)用將瞄準(zhǔn)個(gè)人計(jì)算機(jī)和汽車信息娛樂(lè)系統(tǒng),以取代那些性能不足的上一代CPU。這些老舊CPU無(wú)法支持現(xiàn)在已成為標(biāo)配的聊天機(jī)器人、智能副駕駛、個(gè)人助理以及語(yǔ)音操作系統(tǒng)。Hailo計(jì)劃從2024年第二季度開(kāi)始,向市場(chǎng)提供Hailo-10生成式人工智能加速器的樣品。