您是否見識過奧迪非凡的自動泊車功能?在沒有駕駛員的情況下,轎車能自動找到車位并泊車入位;或者,您是否使用Kinect控制器玩過Xbox 360游戲,或是剛剛咬下一口您從本地水果店購買的鮮香水果。如果是,那么您可以把自己看成是Smarter Vision系統(tǒng)時代到來的見證人。
從最尖端精密的電子系統(tǒng)到普普通通的蘋果,各種形式的產(chǎn)品都無不受到Smarter視頻技術(shù)的影響。雖然當今Smarter Vision的運用已足以讓人稱奇,但專家稱我們其實還什么都沒有看到。有人預(yù)測在10年時間里,從汽車到工廠自動化、醫(yī)療、監(jiān)控、消費類、航空航天和軍用產(chǎn)品等絕大多數(shù)電子系統(tǒng)都將包含功能更豐富、出眾的Smarter Vision技術(shù),極大地豐富人們的生活,乃至挽救生命。
Smarter Vision系統(tǒng)將迅速得到普及,而且隨著它們在未來幾年將變得更加尖端復(fù)雜,我們很可能會乘坐自動駕駛汽車盡情穿梭在高速公路網(wǎng)上。諸如Intuitive Surgical公司令人驚嘆的機器人輔助手術(shù)系統(tǒng)等醫(yī)療設(shè)備將進一步得到發(fā)展,甚至能夠讓外科醫(yī)生遠程執(zhí)行外科手術(shù)。電視和遠程監(jiān)控系統(tǒng)讓人仿佛置身其中,達到前所未有的互操作水平,同時影院、家庭和店鋪屏幕上的內(nèi)容也將迎合每個不同消費者的興趣,乃至情緒。
賽靈思All Programmable Smarter Vision解決方案正在引領(lǐng)這場變革創(chuàng)新。ZynqTM-7000 All Programmable SoC是業(yè)界首款在單個器件上將ARM雙核CortexTM-A9 MPCORETM、可編程邏輯及主要外設(shè)完美結(jié)合在一起的器件。賽靈思以其作為基礎(chǔ),已推出了配套基礎(chǔ)架構(gòu)(工具及SmartCORE IP組合),其將在開發(fā)和加速這些出色的創(chuàng)新產(chǎn)品上市進程中發(fā)揮至關(guān)重要的作用。該輔助基礎(chǔ)架構(gòu)包括VivadoTM HLS(高層次綜合)、最新IP Integrator工具、OpenCV(計算機視覺)庫、SmartCORETM IP和專用開發(fā)套件。
賽靈思企業(yè)戰(zhàn)略與市場營銷高級副總裁Steve Glaser表示:“借助賽靈思All Programmable Smarter Vision解決方案,我們將幫助客戶率先推出新一代Smarter Vision系統(tǒng)。在過去10年中,客戶已充分利用我們的FPGA來為他們系統(tǒng)處理器中那些運行速度不足的功能提速。對于Zynq-7000 All Programmable SoC而言,處理器和FPGA邏輯均位于同一芯片上,這意味著開發(fā)人員現(xiàn)已擁有一款適用于Smarter Vision應(yīng)用的理想的芯片平臺。我們現(xiàn)在又推出了一款由Vivado HLS、最新IP Integrator工具、OpenCV庫、SmartCORE IP和開發(fā)套件組成的穩(wěn)健可靠的開發(fā)環(huán)境,進一步完善了Zynq-7000 All Programmable SoC。借助這些Smarter Vision技術(shù),我們的客戶可以立即啟動他們的新設(shè)計,以更快的速度推出效率和系統(tǒng)性能更高、系統(tǒng)功耗和材料清單成本更低的創(chuàng)新產(chǎn)品,從而在提升盈利能力的同時豐富人們的生活,乃至挽救生命。”
從啞巴攝像機到Smarter Vision
Smarter Vision系統(tǒng)的根源在于嵌入式視覺。若您對嵌入式視覺知之甚少,那么就讓我們看看下面對這種技術(shù)及其演進發(fā)展的介紹。
根據(jù)快速發(fā)展的行業(yè)組織“嵌入式視覺聯(lián)盟”(www.embedded-vision.com/)的定義,嵌入式視覺融合了兩種技術(shù):嵌入式系統(tǒng)(區(qū)別于使用處理器的計算機的任何電子系統(tǒng))和計算機視覺(有時也稱機器視覺)。
嵌入式視覺聯(lián)盟創(chuàng)始人兼咨詢公司BDTI首席執(zhí)行官Jeff Bier表示,嵌入式視覺技術(shù)已經(jīng)給數(shù)個行業(yè)造成顯著的影響,因為該技術(shù)的發(fā)展已遠遠超越了以往的通過電機驅(qū)動實現(xiàn)平移/傾斜/縮放(motorized pan-tilt-zoom)功能的模擬攝像系統(tǒng)時代。Bier表示:“我們已在數(shù)字時代生活了一段時間,看到嵌入式視覺從擅長壓縮、存儲或增強攝像頭拍攝內(nèi)容觀感的早期數(shù)字系統(tǒng)迅速發(fā)展成為如今能知曉拍攝內(nèi)容的Smarter嵌入式視覺系統(tǒng)。”此外,先進的嵌入式視覺系統(tǒng)或Smarter視覺系統(tǒng)不僅能增強和分析圖像,而且還能根據(jù)那些分析結(jié)果觸發(fā)行動。由此,處理量和計算能力以及算法的復(fù)雜性都顯著增大。監(jiān)控市場的快速發(fā)展就是這種顯著演進的最好例證之一。
20年前,監(jiān)控系統(tǒng)廠商競相提供由機械系統(tǒng)強化的最佳透鏡,能夠執(zhí)行可實現(xiàn)更清晰、更寬廣拍攝視野的平移/傾斜/縮放功能。這些系統(tǒng)基本上由模擬攝像機、連接用同軸電纜、模擬監(jiān)控器和安保人員監(jiān)控的視頻錄制裝置組成。這些系統(tǒng)的清晰度、可靠性和有效性由光學組件和透鏡的質(zhì)量以及監(jiān)控攝像頭播放內(nèi)容的安保人員的盡職程度決定。
嵌入式視覺技術(shù)的問世使監(jiān)控設(shè)備公司能夠使用基于數(shù)字技術(shù)的較低成本攝像頭。此類數(shù)字處理能力可為其系統(tǒng)提供卓越的功能,在性能上超越模擬以及基于透鏡的保安系統(tǒng),在價格上則更低廉。
魚眼透鏡和采用各種視覺專用算法的嵌入式處理系統(tǒng)大幅增強了攝像頭生成的畫質(zhì)。這些技術(shù)針對光照條件進行了校正,能夠改善對焦,增強色澤和數(shù)字縮放觀測區(qū)域,另外無需使用機械電機控制來執(zhí)行平移/傾斜/縮放,從而能夠進一步提升系統(tǒng)可靠性。企業(yè)使用數(shù)字信號處理可提供視頻分辨率達到以及超過1080p的監(jiān)控系統(tǒng)。實際上,就無人機(UAV)和軍用衛(wèi)星而言,嵌入式視覺已能夠?qū)崿F(xiàn)前所未有的超高分辨率。若以此分辨率捕獲圖像,就需要處理大量的像素,而增強和操控這些圖像則需要甚至更高的處理能力。
但通過數(shù)字信號處理操縱圖像,增強其清晰度只是開始。憑借先進得多的像素處理功能,監(jiān)控系統(tǒng)制造商開始創(chuàng)建更尖端的嵌入式視覺系統(tǒng),以便能在其數(shù)字系統(tǒng)所采集的高畫質(zhì)圖像上實時執(zhí)行分析功能。視覺系統(tǒng)設(shè)計人員每年都會推出一系列功能更為強大的高級算法,用于創(chuàng)建更為動態(tài)的分析功能。這些嵌入式視覺系統(tǒng)的最早期類型只能檢測特定的色彩、形狀和移動。這項功能迅速地發(fā)展為具有下列功能的算法:能夠檢測跨越攝像頭視野中虛擬柵欄的物體;判斷圖像中的對象是否是一個人;以及,鏈接至數(shù)據(jù)庫后甚至能識別特定的人。
最先進的監(jiān)控系統(tǒng)所提供的分析功能能跟蹤受監(jiān)測的個人穿越安保網(wǎng)絡(luò)的視野范圍,即便在他們離開攝像頭的視野后進入盲點,然后再進入監(jiān)控網(wǎng)絡(luò)的另一部攝像頭的視野后也能追蹤。視覺設(shè)計人員已經(jīng)設(shè)計出某些此類系統(tǒng),用于檢測異常或可疑的移動。賽靈思工業(yè)、科學及醫(yī)療(ISM)事業(yè)部系統(tǒng)架構(gòu)師Mark Timmons表示:“分析功能是當今監(jiān)控市場最大的發(fā)展趨勢。它可以克服人為錯誤,甚至取代細致的人工觀察和決策。可以想象,在火車站和運動賽場等擁擠的環(huán)境中,監(jiān)控的難度極大。所以如果有分析功能可以發(fā)現(xiàn)過度擁擠的危險情況或表現(xiàn)出危險行為或過激動作的個人,就會帶來非常明顯的優(yōu)勢。”
為了進一步增強這種分析功能并提升此類系統(tǒng)的有效性,監(jiān)控及眾多其它使用Smarter Vision技術(shù)的市場越來越多地采用“融合”架構(gòu),將攝像頭和熱成像、雷達、聲納和LIDAR(光/激光探測和測距)等其它感測技術(shù)相結(jié)合。這樣Smarter視覺設(shè)計人員就可進一步增強最終圖像,實現(xiàn)夜視、檢測熱溫/熱能影像或是拾取單憑攝像頭不能采集或無法看到的對象。這項功能能顯著地減少虛假檢測,從而實現(xiàn)更準確的分析。毫無疑問,技術(shù)融合以及之后分析融合技術(shù)采集的數(shù)據(jù)會帶來更大的復(fù)雜性,要求更為強大的分析處理能力。
Timmons提到,這個市場上的另一大趨勢是執(zhí)行所有這些類型的復(fù)雜分析系統(tǒng)都位于監(jiān)控系統(tǒng)網(wǎng)絡(luò)的“邊緣”,即位于每一部攝像頭中,而非由每一部攝像頭將自己的數(shù)據(jù)傳輸給中央大型機系統(tǒng),然后再由大型機根據(jù)多路饋入的數(shù)據(jù)進行更精確的分析。分析功能的本地化為整體安全系統(tǒng)增加了靈活性,使得系統(tǒng)中的每個點都能更加迅速準確地執(zhí)行檢測,因而如果攝像頭能真正發(fā)現(xiàn)切實的威脅,就能更迅速地向操作人員發(fā)出告警。
分析功能本地化意味著每個單元不僅需要更強大的處理功能來強化和分析攝像頭采集的圖像,而且還必須足夠緊湊,能夠集成至高度集成的電子系統(tǒng)中。且由于每個單元都必須能夠可靠地與網(wǎng)絡(luò)的其余部分進行通信,攝像頭還必須集成電子通信功能,進一步增大計算復(fù)雜度。這些監(jiān)控單元逐漸通過無線網(wǎng)絡(luò)連接構(gòu)成更大型監(jiān)控系統(tǒng)的組成部分;而且這些監(jiān)控系統(tǒng)將不斷變成更大規(guī)模的企業(yè)網(wǎng)絡(luò)乃至更大規(guī)模的全球網(wǎng)絡(luò)的組成部分,正如美國軍方的全球信息網(wǎng)格(參見Xcell期刊第69期的封面介紹:http://china.xilinx.com/china/archives/xcell/Xcell69.pdf)。
這類高度復(fù)雜性有望出現(xiàn)在監(jiān)控等領(lǐng)域中,也正應(yīng)用于軍事和防務(wù)市場的各個方面,從步兵的頭盔到與中央司令部聯(lián)網(wǎng)的軍用衛(wèi)星等,無所不包。可能更令人驚嘆的是,Smarter Vision技術(shù)正快速進入其它領(lǐng)域,以提高生活質(zhì)量,確保生命安全。
Smarter Vision 成就完美蘋果
現(xiàn)在以蘋果為例。有沒有想過一個好蘋果是怎么進入您的雜貨店的?賽靈思工業(yè)科學和醫(yī)療業(yè)務(wù)部的架構(gòu)師Giulio Corradi說,今天食品公司正在把最新Smarter Vision系統(tǒng)用于食品檢驗生產(chǎn)線,將壞蘋果從好蘋果中篩選出來。Corradi表示,高速食品檢驗生產(chǎn)線上使用的第一代嵌入式視覺系統(tǒng)通常使用一個或者多個攝像頭來發(fā)現(xiàn)蘋果或者其它農(nóng)產(chǎn)品表面上的瑕疵。如果嵌入式視覺系統(tǒng)發(fā)現(xiàn)有非正常的色澤,該蘋果就會被打上標記/篩選出來進行進一步檢測,或者扔掉。
但是如果在此之前的某個時候水果曾掉落過,但傷痕難以察覺會怎么樣呢?Corradi表示“在某些情況下,掉落造成的傷痕可能難以被攝像頭發(fā)現(xiàn),只能用肉眼查看。傷痕可能實際上位于蘋果的果肉中。所以一些Smarter Vision系統(tǒng)在攝像頭上集成了紅外傳感器。這樣這種更加高級的Smarter Vision系統(tǒng)就可以檢測到蘋果表皮之下的傷痕,觸發(fā)機械分揀機將蘋果推出生產(chǎn)線,以免被包裝發(fā)往雜貨店。”如果沒有Smarter融合視覺系統(tǒng)的幫助,有傷痕的蘋果會通過檢測,而傷痕會在蘋果擺放到雜貨店貨架上時變得明顯,這樣就可能不得不把它扔掉。一個壞蘋果會糟蹋一堆蘋果。
此外,分析功能還可以幫助食品公司判斷有傷痕的蘋果狀態(tài)是否足夠良好,可以轉(zhuǎn)入新的生產(chǎn)線,由另一個Smarter Vision系統(tǒng)判斷它是否適用于其它用途,比如制作蘋果醬、果脯或者如果狀態(tài)太差,用于制作肥料。
Corradi表示,Smarter Vision技術(shù)正在被應(yīng)用于工廠車間,以幫助保護工人。越來越多的工廠今天都已完成自動化,使用機器人輔助技術(shù)或者完全自動化的機器人生產(chǎn)線。Corradi表示,最早的這些自動化工廠中,每部機器人只執(zhí)行生產(chǎn)產(chǎn)品的一小部分任務(wù),然后將其傳送給生產(chǎn)線上的另一部機器人。由于這些機器人完成的是一系列可預(yù)測的工作,它們的活動范圍也可以預(yù)測。因此,為保護在這些機器人生產(chǎn)線附近操作、維護或者工作的工人,許多設(shè)施在機器人周圍建有保護籠。
然而在現(xiàn)代化工廠中,制造商正在越來越多地使用更加靈活的機器人生產(chǎn)線按需生產(chǎn)更多數(shù)量的產(chǎn)品,而且可以重新裝備這些機器人生產(chǎn)線,用于制造未來的產(chǎn)品。為此,工廠為機器人提供更大的泊位,因其移動范圍可能會發(fā)生顯著的變化。對于需要制造不同產(chǎn)品系列的機器人來說,安全籠顯得限制過多(或者過小),無法適應(yīng)機器人的移動范圍。
因此,為了保護工人的安全,同時避免制約自動化工廠生產(chǎn)線的活動范圍,企業(yè)正在使用Smarter Vision技術(shù)創(chuàng)建安全系統(tǒng)。攝像頭和激光會豎立“虛擬柵欄或者屏障”,如果工作人員(和安全監(jiān)測人員)在產(chǎn)品正在生產(chǎn)時過于靠近工廠生產(chǎn)線,會以聲音發(fā)出告警。部分裝置包含多相虛擬屏障系統(tǒng),可以在有人跨越外部屏障時發(fā)出聲響報警,然后在這個人跨越第二道屏障、接近機器人時自動關(guān)閉整條生產(chǎn)線,以避免發(fā)生傷害事故。嵌入式視覺聯(lián)盟的Bier提到,這種類型的虛擬屏障技術(shù)正在越來越多地廣泛應(yīng)用到有人員在具有潛在危險性設(shè)備和化學品周圍工作的其它應(yīng)用中。Bier說:“這對于降低工廠中的事故數(shù)量能起到明顯的作用,不過為什么不能在游樂場、或在我們家中的游泳池周圍、轎車上也安裝虛擬屏障呢?我想我們將很快看到我們?nèi)粘I钪性絹碓蕉嗟奶摂M屏障系統(tǒng)。”
Smarter Vision帶來完美駕駛體驗
為實現(xiàn)更輕松、更安全的駕駛體驗,汽車是另一個充分采用Smarter Vision技術(shù)的市場。賽靈思汽車業(yè)務(wù)部的系統(tǒng)架構(gòu)師Paul Zoratti表示,在汽車市場中,高級駕駛員輔助系統(tǒng)(ADAS)就是關(guān)于使用包括Smarter Vision在內(nèi)的遠程傳感技術(shù),從而在駕駛過程中為駕駛員提供幫助(即讓駕駛員的駕駛水平提高)(參見賽靈思雜志第66期的封面報道,http://china.xilinx.com/publications/archives/xcell/Xcell66.pdf)。
在過去十年中,汽車制造商已經(jīng)開始將一系列Smarter Vision技術(shù)支持的駕駛員輔助功能應(yīng)用到各種高端車型中。每年他們都會在其豪車產(chǎn)品線上推出更強大的駕駛員輔助功能,同時在其運動車型和標準車型產(chǎn)品線上引入越來越多的駕駛員輔助功能。
這些功能包括盲點檢測、變道輔助、行人和標牌檢測等,會在感知到潛在危險情況時向駕駛員發(fā)出警告。汽車制造商最近推出的車型甚至還可提供更高級的自動緊急制動和車道保持系統(tǒng)。它們不僅會監(jiān)測車輛環(huán)境,發(fā)現(xiàn)潛在問題,還會輔助駕駛員采取糾正措施,避免事故發(fā)生或者降低其嚴重性。
Zoratti指出,現(xiàn)在的某些新型轎車裝配有四個攝像頭,分別位于車身兩側(cè)、車前和車尾,為駕駛員提供車輛周圍環(huán)境的連續(xù)360度視角。雖然第一代環(huán)視系統(tǒng)只是使用這些攝像頭為駕駛員提供圖像,而未來的系統(tǒng)會融入更多的駕駛員輔助功能。使用相同的四個攝像頭和圖像處理分析功能,新一代系統(tǒng)可同時生成汽車的鳥瞰圖,還能在遇到行人時警告潛在危險。此外,當汽車以更高速度行駛時,汽車可使用車身側(cè)面和后面的攝像頭,用于盲點檢測、變道輔助和車道偏離警示等功能。在擋風玻璃后增加一個前視攝像頭,可以支持交通標識識別和正向碰撞告警功能。最后,當駕駛員抵達自己的目的地時,可啟動自動停車功能。在這些攝像頭和其它傳感器的共同配合下,系統(tǒng)將幫助汽車半自動地駛?cè)胪\囄弧?br />
Zoratti重點指出,實時完成所有這些工作需要大量的處理功能,這恰好是并行硬件計算的優(yōu)勢所在。這就是為什么許多早期系統(tǒng)將獨立的微處理器和FPGA搭配使用,由FPGA處理大多數(shù)的并行計算,而微處理器則處理串行決策。
與監(jiān)控等需要使用多個攝像頭的其它市場不同,它會給汽車帶來成本壓力,促使分析功能不是在每個攝像頭,而是在中央計算中心中完成。這樣做可以最大限度地降低每部攝像頭傳感器的成本,乃至最終整個系統(tǒng)的成本。但是這也意味著中央單元的處理平臺需要具備極高的性能和帶寬,才能支持同時處理四路、五路乃至六路實時視頻輸入。
Smarter Vision 創(chuàng)造生命奇跡
另一個被Smarter Vision技術(shù)顯著改變的領(lǐng)域是醫(yī)療電子行業(yè)。Smarter Vision技術(shù)在各種醫(yī)療成像技術(shù)中得到廣泛應(yīng)用,包括內(nèi)窺鏡和圖像掃描儀(CT、MRI等)、機器人外科手術(shù)系統(tǒng)(如Intuitive Surgical公司的Da Vinci(達芬奇))等。詳細介紹參見賽靈思中國通訊雜志第42期(http://issuu.com/xilinxdoc/docs/cn_xcell_42)。
在達芬奇眾多值得稱道的嵌入式系統(tǒng)中,最高級的應(yīng)該是3D視覺系統(tǒng),它能夠讓外科醫(yī)生以極高的精度、流暢性和觸覺敏感性操作機器人外科儀器,完成一系列精細而又錯綜復(fù)雜的外科手術(shù)過程。每誕生一代新系統(tǒng),外科醫(yī)生就能夠執(zhí)行更多數(shù)量和種類的外科手術(shù),確保更好的治療效果和更短的恢復(fù)時間。控制和協(xié)調(diào)手術(shù)過程的技術(shù)精密程度令人嘆為觀止,需要高度依賴處理能力和邏輯的完美結(jié)合。因此,每一代新技術(shù)都將從處理器和邏輯的更高集成度中獲益。
Smarter Vision帶來身臨其境的視覺體驗
Smarter Vision在讓我們保持聯(lián)系方面也取得了重大進步。如果您在現(xiàn)代辦公樓工作,您的公司很可能至少有一個裝有高級遠程呈現(xiàn)會議系統(tǒng)的會議室。這不僅便于您與世界各地的參會者對話,而且還能親眼看到他們,就如同在身邊面對面交流一樣。這些視頻會議系統(tǒng)的精密程度在不斷提高,以至于能夠感知在桌邊或者會議中發(fā)言的人是誰,然后自動將鏡頭拉近并對準這個人,用更高畫質(zhì)的逼真視頻顯示。
賽靈思廣播及消費市場營銷總監(jiān)Ben Runyan表示,開發(fā)遠程呈現(xiàn)技術(shù)的企業(yè)正在探尋如何為用戶創(chuàng)造更佳的浸入式體驗。Runyan稱:“這樣做的目的是讓用戶感覺他們同處一間會議室,但實際上他們可能身處地球兩端。要實現(xiàn)這個目的,需要高級的攝像頭和顯示技術(shù),以及高級的圖像處理功能。技術(shù)的不斷進步會帶來更加逼真的體驗,這會讓協(xié)作變得更加簡單,使企業(yè)的工作效率進一步提高,同時減少差旅需求和費用。”
Smarter網(wǎng)絡(luò)
大部分Smarter Vision系統(tǒng)都是局域網(wǎng)的組成部分,同時越來越多的這種系統(tǒng)依次連接到更大型的外部網(wǎng)絡(luò)。例如在汽車應(yīng)用中,嵌入式視覺系統(tǒng)通過CAN總線、LIN和FlexRay等標準協(xié)議進行通信。此外,通用汽車還為客戶提供OnStar無線導航、安全和車輛診斷服務(wù),以便OnStar操作人員能夠接入車輛系統(tǒng),診斷問題。
與此形成鮮明對比的是,工業(yè)制造領(lǐng)域的每家廠商似乎都已開發(fā)出自己的專有協(xié)議。但是在越來越多的行業(yè)中,客戶呼吁制造商提供的系統(tǒng)要能兼容標準因特網(wǎng)協(xié)議網(wǎng)絡(luò)或以太網(wǎng)網(wǎng)絡(luò)。使用通過標準網(wǎng)絡(luò)連接和通信的系統(tǒng),客戶便可更加方便地將新系統(tǒng)集成到自己的企業(yè)中,不必搭配和匹配多家廠商的系統(tǒng),從而獲得更大的定價優(yōu)勢。但是加強網(wǎng)絡(luò)兼容性會使嵌入式視覺設(shè)計進一步復(fù)雜化,因為視覺系統(tǒng)現(xiàn)在必須集成更加復(fù)雜的網(wǎng)絡(luò)技術(shù)、高速I/O,并能在協(xié)議變化或者新協(xié)議出現(xiàn)時更新系統(tǒng)。軟件可編程解決方案往往無法直接滿足這類變化提出的性能要求,迫使客戶必須從其它廠商購買新的系統(tǒng)。因此嵌入式視覺系統(tǒng)必須擁有足夠的I/O靈活性,才能跟上網(wǎng)絡(luò)技術(shù)的快速發(fā)展變化。
賽靈思:為Smarter Vision而全力打造的All-Programmable
要全面快速推進Smarter Vision技術(shù)的發(fā)展,滿足新市場的需求,就必須擁有一款極為靈活的處理平臺、豐富的資源組合以及致力于推進Smarter Vision技術(shù)發(fā)展的可靠的生態(tài)系統(tǒng)。過去10年來,賽靈思器件在幫助有關(guān)公司推進這些視覺系統(tǒng)創(chuàng)新方面一直發(fā)揮著重大作用。今天,賽靈思經(jīng)過長達5年的開發(fā),成功推出了一款完整的解決方案,將力助Smarter Vision應(yīng)用開發(fā)商快速推出新一代創(chuàng)新技術(shù)。
10多年來,嵌入式視覺技術(shù)設(shè)計人員一直充分利用賽靈思FPGA的可編程性、并行計算功能和快速I/O功能,滿足一系列嵌入式視覺系統(tǒng)的需求。過去,設(shè)計人員用FPGA加速系統(tǒng)中可能拖慢主處理器的功能,或者用FPGA來運行僅靠處理器不能執(zhí)行的并行計算任務(wù)。而現(xiàn)在,利用Zynq-7000 All Programmable SoC,嵌入式視覺技術(shù)開發(fā)人員擁有了一款全面可編程的器件,非常適合開發(fā)新一代Smarter Vision應(yīng)用。
賽靈思公司視頻技術(shù)工程設(shè)計總監(jiān)Jose Alvarez指出:“Smarter Vision技術(shù)能在同一開發(fā)板上互聯(lián)傳輸?shù)牟煌幚砥骱虵PGA中實現(xiàn),而Zynq-7000 All Programmable SoC為電子產(chǎn)業(yè)帶來了前所未有的高集成度。現(xiàn)在,我們能通過同一芯片上處理器和邏輯之間3,000個高性能連接以芯片速度而不是板級速度在智能處理器和FPGA邏輯之間交換信息。”
下圖顯示出Zynq-7000 All Programmable SoC在多功能汽車駕駛員輔助系統(tǒng)創(chuàng)建中相對于采用傳統(tǒng)多攝像頭多芯片架構(gòu)的優(yōu)勢。在賽靈思架構(gòu)(見圖中左下方),將一組攝像頭連接到一個Zynq-7000 All Programmable SoC,能支持盲區(qū)檢測、360度環(huán)繞視圖、車道偏移報警和行人檢測等功能捆綁。相反,現(xiàn)有的多功能DA系統(tǒng)需要多個芯片和多個攝像頭,這就會讓集成更復(fù)雜化,對性能和系統(tǒng)功耗造成不利影響,也提高了BOM成本。
一些芯片廠商提供的ASSP將ARM處理器與DSP或GPU搭配一起使用,但這種器件過于僵化,而且針對今天許多Smarter Vision應(yīng)用而言計算性能也不夠高。基于這種器件的解決方案往往需要添加獨立的FPGA來彌補自身的不足。
Zynq-7000 All Programmable SoC相對于以GPU和DSP為中心的SoC而言,其主要優(yōu)勢就是具有的可編程性和高性能。ARM處理系統(tǒng)具有軟件可編程性,F(xiàn)PGA邏輯可通過HDL或C++編程,甚至I/O也是全面可編程的。這樣,客戶就能創(chuàng)建出適合其特定的應(yīng)用極高性能Smarter Vision系統(tǒng),并讓其系統(tǒng)從競爭產(chǎn)品中脫穎而出。
下圖詳細給出了Smarter Vision系統(tǒng)的一般信號流程,從中可以看出Zynq All Programmable SoC相對于基于ARM和DSP以及基于ARM和GPU的ASSP解決方案的優(yōu)勢。
流程中的第一個信號處理模塊(綠色)是連接器件到攝像頭感應(yīng)器的輸入。在Zynq-7000 All Programmable SoC中,開發(fā)人員可讓多種不同I/O信號適應(yīng)于客戶連接的任何攝像頭需要。下一個信號處理模塊執(zhí)行像素級處理或視頻處理工作(具體取決于應(yīng)用是面向圖形處理還是顯示)。再下一個模塊執(zhí)行圖像分析功能,這是一個計算密集型任務(wù),通常需要并行計算,而這則是FPGA最擅長的任務(wù)。接下來3個模塊(紅色)分別代表處理系統(tǒng)獲得分析所得的元數(shù)據(jù)結(jié)果、創(chuàng)建圖形化結(jié)果表達(在圖像步驟顯示),以及對結(jié)果進行編碼用于傳輸。在Zynq-7000 All Programmable SoC中,處理子系統(tǒng)和FPGA邏輯協(xié)同工作。如果需要壓縮,F(xiàn)PGA邏輯會直接采用適當?shù)木幗獯a器。在接下來最后一個信號處理模塊(標為“輸出”)中,Zynq-7000 SoC的可編程I/O可讓開發(fā)人員滿足多種不同通信協(xié)議和視頻傳輸標準的要求,有的是廠商專有標準,有的是特定市場標準,還有的則是業(yè)界標準IP協(xié)議。與此形成對比的是,當開發(fā)人員采用以DSP和GPU為中心的SoC開發(fā)算法時,可能ASSP中的DSP或GPU難以提供所需的性能。為了彌補這種性能不足,開發(fā)人員往往還要在系統(tǒng)中采用獨立的FPGA。
Zynq-7000 All Programmable SoC顯然是開發(fā)Smarter視覺系統(tǒng)的最佳芯片選擇,而賽靈思在該器件開發(fā)的早期階段就認識到,應(yīng)當對編程進行優(yōu)化,特別是對那些比較習慣用C和C++開發(fā)視覺算法的設(shè)計人員來說更應(yīng)該優(yōu)化編程方法。為此,賽靈思于2012年6月向客戶推出了一款最先進的軟件環(huán)境:Vivado設(shè)計套件,其包含有業(yè)界一流的高層次綜合等多項技術(shù)。賽靈思于2011年1月收購AutoESL獲得了這種高層次綜合技術(shù)。Vivado HLS特別適用于嵌入式視覺應(yīng)用。比方說,如果視覺系統(tǒng)開發(fā)人員用Zynq-7000 All Programmable SoC開發(fā)的C或C++語言算法運行速度不夠快,或者給處理系統(tǒng)帶來過重負擔,那么這些開發(fā)人員就能把C算法提交給Vivado HLS,并將這些算法綜合成Verilog或VHDL,然后在器件的FPGA邏輯中運行。這就能將Zynq-7000 All Programmable SoC上的處理子系統(tǒng)解放出來,讓它從事更適合自己的任務(wù),從而加速整體系統(tǒng)性能。賽靈思還推出了OpenCV(CV就是計算機視覺的縮寫)庫,讓進一步完善了Smarter Vision技術(shù)。
OpenCV是一款具有行業(yè)標準、包含OpenCV.org算法的開源庫,能幫助嵌入式視覺開發(fā)人員快速創(chuàng)建視覺系統(tǒng)。全球嵌入式視覺開發(fā)人員積極地為這款開源庫開發(fā)新的算法,目前已經(jīng)包含了2500多款使用C、C++、Java和Python語言編寫的算法。庫中的算法具有各種不同的復(fù)雜程度,有的可執(zhí)行圖形濾波器等簡單功能,有的則能執(zhí)行運動檢測等更高級的分析功能。賽靈思的視頻技術(shù)設(shè)計總監(jiān)Alvarez表示,這些OpenCV算法可用于微處理器和DSP等處理器的實現(xiàn),支持Intel、ARM、Nvidia、MIPS/Imagination Technologies、TI等不同廠商的產(chǎn)品。由于Zynq-7000 All Programmable SoC采用ARM處理系統(tǒng),因此用戶能在Zynq-7000 All Programmable SoC的處理器上實現(xiàn)這些采用C++語言編寫的算法。
Alvarez指出,有了Vivado HLS,用戶可以用C或C++語言編寫這些算法,將函數(shù)調(diào)用從OpenCV改為HLS,并使用Vivado HLS將這些算法綜合或編譯到RTL代碼,從而針對Zynq-7000 All Programmable SoC邏輯部分的實現(xiàn)進行優(yōu)化。Vivado環(huán)境中提供OpenCV,能讓Smarter視覺架構(gòu)設(shè)計人員方便地比較設(shè)計方案中的給定算法到底是在處理器還是Zynq-7000 All Programmable SoC的FPGA邏輯部分運行效率最佳。賽靈思開源庫的推出可為客戶提供一個良好的設(shè)計開端。就Vivado HLS而言,賽靈思已經(jīng)編譯了OpenCV庫中30多種最常用的嵌入式視覺算法。客戶可在系統(tǒng)級快速權(quán)衡處理器與邏輯,而且能立即在Zynq-7000 All Programmable SoC上運行,確保給定應(yīng)用實現(xiàn)最佳的系統(tǒng)效果。
賽靈思及其聯(lián)盟成員還將積極從OpenCV庫持續(xù)進行功能移植,每個季度都將向賽靈思不斷擴展的用戶群提供新的功能。由于開發(fā)人員能在幾乎任何商業(yè)處理器上運行OpenCV庫,因此視覺設(shè)計人員能比較各種芯片器件上運行的不同算法的性能,甚至明確性能基準。賽靈思堅信,廣大客戶必將發(fā)現(xiàn)Zynq All Programmable SoC的明顯優(yōu)勢。事實上,您也可在本演示中見證Zynq-7000 All Programmable SoC和賽靈思Smarter Vision技術(shù)的強大實力。賽靈思杰出工程師Kees Vissers在演示中將介紹如何使用OpenCV算法,并配合使用Vivado HLS快速在Zynq-7000 All Programmable SoC的FPGA邏輯部分實現(xiàn)這些算法,而相對于在ARM A4處理子系統(tǒng)中實現(xiàn)相同功能而言性能可提升50倍到100倍之多。
賽靈思的SMARTCore IP產(chǎn)品系列能充分滿足各種不同細分市場對于高級Smarter Vision系統(tǒng)的必要要求。
作為Smarter Vision計劃的一部分,賽靈思還推出了SmartCORE IP組合,以滿足各種細分市場的Smarter視覺設(shè)計要求,為新一代產(chǎn)品帶來Smarter視覺功能。客戶能通過使用賽靈思新推出的IP Integrator工具在其設(shè)計中快速實現(xiàn)SmartCORE IP組合的內(nèi)核以及OpenCV庫的算法。這款新工具是一種新型即插即用IP環(huán)境,能幫助用戶在原理圖環(huán)境中工作,或者如果需要的話也支持在命令行環(huán)境中工作。
Alvarez指出,自Vivado設(shè)計套件誕生后,賽靈思讓該套件的設(shè)計具有器件意識,這樣就能充分發(fā)揮每款器件的功能。Alvarez稱,有了IP Integrator,Vivado設(shè)計套件不僅具有器件意識,現(xiàn)在還具有目標平臺意識,支持所有Zynq All Programmable SoC和7系列FPGA開發(fā)板以及套件。具有目標平臺意識,就意味著Vivado設(shè)計套件現(xiàn)在能配置和應(yīng)用特定開發(fā)板的設(shè)計規(guī)則檢查,從而確保快速推出切實可行的系統(tǒng)。
舉例來說,當設(shè)計人員選擇賽靈思 Zynq-7000 SoC視頻及成像套件,并在IP Integrator中實例化Zynq-7000 All Programmable SoC處理系統(tǒng)時,Vivado設(shè)計套件則會用正確的外設(shè)、驅(qū)動程序和存儲器映射對處理系統(tǒng)進行預(yù)配置,從而為開發(fā)板提供支持。嵌入式設(shè)計團隊現(xiàn)在能面向雙核ARM處理系統(tǒng)和高性能FPGA邏輯更迅速地識別、重用并集成IP軟/硬核。
用戶可通過一系列對話框指定處理系統(tǒng)及其邏輯之間的接口。IP Integrator隨后自動生成RTL并針對性能或占用面積進行優(yōu)化。接下來用戶能添加自己的定制邏輯,或用Vivado IP目錄完成設(shè)計。
我們非常高興看到賽靈思的客戶迄今為止使用賽靈思FPGA推出了那么多出色的Smarter Vision系統(tǒng)。賽靈思更加期待看到客戶使用Zynq-7000 All Programmable SoC和強大的Smarter Vision環(huán)境推出更出色的產(chǎn)品。鑒于過去大家已經(jīng)取得的出色成績,我們相信未來一定會更加美好!