国产欧美日韩精品a在线观看-国产欧美日韩精品一区二区三区-国产欧美日韩精品综合-国产欧美中文字幕-一区二区三区精品国产-一区二区三区精品国产欧美

ACS880-07C
關注中國自動化產(chǎn)業(yè)發(fā)展的先行者!
CAIAC 2025
2024
工業(yè)智能邊緣計算2024年會
2023年工業(yè)安全大會
OICT公益講堂
當前位置:首頁 >> 資訊 >> 行業(yè)資訊

資訊頻道

大數(shù)據(jù)時代的三大挑戰(zhàn)
  • 點擊數(shù):1435     發(fā)布時間:2013-07-24 08:45:00
  • 分享到:
關鍵詞:

    2012年10月29日,《中國云•移動互聯(lián)網(wǎng)創(chuàng)新大獎賽決賽頒獎典禮暨創(chuàng)新創(chuàng)業(yè)論壇》在北航舉行。會上,中國云產(chǎn)業(yè)聯(lián)盟聯(lián)席理事長,中國科學院院士、北航懷進鵬校長做主題報告。他表示在大數(shù)據(jù)時代面臨三大挑戰(zhàn):1.軟件和數(shù)據(jù)處理能力。2.資源和共享管理的挑戰(zhàn)。3.數(shù)據(jù)處理的可信能力。現(xiàn)場速記如下。

   中國科學院院士懷進鵬:尊敬的各位臨時,特別是從美國專程趕來參加我們這次論壇的陸奇先生,親愛的益民老總、李彥宏老總,我今天快點講,把時間留給陸奇先生,因為他晚上還要趕飛機,所以能夠讓他有更多的時間介紹在這個領域激動人心的事件,以及對未來的思考。

   互聯(lián)網(wǎng)技術,我們都知道IT追求的目標,是追求更強更快和更高。所以,從過去微電子技術創(chuàng)造了很多新的機會,我們知道的摩爾定律,傳輸?shù)耐ㄓ嵓夹g,給我們插入優(yōu)秀的管道,計算和存儲能力的不斷增強,使得現(xiàn)在的超級計算機和存儲得以加強,但是現(xiàn)在由于新的發(fā)展形式,以及技術本身的壁壘,完全靠著傳統(tǒng)方式的增長,已經(jīng)出現(xiàn)極大的局限性,最最重要的就是互聯(lián)網(wǎng)是我們一次重大變革的基礎。

   最近也一本書說是第5次科技革命或者第3次工業(yè)革命。無一例外就是把互聯(lián)網(wǎng)應用和社會生活結合起來,成為一個最重要的發(fā)展內容。而從現(xiàn)在的大型企業(yè)和IT廠商的發(fā)展和實際運行的情況,我們已經(jīng)看到數(shù)據(jù)確實成為戰(zhàn)略和經(jīng)濟發(fā)展的一個重要基礎設施。這也得益于我們所談到的對信息技術快速的發(fā)展,而導致我們現(xiàn)在是以數(shù)據(jù)和服務為中心前提下開展新的工作和新的探索。數(shù)據(jù)整個的變化出現(xiàn)了一個巨量的增長。我們看全球數(shù)據(jù)增長的內容,每天現(xiàn)在的大數(shù)據(jù)量,以及現(xiàn)在目前完成的內容來看,90%的數(shù)字內容和十年前、二十年前、六十年前相比,有一個巨大的變化。但回過來,面對這么大的數(shù)據(jù)空間,我們可能帶來的一個新的挑戰(zhàn)就出現(xiàn)了,比如說到2007年的時候,F(xiàn)acebook使用數(shù)據(jù)倉庫存儲15個TB的數(shù)據(jù),但到了2010年,每天是壓縮過的數(shù)據(jù),都不是數(shù)據(jù)倉庫來存放的數(shù)據(jù)就比過去總和多4倍,商業(yè)并行數(shù)據(jù)很少有超過100個節(jié)點以上。現(xiàn)在雅虎的Hadoop集群超過4000個節(jié)點,F(xiàn)acebook倉庫節(jié)點超過2700個。而在大量的數(shù)據(jù)應用當中,還有在科學的私人計算、醫(yī)學的數(shù)據(jù)。也就是說大量的數(shù)據(jù)現(xiàn)在實時性開始影響我們整個的工作,生活,甚至經(jīng)濟。

   所以,有人也提到,從過去資本經(jīng)濟的時代進入數(shù)字經(jīng)濟的時代。特別是我們所看到的虛擬世界、物理世界與人類社會相關聯(lián)的時候,創(chuàng)造出了更多與以前所不一樣的。所以有學者說,18個月翻一番的數(shù)據(jù)量導致存儲和處理能力的提高,開始落后于現(xiàn)有數(shù)據(jù)增長的幅度,導致現(xiàn)在我們知識社會當中面臨的最大的瓶頸。而在這個瓶頸下,過去的數(shù)據(jù),以商業(yè)數(shù)據(jù)為主,是確定了數(shù)據(jù)。而現(xiàn)在的數(shù)據(jù)都是不確定的數(shù)據(jù),還有大量實時內的數(shù)據(jù)。作為數(shù)據(jù)處理的能力,究竟應該在哪里,應該說最近這十年來,大家一直在探索,比如說以科學計算為基礎的網(wǎng)格計算,以邊緣數(shù)據(jù)之間的P2P計算,以及最近這幾年非常熱的智慧地球、智慧城市和物聯(lián)網(wǎng)。

   究竟在最近這幾年已經(jīng)城成為實時性的大規(guī)模的云計算,是否是未來解決海量內容的重要方面,大家仍然在探索,是比較集聚的領域。無論從哪個角度來講,云計算公開處理得問題,對于海量的數(shù)據(jù)如何提高智能的處理能力。但是,面對的同樣技術問題出現(xiàn),第一,數(shù)據(jù)管理能力,數(shù)據(jù)處理能力,高可靠安全服務的能力。正是因為這三個能力的局限性和發(fā)展空間,也為現(xiàn)在的數(shù)據(jù)處理帶來了新的機會,就是數(shù)據(jù)和經(jīng)濟社會密切相連。

   所以,我們以前說,過去科學研究的三種模式,從實驗到理論分析到計算,一直成為我們當前科學研究和重大發(fā)現(xiàn)的基本手段。那么,現(xiàn)在的另一種模式出現(xiàn),就是所謂的Data intensive,已經(jīng)在影響科研和生產(chǎn)當中,有第四種形式出現(xiàn)支持新的科學研究發(fā)展,可能也會為時不晚。作為在應用當中,實際上云計算也好,移動互聯(lián)網(wǎng)也好,更多的期望在互聯(lián)網(wǎng)這個虛擬世界當中,建立一體化的系統(tǒng),構造這樣的云計算或者一個虛擬計算環(huán)境,能夠使得所有的資源和數(shù)據(jù),傳統(tǒng)的數(shù)據(jù),能夠集中被人類共享和創(chuàng)造新的知識,形成一個更有效的一體化的環(huán)境和發(fā)展空間。云計算究竟是什么?現(xiàn)在很多人說它是四維,量大,類型大,價值密度低,不像過去手工業(yè)當中的數(shù)據(jù),價值遠高于現(xiàn)在云計算的價值。

   而這樣一個價值密度低的情況,按常理來講就是創(chuàng)造無窮的價值,這個帶來的挑戰(zhàn)是遠大于對無關數(shù)據(jù)一般性的分析,同時更新速度極快,一個商業(yè)數(shù)據(jù)保留是有時效性的,現(xiàn)在的數(shù)據(jù),我們看到的網(wǎng)頁,看到各種新聞,都在快速重復數(shù)據(jù),人體健康、教育的數(shù)據(jù)在大量的更新,一個時刻的數(shù)據(jù)不足以重要,但是一個長時間的積累和斷面的結合,新的數(shù)據(jù)時空觀出現(xiàn)了,這種價值給我們帶來的創(chuàng)造性,我覺得可能是大數(shù)據(jù)是前所未有的。正是因為這樣的情況,我舉個例子,相當什么情況呢?我以前提到過這個例子,北航有2000人在食堂就餐,突然有20萬人,滿足基本生活保障,還有基本提高,怎么做?多了十倍的人要吃飯,保持生存狀態(tài),最簡單的方式,中國的白菜燉豆腐,怎么燉?煮開水,加豆腐、白菜,最后來做,形成了一個新的福特汽車生產(chǎn)線一樣,一個流程的管理,一個生產(chǎn)線的管理,數(shù)據(jù)生產(chǎn)線在形成。這種新的形成方式開始出現(xiàn)不同的專業(yè)領域,各類的垂直平臺,整合公共處理模式的統(tǒng)一水平的平臺,就在創(chuàng)造。那么這種創(chuàng)造實際上也是云計算的一種模式,更強調的是根據(jù)數(shù)據(jù)中心為基礎的一種新的服務應用模式,建立了開發(fā)者和運營商的一種新的互利共盈的內容。不在于解決過去商業(yè)數(shù)據(jù)和科學數(shù)據(jù)的高性能,而是要保證一個新的性能價格比,不是高質量,而是能處理的了,不是要很精確,但是基本可用。所以,對于價值密度低,但是數(shù)據(jù)量劇增的新的難題,這是我們數(shù)據(jù)進入規(guī)模化的發(fā)展階段,這樣的發(fā)展階段也是我們搞計算機人的夢想,所謂一切都靠計算。我們以前的物理世界通過仿真建立數(shù)據(jù)模型,通過高性能計算機支持發(fā)展,通過智能活動建立我們的裝備,嵌入個系統(tǒng),我們說可穿戴計算機,嵌入系統(tǒng)也好。還有就是我們互聯(lián)網(wǎng)已經(jīng)做到更好的進行通訊的能力。那么,這個思想是圖靈獎得主巴特爾所談到的,根據(jù)他的思路,對于這三個特點的總結。

   究竟過去的商業(yè)計算、科學計算帶來什么內容?科學計算解決圖靈機和算法,奠定計算機的基礎,科學理論。商業(yè)計算是為了實現(xiàn)流程的管理,工作流是其中的一種代表,社會計算中,大數(shù)據(jù)情況下是什么,不太清楚。那個年代的科學當中,使得操作系統(tǒng)的發(fā)展非常壯大,管理底下的資源。到了商業(yè)計算當中,數(shù)據(jù)庫的發(fā)展,而到了大科學數(shù)據(jù)當中,大數(shù)據(jù)量下是什么問題?也還不清楚。

   因此,作為這種社會計算對當前的數(shù)學模型,軟件,系統(tǒng)的能力,都有了新的完全不同的可能變化。所以,我在這里想說一下我的理解。

   第一個大的問題就是軟件和數(shù)據(jù)處理能力。由于軟件的復雜性強和巨大的問題,互聯(lián)網(wǎng)巨大規(guī)模的應用和數(shù)據(jù)的不確定性,我們過去軟件在封閉世界研究的數(shù)理邏輯的研究仍然有效,但是遇到更加開放、動態(tài)的問題。比如說數(shù)據(jù)模型和處理,給另一個海量數(shù)據(jù)做輸入,如何做輸出,并能找到問題的答案。過去的算法就是看它能不能計算,來決定計算機能不能處理。計算好和壞。現(xiàn)在按照傳統(tǒng)計算復雜性,我們看所有的大數(shù)據(jù)都算不了。所以,怎么在有效的時間內找出它的近似算法和最逼近的算法,這是對數(shù)據(jù)新的規(guī)模當中新的科學問題。傳統(tǒng)的商業(yè)數(shù)據(jù)庫為什么做不了?第一,它用授權收費,價格極高,開源數(shù)據(jù)庫的維護將會比買一個授權還要貴。我們看過去管理傳統(tǒng)數(shù)據(jù),一個TB一萬美元,Hadoop系統(tǒng)一個TB500美金,大部分情況下用到什么內容?傳統(tǒng)的數(shù)據(jù)庫就是Scarle up,性能的提高,對CPU、存儲等進行不斷的擴展,這是傳統(tǒng)的并行計算的模型。現(xiàn)在的大數(shù)據(jù)分散在互聯(lián)網(wǎng),分布式的、動態(tài)的增加低成本的計算和服務能力。因此,這樣的方式也是一個新的挑戰(zhàn),同時對于軟件,什么樣的模型能適應它的發(fā)展。我們知道Hadoop,圖形處理,一種基本的編程模式遠遠超越于我們過去的程序設計語言,超越于我們網(wǎng)站的設計。而在新的方式當中,它對于最低的延遲和最簡單的任務操作開始提出新的問題,要求的挑戰(zhàn)出現(xiàn)。同時新的特征出現(xiàn),因為它是分布式劇增節(jié)點的內容,因為它的可擴展性,以提高他的生產(chǎn)效率,吞吐率,通過新的容錯和可靠性的方式維護系統(tǒng),互聯(lián)網(wǎng)的系統(tǒng)永遠沒有短板的原理,每一個節(jié)點都是最高點。因此作為Fault tolerance方式來講,已經(jīng)有新的變化。作為這個領域,我們看到模型到軟件都有變化,同時在數(shù)據(jù)科學,過去以手工分析,以商業(yè)數(shù)據(jù)為基本的方式,在大科學數(shù)據(jù)下,已經(jīng)開始顯現(xiàn)的越來越蒼白,原因就是如果過去數(shù)據(jù)是手工農(nóng)業(yè)社會的話,現(xiàn)在進入工業(yè)化的社會。工業(yè)化社會基本的數(shù)學物理特征就是統(tǒng)計物理學、實驗物理學和我們過去的隨機過程。過去計算機依賴的,以及有限條件下的數(shù)理統(tǒng)計,代數(shù)系統(tǒng)建立新的處理的方式,是變成更重要的一種內容。因此,對于我們處理這類數(shù)據(jù)的工具也發(fā)生了很大的變化。

昨天和陸奇先生,也在討論,現(xiàn)在在很多重要的企業(yè)當中,統(tǒng)計科學、實驗物理學成為大家最重要的手段,新藥的發(fā)現(xiàn),人的習慣,閱讀的分析,商業(yè)的模式,都從這里大量統(tǒng)一分析出現(xiàn)。我以前也提到過,過去對50萬個單詞學習拼寫解答,進行語音、文字或者句子的理解,現(xiàn)在50萬,500萬,500億的句組,再用過去的方式就不適合了,而是大規(guī)模的、新的、工業(yè)化的數(shù)據(jù)為基礎的處理能力。要求我們對新的數(shù)據(jù)科學理論,提出對算法、計算方式,以及新的搜索引擎都有新的挑戰(zhàn)。這對學術界是大的機遇。以前的文件系統(tǒng)、數(shù)據(jù)互聯(lián)網(wǎng)、基于不同角度的搜索,從細節(jié)到整體,從局部到系統(tǒng)的新的方式,都帶來新的機會。這樣的內容還帶來一個問題,雖然密度低、價值低,但是數(shù)據(jù)質量仍然是持續(xù)的問題,怎么解決數(shù)據(jù)質量,新的Qulity,跟過去的數(shù)據(jù)處理都不同。

因此,作為新的大數(shù)據(jù)下,軟件和數(shù)據(jù)處理能力,成為最重要的,也是未來科學研究對于其他學科當中一種發(fā)展的手段,第二個挑戰(zhàn),就是關于資源和共享管理,如此眾多的資源要解決以及不斷支撐新的需求的Scarleout的模式下,怎樣把存儲、數(shù)據(jù)能夠作為公共資源的管理,以解決不同類型中的應用,這里的問題有很多。大家知道,網(wǎng)站的環(huán)境,或者有一些環(huán)境都影響這個系統(tǒng)生存和擴展規(guī)模的能力。

那么,這樣的能力已經(jīng)不僅影響到我們一般的應用,對能源、數(shù)據(jù)的管理,作為價值也是極高的情況,所以它的消耗能源也變成一個重要的問題。那么,這里一個最重要的問題,就是未來的資源管理更向系統(tǒng),或者是否存在單一的垂直管理系統(tǒng),以及所謂的統(tǒng)一的操作系統(tǒng),也變成了現(xiàn)在爭奪的最重要的問題。如何管好數(shù)據(jù)和管好資源,成為重要的內容。這種方式的解決可能又創(chuàng)造互聯(lián)網(wǎng)新的方式,就是數(shù)據(jù)與服務運營商的出現(xiàn),因為用戶是數(shù)據(jù)的創(chuàng)造者,服務軟件提供各類的服務,一切能想象到或者數(shù)字化都可以作為服務提供。所以數(shù)據(jù)與服務運營商將會成為電信運營商的模式,重要而且會快速發(fā)展的內容。那么,這種模式的出現(xiàn),可能會對我們互聯(lián)網(wǎng),移動互聯(lián)網(wǎng)的發(fā)展也會有重要的內容,解決多樣性和發(fā)展處理存儲的問題。

第三個問題,就是數(shù)據(jù)處理的可信能力,解決云端的一體化的安全監(jiān)控,系統(tǒng)的恢復,以及再往后發(fā)展的高可靠性的能力。對于這樣一類問題,應該說,隨著技術的發(fā)展,一個安全的問題,可信的問題,是和重大系統(tǒng)應用是相伴而生的,但是它確實是一個重要的問題。不光是沒有價值的大量數(shù)據(jù)出現(xiàn),而且隱私數(shù)據(jù)也非常重要。因此,在大數(shù)據(jù)時代當中,我覺得隨著數(shù)據(jù)的分布性,異構性和動態(tài)快速變化性,加上個人擁有的質性,可計算的問題,可管理的問題,可信任的問題,共同組成了在大數(shù)據(jù)時代的新的三類和我們需要有新的手段,可能會關注到的三個典型的科學問題。

我理解,軟件發(fā)展這么多年,幾十年,計算機是以數(shù)據(jù)處理為中心的。所有的事情的誕生都是以數(shù)據(jù)處理為核心。但是,進入到今天,已經(jīng)超越我們過去簡單的數(shù)據(jù),如果我們看80年代出現(xiàn)的軟件成為商品,90年代創(chuàng)造出的第二次變革,是簡單的、基本的、重要的信息服務業(yè)。在現(xiàn)在來看,就會進入了一個新的發(fā)展,數(shù)據(jù)創(chuàng)造了價值,而不是一個簡單的應用或者信息的堆積。因此以數(shù)據(jù)為中心下會給我們帶來機會。但是從過去IT發(fā)展來看,雖然應用有一段時間,但是技術的突破和新的應用載體窗口時間并不是很長。因此理論和技術上的創(chuàng)新和持續(xù)的發(fā)展,會給我們帶來機會。但,同時應用模式的創(chuàng)新更重要,特別是IT的創(chuàng)新,實際上在不斷的驗證Case法則,Hadoop就是簡單編程模型,就是保持它的簡潔和最有效,就是我們IT領域。

因此在這個領域當中,年輕的學生,年輕的人,在這個領域,你們的腦子里還沒有被跑馬圈地,還有很大的空間去創(chuàng)造,因此這也是最有機會的發(fā)展內容,謝謝各位! 

熱點新聞

推薦產(chǎn)品

x
  • 在線反饋
1.我有以下需求:



2.詳細的需求:
姓名:
單位:
電話:
郵件:
主站蜘蛛池模板: avav在线看 | 欧美 亚洲 中文字幕 | 日本免费在线视频 | 在线不卡国产 | 久久成年视频 | 日韩免费一区二区三区 | 三区在线视频 | 国产欧美一区二区三区在线 | 亚洲国产精品一区二区九九 | 三级全黄的全黄三级三级播放 | 国产成人免费片在线观看 | 成人欧美视频在线看免费 | 久操视频免费在线观看 | 美女黄网站| 91国内精品久久久久免费影院 | 亚洲精品一 | 国产在线一区二区三区 | 久久精品久久精品国产大片 | 国产成人精品男人的天堂538 | 国产一区二区久久久 | 亚洲一区二区三区高清视频 | 免费一级特黄欧美大片久久网 | 一级一级 a爱片免费视频 | 一级特黄aa大片欧美网站 | 久久影视一区 | 99je全部都是精品视频在线 | 男人把女人桶到喷白浆的视频 | 一级做a爰全过程免费视频毛片 | 国产a久久精品一区二区三区 | 国产亚洲精品久久精品6 | 久久久最新精品 | 好吊色37pao在线观看 | 成年视频国产免费观看 | 欧美一级毛片欧美一级成人毛片 | 外国成人网在线观看免费视频 | www.亚洲免费 | 真实国产精品视频国产网 | 国内精品91久久久久 | 免费中文字幕一级毛片 | 亚洲成人www | 丝袜美腿在线不卡视频播放 |