金庸武俠小說(shuō)《射雕英雄傳》里，有這樣一段經(jīng)典場(chǎng)景：“老頑童”周伯通在被困桃花島期間，創(chuàng)造了“左右互搏術(shù)”，即用自己的左手跟自己的右手打架，在兩手互搏中提高功力。
如今，這樣的橋段在人工智能領(lǐng)域真實(shí)上演。它，就是深度學(xué)習(xí)。
“左右互搏術(shù)”與深度學(xué)習(xí)中的一種對(duì)抗訓(xùn)練原理相仿，即有兩個(gè)角色——生成器和判別器。生成器類(lèi)似于左手，扮演攻方；判別器類(lèi)似于右手，扮演守方。
判別器的目的是正確區(qū)分真實(shí)數(shù)據(jù)和生成數(shù)據(jù)，從而最大化判別準(zhǔn)確率；生成器則是盡可能逼近真實(shí)數(shù)據(jù)的潛在分布。二者需要不斷提高各自的判別能力和生成能力來(lái)取勝，從而實(shí)現(xiàn)目標(biāo)優(yōu)化。
今天，讓我們打開(kāi)這個(gè)“神秘魔盒”。
深度學(xué)習(xí)的概念，最早是由杰弗里·辛頓在2006年提出的。這是一門(mén)用于學(xué)習(xí)和利用“深度”人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)技術(shù)。作為人工智能領(lǐng)域中最熱的研究方向，深度學(xué)習(xí)迅速受到學(xué)術(shù)界和工業(yè)界的關(guān)注。
目前，深度學(xué)習(xí)已得到廣泛應(yīng)用。如在博弈領(lǐng)域，AlphaGo通過(guò)深度學(xué)習(xí)，以4∶1的比分戰(zhàn)勝韓國(guó)棋手李世石，成為第一個(gè)擊敗人類(lèi)職業(yè)圍棋選手的電腦程序；在醫(yī)學(xué)影像識(shí)別中，以深度學(xué)習(xí)為核心技術(shù)的X光、核磁、CT、超聲等醫(yī)療影像多模態(tài)大數(shù)據(jù)的分析技術(shù)，可提取二維或三維醫(yī)療影像中隱含的疾病特征；在圖像處理中，最成功的領(lǐng)域是計(jì)算機(jī)視覺(jué)，如圖像風(fēng)格遷移、圖像修復(fù)、圖像上色、人臉圖像編輯以及視頻生成等。
一種特殊的機(jī)器學(xué)習(xí)方法
今天的人工智能，其實(shí)是把現(xiàn)實(shí)生活中的問(wèn)題量化成了可計(jì)算的問(wèn)題，然后用計(jì)算機(jī)算出來(lái)。數(shù)學(xué)模型則架起了中間的橋梁。
現(xiàn)實(shí)生活中，很多問(wèn)題都可以通過(guò)建模解決。比如計(jì)算遠(yuǎn)程火炮彈道問(wèn)題，計(jì)算日食、月食出現(xiàn)的時(shí)間和地點(diǎn)等。我們只要把相應(yīng)公式用計(jì)算機(jī)語(yǔ)言寫(xiě)一遍，再代入?yún)?shù)，就能計(jì)算出來(lái)。
然而，更多問(wèn)題的解決方法是不確定的。即使我們找到了相應(yīng)的數(shù)學(xué)模型，也不知道應(yīng)該代入什么參數(shù)。比如語(yǔ)音識(shí)別、人臉識(shí)別和機(jī)器翻譯等。因此，我們需要讓計(jì)算機(jī)通過(guò)自主學(xué)習(xí)，從大量數(shù)據(jù)中得到相應(yīng)參數(shù)。這個(gè)過(guò)程，就是機(jī)器學(xué)習(xí)。
機(jī)器學(xué)習(xí)旨在發(fā)現(xiàn)數(shù)據(jù)存在和利用的模式，并用它們進(jìn)行學(xué)習(xí)及做出預(yù)測(cè)。機(jī)器學(xué)習(xí)的過(guò)程，就是用計(jì)算機(jī)算法不斷地優(yōu)化模型，讓它越來(lái)越接近真實(shí)情況的過(guò)程。它與人類(lèi)學(xué)習(xí)的道理如出一轍。
考察人的學(xué)習(xí)通常方式是考試，如果分?jǐn)?shù)不及格，就需要進(jìn)一步學(xué)習(xí)。機(jī)器學(xué)習(xí)也要這樣來(lái)衡量，它的目標(biāo)用專(zhuān)業(yè)術(shù)語(yǔ)來(lái)說(shuō)，就是“期望值最大化”。
機(jī)器學(xué)習(xí)的效果取決于兩個(gè)方面：一方面是學(xué)習(xí)的深度。機(jī)器學(xué)習(xí)并不能“一口吃成個(gè)胖子”，它的訓(xùn)練算法需要迭代執(zhí)行。這如同人在學(xué)習(xí)時(shí)要通過(guò)復(fù)習(xí)來(lái)“溫故而知新”一樣。機(jī)器學(xué)習(xí)迭代的次數(shù)越多，即學(xué)習(xí)得越深入，得到的數(shù)學(xué)模型效果越好。另一方面是數(shù)據(jù)的質(zhì)與量。正如我們做大量?jī)?yōu)質(zhì)習(xí)題，成績(jī)就會(huì)提高。機(jī)器學(xué)習(xí)也是如此，訓(xùn)練數(shù)據(jù)量越大，學(xué)習(xí)效果就會(huì)越好。
根據(jù)數(shù)學(xué)模型的特點(diǎn)，機(jī)器學(xué)習(xí)有兩種方法：一種是利用已知模型進(jìn)行訓(xùn)練；另一種是在模型未知的情況下，設(shè)計(jì)一些簡(jiǎn)單通用的模型結(jié)構(gòu)，然后使用大量的數(shù)據(jù)進(jìn)行訓(xùn)練，訓(xùn)練成什么樣就是什么樣。這便是我們常聽(tīng)到的人工智能“黑箱”問(wèn)題，即使訓(xùn)練有效，也不清楚里面是什么。
深度學(xué)習(xí)就是后一種機(jī)器學(xué)習(xí)的方法。人工智能涵蓋的領(lǐng)域十分廣泛，深度學(xué)習(xí)只是其中的一個(gè)分支，屬于機(jī)器學(xué)習(xí)的范疇。人工智能需要有“獨(dú)立思考”能力與機(jī)器學(xué)習(xí)技術(shù)的支持，深度學(xué)習(xí)便是幫助機(jī)器實(shí)現(xiàn)“獨(dú)立思考”的一種方式。
深度學(xué)習(xí)迎來(lái)革命性突破
人工神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱(chēng)神經(jīng)網(wǎng)絡(luò)，是一種模仿動(dòng)物中樞神經(jīng)系統(tǒng)結(jié)構(gòu)和功能的數(shù)學(xué)模型，是用大量簡(jiǎn)單處理單元經(jīng)廣泛連接而組成的人工網(wǎng)絡(luò)。它其實(shí)是一個(gè)特殊的分類(lèi)器，用于對(duì)函數(shù)進(jìn)行估計(jì)等。
神經(jīng)網(wǎng)絡(luò)為許多問(wèn)題的研究提供了新思路，特別是迅速發(fā)展的深度學(xué)習(xí)，能發(fā)現(xiàn)高維數(shù)據(jù)中的復(fù)雜結(jié)構(gòu)，取得比傳統(tǒng)機(jī)器學(xué)習(xí)更好的效果。
20世紀(jì)50年代，人類(lèi)第一次設(shè)計(jì)出計(jì)算機(jī)能運(yùn)行的神經(jīng)網(wǎng)絡(luò)算法。此時(shí)的神經(jīng)網(wǎng)絡(luò)，雖然給了人們很多遐想空間，卻解決不了實(shí)際問(wèn)題，因此被打入“冷宮”。
到了20世紀(jì)80年代末期，人們提出反向傳播算法，可讓一個(gè)神經(jīng)網(wǎng)絡(luò)模型從大量樣本中學(xué)習(xí)統(tǒng)計(jì)規(guī)律，從而對(duì)未知事件做出預(yù)測(cè)。隨后，支持向量機(jī)等各種各樣的機(jī)器學(xué)習(xí)方法被相繼提出。不過(guò)，這些模型的結(jié)構(gòu)均為淺層學(xué)習(xí)方法，處理復(fù)雜問(wèn)題的能力受到一定制約。因此，神經(jīng)網(wǎng)絡(luò)再進(jìn)“冷宮”。
2006年，加拿大教授辛頓和他的學(xué)生提出深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的“快速學(xué)習(xí)”算法，使深度學(xué)習(xí)迎來(lái)了革命性突破。深度學(xué)習(xí)通過(guò)學(xué)習(xí)一種深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，展現(xiàn)出了從少數(shù)樣本中集中學(xué)習(xí)數(shù)據(jù)及本質(zhì)特征的強(qiáng)大能力。
從此，神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)了反復(fù)分類(lèi)以及識(shí)別物體的方法，并展現(xiàn)出乎意料的精準(zhǔn)度。
計(jì)算能力成為推動(dòng)深度學(xué)習(xí)的利器
人工神經(jīng)網(wǎng)絡(luò)在被提出的50年間，都沒(méi)能很好地解決智能問(wèn)題。究其原因，除了算法本身不完善外，還在于計(jì)算機(jī)絕對(duì)速度不夠快，而且單位計(jì)算能力的能耗太高，無(wú)法通過(guò)大量服務(wù)器搭建并行計(jì)算系統(tǒng)，來(lái)達(dá)成深度人工神經(jīng)網(wǎng)絡(luò)。
那么，靠什么加以突破？答案就是摩爾定律。
摩爾定律是英特爾聯(lián)合創(chuàng)始人戈登·摩爾在1965年提出的一項(xiàng)觀察結(jié)論，即計(jì)算機(jī)的總體處理能力大約每2年就會(huì)翻一番。經(jīng)歷近50年的歷史檢驗(yàn)，摩爾定律展現(xiàn)出驚人的準(zhǔn)確性。摩爾定律帶來(lái)的結(jié)果是，在過(guò)去的半個(gè)多世紀(jì)里，計(jì)算機(jī)處理器性能增長(zhǎng)了上億倍，耗電量卻降到了百分之一。
從能量角度看，摩爾定律反映出了人類(lèi)在單位能耗下，所能完成信息處理能力的大幅提升。而這正是實(shí)現(xiàn)人工智能的基礎(chǔ)所在。
從某種意義上說(shuō)，不僅是深度學(xué)習(xí)技術(shù)，今天的人工智能都是靠算力成就的。
人工智能的崛起，有3個(gè)技術(shù)要素：一是它解決了可計(jì)算問(wèn)題，即在算法上的突破；二是它積累了大量數(shù)據(jù)，形成了可學(xué)習(xí)的原材料；三是摩爾定律所推測(cè)的，處理能力得到持續(xù)提高。
算力是推動(dòng)深度學(xué)習(xí)的利器。計(jì)算能力越強(qiáng)，同樣時(shí)間內(nèi)積累的經(jīng)驗(yàn)就越多、迭代速度也越快，深度學(xué)習(xí)的性能也就越高。
不斷進(jìn)化的深度學(xué)習(xí)之道
1997年，“深藍(lán)”在國(guó)際象棋比賽中戰(zhàn)勝加里·卡斯帕羅夫；2016年，AlphaGo在圍棋比賽中戰(zhàn)勝李世石。
雖然這兩種人工智能系統(tǒng)都學(xué)會(huì)了下棋，但教授它們的方式以及它們?nèi)绾伪荣?，則大相徑庭。
“深藍(lán)”的核心評(píng)估函數(shù)對(duì)給定盤(pán)面進(jìn)行數(shù)字“排序”，而且函數(shù)是手工設(shè)計(jì)的。這種比賽風(fēng)格，實(shí)際上是一種“蠻力”。“深藍(lán)”將其評(píng)估函數(shù)應(yīng)用到許多備選的未來(lái)狀態(tài)，對(duì)每個(gè)棋手預(yù)先搜索七八步，以2億次/秒的速度進(jìn)行局面評(píng)估。
AlphaGo的學(xué)習(xí)方法則迥然不同。它通過(guò)一種雙管齊下的深度學(xué)習(xí)方法“學(xué)習(xí)”，用“價(jià)值網(wǎng)絡(luò)”評(píng)估局面，用“策略網(wǎng)絡(luò)”選擇走棋。
深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，一部分通過(guò)使用人類(lèi)高手對(duì)弈數(shù)據(jù)集的監(jiān)督學(xué)習(xí)進(jìn)行（總出棋數(shù)約為3000萬(wàn)步），另一部分通過(guò)對(duì)自我對(duì)弈非監(jiān)督強(qiáng)化學(xué)習(xí)進(jìn)行（模擬成千上萬(wàn)場(chǎng)隨機(jī)比賽）。它不使用預(yù)測(cè)搜索，走棋是單個(gè)“圍棋局面”整體評(píng)估的結(jié)果。
2017年5月，在中國(guó)烏鎮(zhèn)圍棋峰會(huì)上，AlphaGo的升級(jí)版AlphaGo Zero，與世界排名第一的圍棋冠軍柯潔對(duì)戰(zhàn)，結(jié)果以3∶0的總比分完勝。
令人震驚的是，AlphaGo Zero一開(kāi)始并沒(méi)接觸過(guò)人類(lèi)棋譜。它使用了新的強(qiáng)化學(xué)習(xí)方法，從單一神經(jīng)網(wǎng)絡(luò)開(kāi)始，通過(guò)神經(jīng)網(wǎng)絡(luò)強(qiáng)大的搜索算法，進(jìn)行自我對(duì)弈訓(xùn)練。隨著自我對(duì)弈次數(shù)的增加，神經(jīng)網(wǎng)絡(luò)逐漸調(diào)整，提升預(yù)測(cè)下一步的能力，最終成為具備超強(qiáng)棋力的“選手”。更為厲害的是，隨著訓(xùn)練的深入，AlphaGo Zero還獨(dú)立發(fā)現(xiàn)了游戲規(guī)則，走出了新策略，為圍棋這項(xiàng)古老游戲帶來(lái)了新見(jiàn)解。
目前，深度學(xué)習(xí)在許多領(lǐng)域取得了技術(shù)性突破，并展示了極佳效果。然而，它仍存在一些局限：理論研究缺乏、無(wú)監(jiān)督學(xué)習(xí)能力弱、缺少邏輯推理和記憶能力等。
深度學(xué)習(xí)對(duì)未來(lái)社會(huì)發(fā)展具有重要意義，需要不斷深入研究，從多方向多角度更全面地開(kāi)發(fā)深度學(xué)習(xí)的潛在價(jià)值。面對(duì)復(fù)雜的戰(zhàn)場(chǎng)，以深度學(xué)習(xí)為代表的人工智能技術(shù)也已逐步滲透到軍事領(lǐng)域，深刻影響著人類(lèi)戰(zhàn)爭(zhēng)。
可以推斷，未來(lái)作為“左右互搏術(shù)”的深度學(xué)習(xí)，必將繼續(xù)升級(jí)演化，開(kāi)啟更高深的境界。
來(lái)源：《解放軍報(bào)》
