《人工智能之不能》，馬兆遠(yuǎn)著，中信出版社2020年3月出版
只有知道了人工智能的“不能”，對人工智能的了解才算全面。科學(xué)不是靜止的結(jié)論，它的結(jié)論是演進變化的；科學(xué)工作者也不是秉持真理的圣徒，他們只是秉持著對宇宙和人的好奇心而探索的人類中的一分子。
知其不能而能，“學(xué)問之道無他，求其放心而已矣”。
會存在一個超級人工智能系統(tǒng)嗎？人工智能會超越人嗎？在《人工智能之不能》中我分享了我的答案和思考。
1936年，圖靈在論文《論可計算函數(shù)和在可判定問題中的應(yīng)用》中寫道：“按照我在本文中的設(shè)定，一個函數(shù)如果是機器可計算的，就是可計算函數(shù)……本文得出跟哥德爾的不完備定理極其一致的結(jié)論，尤其是，希爾伯特的可判定性問題是不可解問題。”
圖靈所指的“機器”就是我們后來說的圖靈機，圖靈這篇著名的論文是對哥德爾不完備定理的詮釋，他在文中指出了哪些問題是圖靈機做不了的，以此來拓展哥德爾的不完備定理證明。今天的人工智能設(shè)備，無非是這樣那樣的圖靈機，沒有例外。
回溯歷史，竟然是人類先發(fā)現(xiàn)了圖靈機做不了的事，而后才發(fā)明了它。但圖靈機是如此的強大和成功，那些“它做不了的事情”很快就被湮沒在故紙堆里。
我覺得我應(yīng)該寫一些文字，向被遺忘的哥德爾等人類歷史上的偉大思考者致敬。和前一本我寫作的《量子大嘮嗑》一樣，我想以此做一些科學(xué)啟蒙的工作。而當(dāng)我們能夠回溯科學(xué)的常識、回溯認(rèn)知的常識時，會發(fā)現(xiàn)可以有更加平和的理解世界的態(tài)度。
近現(xiàn)代科學(xué)從牛頓開始，凡三百余年，大概經(jīng)歷了兩個重要的階段。
科學(xué)的第一個階段，雖然以牛頓力學(xué)為思想有了很多新的結(jié)論和方法，但一定意義上還是舊的神學(xué)思想的延伸：存在一個客觀實在的主體，無非是這個主體從“上帝”換成了“自然”。至今我們依然不知道這是否一定是對的或者是錯的。這一階段，科學(xué)努力地把理性主義貫穿到科學(xué)的整體中去。因此要建立穩(wěn)定的、可模型化的科學(xué)體系。
脫離了神的信仰，并沒有阻止科學(xué)的進步或者人們對真理的信仰，無非是那個絕對真理的主張，可以是上帝，也可以是自然。人們相信有客觀的、不由人所左右的規(guī)律存在于宇宙中。這一點不難理解，既然上帝不是為人類造了宇宙，那么人也沒有理由成為宇宙的中心或者是宇宙中最重要的物種。但人們有種內(nèi)心的信心，或者說信仰，雖然不是天生的宇宙中心，但可以認(rèn)識宇宙。
這自然滋生了人類的信心，人定勝天，認(rèn)識世界是無窮盡的。
如果19世紀(jì)末的科學(xué)家有這樣的信心和勇氣，并不值得驚訝。從牛頓之后的兩百年已經(jīng)取得了從自然到社會的重大進展，人們相信不僅自然可以認(rèn)知，社會也可以，人心也可以。
在這個時候，這些知識也進入了中國，跟中國的傳統(tǒng)文化產(chǎn)生了激烈的斗爭而慢慢進入普通人的生活。科學(xué)也成為一個至高無上的名詞，代表了真理、正義。事實上它變成一個形容詞，等價于正確和不可侵犯，很多與科學(xué)無關(guān)的學(xué)問，也冠以科學(xué)之名并以此為榮。
問題是，一旦標(biāo)榜自己為真理，事實上就成為它致命的弱點。一個反例就讓人們失去對它的信心，也讓本來陳舊的東西、本來該進入歷史塵灰的東西死灰復(fù)燃。20世紀(jì)初，當(dāng)“李約瑟之問”提出時，科學(xué)或者被捧殺，或者被揚棄，艱難地在這個文明古國中開啟啟蒙之路。
但也就在這個時候，科學(xué)迎來了第二次革命，進入第二個階段。這次革命與上一次一樣，似乎開始只是在科學(xué)界，但這一百年來，它的影響已經(jīng)滲透出去，彌散到人類的整個認(rèn)知領(lǐng)域。
然而，由于中國還在糾纏于第一階段的科學(xué)革命和傳統(tǒng)文化的爭執(zhí)中，對第二次革命的科學(xué)浪潮視而不見，而生生錯過了。
但這由不得你的緩慢而停下來等，一場轟轟烈烈的舊科學(xué)的革命在20世紀(jì)二三十年代又開始了。這場革命以愛因斯坦對量子力學(xué)的建立和反對，以哥德爾對經(jīng)典數(shù)學(xué)的擁護和反對為起始點。這兩個本應(yīng)該學(xué)術(shù)觀點對立的人成了莫逆之交，他們也從人類曠古爍今中呈現(xiàn)出來，他們倆自high，根本不在乎別人怎么看他們。
事實上，海森堡不確定性原理和哥德爾的不完備定理，都指向人類認(rèn)知過程中的不確定性。雖然哥德爾本人對此毫不關(guān)心，甚至他受愛因斯坦影響，對量子力學(xué)沒有半點好感。
但只有這一片補上之后，我們才理解了科學(xué)為什么是這個樣子。首先，科學(xué)不代表絕對真理。哥德爾不完備定理證明了任何一個有限的理論體系，都會存在無法被證明的問題，直覺上我們可以認(rèn)知的問題，未必能夠被理性證明或證偽。任何一個可以認(rèn)為是真的判定，都必然有有限的前提，而這些前提無法證明其本身是正確的。
而可能最讓女性讀者開心的是，直覺無法從人類的認(rèn)知中排除出去，甚至是在人類的認(rèn)知中更重要的部分。這一切結(jié)論似乎跟人們從亞里士多德時代努力建立起來的理性主義、客觀唯物主義不同，甚至有些離經(jīng)叛道，但似乎這樣的認(rèn)知才更符合人類認(rèn)識的真實感覺。
是的，對宇宙的認(rèn)知到底是怎樣的過程、宇宙是怎樣的，我們至今沒有一個好的結(jié)論，甚至這個結(jié)論本身就不存在。因為這個結(jié)論也是宇宙的一部分。
我們曾經(jīng)以為哥德爾不完備定理只是描述了一個小問題，但歷史的經(jīng)驗告訴我們，一個偉大的理論的大廈，往往傾覆于一兩個反例。而以哥德爾為精神領(lǐng)袖的圖靈，把這個定理的適用范圍放大了。當(dāng)我們用圖靈機來實現(xiàn)人工智能的任何一個算法的時候，并且圖靈宣稱每一個可描述算法都可以用圖靈機來實現(xiàn)的時候，不完備定理如幽靈般擴展到了每一個可描述的問題背后。可以說，圖靈機的應(yīng)用有多廣泛，哥德爾不完備所涵蓋的范圍就有多廣泛。這一點，如同哥德爾第二不完備定理所講，是無窮盡的。
需要指出的是，現(xiàn)在學(xué)校教授的課程，還停留在第一代所謂經(jīng)典科學(xué)的范疇之內(nèi)，即19世紀(jì)的科學(xué)理論。
這樣的理論與人的認(rèn)知發(fā)生沖突的時候，第一是讓以科學(xué)為新真理代言的人臉上難堪，進而憤怒，認(rèn)為科學(xué)所不能解釋的問題更多，而科學(xué)本身也不可靠。第二是讓本來就沒有了解科學(xué)基本思想的人重新去抱殘守缺，搬出老祖宗，他們覺得還是祖?zhèn)鞯目煽俊?/p>
然而敵人的敵人未必是你的朋友，在20世紀(jì)二三十年代，現(xiàn)代科學(xué)又一次革命了，對這次革命，我們的中學(xué)教育、大學(xué)教育都幾乎不去碰觸、不講，甚至是不知道。
回到人工智能本身，只有知道了人工智能的“不能”，對人工智能的了解才算全面。正如我們知道了理性的不能，對人類通過理性來認(rèn)知世界才更全面。這才是更貼近常識的科學(xué)，它不是靜止的結(jié)論，它的結(jié)論是演進變化的。科學(xué)工作者也不是秉持真理的圣徒，他們只是秉持著對宇宙和人的奧秘的好奇心而探索的人類中的一分子。知其不能而能，“學(xué)問之道無他，求其放心而已矣”。
愛因斯坦評價哥德爾說，“與哥德爾交談，我才知道了數(shù)學(xué)中有跟物理一樣重要的東西”。如果說物理學(xué)是人類探索自然世界的第一道邊界，數(shù)學(xué)便是人類理性工具高度濃縮的精華。這兩者在20世紀(jì)二三十年代的發(fā)展，都告訴我們?nèi)祟悓κ澜缯J(rèn)知的極限。這個極限超越了工具，但也鼓勵人們不再為工具擔(dān)憂。
在《人工智能之不能》中談到了“人識原理”：圖靈機保證了所有我們可認(rèn)識、可描述的問題圖靈機都能做到，而我們不能描述的問題，圖靈機也做不到，但我們不能描述的問題，我們也不懂啊！因此，從理性邏輯角度講，我們不比圖靈機強多少，但它們也不會比我們強。但我們有直覺，至少這一點是不同的，無法用理性邏輯來取代。
當(dāng)然，我們討論的不僅是數(shù)學(xué)哲學(xué)。最近二三十年的物理學(xué)和數(shù)學(xué)進展，同樣告訴人們，更多的問題超越了圖靈機，量子計算和計算復(fù)雜性問題，都超越了這一代圖靈機和它延伸出來的人工智能的能力。我們還遠(yuǎn)遠(yuǎn)不能夠描述人類的直覺來源、感情的產(chǎn)生，好在科學(xué)本身只是日拱一卒的努力，不求包羅萬象的萬能理論，只是“進一寸有一寸的歡喜”地慢慢來，日子久了，定然就有長足的進步了。
《量子大嘮嗑》和《人工智能之不能》這兩本書寫作了五年，這兩本書一本從物理出發(fā)，一本從數(shù)學(xué)出發(fā)，都在闡述什么是現(xiàn)代的科學(xué)認(rèn)知和科學(xué)方法，一定意義上，是胡適那一代人科學(xué)啟蒙的繼續(xù)——我們不僅要用科學(xué)武裝我們的生產(chǎn)力，更要用科學(xué)令我們的頭腦現(xiàn)代化。
科學(xué)不代表靜止的真理，它是我們迄今能夠了解世界的最好的工具。
來源：《中國科學(xué)報》
