9月17日，隨著2018世界人工智能大會開幕，上海正式進(jìn)入“AI時間”。兩天來，來自國內(nèi)外AI領(lǐng)域的與會代表圍繞“人工智能賦能新時代”主題分享各自的見解，匯集成AI浪潮中的“全球智慧”，攜手叩開人工智能的大門。
一名工作人員在2018世界人工智能大會上演示與機器人打乒乓球。新華社發(fā)
人工智能沒有邊界
在人工智能概念誕生60余年后，新一代人工智能早已超越了當(dāng)初天馬行空的幻想，正在深刻改變?nèi)祟惖纳a(chǎn)生活方式，甚至改寫人類文明。
“當(dāng)我看到人工智能的時候，我看見的是美好的未來。”圖靈獎獲得者、中國工程院外籍院士羅杰·瑞迪說，人工智能技術(shù)給處于社會“金字塔”底層的30億人賦能。比如，語音互動的個人助手系統(tǒng)，能幫助世界上很多沒有讀寫能力的文盲、半文盲更好地與外界溝通。他預(yù)測，在未來5到10年內(nèi)，人工智能技術(shù)將打造出“守護(hù)天使”，替人類完成現(xiàn)今無法完成的任務(wù)。比如，及早發(fā)現(xiàn)可能影響人類安全的突發(fā)事件，并發(fā)出警告。到2020年，“守護(hù)天使”能完成超過80%的人類活動，最終，效率會提高10倍。“人工智能不會征服世界，人工智能可以供每個人使用。”
上海交大學(xué)生在展示為視障人士研發(fā)的具有導(dǎo)盲功能的眼鏡控制系統(tǒng)。新華社發(fā)
“并不存在AI這個行業(yè)，只有‘AI+’這個行業(yè)。AI需要與傳統(tǒng)產(chǎn)業(yè)合作，這種關(guān)系是結(jié)合、賦能，而絕不是顛覆。AI的價值是幫助傳統(tǒng)產(chǎn)業(yè)提高生產(chǎn)效率，解放生產(chǎn)力。”商湯科技創(chuàng)始人、香港中文大學(xué)教授湯曉鷗提出“大愛（AI）無疆”概念。在他看來，人工智能與傳統(tǒng)產(chǎn)業(yè)沒有明確的邊界，人工智能的發(fā)展將實現(xiàn)賦能各大不同行業(yè)。
湯曉鷗坦言，我們需要全面了解不同的傳統(tǒng)行業(yè)，和各個企業(yè)建立合作共贏的關(guān)系，同時不斷提升自己，只有公司成長到一定規(guī)模，才能和對手談判、合作。除了賦能百業(yè)，湯曉鷗還指出了“無疆”的另一層含義：人工智能的發(fā)展需要全世界的智慧，全球企業(yè)、機構(gòu)應(yīng)該加強合作，打通AI學(xué)術(shù)研究的國界。
“機器會比人類更加聰明，但機器不可能有價值觀、有情感。我們真正需要擔(dān)心的，不是機器智能會超越人類智慧，而是人類自身的智慧停止增長。”阿里巴巴董事局主席馬云說，人工智能對我們的啟發(fā)在于，未來的制造將邁入新制造時代，那是制造業(yè)和服務(wù)業(yè)完美結(jié)合的時代。未來的制造業(yè)都是服務(wù)業(yè)，大部分將被人工智能取代，但背后的體驗和服務(wù)卻是不能被取代的。
中國工程院院士、國家新一代人工智能戰(zhàn)略咨詢委員會組長潘云鶴指出，當(dāng)前人工智能走向2.0時代，大數(shù)據(jù)智能、群體智能、跨媒體智能、人機協(xié)同智能、自主系統(tǒng)智能等五大領(lǐng)域?qū)⒂瓉砣掳l(fā)展。“以往的人工智能將機器人作為重要發(fā)展方向，可機器人的核心是人工智能，而不是外形是否像人。與其制造模擬人的機器人，不如為機械進(jìn)行智能化升級。”潘云鶴認(rèn)為，人工智能要發(fā)展的是自主智能系統(tǒng)，不是模擬人的行為，而是模擬人的智力。
攜手合作是大勢所趨
人工智能是一個新技術(shù)、新事物，但也應(yīng)當(dāng)是一種基本場景，甚至是一種思維方式。在這個關(guān)乎全人類的時代命題中，各方都在搶占人工智能的制高點。
“人工智能等創(chuàng)新技術(shù)所引領(lǐng)的數(shù)字化轉(zhuǎn)型正在全球掀起新一輪的產(chǎn)業(yè)革命，而中國已經(jīng)成為當(dāng)今世界最具創(chuàng)新活力的市場。”微軟全球執(zhí)行副總裁、微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋說，面對數(shù)字化轉(zhuǎn)型帶來的發(fā)展機遇，上海發(fā)揮自身優(yōu)勢，制定了明確的人工智能發(fā)展規(guī)劃，為技術(shù)創(chuàng)新、人才培養(yǎng)創(chuàng)造了理想的發(fā)展環(huán)境和政策支持，可謂引人注目的人工智能創(chuàng)新的賦能者。
合作共贏是未來人工智能發(fā)展的主題。大會上，20個全球人工智能創(chuàng)新項目簽約落戶上海，均是多方合作項目。如徐匯區(qū)政府、微軟公司和儀電集團合作簽署“微軟上海研究院暨微軟-儀電人工智能創(chuàng)新院”，長寧區(qū)政府和科大訊飛聯(lián)合成立“科大訊飛（上海）人工智能及腦科學(xué)研究院”，楊浦區(qū)政府和百度公司合作簽署“百度（上海）創(chuàng)新中心”等，這些簽約項目遵循上海市AI“人字形”產(chǎn)業(yè)規(guī)劃布局，涉及10個區(qū)，覆蓋全市60%以上區(qū)域。
“上海市政府全力推進(jìn)智能上海行動，為各方創(chuàng)造了巨大合作空間。人工智能是跨國、跨學(xué)科的科學(xué)探索工程，對任何一個企業(yè)、城市和國家來說，不能拒絕人工智能領(lǐng)域的奧林匹克，更不能閉門造車。”騰訊董事會主席兼首席執(zhí)行官馬化騰說，在人工智能領(lǐng)域即便有競爭，也應(yīng)該通過“你追我趕”的互相激勵、協(xié)同創(chuàng)新，共同把人類的認(rèn)知極限推向“更快、更高、更強”，最終的目的是提升人類的生活品質(zhì)。
獨行快，眾行遠(yuǎn)。科大訊飛創(chuàng)始人、董事長劉慶峰也表示，人工智能領(lǐng)域的合作非常重要，既要技術(shù)合作，也要法律、倫理等層面的合作。
“隨著近幾年AI技術(shù)爆發(fā)式的進(jìn)步，算法、算力和數(shù)據(jù)之間的良性循環(huán)，對產(chǎn)業(yè)升級和經(jīng)濟變革的影響越來越突出，并將在未來幾十年中為產(chǎn)業(yè)和經(jīng)濟發(fā)展提供新的動能。”百度公司董事長兼首席執(zhí)行官李彥宏認(rèn)為，對絕大多數(shù)企業(yè)來說，至關(guān)重要的還是如何在現(xiàn)在這個時代趨勢下，率先擁抱AI，盡快使自身AI化，贏在起跑線上，為未來提供發(fā)展的動力。
校企聯(lián)盟培養(yǎng)高端人才
人工智能時代，高端人才的培養(yǎng)至關(guān)重要。在本次大會上，由美國麻省理工學(xué)院、新加坡南洋理工大學(xué)、清華大學(xué)、復(fù)旦大學(xué)等知名高校和科研機構(gòu)共同倡議的“全球高校人工智能學(xué)術(shù)聯(lián)盟”成立，將在學(xué)術(shù)研究、人才培養(yǎng)等領(lǐng)域攜手合作，為人工智能發(fā)展提供人才和智力支撐。
“以人工智能為代表的第四次產(chǎn)業(yè)革命影響巨大，而且這一次產(chǎn)業(yè)革命可能要有很長的周期，不斷滲透到社會各方面，使得社會處于扁平狀態(tài)。”西安交通大學(xué)校長王樹國提出，大學(xué)的優(yōu)勢在于基礎(chǔ)研究和人才培養(yǎng)，建議大學(xué)要主動融入社會，開門辦學(xué)。要主動和企業(yè)合作，開展校企聯(lián)合實驗室，并讓學(xué)生參與其中。
對此，香港中文大學(xué)校長段崇智深有感觸，他們和微軟等企業(yè)合作，建設(shè)了重點實驗室，研發(fā)了一些人工智能技術(shù)。“要把在企業(yè)工作的人才引進(jìn)來做客座教授，刺激學(xué)生思維，同時也為學(xué)生提供了很好的實習(xí)平臺。”段崇智說。新加坡南洋理工大學(xué)副校長林杉也表示，每年合作企業(yè)向?qū)W校提供幾十個項目實習(xí)機會，實現(xiàn)了產(chǎn)學(xué)研的無縫對接。
作為培養(yǎng)人工智能人才的重鎮(zhèn)，多所高校謀劃和布局了人工智能學(xué)科建設(shè)。“人工智能成為第四次產(chǎn)業(yè)革命的驅(qū)動力，第五次產(chǎn)業(yè)革命的‘種子’又會在哪里，這是需要大學(xué)關(guān)注的。”中國工程院院士、上海交通大學(xué)校長林忠欽表示，以高校學(xué)術(shù)聯(lián)盟的形式共同探討人工智能的當(dāng)下與未來，具有重要的戰(zhàn)略眼光與現(xiàn)實意義。
復(fù)旦大學(xué)校長許寧生認(rèn)為，人工智能的推進(jìn)不僅涉及科技，也關(guān)系到倫理、人文等社會科學(xué)，學(xué)校正在布局人工智能多學(xué)科教育。學(xué)校提出“以類腦智能引領(lǐng)人工智能”，將在全球范圍內(nèi)展開相關(guān)合作。
“對大學(xué)來說，要針對人工智能的兩個問題提前布局。”中國科學(xué)技術(shù)大學(xué)常務(wù)副校長潘建偉認(rèn)為，第一是降低能耗，第二是計算能力，量子力學(xué)奠定了現(xiàn)代信息技術(shù)的基礎(chǔ)，中科大正在構(gòu)建國家實驗室，希望從量子計算著手為人工智能做好未來硬件的準(zhǔn)備。
上海科技大學(xué)副校長印杰建議，未來哪些崗位會被替代，哪些不會被替代，這在培養(yǎng)人才時必須考慮進(jìn)去。此外，人們的感情溝通是難以被機器替代的，加強道德和倫理教育至關(guān)重要。
“我們會進(jìn)行競爭，但不會關(guān)上大門，不會閉門造車。”美國麻省理工學(xué)院榮譽校長埃里克·格里姆森建議，在大學(xué)之間以及大學(xué)與企業(yè)之間交換學(xué)生，不同的大學(xué)可以共享數(shù)據(jù)，創(chuàng)造開源的互惠性平臺，把一個開源的算法放在一個公共的地方，就能創(chuàng)造出更多的算法，從而實現(xiàn)多方共享共贏。
（光明日報上海9月18日電）
《光明日報》（ 2018年09月19日 12版）返回光明網(wǎng)首頁
AI+教育，一個需要關(guān)注的德育場
2018-09-19 03:45 來源：光明網(wǎng)-《光明日報》
作者：張竹林（上海市奉賢區(qū)教育學(xué)院副院長）
人工智能正全面賦能各行各業(yè)，教育領(lǐng)域和教育人更應(yīng)以時不我待的態(tài)度迎“風(fēng)”而去，讓人工智能在教育領(lǐng)域落地生根。AI+教育，是教育領(lǐng)域又一個需要關(guān)注的“德育場”。
首先，我們要深刻理解這場新技術(shù)變革盛宴的能量所在，自覺學(xué)習(xí)和傳播新技術(shù)新思想，將其轉(zhuǎn)化為學(xué)校德育思想高地的重要內(nèi)容。作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能正成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動力。對于促進(jìn)人和社會發(fā)展基礎(chǔ)性、先導(dǎo)性的教育領(lǐng)域，德育工作的本質(zhì)就是一項賦能的工作，是將深厚的文化傳統(tǒng)和時代的思想精華傳遞給受教育者，這種賦能是在引領(lǐng)人的價值導(dǎo)向和精神追求。盡管一個是技術(shù)領(lǐng)域，致力于改變生產(chǎn)生活方式；一個是精神領(lǐng)域，專注對人的情感和精神世界引導(dǎo)，但兩者本質(zhì)是相通的。這就需要教育人尤其是德育工作者，主動學(xué)習(xí)，自覺掌握和運用AI理念和方法。同時，深入了解青少年群體對AI的敏感和掌握程度，找到共同語言，建立有效的德育話語體系，這是做好新時代學(xué)校德育的前提和基礎(chǔ)。
其次，從教育教學(xué)范式和流程鍛造上早著手準(zhǔn)備，厚植學(xué)校德育內(nèi)容。任何一種新思維新技術(shù)都要影響甚至主導(dǎo)教育教學(xué)思想的變革。隨著AI的普及應(yīng)用，對于學(xué)校教育而言，教的工具、學(xué)的工具、課的結(jié)構(gòu)等一定會發(fā)生變革。我們要深度思考，AI+教育如何影響青少年學(xué)生的思想和價值觀？如何重構(gòu)我們的教學(xué)方式？這些教育教學(xué)要素的變革，帶來的是參與的主體“人”的變革。我們要從教學(xué)思想和學(xué)習(xí)思想進(jìn)行主動變革，教育和引導(dǎo)學(xué)生不僅掌握“關(guān)于世界的知識”，更要真正掌握“進(jìn)入世界的知識”。
最后，因地制宜讓“AI+教育”資源變?yōu)榈掠Y源，實現(xiàn)學(xué)校德育途徑和方式的變革運用。要讓學(xué)生不光了解AI，還要知道人類的科技發(fā)展歷程，了解中國科技的發(fā)展軌跡，也要清醒地看到當(dāng)下中國科技發(fā)展與世界科技發(fā)達(dá)國家的差距，在自信中激發(fā)動力。2018世界人工智能大會會址——上海徐匯濱江西岸地區(qū)本身就有深刻的歷史人文教育意義。1950年，“人工智能之父”阿蘭·圖靈向全人類首次公開提出“人工智能”概念，巧合的是，同一年上海飛機制造廠在徐匯西岸成立。該廠誕生了新中國首架水上飛機“飛龍一號”。如今，徐匯西岸吸引了眾多互聯(lián)網(wǎng)巨頭企業(yè)入駐，正在布局和打造AI+交通、AI+教育、AI＋健康等多領(lǐng)域應(yīng)用。
人的情感、精神世界的豐富和高尚，是具體的、鮮活的。樹立科學(xué)“三觀”、健全人格養(yǎng)成，是技術(shù)本身無法完成的，這是德育工作的重要內(nèi)容和責(zé)任使命所在，也是學(xué)校德育的立身之本。
《光明日報》（ 2018年09月19日 12版）返回光明網(wǎng)首頁
人工智能安全：挑戰(zhàn)與機遇
2018-09-19 04:00 來源：光明網(wǎng)-《光明日報》
【環(huán)球科技】
作者：魯傳穎（上海國際問題研究院副研究員）
人工智能技術(shù)和應(yīng)用飛速發(fā)展，推動經(jīng)濟社會創(chuàng)新發(fā)展的同時，也在重塑人類安全的未來。作為2018世界人工智能大會的重要組成部分，題為“人工智能安全：挑戰(zhàn)與機遇”的安全高端對話9月18日在上海國際會議中心舉辦。此次對話活動由上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院、中國信息通信研究院安全研究所聯(lián)合承辦，上海社會科學(xué)院互聯(lián)網(wǎng)研究中心等協(xié)辦。
對話圍繞倫理問題、國家安全、網(wǎng)絡(luò)安全三大主題展開，研判人工智能時代的安全挑戰(zhàn)，探索人工智能安全發(fā)展的創(chuàng)新之道，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展，確保人工智能發(fā)展造福人類未來。
本版邀請參與對話的兩位嘉賓撰文，為讀者深度解讀人工智能與人類自身發(fā)展的現(xiàn)實與未來。
光明圖片/視覺中國
一、人工智能技術(shù)迅猛發(fā)展
軍事歷來是推動技術(shù)變革的主要力量之一，特別是在一些戰(zhàn)略性領(lǐng)域，新技術(shù)與軍事變革之間的互動，不僅推動了技術(shù)的發(fā)展，也影響了軍事變革。算法上的突破、數(shù)據(jù)數(shù)量和質(zhì)量的不斷提升以及計算能力的增長為人工智能在軍事領(lǐng)域的應(yīng)用提供了無限的想象空間。
從現(xiàn)有的技術(shù)條件來看，人工智能至少可以在機器人、戰(zhàn)場環(huán)境的分析和目標(biāo)識別、后勤組織計劃、情報分析、信息管理、信息行動等方面在一定程度上提升或改變原有對軍事的認(rèn)知。
人工智能的發(fā)展可以減少軍人的傷亡程度、增強指揮決策、控制戰(zhàn)爭的殺傷范圍方面改變未來的戰(zhàn)爭形態(tài)。
光明圖片/視覺中國
第一，當(dāng)越來越多的無人駕駛飛機、坦克、汽車，以及自主決策武器開始走向戰(zhàn)場，軍人直接暴露在戰(zhàn)場殺傷環(huán)境將會減少，軍人的傷亡率較傳統(tǒng)的戰(zhàn)爭也會下降。這會使得跟傳統(tǒng)軍人形象迥異，一群戴著眼鏡，像在網(wǎng)吧中玩著網(wǎng)絡(luò)游戲的新的職業(yè)軍人和軍事單元出現(xiàn)在戰(zhàn)斗序列中。
第二，人工智能在輔助戰(zhàn)場決策可以發(fā)揮重要作用，包括制定軍事計劃、后勤組織保障、戰(zhàn)場環(huán)境實時信息獲取、分析、目標(biāo)的圖像識別等方面可以大幅度提高戰(zhàn)場的指揮決策能力。
第三，人工智能時代戰(zhàn)爭將更多是特種戰(zhàn)爭，而非全方位的戰(zhàn)爭。人工智能在網(wǎng)絡(luò)戰(zhàn)、信息戰(zhàn)，以及類似的“斬首行動”“定點清除”等特種作戰(zhàn)領(lǐng)域?qū)l(fā)揮重要的作用。這從很大程度上而言這也會改變戰(zhàn)場的形態(tài)，人工智能領(lǐng)域的特種作戰(zhàn)將會先與大規(guī)模沖突的爆發(fā)，改變?nèi)藗儌鹘y(tǒng)上認(rèn)為，戰(zhàn)爭就是工業(yè)化時代的大規(guī)模飛機、坦克、軍艦等武器之間直接對抗的印象。
光明圖片/視覺中國
鑒于人工智能在軍事領(lǐng)域的重要作用，各國的軍隊和政府都高度重視從國防角度來看待人工智能，越來越多的國家開始發(fā)展和使用人工智能武器，制定人工智能國防領(lǐng)域的發(fā)展戰(zhàn)略。
2016年2月，時任美國情報總監(jiān)詹姆斯·克萊伯在參議院武裝力量委員會的聽證會上認(rèn)為，人工智能系統(tǒng)的欺騙性和破壞性難以預(yù)測和理解，將會對國家安全和關(guān)鍵信息基礎(chǔ)設(shè)施帶來巨大風(fēng)險。特朗普政府開始加大對人工智能國家戰(zhàn)略的制定和資源的投入，美國國防部門的國防創(chuàng)新咨詢委員會和國防科學(xué)委員會不遺余力地推動美國軍方向人工智能轉(zhuǎn)型，并且成立了國防部聯(lián)合人工智能中心；近期，美國國防高級研究計劃局（DARPA）作為美軍重要的技術(shù)創(chuàng)新部門宣布對人工智能的投資增加20億美元，用以布局下一代人工智能。
俄羅斯也高度重視人工智能在國防領(lǐng)域的發(fā)展。俄羅斯國防力量積極的開發(fā)人工智能武器，包括超級坦克、無人蜂群、無人導(dǎo)航水下航行器等，根據(jù)媒體報道，俄羅斯已經(jīng)開始在敘利亞戰(zhàn)場中使用基于人工智能的武器系統(tǒng)。在美俄之外，包括中國、英國、澳大利亞、韓國、印度等越來越多的國家開始重視人工智能在軍事領(lǐng)域的發(fā)展和應(yīng)用。
二、安全領(lǐng)域挑戰(zhàn)不容小覷
人工智能擁有巨大潛能，但事情往往具有兩面性，為了獲取戰(zhàn)略競爭優(yōu)勢，各國人工智能在國防領(lǐng)域的競爭，也帶來了安全方面的風(fēng)險——包括為了獲取競爭優(yōu)勢而忽視人工智能的倫理問題、人工智能技術(shù)擴散，以及過度強調(diào)人工智能的國家安全屬性對正常的技術(shù)發(fā)展和商業(yè)所帶來的威脅挑戰(zhàn)。
首先，致命性自主武器的倫理問題。致命性系統(tǒng)是一種直接或間接地對人類造成傷害或死亡的系統(tǒng)。現(xiàn)有系統(tǒng)如裝備了武器的無人機，就在某種程度上將自動化與致命性結(jié)合起來，但是這一系統(tǒng)需要人類的參與。完全自主的致命性自主武器系統(tǒng)還需要能夠識別和選擇目標(biāo)，確定擬對目標(biāo)施加的武力級別，并在特定范圍的時間和空間內(nèi)對目標(biāo)實施規(guī)定的武力。半自主、全自主系統(tǒng)包括殺傷人員地雷、反艦雷達(dá)、各種精確制導(dǎo)導(dǎo)彈、魚雷、巡航導(dǎo)彈、反衛(wèi)星武器、空中和海上無人機、無人機群以及網(wǎng)絡(luò)蠕蟲。從不含情報的地雷到精確制導(dǎo)導(dǎo)彈以及依據(jù)地形的巡航導(dǎo)彈，這些系統(tǒng)中的情報數(shù)量差異巨大。
國際社會存在著很大的反對發(fā)展致命性自主武器的聲音。如此眾多的自主武器帶來的問題是機器是否有權(quán)力去自主決定殺傷目標(biāo)，以及由于算法黑箱或者自主武器失控而導(dǎo)致的誤殺和誤傷成為致命性自主武器發(fā)展必須要面臨的倫理問題。雖然戰(zhàn)爭和傷亡是需要極力去避免的，但是由機器來決定傷亡則更加難以接受。不僅如此，人工智能的應(yīng)用會在一定程度上降低戰(zhàn)爭的門檻，這會鼓勵減少自我約束，采取進(jìn)攻性的行動來達(dá)到相應(yīng)的目的，但同時也會對國際安全形成新的不穩(wěn)定因素。
其次，作為人工智能發(fā)展核心的算法和數(shù)據(jù)都存在著潛在的安全問題，這會導(dǎo)致人工智能決策的風(fēng)險。從編程的角度來看，任何的代碼都是由人編寫，因此無法確保程序完全安全、可靠、可控、可信。從數(shù)據(jù)角度來看，人工智能依賴大數(shù)據(jù)，同時數(shù)據(jù)的質(zhì)量也會影響算法的判斷。軍事數(shù)據(jù)質(zhì)量獲取、加工、存儲和使用等環(huán)節(jié)都存在著一定的數(shù)據(jù)質(zhì)量和安全風(fēng)險，從而增加了軍事領(lǐng)域使用人工智能的安全風(fēng)險。
再次，人工智能技術(shù)擴散給全球安全帶來的威脅。伴隨著人工智能武器的開發(fā)，國際社會面臨的另一大難題就是反擴散問題，恐怖主義組織以及不負(fù)責(zé)任的國家獲取人工智能武器，并威脅國際安全和平。人工智能從某種意義上而言，也是一種程序和軟件，因此，它面臨的擴散風(fēng)險要遠(yuǎn)遠(yuǎn)大于常規(guī)武器。類似于美國國家安全局的網(wǎng)絡(luò)武器庫被黑客攻擊，并且在暗網(wǎng)交易，最后被黑客開發(fā)為勒索病毒的案例，也有可能在人工智能武器領(lǐng)域重現(xiàn)。
最后，人工智能的軍備競賽會對技術(shù)邏輯和商業(yè)邏輯產(chǎn)生破壞。人工智能具有軍民兩用性質(zhì)，其發(fā)展最初的目的是為了發(fā)展經(jīng)濟，增加社會福利。過度的強調(diào)軍事用途會對人工智能的全球研發(fā)體系和產(chǎn)業(yè)鏈造成嚴(yán)重威脅。近期，美國政府對《外國投資審查法案》進(jìn)行修訂，其中重點就是要阻止其他國家對美國人工智能初創(chuàng)企業(yè)的并購。法國政府也采取了相應(yīng)做法提高外國企業(yè)對法國人工智能技術(shù)、人才的并購門檻。再加上，出口管制和人才交流限制。人工智能技術(shù)尚未發(fā)展成熟，各種鴻溝已經(jīng)在各國之間開始構(gòu)筑，會嚴(yán)重影響正常的技術(shù)研發(fā)，并且破壞全球化的商業(yè)邏輯。
三、治理機制構(gòu)建刻不容緩
人工智能在軍事領(lǐng)域的發(fā)展和應(yīng)用已經(jīng)成為很多國家的國家戰(zhàn)略，相應(yīng)的治理工作應(yīng)當(dāng)在現(xiàn)有的國際安全架構(gòu)開展。今年9月在日內(nèi)瓦召開的聯(lián)合國常規(guī)武器公約的討論中，各方并未就制定禁止人工智能驅(qū)動的致命性完全自主武器的條約達(dá)成共識。全球約有共26個國家支持全面禁止人工智能武器，而絕大多數(shù)國家還在觀望。在規(guī)則不確定和大國戰(zhàn)略競爭的背景下，人工智能在軍事領(lǐng)域發(fā)展面臨的風(fēng)險和威脅在不斷增加。加強人工智能的國際治理工作，降低軍備競賽風(fēng)險則是當(dāng)務(wù)之急。
經(jīng)過2014年和2015年的兩次非正式會議后，在2016年12月16日關(guān)于特定常規(guī)武器公約的聯(lián)合國會議上成立了致命性自主武器系統(tǒng)（LAWS）政府專家組（GGE）。該小組的任務(wù)是研究致命性自主武器領(lǐng)域的新興技術(shù)，評估其對國際和平與安全的影響，并為其國際治理提出建議。
人工智能引發(fā)的安全問題是專家組的一大重要分歧，技術(shù)強國與弱國之間存在截然不同的觀點。技術(shù)弱國認(rèn)為應(yīng)當(dāng)完全禁止致命性自主武器的開發(fā)使用，技術(shù)大國則持相反意見，認(rèn)為開發(fā)致命性自主武器可以降低人員損傷，有利于打擊恐怖主義和維護(hù)國家安全，并且很多系統(tǒng)已經(jīng)在戰(zhàn)場上進(jìn)入實戰(zhàn)。
軍事是推動技術(shù)進(jìn)步的重要因素，互聯(lián)網(wǎng)就是由美國軍方所發(fā)明，人工智能的技術(shù)發(fā)展背后也有軍事因素的強力推動。但是，人工智能的科技競賽也非技術(shù)之福，特別是致命性自主武器的擴散會造成更為嚴(yán)重的后果。因此，從聯(lián)合國層面制定相應(yīng)的規(guī)范，并且促成大國之間在發(fā)展致命性自主武器上達(dá)成一定的軍控條約是當(dāng)務(wù)之急。
聯(lián)合國政府專家組應(yīng)制定致命性自主武器系統(tǒng)和人工智能軍事應(yīng)用的目標(biāo)。其中，最重要的一個目標(biāo)是制定相應(yīng)的國際法，在國際法不明確的情況下，各國應(yīng)克制在軍事領(lǐng)域使用人工智能武器。聯(lián)合國政府專家組也應(yīng)考慮對國際法此前未曾預(yù)見的情況追加法律限制，并以道德或倫理為由盡量減少對人和平民的傷害。更進(jìn)一步的目標(biāo)包括管理以下情況的操作風(fēng)險，包括降低使用武力門檻、意外導(dǎo)致不應(yīng)有的傷害、造成意外的升級螺旋式增長以及產(chǎn)生軍備競賽和擴散。
當(dāng)然，從聯(lián)合國角度來達(dá)成一項談判可能需要十年甚至更長的時間，鑒于越來越多的風(fēng)險，大國之間應(yīng)當(dāng)及早就人工智能在軍事領(lǐng)域應(yīng)用可能帶來的潛在風(fēng)險開展對話，及早啟動相應(yīng)的軍控進(jìn)程。短期內(nèi)促成技術(shù)強國在謀求戰(zhàn)略優(yōu)勢和國際安全體系穩(wěn)定之間的妥協(xié)。
各國政府在制定人工智能在軍事領(lǐng)域的戰(zhàn)略時，還應(yīng)當(dāng)高度重視人工智能的治理工作。比如，無論是半自主和全自主的武器系統(tǒng)的設(shè)計，應(yīng)允許指揮官和作戰(zhàn)人員在使用武力方面作出適當(dāng)?shù)娜藶榕袛唷楸ＷC這一要求的實現(xiàn)，需要嚴(yán)格的設(shè)計、對設(shè)計的測試和評估、操作驗證和測試，解決系統(tǒng)錯誤和故障的安全工程以及避免人為錯誤的認(rèn)知工程。
在決定是否使用人工智能武器時，應(yīng)當(dāng)制定明確的規(guī)范和流程，避免造成不可預(yù)測的后果。同時，還應(yīng)當(dāng)加強對人工智能武器的安全性，避免安全泄露，或者是隨意轉(zhuǎn)讓相關(guān)技術(shù)。無論是無意或者有意地擴散都會增加軍備競賽的風(fēng)險，威脅國際安全體系。
《光明日報》（ 2018年09月19日 14版）
人工智能將是這個時代最偉大的魔法師
2018-09-19 03:45 來源：光明網(wǎng)-《光明日報》
人工智能將是這個時代最偉大的魔法師
——2018世界人工智能大會分論壇側(cè)記
光明日報記者 嚴(yán)圣禾 周仕興 曹繼軍 顏維琦
人工智能，這一概念有著豐富的內(nèi)涵和廣泛的外延，不僅涉及眾多科學(xué)門類，還與法律、安全、就業(yè)、道德倫理和政府治理等領(lǐng)域密切相關(guān)。在上海召開的世界人工智能大會，除了主論壇，還有約30個主題論壇在浦江兩岸同步舉行。中外專家學(xué)者和業(yè)界精英深入交流、凝聚共識，共同為大會貢獻(xiàn)豐碩的成果。
腦科學(xué)和人工智能執(zhí)手共進(jìn)
“深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，對于人工智能技術(shù)的發(fā)展產(chǎn)生了重大的影響，也為人工智能帶來了新的希望，所以我們需要盡可能了解大腦的工作機制。由計算機所構(gòu)筑的神經(jīng)網(wǎng)絡(luò)和由大腦所構(gòu)筑的神經(jīng)網(wǎng)絡(luò)其實是很不一樣的，但人類對于神經(jīng)網(wǎng)絡(luò)的一些細(xì)節(jié)還有很多不了解的地方，而大腦科學(xué)能夠提供這樣一些信息……”英國皇家學(xué)會會士、英國倫敦大學(xué)高等研究院感知學(xué)習(xí)中心主任科林·布萊克莫爾，18日在復(fù)旦大學(xué)類腦人工智能主題論壇上如是說。這位皇家會士上一次訪問復(fù)旦大學(xué)是1974年，40多年后，因世界人工智能大會重返復(fù)旦，他對這所中國知名大學(xué)發(fā)生的巨大變化感慨不已。
腦科學(xué)和人工智能是當(dāng)今國際科技前沿?zé)狳c，結(jié)合神經(jīng)生物學(xué)原理發(fā)展的腦啟發(fā)智能算法應(yīng)用迅速崛起，催生了新一代類腦人工智能系統(tǒng)，為疾病診斷、智能機器人、通用人工智能等戰(zhàn)略性新興產(chǎn)業(yè)帶來巨大的發(fā)展機遇，成為全球產(chǎn)業(yè)發(fā)展和升級的新的爆發(fā)點和增長點。
當(dāng)天，復(fù)旦大學(xué)這個分論壇可謂群星璀璨，除了科林·布萊克莫爾，還有2013年諾貝爾化學(xué)獎得主、斯坦福大學(xué)結(jié)構(gòu)生物學(xué)教授邁克爾·萊維特，英偉達(dá)集團首席科學(xué)家及高級副總裁、斯坦福大學(xué)電子工程與計算機科學(xué)教授比爾·戴利，中國科學(xué)院院士、中國科學(xué)院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心主任蒲慕明，英國皇家工程院院士、英國帝國理工學(xué)院教授陸永青，中國科學(xué)院院士、復(fù)旦大學(xué)電磁波信息科學(xué)教育部重點實驗室主任金亞秋等一大批全球頂尖的學(xué)者專家共同為上海新一代人工智能原始創(chuàng)新能力把脈問診、獻(xiàn)計獻(xiàn)策。
人工智能如何參與城市管理
上海靜安區(qū)正在致力打造上海建設(shè)國家大數(shù)據(jù)綜合試驗區(qū)的重要功能樞紐區(qū)和產(chǎn)業(yè)發(fā)展集聚區(qū)。自上海數(shù)據(jù)交易中心落戶靜安、上海大數(shù)據(jù)產(chǎn)業(yè)基地揭牌兩年以來，靜安區(qū)的大數(shù)據(jù)發(fā)展取得了可喜的進(jìn)步。大數(shù)據(jù)在該區(qū)推進(jìn)城市精細(xì)化管理的過程中也發(fā)揮著日益重要的作用。
人工智能的發(fā)展離不開對大數(shù)據(jù)的充分應(yīng)用，恰逢2018世界人工智能大會的舉辦，靜安區(qū)今年舉辦的第三屆國際大數(shù)據(jù)論壇也成了本屆世界人工智能大會的一部分。聯(lián)合國公共機構(gòu)和數(shù)字政府司官員、國內(nèi)外知名高校和科研機構(gòu)中從事大數(shù)據(jù)和人工智能研究的學(xué)界專家、國內(nèi)外大數(shù)據(jù)行業(yè)龍頭企業(yè)技術(shù)專家、知名創(chuàng)投機構(gòu)代表、大數(shù)據(jù)行業(yè)相關(guān)企業(yè)等共1000余名嘉賓圍繞“大數(shù)據(jù)和城市智能”進(jìn)行深度交流，商討如何運用數(shù)據(jù)驅(qū)動的力量，推動城市智能化發(fā)展及精細(xì)化管理不斷深化，推動未來靜安區(qū)城市功能和品質(zhì)不斷優(yōu)化和提升，為上海建設(shè)全球卓越城市作出貢獻(xiàn)。
此外，在該分會場的“城市智能創(chuàng)新項目分享會”上，來自政府、大數(shù)據(jù)企業(yè)、科研院校、產(chǎn)業(yè)聯(lián)盟的眾多嘉賓先后就“大數(shù)據(jù)與上海購物”“打破AI幻覺，深度應(yīng)用實現(xiàn)價值”“數(shù)據(jù)跨境傳輸?shù)钠髽I(yè)合規(guī)挑戰(zhàn)”“健康醫(yī)療數(shù)據(jù)保護(hù)與流通案例分享”“大數(shù)據(jù)態(tài)勢及企業(yè)大腦實踐”“基于AI的機器人流程自動化技術(shù)分享”“海量精準(zhǔn)大數(shù)據(jù)是AI人工智能的核心基礎(chǔ)”等多個方面進(jìn)行了政策解讀、技術(shù)探討和案例分享，讓聽眾對大數(shù)據(jù)在城市管理和規(guī)劃中的應(yīng)用和實踐有了更全面的了解。
人工智能如何賦能各行各業(yè)
除了高校和政府機構(gòu)，國內(nèi)外人工智能的領(lǐng)軍企業(yè)也是眾多分論壇的承辦方。記者18日上午在科大訊飛承辦的“人機交互·萬物互聯(lián)”AI+行業(yè)賦能發(fā)展論壇上聆聽了中國科學(xué)院院士裴鋼，美國斯坦福大學(xué)人工智能、機器人與未來教育中心主任蔣里等十余位知名專家學(xué)者、企業(yè)家，圍繞人工智能、大數(shù)據(jù)等先進(jìn)技術(shù)如何為行業(yè)發(fā)展助力賦能展開的熱烈討論。
語音是未來人機交互最重要的入口之一。科大訊飛執(zhí)行總裁胡郁介紹，科大訊飛在智能語音與人工智能領(lǐng)域有近20年的研究與積累，立志讓機器能聽會說，能理解會思考。目前，科大訊飛正在用先進(jìn)的智能語音與人工智能技術(shù)賦能教育、醫(yī)療、政法等各個行業(yè)，希望借助人工智能建設(shè)美好世界，迎接人機交互、萬物互聯(lián)的時代。
零售應(yīng)用是人工智能技術(shù)的重要領(lǐng)域，京東集團副總裁、AI負(fù)責(zé)人周伯文在論壇上作了題為《人工智能重塑零售服務(wù)》的發(fā)言。他介紹，京東的理念是服務(wù)等于內(nèi)容加交互，正持續(xù)在倉儲、物流等場景布局人工智能，致力于用技術(shù)驅(qū)動公司成長，助力服務(wù)行業(yè)升級，完成從“科技零售”到“零售科技”轉(zhuǎn)型。
與會嘉賓一致認(rèn)為，未來人工智能會像水和電一樣無處不在，世界也將因人工智能而更美好。人工智能將是這個時代最偉大的魔法師，AI賦能，讓一切皆有可能。
摘自《光明日報》
