日前，聯(lián)合國教科文組織（UNESCO）正式發(fā)布《人工智能倫理建議書》（以下簡稱《建議書》）。這是關于人工智能倫理的首份全球性規(guī)范文書。
作為UNESCO人工智能倫理特設專家組成員，中國科學院自動化研究所中英人工智能倫理與治理研究中心主任、國家新一代人工智能治理專委會委員曾毅參與了《建議書》的起草與修改。
曾毅在接受《中國科學報》采訪時表示：“《建議書》是目前全世界在政府層面達成的最廣泛的共識，是全球人工智能發(fā)展的共同綱領，將為進一步形成人工智能倫理有關的國際標準、國際法等提供強有力的參考。”
走向全球共識
隱私、安全、公平、對人類的潛在風險等，人工智能在飛速發(fā)展的同時，也給社會帶來了根本性的挑戰(zhàn)。
雖然不同國家、政府間組織、科研和產業(yè)界已經發(fā)布了不少關于人工智能發(fā)展、倫理與治理原則，但這些原則并沒有形成統(tǒng)一觀念，人工智能倫理亟待達成全球共識。
UNESCO總干事阿祖萊在《建議書》發(fā)布會上表示，“我們呼吁所有的成員國立即行動起來開始實施這份建議書。民眾、企業(yè)等全社會都應當行動起來。這項工作已經開始了，20余個國家已經表態(tài)當《建議書》被采納后，將受《建議書》的啟發(fā)開啟評估。UNESCO將推進務實的評估落地工作。”
此次發(fā)布的《建議書》的核心是價值觀、倫理原則及相關的政策建議、監(jiān)測與評估。在價值觀方面，《建議書》從尊重、保護和促進人權和基本自由以及人的尊嚴，環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展，確保多樣性和包容性，以及在和平、公正與互聯(lián)的社會中共生等4部分進行了闡述。
曾毅認為，《建議書》囊括了針對現代人工智能（人工智能作為信息處理工具和賦能技術）倫理考慮的最重要方面。
例如，雖然大規(guī)模數據處理及算力的提升促進了現代人工智能的發(fā)展，但也帶來了潛在的環(huán)境問題。
為此，《建議書》在價值觀“環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展”部分指出，應減少人工智能系統(tǒng)對環(huán)境的影響，包括但不限于碳足跡，以確保將氣候變化和環(huán)境風險因素降到最低，防止會加劇環(huán)境惡化和生態(tài)系統(tǒng)退化的對自然資源的不可持續(xù)開采、使用和轉化。
此外，《建議書》還考慮了不適用人工智能的場景，并在“相稱性與不損害”的原則部分提出，人工智能技術本身并不能確保人類、環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展。在有可能對人類、人權和基本自由、個別社區(qū)和整個社會，或者對環(huán)境和生態(tài)系統(tǒng)造成損害時，以確保落實風險評估程序并采取措施，以防止發(fā)生此類損害。
不僅如此，《建議書》在此部分還明確提出人類應當確保在關鍵領域進行有意義的控制，以確保人類的決策權，并對高風險領域進行了警示。
“和諧共生”價值觀被部分采納
在曾毅看來，《建議書》在一定程度上體現了全球不同文化的包容性思想。其中，“在和平、公正與互聯(lián)的社會中共生”的價值觀充分體現了來自亞洲和非洲等國專家的共同愿景與貢獻。
在UNESCO特設專家組撰寫草案期間，鑒于部分國家和政府間組織的人工智能原則強調自身的價值觀和利益優(yōu)先，曾毅提議納入“和諧共生”的價值觀。
在曾毅看來，“和諧共生”的價值觀，是倡導人類社會與人工智能技術和諧發(fā)展，人工智能賦能人類、社會、生態(tài)之間的和諧發(fā)展，號召各個國家通過人工智能促進人類命運共同體的構建。
他告訴記者，“和諧共生”的思想在由國家新一代人工智能治理專委會制定的《新一代人工智能治理原則》以及《新一代人工智能倫理規(guī)范》中有以“和諧友好”等形式和內容體現的相似表述，是我國發(fā)展人工智能技術、處理技術與社會關系的總綱。
雖然“和諧共生”的提議被來自亞洲和非洲等多國的特設專家組專家及部分政府間磋商代表所贊同，但在隨后的環(huán)節(jié)，由于部分國家代表未能接受“和諧”等提法，隨后改為“在和平、公正與互聯(lián)的社會中共生”，“和諧共生”的核心要義得以部分保留和采納。
例如，《建議書》在“在和平、公正與互聯(lián)的社會中共生”部分，強調“每個人都屬于一個更大的整體，當這個整體中的組成部分都能夠繁榮興旺時，整體才會蒸蒸日上”。
曾毅對此感到有些遺憾。“‘和平共生’與‘和諧共生’的意義并不完全相同。‘和諧共生’在和而不同、同舟共濟的基礎上還有發(fā)展的意義，倡導優(yōu)化共生，而‘和平共生’這種表述難以表達求同存異、謀求發(fā)展的意義。”
但他也表示，雖然《建議書》沒有直接采納“和諧共生”的表述，但相關思想得以保留，被各國專家認為是《建議書》中融入非西方價值觀的重要體現。
“‘和諧共生’的理念已經作為我國人工智能倫理與治理原則的特色，未來必然會成為中國對世界的貢獻。”曾毅表示。
可持續(xù)發(fā)展的共同愿景
可持續(xù)發(fā)展目標是聯(lián)合國各機構力推的全球發(fā)展共同愿景，我國發(fā)布的《新一代人工智能治理原則》以及《新一代人工智能倫理規(guī)范》都將可持續(xù)發(fā)展作為新一代人工智能的總體愿景和賦能全球人工智能發(fā)展的重要途徑。然而，很多國家在人工智能發(fā)展和倫理原則中并沒有明確提出可持續(xù)性。
因此，在《建議書》原則部分的撰寫階段，曾毅提出，雖然可持續(xù)的理念隱含在文本中的若干方面，但作為全球共同愿景，發(fā)展人工智能必須賦能可持續(xù)發(fā)展目標的實現，同時還要密切關注人工智能應用于可持續(xù)發(fā)展相關目標領域時，是否帶來阻礙該目標實現的風險，尋求發(fā)展與治理的協(xié)同。“‘可持續(xù)’應當作為原則明確列入《建議書》。”
最終，該意見被《建議書》不同階段廣泛接受，并在政策部分，特別針對環(huán)境和生態(tài)系統(tǒng)領域如何通過人工智能賦能實現可持續(xù)性給出了具體建議。
實際上，除了參與起草和修改《建議書》，曾毅還在UNESCO組織的區(qū)域性專家咨詢會上代表UNESCO特設專家組向亞太地區(qū)各國政府專家代表宣講了《建議書》草案，并作為政府間專家磋商的中方專家代表參加磋商。
曾毅告訴記者，起草和宣講《建議書》時，他從未感到緊張，因為在那個階段，他的角色更多的是貢獻學術觀點的獨立的學者。但在政府間代表磋商階段，特別是被稱為“成員國中國代表”時，他倍感責任重大。
目前，UNESCO正在依據《建議書》建立倫理評估工具和針對國家人工智能倫理完備指數評估的輔助系統(tǒng)，以敦促和幫助各國落實倫理規(guī)范。
在曾毅看來，人工智能的國際協(xié)作是通過技術賦能助力實現人類命運共同體，而人工智能倫理與治理的國際交流與協(xié)作是確保人工智能國際合作能夠達成共識，并持續(xù)推進的基石。
“因此，十分有必要推進形成由類似于UNESCO這樣的政府間機構、各國政府、學術界、產業(yè)、公眾緊密交互的多利益相關方人工智能治理體系，通過深度協(xié)同擴大共識、避免誤解、減少分歧，確保人工智能的全球發(fā)展及其治理最終促進人類和生態(tài)的整體協(xié)同發(fā)展。”曾毅表示。
來源:《中國科學報》
