大數據的形成、理論算法的革新等驅動人工智能進入新一輪創新發展高峰期。與此同時，相關法律、倫理、社會問題的研究也成為行業發展不可回避的問題。業內人士表示，只有加強人工智能倫理研究，處理好機器與人的關系，才能獲得更多人工智能紅利，讓技術造福人類。
本報記者 李洋報道
如果無人駕駛出現事故，系統會做出保護行人還是保護司機的決策？機器人更加個性化，是否能夠做好安全監管？ＡＩ“換臉術”“變聲術”在娛樂大眾的同時，如何避免被濫用甚至侵害他人權益的風險？人工智能是否享有著作權……當前，全球正在經歷科技和產業高度耦合、深度迭加的新一輪變革，大數據的形成、理論算法的革新、計算能力的提升及網絡設施的演進驅動人工智能進入新一輪創新發展高峰期，新技術持續獲得突破性進展，呈現出深度學習、跨界融合、人機協同、群智開放、自主操控等以應用為導向的新特征。與此同時，相關法律、倫理、社會問題的研究，也成為行業發展不可回避的問題。人工智能究竟該如何健康發展？
近日，國家新一代人工智能治理專業委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，提出人工智能治理的框架和行動指南。該治理原則突出了發展負責任的人工智能這一主題，強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八條原則。
新一代人工智能倫理問題飽受爭議
近年來，從頂層設計到產業落地，我國的人工智能產業均出現了一片欣欣向榮的景象。２０１５年，國務院出臺的《關于積極推進“互聯網＋”行動的指導意見》將“互聯網＋人工智能”列為其中１１項重點行動之一。２０１６年以來，人工智能先后被寫入國家“十三五”規劃綱要和政府工作報告中。在２０１７年７月和１２月，《新一代人工智能發展規劃》《促進新一代人工智能產業發展三年行動計劃（２０１８－２０２０年）》兩項總領性政策相繼出臺。２０１８年１１月，工業和信息化部發布《新一代人工智能產業創新重點任務揭榜工作方案》。一系列頂層設計構筑了中國人工智能發展的“四梁八柱”，一批大型企業超前布局，一批創新型中小企業加快涌現。
由科技部新一代人工智能發展研究中心、中國科學技術發展戰略研究院聯合國內外十余家機構編寫的《中國新一代人工智能發展報告２０１９》今年５月對外發布。報告顯示，我國人工智能發展已在部分方面具有優勢。例如：我國人工智能論文發文量全球領先，企業數量等多項指標居全球第二；人工智能企業通過與研究型大學共建聯合實驗室、研究院、研究中心等方式加速人工智能高水平人才成長，多層次ＡＩ人才培養體系逐步形成。
一邊是在研究與產業領域的爭相追捧，一邊又是由此帶來的安全風險、隱私、算法歧視、行業沖擊、失業、收入分配差異擴大、責任分擔等監管難題，人工智能等發展在爭議中踽踽前行。
在今年全國兩會期間，百度董事長李彥宏帶來了一項關于人工智能倫理的提案。他認為，目前人工智能還處在發展初期，但在某些領域已經接近甚至超過了人的能力，展現出巨大的變革力量。智能革命正帶來人機關系的變化，未來機器不再是單純的工具，而是有可能幫助甚至部分代替人類進行決策。只有加強人工智能倫理研究，處理好機器與人的關系，我們才能更多地獲得人工智能紅利，讓技術造福人類。
那么，在高度智能的強人工智能走入人們視野之前，如何讓機器符合人類道德規范？對此，學界大體有３種設想：一是自上而下，即在智能體中預設一套倫理規范，如自動駕駛汽車應將撞車對他人造成的傷害降到最低；二是自下而上，即機器通過數據驅動，學習人類的倫理德道規范；三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其復雜的邏輯并及時糾正可能存在的問題。
發展負責任的人工智能是主線
人工智能發展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。人工智能系統應不斷提升透明性、可解釋性、可靠性、可靠性、可控性，逐步實現可審核、可監督、可追溯、可信賴。建立人工智能問責機制，明確研發者、使用者和受用者等的責任……“發展負責任的人工智能”是《新一代人工智能治理原則——發展負責任的人工智能》的主題，涵蓋了人工智能的基礎研發層到應用層，更應成為貫穿人工智能發展的一條主線。
“比如我們提出的‘和諧友好’等原則，強調無論是人工智能提供的產品還是服務，都應該是負責任的、全面的，應以增進人類共同福祉為目標，應該符合人類的價值觀和倫理道德，避免誤用，禁止濫用、惡用。”清華大學蘇世民書院院長、國家新一代人工智能治理專業委員會主任薛瀾說。
《治理原則》旨在更好協調人工智能發展與治理的關系，確保人工智能安全可控可靠，推動經濟、社會及生態可持續發展，共建人類命運共同體，這也構成了《治理原則》的４個主要亮點。
上海大學教授、國家新一代人工智能治理專業委員會委員李仁涵表示：“人工智能是一個新生事物，發展還是第一位的。推動我國人工智能的發展，也要在發展中解決問題。”
中國科學院自動化研究所研究員、國家新一代人工智能治理專業委員會委員曾毅表示，現在一些技術開發者沒有經過這方面的專業訓練，通過創新為社會帶來正面效應的同時，對相關的風險不重視或無意識，給社會帶來了較大的隱患，希望《治理原則》的發布，能夠推動“自適應”的治理，確保人工智能朝著對全人類、全社會及自然生態有益的方向發展。
摘自《中國高新技術產業導報》
