“當今世界以人工智能、大數(shù)據(jù)為代表的現(xiàn)代信息技術(shù)與人類生產(chǎn)和生活高度融合,全球數(shù)據(jù)爆發(fā)式增長、海量聚集,大數(shù)據(jù)發(fā)展日新月異,對經(jīng)濟社會發(fā)展產(chǎn)生了深遠的影響。與此同時,以人工智能、大數(shù)據(jù)為代表的新型數(shù)據(jù)安全風險日益凸顯,特別是侵害消費者隱私和侵害消費者利益的事件以及網(wǎng)絡(luò)詐騙,網(wǎng)絡(luò)黑產(chǎn)、灰產(chǎn)出現(xiàn)了新的情況,給公民的財產(chǎn)和信息安全帶來了嚴重威脅。”在近日舉行的2019中國互聯(lián)網(wǎng)AI隱私保護論壇上,中國信息通信研究院副院長、中國互聯(lián)網(wǎng)協(xié)會副秘書長何桂立說。
如何找尋AI時代隱私保護、政府監(jiān)管、商業(yè)訴求的平衡點已經(jīng)成為學界和業(yè)界迫切需要探討的問題。
AI新產(chǎn)品新業(yè)態(tài)層出不窮 隱私保護提上日程
近年來,隨著大數(shù)據(jù)、邊緣計算、深度學習等AI各相關(guān)領(lǐng)域技術(shù)的巨大進步,人工智能產(chǎn)業(yè)的應(yīng)用迎來了新的機遇,自動駕駛、智能服務(wù)機器人、智能安防等人工智能新產(chǎn)品新業(yè)態(tài)層出不窮。
人工智能注定不是一場零和游戲,開放共融將成為大勢所趨。在此過程中,高度依賴于海量用戶數(shù)據(jù)的訓練分析式人工智能算法,也加大了用戶個人信息泄露的風險。
鑒于此,2017年6月1日起施行的《中華人民共和國網(wǎng)絡(luò)安全法》在法律層面規(guī)定了個人信息保護的基本原則;今年5月,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《數(shù)據(jù)安全管理辦法(征求意見稿)》,7月,工業(yè)和信息化部印發(fā)《電信和互聯(lián)網(wǎng)行業(yè)提升網(wǎng)絡(luò)數(shù)據(jù)安全保護能力專項行動方案》。
中國保密協(xié)會隱私保護專委會副主任杜躍進表示,由于產(chǎn)品和服務(wù)是全球化的,企業(yè)不僅需要遵從與用戶數(shù)據(jù)隱私相關(guān)的各國的法律法規(guī),還將面臨著技術(shù)架構(gòu)、本地化運營等多項挑戰(zhàn)。
中國網(wǎng)絡(luò)安全審查技術(shù)與認證中心體系與服務(wù)認證部主任張劍認為,數(shù)據(jù)本身有控制者、使用者、加工者和處置者,這些往往不在一個主體上。“數(shù)據(jù)安全最核心的精神是如何為社會負責、為用戶負責。”
據(jù)悉,在此次論壇上,中國信息通信研究院聯(lián)合中國互聯(lián)網(wǎng)協(xié)會、電信終端產(chǎn)業(yè)協(xié)會、小米、OPPO、vivo、華為、聯(lián)想、中興、魅族、努比亞、三星等,在來自終端廠商、互聯(lián)網(wǎng)企業(yè)、安全企業(yè)、科研院所共400余人的見證下共同發(fā)布了移動智能設(shè)備標識公共服務(wù)平臺,旨在解決移動互聯(lián)網(wǎng)環(huán)境下涉及個人隱私的設(shè)備標識濫用問題,在商業(yè)價值和隱私保護合規(guī)中找到平衡。
移動安全聯(lián)盟秘書長楊正軍表示,AIoT時代,共建智能設(shè)備標識體系意義重大。就補充設(shè)備標識體系的意義而言,在商業(yè)價值方面,新的標識體系將幫助公司提升識別精準度,降低偽造設(shè)備標識帶來的損失;在合規(guī)價值方面,滿足各國隱私相關(guān)法律、法規(guī)、標準要求,如GDPR、信安標委相關(guān)國家標準等法規(guī)和標準;在社會價值方面,可用于網(wǎng)信、質(zhì)檢、海關(guān)、工商等部門打擊灰黑產(chǎn)、走私、山寨等違法行為。
下一步,中國信通院將推進更多的設(shè)備生產(chǎn)廠商支持移動智能終端補充設(shè)備標識體系,移動安全聯(lián)盟將每個設(shè)備廠商的商業(yè)化標識接口進行統(tǒng)一集成,開放給互聯(lián)網(wǎng)公司進行技術(shù)輸出,確保互聯(lián)網(wǎng)商業(yè)營銷正常有序。
“除了對個人數(shù)據(jù)和重要數(shù)據(jù)的保護,數(shù)據(jù)質(zhì)量、數(shù)據(jù)完整性都可能對數(shù)據(jù)算法以及數(shù)據(jù)學習的模型造成影響。人工智能算法不可避免地要體現(xiàn)設(shè)計者與執(zhí)行者的利益和價值取向。由于算法的不透明和難以理解,有時候很難看出其中的歧視和不公。其實,人工智能也會面臨算法歧視問題,尤其是機器學習下的算法歧視。比如在安防、信用征信以及社會招聘過程中都會存在這樣的問題。”德勤中國科技風險及網(wǎng)絡(luò)安全領(lǐng)導合伙人薛梓源表示。比如,2014年微軟的小冰被微信封殺24天之后機器就會爆出粗口,同時聊天機器人也帶來了大數(shù)據(jù)的殺熟現(xiàn)象。
為此,德勤建議,人工智能的發(fā)展,要保證數(shù)據(jù)安全、算法透明,加強AI培訓,確保人工智能發(fā)展要有穩(wěn)健的風險管理機制、多樣性測試和審核的流程,并及時對產(chǎn)品產(chǎn)生的錯誤算法、倫理問題、算法和產(chǎn)權(quán)問題、算法和責任問題等進行測試和規(guī)范。
挺過“黑暗”人工智能產(chǎn)業(yè)“黎明”將至
正如設(shè)備標識的使用,在監(jiān)管層面還是在商業(yè)化層面均是不可或缺的部分一樣,對于絕大多數(shù)從事人工智能的企業(yè)來說,許多問題都游離于進退兩難的邊緣。一邊是用戶對AI的發(fā)展要以犧牲自身隱私為代價的擔心;一邊又是企業(yè)由隱私監(jiān)管高壓下帶來的商業(yè)化受挫和技術(shù)創(chuàng)新方面的沖擊。
百度安全總經(jīng)理馬杰認為,“現(xiàn)在的時刻是最糟糕的時刻,就像黎明前黑暗的時刻。由于用戶和廠家之間沒有建立起信任,才導致了黑色產(chǎn)業(yè)鏈的產(chǎn)生。盡管AI存在著一定的數(shù)據(jù)安全問題,我相信只要給產(chǎn)業(yè)留出一定的時間,黎明就會到來。”馬杰說。
同時,馬杰也坦言,在前期規(guī)范的過程中,如果沒有統(tǒng)一的治理方法,市場上將會出現(xiàn)劣幣驅(qū)逐良幣的現(xiàn)象。
維沃移動通信有限公司CSO/首席安全專家魯京輝則表現(xiàn)得比較冷靜,他表示,對于從業(yè)者而言,應(yīng)該從兩個方面著手:一是如何真正認識數(shù)據(jù)的價值,并在有效的利用數(shù)據(jù)價值的基礎(chǔ)上去保護用戶的隱私。二是在企業(yè)承擔責任的同時,社會層面上要形成一個機制保障和文化氛圍,不要讓劣幣驅(qū)逐良幣的現(xiàn)象出現(xiàn)。
魯京輝表示,隱私保護應(yīng)該是一個技術(shù)+管理+流程+法規(guī)+落地完整的生態(tài)。“數(shù)據(jù)本身是無罪的,有罪的是使用數(shù)據(jù)的這些控制者、處理者。企業(yè)在做數(shù)據(jù)合規(guī)性的過程中不可避免地會感覺到鎮(zhèn)痛,但我們更愿意以積極的態(tài)度去面對。”魯京輝說。
如何平衡商業(yè)與用戶隱私的關(guān)系?作為第三方監(jiān)管者的何桂立從三方面提出了自己的建議:一是深耕終端設(shè)備領(lǐng)域,在5G+AI的大背景下,面向泛智能終端,集中攻關(guān)突破技術(shù)難點,推進隱私保護安全防護能力;二是建設(shè)服務(wù)平臺,促進新一代人工智能產(chǎn)業(yè)發(fā)展,平衡隱私保護和商業(yè)化的沖突,為中小企業(yè)發(fā)展提供更多的公共服務(wù);三是促進產(chǎn)業(yè)交流,積極推動國內(nèi)外政產(chǎn)學研用各界的交流合作,提升我國隱私保護在學術(shù)、政策、產(chǎn)業(yè)等方面的全球影響力。
摘自《中國高新技術(shù)產(chǎn)業(yè)導報》