“長(zhǎng)江后浪推前浪”“一代更比一代強(qiáng)”,這既是青年成長(zhǎng)成才的基本規(guī)律,也是學(xué)術(shù)繁榮興盛的內(nèi)在要求。與青年學(xué)者同心同德同奮進(jìn)、共生共榮共成長(zhǎng),為青年學(xué)者走向?qū)W術(shù)前沿服務(wù),推動(dòng)青年學(xué)者群體性進(jìn)步,是我們不變的初心。為此,光明日?qǐng)?bào)各理論版面從今天起特別開(kāi)辟《青年論壇》專欄,為青年才俊發(fā)表真知灼見(jiàn)提供專門平臺(tái),歡迎各位青年學(xué)者惠賜佳作。
中央全面深化改革委員會(huì)第九次會(huì)議不久前審議通過(guò)了《國(guó)家科技倫理委員會(huì)組建方案》(以下簡(jiǎn)稱《方案》)。會(huì)議指出,科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則。組建國(guó)家科技倫理委員會(huì),目的就是加強(qiáng)統(tǒng)籌規(guī)范和指導(dǎo)協(xié)調(diào),推動(dòng)構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系。要抓緊完善制度規(guī)范,健全治理機(jī)制,強(qiáng)化倫理監(jiān)管,細(xì)化相關(guān)法律法規(guī)和倫理審查規(guī)則,規(guī)范各類科學(xué)研究活動(dòng)。根據(jù)會(huì)議精神,發(fā)展科技倫理,不僅要明確科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則,更要把這些準(zhǔn)則落實(shí)在行動(dòng)中,通過(guò)各種制度、機(jī)制、監(jiān)管和審查,構(gòu)建切實(shí)有效的“科技倫理治理體系”。
規(guī)范科技活動(dòng)的倫理原則
發(fā)展科技倫理,就是把價(jià)值、原則、規(guī)范帶入科技活動(dòng),從而在各個(gè)環(huán)節(jié)、各個(gè)層面提升科技活動(dòng)的倫理質(zhì)量,使科學(xué)技術(shù)更好地造福人類社會(huì)。要做到這一點(diǎn),需要在以下兩個(gè)方面著力:一方面,不斷消解科技活動(dòng)可能帶來(lái)的負(fù)面后果。特別是對(duì)那些技術(shù)發(fā)展不成熟、應(yīng)用后果不明朗的前沿新興科技,要通過(guò)建立評(píng)估體系和預(yù)警機(jī)制進(jìn)行風(fēng)險(xiǎn)管控。不能僅僅通過(guò)經(jīng)濟(jì)指標(biāo)來(lái)衡量科技活動(dòng)的社會(huì)效益,尤其警惕“資本邏輯”對(duì)科技活動(dòng)的控制,堅(jiān)決制止把人類社會(huì)當(dāng)作技術(shù)實(shí)驗(yàn)場(chǎng)景的極端做法。另一方面,再次明確科技活動(dòng)的屬人本性。要做到這一點(diǎn),就不能偏執(zhí)于“科技中立”的價(jià)值觀念,認(rèn)為科技雖然也是人的活動(dòng),但終究隱含著超越人類的獨(dú)立發(fā)展主題??蓡?wèn)題是,如果我們把科技理解為自然向人類的打開(kāi)方式,那么很顯然,這些方式不僅可以有選擇,而且應(yīng)當(dāng)是屬人的選擇。
盡管科技倫理問(wèn)題在當(dāng)代的重要性已不言而喻,但在現(xiàn)實(shí)生活中,普通民眾對(duì)這個(gè)問(wèn)題還很陌生,遠(yuǎn)沒(méi)有形成對(duì)應(yīng)的概念。據(jù)此,不少批評(píng)者深表憂慮。在他們看來(lái),高科技多掌握在技術(shù)專家、商業(yè)領(lǐng)袖、政府管理者等社會(huì)精英手中。如果這些人在從事科技活動(dòng)的時(shí)候不考慮倫理問(wèn)題,那么普通民眾就更難意識(shí)到專業(yè)的科技倫理問(wèn)題??萍疾粋惱硭鶐?lái)的惡性后果將不可避免地使民眾陷入恐慌。不過(guò),值得慶幸的是,在那些頻繁接觸和運(yùn)用前沿新興科技的人們中間,開(kāi)始涌現(xiàn)出越來(lái)越多關(guān)注科技倫理的人。他們不僅研究科技倫理問(wèn)題,也熱衷于科技倫理實(shí)踐,并身體力行地推動(dòng)科技倫理的發(fā)展。這些先行者的研究成果和實(shí)踐經(jīng)驗(yàn)大致可以被歸結(jié)為如下一些倫理原則:
后果應(yīng)風(fēng)控。我們常說(shuō)科學(xué)技術(shù)是一把雙刃劍。這意味著,科技力量越是強(qiáng)大,它可能帶來(lái)的風(fēng)險(xiǎn)也就越大。可想而知,如果我們對(duì)某項(xiàng)科學(xué)研究和技術(shù)應(yīng)用所產(chǎn)生的后果不得而知,且沒(méi)有相應(yīng)的補(bǔ)救措施消解不良后果,那么,我們就會(huì)使自己陷入進(jìn)退兩難、無(wú)所適從的境地。2018年的基因編輯嬰兒事件就是一例。由于存在脫靶效應(yīng),新生兒的基因異于常人。因此,這臺(tái)基因編輯手術(shù)對(duì)這兩個(gè)孩子的生理、心理以及未來(lái)生活所造成的影響不僅無(wú)法預(yù)測(cè),而且后果不可逆。所以,對(duì)于那些后果未知且可能造成不可逆結(jié)果的前沿新興科技應(yīng)用,應(yīng)當(dāng)建立風(fēng)險(xiǎn)管控機(jī)制,必要時(shí)可明令禁止。
信息應(yīng)公開(kāi)。這條準(zhǔn)則對(duì)那些經(jīng)常和數(shù)據(jù)打交道的企業(yè)來(lái)說(shuō)尤其重要。在智能大數(shù)據(jù)時(shí)代,為了開(kāi)發(fā)更加“懂得”消費(fèi)者的產(chǎn)品,越來(lái)越多的企業(yè)開(kāi)始以數(shù)據(jù)管理的模式建立用戶系統(tǒng)。但是,企業(yè)在儲(chǔ)存、分析和使用消費(fèi)者私人數(shù)據(jù)的同時(shí),也存在著大量違規(guī)處理數(shù)據(jù)和利用數(shù)據(jù)操控用戶的隱蔽做法。2018年,美國(guó)著名的社交網(wǎng)絡(luò)企業(yè)臉書(Facebook)就因把未經(jīng)用戶授權(quán)的私人數(shù)據(jù)提供給第三方使用而受到美國(guó)司法部門的立案調(diào)查。因此,企業(yè)必須確保消費(fèi)者在使用產(chǎn)品或接受服務(wù)時(shí)知道自己需要同意什么。企業(yè)應(yīng)當(dāng)向公眾發(fā)布更多的產(chǎn)品信息和技術(shù)信息,讓更多的消費(fèi)者通過(guò)更加透明的方式參與到企業(yè)的產(chǎn)品設(shè)計(jì)決策中去。
知識(shí)可解釋。在日常生活中,普通民眾是通過(guò)各種商品和服務(wù)間接接觸各類科技的。但在他們享用科技產(chǎn)品帶來(lái)的生活便利的同時(shí),往往對(duì)產(chǎn)品背后的技術(shù)條件及其工作方式不明就里,因而也就無(wú)法對(duì)產(chǎn)品使用后果做出自己的判斷。如今,當(dāng)我們用網(wǎng)絡(luò)進(jìn)行購(gòu)物或社交時(shí),得到的絕大部分信息都是被算法推薦的。通過(guò)相應(yīng)的算法設(shè)計(jì),各種購(gòu)物和社交軟件甚至能左右我們?nèi)ツ睦?、遇?jiàn)誰(shuí)、買什么,使我們?cè)诓恢挥X(jué)之中被算法牽著鼻子走。因此,我們需要企業(yè)提供易于理解并說(shuō)明清晰的產(chǎn)品知識(shí)和技術(shù)信息。只要有足夠透明且解釋清晰的知識(shí),普通民眾在科技倫理問(wèn)題上自己就能作出決定。
行為可問(wèn)責(zé)??萍蓟顒?dòng)可能造成的后果需要被納入一個(gè)清晰的問(wèn)責(zé)體系之中。如果這個(gè)問(wèn)責(zé)體系不能建立,我們就既不能對(duì)科技活動(dòng)進(jìn)行反向的倫理規(guī)制,也無(wú)法妥善處理科技活動(dòng)產(chǎn)生的各種后果。2018年3月,在美國(guó)一輛無(wú)人駕駛汽車肇事傷人之后,至少有四家責(zé)任主體陷入了訴訟糾紛。究竟如何認(rèn)定傳感器制造商、駕駛軟件設(shè)計(jì)商、算法開(kāi)發(fā)商和汽車所有人之間的責(zé)任關(guān)系?對(duì)這一問(wèn)題的討論甚至登上了世界權(quán)威的學(xué)術(shù)期刊之一《科學(xué)》。實(shí)際上,隨著大量新興科技通過(guò)產(chǎn)品不斷進(jìn)入社會(huì),類似這樣的問(wèn)責(zé)困境今后還會(huì)頻頻出現(xiàn)。如果事先不能建立問(wèn)責(zé)體系,我們實(shí)際上是無(wú)法善后的。
減少不平等。在理想條件下,沒(méi)有人會(huì)反對(duì)科技的作用之一在于平等地造福社會(huì)上更多的人。但在現(xiàn)實(shí)中,這個(gè)理想常常受到各種挑戰(zhàn)。我們是否應(yīng)當(dāng)設(shè)計(jì)更加公平的制度,使更多的科技資源流向最需要的人?但由誰(shuí)來(lái)承擔(dān)分配這些科技資源的費(fèi)用呢?新一輪人工智能的發(fā)展可能會(huì)造成大面積的結(jié)構(gòu)性失業(yè)。我們需要考慮那些失業(yè)人員的工作問(wèn)題嗎?還是有條件地限制人工智能的應(yīng)用場(chǎng)景?我們可以發(fā)展功能型基因編輯技術(shù)嗎?但那些沒(méi)有條件購(gòu)買這項(xiàng)技術(shù)產(chǎn)品的人會(huì)在出生時(shí)就“輸在起跑線上”,造成人與人之間“先天的”不平等。顯然,如果沒(méi)有相應(yīng)的價(jià)值準(zhǔn)則回應(yīng)這些問(wèn)題,任由科技應(yīng)用野蠻生長(zhǎng),最終必然導(dǎo)致更大范圍、更深程度上的社會(huì)不平等。
建立可行的“科技倫理治理體系”
后果應(yīng)風(fēng)控、信息應(yīng)公開(kāi)、知識(shí)可解釋、行為可問(wèn)責(zé)、減少不平等,這些都是科技活動(dòng)應(yīng)當(dāng)遵守的價(jià)值準(zhǔn)則,或稱科技倫理原則。當(dāng)然,科技倫理原則顯然不止這些。不僅如此,在特殊的科技領(lǐng)域,這些原則還各有其特定內(nèi)涵并需要根據(jù)價(jià)值重要性進(jìn)行排序。更為關(guān)鍵的是,只有當(dāng)這些原則轉(zhuǎn)化為具體的科技倫理規(guī)范,才可能切實(shí)有效地發(fā)揮作用。這需要科學(xué)家、發(fā)明家、倫理學(xué)家、企業(yè)家、監(jiān)管機(jī)構(gòu)、第三方組織開(kāi)展專項(xiàng)的跨學(xué)科研究,合作建立科技倫理治理體系,同時(shí)把普通公眾納入更加廣泛的科技倫理決策系統(tǒng)。在這個(gè)面向行動(dòng)的過(guò)程中,需要認(rèn)真對(duì)待以下三方面問(wèn)題:
協(xié)同經(jīng)濟(jì)倫理發(fā)展科技倫理。在現(xiàn)代社會(huì),科技造福人類的方式在很大程度上是由經(jīng)濟(jì)活動(dòng)來(lái)安排的。因此,建立科技倫理治理體系就需要統(tǒng)籌考慮經(jīng)濟(jì)活動(dòng)及其倫理問(wèn)題。實(shí)際上,許多當(dāng)代科技倫理問(wèn)題,也是經(jīng)濟(jì)倫理問(wèn)題。有些科技倫理問(wèn)題,其實(shí)從根本上說(shuō)反倒是經(jīng)濟(jì)倫理問(wèn)題。我們實(shí)際上需要開(kāi)發(fā)的是一種統(tǒng)籌“科技—經(jīng)濟(jì)—倫理”的治理體系。這種治理體系需要融合三個(gè)領(lǐng)域的價(jià)值結(jié)構(gòu),并根據(jù)側(cè)重不同的層次和環(huán)節(jié)吸取各自的分析框架。例如在后果分析和責(zé)任評(píng)價(jià)這兩個(gè)維度上,現(xiàn)代經(jīng)濟(jì)倫理學(xué)理論中的利益相關(guān)者理論和企業(yè)社會(huì)責(zé)任理論,都是比較成熟的、可以用來(lái)討論科技倫理問(wèn)題的分析框架。
定向開(kāi)發(fā)專業(yè)的科技倫理治理技術(shù)。面對(duì)更為實(shí)證化、標(biāo)準(zhǔn)化、技術(shù)化的科技活動(dòng),倫理學(xué)需要把抽象的價(jià)值、原則、論證推理方式轉(zhuǎn)化為更加可度量、可評(píng)價(jià)、可操作的倫理治理技術(shù)。這項(xiàng)技術(shù)的本質(zhì)是在倫理與科技之間建立一種有彈性的平衡機(jī)制,就像一根可松緊的橡皮筋。一方面,對(duì)于那些發(fā)展比較成熟、應(yīng)用前景及其后果比較明朗的科學(xué)技術(shù),可逐級(jí)放寬倫理規(guī)制。相反,對(duì)于那些應(yīng)用條件不成熟、應(yīng)用后果未知的科學(xué)技術(shù),應(yīng)當(dāng)逐級(jí)收緊倫理規(guī)制。這種分級(jí)管理的方式,需要倫理學(xué)更加深入地研究科技活動(dòng)的各個(gè)環(huán)節(jié),為各層級(jí)上的科技決策提供倫理參照系。不僅如此,這項(xiàng)技術(shù)還可轉(zhuǎn)化為科技倫理發(fā)展指數(shù),引導(dǎo)資本投向更值得信賴的科技應(yīng)用。
把科技倫理研究和職業(yè)倫理培訓(xùn)結(jié)合起來(lái)。職業(yè)倫理培訓(xùn)必然是科技倫理治理體系中極端重要的一個(gè)環(huán)節(jié)。要發(fā)展科技倫理,首先需要解決人的觀念問(wèn)題。價(jià)值觀念的養(yǎng)成有兩個(gè)途徑:一個(gè)源于道德知識(shí),一個(gè)源于道德經(jīng)驗(yàn)。在前者,各種價(jià)值準(zhǔn)則的證成方式及其推理過(guò)程可以教會(huì)人們?nèi)绾芜\(yùn)用概念分析和判斷倫理問(wèn)題。在后者,各種科技倫理實(shí)踐活動(dòng)可以培養(yǎng)人的倫理敏感性。所謂倫理敏感性就是能迅速地識(shí)別科技活動(dòng)中可能存在的倫理問(wèn)題。要做好這兩點(diǎn)“人的工作”,最好的方式就是開(kāi)展專門的職業(yè)倫理培訓(xùn)。與此同時(shí),要把職業(yè)倫理培訓(xùn)和各個(gè)層級(jí)、各個(gè)環(huán)節(jié)上的科技活動(dòng)結(jié)合起來(lái),有機(jī)地嵌入到倫理治理體系中,真正做到有的放矢、行之有效。
《方案》是在全面深化改革的大背景下提出的,落腳點(diǎn)是建立科技倫理治理體系。它從這個(gè)角度創(chuàng)造性地發(fā)展了“依法治國(guó)和以德治國(guó)相結(jié)合”的新思路和新策略,為我國(guó)新時(shí)代公民道德建設(shè)提供了新的方向和新的路徑。
摘自《光明日?qǐng)?bào)》