中新社北京7月20日電 題：離開科技倫理，人類會(huì)被科技“反噬”嗎？
——專訪清華大學(xué)社會(huì)科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風(fēng)
中新社記者 高凱
科技倫理治理作為全世界面臨的共同難題，越來(lái)越為大眾所關(guān)注。很多影視作品對(duì)此做過(guò)探討、想象和呈現(xiàn)，如《黑客帝國(guó)》系列、《終結(jié)者》系列、《我，機(jī)器人》和《機(jī)械姬》等。
科技倫理如何開展有效治理？離開科技倫理，人類會(huì)被科技“反噬”嗎？清華大學(xué)社會(huì)科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風(fēng)近日接受中新社“東西問(wèn)”專訪，解答這些問(wèn)題。
現(xiàn)將采訪實(shí)錄摘要如下：
中新社記者：大眾十分關(guān)心科技倫理問(wèn)題，如果不進(jìn)行有效治理，人類被科技“反噬”的擔(dān)憂會(huì)成真嗎？
李正風(fēng)：從全球?qū)用婵矗萍紓惱碇卫碚蔀樵絹?lái)越重要的議題�？茖W(xué)和技術(shù)的發(fā)展給人類帶來(lái)前所未有的新力量，科技產(chǎn)品本身?yè)碛械哪芰蚬δ茉谀承┓矫孢h(yuǎn)超人類自身。如果不能善加利用或被濫用就會(huì)帶來(lái)巨大風(fēng)險(xiǎn)。
包括電影在內(nèi)的不少藝術(shù)作品中，不乏對(duì)這類風(fēng)險(xiǎn)的極端化描述，如技術(shù)發(fā)展到一定程度反過(guò)來(lái)控制和毀滅人類。這種可能前景被呈現(xiàn)在大銀幕上，引起大眾對(duì)科技發(fā)展及其倫理問(wèn)題的重視和反思。
盡管是藝術(shù)創(chuàng)作，但它確實(shí)帶來(lái)警覺和思考。若我們對(duì)科技可能產(chǎn)生的后果不加思考和控制，所謂“新力量”有可能給人類未來(lái)的生存發(fā)展帶來(lái)威脅，像當(dāng)前生物技術(shù)、人工智能的發(fā)展等，存在不同程度、不同方式“反噬”人類的風(fēng)險(xiǎn)。
所謂“反噬”是一種較形象的說(shuō)法，是指人的某種行為或創(chuàng)造物反過(guò)來(lái)傷害到人自身�！胺词伞币灿谐潭鹊牟町�，自近代科技革命以來(lái)，人們就一直在防范科技成果的不良影響。當(dāng)科技力量不斷增強(qiáng)，這種不良影響可能超出人類整體可控范圍，或形成根本性、全局性的影響，“反噬”話題隨之為全球共同關(guān)注。
電影《黑客帝國(guó)》海報(bào)。中新社發(fā) 李江松 攝中新社記者：科技倫理治理被視作全世界面臨的共同難題，西方社會(huì)如何著手解決這一問(wèn)題？西方國(guó)家與中國(guó)的努力有何異同？
李正風(fēng)：科技倫理治理是防范風(fēng)險(xiǎn)非常重要的方面，旨在通過(guò)向善的價(jià)值觀念和相應(yīng)的倫理規(guī)范，引導(dǎo)和約束科技行為。
近代科學(xué)建制化以來(lái)，西方科學(xué)技術(shù)發(fā)展較快，科技先行國(guó)家或科技發(fā)達(dá)國(guó)家在科技向縱深發(fā)展中先行一步，較早感受到科技發(fā)展及其應(yīng)用可能帶來(lái)的風(fēng)險(xiǎn)，治理行動(dòng)也更早。
比如，科技倫理委員會(huì)在歐美科技發(fā)達(dá)國(guó)家最早成立于20世紀(jì)60年代。作為科技倫理治理中比較典型的審查和約束機(jī)制，其主要用來(lái)評(píng)估和審查研究的倫理風(fēng)險(xiǎn)，一旦未充分考慮可能存在的倫理問(wèn)題，或因倫理風(fēng)險(xiǎn)過(guò)大未得到倫理委員會(huì)批準(zhǔn)，研究后續(xù)工作都會(huì)受到應(yīng)有的約束。
歐美科技發(fā)達(dá)國(guó)家在科技倫理治理上已形成自下而上較為成熟的系統(tǒng)。但不同發(fā)展?fàn)顟B(tài)和不同文化背景的人對(duì)科技倫理的理解存在差異，治理的重點(diǎn)和方式會(huì)因文化傳統(tǒng)、制度結(jié)構(gòu)、社會(huì)包容度而不同，所以各國(guó)建立的科技倫理治理體系也存在差異。從某種程度講，某個(gè)國(guó)家認(rèn)為最好的治理機(jī)制，到其他國(guó)家不見得仍是最好。
中國(guó)是科技后發(fā)并快速追趕的國(guó)家，在文化傳統(tǒng)和制度建設(shè)上有自身特點(diǎn)，要建立的科技倫理治理體系既要應(yīng)對(duì)當(dāng)代生命科學(xué)、人工智能等新興科技領(lǐng)域提出的社會(huì)倫理問(wèn)題，也要適應(yīng)本國(guó)發(fā)展階段面臨的特殊挑戰(zhàn)。
游客在上海城市規(guī)劃展示館參觀5D沉浸式數(shù)字沙盤。中新社發(fā) 陳玉宇 攝中新社記者：今年3月，中國(guó)首個(gè)國(guó)家層面的科技倫理治理指導(dǎo)性文件——《關(guān)于加強(qiáng)科技倫理治理的意見》出臺(tái)，這是繼國(guó)家科技倫理委員會(huì)成立之后，中國(guó)科技倫理治理的又一標(biāo)志性事件。您如何看待中國(guó)科技倫理治理的突出特點(diǎn)？
李正風(fēng)：這一文件的出臺(tái)非常重要，一方面和中國(guó)所處的發(fā)展階段密切相關(guān)，另一方面也和中國(guó)科技倫理治理面臨的挑戰(zhàn)有關(guān)。改革開放以來(lái)，中國(guó)科學(xué)和技術(shù)快速發(fā)展，比以往更頻繁更直接地面對(duì)各式科技倫理問(wèn)題，尤其是前沿問(wèn)題。
中國(guó)在2016年提出建設(shè)世界科技強(qiáng)國(guó)，這和英國(guó)在16、17世紀(jì)建設(shè)成為世界科技強(qiáng)國(guó)，以及德國(guó)在19世紀(jì)逐漸成為世界科技強(qiáng)國(guó)的歷史背景有很大不同。
今天的科技，包括生命科學(xué)、信息科技等，更多涉及到以人類自身為對(duì)象的研究。而以前的科學(xué)家更多是將機(jī)械運(yùn)動(dòng)或無(wú)機(jī)世界作為主要研究對(duì)象。相對(duì)而言，過(guò)去科技發(fā)展本身引發(fā)的社會(huì)倫理問(wèn)題不像今天這么集中，而當(dāng)下幾乎科技發(fā)展的每一步都會(huì)面對(duì)社會(huì)倫理問(wèn)題。中國(guó)要在這樣的背景之下建成世界科技強(qiáng)國(guó)，就必須在科技倫理問(wèn)題上成為負(fù)責(zé)任有擔(dān)當(dāng)?shù)膰?guó)家。
另一方面，一些歐美國(guó)家有比較長(zhǎng)的時(shí)間探索完善自身科技倫理治理體系，中國(guó)科技倫理治理發(fā)展相對(duì)起步較晚，要在較短時(shí)間內(nèi)建立起行之有效的科技倫理治理體系，一是必須加大科技倫理治理的力度，二是必須形成整體性治理的布局，特別是補(bǔ)足補(bǔ)強(qiáng)治理體系中的短板。中國(guó)出臺(tái)《關(guān)于加強(qiáng)科技倫理治理的意見》，標(biāo)志著國(guó)家科技倫理治理真正進(jìn)入加強(qiáng)整體治理、全面治理的新階段。
對(duì)科技倫理治理而言，共同責(zé)任意識(shí)的塑造也非常必要。比如人臉識(shí)別技術(shù)產(chǎn)品，如何使用才能不損害公眾的隱私權(quán)？隨著人們對(duì)科技發(fā)展的倫理意識(shí)不斷覺醒，有關(guān)共識(shí)的塑造也有了現(xiàn)實(shí)基礎(chǔ)。
市民在街頭體驗(yàn)人工智能技術(shù)。中新社發(fā) 袁宏彥 攝中新社記者：在科技發(fā)展全球化背景下，科技倫理問(wèn)題不再局限于某一特定的國(guó)家或地區(qū)，您認(rèn)為全球科技倫理治理面臨怎樣的挑戰(zhàn)，如何共同應(yīng)對(duì)？
李正風(fēng)：全球科技倫理治理面臨的突出挑戰(zhàn)之一是不同國(guó)家不同發(fā)展階段帶來(lái)的差異，這使得倫理傾銷的問(wèn)題有可能出現(xiàn)。倫理傾銷是指在倫理治理系統(tǒng)發(fā)展較成熟的國(guó)家，一些違背科技倫理規(guī)范的科學(xué)研究很難進(jìn)行，但它們卻可能被轉(zhuǎn)移到倫理規(guī)范不是很健全的國(guó)家去開展。
當(dāng)代科技發(fā)展的倫理問(wèn)題具有跨越國(guó)家邊界和種族界限的外部性。不論生物醫(yī)學(xué)技術(shù)、人工智能技術(shù)治理，還是數(shù)據(jù)跨境使用都需要不同國(guó)家共同努力，全球相互協(xié)作。因此，構(gòu)建全球科技倫理治理的信任和合作機(jī)制非常重要。
2021年11月，第三屆世界科技與發(fā)展論壇在北京舉行。中外專家線上線下圍繞“科技倫理治理與信任合作”進(jìn)行高端對(duì)話。中新社記者 孫自法 攝在此過(guò)程中，不僅各國(guó)要制定行之有效的規(guī)范和制度，也要逐步形成科技倫理治理的國(guó)際標(biāo)準(zhǔn)和國(guó)際公約，破除狹隘的國(guó)家保護(hù)主義、民族主義，從人類命運(yùn)共同體的立場(chǎng)出發(fā)，建立全球科技倫理治理中的信任、磋商機(jī)制，發(fā)揮并集成不同國(guó)家的智慧和力量。
隨著科技不斷發(fā)展，人們對(duì)風(fēng)險(xiǎn)有更深刻的認(rèn)知后，倫理的規(guī)范也在不斷和行政管制、法律約束對(duì)接，倫理的規(guī)范不再完全是軟約束。
科技倫理治理絕非要阻礙科技發(fā)展，而是要把握好科技發(fā)展方向，為科技的健康發(fā)展清除阻礙。同時(shí)，拓寬科技健康發(fā)展的道路，讓科技真正造福人類。理解科技倫理治理的重要作用，是各國(guó)協(xié)力構(gòu)建全球科技倫理治理體系的重要基礎(chǔ)。(完)
受訪者簡(jiǎn)介：
李正風(fēng)，清華大學(xué)科學(xué)社會(huì)科學(xué)學(xué)院教授，中國(guó)科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會(huì)協(xié)同發(fā)展研究中心主任、中國(guó)科協(xié)清華大學(xué)科技傳播與普及研究中心副主任、科技發(fā)展與治理研究中心副主任，曾任清華大學(xué)社會(huì)科學(xué)學(xué)院副院長(zhǎng)、中國(guó)發(fā)展戰(zhàn)略研究會(huì)副理事長(zhǎng)。中國(guó)社會(huì)學(xué)會(huì)常務(wù)理事、中國(guó)自然辯證法研究會(huì)常務(wù)理事、中國(guó)科學(xué)學(xué)與科技政策研究會(huì)常務(wù)理事、科學(xué)學(xué)研究副主編、Cultures of Science副主編。研究領(lǐng)域包括科學(xué)技術(shù)的社會(huì)研究、科技哲學(xué)、科技倫理與科技文化、科技發(fā)展戰(zhàn)略與政策、科技傳播與普及等。