作者：盧陽旭（中國科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院研究員）

　　在全國科技大會、國家科學(xué)技術(shù)獎勵大會、兩院院士大會上，習(xí)近平總書記對我國要建成的科技強國作出深入闡釋，提出必須具備五方面基本要素。

　　其中，“擁有強大的科技治理體系和治理能力，形成世界一流的創(chuàng)新生態(tài)和科研環(huán)境”是五方面基本要素之一。習(xí)近平總書記的重要講話深刻闡明了新時代加強科技治理體系和治理能力建設(shè)的重要性，進一步明確了科技治理體系和治理能力建設(shè)要實現(xiàn)的戰(zhàn)略目標。科技倫理治理體系是科技治理體系的重要組成部分，也是確保人工智能向善發(fā)展，為中國式現(xiàn)代化建設(shè)提供持續(xù)、健康、強勁動能的重要保障。

　　治理面臨新形勢新任務(wù)

　　近年來，我國高度重視、積極推動人工智能倫理治理，并取得顯著成效。一系列舉措包括成立國家科技倫理委員會及人工智能倫理分委員會、發(fā)布新一代人工智能治理原則、推進人工智能倫理治理相關(guān)法律法規(guī)建設(shè)、創(chuàng)新人工智能倫理治理政策工具、參與全球人工智能倫理治理對話合作等。還要看到的是，對標“擁有強大的科技治理體系和治理能力”的目標，對照人工智能迅猛發(fā)展和廣泛應(yīng)用的現(xiàn)實，當前我國人工智能倫理治理體系和治理能力建設(shè)面臨新形勢，亟待完成新任務(wù)。

　　一是要更全面、準確識別人工智能的影響及其倫理意涵。識別和評估影響，是人工智能倫理治理的前提。人工智能的廣泛應(yīng)用會產(chǎn)生什么影響，在哪些方面產(chǎn)生影響，不同影響如何生成和傳導(dǎo)，以及各種影響會帶來哪些倫理挑戰(zhàn)，這些問題都未明晰。同時，在很多人工智能技術(shù)的應(yīng)用場景中，我國實際上已扮演先行先試者的角色，沒有太多可借鑒的現(xiàn)成經(jīng)驗。因此，新時期必須加強人工智能影響評估的理論和方法研究，持續(xù)豐富治理實踐，努力形成人工智能倫理治理的中國經(jīng)驗和中國方案。

　　二是要更重視人工智能治理實踐中的倫理問題。治理方式和治理工具符合倫理規(guī)范，是強大的科技倫理治理體系和治理能力的題中應(yīng)有之義。隨著人工智能治理規(guī)則、工具和實踐增多，這些活動本身的倫理問題愈加凸顯。這些問題的實質(zhì)，是人工智能治理實踐是否符合倫理規(guī)范，即是否以符合倫理的方式開展人工智能治理。新時期加強人工智能倫理治理體系和治理能力建設(shè)，必須高度重視對人工智能治理實踐的倫理審查和倫理反思。

　　三是要提高人工智能倫理治理體系的有效性。近年來，我國積極推動人工智能倫理治理法律法規(guī)建設(shè)，涉及人工智能倫理治理的“硬法”和“軟法”逐漸增多，并衍生出多樣化治理機制和政策工具。但是，逐漸復(fù)雜的規(guī)則、多元主體的參與、日益豐富的政策工具，也增加了治理體系的復(fù)雜性，提高了出現(xiàn)合成謬誤、治理體系整體效能下降的風(fēng)險。因此，需進一步優(yōu)化治理體系，明確各參與主體的責任與義務(wù)，加強跨部門、跨領(lǐng)域的協(xié)調(diào)合作，提升政策工具的有效性和針對性，確保人工智能倫理治理體系高效運行。

　　四是要增強人工智能倫理治理的國際影響力和引領(lǐng)力。國際影響力和引領(lǐng)力是強大的人工智能倫理治理能力的重要內(nèi)容。近年來，我國通過積極參與人工智能倫理治理雙多邊對話合作、發(fā)布《全球人工智能治理倡議》、倡導(dǎo)加強人工智能能力建設(shè)國際合作等舉措，與各國攜手推進全球人工智能倫理治理體系和治理能力建設(shè)，在持續(xù)為全球人工智能倫理治理貢獻中國力量和中國智慧的同時，也有效提升了我國在全球人工智能倫理治理領(lǐng)域的影響力。但是，全球人工智能倫理治理領(lǐng)域既存在廣泛合作，也存在博弈和競爭，我國在全球人工智能倫理治理中的影響力和引領(lǐng)力，仍然與我國在全球人工智能技術(shù)發(fā)展和應(yīng)用中的地位不夠相稱，需要進一步加強。

　　多措并舉提升可操作性

　　新時期，如何加強我國人工智能倫理治理體系和治理能力建設(shè)？一方面，要全面認識人工智能倫理問題的內(nèi)涵以及影響倫理治理實踐的關(guān)鍵因素，確保治理體系和治理能力建設(shè)符合規(guī)律要求、符合實際情況；另一方面，要突出問題導(dǎo)向，抓住治理體系和治理能力建設(shè)中的關(guān)鍵點、改革工作的突破點，著力提升工作的針對性和可操作性。具體而言，可從以下六方面發(fā)力。

　　一是健全人工智能倫理治理法律法規(guī)體系。一方面，以法律法規(guī)的形式明確人工智能倫理問題的邊界、不同主體在人工智能研發(fā)和應(yīng)用過程中的權(quán)責劃分，并根據(jù)實際情況適時對其進行動態(tài)調(diào)整；另一方面，用法律法規(guī)約束人工智能倫理治理實踐，確保倫理治理實踐符合法律規(guī)定和倫理規(guī)范。

　　二是健全人工智能倫理審查機制。加快健全人工智能倫理審查機構(gòu)體系和倫理審查規(guī)范體系；通過業(yè)務(wù)培訓(xùn)等多種方式，加強倫理審查專業(yè)人才隊伍建設(shè)；通過規(guī)范審查機構(gòu)人員構(gòu)成和審查流程等關(guān)鍵環(huán)節(jié)，加強倫理審查機構(gòu)的能力建設(shè)，提高倫理審查質(zhì)量；優(yōu)化人工智能倫理風(fēng)險分級分類標準，并建立與之相匹配的倫理審查和監(jiān)管工作機制；進一步增加倫理審查工作的透明度，更好發(fā)揮倫理審查的導(dǎo)向作用。

　　三是建立人工智能倫理問題多元監(jiān)督機制。進一步優(yōu)化政府監(jiān)管、行業(yè)自律、公眾監(jiān)督等多種監(jiān)督方式的分工協(xié)作機制，增強監(jiān)督工作的及時性和有效性、提高監(jiān)督效率；支持人工智能企業(yè)和研發(fā)機構(gòu)聯(lián)合制定、共同遵守行業(yè)倫理準則，發(fā)揮自我約束機制的作用；提高公眾對人工智能倫理問題的關(guān)注度和理解力，增強公眾有序參與人工智能倫理監(jiān)督和治理的能力。

　　四是加強人工智能倫理教育。支持從事人工智能技術(shù)研發(fā)的機構(gòu)面向研發(fā)人員開展倫理培訓(xùn)，鼓勵人工智能產(chǎn)品和服務(wù)提供機構(gòu)與用戶就特定應(yīng)用場景中的倫理規(guī)范加強溝通；在中小學(xué)科技類課程中，適當增加人工智能倫理議題相關(guān)內(nèi)容，將人工智能倫理課程作為相關(guān)專業(yè)本科生和研究生的必修課以及面向全體大學(xué)生的選修課；加強面向全社會的人工智能倫理規(guī)范和知識普及教育。

　　五是加強人工智能倫理問題及治理效果研究。前瞻性開展人工智能社會實驗，支持政產(chǎn)學(xué)研在人工智能經(jīng)濟社會影響識別、政策干預(yù)效果評估等方面共同開展系統(tǒng)性研究；支持在各個應(yīng)用場景中開展差異化的倫理治理機制探索和工具創(chuàng)新，增強倫理治理體系的敏捷性和韌性。

　　六是積極參與全球人工智能倫理治理。推動以聯(lián)合國為中心的全球人工智能倫理治理對話與合作；圍繞人工智能倫理治理問題，積極開展雙多邊交流合作，共享最佳實踐、共同支持相關(guān)研究、協(xié)同制定治理規(guī)則，與各國攜手推動全球人工智能倫理治理體系和治理能力建設(shè)。