作者：高文（國家科技倫理委員會委員、中國工程院院士）

　　前不久，科技部、教育部、工業(yè)和信息化部等十部門印發(fā)《科技倫理審查辦法（試行）》（以下簡稱《審查辦法》），這是我國構(gòu)建科技倫理治理體系的里程碑文件，也是我國推進科技倫理治理制度體系建設(shè)的重要開篇。

　　自1956年達特茅斯會議提出“人工智能”這一概念以來，人工智能已歷經(jīng)了3次變革，逐步從系統(tǒng)級的知識推理向深度學(xué)習(xí)發(fā)展。當前，以ChatGPT為代表的自然語言處理，助推了通用人工智能（AGI）的演進，也再一次將人工智能技術(shù)推向了飛速發(fā)展的黃金期，使其迅速成為新的重要使能技術(shù)，被廣泛應(yīng)用于經(jīng)濟社會的各個領(lǐng)域，帶來新的產(chǎn)品和服務(wù)。然而，隨著人工智能技術(shù)的廣泛應(yīng)用，由此可能引發(fā)的AI技術(shù)濫用、個人隱私侵犯、算法歧視、倫理道德沖擊等諸多科技倫理問題已成為國際社會關(guān)注的焦點，亟待認真應(yīng)對、規(guī)范治理。

　　在通用人工智能掀起全球熱潮的同時，《審查辦法》恰逢其時地為我國人工智能的健康發(fā)展系上了“安全帶”，也將有力促進我國加快構(gòu)建良性健康的數(shù)字經(jīng)濟社會秩序。

　　《審查辦法》以“促進負責任創(chuàng)新”為核心理念，以強化科技倫理管理主體責任為抓手，指導(dǎo)開展問題導(dǎo)向的科技倫理治理，推動構(gòu)建一套發(fā)展與安全并重、創(chuàng)新與倫理并行的科技監(jiān)管與治理機制。在推進這套機制落地的過程中，要兼顧技術(shù)的創(chuàng)新發(fā)展與安全監(jiān)管，我認為，有幾點工作值得高度重視。

　　一是創(chuàng)新主體要自覺壓實科技倫理管理主體責任，將科技倫理要求貫穿科技活動全過程。科技倫理治理是科技創(chuàng)新能力和水平的重要體現(xiàn)，直接影響科技創(chuàng)新的質(zhì)量和效率。隨著人工智能等新興數(shù)字技術(shù)的廣泛應(yīng)用，其帶來的倫理風險也愈發(fā)復(fù)雜多變。創(chuàng)新主體應(yīng)結(jié)合《審查辦法》要求，加快優(yōu)化組織架構(gòu)和管理流程，構(gòu)建權(quán)責明晰的科技倫理管理體系，建立倫理風險預(yù)判機制，在設(shè)計、研發(fā)和應(yīng)用等科技活動的各個階段，要持續(xù)地識別、分析與管理倫理風險。同時，壓實科技創(chuàng)新管理責任，責任主體既要對科研目標負責，也要對科技倫理負責，提高科研人員的倫理意識，大力宣貫科技倫理道德教育，確保責任主體始終秉持科技向善理念，踐行負責任創(chuàng)新。

　　二是面向科技倫理治理持續(xù)開展研究，以技術(shù)創(chuàng)新應(yīng)對科技倫理治理的問題與挑戰(zhàn)。科技倫理治理應(yīng)始終與科研技術(shù)的創(chuàng)新發(fā)展緊密結(jié)合、同頻共振，用技術(shù)創(chuàng)新解決技術(shù)發(fā)展中的問題。創(chuàng)新主體應(yīng)借助技術(shù)手段輔助開展科技倫理審查與監(jiān)管，通過研發(fā)或使用新的技術(shù)工具、創(chuàng)新技術(shù)方法，重點解決技術(shù)在公平性、安全性、可解釋性、隱私保護等方面面臨的挑戰(zhàn)。目前，人工智能大模型相關(guān)應(yīng)用加速落地，然而，在人工智能大模型的數(shù)據(jù)清洗、敏感詞判別、合規(guī)使用以及基于國外企業(yè)和機構(gòu)提供的大模型底座熱啟動等方面仍存在不少漏洞和風險，如不加以規(guī)范治理，將可能對人類行為、人身健康、社會意識形態(tài)等方面造成危害，更有甚者，將嚴重威脅我國科技創(chuàng)新生態(tài)的有序發(fā)展。

　　三是加強國際科技治理合作，把握全球科技治理研究動態(tài)，謀劃中國科技治理合理路徑。科技價值觀始終是國際科技治理的核心議題，由于政治體制和民族文化等各不相同，各國科技倫理治理的理念與路線也不盡相同。我們既要積極擁抱國際科技創(chuàng)新網(wǎng)絡(luò)，在科技治理手段上與國際規(guī)范相銜接，推動科技更好地增進人類福祉、為人類社會發(fā)展服務(wù)。同時，也要立足我國國情，探索形成具有中國特色的治理方案，靈活運用清單動態(tài)調(diào)整機制，隨時準備應(yīng)對新問題、新挑戰(zhàn)。此外，要積極發(fā)起全球科技倫理治理交流與對話，大力宣傳中國科技倫理治理的創(chuàng)新實踐，進一步增強我國科技創(chuàng)新的傳播力和影響力。

　　在可預(yù)見的未來，智能技術(shù)向“強人工智能”逐步演進，科學(xué)智能（AI for Science）、具身智能等新方向也不斷涌現(xiàn)，智能技術(shù)、數(shù)字技術(shù)對經(jīng)濟社會的作用與影響將會越來越突出，這一過程必將伴隨著成倍增長的技術(shù)挑戰(zhàn)，科技倫理治理問題也將變得更加突出、更加緊迫。總之，科技倫理治理是一項復(fù)雜的系統(tǒng)性工程，既需要政府、學(xué)界、產(chǎn)業(yè)界等多方通力合作，也需要科技工作者的潛心研究和不懈努力，相信在不久的將來我們會在科技倫理治理方面取得更豐碩的成果。