◎記者 倪 麟

　　隨著《全球人工智能治理倡議》的發(fā)布，人工智能治理再次引發(fā)全球關(guān)注。作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量，人工智能的廣泛應(yīng)用正在深刻改變經(jīng)濟(jì)社會結(jié)構(gòu)，重塑人們的生活方式。

　　同時(shí)，人工智能也帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個(gè)人隱私等問題，對政府管理、經(jīng)濟(jì)安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。

　　當(dāng)前，該如何讓人工智能拾起初心，平衡其安全和發(fā)展？科技日報(bào)記者近日邀請中國工程院院士沈昌祥、百度首席技術(shù)官王海峰、清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東共同探討，解讀人工智能發(fā)展之路。

　　本意：人工和智能，孰輕孰重

　　記者：人工智能定義最早出現(xiàn)在1956年達(dá)特茅斯會議上。從各位的實(shí)踐來看，人工智能是什么？

　　沈昌祥：人工智能是指通過人類設(shè)計(jì)和編程，使智能機(jī)器能夠完成各種復(fù)雜任務(wù)，從而取代傳統(tǒng)人工角色。

　　王海峰：人工智能是研究和開發(fā)模擬、延伸和擴(kuò)展人類智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的科學(xué)。現(xiàn)階段，人工智能已成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正驅(qū)動第四次工業(yè)革命，將人類社會帶入智能時(shí)代。

　　鄧志東：從實(shí)踐來看，人工智能具有模擬人類解決各種復(fù)雜任務(wù)的能力。

　　記者：隨著ChatGPT等產(chǎn)品的出現(xiàn)，有人認(rèn)為人工的作用逐漸被智能取代，也有人認(rèn)為智能只是輔助人工的工具。在各位所屬領(lǐng)域中，對于人工智能中“人工”與“智能”的權(quán)衡有何看法？

　　沈昌祥：智能機(jī)器是由人類智慧演化而來的智能產(chǎn)品，能根據(jù)人類的喜好和需求，提供個(gè)性化服務(wù)。智能機(jī)器的所有動作和行為都是由人類編程和控制的，不可能完全脫離人類的掌控。

　　王海峰：人工智能發(fā)展要“以人為本”，增進(jìn)人類福祉。以大語言模型為代表的人工智能技術(shù)飛速發(fā)展，文心一言、ChatGPT可與人對話、輔助創(chuàng)作，提升人們的工作效率與生活體驗(yàn)。本質(zhì)上它仍是提升生產(chǎn)力的工具，能替代人類完成部分工作，也創(chuàng)造了更多工作機(jī)會。未來，人類將作為管理者，人工智能將輔助人，與人協(xié)同，提高工作效率，激發(fā)創(chuàng)造力。社會各界應(yīng)對人工智能抱有正確認(rèn)知和合理期待，推動人工智能發(fā)展，使其更好地為人類服務(wù)。

　　鄧志東：“人工”與“智能”密不可分。人工智能指機(jī)器模擬實(shí)現(xiàn)的人類智能，兩者關(guān)系應(yīng)稱為人工智能與人類的關(guān)系。短期內(nèi)，通用人工智能是輔助工具，幫助人類完成挑戰(zhàn)性任務(wù)。長遠(yuǎn)來看，交互式人工智能會推動人類與智能體“共融”，邁向“人—機(jī)融合發(fā)展”的嶄新世界。

　　定位：增長產(chǎn)品還是基礎(chǔ)設(shè)施

　　記者：人工智能對相關(guān)行業(yè)發(fā)展產(chǎn)生了重要影響。各位更傾向于將人工智能視為增長產(chǎn)品還是基礎(chǔ)設(shè)施？

　　沈昌祥：人工智能最初是獨(dú)立產(chǎn)品，后來被集成為具有各種功能的設(shè)備。當(dāng)設(shè)備相互連接、協(xié)調(diào)工作時(shí)，就形成了系統(tǒng)。這些系統(tǒng)的集合和互相作用，構(gòu)建起人工智能基礎(chǔ)設(shè)施的框架，為我們提供各種產(chǎn)品和服務(wù)。

　　記者：在人工智能基礎(chǔ)設(shè)施建設(shè)領(lǐng)域，各位對哪個(gè)方面特別關(guān)注？

　　沈昌祥：安全問題至關(guān)重要。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機(jī)器人智能行為體失控等重大風(fēng)險(xiǎn)。需對這些問題加強(qiáng)研究和防范，構(gòu)建由法律、戰(zhàn)略和制度等組成的安全可信的保障體系，確保人工智能基礎(chǔ)設(shè)施的安全、穩(wěn)定、可持續(xù)運(yùn)行。

　　王海峰：我長期關(guān)注深度學(xué)習(xí)平臺和大模型。深度學(xué)習(xí)平臺相當(dāng)于智能時(shí)代的操作系統(tǒng)，處于人工智能技術(shù)體系的關(guān)鍵核心位置。深度學(xué)習(xí)呈現(xiàn)出標(biāo)準(zhǔn)化、自動化、模塊化的特征，推動人工智能進(jìn)入工業(yè)大生產(chǎn)階段。隨著深度學(xué)習(xí)技術(shù)的普及和預(yù)訓(xùn)練技術(shù)的突破，大模型已成為人工智能發(fā)展的主流方向，具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化的特點(diǎn)，正成為人工智能技術(shù)及應(yīng)用的新基座。

　　鄧志東：從文本單模態(tài)的基礎(chǔ)大型語言模型到原生多模態(tài)大型語言模型，需要解決高水平人工智能通用大模型的API接入問題，推進(jìn)“以我為主”的人工智能基礎(chǔ)設(shè)施建設(shè)，包括人工智能芯片與云服務(wù)、開源框架生態(tài)建設(shè)等。視覺智能領(lǐng)域需要打好基礎(chǔ)，從國家層面推進(jìn)人工智能基礎(chǔ)設(shè)施建設(shè)，補(bǔ)短板，賦能從基礎(chǔ)與基座大模型到垂域模型的開發(fā)與應(yīng)用。

　　記者：企業(yè)在利用人工智能時(shí)可能面臨雙重需求。能否根據(jù)經(jīng)驗(yàn)，談?wù)勗谶@種情況下，企業(yè)如何將人工智能的價(jià)值最大化？

　　沈昌祥：企業(yè)需要考量產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化以及社會智能化的需求，充分利用人工智能技術(shù)，提升生產(chǎn)效率和服務(wù)質(zhì)量。同時(shí)，應(yīng)高度重視人工智能領(lǐng)域的人才培養(yǎng)與引進(jìn)，推動技術(shù)研發(fā)，以保持技術(shù)領(lǐng)先地位。還應(yīng)加強(qiáng)與其他行業(yè)的合作，不斷探索新的商業(yè)模式和應(yīng)用場景，為社會提供更便捷、更高效的服務(wù)。

　　王海峰：百度既是人工智能基礎(chǔ)設(shè)施建設(shè)者，也是人工智能技術(shù)創(chuàng)新引領(lǐng)者。以飛槳深度學(xué)習(xí)平臺、文心大模型等為代表的人工智能技術(shù)，已成為智能時(shí)代的重要基礎(chǔ)設(shè)施，賦能制造、能源、農(nóng)業(yè)等領(lǐng)域，帶動新技術(shù)、新產(chǎn)品、新業(yè)態(tài)等的發(fā)展。大模型產(chǎn)業(yè)落地，可采取“集約化生產(chǎn)，平臺化應(yīng)用”模式，即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢的企業(yè)將模型生產(chǎn)的復(fù)雜過程封裝起來，通過低門檻、高效率的生產(chǎn)平臺，為千行百業(yè)提供服務(wù)。文心大模型支撐大量AI原生應(yīng)用的開發(fā)，重構(gòu)現(xiàn)有產(chǎn)品，“從0到1”構(gòu)想出全新產(chǎn)品，構(gòu)建人工智能原生應(yīng)用生態(tài)，推動經(jīng)濟(jì)社會高質(zhì)量增長。

　　鄧志東：以多模態(tài)大型語言模型為代表的通用人工智能產(chǎn)業(yè)的發(fā)展，尚處于產(chǎn)業(yè)早期。不同企業(yè)應(yīng)有不同側(cè)重，人工智能頭部企業(yè)要對標(biāo)具有國際一流水平的基礎(chǔ)、基座大模型產(chǎn)品，縮短高性能AI芯片的國際差距。中小企業(yè)要積極開展人工智能價(jià)值與應(yīng)用產(chǎn)品的研發(fā)，著重于應(yīng)用場景多樣性、落地速度與商業(yè)模式創(chuàng)新。

　　風(fēng)險(xiǎn)：無處不在，誰更堪憂

　　記者：當(dāng)前人工智能風(fēng)險(xiǎn)普遍存在嗎？請結(jié)合具體案例說明。

　　沈昌祥：人工智能風(fēng)險(xiǎn)與網(wǎng)絡(luò)安全密切相關(guān)。網(wǎng)絡(luò)安全是人工智能發(fā)展的底座，其風(fēng)險(xiǎn)度=脆弱度×威脅度，其中脆弱度來源于圖靈計(jì)算原理缺少攻防安全理念、馮·諾依曼體系結(jié)構(gòu)缺少防護(hù)部件和重大工程應(yīng)用無安全治理服務(wù)三大原始性缺失。這使得網(wǎng)絡(luò)空間極其脆弱，受網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)性增加。2021年5月7日，美國最大的成品油管道運(yùn)營商科洛尼爾管道運(yùn)輸公司（Colonial Pipeline）受到勒索軟件攻擊，被迫關(guān)閉其美國東部沿海各州智能化供油網(wǎng)絡(luò)，美國政府宣布美國17個(gè)州和華盛頓特區(qū)進(jìn)入緊急狀態(tài)。

　　王海峰：從歷次工業(yè)革命來看，驅(qū)動科技革命和產(chǎn)業(yè)變革的技術(shù)，無論是機(jī)械技術(shù)、電氣技術(shù)、信息技術(shù)，還是當(dāng)前的人工智能技術(shù)，在為人類帶來巨大價(jià)值的同時(shí)，也會帶來一定的風(fēng)險(xiǎn)。但隨著科技的進(jìn)步，人類有足夠的能力控制風(fēng)險(xiǎn)，充分發(fā)揮新技術(shù)的價(jià)值。

　　鄧志東：通用人工智能的發(fā)展速度已超出大多數(shù)人的預(yù)期。只要通用人工智能發(fā)展，其風(fēng)險(xiǎn)就必然會普遍存在。從法律、倫理、隱私到就業(yè)等，各個(gè)領(lǐng)域與賽道、千行百業(yè)都面臨重寫、重塑的挑戰(zhàn)與風(fēng)險(xiǎn)。

　　記者：在自動駕駛、智慧醫(yī)療和人臉識別等特定領(lǐng)域，人工智能風(fēng)險(xiǎn)是否更為突出？

　　沈昌祥：自動駕駛、智慧醫(yī)療和人臉識別等技術(shù)，一旦出現(xiàn)問題將威脅到人類的生命安全和財(cái)產(chǎn)安全。IT系統(tǒng)設(shè)計(jì)不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞進(jìn)行攻擊的風(fēng)險(xiǎn)一直存在，傳統(tǒng)“封堵查殺”難以應(yīng)對未知惡意攻擊，找漏洞、打補(bǔ)丁的思路也不利于整體網(wǎng)絡(luò)安全，需要通過由被動防御轉(zhuǎn)為主動免疫的方式來降低人工智能特定領(lǐng)域風(fēng)險(xiǎn)。

　　治理：安全與發(fā)展能否相向而行

　　記者：隨著人工智能技術(shù)的持續(xù)發(fā)展，數(shù)據(jù)隱私和安全、能耗等問題日益凸顯。你們認(rèn)為，針對這些問題應(yīng)先發(fā)展后治理還是邊發(fā)展邊治理？

　　沈昌祥：要注重治理和發(fā)展平衡。應(yīng)構(gòu)建主動免疫可信計(jì)算新模式，打造計(jì)算部件和防護(hù)部件為核心的并行體系結(jié)構(gòu)，建設(shè)可信安全管理中心支持下的主動免疫的防護(hù)框架，實(shí)現(xiàn)主體、客體、操作、環(huán)境可信動態(tài)訪問控制，確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲、策略管理可信。以此達(dá)到讓攻擊者進(jìn)不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的防護(hù)效果，全方位維護(hù)人工智能安全。

　　王海峰：要堅(jiān)持發(fā)展和安全并重的原則，保障安全的同時(shí)支持和鼓勵(lì)創(chuàng)新發(fā)展。只有持續(xù)發(fā)展人工智能技術(shù)，才能在發(fā)展中發(fā)現(xiàn)問題、解決問題，把握科技競爭主動權(quán)。

　　記者：從各位的經(jīng)驗(yàn)來看，行業(yè)或者企業(yè)應(yīng)如何預(yù)防人工智能潛在的安全問題？

　　沈昌祥：要科學(xué)嚴(yán)謹(jǐn)分析研究，堅(jiān)持自主創(chuàng)新，掌握核心競爭力，把握主動優(yōu)勢。要以具有可信計(jì)算功能的國產(chǎn)軟硬件設(shè)備為基礎(chǔ)，在完備的法律、戰(zhàn)略和制度的支持下，盡快建立起完整的可信計(jì)算產(chǎn)品鏈，打造安全可信人工智能新生態(tài)，筑牢數(shù)字經(jīng)濟(jì)發(fā)展基石。

　　王海峰：正確認(rèn)識人工智能潛在的安全問題。任何一項(xiàng)技術(shù)的發(fā)展和應(yīng)用，都會帶來潛在的安全問題，而人工智能作為驅(qū)動科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，其安全問題更加受到關(guān)注。技術(shù)安全問題，可以用技術(shù)的手段來解決；產(chǎn)業(yè)安全問題，一方面政府應(yīng)支持自主可控的人工智能技術(shù)及應(yīng)用，另一方面應(yīng)建立健全相關(guān)法律法規(guī)，推動產(chǎn)業(yè)在合適尺度、明確標(biāo)準(zhǔn)之下發(fā)展人工智能技術(shù)及應(yīng)用。

　　鄧志東：人工智能發(fā)展在安全問題上尚存在許多不確定性。行業(yè)或企業(yè)需要邊走邊看，大膽深入，小心布防，造福人類。

　　記者：人工智能治理已經(jīng)上升為國際競爭合作的重要議題。在推動人工智能治理國際合作方面，各位有何見解？

　　沈昌祥：應(yīng)認(rèn)真貫徹執(zhí)行《全球人工智能治理倡議》，從創(chuàng)新發(fā)展、安全保障、治理三個(gè)方面著手，全方位保障我國人工智能基礎(chǔ)設(shè)施，并積極走出國門，與全球伙伴共建網(wǎng)絡(luò)空間命運(yùn)共同體。

　　王海峰：人工智能領(lǐng)域的研究本身是開放合作的，人工智能治理是其研究熱點(diǎn)之一，各方都很關(guān)切。來自全球?qū)W術(shù)界、產(chǎn)業(yè)界的專家學(xué)者，都可以通過開源社區(qū)、項(xiàng)目合作、學(xué)術(shù)會議、專題研討等多種方式開展合作交流，貢獻(xiàn)智慧。

　　鄧志東：人工智能的治理與國際競合，已超越了學(xué)術(shù)與產(chǎn)業(yè)，需要更強(qiáng)而有力的國際合作，以期取得國際共識，盡快構(gòu)建具有約束性、一致性與平衡性的國際規(guī)范。