習近平總書記強調(diào)，扎實推動科技創(chuàng)新和產(chǎn)業(yè)創(chuàng)新深度融合，要瞄準未來科技和產(chǎn)業(yè)發(fā)展制高點，加快新一代信息技術(shù)、人工智能、量子科技、生物科技、新能源、新材料等領(lǐng)域科技創(chuàng)新，培育發(fā)展新興產(chǎn)業(yè)和未來產(chǎn)業(yè)。作為人工智能發(fā)展的重要方向和驅(qū)動力，生成式人工智能已展現(xiàn)出對經(jīng)濟社會發(fā)展的強勁推動力，我們需積極推動其在各領(lǐng)域的落地應用，并對其帶來的一系列問題和現(xiàn)實挑戰(zhàn)加以審慎應對，推動負責任的生成式人工智能發(fā)展。

激發(fā)生成式人工智能的創(chuàng)新活力與應用潛力

曾大軍   

習近平總書記強調(diào)，“科技創(chuàng)新是發(fā)展新質(zhì)生產(chǎn)力的核心要素”，“要以科技創(chuàng)新推動產(chǎn)業(yè)創(chuàng)新，特別是以顛覆性技術(shù)和前沿技術(shù)催生新產(chǎn)業(yè)、新模式、新動能，發(fā)展新質(zhì)生產(chǎn)力”。利用前沿科技培育和推動新質(zhì)生產(chǎn)力發(fā)展，是建設(shè)現(xiàn)代化產(chǎn)業(yè)體系、推進高質(zhì)量發(fā)展、提升國際競爭力的重要內(nèi)容和必然要求。

生成式人工智能是發(fā)展新質(zhì)生產(chǎn)力的重要驅(qū)動力。以大模型為代表的生成式人工智能技術(shù)，通過在技術(shù)上集成多年積累的深度學習模型與訓練算法，依靠大算力，充分利用海量多模態(tài)數(shù)據(jù)，實現(xiàn)了從特定任務(wù)處理到跨領(lǐng)域通用的人工智能系統(tǒng)能力的飛躍，在語言理解、圖像識別、語音識別、內(nèi)容創(chuàng)作等多個領(lǐng)域展現(xiàn)了強大的能力和廣闊的應用前景。大模型具有豐富的常識，擁有強大的通用任務(wù)解決能力、較好的工具使用能力、卓越的人機交互能力以及出色的指令遵循能力，這些優(yōu)勢使大模型能夠顯著提升應用效率，輔助產(chǎn)業(yè)實現(xiàn)數(shù)智化轉(zhuǎn)型，從而帶來巨大的經(jīng)濟效益。

近兩年我國生成式人工智能取得了顯著進展，技術(shù)路徑基本探明，應用路徑逐漸明確，產(chǎn)業(yè)化應用落地廣泛。目前國產(chǎn)大模型數(shù)量已達數(shù)百個，涵蓋金融、醫(yī)療、教育等多個行業(yè)，成為賦能千行百業(yè)的新抓手和支撐產(chǎn)業(yè)創(chuàng)新的新支柱。生成式人工智能的發(fā)展與應用趨勢日益明朗。

生成式人工智能不僅是一種新技術(shù)，更代表著生產(chǎn)應用的新范式，能夠催生新產(chǎn)業(yè)和新業(yè)態(tài)。大模型的學習模式類似人類大腦的處理機制，基于一個通用底座，通過學習不同的數(shù)據(jù)，能夠形成多樣化的能力，而無須針對特定任務(wù)開發(fā)定制算法。通過自然的人機交互，用戶可直接通過對話生成應用程序，用戶就是程序員，數(shù)據(jù)和場景本身就是軟件應用。這一突破改變了軟件開發(fā)范式，使軟件開發(fā)由代碼驅(qū)動向語言描述驅(qū)動轉(zhuǎn)變，在需求分析、代碼編寫、測試、部署等軟件開發(fā)的各個流程，都顯著降低了技術(shù)門檻、提高了開發(fā)效率。這種新范式同時也給軟件系統(tǒng)的建設(shè)和應用帶來了新模式，使各行業(yè)的體系變革和生態(tài)發(fā)展都有了新邏輯和新路徑，促使新的產(chǎn)品、服務(wù)和商業(yè)模式不斷涌現(xiàn)。新興產(chǎn)業(yè)的形成和發(fā)展，將引領(lǐng)產(chǎn)業(yè)變革，成為新質(zhì)生產(chǎn)力培育和發(fā)展的主陣地。

生成式人工智能能夠推動傳統(tǒng)產(chǎn)業(yè)深度轉(zhuǎn)型升級，為實體經(jīng)濟發(fā)展注入新動能。通過將大模型應用于各個領(lǐng)域，可實現(xiàn)各行業(yè)的降本增效，提升產(chǎn)業(yè)自動化水平，助力企業(yè)的智能化升級，促使實體經(jīng)濟再上新臺階。在工業(yè)制造領(lǐng)域，生成式人工智能可輔助實現(xiàn)研發(fā)設(shè)計的自動化，為生產(chǎn)制造提供智能化的解決方案，通過預測需求、制定生產(chǎn)計劃助力經(jīng)營管理，并提供故障預測、健康管理等運維服務(wù)。在教育領(lǐng)域，可為師生提供智慧教育產(chǎn)品，實現(xiàn)個性化的因材施教。在醫(yī)療領(lǐng)域，可輔助診斷，成為醫(yī)生的診療助理和患者的健康助手。在金融領(lǐng)域，可為金融機構(gòu)提供智能客服、智能風控、智慧營銷等服務(wù)，為客戶提升服務(wù)體驗。據(jù)有關(guān)預測，2035年生成式人工智能有望為全球貢獻近90萬億元的經(jīng)濟價值，其中我國將突破30萬億元，且對我國經(jīng)濟的賦能效應顯著優(yōu)于美國等其他經(jīng)濟體。生成式人工智能與實體經(jīng)濟的深度融合，將打造“人工智能+”千行百業(yè)的產(chǎn)業(yè)新格局，形成現(xiàn)代化、智能化的產(chǎn)業(yè)體系，促進由傳統(tǒng)生產(chǎn)力向新質(zhì)生產(chǎn)力的轉(zhuǎn)型。

生成式人工智能帶來的安全風險和治理挑戰(zhàn)不容忽視。由于大模型自身結(jié)構(gòu)和生成機制存在漏洞，有被惡意攻擊的風險，同時大模型自身的知識表達和學習模式還存在缺陷，經(jīng)常出現(xiàn)常識性錯誤、杜撰內(nèi)容等“幻覺”。

為此，應建立針對大模型全生命周期的安全監(jiān)管與治理體系，從數(shù)據(jù)安全、模型安全、內(nèi)容安全、倫理安全等多個角度，保障大模型研發(fā)和應用安全可信。一方面，需制定技術(shù)標準，強化過程控制。建立嚴格的數(shù)據(jù)采集、存儲和處理規(guī)范，確保數(shù)據(jù)來源合法可靠，同時保障數(shù)據(jù)隱私。對大模型進行安全攻擊檢測，提升其對惡意攻擊的抵抗能力，并及時發(fā)現(xiàn)和修復安全漏洞。另一方面，系統(tǒng)推進大模型監(jiān)管體系建設(shè)，制定和完善相關(guān)法律法規(guī)。強化內(nèi)容審核和過濾機制，識別并過濾生成的虛假信息、惡意內(nèi)容和違法信息。明確倫理規(guī)范，建立倫理審查機制，確保人工智能發(fā)展遵循人類道德和價值觀。通過建立全流程的安全保障體系，降低生成式人工智能的安全風險，推動技術(shù)的安全、可持續(xù)發(fā)展。

同時，為充分發(fā)揮大模型的帶動作用，必須確保大模型的健康合理應用。然而，當前在大模型應用上仍存在一定誤區(qū)。一是將生成式人工智能“工具化”，僅將其視為生成文案的辦公工具。這種應用方式大大限制了生成式人工智能的潛力。大模型不僅可以用于文案生成，還能夠在數(shù)據(jù)分析、決策支持、輔助管理等多個重要環(huán)節(jié)發(fā)揮作用，其應用價值遠超辦公自動化。二是將生成式人工智能“神化”，誤將其視作萬能助手。雖然大模型具備強大的通用能力，但在專業(yè)領(lǐng)域的賦能往往依賴專業(yè)知識，通用大模型難以滿足需求，只有與根據(jù)專業(yè)領(lǐng)域的知識和需求定制專用模型相結(jié)合，才能實現(xiàn)更為精準和有效的支持。

樹立立體思維，保障應用健康發(fā)展。著力促進各類大模型之間、人與機器之間的靈活配合與協(xié)同進化，充分激發(fā)大模型的創(chuàng)新活力與應用潛力，最大化釋放大模型的應用價值。

一是形成各類大模型各司其職、共同發(fā)展的創(chuàng)新生態(tài)。大模型可分為三類：底座大模型、領(lǐng)域大模型和任務(wù)大模型。底座大模型通過在大規(guī)模無標注數(shù)據(jù)上進行訓練，學習人類常識，能夠形成舉一反三的強大泛化能力，具有基礎(chǔ)的通用功能，相當于完成了人類的通識教育。底座大模型可看作智能時代的基礎(chǔ)設(shè)施，方便更多開發(fā)者在其基礎(chǔ)上做進一步開發(fā)，從而促進大模型的普及和應用，加速構(gòu)建更加活躍多元的技術(shù)生態(tài)系統(tǒng)。相比通用的底座大模型，領(lǐng)域大模型和任務(wù)大模型則更為專用。領(lǐng)域大模型專注于特定行業(yè)或領(lǐng)域的知識，通?；陬I(lǐng)域相關(guān)專業(yè)數(shù)據(jù)進行預訓練或微調(diào)，相當于完成了專業(yè)教育，成為領(lǐng)域“專家”。任務(wù)大模型針對具體任務(wù)進行微調(diào)和優(yōu)化，以提升其在具體任務(wù)上的效果。應引導各類模型共同發(fā)展，培育多元化的創(chuàng)新生態(tài)。在實際應用中，應根據(jù)場景選擇相應的模型，充分發(fā)揮各類模型的優(yōu)勢，從而更好地滿足多樣化需求，實現(xiàn)最佳的應用效果。

二是形成大模型通專結(jié)合、高效協(xié)同的創(chuàng)新體系。通用大模型與專業(yè)大模型各有優(yōu)勢，它們之間的關(guān)系應辯證看待。通用大模型作為跨領(lǐng)域的通用平臺，能夠提供廣泛適用的解決方案，滿足不同用戶的基本需求，具有適用范圍廣、靈活性強等優(yōu)勢。在依賴常識的通用場景，如主要面向公眾的消費型業(yè)務(wù)和虛擬互聯(lián)網(wǎng)應用等，能夠發(fā)揮不可替代的作用。專用大模型專注于特定領(lǐng)域，通過深耕行業(yè)的專業(yè)知識，發(fā)揮領(lǐng)域縱深優(yōu)勢，提供針對特定業(yè)務(wù)場景的高質(zhì)量解決方案，具有專業(yè)精度高、定制性強等特點。在實體經(jīng)濟、工業(yè)應用等更依賴專業(yè)知識的場景中，能夠提供更加精準有效的支持。因此，應鼓勵兩類模型協(xié)同發(fā)展，支持互聯(lián)網(wǎng)頭部企業(yè)研發(fā)通用大模型，增強大模型的綜合能力，同時支持各行業(yè)發(fā)揮行業(yè)優(yōu)勢，在通用大模型的基礎(chǔ)上深耕專用模型，形成通專協(xié)同的創(chuàng)新體系。在實際應用中，通過實現(xiàn)兩類模型的協(xié)同合作，使其充分發(fā)揮各自的優(yōu)勢，提高整體應用效果。

三是形成人機融合、混合增強的創(chuàng)新機制。大模型自然流暢的人機交互能力，顛覆了傳統(tǒng)的人機交互范式，大幅提高了人機協(xié)同的效率和靈活性。為實現(xiàn)基于大模型的人機高效協(xié)同，需從業(yè)務(wù)體系層面進行系統(tǒng)性的重構(gòu)。首先應明確界定大模型、人類和專家各自的職責范圍，統(tǒng)籌發(fā)揮各自的優(yōu)勢。大模型在系統(tǒng)設(shè)計中應擔任自動化任務(wù)者的核心角色，充分發(fā)揮其能夠快速處理大量信息、高效執(zhí)行重復性任務(wù)的優(yōu)勢，顯著提升系統(tǒng)的整體運行效率；人類應發(fā)揮創(chuàng)造力強、決策能力強的優(yōu)勢，對系統(tǒng)起到整體設(shè)計和引導的作用；對于需要深入理解和判斷的任務(wù)，例如復雜情境中的任務(wù)或非標準問題，需由經(jīng)驗豐富的專家團隊來主導，確保決策的科學性和有效性。其次應面向?qū)嶋H需求，設(shè)計人機協(xié)同工作流，建立有效的人機溝通機制和協(xié)作策略，確保人機能夠高效合作。通過形成人機協(xié)同的創(chuàng)新機制，不斷優(yōu)化資源配置，提升系統(tǒng)的靈活性，實現(xiàn)更高效的系統(tǒng)性能，用人機融合新機制促進新質(zhì)生產(chǎn)力的發(fā)展。

（作者系中國科學院科技基礎(chǔ)能力局副局長、自動化研究所副所長）

推動負責任的人工智能發(fā)展

胡明艷  

當前，生成式人工智能作為人工智能技術(shù)發(fā)展的最新進展，依托大量豐富的數(shù)據(jù)和預訓練的深度學習算法，比以往的人工智能具有更加強大、泛化的自然語言理解能力和內(nèi)容生成能力，能夠應對不同場景的使用并為多個行業(yè)提供應用支撐。

由于生成式人工智能的強大性能和通用性，針對不同領(lǐng)域、場景的定制化生成式人工智能將具有廣闊的市場需求，相關(guān)產(chǎn)業(yè)發(fā)展前景廣闊，因而有望成為智能化世界的基礎(chǔ)設(shè)施，推動智能產(chǎn)業(yè)的發(fā)展。通過與相關(guān)產(chǎn)業(yè)融合，生成式人工智能將以智能賦能產(chǎn)業(yè)，深挖行業(yè)潛力、拓寬發(fā)展空間，推動產(chǎn)業(yè)智能化發(fā)展、引導傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級，從而作為底層技術(shù)賦能千行百業(yè)。同時，生成式人工智能還將改變甚至塑造出新的生活習慣和消費方式。生成式人工智能使信息檢索更加高效便捷，使商品信息、商家差異更加透明，這將導致企業(yè)更加注重產(chǎn)品質(zhì)量與行業(yè)規(guī)范，倒逼產(chǎn)業(yè)升級。生成式人工智能在編輯、編程、翻譯等方面也將減少繁雜的基礎(chǔ)工作，給人們帶來更多的休閑時間，間接創(chuàng)造新的消費需求和市場。另外，生成式人工智能將推動科研范式的變革。生成式人工智能在文獻數(shù)據(jù)獲取、結(jié)果分析等方面的應用將助推科學研究的知識模型快速生成和優(yōu)化迭代，其在結(jié)構(gòu)預測上的卓越性能可能會在藥物研發(fā)、新材料研究上引發(fā)根本性變革。

但是，科學技術(shù)是一把“雙刃劍”，生成式人工智能在帶來諸多機遇的同時也會帶來許多隱患。由于生成過程的復雜性，生成式人工智能的算法超越了工程師和用戶的理解范疇，產(chǎn)生“算法黑箱”。而且人工智能呈現(xiàn)出的對文本、圖像的掌握只是基于要素之間的相關(guān)性，并不真正了解對象的本質(zhì)和因果聯(lián)系，其生成的內(nèi)容可能是在“一本正經(jīng)地胡說八道”。若生成式人工智能產(chǎn)生的虛假信息被濫用，會給網(wǎng)絡(luò)安全和國家安全帶來嚴重后果。同時，生成式人工智能所依賴的算法設(shè)計和數(shù)據(jù)輸入都蘊含了設(shè)計者的價值偏好，其輸出內(nèi)容也附著了價值觀念甚至歧視偏見，也會存在被誘導輸出虛假內(nèi)容和有害信息的風險，引發(fā)算法歧視、學術(shù)不端等倫理風險。此外，數(shù)據(jù)來源和生成物可能引發(fā)知識產(chǎn)權(quán)糾紛。生成式人工智能的研發(fā)需要極大體量的數(shù)據(jù)進行訓練，這讓其數(shù)據(jù)來源的版權(quán)合法性難以得到保證，其生成物的版權(quán)分配也難以界定。大數(shù)據(jù)是生成式人工智能實現(xiàn)突破的重要基礎(chǔ)，但是過度挖掘數(shù)據(jù)又將侵犯用戶個人隱私，給用戶帶來困擾。

對于生成式人工智能這一新生事物，我們應對其持鼓勵與包容的態(tài)度，但不能任其無序發(fā)展，必須推動負責任的人工智能發(fā)展。一是以技術(shù)規(guī)范技術(shù)。通過強化數(shù)據(jù)安全、隱私保護等技術(shù)的研發(fā)，加強對人工智能算法與模型的可溯源研究和審查評估研究，運用技術(shù)手段反制和鑒別人工智能所生成的內(nèi)容。同時，積極探索生成式人工智能的問責機制與行為規(guī)范，努力打造安全可信的人工智能。二是以政策法規(guī)保障技術(shù)健康有序發(fā)展。及時規(guī)范相關(guān)技術(shù)與產(chǎn)品的合理準入范圍和應用邊界，營造良好的發(fā)展環(huán)境。2023年，我國發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，提出了包容審慎和分級分類監(jiān)管等辦法，為生成式人工智能在各領(lǐng)域的應用指明了健康規(guī)范的發(fā)展方向。2024年，我國又發(fā)布了《生成式人工智能服務(wù)安全基本要求》，進一步規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求。這些政策法規(guī)有助于保障人工智能發(fā)展與安全并重、促進創(chuàng)新與依法治理相結(jié)合，必須切實推進實施。三是以倫理規(guī)范貫穿技術(shù)研發(fā)全過程?？萍紓惱硎情_展科學研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，是促進科技事業(yè)健康發(fā)展的重要保障。生成式人工智能技術(shù)的發(fā)展需要遵循倫理先行、敏捷治理的要求，將科技倫理貫穿其科研開發(fā)應用全過程，加強倫理風險預警與跟蹤研判，及時動態(tài)調(diào)整治理方式和倫理規(guī)范，以實現(xiàn)負責任的創(chuàng)新。

生成式人工智能的技術(shù)局限和倫理風險

吳文峻  

自ChatGPT面世以來，生成式人工智能成為人工智能領(lǐng)域發(fā)展的熱點。生成式人工智能技術(shù)的基本形態(tài)，是采用海量數(shù)據(jù)來訓練人工智能大模型，使其學會人類的語言文本和圖像視頻的統(tǒng)計模式后，能夠在用戶給出提示指令后，自動地生成所需的數(shù)字內(nèi)容。與傳統(tǒng)人工智能局限于分類、識別等特定功能相比，生成式人工智能更關(guān)注創(chuàng)造性內(nèi)容的生成，展現(xiàn)出前所未有的文字對話、文檔撰稿、代碼編寫、圖片創(chuàng)意、語音合成和視頻生成等多樣性的能力。

生成式人工智能技術(shù)綜合了60多年來人工智能的研究成果，特別是最近10年來深度學習的技術(shù)突破。首先，能夠從海量的語料數(shù)據(jù)中學習人類知識，熟記文本、語音、圖像、視頻等內(nèi)在規(guī)律與統(tǒng)計模式，自動生成用戶所需的新文本、圖片、聲音和視頻。其次，實現(xiàn)了大模型的基于大量數(shù)據(jù)的訓練學習通用特征與在特定任務(wù)上進行微調(diào)以優(yōu)化性能的學習模式，并能夠接受人類反饋進一步強化學習。不但可以記憶通用的人類知識，還可以持續(xù)學習專業(yè)的知識與技能，并在人類的獎勵指導下，輸出符合人類道德和法律約束的內(nèi)容。最后，具備多模態(tài)數(shù)據(jù)的融合機制，動態(tài)融合文本、語音、圖像、視頻等數(shù)據(jù)，不僅能夠生成更為豐富多樣的數(shù)字內(nèi)容，而且通過語音、手勢、面部表情等的識別，支撐實現(xiàn)AI像人一樣與人類交流互動?？傊?，生成式人工智能已經(jīng)展現(xiàn)出了多模態(tài)、通用化的認知和交互智能，表現(xiàn)出“由專到通”的強大能力，在自動化文檔生成、自動化編程、智能客戶服務(wù)、供應鏈管理、產(chǎn)品研發(fā)、智慧教育和智慧醫(yī)療等多個領(lǐng)域展現(xiàn)出極大優(yōu)勢，因而成為諸多領(lǐng)域的熱門應用。

雖然這兩三年來生成式人工智能展現(xiàn)出了前所未有的認知和多模態(tài)交互能力，但是其內(nèi)在局限日益凸顯，如何繼續(xù)深入推進生成式人工智能技術(shù)發(fā)展，使之能夠真正廣泛落地應用，成為人們關(guān)注的焦點。

首先，生成式人工智能所依賴的大模型在精準的認知理解和邏輯推理方面存在明顯局限。一方面，由于大模型的幻覺現(xiàn)象問題，容易輸出事實性錯誤的內(nèi)容。另一方面，大模型的內(nèi)容生成本質(zhì)上屬于概率統(tǒng)計性的詞匯預測，所以它無法像人類一樣完成長鏈條的動態(tài)邏輯推理。這兩個方面的問題意味著很難將生成式人工智能直接嵌入實際業(yè)務(wù)。因此，如何面向落地場景的需要，消除生成式人工智能的認知幻覺，提升或彌補其邏輯推理能力就成為其進一步發(fā)展的關(guān)鍵問題。

其次，生成式人工智能面臨著規(guī)模提升效益瓶頸。在大模型研發(fā)中，模型的性能提升和模型參數(shù)規(guī)模之間滿足冪律關(guān)系，即模型規(guī)模越大，輸入的訓練數(shù)據(jù)越多，模型預測能力就越強。因此，不少企業(yè)認為只要繼續(xù)擴大模型規(guī)模，就能夠在不遠的將來實現(xiàn)通用人工智能。但是，一方面，近5年來大模型的參數(shù)規(guī)模呈現(xiàn)指數(shù)級增強趨勢，對智能算力的需求與日俱增，最大模型GPT-4的參數(shù)規(guī)模已經(jīng)到了萬億級別，需要上萬張GPU卡的集群進行數(shù)月的模型訓練和參數(shù)調(diào)優(yōu)。而一些企業(yè)還在擴大GPU集群規(guī)模，正在投資建設(shè)10萬張GPU卡，乃至百萬張GPU卡的規(guī)模。構(gòu)建和運行如此大規(guī)模的智算集群，需要克服集群供電和散熱等能耗難題。另一方面，高質(zhì)量和高密度數(shù)據(jù)語料庫也將成為制約模型規(guī)模繼續(xù)擴大的因素。眾所周知，大模型的性能提升需要大量的高質(zhì)量訓練語料，目前語料庫主要來自互聯(lián)網(wǎng)公共領(lǐng)域數(shù)據(jù)的匯集。有報告指出，預計到2028年大模型訓練將耗盡所有互聯(lián)網(wǎng)公共數(shù)據(jù)資源，大模型增長不可避免地遭遇數(shù)據(jù)危機。為此，需要面向垂直領(lǐng)域，深度挖掘私域數(shù)據(jù)，擴大高質(zhì)量數(shù)據(jù)共享，以支撐大模型更好適應垂直領(lǐng)域的需求。

由此可見，如果生成式人工智能企圖單純以擴大模型規(guī)模來實現(xiàn)絕對通用的智能模型，無論是在技術(shù)上還是在經(jīng)濟成本上，都不是可持續(xù)的技術(shù)路線。需要面向垂直領(lǐng)域的業(yè)務(wù)邏輯和落地場景，有針對性地在業(yè)務(wù)流程中發(fā)揮大模型的長處，彌補其不足，以通專結(jié)合的技術(shù)路線，實現(xiàn)大模型在產(chǎn)業(yè)上的廣泛落地與價值賦能。具體地說，就是瞄準領(lǐng)域的重點和難點需求，構(gòu)造各種各樣的專業(yè)小模型，與基座大模型相結(jié)合，打造領(lǐng)域適配的專業(yè)智能體，實現(xiàn)生成式人工智能對現(xiàn)有系統(tǒng)的賦能與升級。

生成式人工智能的發(fā)展使得相關(guān)的倫理安全風險日益突出，大模型認知能力的涌現(xiàn)和內(nèi)在缺陷給人工智能的社會治理帶來了更多挑戰(zhàn)。首先，基于大模型的生成式人工智能系統(tǒng)缺乏可靠的安全護欄，很容易因受到攻擊而輸出敏感信息或是價值觀錯誤的內(nèi)容。由于大模型的“算法黑箱”特征，其功能與行為的可解釋性和透明性都是需要深入研究的難點問題。其次，生成式人工智能廣泛應用帶來的各類衍生風險層出不窮，最突出的是深度合成內(nèi)容的治理問題。大模型生成的各類數(shù)字內(nèi)容與人類創(chuàng)造的內(nèi)容相比，很多時候已經(jīng)到了真假難辨的程度，給網(wǎng)絡(luò)詐騙和虛假內(nèi)容傳播等提供了新的技術(shù)手段。為此，急需系統(tǒng)地推行內(nèi)容標識、水印驗證等，建立可行的AI內(nèi)容溯源管理平臺，以確保健康的數(shù)字生態(tài)環(huán)境。最后，生成式人工智能研發(fā)與應用的敏捷治理將走向系統(tǒng)化和法治化。目前國內(nèi)外都在積極制定生成式人工智能的法律法規(guī)制度，希望既有效地防范這一新興技術(shù)帶來的各類潛在和現(xiàn)實風險，又能夠促進和規(guī)范這一技術(shù)的健康發(fā)展。為此，分級化的敏捷治理成為當前研究的熱點，通過設(shè)置訓練算力閾值，把治理的重點放在超大規(guī)模神經(jīng)網(wǎng)絡(luò)模型的研發(fā)和服務(wù)上，而對海量中小規(guī)模模型的研發(fā)活動采取簡便的敏捷治理模式，從而實現(xiàn)新技術(shù)發(fā)展進步和有效治理的平衡。

　　（作者系北京航空航天大學人工智能學院教授）