據(jù)美國消費者新聞與商業(yè)頻道網(wǎng)站近日報道，中國國家互聯(lián)網(wǎng)信息辦公室表示，該辦公室聯(lián)合其他幾個監(jiān)管機(jī)構(gòu)公布了《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行。報道稱，生成式人工智能是一個快速發(fā)展的技術(shù)領(lǐng)域，能夠生成文本或圖像等內(nèi)容。美國開放人工智能研究中心開發(fā)的聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（ChatGPT）是最廣為人知的一個例子。ChatGPT的成功引發(fā)了競爭對手的涌現(xiàn)，也引起全球各地監(jiān)管機(jī)構(gòu)對這一技術(shù)領(lǐng)域潛在風(fēng)險的擔(dān)憂。報道說，中國國家網(wǎng)信辦公布的暫行辦法為科技巨頭在技術(shù)方面提供了一個業(yè)務(wù)規(guī)范。
生成式人工智能服務(wù)主要基于大規(guī)模語言模型，幫助用戶生成文本、圖片、音頻、視頻等內(nèi)容。目前，中國開發(fā)的大規(guī)模語言模型（下稱：大模型）有80余個。參與模型開發(fā)的主要有大型科技公司、高校以及電信設(shè)備制造商等。截至今年5月，據(jù)不完全統(tǒng)計，中國國內(nèi)已有超過40家公司、機(jī)構(gòu)發(fā)布了生成式模型產(chǎn)品或公布了生成式模型研發(fā)計劃。大模型項目數(shù)量井噴式增長，凸顯生成式人工智能服務(wù)在中國迅猛發(fā)展的態(tài)勢。
自3月14日GPT—4正式發(fā)布以來，生成式模型開始具備同時處理圖片和文字的多模態(tài)能力，應(yīng)用場景也隨之多元化。目前，生成式的大模型可用于電商客服、法律服務(wù)、日常辦公、平面設(shè)計等多個領(lǐng)域，在自動化寫作與內(nèi)容生成、智能客服與在線客戶支持、生成插圖和設(shè)計物料以及代碼編寫等方面有出色表現(xiàn)。
技術(shù)發(fā)展對法律規(guī)定提出更高要求。近年來，中國相關(guān)部門十分重視人工智能領(lǐng)域發(fā)展，不斷推出相關(guān)規(guī)定完善監(jiān)督體系。2021年，國家網(wǎng)信辦等四部門出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》；2022年，國家網(wǎng)信辦等三部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，該文件主要針對應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)進(jìn)行監(jiān)管。今年6月20日，國家網(wǎng)信辦發(fā)布《境內(nèi)深度合成服務(wù)算法備案清單》，美團(tuán)在線智能客服算法、快手短視頻生成合成算法、百度文生圖內(nèi)容生成算法、百度PLATO大模型算法、火山引擎智能美化特效算法、騰訊會議虛擬背景算法、天貓小蜜智能客服算法、訊飛語音識別算法等41款深度合成技術(shù)服務(wù)算法獲得備案，其中文本對話、智慧客服等是主要應(yīng)用場景。有機(jī)構(gòu)認(rèn)為，該清單的發(fā)布體現(xiàn)了中國科技企業(yè)對算法備案等合規(guī)義務(wù)的認(rèn)真態(tài)度，標(biāo)志著國家對推動前沿人工智能技術(shù)規(guī)范化發(fā)展的決心，人工智能產(chǎn)業(yè)化落地有望加速開啟。自2022年底ChatGPT發(fā)布后，全鏈條視角看待生成式人工智能秩序的維護(hù)和監(jiān)管加速提上日程。
接下來，需要密切關(guān)注大模型的迅速發(fā)展。業(yè)內(nèi)不少聲音指出，未來大模型將成為數(shù)字空間或互聯(lián)網(wǎng)空間新層次，向用戶提供所謂“模型即服務(wù)”。這類服務(wù)能夠根據(jù)用戶不同需求進(jìn)行擴(kuò)展和定制，使應(yīng)用更加靈活及個性化。用戶也可通過應(yīng)用程序接口等方式與模型進(jìn)行交互，利用人工智能解決實際問題。
人工智能技術(shù)普及在為人類生活帶來便利的同時，也帶來很多挑戰(zhàn)。比如，大規(guī)模語言模型存在本身固有問題。雖然生成式人工智能技術(shù)日趨成熟，但大模型內(nèi)部結(jié)構(gòu)復(fù)雜，很難精確控制其輸出。目前，大模型已知風(fēng)險主要表現(xiàn)為產(chǎn)生不當(dāng)內(nèi)容，如虛假消息、帶有歧視性言論、侵犯個人隱私和個人信息以及侵犯商業(yè)秘密等。盡管現(xiàn)有技術(shù)能夠在一定程度上減少此類問題發(fā)生，但實際效果不盡人意。此次《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）出臺將促進(jìn)人工智能良性發(fā)展。人工智能產(chǎn)業(yè)是經(jīng)濟(jì)發(fā)展新引擎，《辦法》鼓勵生成式人工智能服務(wù)創(chuàng)造新的經(jīng)濟(jì)增長點。《辦法》旨在維護(hù)國家安全、社會公共利益、公民合法權(quán)益等的同時，用科學(xué)合理的措施進(jìn)行監(jiān)管，推動人工智能產(chǎn)業(yè)朝著健康積極的方向前進(jìn)。
未來，生成式人工智能服務(wù)要實現(xiàn)良性發(fā)展，必須把好安全關(guān)：一是積極推動科技向善。將科技的創(chuàng)新力與以人民為中心的發(fā)展理念相結(jié)合，保護(hù)用戶個人隱私及數(shù)據(jù)安全，在法律引導(dǎo)下使科技應(yīng)用符合社會公眾期待，做到科技產(chǎn)業(yè)為民服務(wù)。二是在規(guī)避大模型已知風(fēng)險方面發(fā)力。人工智能服務(wù)提供者在研發(fā)以及對外提供服務(wù)過程中，需依照有關(guān)規(guī)定采取必要的措施，改進(jìn)算法、合規(guī)化數(shù)據(jù)，完善模型架構(gòu)。三是營造可信的人工智能發(fā)展環(huán)境。提升人工智能算法透明度，加強(qiáng)技術(shù)研發(fā)和創(chuàng)新，提高人工智能產(chǎn)品的安全性和穩(wěn)定性。與此同時，應(yīng)當(dāng)推進(jìn)生成式人工智能發(fā)展所需的算力基礎(chǔ)設(shè)施、優(yōu)質(zhì)數(shù)據(jù)集等建設(shè)，更好地促進(jìn)產(chǎn)業(yè)發(fā)展。
（王曼曼采訪整理）
