摘 要:新一代人工智能已滲透到科學(xué)技術(shù)創(chuàng)新、社會(huì)經(jīng)濟(jì)轉(zhuǎn)型和生產(chǎn)生活變革的方方面面。新一代人工智能的發(fā)展和應(yīng)用為國(guó)家治理帶來新思路和新機(jī)遇，推動(dòng)了國(guó)家治理能力和效率的提升；另一方面，也帶來了數(shù)據(jù)治理技術(shù)、科技治理規(guī)范、經(jīng)濟(jì)治理能力、社會(huì)意識(shí)形態(tài)安全等一系列新挑戰(zhàn)。因此，應(yīng)在系統(tǒng)思維導(dǎo)向下，從強(qiáng)化國(guó)家安全意識(shí)出發(fā)，加強(qiáng)頂層設(shè)計(jì)、打造創(chuàng)新生態(tài)、防范系統(tǒng)風(fēng)險(xiǎn)、規(guī)范科技倫理治理、建立風(fēng)險(xiǎn)預(yù)警機(jī)制，有效應(yīng)對(duì)新挑戰(zhàn)，打造發(fā)展新優(yōu)勢(shì)。

關(guān)鍵詞:新一代人工智能 國(guó)家治理 國(guó)家安全

【中圖分類號(hào)】D63 【文獻(xiàn)標(biāo)識(shí)碼】A

2023年2月27日，中共中央、國(guó)務(wù)院印發(fā)《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》，指出要“以數(shù)字化驅(qū)動(dòng)生產(chǎn)生活和治理方式變革，為以中國(guó)式現(xiàn)代化全面推進(jìn)中華民族偉大復(fù)興注入強(qiáng)大動(dòng)力”，強(qiáng)調(diào)以數(shù)字技術(shù)賦能國(guó)家治理體系和能力現(xiàn)代化。人工智能的快速發(fā)展推動(dòng)經(jīng)濟(jì)社會(huì)的深度變革，尤其以ChatGPT等大語言模型為代表的新一代人工智能的發(fā)展成為現(xiàn)象級(jí)事件，為整個(gè)社會(huì)的治理方式、治理理念帶來巨大轉(zhuǎn)變，對(duì)國(guó)家治理的影響不容忽視。一方面，新一代人工智能的發(fā)展和應(yīng)用為國(guó)家治理帶來新思路和新機(jī)遇，推動(dòng)了國(guó)家治理能力和效率的提升；另一方面，也帶來了數(shù)據(jù)治理技術(shù)、科技治理規(guī)范、經(jīng)濟(jì)治理能力、社會(huì)意識(shí)形態(tài)安全等一系列新挑戰(zhàn)，需要對(duì)其可能帶來的倫理、法律和安全風(fēng)險(xiǎn)進(jìn)行約束和監(jiān)管。

鑒于此，建議深度研究新一代人工智能與國(guó)家治理之間的內(nèi)在機(jī)理，審慎應(yīng)對(duì)新一代人工智能給國(guó)家治理帶來的變革，強(qiáng)化國(guó)家安全意識(shí)，加強(qiáng)頂層設(shè)計(jì)、打造創(chuàng)新生態(tài)、防范系統(tǒng)風(fēng)險(xiǎn)、規(guī)范科技倫理治理、建立風(fēng)險(xiǎn)預(yù)警機(jī)制，以防范新一代人工智能嵌入國(guó)家治理的諸多風(fēng)險(xiǎn)，更好發(fā)揮新一代人工智能對(duì)國(guó)家治理的賦能效用。

新一代人工智能為國(guó)家治理帶來新機(jī)遇

作為滲透面廣、帶動(dòng)性強(qiáng)、影響深刻的新興技術(shù)體系，新一代人工智能在通用領(lǐng)域的“智慧涌現(xiàn)”，不僅推動(dòng)科研、辦公、工業(yè)、互聯(lián)網(wǎng)的深刻變革[1]，也為國(guó)家治理帶來全新的發(fā)展機(jī)遇，如ChatGPT等大語言模型擅長(zhǎng)的人機(jī)交互、語言理解和生成、計(jì)算機(jī)編程等能力，提升了工作效率，進(jìn)一步優(yōu)化社會(huì)分工，助推國(guó)家治理效能的提高與躍升。

新一代人工智能是國(guó)家治理的有效工具。新一代人工智能將重塑政民互動(dòng)模式，提升政民互動(dòng)體驗(yàn)；優(yōu)化數(shù)字政務(wù)服務(wù)體系，支撐公共決策科學(xué)精準(zhǔn)，輔助政府治理與決策，是更為智能有效的國(guó)家治理工具。首先，承載著強(qiáng)大語言理解和生成能力的新一代人工智能將會(huì)對(duì)現(xiàn)有人機(jī)交互模式帶來全方位的深層次沖擊，重構(gòu)政府與民眾之間的互動(dòng)過程，從而帶來政民互動(dòng)體驗(yàn)的實(shí)質(zhì)性改善。例如，可以利用大語言模型等技術(shù)開發(fā)智能聊天機(jī)器人，讓政府和民眾之間的溝通交流更加順暢。其次，新一代人工智能有望借助海量數(shù)據(jù)和萬物互聯(lián)的嵌入平臺(tái)、操作系統(tǒng)或基礎(chǔ)設(shè)施，對(duì)現(xiàn)有在線政務(wù)服務(wù)和自動(dòng)化的公共事務(wù)處理體系進(jìn)行全面、變革性的優(yōu)化，實(shí)現(xiàn)各項(xiàng)服務(wù)之間的互聯(lián)互通，并開發(fā)公共服務(wù)響應(yīng)系統(tǒng)，實(shí)現(xiàn)治理工具的智能化。再次，新一代人工智能通過海量數(shù)據(jù)的匯聚和決策算法的優(yōu)化，利用模型模擬和預(yù)測(cè)支持公共決策和管理工作，處理現(xiàn)實(shí)生活中的復(fù)雜巨系統(tǒng)問題，推動(dòng)公共決策智能化、科學(xué)化、精準(zhǔn)化，成為決策者的數(shù)字助手。

新一代人工智能重塑國(guó)家治理結(jié)構(gòu)和治理體系。新一代人工智能將自上而下重塑政府不同層級(jí)、不同部門的內(nèi)部結(jié)構(gòu)和業(yè)務(wù)流程，系統(tǒng)變革政府行政體系、政府回應(yīng)體系、數(shù)據(jù)開放體系以及公共服務(wù)體系，為國(guó)家治理體系現(xiàn)代化提供系統(tǒng)的組織保障。新一代人工智能大模型帶來的集中式建模能力將有效緩解碎片化應(yīng)用開發(fā)的痛點(diǎn)，其所具有的強(qiáng)大的對(duì)話、交流能力可以很好地賦能虛擬人應(yīng)用場(chǎng)景，大模型對(duì)多模態(tài)信息的強(qiáng)大處理能力能孵化出來更豐富的多模態(tài)應(yīng)用?；谛袠I(yè)多模態(tài)大模型、多模態(tài)融合分析、機(jī)器視覺等新一代人工智能可以幫助政府?dāng)[脫繁雜的算法、算力、數(shù)據(jù)整合工作，高效率應(yīng)用到國(guó)家治理各領(lǐng)域應(yīng)用場(chǎng)景。此外，新一代人工智能在通用領(lǐng)域的“智慧涌現(xiàn)”有助于推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化，精準(zhǔn)防控現(xiàn)代社會(huì)發(fā)展中的風(fēng)險(xiǎn)，有力維護(hù)政治穩(wěn)定和社會(huì)安全，促進(jìn)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。

新一代人工智能提升國(guó)家治理效率和水平。新一代人工智能具備強(qiáng)大的數(shù)據(jù)分析能力、信息整合能力和語言處理能力，當(dāng)其嵌入科技治理、經(jīng)濟(jì)治理、社會(huì)治理等場(chǎng)景中，能為提升治理效率帶來變革性的創(chuàng)新。在科技治理方面，新一代人工智能基于大數(shù)據(jù)、高算力、強(qiáng)算法能夠打造智能科研范式，優(yōu)化科研流程，快速發(fā)現(xiàn)科學(xué)規(guī)律，有利于持續(xù)增強(qiáng)科技創(chuàng)新能力。在經(jīng)濟(jì)治理方面，新一代人工智能能夠在學(xué)習(xí)相關(guān)領(lǐng)域知識(shí)的基礎(chǔ)上進(jìn)行智能化創(chuàng)作，優(yōu)化內(nèi)容生產(chǎn)的效率與創(chuàng)意，加速數(shù)實(shí)融合與產(chǎn)業(yè)升級(jí)，孵化出新型應(yīng)用，有效提升生產(chǎn)效率。在社會(huì)治理方面，新一代人工智能通過及時(shí)發(fā)現(xiàn)、精準(zhǔn)識(shí)別和定制化應(yīng)用，滿足教育、醫(yī)療、交通、養(yǎng)老等各類需求，推動(dòng)公共服務(wù)朝著智能化、定制化、交互性等方面發(fā)展，有效優(yōu)化公共服務(wù)，顯著加強(qiáng)網(wǎng)絡(luò)安全、國(guó)防安全、應(yīng)急響應(yīng)等多方面的智能化能力，增強(qiáng)公共部門態(tài)勢(shì)感知和風(fēng)險(xiǎn)防控能力，強(qiáng)化社會(huì)安全屏障。

新一代人工智能給國(guó)家治理帶來的問題和挑戰(zhàn)

新一代人工智能技術(shù)是一把雙刃劍，在推動(dòng)經(jīng)濟(jì)社會(huì)智能化發(fā)展、為國(guó)家治理帶來諸多機(jī)遇的同時(shí)，也帶來不容輕視的治理風(fēng)險(xiǎn)和挑戰(zhàn)。

數(shù)據(jù)治理技術(shù)挑戰(zhàn)。首先，新一代人工智能以海量信息為數(shù)據(jù)源，在篩選后為用戶提供標(biāo)準(zhǔn)化答案，對(duì)其產(chǎn)生技術(shù)依賴容易導(dǎo)致用戶失去與海量知識(shí)的連接，從而形成信息繭房，造成認(rèn)知困境，不利于知識(shí)的多元化傳播。其次，在與用戶深度交互和內(nèi)容生成的過程中，新一代人工智能通過算法修正實(shí)現(xiàn)模擬人的意識(shí)感知，可能操控和改變用戶的認(rèn)知，從技術(shù)層面無法保證客觀、公平與公正，引發(fā)算法歧視問題，形成群體極化風(fēng)險(xiǎn)。再次，新一代人工智能依賴數(shù)據(jù)、產(chǎn)出數(shù)據(jù)，在應(yīng)用到國(guó)家治理時(shí)，因其技術(shù)自身問題及使用不當(dāng)或管控不力等，既加劇傳統(tǒng)的數(shù)據(jù)安全風(fēng)險(xiǎn)，如數(shù)據(jù)的過度采集、竊取、泄露和濫用等，也會(huì)滋生出新的數(shù)據(jù)安全問題，如數(shù)據(jù)偷渡、樣本偏差等，還可能因?yàn)閿?shù)據(jù)大規(guī)模集聚與跨境流動(dòng)帶來安全風(fēng)險(xiǎn)和管控挑戰(zhàn)。

科技治理規(guī)范挑戰(zhàn)。首先，新一代人工智能的發(fā)展可能帶來國(guó)家之間的新型“數(shù)字殖民”風(fēng)險(xiǎn)。在國(guó)家層面，領(lǐng)先掌握新一代人工智能技術(shù)的國(guó)家占據(jù)制定技術(shù)規(guī)則與技術(shù)標(biāo)準(zhǔn)的優(yōu)勢(shì)地位，可通過以發(fā)展與監(jiān)管為由來擴(kuò)大數(shù)據(jù)的檢測(cè)范圍，從而實(shí)現(xiàn)對(duì)數(shù)據(jù)的收割與壟斷，這種技術(shù)壟斷或者技術(shù)霸權(quán)可能產(chǎn)生新的“數(shù)字殖民地”，其技術(shù)成癮、歧視等問題的蔓延會(huì)對(duì)我國(guó)政治安全造成沖擊。其次，新一代人工智能可能會(huì)給國(guó)家治理帶來諸多的倫理道德挑戰(zhàn)，包括知識(shí)產(chǎn)權(quán)、隱私泄露和虛假信息、人性沖突等。在知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)方面，新一代人工智能所生成數(shù)字內(nèi)容歸屬誰、能否擁有作者身份、能否作為原創(chuàng)作品，在數(shù)據(jù)收集、挖掘與訓(xùn)練中得到的數(shù)據(jù)是否具有相應(yīng)的知識(shí)產(chǎn)權(quán)等問題存在較大爭(zhēng)議。在虛假信息和技術(shù)濫用風(fēng)險(xiǎn)方面，新一代人工智能可能因其可解釋性差等原因而產(chǎn)出虛假信息，使用者可能會(huì)濫用這類技術(shù)從事非法行為，如用于學(xué)術(shù)剽竊、數(shù)據(jù)造假，引發(fā)學(xué)術(shù)倫理問題。在價(jià)值觀沖突方面，隨著新一代人工智能在國(guó)家治理領(lǐng)域的應(yīng)用推廣，國(guó)家治理會(huì)更加依賴算法假定 [2]。新一代人工智能在數(shù)據(jù)輸出功能方面主導(dǎo)了后臺(tái)技術(shù)操作者的話語權(quán)，價(jià)值滲透力增強(qiáng)，可能忽略甚至對(duì)抗人性選擇，由此可能帶來社會(huì)價(jià)值觀的沖突與誤導(dǎo)。

經(jīng)濟(jì)治理能力挑戰(zhàn)。新一代人工智能技術(shù)促進(jìn)了人類與人工智能的協(xié)同工作，顛覆當(dāng)下的工作場(chǎng)景、工作流程、人力結(jié)構(gòu)及就業(yè)情境，帶來產(chǎn)業(yè)變革，對(duì)經(jīng)濟(jì)治理能力提出新挑戰(zhàn)。首先，新一代人工智能將重構(gòu)互聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)的產(chǎn)品形態(tài)，促進(jìn)產(chǎn)業(yè)升級(jí)，最終帶來相應(yīng)商業(yè)模式的變革，但也可能產(chǎn)生“割韭菜”行為，擾亂正常經(jīng)濟(jì)秩序。其次，新一代人工智能的產(chǎn)業(yè)化和規(guī)模化發(fā)展將導(dǎo)致很多職業(yè)面臨顛覆性變化，甚至帶來大量失業(yè)問題，尤其是重復(fù)性、程序化的工作崗位。勞動(dòng)者大量失業(yè)，將成為經(jīng)濟(jì)社會(huì)的不穩(wěn)定因素。最后，新一代人工智能還可能重構(gòu)勞動(dòng)關(guān)系，驅(qū)動(dòng)勞動(dòng)替代轉(zhuǎn)移、勞動(dòng)方式智能化趨勢(shì)，從而衍生出一系列與就業(yè)相關(guān)的新問題，如新型勞動(dòng)關(guān)系認(rèn)定等。

社會(huì)意識(shí)形態(tài)安全挑戰(zhàn)。第一，新一代人工智能作為一個(gè)極具數(shù)智能力的數(shù)字交互媒介，其跨境使用會(huì)引發(fā)社會(huì)傳播風(fēng)險(xiǎn)問題，如虛假新聞、惡意輿情煽動(dòng)等，更有甚者可能危害網(wǎng)絡(luò)安全與國(guó)家安全。大模型訓(xùn)練語料庫(kù)中的意識(shí)形態(tài)差異、價(jià)值取向不可控可能帶來政治風(fēng)險(xiǎn)，新一代人工智能既能成為強(qiáng)權(quán)者推行其政治意圖的工具，也為少數(shù)極端分子宣傳其思想提供了可能，甚至?xí)槲鞣絿?guó)家向中國(guó)進(jìn)行意識(shí)形態(tài)滲透及干涉提供便利。第二，新一代人工智能能夠打造出虛擬意見領(lǐng)袖，通過制造網(wǎng)絡(luò)輿論引導(dǎo)某些網(wǎng)民成為其不法聲音的幫兇，這會(huì)極大地沖擊國(guó)家意識(shí)形態(tài)安全，還有可能為數(shù)字民粹主義的傳播提供新的活動(dòng)空間。由于ChatGPT收集的用戶數(shù)據(jù)會(huì)留存在美國(guó)的服務(wù)器中，這些個(gè)人隱私信息一旦被西方某些不良政客所截取，就會(huì)成為他們分析、研究并制定意識(shí)形態(tài)滲透策略的重要數(shù)據(jù)支撐。國(guó)外不法分子或具有不良政治傾向的群體可能借助ChatGPT強(qiáng)大的數(shù)據(jù)庫(kù)與算法，潛移默化地操縱網(wǎng)絡(luò)輿論，滿足西方政客宣傳其價(jià)值觀的企圖，甚至可能使ChatGPT淪為一種政治工具。由于該工具具有很強(qiáng)的交互性，因此對(duì)意識(shí)形態(tài)的影響更加直接與深遠(yuǎn)，特別是如果對(duì)未成年人進(jìn)行長(zhǎng)期滲透，將會(huì)產(chǎn)生巨大的意識(shí)形態(tài)風(fēng)險(xiǎn)。第三，新一代人工智能一旦被廣泛應(yīng)用并嵌入海量政府和用戶數(shù)據(jù)，“算法利維坦”風(fēng)險(xiǎn)凸顯，將為國(guó)家政治安全與個(gè)人信息安全帶來隱患。一是可能存在意識(shí)形態(tài)越位、政治謠言泛濫、數(shù)據(jù)泄漏、真假信息共存等“算法利維坦”風(fēng)險(xiǎn)。二是隨著新一代人工智能多元場(chǎng)景應(yīng)用，用戶不得不以隱私讓渡獲取使用權(quán)限，人工智能全方位滲透公共領(lǐng)域和私人生活，實(shí)時(shí)跟蹤并計(jì)算用戶的數(shù)據(jù)及需求，對(duì)政府和用戶進(jìn)行液態(tài)監(jiān)視。因此，當(dāng)數(shù)據(jù)、算法、算力成為國(guó)家治理和社會(huì)生活的底層架構(gòu)，必須警惕底層崩塌的風(fēng)險(xiǎn)外溢。

新一代人工智能賦能國(guó)家治理現(xiàn)代化的建議

新一代人工智能賦能國(guó)家治理包含“用AI技術(shù)治理”和“治理AI技術(shù)”雙向治理邏輯[3]：一是需要利用新技術(shù)增強(qiáng)國(guó)家治理能力，二是要?jiǎng)?chuàng)設(shè)和完善相關(guān)制度，規(guī)范和監(jiān)督新技術(shù)及其應(yīng)用。

加強(qiáng)頂層設(shè)計(jì)，構(gòu)建完備法律體系，推進(jìn)制度建構(gòu)。一是對(duì)新一代人工智能的發(fā)展趨勢(shì)和應(yīng)用前景進(jìn)行綜合研判和分析，提前做好監(jiān)管防范工作，主動(dòng)響應(yīng)。建議國(guó)家層面成立專家委員會(huì)或咨詢委員會(huì)，遴選人工智能技術(shù)、倫理、法律、監(jiān)管等領(lǐng)域的專家，并和社會(huì)公眾代表一起，對(duì)新一代人工智能的發(fā)展和應(yīng)用提出前瞻性建議，供政府部門決策參考。二是推動(dòng)完善一攬子的新一代人工智能監(jiān)管制度體系建設(shè)，使監(jiān)管創(chuàng)新跟上技術(shù)進(jìn)步的步伐。政府應(yīng)堅(jiān)持包容審慎的監(jiān)管姿態(tài)，加強(qiáng)敏捷治理，統(tǒng)籌技術(shù)發(fā)展和規(guī)范的關(guān)系，建立通用型架構(gòu)以應(yīng)對(duì)新興技術(shù)帶來的挑戰(zhàn)。

打造開放創(chuàng)新生態(tài)，實(shí)現(xiàn)技術(shù)追趕。一是以大型科技企業(yè)和重點(diǎn)科研機(jī)構(gòu)為核心，推動(dòng)頭部科技企業(yè)建立人工智能公共聯(lián)盟。積極推動(dòng)企業(yè)以聯(lián)盟或合作方式開發(fā)開源大模型，支持設(shè)立多個(gè)國(guó)家級(jí)人工智能大模型的長(zhǎng)期開源項(xiàng)目，打造開源眾包的開放創(chuàng)新生態(tài)，形成科技攻關(guān)聯(lián)合機(jī)制。二是夯實(shí)人工智能公共數(shù)字基礎(chǔ)設(shè)施一體化平臺(tái)建設(shè)，促進(jìn)上、中、下游企業(yè)全流程參與，引導(dǎo)高校、科研機(jī)構(gòu)和創(chuàng)新型企業(yè)形成多個(gè)技術(shù)路線的創(chuàng)新生態(tài)群。

構(gòu)建發(fā)展與安全協(xié)同治理模式。一是遵循以人為本的原則，堅(jiān)持發(fā)展與治理協(xié)同，在符合社會(huì)價(jià)值觀的前提下，保障最大范圍開發(fā)和利用人工智能創(chuàng)新成果，同時(shí)依法合規(guī)，在法治框架下開展技術(shù)治理和社會(huì)治理的協(xié)同工作。二是基于現(xiàn)階段人工智能治理的局限性，充分評(píng)估數(shù)據(jù)和模型的倫理影響和風(fēng)險(xiǎn)點(diǎn)，把通用模型納入到社會(huì)生態(tài)系統(tǒng)、社會(huì)政治經(jīng)濟(jì)系統(tǒng)來考慮；探索倫理方法，充分探索“價(jià)值敏感設(shè)計(jì)”“負(fù)責(zé)任創(chuàng)新”等倫理方法在通用模型語境下的可行性，實(shí)現(xiàn)發(fā)展與治理協(xié)同、技術(shù)治理與社會(huì)治理協(xié)同。三是加快成立負(fù)責(zé)任人工智能技術(shù)的職能管理機(jī)構(gòu)，制定負(fù)責(zé)任人工智能技術(shù)的管理辦法。如出臺(tái)規(guī)范，對(duì)ChatGPT等大語言模型所涉及的數(shù)據(jù)加強(qiáng)系統(tǒng)管理、開放共享與安全使用，系統(tǒng)研究數(shù)據(jù)隱私與數(shù)據(jù)保護(hù)法律法規(guī)，推動(dòng)數(shù)據(jù)到知識(shí)到行動(dòng)的基本邏輯范式。四是推動(dòng)數(shù)字公共基礎(chǔ)設(shè)施和相應(yīng)法律法規(guī)建設(shè)。建立高質(zhì)量國(guó)家級(jí)重要領(lǐng)域基礎(chǔ)知識(shí)庫(kù)、數(shù)據(jù)庫(kù)、資源庫(kù)，以解決大模型的算法偏見及質(zhì)量問題，并出臺(tái)相應(yīng)法律法規(guī)防止國(guó)家秘密泄露和維護(hù)國(guó)家安全。

發(fā)展人工智能新技術(shù)下的經(jīng)濟(jì)治理體系。一是持續(xù)謹(jǐn)慎觀察新一代人工智能帶來的“創(chuàng)造性破壞”，密切關(guān)注新興人工智能技術(shù)發(fā)展可能帶來的結(jié)構(gòu)性失業(yè)、技術(shù)性失業(yè)與非對(duì)稱性失業(yè)現(xiàn)象，以及防范失業(yè)導(dǎo)致經(jīng)濟(jì)發(fā)展受阻與社會(huì)不穩(wěn)定性風(fēng)險(xiǎn)，并提前準(zhǔn)備綜合性應(yīng)對(duì)措施。如加大培訓(xùn)，提供稅收優(yōu)惠，出臺(tái)兜底性失業(yè)保障政策；形成人工智能“創(chuàng)造性效應(yīng)”，建立失業(yè)預(yù)警制度；重建失業(yè)人群“動(dòng)力系統(tǒng)”，組建新一代人工智能技術(shù)共享聯(lián)合體，鼓勵(lì)促進(jìn)就業(yè)，維護(hù)社會(huì)穩(wěn)定。二是面向未來培養(yǎng)新型技術(shù)治理和社會(huì)治理協(xié)同的復(fù)合型人才。新一代人工智能的發(fā)展對(duì)人類創(chuàng)新性思維與批判性能力提出了新要求，亟需順應(yīng)人工智能新技術(shù)的快速發(fā)展以提高人類自身的適應(yīng)能力，大力培養(yǎng)新一代人工智能技術(shù)人才和管理人才。

建立常態(tài)化治理風(fēng)險(xiǎn)預(yù)警和防控機(jī)制。一是前瞻布局人工智能大模型的風(fēng)險(xiǎn)防御技術(shù)體系[4]。對(duì)于未知威脅進(jìn)行風(fēng)險(xiǎn)預(yù)判和策略調(diào)整，打造動(dòng)態(tài)升級(jí)、科學(xué)前瞻的防御理論及技術(shù)體系，爭(zhēng)取主動(dòng)安全，進(jìn)行深度治理。二是圍繞新一代人工智能全生命周期關(guān)鍵環(huán)節(jié)，開展針對(duì)性、精準(zhǔn)性的安全防范措施。面向業(yè)務(wù)、算法、數(shù)據(jù)于一體的有機(jī)整體，設(shè)計(jì)研發(fā)、檢驗(yàn)驗(yàn)證、運(yùn)營(yíng)監(jiān)控等關(guān)鍵流程，建立全面且有針對(duì)性的安全保障體系。三是夯實(shí)核心技術(shù)與基礎(chǔ)設(shè)施的安全，提升新一代人工智能安全體系的保障能力；加大在算法安全、數(shù)據(jù)安全、模型安全、程序安全等方面的核心技術(shù)研發(fā)，尤其注重開發(fā)自主可控的新一代人工智能技術(shù)，推動(dòng)國(guó)家科研投入、企業(yè)技術(shù)攻關(guān)對(duì)新一代人工智能核心技術(shù)的覆蓋；加強(qiáng)對(duì)數(shù)據(jù)中心、超算中心、智能計(jì)算機(jī)中心等基礎(chǔ)設(shè)備以及涉及到的芯片、集成電路等基礎(chǔ)產(chǎn)業(yè)的保護(hù)力度。四是積極聯(lián)系國(guó)際相關(guān)機(jī)構(gòu)形成技術(shù)聯(lián)盟，制定國(guó)際規(guī)范，防范算法世界政治霸權(quán)和數(shù)據(jù)跨境安全風(fēng)險(xiǎn)；建立廣泛、權(quán)威的國(guó)際對(duì)話機(jī)制，避免科技政治極化對(duì)抗；消弭數(shù)字鴻溝，合理助力后發(fā)國(guó)家進(jìn)步。

【注：中國(guó)科學(xué)院學(xué)部重大咨詢項(xiàng)目“數(shù)字技術(shù)支撐國(guó)家治理現(xiàn)代化的戰(zhàn)略研究”由中國(guó)科學(xué)院信息技術(shù)科學(xué)學(xué)部主任郭雷院士、副主任郝躍院士領(lǐng)銜，吳一戎、管曉宏、徐宗本、呂建四位院士參加，中國(guó)科學(xué)院數(shù)學(xué)與系統(tǒng)科學(xué)研究院楊曉光研究員和中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院陳凱華研究員組織實(shí)施，旨在在國(guó)家治理現(xiàn)代化的數(shù)字技術(shù)發(fā)展戰(zhàn)略以及相關(guān)的科技政策等方面為國(guó)家高層提供咨詢建議。項(xiàng)目成員包括十幾位科學(xué)院院士和他們的研究團(tuán)隊(duì)，以及來自中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院、中國(guó)科學(xué)院數(shù)學(xué)與系統(tǒng)科學(xué)研究院、中國(guó)科學(xué)院空天戰(zhàn)略研究院、中國(guó)科學(xué)院自動(dòng)化所、中國(guó)科學(xué)院大學(xué)、南京大學(xué)、西安交通大學(xué)、西安電子科技大學(xué)、中國(guó)信息通訊研究院、最高法信息中心、網(wǎng)信辦信息中心等單位的專家學(xué)者】

注釋

[1]Bresnahan T F, Trajtenberg M. General purpose technologies "Engines of growth" ?[J]. Journal of econometrics, 1995, 65(1): 83-108.

[2]梅立潤(rùn)：《人工智能時(shí)代國(guó)家治理的算法依賴及其衍生難題》，《中南大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，2022年第6期，第123—131頁。

[3]姜李丹、薛瀾：《我國(guó)新一代人工智能治理的時(shí)代挑戰(zhàn)與范式變革》，《公共管理學(xué)報(bào)》，2022年第2期，第1—11頁。

[4]梅立潤(rùn)：《面向未來的治理: 人工智能時(shí)代的國(guó)家治理原則》，《中國(guó)科技論壇》，2022年第11期，第16—24頁。

責(zé)編：周素麗／美編：石 玉