必須加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，制定相應(yīng)規(guī)則，規(guī)范人工智能的發(fā)展，確保人工智能安全、可靠、可控

人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，將對(duì)人們的生產(chǎn)生活產(chǎn)生深遠(yuǎn)影響。比如，人工智能在研發(fā)新材料、預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)等方面具有優(yōu)勢(shì)，有望進(jìn)一步重塑科學(xué)研究范式；智能駕駛的普及，將改變城市規(guī)劃和交通管理方式……各行各業(yè)對(duì)人工智能的需求日趨增大的同時(shí)，經(jīng)濟(jì)社會(huì)的方方面面正受到人工智能的多重影響。

隨著人工智能不斷取得突破，一些潛在的隱患和道德倫理問題也逐步顯現(xiàn)出來。例如，人工智能在安全、隱私等方面存在一定風(fēng)險(xiǎn)隱患：“換臉”技術(shù)有可能侵犯?jìng)€(gè)人隱私，信息采集不當(dāng)帶來數(shù)據(jù)泄露，算法漏洞加劇認(rèn)知偏見……這說明，人工智能不單具有技術(shù)屬性，還具有明顯的社會(huì)屬性。唯有綜合考慮經(jīng)濟(jì)、社會(huì)和環(huán)境等綜合因素，才能更好應(yīng)對(duì)人工智能技術(shù)帶來的機(jī)遇和挑戰(zhàn)，推動(dòng)其健康發(fā)展。人工智能的進(jìn)一步發(fā)展，給人工智能治理帶來更多課題，亟待相關(guān)法律和倫理工作者作答。

為此，必須加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，制定相應(yīng)規(guī)則，規(guī)范人工智能的發(fā)展，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。只有正確處理好人和機(jī)器的關(guān)系，才能更好走向“人機(jī)混合”的智能時(shí)代。

目前，業(yè)界已經(jīng)展開了一定程度的探索。譬如，構(gòu)建有效的優(yōu)化訓(xùn)練數(shù)據(jù)集，防止人工智能生成對(duì)公共安全、生產(chǎn)安全等有害的內(nèi)容；在編程設(shè)計(jì)階段，通過技術(shù)手段防止數(shù)據(jù)謬誤，增加智能系統(tǒng)的透明度和公平性；預(yù)先設(shè)立應(yīng)急機(jī)制和應(yīng)對(duì)措施，對(duì)人工智能使用人員進(jìn)行必要培訓(xùn)。這些舉措，都在技術(shù)層面進(jìn)一步夯實(shí)了人工智能治理的基礎(chǔ)。

近年來，我國(guó)陸續(xù)發(fā)布《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)科技倫理治理的意見》《全球人工智能治理倡議》等，旨在提升人工智能治理能力，有效防控人工智能發(fā)展風(fēng)險(xiǎn)。各地區(qū)各行業(yè)也正在建立更加完善的多方治理機(jī)制，形成協(xié)作格局，貢獻(xiàn)治理智慧，共享治理成果。同時(shí)，我國(guó)還通過積極搭建人工智能發(fā)展各方參與的開放性平臺(tái)，推動(dòng)形成具有廣泛共識(shí)的國(guó)際人工智能治理方案，向國(guó)際社會(huì)貢獻(xiàn)中國(guó)智慧。著眼長(zhǎng)遠(yuǎn)，在發(fā)展、應(yīng)用的同時(shí)加強(qiáng)監(jiān)管和規(guī)范，人工智能就能更好造福人類。