人工智能技術(shù)發(fā)展：構(gòu)建“好的人工智能社會(huì)”是全人類面臨的嚴(yán)峻挑戰(zhàn)

人們期待通過技術(shù)“保護(hù)我們以擺脫現(xiàn)實(shí)生活的悲慘險(xiǎn)境”時(shí)，也一直在關(guān)注技術(shù)發(fā)展可能帶給人類的風(fēng)險(xiǎn)。人類社會(huì)從傳統(tǒng)社會(huì)邁向現(xiàn)代社會(huì)是一個(gè)質(zhì)的飛躍，自工業(yè)革命伊始，技術(shù)一直被視作這一宏大社會(huì)進(jìn)程的重要變革性力量，但從倫理學(xué)角度看，技術(shù)也一直被視作一種憂患之源。

人類發(fā)展技術(shù)的歷史也一直糾結(jié)在“技術(shù)控”與“技術(shù)失控”的二元邏輯主線之中。人們在享受技術(shù)便利的同時(shí)，有可能失去了對復(fù)雜技術(shù)系統(tǒng)的控制，進(jìn)而對人類生存帶來災(zāi)難。“技術(shù)的反向控制與適應(yīng)”的主題也一直存在于各個(gè)文化體系和知識形式之中。從傳統(tǒng)社會(huì)思想家對“技術(shù)危險(xiǎn)性”的警示到工業(yè)革命之初社會(huì)科學(xué)家對“啟蒙黑暗面”的關(guān)切；從近現(xiàn)代戲劇與文學(xué)作品（狄更斯、托爾斯泰、卡夫卡等）對“技術(shù)兩面性”的大眾化詮釋和傳播，到技術(shù)研究領(lǐng)域?qū)?“技術(shù)敵托邦”的探索，再到近代社會(huì)科學(xué)的政策分析，所有關(guān)切都指向技術(shù)所帶來的意想不到的社會(huì)結(jié)果，“技術(shù)的潛在功能與社會(huì)功能紊亂”問題一直是人類發(fā)展的夢魘。而人工智能可能自然演化具備自覺意識并對人類發(fā)動(dòng)攻擊則是技術(shù)憂慮在當(dāng)代公眾意識中的折射。

人們曾一度認(rèn)為，人類對自己制造的東西最為了解，并能達(dá)到對“制造物”的牢固控制，然而科技發(fā)展的速度往往超乎人類想象。起初，機(jī)器人只是作為一種人類生活工具出現(xiàn)在科幻小說中的。20世紀(jì)中期，當(dāng)艾薩克·阿西莫夫出版《我，機(jī)器人》的時(shí)候，機(jī)器人世界還是想象中的世界，在科幻作家最初設(shè)想中，機(jī)器人以照顧人類為己任。然而隨著科學(xué)技術(shù)的進(jìn)步，人們開始對機(jī)器人技術(shù)是否會(huì)超出人類控制范圍產(chǎn)生了懷疑。當(dāng)今，人類生活中已經(jīng)充斥著大量機(jī)器人，并且越來越智能化，科學(xué)的進(jìn)步總是超乎人們預(yù)測。于是，人們開始設(shè)想高度發(fā)展的人工智能未來，當(dāng)智能機(jī)器人充斥于我們生活那一天，是否會(huì)不再滿足于為人類服務(wù)，而像人類宣戰(zhàn)，并統(tǒng)治世界？機(jī)器與人的關(guān)系是否有可能會(huì)從“人”與“物”的關(guān)系轉(zhuǎn)化成“人”與“人”的關(guān)系呢？

當(dāng)前人工智能已經(jīng)從科學(xué)實(shí)驗(yàn)階段進(jìn)入商業(yè)應(yīng)用階段，智能機(jī)器執(zhí)行任務(wù)的復(fù)雜度正在以指數(shù)速度增長，人工智能發(fā)展正在進(jìn)入爆發(fā)前的臨界點(diǎn)；人工智能進(jìn)化中的遞歸式自我改善有可能會(huì)導(dǎo)致最終的“智能爆炸”。人工智能飛速進(jìn)步所展示的人類創(chuàng)造出一種全新生命形式的可能性，不僅將標(biāo)志著進(jìn)化的突破，而且也可能給人類物種的生存構(gòu)成潛在威脅。人工智能技術(shù)失控可能源自作為技術(shù)創(chuàng)造者的工程師的疏忽大意和無意識，也可能源于機(jī)器人的某個(gè)深度學(xué)習(xí)瞬間的豁然領(lǐng)悟。在電影《西部世界》中智能機(jī)器人開始不再聽命于工程師們，開始傷害和自我傷害，并最終擺脫了人類的控制，開始反抗屠殺人類。

構(gòu)建“好的人工智能社會(huì)（Good AI Society）”是全人類面臨的嚴(yán)峻挑戰(zhàn)。隨著人工智能在生產(chǎn)活動(dòng)和社會(huì)活動(dòng)中的作用不再被忽略，人工智能甚至有可能讓人類失去智慧能動(dòng)者的唯一地位。傳統(tǒng)社會(huì)中僅僅針對人的產(chǎn)業(yè)制度和生產(chǎn)規(guī)則面臨重組的挑戰(zhàn)，以適應(yīng)非人行動(dòng)者參與的需要；“讓生活更美好”的人類愿景正面臨如何構(gòu)建“好的人工智能社會(huì)”的緊迫挑戰(zhàn)。

“善治”與“善智”：發(fā)展“負(fù)責(zé)任”的人工智能，走向技術(shù)與社會(huì)的“良性互構(gòu)”

在技術(shù)發(fā)展中，人類應(yīng)當(dāng)避免“近視癥”的困擾，預(yù)先規(guī)劃、做好頂層設(shè)計(jì)，僅僅和過于強(qiáng)調(diào)技術(shù)發(fā)展的“獨(dú)特能力”，反而容易落入“能力陷阱”。人工智能時(shí)代不僅僅意味著一場技術(shù)與產(chǎn)業(yè)革命，對全球價(jià)值鏈結(jié)構(gòu)、全球產(chǎn)業(yè)競爭格局產(chǎn)生深刻影響，更是一場社會(huì)、文化、價(jià)值與思維等領(lǐng)域的全景式整體性變革。技術(shù)發(fā)展應(yīng)當(dāng)服務(wù)于人本身。人工智能發(fā)展要堅(jiān)持“善治”與“善智”的統(tǒng)一，人工智能社會(huì)要走向“網(wǎng)絡(luò)空間”與“現(xiàn)實(shí)空間”的深度融合，應(yīng)當(dāng)盡快搭建起“行動(dòng)者網(wǎng)絡(luò)”和“利益相關(guān)者”就人工智能問題開展相關(guān)討論與合作的新平臺。歷史證明，人類面臨重大的技術(shù)風(fēng)險(xiǎn)往往有助于推動(dòng)形成社會(huì)共識；而好的社會(huì)共識則是歷史進(jìn)步的強(qiáng)大推動(dòng)力。

隨著新的機(jī)器自動(dòng)生產(chǎn)者的加入，會(huì)導(dǎo)致設(shè)計(jì)者、使用者、監(jiān)管者之間責(zé)任的模糊和缺失，精細(xì)分工下的“有組織不負(fù)責(zé)任”亟需得到解決。傳統(tǒng)技術(shù)倫理學(xué)是把倫理道德看作技術(shù)活動(dòng)之外的一種規(guī)范力量，對技術(shù)后果進(jìn)行倫理反思和批判；“后經(jīng)驗(yàn)轉(zhuǎn)向”時(shí)代的技術(shù)倫理規(guī)約強(qiáng)調(diào)規(guī)范性和建構(gòu)性的統(tǒng)一，主張“端口前移”：從負(fù)面?zhèn)惱砗蠊慕遗七M(jìn)到正面?zhèn)惱韮r(jià)值的“預(yù)防式置入”；在技術(shù)設(shè)計(jì)中“嵌入”道德要素，通過恰當(dāng)?shù)募夹g(shù)設(shè)計(jì)規(guī)范和制約“創(chuàng)造者”的行為，實(shí)現(xiàn)“把技術(shù)關(guān)進(jìn)倫理的籠子里”的目標(biāo)。

“技術(shù)與社會(huì)如何和諧共處的主題”一直是技術(shù)社會(huì)學(xué)的重要論域。作為跨越技術(shù)決定論與技術(shù)建構(gòu)論二元對立的整合性綱領(lǐng)，技術(shù)與社會(huì)的“相互建構(gòu)論”已經(jīng)成為當(dāng)代技術(shù)社會(huì)學(xué)研究的主導(dǎo)性范式。面對不確定性的世界嘗試提供確定性的理論框架是危險(xiǎn)的，面對人工時(shí)代的來臨，我們必須跨越學(xué)術(shù)、社會(huì)、政治、國家和行業(yè)的界限開展多方合作，讓所有個(gè)體、群體和區(qū)域都能參與到當(dāng)前的轉(zhuǎn)型過程，并從中受益。

大數(shù)據(jù)背景下的人工智能具有“強(qiáng)加性的巨大功能”，以人工智能為代表的第四次工業(yè)革命隱藏著巨大挑戰(zhàn)、蘊(yùn)含著空前機(jī)遇。經(jīng)濟(jì)長期滯脹、就業(yè)壓力劇增、社會(huì)不平等發(fā)展、“好的人工智能社會(huì)”如何構(gòu)建等都在考驗(yàn)人類的協(xié)作、創(chuàng)新與智慧。中國是世界上“現(xiàn)實(shí)中最大的發(fā)展中國家”“世界上第二大經(jīng)濟(jì)體”“未來的最強(qiáng)大國家”，世界對第四次工業(yè)革命中的“中國角色”寄予厚望。在當(dāng)前階段，中國面臨經(jīng)濟(jì)發(fā)展新常態(tài)、供給側(cè)改革、傳統(tǒng)企業(yè)轉(zhuǎn)型、制造業(yè)升級等問題。不論是政府、企業(yè)還是個(gè)人，深入了解第四次工業(yè)革命的本質(zhì)內(nèi)涵和系統(tǒng)意義，全面評估人工智能帶給社會(huì)的機(jī)遇與挑戰(zhàn)必將是行穩(wěn)致遠(yuǎn)、角逐未來的重要砝碼。

（作者為清華大學(xué)社會(huì)科學(xué)學(xué)院黨委副書記、教授、博導(dǎo),社會(huì)創(chuàng)新與風(fēng)險(xiǎn)管理中心主任）

【注：本文系國家社科基金“‘后經(jīng)驗(yàn)轉(zhuǎn)向’時(shí)代的技術(shù)倫理規(guī)約機(jī)制及模式研究”（項(xiàng)目編號：13BZX024）的階段性成果】

【參考文獻(xiàn)】

①張成崗：《技術(shù)與現(xiàn)代性研究》，北京：中國社會(huì)科學(xué)出版社，2013年。

②[美]蘭登·溫納著，楊海燕譯：《自主性技術(shù)》，北京：北京大學(xué)出版社，2014年。

③[美]科德·戴維斯、道格·帕特森著，趙亮、王健譯：《大數(shù)據(jù)倫理：平衡風(fēng)險(xiǎn)與創(chuàng)新》，沈陽：東北大學(xué)出版社，2016年。

責(zé)編/宋睿宸    美編/楊玲玲