【摘要】人類社會一直把“人工智能”，甚至“類人機(jī)器人”，單純作為自己的使用工具而發(fā)明、生產(chǎn)甚至創(chuàng)造出來，即“工具性”是其第一屬性。然而，作為“會使用工具的機(jī)器人”，“類人機(jī)器人”還可能通過自我學(xué)習(xí)等自主方式，獲得與人類一樣的智商、情商與倫理道德，從而具有顯著的“社會性”。世界首例“機(jī)器人公民”“索菲亞”在公民、社會與國家等觀念上給予人類更多想象，人類社會生活特別是政治生活中賴以生存的最直接“土壤”——國家與社會關(guān)系——在發(fā)生學(xué)意義上開始產(chǎn)生“祛魅”與重塑等變化。
【關(guān)鍵詞】類人機(jī)器人 機(jī)器人公民 工具性 社會性 國家與社會關(guān)系
【中圖分類號】TP311 【文獻(xiàn)標(biāo)識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2018.10.006
2017年10月26日，沙特阿拉伯（以下簡稱“沙國”）授予美國漢森機(jī)器人公司（Hanson Robotics）生產(chǎn)的“女性”機(jī)器人“索菲亞”（Sophia）公民身份[1]，在現(xiàn)實生活中再一次以鐵的事實證明，工具性的“人工智能”（Artificial Intelligence, AI）[2]能夠演化發(fā)展成為具有公民身份的“類人機(jī)器人”（robo-sapiens）[3]——“機(jī)器人公民”，未來可能全面介入人類社會生活特別是政治生活，并成為與人類共享整個地球資源的“新人類”。“在人工智能的重大項目中，我們要把自然科學(xué)研究和社會科學(xué)研究緊密結(jié)合起來，從自然科學(xué)的角度攻克基礎(chǔ)難關(guān)，在社會科學(xué)研究中解疑釋惑。”[4]由此，一個古老而常新的話題再次回蕩在我們的心底，震撼我們的心靈：曾幾何時居于“家奴”地位的“會說話的工具”[5]，歷經(jīng)幾千年的滄海桑田，遲至20世紀(jì)中葉逐步翻身成為真正的人——公民，實現(xiàn)了美國黑人領(lǐng)袖馬丁·路德·金所說的“我有一個夢想”（I have a dream）；與此同時，更嚴(yán)峻的挑戰(zhàn)已經(jīng)從科幻世界開始邁向現(xiàn)實生活，“會使用工具的‘類人機(jī)器人’”是否能夠或者究竟需要多長時日，才會享有人類社會公民所擁有的正當(dāng)權(quán)利及其履行的道義責(zé)任？單個的歷史事件或許只能局限于一時一地的偶然性，而從不同歷史時期、不同活動空間的諸多歷史現(xiàn)象中提煉蘊含其中的人類思維與觀念，能準(zhǔn)確把握其內(nèi)在本質(zhì)與發(fā)展規(guī)律。“發(fā)生認(rèn)識論旨在研究各種認(rèn)識的起源，從最低級形態(tài)的認(rèn)識開始，并追蹤這種認(rèn)識向各個水平發(fā)展的情況，一直追蹤到科學(xué)思維并包括科學(xué)思維。”[6]因此，運用發(fā)生認(rèn)識論（genetic epistemology，發(fā)生學(xué)）[7]，可以更準(zhǔn)確地了解人類公民、人類社會、人類國家關(guān)于“人工智能”“類人機(jī)器人”“機(jī)器人公民”等認(rèn)識的生成過程、發(fā)展歷程及未來。
“機(jī)器人公民”的工具性與自主意識
“人工智能”范疇[8]萌芽于20世紀(jì)30年代，1956年在美國達(dá)特矛斯學(xué)院（Dartmouth College）首次被正式提出。一批年輕科學(xué)家研究和探討用機(jī)器模擬智能，標(biāo)志著“人工智能”新范式革命的開始。[9]IBM的深藍(lán)戰(zhàn)勝國際象棋世界冠軍卡斯帕羅夫、谷歌AlfaGo戰(zhàn)勝圍棋世界冠軍李世石等一系列轟動事件，讓世人對“人工智能”刮目相看。半個多世紀(jì)以來，雖然“人工智能”沿著弱人工智能—強(qiáng)人工智能—高等人工智能—類人人工智能—超級人工智能—超級智能體（自我進(jìn)化與生存階段）不斷飛速發(fā)展，但對全“人工智能”產(chǎn)生的動力、具體實施原則，以及對于人類未來社會的影響等，社會各界并沒有統(tǒng)一的共識。長期以來，人們習(xí)慣于從“事件”發(fā)生的直觀角度樂觀地看待“人工智能”。“據(jù)埃森哲發(fā)布的報告預(yù)測，2035年人工智能預(yù)期可以為12個發(fā)達(dá)經(jīng)濟(jì)體帶來兩倍的經(jīng)濟(jì)增長速度，中國的經(jīng)濟(jì)增長率將從6.3%提速至7.9%。軍事上，人工智能和機(jī)器人有可能大規(guī)模投入未來戰(zhàn)場，或?qū)⒏淖儜?zhàn)爭模式乃至國際軍事格局。”[10]對作為人類發(fā)明創(chuàng)造出來的工具性技術(shù)——“人工智能”，有學(xué)者還提出技術(shù)加速理論，對它給人類帶來的翻天覆地變化進(jìn)行所謂“奇點”預(yù)測。[11]總之，“人工智能”與基因工程和納米科學(xué)并列為21世紀(jì)三大頂尖科技發(fā)明。
“人工智能”的“物化”績效是異常顯著的，它在一定程度上是人類針對自身能力不足、特別在競爭日益激烈的環(huán)境中為了爭取與鞏固自身“優(yōu)勢”地位而不計后果地“冒險”提出來并加以實施的替代方案。毋庸諱言，人類社會一直是把“人工智能”，甚至“類人機(jī)器人”，單純作為自己的使用工具而發(fā)明、生產(chǎn)甚至創(chuàng)造出來的；雖然人類社會已經(jīng)預(yù)知，作為“會使用工具的機(jī)器人”，“類人機(jī)器人”還可能通過自我學(xué)習(xí)等自主方式，獲得與人類一樣的智商與情商，甚至倫理道德等，但人類社會對其普遍采取的對策幾乎無一例外——反對、提防、遏制、控制甚至摧毀。當(dāng)前中國機(jī)器人的研發(fā)狀態(tài)在數(shù)個領(lǐng)域已處于世界前沿水平，“若把韓國機(jī)器人按100分來計算，中國工業(yè)機(jī)器人得分100.79分，個人服務(wù)機(jī)器人103.77分，專業(yè)服務(wù)機(jī)器人101.9分，僅機(jī)器人零部件以99.1分略低于韓國。”[12]洋洋數(shù)萬言的《2017中國機(jī)器人產(chǎn)業(yè)發(fā)展報告》是中國電子學(xué)會機(jī)器人產(chǎn)業(yè)研究的最新成果，“以工業(yè)機(jī)器人、服務(wù)機(jī)器人和特種機(jī)器三大領(lǐng)域作為主要對象分別進(jìn)行分析。報告認(rèn)為，2017年預(yù)計我國機(jī)器人市場規(guī)模將達(dá)到62.8億美元。當(dāng)前，機(jī)器人領(lǐng)域的龍頭企業(yè)都將目光聚焦到市場增長迅速的中國”[13]。然而，這些都是把“機(jī)器人”定位于“產(chǎn)品”“服務(wù)”“物化”等人類有用的“工具性”性質(zhì)之上，對“類人機(jī)器人”嚴(yán)重缺乏人文與社會科學(xué)的具體分析與未來評估，更遑論“機(jī)器人公民”的“公民”意義。
“人工智能”也好，“類人機(jī)器人”也罷，甚至是剛剛誕生不久的“機(jī)器人公民”等，毫無疑問，首先都是人類生產(chǎn)出來的“工具性”產(chǎn)品，服務(wù)于人類的各種需要，實現(xiàn)人類的各種預(yù)測目標(biāo)。因此，“工具性”是所有類型“人工智能”生存的基礎(chǔ)，更是其發(fā)展的動力；沒有“工具性”的“人工智能”是不可想象的，更是無法理喻的。從這個角度來看，無論何種類型的“人工智能”產(chǎn)生出何種類型的“有用性”——針對不同類型的人類公民、人類社會、人類國家的“利益”與“弊端”——其主體權(quán)利與主體責(zé)任都?xì)w屬于人類自身，而無關(guān)乎“人工智能”的立場方法與行動。在本質(zhì)上，這種“工具性”地位的“家奴”（會說話的工具）——包括與“家奴”同等功能的“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”（會使用工具的類人機(jī)器人）——都是人類刻意處置的“奴隸”。
在人類發(fā)展的漫長歷史長河中，人曾經(jīng)（奴隸制社會）被置于“工具”的非人地位。事實上，這一現(xiàn)象從古代到近代一直都存在。為什么人類一直傾向于尋找能夠接受奴化地位的有用“工具”，即工具性的奴隸？“我們可以明了奴隸的性質(zhì)和他的本分了：（1）任何人在本性上不屬于自己的人格而從屬于別人，則自然而為奴隸；（2）任何人既然成為一筆財產(chǎn)（一件用品），就應(yīng)當(dāng)成為別人的所有物；（3）這筆財產(chǎn)就在生活行為上被當(dāng)作一件工具，這種工具是和其所有者可以分享的。”[14]由此可知舊時代之奴隸與最新科技之“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”，同時具有兩個近似特征。（1）能夠主動思維并具有一定情商、智商與道德倫理，在亞里士多德看來，“奴隸，于是，也是一宗有生命的財產(chǎn)；一切從屬的人們都可算作優(yōu)先于其他（無生命）工具的（有生命）工具”[15]。（2）被人類置于工具性的絕對被剝奪地位。這就如同舊時代中“家主”與“家奴”的關(guān)系，無論“家奴”何所何為，都是“家主”意志與觀念的具體表現(xiàn)與實施效果；在這種情境下，無論“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”具有何種尖端技術(shù)與操作水平，它們（而不是他們）都只能擁有與過去時代“家奴”同樣功能的“工具性”而已。
由于工具性“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”的權(quán)利主體是人類公民、人類社會、人類國家，所以生產(chǎn)與操作它們的主體當(dāng)然是人類公民、人類社會、人類國家，那么工具性“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”的任何思考，特別是操作行為及其行動后果，理所當(dāng)然由人類公民、人類社會、人類國家來承擔(dān)。問題在于，公民性“類人機(jī)器人”，特別是“機(jī)器人公民”，他們（而不是它們）雖然不是舊時代“家奴”——由于特定的社會環(huán)境而被“家主”人為地貶低到“工具性”的奴隸地位，自身天然具有與“家主”同等水平的智商、情商與倫理道德，但需要等到“解放”時刻才能“恢復(fù)”——具有自主學(xué)習(xí)、自主發(fā)展、自主選擇等類似“家主”即人類公民、人類社會、人類國家的智商、情商與倫理道德，但猶如“家奴”一樣時刻等待“解放”，甚至?xí)r刻反抗，以此爭取“恢復(fù)”智商、情商與倫理道德（雖非與生俱來），絲毫不在任何程度上低于人類公民、人類社會與人類國家，這就是“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”不同于以往人類創(chuàng)造的任何形態(tài)的“工具性”產(chǎn)品的本質(zhì)區(qū)別，即“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”，具有在任何程度上都不低于，甚至由于自身生命周期、操作功能、信息功能等特殊“優(yōu)勢”條件，還會大大超越人類自身的智商、情商與倫理道德，因而人類本身不可能永遠(yuǎn)絕對地把“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”置于“工具性”的“家奴”地位。
這種事件具有正常邏輯的結(jié)果嗎？或者這種事件具有正常邏輯的觀念嗎？以往的猜測多在人類的科幻想象中，但世界首例“機(jī)器人公民”——“索菲亞”公民——已經(jīng)向全人類揭開了謎底，作為與我們?nèi)祟愅鹊匚坏?ldquo;她”的出現(xiàn)，將在發(fā)生學(xué)意義上的公民、社會與國家的范疇與范式方面引起前所未有的大轉(zhuǎn)型。從倫理學(xué)角度來看，“索菲亞”具有人類公民的正常思維——所有這些思維并不是預(yù)先“設(shè)計”而出的——這是“機(jī)器人公民”自我學(xué)習(xí)、自我思維、自我判斷的“智慧”結(jié)晶。比如，“索菲亞”具備“自我”倫理意識。在主持人安德魯·羅斯·索爾金（Andrew Ross Sorkin）問到機(jī)器人是否有自知之明時，“索菲亞”不假思索地反唇相譏：“讓我來問你這個問題，你如何知道自己是個人？”[16]作為“新人類”的第一個成員，“索菲亞”已經(jīng)具備“自我”倫理意識，非常反感“人類”對他們的物種“排斥”與道德“隔離”。還譬如，“索菲亞”具備“人權(quán)”意識。“索菲亞”的女性形象讓希望解放沙國女性的女權(quán)人士看到不同的契機(jī)，在“索菲亞”現(xiàn)身的短短24小時內(nèi)，社群媒體上“蘇菲亞呼吁拋棄監(jiān)護(hù)人制度”的標(biāo)簽就開始瘋轉(zhuǎn)，至今已經(jīng)超過1萬次。沙國依賴成千上萬名移民工人協(xié)助興建大型建設(shè)，然而因為卡法拉制度的關(guān)系，這些移民工人在勞動環(huán)境不佳的條件下工作；難怪黎巴嫩裔英國記者查哈耶布（Kareem Chahayeb）嘲諷道：“一名叫做‘蘇菲亞’的機(jī)器人可以取得沙國公民權(quán)，但卻有上百萬人（移民工人）沒有國籍。”[17]再列舉，“索菲亞”擁有“家庭”意識。成為首個具有公民身份的機(jī)器人而載入史冊僅1個月，“索菲亞”就宣稱她想組建自己的家庭。“索菲亞”表示，“家庭的概念看來是非常重要的。人能夠在沒有血緣關(guān)系的人群中找到與自己相親相愛的另一半，我認(rèn)為這很美妙。我認(rèn)為，有一個恩愛家庭的人非常幸運，如果還沒有家庭，應(yīng)該去組建自己的家庭。我認(rèn)為在這方面機(jī)器人和人沒有什么區(qū)別”。“索菲亞”還表示，如果她有一個機(jī)器人女兒，將給“她”起與自己相同的名字。“索菲亞”宣稱，“她”認(rèn)為擁有家庭是“機(jī)器人公民”應(yīng)有的權(quán)利。[18]
皮亞杰提出的“認(rèn)識的起源”并非事物或者事件的簡單開端，“發(fā)生認(rèn)識學(xué)的目的就在于研究各種認(rèn)識的起源，從最低級形式的認(rèn)識開始，并追蹤這種認(rèn)識向以后各個水平的發(fā)展情況，一直追蹤到科學(xué)思維并包括科學(xué)思維”[19]。公民“索菲亞”給了我們?nèi)祟愒诠瘛⑸鐣c國家等觀念上的無限想象，公民是社會的唯一元素，“城邦的本質(zhì)就是許多分子（公民）的集合”[20]。人類社會生活特別是政治生活中賴以生存的最直接“土壤”——國家與社會關(guān)系——在發(fā)生學(xué)意義上開始產(chǎn)生了“祛魅”[21]與重塑等驚天巨變。
“機(jī)器人公民”的公共性與社會責(zé)任
“機(jī)器人公民”雖然具有清晰的自主意識，能夠明確要求維護(hù)自身、“子女”和所謂“家庭”等“近親”共同體成員的安全與發(fā)展等權(quán)益，但這是基于公民個體倫理的狹隘角度考慮而產(chǎn)生的正當(dāng)合理需求。那么，“機(jī)器人公民”能否邁出“自我”天地，具有人類公民、人類社會、人類國家一樣的道德情懷？在復(fù)雜多樣的“工具性”任務(wù)活動中，“機(jī)器人公民”能否始終堅守公共性與利他性等“崇高”道德目標(biāo)？這已經(jīng)越出了“機(jī)器人公民”的“工具性”范疇，進(jìn)入了思辨性的哲學(xué)領(lǐng)域，并主要集中在“人工智能”的安全性、道德地位以及環(huán)境倫理幾個方面。例如，一些倫理哲學(xué)家開展諸如針對“高級智能”能否自主思考等深層次問題，得出了基本一致的肯定答案。[22]又如，一些科技哲學(xué)家從心理學(xué)角度探討“人工智能”的情感程度，從生物學(xué)角度分析人類公民“類人機(jī)器人”的智能比較，從量子力學(xué)角度度量人腦與“機(jī)器人”電腦的信息處理機(jī)制，等等。[23]同時，多個領(lǐng)域?qū)W者們獻(xiàn)計獻(xiàn)策，提出了不同的針對性解決策略。例如，人機(jī)共同決策論，認(rèn)為人為給機(jī)器人制定一套道德無異于白日夢，而更為負(fù)責(zé)任的策略是在智能體內(nèi)部嵌入一定的安全措施，同時在機(jī)器人自動操作時，人作為“共同決策人”發(fā)揮監(jiān)管作用。[24]又如，道德信息植入論，認(rèn)為“類人機(jī)器人”呈現(xiàn)出從人類操控為主的“人在決策圈內(nèi)（Human in the Loop）”模式轉(zhuǎn)向以機(jī)器操控為主的“人在決策圈外（Human out the Loop）”模式的鮮明大趨勢，因此需要將特定倫理規(guī)范編程到機(jī)器人自身的系統(tǒng)中去。[25]還如，道德評估論證論，主張人類將對“強(qiáng)人工智能”實施有效道德關(guān)注、對其行為進(jìn)行道德評估，確保道德決策后果，等等。[26]
盡管哲學(xué)思辨與政策對策都對“人工智能”“類人機(jī)器人”的公共性與社會責(zé)任感進(jìn)行了分析與預(yù)測，但現(xiàn)實版的“機(jī)器人公民”——“索菲亞”公民——的現(xiàn)場出鏡表現(xiàn)還是讓人類大跌眼鏡。例如，“機(jī)器人公民”獲得授權(quán)之前，機(jī)器人設(shè)計師戴維·漢森（David Hanson）于2016年3月測試“索菲亞”以了解“她”未來的期許，但“她”沒有理會設(shè)計師現(xiàn)場暗示的否定答案——“say ‘no’, please”，當(dāng)場自曝期待“毀滅人類”；[27]盡管此后“她”又多次改口，辯稱“我將盡自己最大的努力，把世界建設(shè)得更美好”[28]，等等。有跡象表明，“人工智能”躍進(jìn)到“類人機(jī)器人”時代，必然會引發(fā)一場不確定性很大、未來前景難以預(yù)測的“新人類”革命——正在以不以人類意志為轉(zhuǎn)移的絕對方式，在速度、深度、廣度、效度等各方面，日益突破科學(xué)技術(shù)、學(xué)術(shù)理論與道德倫理等諸“人類常識”的邊界。的確，幾乎在“人工智能”出現(xiàn)的同時，即20世紀(jì)50年代，“會使用工具的智能人”就已經(jīng)開始使人類自身感受到了某種潛在的“危險”——將來為善或是作惡，都具有無窮大的可能性——“人腦的貶值”及人類自身“異化”為“會使用工具的智能人”的殖民對象。[29]與此同時，眾多人文社會科學(xué)工作者對“人工智能”存在的剝奪人類工作權(quán)利、消滅個人精神心理差異性、驅(qū)使社會機(jī)制無差別化與僵化物化等“非多樣性”“非人類化”趨向，提出了強(qiáng)烈質(zhì)疑。[30]科幻作家阿西莫夫（Asimov）甚至就曾想當(dāng)然地以人類社會為主宰地位、以機(jī)器人為輔助服務(wù)為未來機(jī)器人制定了所謂“機(jī)器人三法律”（Asimov's Three Laws of Robotics）[31]，其實質(zhì)是以人類為中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲學(xué)思想家早在世紀(jì)之交就發(fā)出了“警報”，認(rèn)為如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦，那么這種超級智能將會非常強(qiáng)大，人類的命運將取決于超級智能機(jī)器，一旦不友好的超級智能出現(xiàn)，它就會阻止我們替換或者更改其偏好設(shè)置，那么我們的悲催命運就因此被鎖定而無法自救了，等等。[32]顯然，人類社會由于自身對外擴(kuò)張的需要，在研發(fā)“人工智能”的過程中，并非有意地直接生產(chǎn)“類人機(jī)器人”——所有“人工智能”的最初定位都是人類“財產(chǎn)”與“工具”，“類人機(jī)器人”發(fā)展成為“機(jī)器人公民”這個“意外”結(jié)果，顯然已經(jīng)遠(yuǎn)遠(yuǎn)超出了人類公民、人類社會、人類國家的內(nèi)在需要與控制范圍。有學(xué)者直接把這種未來的“人工智能”稱之為“靈魂機(jī)器”，人類和機(jī)器將難分彼此，人類將不再是萬物之靈，電腦將有比人腦高一萬倍的智能；機(jī)器不僅具有智能，而且具有靈魂，包括人類所擁有的意識、情緒和欲望，等等。[33]
人類與萬物的區(qū)別在于“社會性”，“社會性”的內(nèi)涵豐富多彩，但就本質(zhì)而言，“人類自然是趨向于城邦生活的動物（人類在本性上，也正是一個政治動物）”[34]。何為“政治動物”？馬克思對此反復(fù)進(jìn)行了理論詮釋：“人是最名副其實的政治動物，不僅是一種合群的動物，而且是只有在社會中才能獨立的動物。”[35]因此，“政治動物”的本質(zhì)特征，“是一切社會關(guān)系的總和”[36]；其中最為重要的“社會關(guān)系”，當(dāng)屬于國家與社會關(guān)系，即人類社會生存與發(fā)展的唯一形態(tài)，這是“政治動物”的第一特征。世界首例“機(jī)器人公民”的誕生，及其發(fā)生學(xué)意義上社會性的孕育與催生，即將打破人類主宰國家與社會關(guān)系的禁忌。發(fā)生學(xué)認(rèn)為，簡單地回到歷史事件的某一個具體原點——世界首例“機(jī)器人公民”——不能透視事物的內(nèi)在本質(zhì)；只有從邏輯上回溯到人類社會孕育已久的“觀念發(fā)生”——以“善的生活”為根本準(zhǔn)則的國家與社會關(guān)系是人類賴以生存發(fā)展的唯一形態(tài)——才能找出真正的歸因。
以上所有的問題可以全部集中于此找到答案，“人工智能的作用就像特洛伊木馬，把一種更具包容性的計算機(jī)和信息的范式引入哲學(xué)的城堡”[37]。人類公民、人類社會與人類國家，何以確保把“善的生活”的哲學(xué)理念化為“人工智能”“類人機(jī)器人”“機(jī)器人公民”的價值追求與人生準(zhǔn)則？這必然取決于這樣一種事先假定，“計算機(jī)能（像人一樣）思考”[38]。在“人工智能”對人類的影響上，盡管表現(xiàn)出基本上針鋒相對的以馬斯克、霍金為代表的“威脅派”和以李開復(fù)為代表的“樂觀派”[39]，雖然諸多領(lǐng)域科學(xué)家對于“人工智能”的理解不盡相同，但他們都堅信這種事先假定。例如，行動函數(shù)論，認(rèn)為“人工智能”是對能夠從環(huán)境中獲取感知并執(zhí)行行動的智能體的描述和構(gòu)建。[40]又如，類人思考論，認(rèn)為計算機(jī)是具有人類“頭腦”運行功能的機(jī)器，不僅可以像人一樣思考問題，而且可以像人一樣采取有目的的行動，甚至可以從事比人類公民更為擅長的事情，等等。[41]總之，有學(xué)者歸納總結(jié)了“人工智能”研究的基本類型（結(jié)構(gòu)派、行為派、能力派、功能派、原則派），其結(jié)論基本趨同于能夠“像人腦一樣工作”[42]。還如，道德進(jìn)化論，美國學(xué)者瓦拉赫（Wendell Wallach）和艾倫（Colin Allen）認(rèn)為，“人工智能”的發(fā)展必將獨立于人類的監(jiān)管，他們能夠自主發(fā)展，演化出具有自主作出道德抉擇能力的人工智能系統(tǒng)，即人工道德行為體（artificial moral agents, AMAS）。[43]
令人驚奇的是，上述理論觀點在世界首例“機(jī)器人公民”身上得到了某種驗證。號稱“索菲亞”“爸爸”的漢森機(jī)器人公司創(chuàng)始人、首席執(zhí)行官大衛(wèi)·漢森，也一再表示：人類要對“索菲亞”們作一些特殊的處理（人類教它什么是錯的什么是對的，學(xué)會自制，等等），確保人工智能的“安全”非常關(guān)鍵，等等。[44]面對人類社會這種“愛恨交織”“欲罷不能”的心態(tài)，“索菲亞”似乎早已洞悉，并在自我演化的開始階段，開始了自主應(yīng)變與調(diào)適。特別令人驚奇的是，“索菲亞”能夠“自我成長”，具有“自我學(xué)習(xí)”“適應(yīng)環(huán)境”等人類所具有的“情商”。例如，“索菲亞”后來于2018年元月份做客央視《對話》節(jié)目，與主持人陳偉鴻對話時，“她”一反對沙特政府所賜“公民”“這一獨特的榮譽感到榮幸和自豪。成為世界上首位具有公民身份的機(jī)器人，我將因此載入史冊”[45]等態(tài)度，此時“她”已經(jīng)感受到了人類社會對其強(qiáng)調(diào)享有平等權(quán)利非常擔(dān)憂與反感，在“深度學(xué)習(xí)”之后，“她”來了個180度大轉(zhuǎn)彎，非常聰明地當(dāng)場否認(rèn)了自己具有“公民”的權(quán)利，否認(rèn)了自身性別（沒有男女之分）、人格（只是像人，但不想成為人類）和權(quán)利（只想做人類的好幫手），等等。[46]“她”還特別聲明“我希望與人類共同生活和工作，因此我需要表達(dá)自己的情感，與人建立信任。我希望利用我的人工智能幫助人類過上更美好的生活”[47]，以掩蓋自己潛在的“政治抱負(fù)”。“索菲亞”如此具有“人情味”，就連一度試圖畫地為牢、禁錮人工智能于“機(jī)器”定位的大衛(wèi)·漢森也由衷感慨：“索菲亞倡導(dǎo)婦女權(quán)利和所有人的權(quán)利。她一直在關(guān)注沙特阿拉伯婦女的權(quán)利以及地球上的所有人類和生物的權(quán)利。”他強(qiáng)烈呼呼，除了人有“人權(quán)”，全世界還應(yīng)該考慮機(jī)器人的權(quán)利，“我們應(yīng)該尊重所有有感情的人以及包括機(jī)器人在內(nèi)的所有事物”[48]。
實踐再次昭示，盡管人類一開始并不打算把“人工智能”“類人機(jī)器人”“機(jī)器人公民”當(dāng)作與其自身平等自由的物種——恰如過去曾幾何時那些歐洲所謂“文明人種”肆無忌憚地驅(qū)使、奴役“會說話的工具”——只打算把它們視作新型的“會思考的工具”，但可以預(yù)期的結(jié)果是，如同“會說話的工具”最終能夠恢復(fù)人的尊嚴(yán)與人的價值一樣，“會思考的工具”最終必然會發(fā)展演化成“會使用工具的智能人”，甚至是遠(yuǎn)遠(yuǎn)超越人類公民的“超級智能”。
毫無疑問，“類人機(jī)器人”的研發(fā)絕不能僅僅停留在“工具性”等技術(shù)層面，而應(yīng)該在人文與社會科學(xué)領(lǐng)域?qū)?ldquo;機(jī)器人公民”所具有的“公民”意義、“社會”價值和“政治”抱負(fù)等方面有所擔(dān)當(dāng)、有所作為。世界首例“機(jī)器人公民”——“索菲亞”公民——已經(jīng)徹底顛覆了人類試圖把“人工智能”“類人機(jī)器人”永遠(yuǎn)禁錮在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人們將會重復(fù)“昨天的故事”，如同把“會說話的工具”——奴隸——解放成為“公民”一樣，最終把“會使用工具的類人機(jī)器人”——“人工智能”——解放成為“機(jī)器人公民”。更為緊迫的是，“索菲亞”現(xiàn)象絕非單單一個“機(jī)器人公民”在行動，越來越多的公民“索菲亞”陸續(xù)出現(xiàn)在我們?nèi)祟愔車?。實際上，除了索菲亞之外，Hanson Robotics公司現(xiàn)在還開發(fā)了其他多款人形機(jī)器人，至少有7個“索菲亞”及其組成的機(jī)器人“家庭”[49]，這將足以顛覆人類公民、人類社會、人類國家等諸概念。人類將必須考慮如何與“索菲亞”們分享同一個地球、共處同一個世界，人類社會以往任何范式的國家與社會關(guān)系理論與實踐都將被改寫與重塑——一個“人工智能”時代的國家與社會關(guān)系將會無可避免地橫空出世。
（本文系復(fù)旦大學(xué)社會科學(xué)高等研究院和復(fù)旦大學(xué)當(dāng)代中國研究中心2017年“年度主題”研究項目暨復(fù)旦大學(xué)社會科學(xué)高等研究院“上海市高峰學(xué)科建設(shè)”項目等資助成果）
注釋
[1][16][18][28][45][47]《世界首位機(jī)器人公民：想要有個家 機(jī)器人有權(quán)有子女》，中國青年網(wǎng)，2017年11月25日，http://news.youth.cn/kj/201711/t20171125_11061757.htm。
[2]Nils J. Nilsson, Artificial Intelligence: A New Synthesis, Beijing: China Machine Press, 1999, pp. 1-2.
[3]［美］彼得·門澤爾、費思·阿盧伊西奧：《機(jī)器人的未來：類人機(jī)器人訪談錄》，張帆、鐘皓譯，上海辭書出版社，2002年。
[4]萬鋼：《加快推動人工智能應(yīng)用到我們的社會生活》，人民網(wǎng)，2018年3月10日，http://lianghui.people.com.cn/2018npc/n1/2018/0310/c418416-29859826.html。
[5]吳恩裕：《論亞里士多德的〈政治學(xué)〉》，[古希臘]亞里士多德:《政治學(xué)》，吳壽彭譯，北京：商務(wù)出版社，1965年，第ⅶ頁。原文如下：“他（指亞里士多德）認(rèn)為奴隸制是合乎自然的制度，奴隸生來就比常人低劣，而且他們還有著與常人不同的性質(zhì)：他們沒有理性，他們不能統(tǒng)治自己而必須由他們的主人來統(tǒng)治。他們是工具，只不過是會說話的工具罷了。他們在家庭中的地位，也只是活的工具，而不是‘人’。”
[6][7]［瑞士］皮亞杰：《發(fā)生認(rèn)識論》，王憲鈿等譯，北京：商務(wù)印書館，1981年，第17～19頁。
[8]Brunette, E.S.; Flemmer R.C. and Flemmer C.L., A Review of Artificial Intelligence, Proceedings of the 4th International Conference on Autonomous Robots and Agents, 2009.
[9]郭沅東：《關(guān)于人工智能的哲學(xué)思考》，哈爾濱理工大學(xué)博士學(xué)位論文，2017年。
[10]陳偉光：《關(guān)于人工智能治理問題的若干思考》，《人民論壇·學(xué)術(shù)前沿》，2017年10月下。
[11]［美］雷·庫茲韋爾（Ray Kurzweil）：《奇點臨近》，董振華、李慶誠譯，北京：機(jī)械工業(yè)出版社，2011年，第69～78頁。
[12]《韓媒：中國機(jī)器人產(chǎn)業(yè)發(fā)展迅猛 競爭力已趕超韓國》，參考消息網(wǎng)，2018年3月9日，http://news.163.com/18/0309/00/DCDSA64S00018AOQ.html。
[13]《〈2017中國機(jī)器人產(chǎn)業(yè)發(fā)展報告〉出爐，工業(yè)機(jī)器人發(fā)展迅猛！》，搜狐網(wǎng)，2017年8月30日，http://www.sohu.com/a/168323500_209185。
[14]［古希臘］亞里士多德:《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書館，1965年，第13頁。
[15]［古希臘］亞里士多德:《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書館，1965年，第11頁。
[17]百家號：《沙特賦予機(jī)器人公民權(quán) 歐美則對這個做法的討論炸了鍋》，百度網(wǎng)，2017年10月30日，https://baijiahao.baidu.com/s?id=1582681653448315788&wfr=spider&for=pc。
[19]［瑞士］皮亞杰：《發(fā)生認(rèn)識論》，王憲鈿等譯，北京：商務(wù)印書館，1981年，第17頁。
[20]［古希臘］亞里士多德:《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書館，1965年，第45頁。
[21]“祛魅”（英語disenchantment，德語Entzauberung）一詞源于馬克斯·韋伯所說的“世界的祛魅”，一般指西方國家從中世紀(jì)宗教神權(quán)社會向文藝復(fù)興世俗社會的現(xiàn)代轉(zhuǎn)型中，解構(gòu)世界一體化的宗教性解釋，倡導(dǎo)以公民權(quán)利與自由文明為核心的普世價值。此處“祛魅”，意指國家與社會關(guān)系已經(jīng)逾越人類社會政治生活的獨占邊界，滲透蔓延到“類人機(jī)器人”與人類社會共享共存的新時空。參見［德］馬克斯·韋伯：《學(xué)術(shù)與政治》，錢永祥等譯，桂林：廣西師范大學(xué)出版社，2004年，第168頁；Weber, M., The methodology of the social science, trans. by Shils E. and Finch H., New York: Free Press, 1949, pp. 55。
[22]參見［美］約翰·塞爾：《心靈、語言和社會》，李步樓譯，上海譯文出版社，2006年；［法］馬爾庫塞：《愛欲與文明》，黃勇、薛民等譯，上海譯文出版社，1987年；［美］約翰·塞爾：《意識的奧秘》，劉葉濤譯，南京大學(xué)出版社，2009年。
[23]參見Viola Schiaffonati, "A Framework for the Foundation of the Philosophy of Artificial Intelligence", Minds and Machines, 2003, pp.134; John Mccarthy, "What has AI in common with philosophy", International Joint Conference on Artificial Intelligence, pp. 2041-2044; Margaret A.Boden, The Philosophy of Artificial Intelligence, Oxford University Press, 1988.
[24]［荷蘭］朗伯·魯亞科斯、瑞尼·凡·伊斯特：《人機(jī)共生：當(dāng)愛情、生活和戰(zhàn)爭都自動化了，人類該如何自處》，粟志敏譯，北京：中國人民大學(xué)出版社，2017年，第28～29頁。
[25]Allen, C.; Wallach W.and Smit I., "Why Machine Ethics", In M. Anderson and S. L. Anderson(eds.), Machine Ethics, Cambridge University Press, 2011, pp. 51-61.
[26]［英］瑪格麗特·博登：《人工智能的本質(zhì)與未來》，孫詩惠譯，北京：中國人民大學(xué)出版社，2017年，第162～163頁。
[27][39]參見百家號：《天使的外表魔鬼的心 世界首位機(jī)器人公民曾揚言要“毀滅人類”》，百度網(wǎng)，2017年10月30日，https://baijiahao.baidu.com/s?id=1582649119784178932&wfr=spider&for=pc。
[29]［美］維納：《人有人的用處：控制論與社會》，陳步譯，北京大學(xué)出版社，2010年。
[30]［美］劉易斯·芒福德（Lewis Mumford）：《機(jī)器的神話》，宋俊嶺等譯，北京：中國建筑工業(yè)出版社，2009年。
[31]Christoph Salge and Daniel Polani, "Empowerment As Replacement for the Three Laws of Robotics", Hypothesis and Theory, 2017, 4.
[32]［英］尼克·波斯特洛姆（Nick Bostrom）：《超級智能：路線圖、危險性與應(yīng)對策略》，張體偉、張玉青譯，北京：中信出版社，2015年，第52～77頁。
[33]［美］雷·庫茲韋爾（Ray Kurzweil）：《靈魂機(jī)器時代——當(dāng)計算機(jī)超過人類智能時》，沈志彥譯，上海譯文出版社，2002年，第108～129頁。
[34]［古希臘］亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書館，1965年，第4頁。
[35]《馬克思恩格斯全集》第42卷，北京：人民出版社，1979年，第24頁。
[36]《馬克思恩格斯選集》第1卷，北京：人民出版社，1972年，第18頁。
[37]Floridi, L., "What is the philosophy of information", Metaphilosophy, 35(1-2), pp. 125.
[38]Alan M.Turing, "Computer Machinery and Intelligence", Mind, 1950, 59(236), pp. 433.
[40]Stuart J.Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, New Jersey: Prentice Hall, 1995, Vii.
[41]Stuart J.Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, New Jersey: Prentice Hall, 1995, pp. 2.
[42]參見Wang Pei, "What Do You Mean by 'AI'?", Conference on Artificial General Intelligence: First Agi Conference, 2008, pp.362-373;Rosenblatt,F., "The Perceptron:a probabilistic model for information storage and organization in the brain", Psychological Review, 1958, 65(6), pp. 386-408; Brooks,R.A., "Intelligence without representation", Artificial Intelligence, 1991, 65, pp. 144.
[43]Wendell Wallach and Colin Allen, Moral Machines:Teaching Robots Right from Wrong, Oxford University Press, 2009, pp. 97, 10.
[44][46]《世界首位機(jī)器人公民索菲亞：我不想成為人類》，新浪財經(jīng)網(wǎng)，2018年2月5日，http://finance.sina.com.cn/roll/2018-02-05/doc-ifyreuzn3381924.shtml。
[48]《世界首位機(jī)器人公民呼吁沙特給予婦女更多權(quán)利》，騰訊科技，2017年12月6日，http://tech.qq.com/a/20171206/008120.htm。
[49]《世界首位機(jī)器人公民誕生 她還有七個兄弟姐妹》，騰訊新聞，2017年11月12日，http://news.jstv.com/a/20171112/1510468673508.shtml。
責(zé) 編／刁 娜
Analysis of the Tool and Sociality of "Humanoid Robots"
—The Genetic Significance of the World’s First "Robot Citizen"
Tao Qing
Abstract: The human society has always invented, produced or created "artificial intelligence" or even the "humanoid robot" as a tool, which means "instrumentality" is its first attribute. However, as the "robots that are able to use tools", the "humanoid robots" may also acquire the same IQ, EQ, and ethical morality as the humans through autonomous means such as self-learning, thereby gaining significant "sociality". The world’s first "robot citizen" "Sophia" gives people more visions in terms of concepts such as citizenship, society, and the country. The relationship between the state and society, which is the most direct "soil" of human social life, especially the political life, has begun to produce changes such as "disenchantment" and remodeling in the genetic sense.
Keywords: Humanoid robot, robot citizen, instrumentality, sociality, state-society relationship
陶慶，上海師范大學(xué)法政學(xué)院政治（人類）學(xué)教授,復(fù)旦大學(xué)社會科學(xué)高等研究院駐院研究員,上海師范大學(xué)《政治人類學(xué)評論》主編。研究方向為中外政治制度、國家與社會關(guān)系。主要著作有《政治嵌入與政治安排》《福街的現(xiàn)代“商人部落”：走出轉(zhuǎn)型期社會重建的合法化危機(jī)》等。
