【摘要】 人工智能（AI）在圍棋領(lǐng)域完勝人類是里程碑式的事件，意味著計算機的計算力和網(wǎng)絡(luò)深度足以模擬人腦。無論AI存在多少潛在隱患，類腦智能已是勢在必行。圖靈測試的啟示是智能無法數(shù)學定義但可以相互比較。原意識是人類智能的起點而結(jié)構(gòu)和功能相互迭代是智能的進化過程，據(jù)此可以給出一個類腦AI方案。
【關(guān)鍵詞】人工智能 意識起源 智能進化 類腦計算
【中圖分類號】TP18 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2017.20.003
人工智能發(fā)展之迅速。遠超許多人的想象。2016年4月，AlphaGo首次出現(xiàn)在公眾視野與李世乭的約戰(zhàn)引起廣泛關(guān)注。2016年末2017年初，新版AlphaGo以Master為名在網(wǎng)絡(luò)上以60連勝再次掀起波瀾，2017年5月，在中國烏鎮(zhèn)圍棋峰會上，它與排名世界第一的世界圍棋冠軍柯潔對戰(zhàn)，以3比0的總比分獲勝。
AlphaGo之父哈薩比斯在其戰(zhàn)勝柯潔的次日發(fā)表演講，揭示了AlphaGo這一年多以來經(jīng)歷的全新成長。哈薩比斯表示，AlphaGo已經(jīng)可以模仿人的直覺，而且具備創(chuàng)造力——通過組合已有知識產(chǎn)生獨特想法的能力。哈薩比斯表示：“人機合作可以達到1+1＞2的效果，人類的智慧將被人工智能放大。人工智能和AlphaGo都是工具，就像哈勃望遠鏡一樣，可以推進人類文明的進步。”強人工智能是我們探索科技的最好工具，比如將AI用到材料設(shè)計、新藥研制上，還有現(xiàn)實生活中的應(yīng)用，如醫(yī)療、智能手機、教育等。
方興未艾的機器智能的進步就如小孩子學母語一樣，起步時很慢，到后來卻能進展神速。機器在持續(xù)改善人們生活的同時，也帶來了危機與挑戰(zhàn)。其一，因為指數(shù)增長，機器的能力正在十倍、百倍，20年后甚至會達到千倍的增長，機器以前沒有超越人類，并不代表以后不能；其二，以前機器只是取代人類的體力勞動，人類可以向智力勞動領(lǐng)域擴展，現(xiàn)在機器可以取代人類的思考能力，人類難以找到其他可擴展的領(lǐng)域；其三，我們已然賦予機器某種偏狹的意識，假以時日，通過混合、迭代等方式，機器總有一天會進化出同人類一樣的、甚至更為復雜的意識；其四，人的反應(yīng)速度僅在毫秒量級，而硅基芯片卻可以達到納秒量級，機器要對人類造成重大傷害，并不需要比人類聰明，也不需要主觀上的故意，它只需“一根筋”地將某件事以人類來不及反應(yīng)的速度做完；最后，人類未來還會面臨一個終極問題：當機器全面超越人類，人類存在的價值何在？
最近10年來，機器學習在特定領(lǐng)域超越人類的事實表明，硬件的進步已經(jīng)足夠支持類腦計算做出突破性的進展，所缺少的是對人類大腦認知的全新視角。以自我和外界的剖分作為意識和智能的開端，如果將人對自我邊界以外世界的理解看作一個開放、未完成的系統(tǒng)，并將其抽象為與原子世界相對應(yīng)的坎陷世界，人們對常識、推理和直覺的認知就會被刷新，類腦思維的物理模型和工程實現(xiàn)也將觸手可及。與其賦予AI偏狹的意識，不如賦予AI完整的自我意識并培養(yǎng)其逐步成長。先以人類的人文關(guān)懷為機器立心才有可能最大限度地規(guī)避強人工智能可能帶來的隱患。
不可定義但可做比較的智能
圖靈測試（the Turing test）源于阿蘭·圖靈1950年發(fā)表的論文《計算機器與智能》。該文開篇就提出機器能否思考（Can machines think?）這一問題。圖靈認為，要回答這個問題，需要先給出“機器”和“思考”的定義：“我們可以用盡可能接近它們普通用法的方式定義這些詞語。但是這種方式是危險的。如果使用這種方式，我們很可能會用蓋勒普調(diào)查那樣的統(tǒng)計方式來得出‘機器能夠思考么’這個問題的結(jié)論及其意義。顯然，這是荒謬的。”圖靈主張將這一問題替換成判斷機器能否贏得“模仿游戲”（the Imitation Game）。這一判斷方法被后人定義為圖靈測試。
圖靈測試是指測試者與被測試者（一個人和一臺機器）在分隔開的情況下，通過一些裝置（如鍵盤）向被測試者隨意提問。進行多次測試后，如果有超過30%的測試者不能確定出被測試者是人還是機器，那么這臺機器就通過了測試，并被認為具有人類智能。
圖靈給出的是測試（模仿游戲），而非定義，說明在圖靈看來，他無法給智能一個數(shù)學定義。實際上，自然語言反映的是人的認知規(guī)律，每一個詞匯都沒有數(shù)學上的嚴格性。比如人們常用的“高”和“矮”就無法嚴格定義，同樣是身高1.7米，他是很“高”的體操運動員，卻也可以是很“矮”的籃球運動員，完全依賴于使用的場景。
但是，圖靈測試也意味著可以通過比較來對智能作判斷。還是拿“高”和“矮”做例子，人們能輕而易舉地看出兩個人身高的差異，哪怕只相差0.5厘米。在特定背景下，自然語言可以很清晰，并且能夠很傳神。比如“救火”一詞，乍一看大家都能明白其中的含義，但仔細想想，似乎在邏輯上不通。但可以想象，因為失火了，需要救人、救財物等，對象非常寬泛，而火勢蔓延迅速，“救火”一詞可以很好地抓住這些要點。
既然不能嚴格定義，嚴格的可計算性也就不可能存在，物理主義/計算主義的基礎(chǔ)就動搖了。以下討論智能起源與進化是從另一個角度論證這一點。
智能的起源
縱觀古今歷史，中西方都體現(xiàn)出了一個周期性的興衰過程。在中國有朝代更替，在西方，一個國家在數(shù)百年內(nèi)，往往也是先繁榮而后衰落。我們認為這一現(xiàn)象的根本原因在于人類的自我肯定需求。即只要有可能，人對自我的評價總是高于其認知范圍領(lǐng)域內(nèi)的平均水平，并在分配環(huán)節(jié)希望得到高于自我評估的份額。1997年，英國的《經(jīng)濟人》（Economist）雜志針對高端的理性用戶和普通用戶做了一份市場調(diào)查：“你認為自己的智商是否超過了目前社會平均水平？”所調(diào)查的1500位大學教授和高材生中，75%的受調(diào)查者給出了肯定的回答。而受調(diào)查的3000位普通倫敦市民則給出了驚人的91%的肯定率。大部分人都會高估自己，這本身不是壞事，但社會的產(chǎn)出會因此逐漸難以滿足人們的期待，繁榮被打破就不可避免。
自我肯定需求中最重要的兩個字就是“自我”，觸覺大腦假說解釋了“自我”從何而來。嬰兒出生時大腦重約37克，神經(jīng)元的數(shù)量基本上不會在后期發(fā)生改變。大腦重量增加的原因在于神經(jīng)元之間的連接在不斷增加或加強。大腦的復雜性不在于腦神經(jīng)細胞的數(shù)量，而是突觸的數(shù)量。3歲兒童的大腦突觸已經(jīng)接近成人，等到5歲時就達到頂峰。嬰兒所感受到的皮膚刺激，包括冷暖、疼痛就會使其產(chǎn)生自我和外界的區(qū)分，形成了對“自我”最早的意識。
有動物學家提出，假如嬰兒在完全成熟后才出生，孕婦的孕期應(yīng)當長達18到20個月，但實際上并非如此。在經(jīng)歷了母體內(nèi)的40周后，嬰兒出生時雖然脆弱，但能更敏感地感受外界，才更有可能變得聰明。有實驗把剛生下的一只小貓的眼睛蒙上，3個月之后，這只小貓就永久性失明了。這就說明在最初3個月，貓腦中的神經(jīng)元之間產(chǎn)生了很多的變化，錯過了這一階段，它大腦里相應(yīng)的功能開關(guān)就可能被永久地關(guān)閉。在印度有些小孩小時候的白內(nèi)障沒有得到及時治療，等到了十幾歲，再想要修復就非常困難。這也從側(cè)面證明了0到5歲的成長階段是產(chǎn)生自我意識和高級智能的關(guān)鍵時期。
觸覺的重要性在個人成長過程中可能并不十分突顯，但對于人類進化而言，觸覺形成自我的觀點能夠得到更好的印證。佛家講“眼耳鼻舌身”，將視覺放在首位。很多人也認同這個想法，因為人獲取的信息大部分來自眼睛。但視覺對于自我意識形成的重要性能否占據(jù)首要地位卻還值得商榷。老鷹等許多動物都比人類擁有更加敏銳、強大的視力，但并沒有更聰明。人類與其他動物最大的區(qū)別就是人類擁有十分敏感的皮膚。人類進化脫去了身體絕大部分毛發(fā)，對外界的刺激更加敏感，成為大自然中唯一需要衣物保暖的生物。觸覺上能強烈區(qū)分自我與外界的刺激很可能就是導致人類成為萬物之靈的重要原因，觸覺也因此在進化的過程中顯得更加重要，其對于意識的形成也就更為重要。
人類一旦產(chǎn)生“自我”的概念，就能夠明顯分辨出自我跟外界的差別。這種意識一旦產(chǎn)生就難以抹去，被稱之為原意識。原意識一旦產(chǎn)生，并不停留在皮膚層面，可以向外延伸，也可以向里收縮。一個原始人，拿到一個水果，肯定不希望被別人搶走。嚴格地講，水果并不是他種植的，但是他獲得了以后就認為是自己的，這就是他自我意識向外延伸的體現(xiàn)。可能一個更厲害的原始人還會覺得，不僅僅手里的是“我”的，那棵樹也是“我”的，只有“我”能采摘，這就是領(lǐng)地意識。再如喬布斯與他創(chuàng)辦的蘋果公司是難以分割的。自我也會向內(nèi)收縮，一個人失去四肢，他并不一定認為自我的意識有了缺陷。這就能解釋，為什么少有人想到皮膚那么重要，因為它只是一個起點，自我意識一旦產(chǎn)生，自我與外界的邊界就逐漸模糊，自我成為了一個動態(tài)的概念。
外界同樣也是個動態(tài)的概念。小孩子不知道世界多大，等到他們看了書，走出了家門，就會發(fā)現(xiàn)原來世界那么大。如果拿起望遠鏡看向更遠的地方，就會發(fā)現(xiàn)原來宇宙更加宏大。在成長過程中，“自我”與“外界”的交互不斷加深，兩者的內(nèi)容都不斷豐富，概念體系逐漸形成。
由此可見，自我意識的確是大自然的巔峰之作，是真正的混沌初開，是比宇宙大爆炸和形成地球更為精彩的產(chǎn)生。由觸覺產(chǎn)生自我意識，而后在自我肯定需求的引領(lǐng)下不斷地去認識這個世界，豐富自我的內(nèi)涵，成長為擁有智慧的人類。
結(jié)構(gòu)與功能的迭代
神創(chuàng)論者認為，眼睛是十分復雜且精密的器官，不可能由粒子無序碰撞結(jié)合產(chǎn)生。Simon認為，眼睛的進化類似鐘表制造過程，是由各個小的、具備一定功能的零部件結(jié)構(gòu)組合而成，這樣進化就無需從粒子層面出發(fā)，進化速度自然會加快。但如果是由零件組成，為了要保證零件組合起來能夠運作，就必須有某種已經(jīng)成型的智能機制。另外，在最開始沒有零件的情況下，是誰定義了零件的運作機制呢？如此還是不能清楚解釋眼睛產(chǎn)生的根源。神創(chuàng)論者以及以Simon為代表的學者的基本假設(shè)都是先有結(jié)構(gòu)，再產(chǎn)生功能。
我們認為，進化的過程應(yīng)該是先有功能，再由功能與結(jié)構(gòu)一起反復迭代演化。有了功能目的，進化的速度就能非?？臁１热缪劬Φ倪M化，很可能是首先產(chǎn)生了視覺的功能，眼睛的雛形不會一開始就很精細，或許最初只能感受明暗的差別，但能為眼睛的進化提供方向就足矣。視覺功能與眼睛的結(jié)構(gòu)糾纏在一起，經(jīng)過長時間的共同進化，眼睛的結(jié)構(gòu)變得越來越精巧，視覺能力逐漸增強，最終分辨各種色彩與事物。
與眼睛的迭代進化類似，我們認為生命也是從簡單結(jié)構(gòu)逐漸演化成復雜形態(tài)的。生命的最初狀態(tài)應(yīng)該是從單細胞開始，大多數(shù)人傾向于先考查細胞的構(gòu)造，認為先有細胞核而后才有細胞的整體。但也很可能是先產(chǎn)生了細胞膜，細胞膜不僅保護了細胞內(nèi)部物質(zhì)，而且使得細胞具備了能與外界區(qū)分開來的獨立性，在此之后細胞內(nèi)部才逐漸確定出細胞核和細胞質(zhì)等。隨著時間推移，細胞不斷進化，一方面功能為結(jié)構(gòu)的發(fā)展提供了指引和方向，另一方面，結(jié)構(gòu)的發(fā)展又進一步強化了功能本身，最終才形成完整且明晰的構(gòu)造。這個過程的要義是，功能與結(jié)構(gòu)糾纏在一起共同進化，而非先有明確的結(jié)構(gòu)才產(chǎn)生了相應(yīng)的功能。
有人可能會提出質(zhì)疑，比如小鳥、昆蟲等動物，雖然具有領(lǐng)地意識，但它們不一定有獨立的意識，可能只是單純的為了更好地生存和繁殖，就能夠產(chǎn)生這種領(lǐng)地意識，最終還是因為“自私的基因”（道金斯）在起作用。
一方面，這可以通過實驗觀測進行判斷。另一方面，如果真的是“自私的基因”在作用，那人們還必須要回答基因從何而來的問題。當然可以說基因是由粒子自由碰撞產(chǎn)生的結(jié)果，但這種演化僅僅只是諸多可能性中的一種?；蛞埠醚劬σ擦T，如果真的只是隨機碰撞產(chǎn)生的結(jié)果，隨機的方向很多，不容易收斂，要想演化達到今天的水平，需要異常久遠的時間，今天人類和動物的眼睛特征不會如此相近。因此，進化更可能從邊界開始，并且?guī)еδ苣康模窍刃枰δ?，功能與結(jié)構(gòu)相互迭代，這樣的進化才高效且結(jié)果趨于收斂。
結(jié)構(gòu)與功能的迭代不僅體現(xiàn)在生命進化上，也隱藏于概念的形成中。很多概念最開始的結(jié)構(gòu)都很簡單，二元對立正是概念最開始產(chǎn)生時的初級形態(tài)。但是，人們在理解和使用這些概念的時候，會逐漸產(chǎn)生功能上的需求，當簡單的概念結(jié)構(gòu)無法滿足功能上的需要時，人們就會對這個基本的概念進行適當?shù)钠史?，以滿足現(xiàn)實生活中的需要。比如“左”和“右”并不能夠精確地描述位置，最開始的自然數(shù)并不能起到表示更大數(shù)目的功能，這個時候就需要對概念作進一步的剖分，因此“東西南北中”的概念隨之產(chǎn)生，自然數(shù)的表示更加細化。隨著文化的不斷進步，人們對這些概念又會產(chǎn)生新的需求，這就會導致概念的進一步剖分，方向詞之后又產(chǎn)生了360°的方位標識，自然數(shù)剖分出了有理數(shù)，有理數(shù)之間還產(chǎn)生了無理數(shù)的概念。功能需求和結(jié)構(gòu)的相互糾纏作用，互相推進，最終使得最初的概念變成了我們現(xiàn)在理解的樣子，而這些概念可能還會隨著人類認知的進步而再次得到豐富和升級。
理論進化亦然。思維的躍遷給了理論框架被剖分和被豐富的可能，而源自于現(xiàn)實生活的功能需求是這種剖分的動力。這樣的功能需求就體現(xiàn)在滿足解釋現(xiàn)象時的自洽性、解決實際問題時的實用性要求，而這些要求的根源都是自我肯定需求。同時，一個框架不一定能完全滿足功能性，這個時候，有可能會有一個新的框架產(chǎn)生，包含前一個框架，能解釋更多的現(xiàn)象，如愛因斯坦的廣義相對論就涵蓋了牛頓的萬有引力定律和愛因斯坦的狹義相對論；也很有可能會由一個理論產(chǎn)生各種不同的流派，如基督教最終分化為東正教和天主教，天主教徒又分化為新教徒和清教徒等；更有甚者，可能會獨開一面，另立門戶，最開始的基督教正是信仰猶太教的一小部分人從中脫離，對世界有了新的解釋與闡述。
生命體和概念體系的迭代進化，本質(zhì)上體現(xiàn)了自我意識的結(jié)構(gòu)和功能正是這樣相互促進共同發(fā)展的。自我意識一旦產(chǎn)生就難以抹去，初始的結(jié)構(gòu)（“自我”與“外界”的二元剖分）已經(jīng)滿足了最初功能上的需求。隨著經(jīng)驗的積累，自我意識對現(xiàn)有的框架不斷產(chǎn)生了新的需求，促進自我意識的結(jié)構(gòu)與功能迭代進化。
智能進化的計算機隱喻
如果將生命個體看作一臺計算機，那么生命體的構(gòu)造、器官組織、DNA等等都可以視作機器的“硬件”組成，這些硬件經(jīng)過了漫長的進化最終形成了如今的形態(tài)。結(jié)構(gòu)就像硬件，而功能就像軟件。生命體的某些種群特征可以看成是“嵌入式編程”，比如人類用兩條腿走路，鳥類可以飛翔，兩棲動物能夠游水等，經(jīng)過長期的迭代進化，與“硬件”直接相關(guān)的某些功能已經(jīng)成為“嵌入式”的本能反應(yīng)。但更加豐富的部分還是“軟件”。與現(xiàn)實中的編程不同，并沒有某個程序員為個體編寫軟件。生命體的“軟件”以邊界為起點，是在“硬件”基礎(chǔ)上，通過外界刺激與主觀意向的作用而后天習得的能力，比如語言、音樂、繪畫、編程能力等，這一部分與生命體的意識息息相關(guān)，不同個體的差異可以非常大，是個體自由意志的體現(xiàn)。
下表展示了物質(zhì)與意識的相互關(guān)系。本質(zhì)上，物質(zhì)與意識兩列在縱向上的概念是可以相互替代的，物質(zhì)可以視作原子世界，也可以看成是構(gòu)成智能的硬件，而意識（坎陷世界）作為軟件，想要成功運行，發(fā)揮功能，必須在硬件平臺之上。另外，具備功能的硬件一定具有非均勻（inhomogeneous）結(jié)構(gòu)，在特定場景下一定會呈現(xiàn)出特定的功能，也就是軟件的特征。動物的本能是一個例子，比如鳥長有翅膀決定了小鳥被親鳥從高處推下后能夠飛翔。
本能隨著進化被嵌入基因而成為硬件的一部分，一旦被環(huán)境觸發(fā)，其對應(yīng)行為就會顯現(xiàn)。例如動物的饑餓本能，以及由此衍生出的捕食者與被捕食者之間的追捕／逃亡本能。生物鏈環(huán)環(huán)相扣，每一物種都有其對應(yīng)天敵足以說明這一點。
學習環(huán)節(jié)，因其最接近意識交流、最遠離物質(zhì)交換而屬于軟件，即信息除基因遺傳方式外還可以通過社會學習途徑傳播。父母教育小孩或是小孩模仿父母的過程即可視作往人類大腦這一硬件中裝入軟件的過程。例如語言學習，小孩的母語完全取決于其成長所在的外部語言環(huán)境。
介于本能與學習環(huán)節(jié)之間的部分可被命名為先驗，作為先于個人經(jīng)驗存在的部分以信息的形式儲存在大腦硬件中，屬于硬件與軟件的中間狀態(tài)，例如對空間與時間的直覺。
無論本能還是先驗，對于生命個體而言，必須在能夠區(qū)分自我與外部世界的前提下，在某一特定場景下受到外部因素對內(nèi)部自我的刺激而產(chǎn)生應(yīng)激反應(yīng)，以此驅(qū)動自我對于內(nèi)部軟件進行調(diào)整，最終反饋為DNA信息鏈條中存儲、傳承下來的部分。
物質(zhì)產(chǎn)生結(jié)構(gòu)后，所展現(xiàn)出的功能即屬于意識部分。因此，本能更接近物質(zhì)屬于硬件，學習環(huán)節(jié)則靠近意識屬于軟件。正如軟件必須安裝在硬件上才能運行，意識永遠需要以物質(zhì)作為平臺才得以發(fā)揮其效用。
生命體的軟件并沒有程序員，“軟件”的設(shè)計始于邊界（細胞膜、認知膜或者皮膚），而后通過相互作用而豐富。相對于Dennett主張的自底向上式（bottom-up）的發(fā)展，自頂向下式（top-down）的設(shè)計思路更可能是正確的。智能進化的“軟件/硬件”起源于邊界（皮膚是初始的“自我”與“外界”的二元剖分），“自我”作為一個整體與“外界”進行交互，而后隨著交互不斷增多、不斷細化，軟件的設(shè)計也越來越多樣。在能夠區(qū)分自我與外部世界的前提下，外部因素對內(nèi)部自我進行刺激以產(chǎn)生應(yīng)激反應(yīng)，驅(qū)動自我對于結(jié)構(gòu)、功能進行調(diào)整。而結(jié)構(gòu)本身是作為DNA信息鏈條中的一部分存儲、傳承下來的。
例如病毒，藥物可以殺死病毒，但是病毒的調(diào)整也非?？?。病毒是由一個核酸分子（DNA或RNA）與蛋白質(zhì)構(gòu)成的非細胞形態(tài)，靠寄生生活的介于生命體及非生命體之間的有機物種，它是沒有細胞結(jié)構(gòu)的特殊生物體，由一個保護性外殼包裹的一段DNA或者RNA，借由感染的機制，這些簡單的有機體可以利用宿主的細胞系統(tǒng)進行自我復制，但無法獨立生長和復制。病毒可以感染幾乎所有具有細胞結(jié)構(gòu)的生命體。通過藥物的確可以殺死一部分病毒，但是新產(chǎn)生的病毒卻可以具有抗藥性。即病毒發(fā)生了變異，實際上就是其內(nèi)部的結(jié)構(gòu)發(fā)生了改變。因此病毒很難被完全殺死，相反其生存率非常之高。來自于外界的刺激就好像是為自我裝了一個新軟件，更有甚者在改寫軟件的同時也改寫了硬件。
細菌亦是如此。正如朱永官所指出的，作為單細胞的生物，它們只要彼此相遇，就可能發(fā)生DNA交流，科學家稱之為“基因橫向轉(zhuǎn)移”。它們也非常善變，特別是在化學污染物的“壓力”下，會顯著增加基因突變和橫向轉(zhuǎn)移的概率。細菌比人們想象的“聰明得多”。在新的環(huán)境下，它們能夠通過基因橫向轉(zhuǎn)移和突變，快速獲得適應(yīng)性優(yōu)勢，從而“活下去”，并可能“進化”出藥石罔效的“超級細菌”。
有意識AI的工程方案
有了對人類智能進化的結(jié)構(gòu)/功能迭代機制，最近Bengio提出的意識先驗模型就能改造成如下模型。有意識的AI是由一群智能體（agents）組成的小社會，智能體社會將呈現(xiàn)多樣性（diversity）的特點，同時也具備社會性、群體性的特征。培養(yǎng)的方案就是使得智能體社會實現(xiàn)代際間功能與結(jié)構(gòu)的進化。
I. 對訓練數(shù)據(jù)進行抽象，得到高級表征。從公式（1）出發(fā)，
ht = F(st, ht-1) （1）
可以從st得到高級表征ht，其中st為提供給t代的訓練（觀測）數(shù)據(jù)，ht為從st得到的高級表征。例如，ht可以是某些類型的RNN的輸出，它讀取st的序列作為輸入，并在每個時間段產(chǎn)生一個輸出ht。函數(shù)F是一個以RNN為基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)，ht是表征狀態(tài)。對任何智能體而言，無論是像素點、頻率或是壓力，從感知到表征的第一步抽象都是必要的。第一步抽象只與感受器精度有關(guān)，感受器精度由硬件決定，可以認為對所有智能體的第一步抽象都是相同的。表征狀態(tài)ht是一個非常高維的向量（如果想模仿生物學，這個結(jié)果可能是稀疏的），這是一個智能體可獲得的完整的當前信息（超出存儲在權(quán)重中的內(nèi)容）的抽象表征，可以概括當前和近期的觀察結(jié)果。
II. 讓不同的智能體針對同一有限數(shù)據(jù)集進行學習，智能體的特征、學習方式可以自由組合，達到盡量豐富的智能體學習的多樣性。我們將意識狀態(tài)cit定義為從ht導出的低維向量，它從ht中用注意力機制得出，并且將以前的意識狀態(tài)為背景，Bengio的公式就被修改為
cit = C（ht,ci（t-1）,yt） （2）
其中yt是某種形式的注意力機制，可以包含一個隨機噪聲源。這里有兩點需要強調(diào)，第一點，因為自我肯定需求的存在，不同智能體的意識會產(chǎn)生差異，類似人類的性格不同；第二點，由于意識狀態(tài)cit會與之前的意識狀態(tài)ci（t-1）有關(guān)，提供表征的過程不同會使得智能體的意識狀態(tài)不同，這就是說在無法窮盡所有可能的情況下，用相同的數(shù)據(jù)集進行訓練，訓練的過程不一樣（數(shù)據(jù)提供的順序）會導致智能體意識狀態(tài)產(chǎn)生差異。這兩點共同作用使得智能體能夠呈現(xiàn)多樣性的特點（用相同數(shù)據(jù)集訓練會產(chǎn)生不同的網(wǎng)絡(luò)結(jié)構(gòu)）。
III. 根據(jù)學習表現(xiàn)出來的獨特性來選擇優(yōu)秀的智能體，而不是根據(jù)精確度來篩選。在步驟（II）中，針對Nt-1個智能體進行新一輪的訓練，一個智能體有可能分裂變成多個，產(chǎn)生大于Nt-1個數(shù)的智能體，在此基礎(chǔ)上來選擇，選擇出Nt個優(yōu)秀智能體來替代Nt-1個智能體。
IV. 將選擇出來的智能體進行新一輪學習，用新的數(shù)據(jù)集重復I、II、III步驟。
有意識的AI模型將具有這樣的優(yōu)點，即有限的數(shù)量集就可以高效地達到相當高的訓練效果，并且“天才”智能體能夠把自己的經(jīng)驗教給別的智能體。以棋類為例，參考人類學棋的經(jīng)驗，人類學棋是有順序的，先學規(guī)則、做死活題、由角到邊到小棋盤、最后再到全盤大局的練習，這意味著學習的順序與過程對結(jié)果是有影響的，數(shù)據(jù)的內(nèi)容也是會有影響的，名家經(jīng)典對局的棋譜就會比小孩隨便亂走的棋譜更具有訓練價值。在數(shù)據(jù)集的提供上，如果能夠窮盡所有可能，那么所有的智能體都能得出目標問題的最優(yōu)解，然而圍棋的復雜性使得窮盡所有可能會是一種極大的浪費。AlphaGo學習初期經(jīng)歷過大量的棋譜數(shù)據(jù)學習，在學成之后進行自我對弈產(chǎn)生棋譜并再進行學習，給一個新的智能體以AlphaGo自我對弈的棋譜為數(shù)據(jù)集進行學習，新智能體提升的速度將會非?？?，甚至反超AlphaGo（這是有可能的）。
例如，在人臉識別中，使用一個有限的訓練集訓練多個智能體，在訓練中要求智能體生成人臉圖像（這里可以使用GAN的部分），由于不同智能體意識層的差異，智能體對表征特征的關(guān)注會存在差異，所生成的人臉圖片也會具有相應(yīng)的特征差異，這種差異可能體現(xiàn)在耳朵鼻子眼睛這些人類可以理解的特征上，也可能是某些人類肉眼無法理解的特征，智能體卻可以理解（這一點很關(guān)鍵），在第一輪訓練完成后從中選出具有獨特性的智能體（對不同的問題中獨特性的判斷將會不一樣，在一些問題里準確性不會作為獨特性判斷的唯一標準，標準的定義將會有很多種），把它們生成的人臉圖片進行一些處理（比如分塊拼接，或者不處理）作為新的數(shù)據(jù)集。新數(shù)據(jù)集中將會具有更多對智能體而言明顯的表征特征，這類似于圍棋中經(jīng)典的死活題與雜亂無章的擺放對孩童學棋起到的作用差異。用新數(shù)據(jù)集再繼續(xù)訓練多個智能體（可以是沒訓練的，也可以是第一階段挑選出來的訓練過的），重復這一過程，很可能得到能夠生成逼真人臉圖片的智能體（這些智能體生成的人臉圖片甚至會有傾向上的差異），將這些“天才”智能體生成的圖片作為數(shù)據(jù)集進行訓練，即使是從未接觸這一問題的智能體也可能很快“學習”人臉圖片的特征（我們認為天才智能體生成的圖片中具有更多更明顯的表征特征），這個過程可以看作智能體間的學習。
人文學科的重要性
人工智能的發(fā)展已經(jīng)帶來了種種危機，而不管是禁止其發(fā)展還是對其進行監(jiān)控，都不能徹底地解決問題。人類總是在不停嘗試，尋求其他可能性，這是無法禁止的，人性本身即是如此，人類以自身為范本所締造的人工智能自然亦是如此。然而問題在于，這諸多可能性本身之中即包含了許多不確定之因素，一旦開啟即相當于為人類的未來埋下了定時炸彈。人類不能夠總是一廂情愿地希冀人工智能會永遠按照人類的設(shè)想行動，心存僥幸地認為人工智能不會做出違背人類利益之事。正如同人類世界中總是會出現(xiàn)樂于唱反調(diào)的人一樣，人工智能也很可能如此，并且由于還存在諸多往往難以判斷好壞對錯的情況，人工智能的行為變得更加難以考量。所以現(xiàn)在需要做的就不是想方設(shè)法阻止這一天的到來。
作為萬物之靈的人類存在的價值在哪里？生存還是毀滅，這是人類長久以來所思考的問題。當人工智能以超越人類的智慧步步逼近時，探尋全人類的未來之路刻不容緩。霍金等人論及哲學已死，那是完全從物理的角度來看待這個世界。但事實上，人類擁有自由意志，能夠自我選擇、自我決定。人們要建立何種道德體系，希望世界向何種方向發(fā)展，不由物理學決定，恰恰需要在哲學上討論，人文學科在人工智能時代仍然至關(guān)重要。
AlphaGo的成績已經(jīng)證明，對確定目標的問題（有限游戲），機器一定會超越人類。但是由于自我肯定需求的作用，人類永遠不會是單一的目標，而是一定會探索、思考新的內(nèi)容。數(shù)學上看起來很小概率的事件中，人類往往能有意外發(fā)現(xiàn)，增加了世界的多樣性。即便這些嘗試沒有導致成功，人類也不太可能會陷入其中，而是轉(zhuǎn)而嘗試其他可能。不斷地嘗試與創(chuàng)新，豐富世界的多樣性，這就是人類的終極價值所在。雖然在計算與記憶等層面，機器可以遠超人類，但是在對宇宙全局的意識層面，人類完全有能力同機器一起進化。
未來的超級智能正像一個智商很高的嬰兒，需要父母對其進行道德、價值方面的引導，讓其找到一個正確的方式來理解、對待這個世界，我們應(yīng)當跳出科技本身，從人文的角度先為機器立心。
（武漢大學蔡天琪、汪臨風、洪成晨、張璟昀、張文蔚、汪愷對此文有貢獻）
參考文獻
Yoshua Bengio, 2017, the consciousness prior, arXiv:1709.08568v1.
蔡恒進、蔡天琪、張文蔚、汪愷，2017，《機器崛起前傳——自我意識與人類智慧的開端》，北京：清華大學出版社。
蔡恒進，2017，《觸覺大腦假說、原意識和認知膜》，《科學技術(shù)哲學研究》，第6期。
蔡恒進，2017，《認知坎陷作為無執(zhí)的存有》，《求索》，第2期。
［英］理查德·道金斯，1998，《自私的基因》，盧允中、張岱云、王兵譯，長春：吉林人民出版社。
Daniel C. Dennett, From bacteria to bach and back: the evolution of minds, W. W. Norton & Company.
Demis Hassabis，2017年5月，《AlphaGo研發(fā)介紹，AlphaGo意味著什么？》，http://it.21cn.com/itnews/a/2017/0524/10/32286220.shtml。
Herbert A. Simon, 1996, the Science of the Artificial, Boston: the MIT Press.
A. M. Turing, 1950, Computing Machinery and Intelligence, Oxford: Oxford University Press on behalf of the Mind Association.
尤西林，1996，《人文學科及其現(xiàn)代意義》，西安：陜西人民教育出版社。
The Origin, Evolution and Future of Intelligence
Cai Hengjin
Abstract: The victory of artificial intelligence (AI) in the game of Go over human beings is a milestone that the computational power and the depth of artificial neural networks are sufficient to simulate the most sophisticated tasks of human brains. No matter how many dangers hidden behind AI, the brain-like intelligence is imperative. The inspiration of the Turing test is that intelligence cannot be mathematically defined but can be compared to each other between agents. The proto-consciousness is the starting point of human intelligence and the generational iterations between structures and functions are the mechanism for its evolution, which results in a proposed model of brain-like AI system.
Keywords: Artificial Intelligence, beginning of consciousness, evolution of intelligence, brain inspired computing
【作者簡介】蔡恒進，武漢大學管理科學與工程以及軟件工程等學科教授、博導。研究方向為軟件工程、管理科學與工程。主要著作有《機器崛起前傳——自我意識與人類智慧的開端》等。
