記憶哲學(xué)能夠?yàn)槿斯ぶ悄埽ˋI）的發(fā)展提供很好的理論根據(jù)，并可能會成為智能時代哲學(xué)出場的有效方式。主要表現(xiàn)為如下五個方面：（1）從發(fā)展?fàn)幷摽?，記憶觀念能夠澄清“強(qiáng)弱”AI爭論的實(shí)質(zhì)；（2）從發(fā)展基礎(chǔ)看，記憶分類為AI發(fā)展提供了必要的理論基礎(chǔ)；（3）從發(fā)展方向看，記憶模式?jīng)Q定了AI發(fā)展方向：如何形成通用智能；（4）從發(fā)展危機(jī)看，災(zāi)難性遺忘是制約通用AI形成的一個根本性危機(jī)；（5）智能體能否作為回憶主體存在將會是人工智能發(fā)展面臨的極大問題，而回憶與記憶關(guān)系的澄清將明晰這一問題的關(guān)鍵。本文轉(zhuǎn)載自《探索與爭鳴》雜志2018年11月刊。
電影《銀翼殺手2049》劇照
在人工智能的發(fā)展過程中，眾多相關(guān)學(xué)科中哲學(xué)的作用極易忽視，甚至被擠壓到以“倫理問題”的名義存在的領(lǐng)域。盡管科學(xué)家與哲學(xué)家在后果論上達(dá)成了一致，雙方以極大熱情投入到人工智能倫理問題的研究中，并形成了二者交往的主導(dǎo)方式，但這對于哲學(xué)自身的發(fā)展來說依然不夠。且不說哲學(xué)家與科學(xué)家共同聯(lián)手探索人工智能的倫理問題中依然存在一些問題：如基本范疇存在分歧、對話需要繼續(xù)深入。如果將人工智能時代哲學(xué)出場的方式僅僅定位為倫理路徑，這未免過于狹窄了。幸運(yùn)的是，我們也看到很多學(xué)者從不同視角拓展著哲學(xué)的路徑，如機(jī)器智能的主體性、智能社會發(fā)展的挑戰(zhàn)。本文試圖對從記憶哲學(xué)角度闡述哲學(xué)對于人工智能發(fā)展提供的洞見：記憶哲學(xué)提供了一種思考AI的視野，即從記憶角度能夠很好地理解和解釋AI的發(fā)展的理論基礎(chǔ)、存在的理論爭論、未來的發(fā)展方向及其可能面臨的危機(jī)。在進(jìn)入分析之前，需要說明的是，記憶哲學(xué)提出的三個原則是：（1）記憶是時間意識及其意識現(xiàn)象得以產(chǎn)生的條件；（2）記憶哲學(xué)涵蓋記憶與遺忘兩個維度，缺一不可。（3）記憶與回憶存在著根本區(qū)分。而這三個原則將成為本文反思AI發(fā)展的重要原則。
一、記憶理論與AI發(fā)展?fàn)幷?/strong>
目前關(guān)于AI發(fā)展過程中最為有名的爭議是強(qiáng)AI與弱AI之爭，在此基礎(chǔ)上衍生了人工智能三階段發(fā)展理論：弱人工智能、強(qiáng)人工智能和超人工智能。但是在這一觀點(diǎn)中，將記憶放置到弱人工智能的階段。在這種理解中，記憶被看做是信息的存儲，與理智能力是并列形式之一。
上述爭論能否稱得上是范式之爭存在著諸多爭議，按照庫恩的觀點(diǎn)，一個范式必須符合:1)在一定時期內(nèi)科學(xué)共同體普遍接受；2）為科學(xué)家提供據(jù)以工作的模型、范例。但是在人工智能領(lǐng)域，至少行為主義、聯(lián)想主義和計算主義三大流派之間的內(nèi)戰(zhàn)硝煙始終彌漫著沒有散去，難以實(shí)現(xiàn)統(tǒng)一，所以并沒有公認(rèn)的范式出現(xiàn)。然而它作為技術(shù)爭論卻沒有任何問題，所以我們把它稱之為“人工智能領(lǐng)域技術(shù)層面的強(qiáng)弱之爭”。這一爭論的實(shí)質(zhì)是AI是否能夠具有通用意識。從歷史上看，這一爭論的形成卻與英國計算機(jī)科學(xué)家圖靈和美國哲學(xué)家約翰·塞爾分不開。在圖靈看來，一個機(jī)器如果能夠通過人類測試，那么在一定程度上說這個機(jī)器就通過了圖靈測試。此時，我們可以說這部通過圖靈測試的機(jī)器就屬于強(qiáng)AI。從圖靈的觀點(diǎn)看，目前大部分AI機(jī)器只是出于弱的階段，能夠被人識別僅僅是一部機(jī)器而已，甚至有時候稱不上是弱，不值得人們?yōu)橹ㄙM(fèi)太多的測試成本。2015年，一項(xiàng)研究成果顯示出AI已經(jīng)通過了“視覺圖靈測試”。嚴(yán)格地說，“通過”是極其日?；蛳矚g被媒體使用的用語，在科學(xué)界并不會使用?？茖W(xué)家只是關(guān)心更具體的任務(wù)實(shí)現(xiàn)。而在塞爾看來，一個機(jī)器只有具有心智，才是強(qiáng)AI。在二者的分歧中，基本上可以概括出任務(wù)實(shí)現(xiàn)和自主意識的區(qū)分?？茖W(xué)家強(qiáng)調(diào)前者，而哲學(xué)家則喜歡討論更為普遍的自主意識問題。
圍繞爭論，基本上形成了兩個明顯的派別，一類是科學(xué)流派，即AI研究專家認(rèn)為機(jī)器還只是停留在弱的階段，因?yàn)锳I機(jī)器所表現(xiàn)出的行為非常弱智，強(qiáng)AI機(jī)器還遠(yuǎn)未能到來；另一派是哲學(xué)流派，即人文學(xué)者和哲學(xué)家認(rèn)為機(jī)器已然或者必然進(jìn)入強(qiáng)的階段，因?yàn)闄C(jī)器通過圖靈測試已經(jīng)成為現(xiàn)實(shí)，同時還因?yàn)闄C(jī)器心靈具有自身演化規(guī)律，通過奇點(diǎn)已經(jīng)成為必然。這兩個派別之間的爭議極大。在科學(xué)流派看來，人文學(xué)者多是杞人憂天，甚至是像唐吉坷德一樣，朝著AI風(fēng)車沖擊，有些妄想癥；而在人文學(xué)者看來，科學(xué)家和工程師目光短淺，只盯住眼下，未能意識到AI發(fā)展的必然。
在強(qiáng)弱之爭的問題上，人工智能三種流派作用各不相同，它們在解釋意識本質(zhì)及其產(chǎn)生的問題上存在差異。首先，對行為主義而言，自主意識不是必要的條件，甚至不需要意識存在假設(shè)。這種理論可以從兩個方面做出解釋，其一從機(jī)器內(nèi)在原理看，主要源自控制論，其原理“為控制論及感知-動作型控制系統(tǒng)?！?，這是指機(jī)器自身的行為而言；其二是從機(jī)器與環(huán)境的行為應(yīng)對關(guān)系出發(fā)，強(qiáng)調(diào)機(jī)器對于環(huán)境的適應(yīng)行為。如同心理學(xué)領(lǐng)域的行為主義，意識存在是無效的假設(shè)，在人工智能領(lǐng)域中，意識存在依然是無效假設(shè)。其次，對符號主義而言，自主意識就成為必要的條件。這種理論源自數(shù)理邏輯，其原理為物理符號系統(tǒng)(即符號操作系統(tǒng))的連接和推理。這一背后需要意識的存在或者類人意識的存在，而這也不是假設(shè)；第三，對聯(lián)結(jié)主義而言，同樣需要自主意識作為必要條件。這種理論源自仿生學(xué)，主要原理為模仿人類神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間的連接機(jī)制與學(xué)習(xí)算法。它們以某種方式為機(jī)器心靈的可能性提供了論證。
這三種立場都存在問題。行為主義強(qiáng)調(diào)對環(huán)境做出反應(yīng)，所以最終不會產(chǎn)生強(qiáng)的人工智能的擔(dān)憂，因?yàn)樽疃嗍菍Νh(huán)境做出的更為人化反應(yīng)。符號主義和聯(lián)結(jié)主義所存在的問題是陷入到實(shí)體主義的立場之中。實(shí)體主義探討某類特定的主體實(shí)體具有意識，對于AI而言，AI成為一個有自身基礎(chǔ)意識的主體，基礎(chǔ)意識的運(yùn)行機(jī)制與人類似或者以自身的獨(dú)特邏輯進(jìn)行。而這條路徑經(jīng)常會碰到一個無法繞開的悖論：因?yàn)橐庾R是人類特定的規(guī)定性，而非人的存在物從實(shí)體意義上擁有意識就成為一個無法論證的課題。實(shí)體主義的立場將會遭遇來自心靈主義的嚴(yán)厲指責(zé)。在心靈主義看來，以意向性為特征的只能屬于心靈現(xiàn)象，而作為各種材料組合而成的AI是不可能具備這種意識的。
某種意義上，實(shí)體主義將強(qiáng)弱之爭引入到了一個死胡同。面對這種死胡同，記憶哲學(xué)的出場顯得非常必要。本文認(rèn)為，記憶哲學(xué)將成為一個可能的出路，它從意識產(chǎn)生過程而不是主體角度對人工智能的意識問題做出解釋。在本文所說記憶哲學(xué)中，為了破解強(qiáng)弱之爭陷入的死胡同，我們需要擺脫將記憶看作是信息過程的神經(jīng)科學(xué)的觀點(diǎn)，也需要擺脫將記憶看做是心理聯(lián)想或者精神性時間旅行的心理學(xué)觀點(diǎn)，而是將記憶看作是時間意識、意識現(xiàn)象及其自主意識產(chǎn)生以及理解智能存在體的歷史條件。在哲學(xué)史上，多位哲學(xué)家的觀點(diǎn)支持了這一點(diǎn)。德國的黑格爾、布倫塔諾和伽達(dá)默爾等共同奠定了這一理論的基礎(chǔ)。
在黑格爾那里，記憶的地位被極大忽略，甚至隱藏在“意識的直接性”底下無法見到天日。從黑格爾的問題自我意識的生成出發(fā)，循著他的解決過程會發(fā)現(xiàn)一個有趣的現(xiàn)象：記憶之光在精神的運(yùn)作中隱隱發(fā)光。他指出“個體不再需要把具體存在轉(zhuǎn)化為自在存在的形式，而僅只需要把已經(jīng)呈現(xiàn)于記憶中的自在存在轉(zhuǎn)化為自為存在的形式。”在這個觀點(diǎn)的表述中，“在記憶之中”是精神發(fā)生的一個形式結(jié)構(gòu)。因此，可以說黑格爾對記憶的解讀是不同于以往的哲學(xué)家，記憶是自在存在之所，自在存在從這里出發(fā)轉(zhuǎn)為自為存在?？上У氖?，這個觀點(diǎn)被極大地忽略了。與黑格爾不同，布倫塔諾更多從哲學(xué)心理學(xué)的角度將記憶看作是觀念的一聯(lián)結(jié)的前提條件。在他看來，記憶是過去的心理現(xiàn)象成為對象的條件。第三位哲學(xué)家是伽達(dá)默爾，他的解釋學(xué)體系對于記憶的定位就是理解人自身存在的歷史條件形式。在漢斯·盧恩（Hans Ruin）看來，《真理與方法》不像表面上看起來那樣與記憶無關(guān)，而是有著深刻的關(guān)聯(lián)。他指出，伽達(dá)默爾所做的事情，是將記憶的理解從心理能力解放出來，而從人的有限的、歷史存在的基本要素的角度來看待。在他看來，伽達(dá)默爾是從歷史的、解釋學(xué)的理解中來思考記憶的。所以，漢斯的工作主要揭示出兩點(diǎn)值得我們關(guān)注：1）記憶不是心理能力（聯(lián)想或者表征能力）；2）記憶不是記憶術(shù)（保留信息的技巧），而是人的有限的、歷史存在的前提條件。
讓我們再回到AI的強(qiáng)弱之爭中，機(jī)器是否具有自我意識？的問題上。如果僅僅將記憶看做是AI進(jìn)行學(xué)習(xí)將所獲得的信息被編碼、存儲，并且轉(zhuǎn)化認(rèn)知的過程，那么這個問題永遠(yuǎn)無法解決。如果把記憶看作是機(jī)器個體意識產(chǎn)生的前提條件，那么，就可以看到一種可能性的存在。對于AI而言，必要的前提具備了，信息感知、記憶，但是缺乏其他條件還不足以產(chǎn)生出基礎(chǔ)意識。我們需要解釋的是自主意識產(chǎn)生過程中的那個飛躍：所以，如果記憶是意識出現(xiàn)的場域和條件，意識的發(fā)生也就是將存在于記憶之中的存在顯現(xiàn)出來。強(qiáng)人工智能的出現(xiàn)并不是沒有可能，而基于因果關(guān)系的意識發(fā)生理論就無法解釋這種飛躍。
二、記憶類型與AI發(fā)展基礎(chǔ)
事實(shí)上，記憶已經(jīng)成為制約AI發(fā)展的重要因素，是AI進(jìn)行學(xué)習(xí)、決策以及合理行動的基礎(chǔ)。那么與哪些記憶有著密切的關(guān)系呢？AI發(fā)展與心理學(xué)領(lǐng)域中的記憶分類有著不可分割的關(guān)系。20世紀(jì)70年代，心理學(xué)家為記憶分類劃定了一個穩(wěn)定的框架。1970年美國心理學(xué)家繆勒（George A·Miller）提出“短時記憶”的概念，但是他所提出的這個概念只是一個理論推測，缺乏足夠的證據(jù)；80年代，加拿大心理學(xué)家圖爾文（Endel Tulving）將記憶區(qū)分為語義記憶、情景記憶和程序記憶；1974年英國心理學(xué)家艾倫·巴德利（Alan Baddeley）在提出“工作記憶”（working memory）的替代性概念，是指對信息進(jìn)行短暫加工和存儲的能量有限的記憶系統(tǒng)。這一階段確立的分類框架也被神經(jīng)科學(xué)家接受。2004年宮下雅秀（Yasushi Miyashita）在一篇題為《認(rèn)知記憶：分子和網(wǎng)絡(luò)機(jī)器以及它們自上向下的控制》接受了這種講法。“長期記憶被分為外顯記憶（陳述）和內(nèi)隱記憶（非陳述）。內(nèi)隱記憶無需覺知而影響行為，外顯記憶則進(jìn)一步被劃分為語義記憶（表示關(guān)于世界的一般知識）和情景記憶（表征一個人過去的知識）。這種形式直接運(yùn)用于人類記憶系統(tǒng)。相似的譜系也可以用于動物記憶，盡管缺乏一些人類記憶的顯著特征。因此，諸如類語義或者類情景記憶用來指動物記憶系統(tǒng)。”這一分類框架可以作為我們分析這一問題的出發(fā)點(diǎn)。
（1）記憶模塊增強(qiáng)了神經(jīng)網(wǎng)絡(luò)。一般說來，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)只能做到孤立記憶，無法做到連續(xù)記憶，為了克服這一缺陷，科學(xué)家提出了循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），但是缺陷是不能進(jìn)行長期記憶。為了解決這個問題，人工智能學(xué)者提出了不同的記憶模式構(gòu)成的模塊。1997年森普·霍克賴特（Sepp Hochreiter）提出長短期記憶（LSTM），解決了上述神經(jīng)網(wǎng)絡(luò)存在的連續(xù)性和長期性記憶問題；2014年維森特（Weston，J）等人提出記憶網(wǎng)絡(luò)（Memory Networks），即聯(lián)合存儲器，在此基礎(chǔ)上發(fā)展出許多其他相關(guān)模式，如Nested LSTM。這些模式的提出在一定程度上解決了長期記憶的問題。如DeepMind開發(fā)了一款可微神經(jīng)計算機(jī)（DNC）的機(jī)器學(xué)習(xí)模型，就是利用了可以讀寫的外部記憶神經(jīng)網(wǎng)絡(luò)，極大擴(kuò)展了神經(jīng)網(wǎng)絡(luò)在表征變量和數(shù)據(jù)結(jié)構(gòu)以及長時間存儲數(shù)據(jù)的能力。同年，他們利用記憶模塊解決了一次性學(xué)習(xí)（one-shot learning）的問題。
（2）長短期記憶成為AI內(nèi)部機(jī)制、算法的必要模塊?；艨速囂睾褪┟滋睾悾↗ürgen Schmidhuber）等人將記憶因素考慮在內(nèi)解決AI的問題并提出了長短期記憶網(wǎng)絡(luò)（LSTM）的概念這一思路獲得了廣泛認(rèn)可。2013年格萊威（Graves）等人運(yùn)用這一模式解決語言識別（speech recognition）問題；2014年艾莉亞·斯特斯凱威（Ilya Sutskever）等人運(yùn)用這一模式解決機(jī)器翻譯（machine translation）的問題；奧利奧·維尼亞斯（ Oriol Vinyals）等人運(yùn)用這一模式解決了圖像到文字轉(zhuǎn)換的問題。]2015年加拿大學(xué)者朱小丹（Xiaodan Zhu）提出了S-LSTM模式用于語言或圖像解析結(jié)構(gòu)（image parse structures）；2016年卡萊克貝納（Kalchbrenner）提出G-LSTM[Grid-LSTM]模式運(yùn)用于屬性預(yù)測（character prediction）、機(jī)器翻譯（machine translation ）和圖像分類（and image classification）。從這些文章可以看出，AI非常依賴的一個記憶分類是心理學(xué)中的長短期記憶。此外，在AI算法上，以記憶為核心的算法起到了比較重要的作用，如循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）中的長短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM），但是這種算法始終為認(rèn)知和推理起鋪墊作用的。其功能是“使用傳統(tǒng)的通過時間的反向傳播（BPTT）或?qū)崟r循環(huán)學(xué)習(xí)（RTTL），在時間中反向流動的誤差信號往往會爆炸或消失。但LSTM可以通過遺忘和保留記憶機(jī)制減少這些問題?！边@也可以看作是在AI領(lǐng)域中記憶附屬于認(rèn)知的表現(xiàn)形式?！癛NN隱藏狀態(tài)的結(jié)構(gòu)以循環(huán)形成記憶的形式工作，每一時刻的隱藏層狀態(tài)取決于它的過去狀態(tài)。這種結(jié)構(gòu)使得RNN可以保存、記住和處理長時期的過去復(fù)雜信號?！?/p>
（3）工作記憶成為AI發(fā)展過程中制約因素之一。如記憶是智能體（intelligent agents）設(shè)計中不可或缺的因素?！巴评碇悄荏w必須記住它的視覺歷史中相關(guān)的片段，忽略不相關(guān)的細(xì)節(jié)，基于新的信息來更新和操作記憶，以及在后面的時間里利用這些記憶做出決策?！惫ぷ饔洃浭且曈X推理中的限制因素之一?！霸谶@項(xiàng)研究工作中，我們解決了視覺推理中的第二項(xiàng)限制，即關(guān)于時間和記憶的限制。”“這些隨機(jī)生成的三元組能夠在大量的任務(wù)序列中訓(xùn)練視覺推理，解決它們需要對文本的語義理解，對圖像序列中每張圖像的視覺認(rèn)知，以及決定時變答案的工作記憶?！?/p>
盡管上述記憶分類為人工智能的發(fā)展提供了比較扎實(shí)的基礎(chǔ)，并推進(jìn)了人工智能的發(fā)展。但是一旦進(jìn)入到與人類記憶最為密切的情景記憶時，這個問題就不是那么樂觀。比如情景記憶（episodic memory）和自傳式記憶（autobiographical memory）對于AI研究的關(guān)系完全不明確。這主要與情境記憶和自傳式記憶的本質(zhì)有著密切關(guān)系。“情境記憶關(guān)心的是記憶者過去的時間中獨(dú)特的、具體的個人體驗(yàn)；語義記憶是指個人抽象的、無時間的可以與他們分享的關(guān)于世界的知識?！睆男睦韺W(xué)家的角度看，情景記憶和自傳式記憶有著非常強(qiáng)的個體體驗(yàn)特性，又涉及到過去的時間性。情景記憶與自傳式記憶一旦和當(dāng)事人割裂開來，就失去了生命力。對于機(jī)器而言，這很難想象。畢竟在機(jī)器那里，我們所能看到的是無處不在的二元分離，精神可以獨(dú)立于物質(zhì)存在，體驗(yàn)可以獨(dú)立于主體存在。
三、人工記憶模式與AI發(fā)展方向
2015年AI學(xué)界圍繞AI未來發(fā)展探討了如下2個問題：（1）能否創(chuàng)造出人類水平的AI？（2）是否存在智能爆炸？圍繞問題（1）DeepMind的研究者重點(diǎn)探討了這一方向的技術(shù)可能性，如德米斯·哈斯貝斯（Demis Hassabis）、Vicarious公司的迪麗·喬治（Dileep George）和卡耐基·梅隆大學(xué)的湯姆·米契爾（Tom Mitchell）；圍繞問題（2）牛津大學(xué)哲學(xué)系的尼克·博斯徹姆（Nick Bostrom）、康奈爾大學(xué)的巴特·塞爾曼（Bart Selman）以及SpaceX的埃隆·馬斯克（Elon Musk）等人探討了這一問題。這些問題的探討均可以還原到“通用AI”這一假設(shè)之上。所謂通用人工智能（AGI）是指強(qiáng)AI，“能夠成功執(zhí)行人類能夠完成的智力任務(wù)的機(jī)器智能”。在楊·立坤（Yann LeChun）看來，通用人工智能發(fā)展的最大障礙是“讓機(jī)器通過觀察來學(xué)習(xí)預(yù)測模型?！蓖ㄓ?018年，騰訊公布了三大戰(zhàn)略，通用AI、機(jī)器人實(shí)驗(yàn)室和AI+醫(yī)療。這些現(xiàn)象表明AI的未來方向是指向通用AI。
如果把通用AI當(dāng)作出發(fā)點(diǎn)，AI中的三種觀點(diǎn)服務(wù)于這一出發(fā)點(diǎn)。在目前運(yùn)算能力、海量數(shù)據(jù)與優(yōu)化算法成為AI發(fā)展的基礎(chǔ)，在此基礎(chǔ)上形成了三種不同的觀點(diǎn)：（1）運(yùn)算主義，即AI能夠?qū)W習(xí)是因?yàn)槠鋸?qiáng)大運(yùn)算能力；（2）數(shù)據(jù)主義，即強(qiáng)調(diào)AI其功能是挖掘出數(shù)據(jù)深處的相關(guān)關(guān)系（Naftali Tishby，2017;王天思，2016）；（3）算法主義，即強(qiáng)調(diào)AI發(fā)展基于更新、更優(yōu)化的算法。這三點(diǎn)都是為了通用AI這個方向服務(wù)的。而通用AI意識形成自身的條件是記憶。圍繞解決如何形成通用智能的問題上，形成了四條與記憶有著密切的關(guān)系不同的人工記憶模式。
（1）長短期記憶網(wǎng)絡(luò)（Long Short-Term Memory Networks）它是由一個被嵌入到網(wǎng)絡(luò)中的顯性記憶單元組成。其功能是記住較長周期的信息。這一技術(shù)主要是被頂級跨國公司如谷歌、亞馬遜和微軟使用，只要勇于語言識別、智能助手和屬性增強(qiáng)的應(yīng)用。
（2）彈性權(quán)重鞏固算法（Elastic Weight Consolidation Algorithm），這是從神經(jīng)科學(xué)中借來的概念。用來評估聯(lián)結(jié)的權(quán)重，而這些權(quán)重主要是通過早期任務(wù)的重要性來評估的。這種算法主要是用于序列學(xué)習(xí)多種游戲的。目前DeepMind公司使用著這種方法。2017年，谷歌DeepMind團(tuán)隊(duì)發(fā)表了一篇名為《使得神經(jīng)網(wǎng)絡(luò)中持續(xù)學(xué)習(xí)成為可能》，里面提到了一種與記憶鞏固（memory consolidation）有關(guān)的算法，其目的是讓機(jī)器學(xué)習(xí)、記住并能夠提取信息。
（3）可微分網(wǎng)神經(jīng)計算機(jī)（Differentiable Neural Computer）這種計算機(jī)的特點(diǎn)是將神經(jīng)網(wǎng)絡(luò)與記憶系統(tǒng)聯(lián)系起來，它可以像計算機(jī)一樣存儲信息，還可以從例子中進(jìn)行學(xué)習(xí)。
（4）連續(xù)神經(jīng)網(wǎng)絡(luò)（Progressive neural networks）主要用于迷宮學(xué)習(xí)。“學(xué)習(xí)解決復(fù)雜的連續(xù)性任務(wù)，即同時可以遷移知識，但是又不會忘掉此前學(xué)到的重要信息，依然是實(shí)現(xiàn)人類水平的智能中的一大難題。連續(xù)神經(jīng)網(wǎng)絡(luò)的方法代表了在這一方向上的一個嘗試：它們不會忘記先驗(yàn)知識，并通過連接到此前學(xué)習(xí)到的特征來利用這些知識?！?/p>
但是僅僅具有通用智能是不夠的，AI也只是停留在空洞的形式階段。我們可以從兩個角度預(yù)見AI發(fā)展的方向。其一是從學(xué)科角度來看，AI所依賴的重要學(xué)科之一是神經(jīng)科學(xué)，而神經(jīng)科學(xué)的發(fā)展方向在一定程度上決定和影響了AI發(fā)展的方向。從記憶角度看，神經(jīng)科學(xué)提出記憶是信息內(nèi)容的編碼、存儲、提取，AI在人工神經(jīng)網(wǎng)絡(luò)的方向上將循環(huán)神經(jīng)網(wǎng)絡(luò)、長短記憶網(wǎng)絡(luò)等與記憶有關(guān)的概念引入進(jìn)來，極大地促進(jìn)了AI自身的發(fā)展；此外，從神經(jīng)科學(xué)未來的發(fā)展方向看，神經(jīng)科學(xué)下一個目標(biāo)是研究同理心，說明同理心的神經(jīng)機(jī)制。根據(jù)中國神經(jīng)科學(xué)家蒲慕明教授的觀點(diǎn)，神經(jīng)科學(xué)會將同理心作為下一個研究目標(biāo)。因此，我們可以大膽預(yù)測：AI的同理心（empathy）討論逐漸成為一個AI的發(fā)展方向之一。這一方向?qū)锳I實(shí)現(xiàn)通用智能奠定更為堅(jiān)實(shí)的基礎(chǔ)；其二是從意識構(gòu)成角度看，意識到底有哪些形式構(gòu)成？所以類人的AI的研究必然會延續(xù)這個方向，除了更進(jìn)一步研究AI的認(rèn)知之外，還有就是對于記憶、情感、意志和欲望的研究。而這一點(diǎn)已經(jīng)開始有所苗頭。而在路徑二中，記憶將成為不可或缺的因素。這里的記憶不是信息的存儲和提取，而是使得時間意識構(gòu)成的可能性條件。對于記憶，楊立昆指出，這是預(yù)測學(xué)習(xí)中的一個關(guān)鍵部分，即與過去有關(guān)的部分。
四、災(zāi)難性遺忘與AI發(fā)展危機(jī)
從記憶角度分析已經(jīng)看到AI發(fā)展可能面臨的危機(jī)：記憶神經(jīng)網(wǎng)絡(luò)和災(zāi)難性遺忘。第一個危機(jī)是對記憶神經(jīng)網(wǎng)絡(luò)的沖擊。正如前面所分析指出，人工智能科學(xué)家很好地利用了記憶，發(fā)展出RNN、LSTM和Nested LSTM。但是他們也遇到了一個問題，正如人工智能大師杰弗瑞·亨頓（Geoffrey Hinton，2016）提出了終極之問：將人類心智注入電腦建模的人工神經(jīng)網(wǎng)絡(luò)的可能性及其意義。終結(jié)之問就是記憶神經(jīng)網(wǎng)絡(luò)發(fā)展的危機(jī)所在，這種危機(jī)并不是技術(shù)層面的危機(jī)，而是哲學(xué)性的危機(jī)；另一制約AI的危機(jī)是災(zāi)難性遺忘。認(rèn)知心理學(xué)研究表明，人類自然認(rèn)知系統(tǒng)的遺忘并不需要完全抹除先前的信息（McCloskey,M,1989）。但是，對于機(jī)器而言，遺忘就是災(zāi)難性的，即需要抹除先前的信息，這是通用智能形成過程中的一個關(guān)鍵障礙。如何處理災(zāi)難性遺忘成為AI發(fā)展過程中的必須解決的重要問題。所以從這個危機(jī)中我們可以看到未來AI發(fā)展可能需要解決的問題。
這種危機(jī)在兩種意義上是內(nèi)在的：其一是技術(shù)發(fā)展的意義上，災(zāi)難性遺忘的技術(shù)克服以及神經(jīng)網(wǎng)絡(luò)技術(shù)的未來走向。正如我們已經(jīng)看到的，神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)的核心，如果按照心理學(xué)的學(xué)習(xí)-記憶模式，機(jī)器學(xué)習(xí)之后必然會遭遇機(jī)器記憶的問題，此處的記憶并不是信息存儲，而是與回憶問題相關(guān)的，但這似乎是技術(shù)內(nèi)在的悖論；其二是哲學(xué)意義上的，對記憶與遺忘的理解脫離了人類記憶的真諦。事實(shí)上，記憶與遺忘決定著人類的行為、情感和認(rèn)同，這不僅適用于人類，對于未來的后人類機(jī)器而言也是如此。確立這樣的原則，可以實(shí)現(xiàn)有效實(shí)現(xiàn)對AI行為的理性約束，將AI對人類的未來威脅消除在設(shè)計階段。
面對災(zāi)難性遺忘，學(xué)術(shù)界解決這一問題的三種方式，其一是從記憶/遺忘是信息的存儲與刪除角度看，AI的災(zāi)難性遺忘其實(shí)質(zhì)是為后續(xù)新的內(nèi)容騰出必要的物理空間。從存儲容量角度看，如果存儲容量有限，當(dāng)存儲器容量滿了后，刪除部分信息就變得緊迫起來。這在通常的輸入-輸出系統(tǒng)中非常常見，即從被動獲得信息、程序輸入等角度理解記憶，這意味著災(zāi)難性遺忘屬于系統(tǒng)本身的內(nèi)在缺陷。這種路徑適應(yīng)于低級的機(jī)器，忽略了高級AI的學(xué)習(xí)能力。其二是神經(jīng)網(wǎng)絡(luò)的內(nèi)在特征路徑，即神經(jīng)網(wǎng)絡(luò)無法進(jìn)行序列性學(xué)習(xí)，即完成多種任務(wù)，所以必然會出現(xiàn)這種問題，其克服的方法是借助神經(jīng)元固化（synaptic consolidation）的方法來解決這一問題（James Kirkpatrick，2016）。其三是先驗(yàn)哲學(xué)分析的結(jié)果，即人類不存在這種問題，而本質(zhì)上不同于人類的機(jī)器則存在這些問題，并且這一缺陷是無法克服的。很顯然，谷歌公司主要從第二種意義來理解和解決這一問題。他們首先發(fā)展了多種模式的學(xué)習(xí)理論，如深度學(xué)習(xí)（deep learning）、增強(qiáng)學(xué)習(xí)（reinforcement learning）和序列學(xué)習(xí)（sequences learning）等概念，這些概念有效實(shí)現(xiàn)了AI的行為決策和任務(wù)完成的功能，并且嘗試解決了災(zāi)難性遺忘。
上述三種方式存在著各自的問題，路徑一由于適應(yīng)于低級非智能存儲器，如USB、一般性物理存儲設(shè)備，所以無法適用于具有學(xué)習(xí)能力的高級AI。路徑三則是哲學(xué)分析推演的結(jié)果，其主要是哲學(xué)意義，表達(dá)一種哲學(xué)立場，并且在哲學(xué)論證上具有有效性，但是對于AI的發(fā)展未必有利。路徑二非常適合AI記憶的研究，但是隱含著兩個方面的問題：（1）對記憶的設(shè)定是信息鞏固；（2）將遺忘看作是記憶的負(fù)面現(xiàn)象。但是，這在哲學(xué)上看，都是不通的。記憶并非是信息的鞏固，遺忘是記憶的互補(bǔ)面，不是完全的負(fù)面現(xiàn)象。
五、作為記憶主體的人工智能
正如前面所提到的哲學(xué)與AI領(lǐng)域當(dāng)代交往中倫理交往是主導(dǎo)的形式。在這個領(lǐng)域的探索中，哲學(xué)家并沒有滿足于后果論的探討，他們將目光指向了道德主體。在這一視野中，智能體作為道德主體是否可能的問題已經(jīng)得到了諸多討論。如段偉文教授指出人工智能體作為擬主體（2016）。從記憶哲學(xué)的角度反思人工智能的發(fā)展，也會碰到的同樣的問題：智能體作為記憶或回憶主體是否可能？從科學(xué)角度看，智能體具有記憶能力沒有太大的疑問。因?yàn)樯飳W(xué)將記憶看成是信息的編碼、存儲和提取，這一規(guī)定直接指向信息的發(fā)送者和接受者——生物體及其基本構(gòu)成單元神經(jīng)元。神經(jīng)科學(xué)角度將記憶看作是神經(jīng)元之間聯(lián)結(jié)從而形成不同的神經(jīng)回路。所以將生物學(xué)和神經(jīng)科學(xué)作為其自身基礎(chǔ)的人工智能很好地解決了這一問題。讓AI具有記憶能力開始從兩條路徑上表現(xiàn)出來：（1）根據(jù)人類特定記憶神經(jīng)元的標(biāo)記，而在人工神經(jīng)元做出標(biāo)記，從而產(chǎn)生特定的記憶行為；（2）搭建特定的神經(jīng)網(wǎng)絡(luò)回路。未來AI的發(fā)展某種意義上來說就是搭建不同的、多元記憶神經(jīng)元回路，從而展示出多樣的記憶行為。所以如何構(gòu)建多元的記憶神經(jīng)回路是未來AI發(fā)展的動向之一。MIT的利根川進(jìn)（Susumu Tonewaga）利用光遺傳學(xué)展開記憶痕跡研究的成果（利根川進(jìn)，2012，2013，2014，2015，2016，2017）非常重要，關(guān)于未來AI機(jī)器的社會記憶研究、記憶的抑制和激活都可以在其工作基礎(chǔ)上進(jìn)行。
但是，科學(xué)上的解答并未對上述問題給予滿意的答復(fù)。哲學(xué)困惑依然存在，智能機(jī)器是否是一個主體？但是事實(shí)上，“主體”概念已經(jīng)在眾多討論中被“能動者”（agent），所以，相關(guān)的問題也就轉(zhuǎn)化為智能體作為能動者來說，意味著什么。這樣一種方式能否解決哲學(xué)困惑還有待于檢驗(yàn)。如果回到我們最初的問題智能體具有記憶能力是否可能？從記憶行為的本質(zhì)看，記憶是關(guān)于過去對象的行為，一種明顯的時間性表現(xiàn)出來。那么對智能體而言，是否擁有過去的時間規(guī)定性呢？答案似乎是否定的，智能體的行為更多是基于結(jié)構(gòu)—功能顯示出來的。它們不能感知時間，尤其是無法構(gòu)建過去。如果是這樣，我們會看到，盡管智能體可以存儲、提取信息，但是離真正的記憶尚有距離。此外，當(dāng)面對AI是否可以成為回憶主體？這個問題時，一切更加不那么確定了。事實(shí)上，亞里士多德早就切斷了這條道路的希望。他在分析回憶的時候指出，人、動物都可以具有記憶，但是唯獨(dú)人才擁有回憶。于是一種觀點(diǎn)開始形成：愈返回哲學(xué)原點(diǎn)，我們發(fā)現(xiàn)答案就越讓人失去希望。
這一問題的澄清最終讓可以讓我們重新面對亨頓的終極之問。對于亨頓來說，需要解決的問題是，如何將人類智能注入到人工智能神經(jīng)網(wǎng)絡(luò)中。這一問題的解決前提是人類的心智。還原論將智能還原到生物學(xué)構(gòu)成中，“我們所談?wù)摰男闹?，其?shí)就是一個電化學(xué)體系的高度集成?！痹谟洃泦栴}上，我們并沒有看到這種邏輯的必然推論。隨著記憶與回憶關(guān)系的澄清，我們已經(jīng)看到，作為記憶主體和作為回憶主體具有完全不同的根據(jù)。隨著這一觀念的確立，機(jī)器具有自身的意識這一點(diǎn)變得更加模糊和遙不可及了。
六、結(jié)語
在本文的最后，需要指出的是如何看待AI中遺忘的作用？一般情況下，人們形成了比較流行的遺忘觀念，即將遺忘看作是記憶的負(fù)面現(xiàn)象或者失效。災(zāi)難性遺忘恰恰是在這一觀念下展示出來的問題。但是，遺忘的真實(shí)含義以及在AI中的地位卻沒有完全被揭示出來。揭示遺忘的真實(shí)含義屬于記憶研究中的問題，這有待于記憶研究的進(jìn)一步深入。而遺忘在AI中的正面作用卻逐漸被揭示出來。2017年希伯來大學(xué)計算機(jī)與神經(jīng)科學(xué)教授梯絲柏（N·Tishby）提出了信息瓶頸（Information Bottleneck）理論，這一理論指出神經(jīng)網(wǎng)絡(luò)就像把信息擠出瓶頸口一樣，只留下與一般概念最為相關(guān)的特征，去掉大量無用的噪音數(shù)據(jù)。他的最有名的觀點(diǎn)是“學(xué)習(xí)最重要的事情實(shí)際上是遺忘?！苯诘纳窠?jīng)科學(xué)研究成果則將遺忘看作是最優(yōu)化決策的必要條件?！拔覀冋撟C了遺忘（1）通過減少過時信息對于記憶指導(dǎo)的決策的影響來提升了靈活性；（2）阻止了對于特定過去時間的過擬合（overfitting），因此提升了通用性。根據(jù)這個觀點(diǎn)，記憶的目標(biāo)不是通過時間來傳遞信息，而是最優(yōu)化決策。因此記憶系統(tǒng)中短暫即逝與保持同樣重要?！币庾R到這一點(diǎn)，會讓我們重新看待AI決策過程中記憶與遺忘的辯證關(guān)系，但這已經(jīng)超出了本文的范圍。
本課題系國家社會科學(xué)基金重大項(xiàng)目“智能革命與人類深度科技化前景的哲學(xué)研究”（17ZDA028）；教育部重大課題攻關(guān)項(xiàng)目“人工智能與哲學(xué)思考研究”的階段性成果。
本文轉(zhuǎn)載自《探索與爭鳴》雜志2018年11月刊。作者楊慶峰，系上海大學(xué)哲學(xué)系主任、教授，上海市自然辯證研究會秘書長。美國達(dá)特茅斯學(xué)院訪問學(xué)者，目前的研究重點(diǎn)是技術(shù)哲學(xué)、現(xiàn)象學(xué)和記憶研究；伍夢秋系上海大學(xué)哲學(xué)系科學(xué)技術(shù)哲學(xué)碩士。
鄂公網(wǎng)安備 42010302001612號 