文：賈偉

例如，當(dāng)想要去探索強(qiáng)人工智能的時候，計算機(jī)科學(xué)家們想到最直接的方式，便是創(chuàng)建知識圖譜（計算機(jī)科學(xué)家所理解的“常識”），從而將常識與深度學(xué)習(xí)進(jìn)行融合，來創(chuàng)造一個在他們看來有認(rèn)知的智能體。

?

但是這種“認(rèn)知”與神經(jīng)科學(xué)家們所理解的“認(rèn)知”是同一個概念嗎？

?

知識圖譜+深度學(xué)習(xí)，或許能夠解決人工智能所面臨的困境，但顯然不是唯一解。

?

正如智源研究院“認(rèn)知神經(jīng)基礎(chǔ)”重大方向的首席科學(xué)家劉嘉教授所說，科研領(lǐng)域的重大突破往往產(chǎn)生于交叉領(lǐng)域。因為只有在交叉地帶，一個未知的領(lǐng)域，才能產(chǎn)生新的東西。

?

因此，不同學(xué)科背景的學(xué)者，坐在一起，用著彼此可能并不互通的術(shù)語，進(jìn)行探討，可能會產(chǎn)生各種意向不到的事情。

?

在智源研究院，作為機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)軍人物顏水成，遇到了認(rèn)知神經(jīng)科學(xué)的領(lǐng)軍人物劉嘉。于是，他們相約在一個午后，共同探討了大量關(guān)于人工智能和生物智能的認(rèn)知神經(jīng)基礎(chǔ)問題。

?

正如顏水成所說，這些問題可能并不只是代表他自己，可能許多做機(jī)器學(xué)習(xí)的人都或多或少有過類似的疑問，也希望能夠從認(rèn)知神經(jīng)科學(xué)的研究成果中，獲取靈感，從而設(shè)計更優(yōu)的算法。劉嘉教授對此一一作答。

?

交叉，起步于思想的碰撞，這只是開始。

?

一、GPT-3剖析

?

顏水成：今天我更多的以一種小白的身份向劉嘉老師請教認(rèn)知神經(jīng)學(xué)科的一些問題，我想這些問題不只是代表我自己，可能許多做機(jī)器學(xué)習(xí)的人都很像知道，也希望能夠從神經(jīng)科學(xué)的一些研究成果中吸取經(jīng)驗，從而能夠設(shè)計出更好的機(jī)器學(xué)習(xí)算法。

?

我的一個問題是，從認(rèn)知神經(jīng)的角度，GPT-3與人的方式一致嗎？

?

劉嘉：我也看了 GPT-3，非常了不起。我覺得可能是深度學(xué)習(xí)中巔峰式的成果。

?

但我也看到一個報道說，如果問它“蜘蛛有幾只眼睛”，它會正確地回答“8只”；而如果問它“腳有幾只眼睛”，它會回答“兩只”。而人類，盡管大部分人不知道蜘蛛有幾只眼睛，但絕對不會出現(xiàn)腳有兩只眼睛這樣明顯的錯誤。由此可以看出，GTP-3和人的思維，在本質(zhì)上是不一樣的。

? ? ? ?

? ? ?

GTP-3的推理方式更多的是一種概率上的連接，可能在它訓(xùn)練的數(shù)據(jù)中，出現(xiàn)了“腳”與“眼睛”的某種關(guān)聯(lián)，它就學(xué)習(xí)出兩者之間一種概率鏈接，在這個過程中，它并沒理解“腳”和“眼睛”是什么。而人類則是先理解后推理。

?

顏水成：那么你認(rèn)為，如果將GPT與非常龐大的知識圖譜進(jìn)行融合，然后再去做分析，這會不會與我們大腦的運行機(jī)制越來越像？

?

劉嘉：肯定會越來越像的。但有一個問題是，知識圖譜能夠做到什么程度？舉個簡單的例子，當(dāng)我們看到一個人不小心踩到一顆釘子，那么知識圖譜會產(chǎn)生“他會流血”、“會受傷”，但我們?nèi)说牡谝环磻?yīng)則是自己感到疼，這是一種共情能力，是基于我們對他人心理的一個推理，猜測他現(xiàn)在的感受。

?

二、System 1 & System 2

?

顏水成：最近大家認(rèn)為感知的問題已經(jīng)做得差不多了。Bengio等人提出機(jī)器學(xué)習(xí)將從System 1 轉(zhuǎn)向 System 2。我對這方面也做過一些了解，System 1大概相當(dāng)于我們的潛意識，反應(yīng)比較快，但不需要做推理；而System 2相當(dāng)于顯意識，需要一個推理、判斷的過程。但我了解的這些只是一些皮毛，你能不能給我們講一下，大腦內(nèi)部是否有這樣兩套不同的系統(tǒng)？這對我們以后研究認(rèn)知，會非常有價值。

劉嘉：其實Bengio可能受丹尼爾·卡尼曼的《思考，快與慢》的啟發(fā)。他其實是在說，我們?nèi)祟愑袃商紫到y(tǒng)，一套我們稱之為皮層下系統(tǒng)，對應(yīng)我們腦干等中樞系統(tǒng)；一套是皮層系統(tǒng)，對應(yīng)我們的大腦皮層。這種結(jié)構(gòu)歸因于我們?nèi)祟惖拇竽X是從低等動物一點點積累起來的。前者比較古老，主要掌管呼吸、心跳等比較初等但與我們生存有密切關(guān)系的活動，所以反應(yīng)比較快，例如我們看到一個老虎出現(xiàn)，它會立刻加強(qiáng)腎上腺素，做出應(yīng)激反應(yīng)；而后者，更多的是去理解到底發(fā)生了什么事，然后做出推理和判斷，例如我們發(fā)現(xiàn)原來這個老虎是人扮的，這時皮層系統(tǒng)就會告訴皮層下系統(tǒng)，從而調(diào)節(jié)原來的緊張。

?

顏水成：所以，在物理上這是兩套完全獨立的系統(tǒng)，是嗎？

劉嘉：對，完全獨立，但是它們之間有交互。

顏水成：我講system 1和system 2的時候，喜歡講開車的例子，這是我親身體會。如果在一個我們熟悉的路，往往不需要做推理，到了某個地方該怎么打方向盤，自動就完成了。而到了一個相對陌生的路，就需要特別小心，去想怎么打方向盤，比較困難。但有意思的是，熟悉了之后，我又能自動完成了。這可以看成從System 1 到System 2的轉(zhuǎn)換吧，你能不能從神經(jīng)科學(xué)的角度解釋一下。

?

劉嘉：這是特別好問題。在我們學(xué)習(xí)的過程中，最開始我們不知道怎么去表征外部的世界，在這種情況下，大腦神經(jīng)的反應(yīng)模式基本上就是，讓與它相關(guān)區(qū)域的所有神經(jīng)元全都活動；但第二次可能就只有40%的神經(jīng)元活動，因為其他的神經(jīng)元活動已經(jīng)沒有任何意義了；經(jīng)過反復(fù)的學(xué)習(xí)之后，最終可能只有4、5個神經(jīng)元去反應(yīng)，這就是所謂的sparse coding。經(jīng)過sparse coding之后，系統(tǒng)會集中在一個特定的任務(wù)上，變得非常精準(zhǔn)且高效。在這個過程中，開始時需要更多的意識參與，然后逐漸減少而變得自動化。

??

在這個過程中，其實我們還需要一個警覺系統(tǒng)。比如當(dāng)我們學(xué)會走路后，我們根本不去關(guān)心應(yīng)該先邁哪只腳，以及應(yīng)該邁多遠(yuǎn)，完全可以一邊走路一邊腦袋里想著自己的事情。直到我們突然踩了一個坑，這時候我們的警覺系統(tǒng)就開始起作用了，它會快速啟動系統(tǒng)二，對系統(tǒng)一進(jìn)行干涉，讓你保持平衡而不會摔倒。然后你的視覺注意到原來前面是個大坑，于是馬上反應(yīng)過來改變路徑。這個警覺系統(tǒng)就在我們大腦內(nèi)側(cè)，叫“前扣帶回”。

三、大腦如何處理視覺信息

顏水成：計算機(jī)視覺從神經(jīng)科學(xué)中借鑒了特別多。例如，人類視覺有V1區(qū)、V2區(qū)、V3區(qū)等，不同的區(qū)域處理的粒度不同。神經(jīng)科學(xué)中，是怎么驗證這個事情的呢？

劉嘉：早在1968年，兩個諾貝爾獎獲得者 Hubel和Wiesel他們對貓做實驗，將細(xì)小的探針插入到神經(jīng)元上去，然后給貓一個刺激，例如點、線以及其他復(fù)雜的圖形，然后看不同的刺激會引起哪個腦區(qū)的興奮。他們發(fā)現(xiàn)V1、V2、V3、V4等腦區(qū)，越往后面敏感的圖形越復(fù)雜。這個研究說明，我們的大腦在處理視覺信息時，是將復(fù)雜的圖像還原成局部元素，然后再進(jìn)行合成的。這種方法事實上到現(xiàn)在仍然在用。

? ? ? ?

? ? ? ?

此外，他們還做了一系列關(guān)于貓的實驗。例如在貓剛生下來的時候，把它的眼睛縫上，完全不給它看任何刺激，過一段時間后，再打開它的眼睛，這個時候再記錄它大腦的神經(jīng)元會有什么樣的反應(yīng)；貓出生后，只給它看橫條，一直不讓它看豎條，然后記錄它的神經(jīng)元會有什么反應(yīng)等。這種方式叫做“單細(xì)胞記錄”，現(xiàn)在的神經(jīng)電生理研究還在用這種方法。

?

四、關(guān)于記憶

?

顏水成：我們知道，人會經(jīng)常忘記一些事情，特別是老年人。那么我們的記憶是真的從腦子里完全消失了，還是被打包存儲在記憶深處某個地方了？

?

劉嘉：這兩種情況都有。首先，我們不可能記得所有的事情，我們的大部分經(jīng)歷都會被忘掉。目前普遍認(rèn)為人類記憶有三級加工模型，分別為感覺記憶、短時記憶和長時記憶。如果一個信息不能轉(zhuǎn)化為長時記憶，也即引起神經(jīng)元突出的持久改變（例如相鄰神經(jīng)元突出結(jié)構(gòu)的變化、神經(jīng)元膠質(zhì)細(xì)胞數(shù)量的增加和神經(jīng)元之間突出連接數(shù)量的增加），那么它就會被我們徹底地遺忘掉。

? ? ? ?

另一種遺忘，是說這個記憶還在，但沒有找到合適的途徑把它提取出來。心理學(xué)中曾經(jīng)有一個研究，他們在做腦外科切除腫瘤的手術(shù)時會把病人喚醒，通過微電流刺激相應(yīng)腦區(qū)，來確定切除這塊腦區(qū)是否會造成嚴(yán)重影響。據(jù)一個研究報道，一位六十多歲的老人在某個腦區(qū)受到刺激時，腦海里突然復(fù)現(xiàn)出他兩三歲時母親給他唱的搖籃曲。而事實上他的母親很早就去世了，他從童年期到六十多從來都沒有聽過這支搖籃曲。這說明，這個信息還在那里，只是沒有找到合適的方法把它提前出來。

?

五、神經(jīng)元數(shù)目

?

顏水成：我看到一個說法是，人腦神經(jīng)元的數(shù)量從出生之后就不會再增長，是這樣嗎？

?

劉嘉：對，我們出生后神經(jīng)元的總數(shù)基本上就就不會再變化，變化的是神經(jīng)突觸的數(shù)目以及神經(jīng)元之間的連接。出生時，嬰兒大腦皮層突觸密度遠(yuǎn)低于成人；但出生后的幾個月內(nèi)，大腦皮層突觸迅速增加，4歲左右，大腦皮層突觸的密度會達(dá)到頂峰，約為成年人的150%。類比人工神經(jīng)網(wǎng)絡(luò)的話，你可以理解為一個全連接系統(tǒng)。隨后，隨著年齡和經(jīng)驗的增長，突觸數(shù)目會慢慢減少，一些連接就會剪斷。但也正是這樣，我們反而變得更加聰明。

?? ? ? ?

? ? ? ??

顏水成：我們所有人的神經(jīng)元數(shù)目可能不一樣。會因為神經(jīng)元數(shù)量的多少，影響我們的智力水平嗎？

?

劉嘉：不同的人，神經(jīng)元數(shù)目也不同，但人類的智商似乎不受神經(jīng)元數(shù)目的影響，或者至少可以說神經(jīng)元數(shù)目不是決定智商的本質(zhì)因素。

?

舉例來說，男性的大腦平均而言要比女性重100克左右。但從來沒有任何證據(jù)表明男性會比女性更聰明。從IQ上來講，兩者是一樣的。

? ? ??

? ? ?

參考：Sex differences in the structural connectome of the human brain，https://www.mit.edu/~6.s085/papers/sex-differences.pdf

?

事實上，我們?nèi)伺c人之間神經(jīng)元數(shù)目也是不一樣的，一個大致的估計認(rèn)為，人類的神經(jīng)元數(shù)量在800億到1000億之間，也即是說，不同的人之間相差100億個神經(jīng)元是一件很正常的事情。

?

所以一個猜測認(rèn)為，真正決定我們?nèi)祟愔悄艿?，不是我們神?jīng)元的數(shù)量，而是它們之間的連接。這些連接，很大程度上取決于我們后天的學(xué)習(xí)。

?

六、通用智能與神經(jīng)元數(shù)目

?

顏水成：人的神經(jīng)元數(shù)目從出生后基本上是固定的。作為對比，人工智能卻可以通過不斷地加算力來提升它的運算規(guī)模，也可以把網(wǎng)絡(luò)結(jié)構(gòu)做的越來越大，從而使其性能不斷增長。所以從這個角度來，人工智能反而有一定的優(yōu)勢。

?

劉嘉：對。這是人工智能的優(yōu)越性。我持強(qiáng)人工智能的觀念，認(rèn)為人工智能超越人類智能，只是一個時間問題，因為它有無限的算力、無限的存儲能力，能夠無限地擴(kuò)展下去。

?

另一方面，你可以看到，通用智能其實不是人類所特有的，是所有生物體都有的。例如斑馬魚只有80萬~ 100萬個神經(jīng)元；小鼠有1億量級的神經(jīng)元；狨猴神經(jīng)元量級在10億左右；恒河猴在百億；而人類在千億量級。但無論是斑馬魚也好，還是老鼠、狨猴、恒河猴，或者人類，它們都具有通用智能。

? ? ??

? ? ? ??

所以，我猜測，生物智能應(yīng)該有一套規(guī)則，這套規(guī)則本身與神經(jīng)元數(shù)量無關(guān)，而正是這套規(guī)則使得我們生物具有了通用智能。也正是這樣的規(guī)則使得斑馬魚與GPT-3有明顯的區(qū)別。這套規(guī)則就是通用智能的基礎(chǔ)。

?

人工智能的發(fā)展，一方面，我們可以增加它的規(guī)模（例如神經(jīng)元數(shù)目、更復(fù)雜的參數(shù)、更大的算力等），這是一個方向。

?

另外一個方向，我們應(yīng)該反過頭來理解一下，對于那些比較簡單的神經(jīng)元系統(tǒng)——生物的神經(jīng)元系統(tǒng)，例如斑馬魚，是怎么能夠只用這么一小點神經(jīng)元便可以獲得通用智能的。目前我們搭建一個100萬數(shù)量級的神經(jīng)元仿真平臺，在技術(shù)上已經(jīng)不是一個太難的問題，所以我們可以看看能不能仿真出斑馬魚的智能。同樣，我們也可以不斷增加它的規(guī)模，去仿真老鼠、狨猴，甚至人類的大腦。

?

一旦我們把這種通用智能的規(guī)則搞清楚了，加上人工智能的無限可擴(kuò)展能力，我覺得這對未來的人工智能發(fā)展，將是不可限量的。

?

七、Baby Learning有無生理基礎(chǔ)？

?

顏水成：我們?nèi)祟惖膶W(xué)習(xí)過程，大多情況下是一種無監(jiān)督學(xué)習(xí)，通過在物理世界中，跟環(huán)境接觸/觀察，從而引起突觸的變化。這套機(jī)制與GPT-3有很大差別。我個人曾提出“Baby Learning”的概念，核心來說就是要擺脫現(xiàn)在依賴標(biāo)簽數(shù)據(jù)的現(xiàn)狀，給一些數(shù)據(jù)，能夠從數(shù)據(jù)中自動學(xué)習(xí)出一些知識來?，F(xiàn)在人工智能里面也有兩個方向，一個叫自學(xué)習(xí)，也即從數(shù)據(jù)中預(yù)測標(biāo)簽，然后用預(yù)測標(biāo)簽作為新的標(biāo)簽，來幫助訓(xùn)練模型；另一個叫無監(jiān)督學(xué)習(xí)，即根本沒有標(biāo)簽。

我想了解一下，小孩子從出生之后，他的神經(jīng)元突觸之間到底經(jīng)歷了怎樣一個過程，能夠慢慢優(yōu)化，變成一個充滿知識的智能系統(tǒng)的呢？這方面其實我也查了一些書，但沒有找到太多有價值的信息。所以這方面的研究大概處于什么狀態(tài)？

?

劉嘉：從發(fā)育的角度來看人類智能的發(fā)展，現(xiàn)在還處于一個比較分離的狀態(tài)。

?

大家目前的研究更多地集中在認(rèn)知功能的變化上，但這些卻缺少神經(jīng)學(xué)上的證據(jù)。另一方面，我們對神經(jīng)元突觸之間的連接怎么搭建有了很好的研究，但卻忽略了它功能上的變化，即為什么會這么搭，搭建之后發(fā)生了什么改變等，卻不清楚。這是目前研究的一個空白點，背后的主要原因是倫理的約束。

?

八、大腦噪聲的模式

?

顏水成：是什么因素會讓突觸了從原來連接狀態(tài)變成不連接，或者反過來的？

?

劉嘉：針對這個問題，上世紀(jì)50年代，一位神經(jīng)生理學(xué)家唐納德·赫布曾提出一個理論“赫布理論”，描述了突觸可塑性的基本原理。簡單來說就是“Cells that fire together, wire together”，即當(dāng)兩個神經(jīng)元同時發(fā)放時，它們就會產(chǎn)生連接。

?

另外，我們大腦里有很多噪音，這些噪音是神經(jīng)元一些自主地放電活動，即使我們處于靜息狀態(tài)也會有，這些噪音事實上消耗了大腦95%的能量。過去我們認(rèn)為噪聲就只是噪聲。但大約在10年前，神經(jīng)科學(xué)家們發(fā)現(xiàn)，其實這些噪音是有模式的，正是這種模式試圖把不同的神經(jīng)元進(jìn)行溝通。? ??

舉例來說，兩個神經(jīng)元以同樣的頻率同步發(fā)放信號，那么他們就會保持一種連接狀態(tài)；而如果它們是異步發(fā)放噪音，那么即使它們現(xiàn)在處于連接狀態(tài)，這種連接也會慢慢衰退。

?

人們通過對這種靜息狀態(tài)的噪音進(jìn)行研究，認(rèn)為這可能與我們的學(xué)習(xí)有關(guān)系。首先即使我們現(xiàn)在可能沒做任何事情，其實我們的大腦也沒有停下來，它在不停地發(fā)放噪音；而如果兩個神經(jīng)元處于連接并同時發(fā)放信息，在下次學(xué)習(xí)時這兩個神經(jīng)元還能夠同時發(fā)放，就會增強(qiáng)這種連接，逐漸形成穩(wěn)定連接。

?

九、認(rèn)知的兩套模型：規(guī)則+推理

?

顏水成：另外一個方向我特別感興趣。如果某個樣本只出現(xiàn)少數(shù)幾次的話，從機(jī)器學(xué)習(xí)的角度來講，最好的策略就是直接把這個樣本存儲下來，而非再用它去訓(xùn)練模型；需要的時候直接查詢匹配即可；而對那些經(jīng)常出現(xiàn)的樣本，則需要訓(xùn)練模型，通過模型來查找。那么在我們大腦中是否有類似的機(jī)制呢？

?

劉嘉：有。其實我們大腦就是采用的這種機(jī)制，我們稱它為“混合模型”。

?

舉例來說，我們學(xué)習(xí)英語時，大部分動詞的過去時都是在單詞后面加“-ed”，這就是所謂的語法規(guī)則；但有一些動詞，它的過去時是不規(guī)則的，學(xué)習(xí)這些動詞時，干脆直接把它們放在記憶里，需要的時候直接從記憶中調(diào)用。按照喬姆斯基的說法，先走這套規(guī)則的系統(tǒng)（因為簡單），然后再走記憶的部分。

?

我們的面孔識別，也是一個類似的混合模型。我們對人臉表情的識別，事實上是有一套規(guī)則的，例如“嘴角上揚”一般表示高興；而“最佳下搭”或“嘟嘴”可能表示不滿等。但除了這一部分外，我們還有“Theory of Mind”，我們會在心中推理在當(dāng)前情景下你為什么做出這種表情，有可能是真的開心，也有可能只是裝出來的開心，它其實和我們的經(jīng)驗有關(guān)。

?

十、大腦中的跨感覺影響

?

顏水成：小孩子學(xué)習(xí)，視覺和聽覺都很關(guān)鍵。那么在大腦里邊，對視覺和聽覺的處理是否會有分區(qū)呢？

?

劉嘉：是的。從感知系統(tǒng)來講，每一種感覺都有專門的處理區(qū)域，例如視覺在枕葉部分，聽覺在顳葉，觸覺在頂葉等，這些不同的感知信息會單獨進(jìn)行加工。但隨后這些信息會進(jìn)入一個聯(lián)合區(qū)，進(jìn)行整合，最終形成一個整體的感知反應(yīng)。因此，我們經(jīng)常會出現(xiàn)一些好玩的錯覺，例如我們眼前有一個螺旋的同心圓，如果我們是站著看它，就會很容易發(fā)生偏倒，這說明視覺影響了我們的平衡覺。

?

另一方面，除了聯(lián)合區(qū)之外，不同的感覺區(qū)也會相互影響。第一個例子是先天盲人，他生下來就沒有看見任何東西，他的視覺其實完全沒有用，但實驗發(fā)現(xiàn)他的視覺皮層神經(jīng)元，會對聽覺信息進(jìn)行編碼，即參與了聽覺信息的加工。

?

另外一個例子，在哲學(xué)上一直探討了很多年，即假如一個先天盲人，從來沒有看見過這個世界，那么當(dāng)有一天他突然能夠看到這個世界了，他會知道“圓”這種概念嗎？以前主要是哲學(xué)思辨，但隨著醫(yī)學(xué)的進(jìn)步，有一些先天盲人，例如先天白內(nèi)障患者，可以通過手術(shù)來恢復(fù)視覺。MIT的一位教授于是做了一個研究，結(jié)論非常驚人。當(dāng)這個人睜開眼睛看到這個世界時，問他哪個是“圓”，哪個是正方形，他會猶豫一會兒，但僅只要十幾秒時間，患者就能準(zhǔn)確地指出這些形狀。這個實驗說明，他能夠在非常短的時間里將觸覺經(jīng)驗轉(zhuǎn)換為視覺經(jīng)驗 。這個轉(zhuǎn)換過程，在大腦里是怎么發(fā)生的呢？我們目前還不清楚，但至少有一點結(jié)論，即：不同的感知信息處理模塊之間，并不是完全獨立的，而是隨時在發(fā)生相互影響。

?

十一、大腦中，常識是怎么存在的？

?

顏水成：我們常常提到將常識加入到人工神經(jīng)網(wǎng)絡(luò)中，從而來提升模型的推理性能。那么在大腦中，常識是以什么樣的方式存在呢？

?

劉嘉：最開始，我們認(rèn)為常識完全與后天經(jīng)驗有關(guān)，是一種知識。但現(xiàn)在我們逐漸意識到，常識可能不是一種知識，而是一套規(guī)則。 我們普遍認(rèn)為，沒有常識，就沒有推理。常識是我們對外部世界形成的一個認(rèn)知模型，基于這個認(rèn)知模型，我們?nèi)プ鐾评恚A(yù)測外部世界的運作。

對于其具體的機(jī)理，現(xiàn)在也有很多認(rèn)知科學(xué)家搭建各種模型，包括經(jīng)典的AI也嘗試去回答常識到底是以什么方式存在這樣的問題。但目前我們來看，這些模型都不太完美。

?

有兩點是我們現(xiàn)在比較確定的。第一，常識主要存在于我們的前額葉部分。在過去300萬年里，我們?nèi)祟惔竽X體積增大了三倍，這里面最主要的增加的部分就是前額葉，我們認(rèn)為人類對規(guī)則的理解和推理都發(fā)生在這里。

?

? ? ? ?

第二，有大量證據(jù)表明，我們許多常識來自于先天的基因。這種來自于基因的常識會當(dāng)我們?nèi)祟惿聛砭蜁?xí)慣于用某種方式去做事，例如泛化能力，小孩子看到一只毛茸茸的貓，他會瘋狂地泛化到其他毛茸茸的動物上，然后再慢慢修正這種泛化的結(jié)果。此外對于蛇的恐懼也是這樣，我們先天的基因已經(jīng)告訴我們這種又細(xì)又長危險。但是這種存于基因的常識是怎么來的？進(jìn)化過程中是怎么做到的？我們大腦在進(jìn)行這種推理時，神經(jīng)機(jī)制到底是什么？我們都還不清楚。但我覺得孩子給我們提供了一個非常好的參考。

?

十二、記憶提取的野火模型

?

顏水成：我們常常會出現(xiàn)在這樣一種情況，看到一位非常熟的人，但怎么也想不起他的名字，然后當(dāng)有一個極小的線索出現(xiàn)的時候，一下子就想起來了。這個過程，在大腦中到底發(fā)生了什么？

?

劉嘉：這個現(xiàn)象心理學(xué)家也很早就在研究了。他們提出了許多模型，一個比較有影響力的模型叫做“野火模型”（編者注：在心理學(xué)中常叫做“激活擴(kuò)散模型”），從一點把火點起來，它就會往四周燃燒；一個線索的出現(xiàn)就會把相鄰的東西給激活。

?

這其實涉及到語義信息的存儲和表征。名字通常是孤立存儲的，但場景或其他信息卻可能有更為廣泛的聯(lián)系。那么語義記憶（Semantic Memory）是在不同維度上是怎么存儲的呢？比如場景的維度、情感的維度等，哪些維度該有哪些維度沒有？目前比較統(tǒng)一的看法是，這更多的是和我們的經(jīng)驗有關(guān)系，這種存儲更多的是為了便于我們?nèi)ド?、社交等，然后將其中重要的因素作為存儲維度。

?

但什么是重要，什么是不重要的？這就要回到一個最根本的問題了，即智能的目的是什么。從認(rèn)知神經(jīng)科學(xué)角度的一個理解認(rèn)為，智能的目的就是對變化環(huán)境的適應(yīng)。從這個角度來評價重要性問題。

?

十三、學(xué)習(xí)不是孤立的過程

?

顏水成：有個小問題，人在學(xué)習(xí)新鮮事物時，是怎樣一步步激活的？

?

劉嘉：人類學(xué)習(xí)特別厲害的一點就是，當(dāng)我們學(xué)習(xí)一個東西時，并非孤立地學(xué)習(xí)。以物體識別為例，我們首先會構(gòu)建一個多維的物體空間（object space），當(dāng)出現(xiàn)一個從來沒有見過的事物時，我們首先會根據(jù)各個維度對它進(jìn)行拆解，然后把這個物體映射到這個多維空間中，看它最終會和哪個東西比較接近，從而判斷這兩個是同類。例如我看到一個毛茸茸的東西，我知道它可能是皮毛；運動，是動物；在吃肉，是肉食哺乳動物等，然后我發(fā)現(xiàn)它與老虎的表征比較相近，于是我會判斷它是老虎。盡管我似乎什么都沒做，但實際上已經(jīng)做了一大對假設(shè)。這些假設(shè)來自于我過去的經(jīng)驗。驗證這個事物是老虎后，它就形成了我的經(jīng)驗，當(dāng)再次遇到這個事物，我就不用從零再學(xué)習(xí)它。

?

十四、精確測量每個神經(jīng)元

?

顏水成：當(dāng)前的技術(shù)可以精確地測量每一個神經(jīng)元的action嗎？

?

劉嘉：以前不可以，現(xiàn)在已經(jīng)可以通過雙光子顯微成像技術(shù)等精確記錄一個神經(jīng)元及它的發(fā)放過程了。現(xiàn)在準(zhǔn)確記錄大腦所有神經(jīng)元的每一刻活動只是一個時間和技術(shù)問題。

?

顏水成：是要把大腦皮層切下來嗎？

?

劉嘉：不需要，可以活體成像。我們“認(rèn)知神經(jīng)基礎(chǔ)”方向有位陳良怡老師，他現(xiàn)在主要做的就是精確測量斑馬魚的神經(jīng)元活動。斑馬魚神經(jīng)元總數(shù)不多，且比較透明，容易成像。陳良怡做的不是只看一個神經(jīng)元，而是看全部近百萬的神經(jīng)元，看它們怎么共同發(fā)放，它們的突觸怎么變化等。這是一條活的斑馬魚的完整影像，對于機(jī)器學(xué)習(xí)的的研究也會是一種啟發(fā)。我們隨后準(zhǔn)備把這些數(shù)據(jù)共享出來，讓大家一起來看斑馬魚在做學(xué)習(xí)的過程中，80萬個神經(jīng)元是怎么連接、怎么分開以及怎么完成任務(wù)的。

?

再往高級一點走，我們現(xiàn)在準(zhǔn)備做絨猴的大腦精細(xì)結(jié)構(gòu)。狨猴大概有10億量級的神經(jīng)元。針對絨猴，我們首先可以用磁共振看它的整個大腦是怎么活動的；然后用鈣成像，看它某個區(qū)域是怎么活躍的；然后用雙光子成像，去看神經(jīng)元層面上是怎么活動的。從這三個層面，我們可以把整個大腦、腦功能區(qū)一級神經(jīng)元層面完整地重構(gòu)出來。我們會基于這些數(shù)據(jù)建立一個生物智能的開源開放平臺，所有數(shù)據(jù)可以開放使用。我們可以從這些數(shù)據(jù)中去了解狨猴是怎么識別一個物體、怎么快速反應(yīng)等智能的本質(zhì)。

?

十五、不同生物，神經(jīng)元一樣嗎？

顏水成：不同的生物，它們的神經(jīng)元內(nèi)在的機(jī)理是否有差別呢？

?

劉嘉：基本上是類似的。神經(jīng)元本身有很多種類型，但在動物中，大家的神經(jīng)元類型基本上是差不多的；有可能在人腦的某個區(qū)域，某類神經(jīng)元會多一些或少一些，但并不存在什么神經(jīng)元是人類或其他動物獨有的。

所以，從這一點上講，其實無論是斑馬魚也好，老鼠、猴子，還是人也好，他們其實都有通用智能，都能夠適應(yīng)自然的開放環(huán)境。

既然大家在物理實現(xiàn)層次上都是一樣的，盡管在量級上不一樣，但卻最終都能夠完成通用智能。這說明，背后一定有一個規(guī)則來產(chǎn)生通用智能。因此，我覺得通過這種跨物種的對比研究，我覺得我們能夠把這個規(guī)則找出來。這也是我們現(xiàn)在正在努力的一個方向。

?

十六、大腦可以復(fù)制嗎？

顏水成：很多科幻片中都在講，把一個人所有的記憶全部copy下來，復(fù)制到機(jī)器人上（最典型的一個電影《Chappie》）。你覺得隨著技術(shù)的發(fā)展，在未來二三十年里，神經(jīng)科學(xué)的技術(shù)上有可能達(dá)到這樣的程度嗎？或者我們在電腦或超級計算機(jī)里，能否近似地模擬大腦？

劉嘉：這是一個特別好的問題。我分成兩步來回答。

首先，我們來問：我們的記憶是否能夠下載到一臺計算機(jī)中呢？這個問題是非常吸引人的，如果可以，那就意味著永生，因為記憶是我們最核心的東西。但事實上，其實大家滿懷疑的，因為有觀點認(rèn)為，我們的記憶是靠突觸之間的連接而存儲的，但這并不是說我某兩個突觸連接就代表某個記憶，而是很多突觸的一種分布式連接，然后才是某個記憶。我們必須完整地、不出現(xiàn)任何差錯地copy所有連接，才能恢復(fù)這些記憶。這種想法，本身是一種還原論的思想，還原到每一個突觸連接。

假設(shè)我們技術(shù)上可以做到這一步，把大腦切片，切得足夠精細(xì)，重現(xiàn)所有連接。但它會產(chǎn)生同樣的功能嗎？我認(rèn)為不會。在大腦中，神經(jīng)元存在的環(huán)境和計算機(jī)中01代碼的環(huán)境是不一樣的，你還得去通過某種方式復(fù)現(xiàn)大腦所存在的整個復(fù)雜環(huán)境，否則的話，即使連接相同，參數(shù)不同，它也會產(chǎn)生完全不同的后果。所以我覺得是比較困難的，針對復(fù)制大腦來實現(xiàn)永生這個夢想，我是悲觀的。

?

十七、夢的解析

?

顏水成：人們認(rèn)為人在睡覺的時候，其實大腦仍然在工作，它會清洗掉一些信息，以便第二天繼續(xù)工作。關(guān)于夢，從神經(jīng)科學(xué)的角度怎么解釋？

劉嘉：這是一個特別有趣的事情。

因為人可能是動物中唯一一種有深度睡眠的動物。像鳥、馬等，它們在睡覺的時候，其實不是兩個半球同時沉睡，而是交替入睡。例如我家樣的貓，輕輕一碰它，它就會醒；而如果我睡著的話，即使把我抬扔了，我都完全不知道。人類睡眠的這個特點，很可能是因為我們在進(jìn)化時利用了洞穴，后來建立了城邦，有了這種安全的環(huán)境，使得我們可以放心大膽地睡覺。

大家認(rèn)為人類的這種睡眠模式，對人類智力的提升可能起到一個非常關(guān)鍵的作用。為什么呢？我們?nèi)祟愒谒X的時候，其實大腦并沒有完全休息，他在重放我們白天所經(jīng)歷的一些事情，把其中關(guān)鍵的信息提取出來，并遺忘掉哪些不重要的東西。我們白天所感知到的信息都是具象的，但經(jīng)過我們大腦這種睡眠時的重放，就能夠變成一種抽象的東西。這個過程，我們現(xiàn)在知道它發(fā)生在海馬體，海馬體與我們的記憶和學(xué)習(xí)有關(guān)。

顏水成：從神經(jīng)科學(xué)的角度，對夢的定義是什么？

劉嘉：其實夢的定義就是一種學(xué)習(xí)；其次它也在不斷地做不同的假設(shè)。人的學(xué)習(xí)是一種主動學(xué)習(xí)，學(xué)習(xí)之后會做一些預(yù)測，當(dāng)然這些推測很多時候是不靠譜的，所以你會覺得夢稀奇古怪的，沒有任何邏輯目的。

顏水成：有些時候人在夢境中是知道自己在做夢的。這是怎么回事？

劉嘉：這是因為我們的意識在隨時在監(jiān)視我們的大腦，這個時候，我們會感知到自己在做夢。

顏水成：所以我們的顯意識能夠知道，哪一部分信息是通過外部感知逐步分析出來的，哪些是由我們大腦自己產(chǎn)生的？

劉嘉：很多時候，我們會分不清哪些來自真實，哪些我們的想象或夢境。舉例來說，幾個人同時目睹了一場兇殺案，作為沒有任何利益關(guān)系的目擊者，我們會發(fā)現(xiàn)他們對現(xiàn)場的回憶并不一致。這是因為他們已經(jīng)對這個現(xiàn)場做了許多自己的猜測、推理等。這個過程是不由自主的，不受個人控制。所以常常我們在說一個事實，實際上，你只是在解釋一個事實。

睡眠的重要性就體現(xiàn)在這里，它能夠?qū)ξ覀儼滋焖?jīng)歷的事情進(jìn)行重構(gòu)。

曾經(jīng)有一個剝奪做夢實驗。在前一天讓被試學(xué)習(xí)一些東西，然后在當(dāng)天晚上睡覺時，每當(dāng)他進(jìn)入“快速眼動”階段（這是我們正做夢的信號），就把他叫醒。實驗發(fā)現(xiàn)，這些被剝奪夢境的被試在第二天的成績相比沒有剝奪的被試，成績要差很多。

?

十八、神經(jīng)元的復(fù)雜度

?

顏水成：神經(jīng)元的胞體和突觸都在進(jìn)行信息處理，它們的復(fù)雜度在量級上哪個為主？

?

劉嘉：他們的復(fù)雜度都比較高，主要還是胞體更高一些，但是很難說它們在數(shù)量級上有差別。神經(jīng)元有很多樹突，既有興奮的，也有抑制的，既有遠(yuǎn)端的，也有近端的，當(dāng)很多因素合成在一起時，胞體就需要做很多信息的整合，這形成了一個非常復(fù)雜的動態(tài)系統(tǒng)。

?

我比較想特別強(qiáng)調(diào)的一點是，在我們現(xiàn)有的DNN里面，更多的仿真突觸，其實沒有神經(jīng)元胞體，感知器是一個啞神經(jīng)元，沒有任何結(jié)構(gòu)。

?

??

顏水成：那在里面加的threshold或非線性函數(shù)，可以看做神經(jīng)元的一個功能嗎？

?

劉嘉：threshold是神經(jīng)元的一個功能，但這里強(qiáng)調(diào)的是，目前的DNN是沒有神經(jīng)元胞體的成分的。

提到這一點，我覺得你當(dāng)時做的一個非常有影響力的工作：Network in Network，真的是把神經(jīng)元的功能加進(jìn)去了，因為你有一個局部計算。而主流的DNN其實沒有局部計算，只是在改變網(wǎng)絡(luò)之間的連接強(qiáng)度，頂多也就加了一個threshold這樣一個功能。

顏水成：我們當(dāng)時提出我們的工作時，也是這樣一個動機(jī)，就是神經(jīng)元不應(yīng)該這么簡單?，F(xiàn)在，比較火的圖神經(jīng)網(wǎng)絡(luò)，似乎能夠做更好的知識表示、學(xué)習(xí)和推理。它有信息的傳遞，同時在內(nèi)部還有單層/多層的卷積。所以圖神經(jīng)網(wǎng)絡(luò)是不是會非常接近你說的這種神經(jīng)元？

?

劉嘉：我是這么認(rèn)為的。從你們的network in network開創(chuàng)這個方向，我覺得就是從和人的相似性來講，圖神經(jīng)網(wǎng)絡(luò)是一個非常有生命力和前途的方向。

?

目前在這個世界上，人類的大腦是最好的智能體。我們應(yīng)該去看它怎么工作。現(xiàn)在人工智能的研究有兩種方式，一種是不管人腦怎么干，我們憑經(jīng)驗設(shè)計一套規(guī)則來做；另一種是看人的智能是怎么產(chǎn)生的，然后進(jìn)行類比或仿真。我覺得后者成功的概率會更大一些。