1

　　12歲的流浪漢 Walter Pitts [1，2，3] 被一群黑幫匪徒追打，躲進(jìn)了一個圖書館。打手們罵罵咧咧地找了一圈以后走了。

　　Walter 卻沒離開，他的注意力完全被一套三卷本的書吸引了：Alfred North Whitehead 與 Bertrand Russell 合著的《Principia Mathematica》。這是作者為純數(shù)學(xué)提供邏輯基礎(chǔ)的雄心勃勃的大部頭著作，努力構(gòu)建嚴(yán)謹(jǐn)?shù)倪壿嫎?gòu)架，把數(shù)學(xué)命題在自己的構(gòu)架里一步步推導(dǎo)出來。

　　獨(dú)立學(xué)習(xí)了三年之后，15歲的 Walter Pitts 寫信給 Russell，向 Russel 指出在第一卷里的幾個錯誤。Russel 馬上回信，邀請 Pitts 去英國學(xué)習(xí)。

　　Pitts 沒有去濕冷的英格蘭，而去了芝加哥大學(xué)，沒有固定生活來源的他流浪在芝加哥大學(xué)的講堂和校園里（很多時間睡在露天的躺椅上）。

　　在進(jìn)芝加哥大學(xué)第一年的時候，芝大的數(shù)學(xué)教授 Carnap 出了一本關(guān)于邏輯學(xué)的新書，那是1938年。Carnap 不是泛泛之輩，他關(guān)于邏輯悖論的論述是三十年代時最完備的。

　　一天，15歲的 Walter Pitts 走進(jìn) Carnap 的辦公室，手里拿著寫著自己注釋的Carnap 的新書，向 Carnap 對書中的幾個地方提出尖銳的評論。

　　在開始的震驚之后，Carnap 開始反駁，兩人交流了一個小時左右。Pitts 把書留在Carnap 那里，離開了辦公室。由于 Pitts 沒有介紹自己，于是后來的兩個月里 Carnap 在芝大里滿世界找“懂邏輯的報童”。

　　Walter Pitts 的故事和其他天才的故事一樣，讓人難以想象，就像莫扎特、王維、馮紐曼，這些年紀(jì)輕輕就在自己的領(lǐng)域獨(dú)步天下，又似乎全不費(fèi)力、信手拈來。那么這些天才是否可以人造呢？

　　Walter Pitts

　　這個問題在以前也許是很幼稚的，不過現(xiàn)在出現(xiàn)了 AlphaGo 這類人工智能算法，在棋盤上打敗了幾乎所有的頂級圍棋職業(yè)高手，包括柯潔這樣的天才，也許這個問題是可以被容許討論的了。

　　2

　　1942年，18歲的 Walter 認(rèn)識了 University of Illinois（伊利諾伊大學(xué)）教授Warren McCulloch。Warren 熱情好客，當(dāng)時 Walter Pitts 無家可歸，于是Warren 邀請他住在自己家里。

　　在 Walter 住進(jìn) Warren 家的當(dāng)夜，他們就開始合作神經(jīng)系統(tǒng)如何進(jìn)行邏輯計算的問題。大概300年前，萊不尼茲證明，任何問題，只要可以用有限數(shù)目的詞、完整而沒有歧義的表達(dá)出來，就可以用‘邏輯機(jī)’（logical machine）計算出來。六年之前， Alan Turning 發(fā)表了著名的關(guān)于universal computing engine的文章。

　　Walter Pitts 和 Warren 的問題是，如何把神經(jīng)系統(tǒng)看成這樣一個邏輯機(jī)器呢？考慮到當(dāng)時對腦神經(jīng)的粗淺而不確定的認(rèn)識，Warren 和 Pitts 對神經(jīng)系統(tǒng)的簡化是劃時代的。

　　他們把神經(jīng)元的狀態(tài)簡化為0或1的二進(jìn)制表示，用一個連接強(qiáng)度的矩陣來標(biāo)準(zhǔn)化神經(jīng)元之間的相互影響關(guān)系，于是在給予一定輸入的情況下，McCulloch-Pitts網(wǎng)絡(luò)將根據(jù)這個連接矩陣的狀態(tài)以及輸入，而決定輸出是什么。

　　他們在1943年出版的“A Logical Calculus of the Ideas Immanent in Nervous Activity”是 McCulloch 和 Pitts 最著名的工作。

　　從控制論角度來講，McCulloch-Pitts 網(wǎng)絡(luò)本身就是最早的有限自動機(jī)（finite automata）之一。這個工作還提供了神經(jīng)生理問題的邏輯基礎(chǔ)，可以說是最早的計算神經(jīng)科學(xué)成果之一。而這篇文章對于人工智能領(lǐng)域來講，則是開創(chuàng)性的，神經(jīng)系統(tǒng)的復(fù)雜性被高度抽象，并用數(shù)學(xué)家和工程師容易理解的語言來描述。

　　從此，人工智能開始以獨(dú)立的領(lǐng)域而開始其蓬勃發(fā)展之勢。

　　3

　　要描繪神經(jīng)科學(xué)與人工智能領(lǐng)域相互借鑒、相互促進(jìn)的完整畫面，本文的篇幅是不夠的。

　　但是兩個領(lǐng)域都意識到“學(xué)習(xí)”對于生物和電腦行為的重要性，神經(jīng)科學(xué)發(fā)現(xiàn)神經(jīng)元之間的聯(lián)結(jié)“突觸”，可以被神經(jīng)元的活動所改變，這一點(diǎn)很可能是學(xué)習(xí)的物質(zhì)基礎(chǔ)；在人工智能領(lǐng)域，人工神經(jīng)元之間的聯(lián)結(jié)強(qiáng)度的改變，也是人工神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)的基礎(chǔ)。

　　這一特性，被目前的“深度學(xué)習(xí)”推到了極致，可以說引起了一個深度學(xué)習(xí)革命，在網(wǎng)絡(luò)搜索、網(wǎng)站過濾、廣告推送、圖像識別、語言翻譯等大量應(yīng)用都可以找到深度學(xué)習(xí)的實(shí)際應(yīng)用。其中 Geoffrey Hinton 做出了突出的貢獻(xiàn)。

　　Geoffrey Hinton[4] 在英國出生，接受的是基督教學(xué)校的教育，雖然他早早的就認(rèn)為基督教神學(xué)是完全的廢話[5]。1982年左右，Hinton 和 Terry Sejnowski一起找到了漂亮的訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)的方法，從而發(fā)明了玻爾茲曼機(jī)（Boltzmann machine），在人工智能和計算神經(jīng)科學(xué)領(lǐng)域都有很重要的應(yīng)用。

　　他還和同行一起推動了BP算法，即反向傳播算法（Back-propagation）的廣泛應(yīng)用；之后他一直致力于優(yōu)化人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)。

　　但是在二十世紀(jì)九十年代到2006之間，人工神經(jīng)網(wǎng)絡(luò)慢慢地淡出了人工智能領(lǐng)域的前沿，也許是由于在實(shí)際應(yīng)用中，人工神經(jīng)網(wǎng)絡(luò)計算結(jié)果容易進(jìn)入局部極小值（Local minimum），找不到全局最小值（Global minimum），從而無法實(shí)現(xiàn)對實(shí)際問題的求解。

　　但是有時候堅守會得到回報的，Hinton 和 Yann LeCun，另一位深度學(xué)習(xí)的奠基人，就是這句話的最好詮釋。

　　他們兩個人都從神經(jīng)系統(tǒng)的原理得到靈感：LeCun 把腦的視覺系統(tǒng)的組織結(jié)構(gòu)擴(kuò)展到人工神經(jīng)網(wǎng)絡(luò)中，發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)了高效的手寫字的識別；而 Hinton 則把腦皮層中分層的組織原則移植到人工神經(jīng)網(wǎng)絡(luò)中，在2006年發(fā)明了深度學(xué)習(xí)的訓(xùn)練方法。

　　恰逢計算機(jī)能力在2006前后獲得了急速提升，網(wǎng)絡(luò)的大量普及使用提供了大規(guī)模的數(shù)據(jù)，使得深度學(xué)習(xí)得以發(fā)揮其多層網(wǎng)絡(luò)的優(yōu)勢，在大數(shù)據(jù)的訓(xùn)練和沖擊下，那些局部極小值消失了，取而代之的是全局最小值。

　　目前，深度學(xué)習(xí)在很多特定任務(wù)，例如人臉識別、圖像中的物體識別、語音識別等應(yīng)用中的正確率已經(jīng)超過了人類。

　　Hinton兼職進(jìn)入Google，而谷歌也收購了“深腦”（DeepMind），這一由系統(tǒng)神經(jīng)科學(xué)家創(chuàng)造的公司，結(jié)合深度學(xué)習(xí)與神經(jīng)科學(xué)中的強(qiáng)化學(xué)習(xí)（Reinforcement learning）概念，領(lǐng)導(dǎo)的團(tuán)隊(duì)創(chuàng)造了 AlphaGo，并在圍棋上戰(zhàn)勝李世石和其他頂級職業(yè)高手，也許這是深度學(xué)習(xí)革命的最好注解[6]。

　　4

　　開篇的天才故事讓我們講到結(jié)束吧。

　　Pitts 雖然做出了巨大的貢獻(xiàn)，但他極度排斥社會的正式承認(rèn)。在芝加哥大學(xué)旁聽、而不注冊學(xué)生，只是個開始。也許是在 Norbert 的安排下，MIT要給他一個學(xué)位，所有Pitts需要做的事就是簽署一個文件、翻譯一篇德文文章（他懂德文，所以那是小菜一碟），而他斷然拒絕。

　　后來MIT想要給他一個正式的教職，這回只要Pitts簽署一個文件，同樣被Pitts回絕。Pitts刻意銷毀自己工作的記錄，逃避任何拍照的可能，沒有日記以及信件流傳?？傊?，對于不親身識得他的人，Pitts 是躲在霧里的一個謎，無法看清。

　　但是有趣的是，與 Pitts 認(rèn)識的人都會覺著Pitts樂于交流，極好相處，談吐不凡，知識淵博。往往你問他一個科學(xué)或者藝術(shù)的問題，他可以把這個問題的來龍去脈、前因后果、娓娓道來，講上兩三個小時，聞?wù)卟痪搿?/p>

　　Pitts讓人聯(lián)想起電影《海上鋼琴師》中的音樂家，天才飄灑大海，卻又僅局限于一葉扁舟。Pitts人如美玉，卻選擇只是澤被身邊有限的好友。

　　Pitts 在1969年逝世于 MIT 的寓所里。死的時候身旁沒有一個人。如今，神經(jīng)元的數(shù)學(xué)模型被稱為 McCulloch–Pitts 神經(jīng)元。

　　5

　　Pitts 的天才和遭遇也許正是目前人工智能還無法企及的能力。深度學(xué)習(xí)需要“監(jiān)督學(xué)習(xí)”，也就是需要提前知道最終答案，從而訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)。

　　Pitts 的創(chuàng)造性思維，在1942年的時候并沒有最終答案，人工智能是否在未來可以創(chuàng)造出這一能力？Pitts的社會能力遠(yuǎn)遠(yuǎn)不如大多數(shù)社會人，那么人工智能在社會行為這一人類特別出色的能力上，能給我們什么樣的驚喜？

　　也許，還是要從神經(jīng)科學(xué)中找到一些關(guān)鍵性的原理性靈感，從而拓展人工智能的能力，也讓我們不斷思考人類與計算機(jī)在智能上的邊界。

　　參考文獻(xiàn)：

　　1、 Jim Anderson與Lettvin的訪談錄： Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　2、 MIT CogNet百科全書：http://cognet.mit.edu/library/erefs/mitecs/lettvin1.html

　　3、Wikipedia：http://en.wikipedia.org/wiki/Walter_Pitts

　　4、 Hinton訪談錄：Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　5、 “I was convinced throughout my childhood that the whole Christian ideology at school was just complete rubbish。 I’m still convinced of that。” Hinton訪談錄：Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　6、深度學(xué)習(xí)的介紹有很多，可以從Yann LeCun，Yoshua Bengio和Geoffrey Hinton2015年在Nature上的“Deep learning”這一綜述開始。