1

　　12歲的流浪漢 Walter Pitts [1，2，3] 被一群黑幫匪徒追打，躲進(jìn)了一個(gè)圖書(shū)館。打手們罵罵咧咧地找了一圈以后走了。

　　Walter 卻沒(méi)離開(kāi)，他的注意力完全被一套三卷本的書(shū)吸引了：Alfred North Whitehead 與 Bertrand Russell 合著的《Principia Mathematica》。這是作者為純數(shù)學(xué)提供邏輯基礎(chǔ)的雄心勃勃的大部頭著作，努力構(gòu)建嚴(yán)謹(jǐn)?shù)倪壿嫎?gòu)架，把數(shù)學(xué)命題在自己的構(gòu)架里一步步推導(dǎo)出來(lái)。

　　獨(dú)立學(xué)習(xí)了三年之后，15歲的 Walter Pitts 寫(xiě)信給 Russell，向 Russel 指出在第一卷里的幾個(gè)錯(cuò)誤。Russel 馬上回信，邀請(qǐng) Pitts 去英國(guó)學(xué)習(xí)。

　　Pitts 沒(méi)有去濕冷的英格蘭，而去了芝加哥大學(xué)，沒(méi)有固定生活來(lái)源的他流浪在芝加哥大學(xué)的講堂和校園里（很多時(shí)間睡在露天的躺椅上）。

　　在進(jìn)芝加哥大學(xué)第一年的時(shí)候，芝大的數(shù)學(xué)教授 Carnap 出了一本關(guān)于邏輯學(xué)的新書(shū)，那是1938年。Carnap 不是泛泛之輩，他關(guān)于邏輯悖論的論述是三十年代時(shí)最完備的。

　　一天，15歲的 Walter Pitts 走進(jìn) Carnap 的辦公室，手里拿著寫(xiě)著自己注釋的Carnap 的新書(shū)，向 Carnap 對(duì)書(shū)中的幾個(gè)地方提出尖銳的評(píng)論。

　　在開(kāi)始的震驚之后，Carnap 開(kāi)始反駁，兩人交流了一個(gè)小時(shí)左右。Pitts 把書(shū)留在Carnap 那里，離開(kāi)了辦公室。由于 Pitts 沒(méi)有介紹自己，于是后來(lái)的兩個(gè)月里 Carnap 在芝大里滿世界找“懂邏輯的報(bào)童”。

　　Walter Pitts 的故事和其他天才的故事一樣，讓人難以想象，就像莫扎特、王維、馮紐曼，這些年紀(jì)輕輕就在自己的領(lǐng)域獨(dú)步天下，又似乎全不費(fèi)力、信手拈來(lái)。那么這些天才是否可以人造呢？

　　Walter Pitts

　　這個(gè)問(wèn)題在以前也許是很幼稚的，不過(guò)現(xiàn)在出現(xiàn)了 AlphaGo 這類人工智能算法，在棋盤(pán)上打敗了幾乎所有的頂級(jí)圍棋職業(yè)高手，包括柯潔這樣的天才，也許這個(gè)問(wèn)題是可以被容許討論的了。

　　2

　　1942年，18歲的 Walter 認(rèn)識(shí)了 University of Illinois（伊利諾伊大學(xué)）教授Warren McCulloch。Warren 熱情好客，當(dāng)時(shí) Walter Pitts 無(wú)家可歸，于是Warren 邀請(qǐng)他住在自己家里。

　　在 Walter 住進(jìn) Warren 家的當(dāng)夜，他們就開(kāi)始合作神經(jīng)系統(tǒng)如何進(jìn)行邏輯計(jì)算的問(wèn)題。大概300年前，萊不尼茲證明，任何問(wèn)題，只要可以用有限數(shù)目的詞、完整而沒(méi)有歧義的表達(dá)出來(lái)，就可以用‘邏輯機(jī)’（logical machine）計(jì)算出來(lái)。六年之前， Alan Turning 發(fā)表了著名的關(guān)于universal computing engine的文章。

　　Walter Pitts 和 Warren 的問(wèn)題是，如何把神經(jīng)系統(tǒng)看成這樣一個(gè)邏輯機(jī)器呢？考慮到當(dāng)時(shí)對(duì)腦神經(jīng)的粗淺而不確定的認(rèn)識(shí)，Warren 和 Pitts 對(duì)神經(jīng)系統(tǒng)的簡(jiǎn)化是劃時(shí)代的。

　　他們把神經(jīng)元的狀態(tài)簡(jiǎn)化為0或1的二進(jìn)制表示，用一個(gè)連接強(qiáng)度的矩陣來(lái)標(biāo)準(zhǔn)化神經(jīng)元之間的相互影響關(guān)系，于是在給予一定輸入的情況下，McCulloch-Pitts網(wǎng)絡(luò)將根據(jù)這個(gè)連接矩陣的狀態(tài)以及輸入，而決定輸出是什么。

　　他們?cè)?943年出版的“A Logical Calculus of the Ideas Immanent in Nervous Activity”是 McCulloch 和 Pitts 最著名的工作。

　　從控制論角度來(lái)講，McCulloch-Pitts 網(wǎng)絡(luò)本身就是最早的有限自動(dòng)機(jī)（finite automata）之一。這個(gè)工作還提供了神經(jīng)生理問(wèn)題的邏輯基礎(chǔ)，可以說(shuō)是最早的計(jì)算神經(jīng)科學(xué)成果之一。而這篇文章對(duì)于人工智能領(lǐng)域來(lái)講，則是開(kāi)創(chuàng)性的，神經(jīng)系統(tǒng)的復(fù)雜性被高度抽象，并用數(shù)學(xué)家和工程師容易理解的語(yǔ)言來(lái)描述。

　　從此，人工智能開(kāi)始以獨(dú)立的領(lǐng)域而開(kāi)始其蓬勃發(fā)展之勢(shì)。

　　3

　　要描繪神經(jīng)科學(xué)與人工智能領(lǐng)域相互借鑒、相互促進(jìn)的完整畫(huà)面，本文的篇幅是不夠的。

　　但是兩個(gè)領(lǐng)域都意識(shí)到“學(xué)習(xí)”對(duì)于生物和電腦行為的重要性，神經(jīng)科學(xué)發(fā)現(xiàn)神經(jīng)元之間的聯(lián)結(jié)“突觸”，可以被神經(jīng)元的活動(dòng)所改變，這一點(diǎn)很可能是學(xué)習(xí)的物質(zhì)基礎(chǔ)；在人工智能領(lǐng)域，人工神經(jīng)元之間的聯(lián)結(jié)強(qiáng)度的改變，也是人工神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)的基礎(chǔ)。

　　這一特性，被目前的“深度學(xué)習(xí)”推到了極致，可以說(shuō)引起了一個(gè)深度學(xué)習(xí)革命，在網(wǎng)絡(luò)搜索、網(wǎng)站過(guò)濾、廣告推送、圖像識(shí)別、語(yǔ)言翻譯等大量應(yīng)用都可以找到深度學(xué)習(xí)的實(shí)際應(yīng)用。其中 Geoffrey Hinton 做出了突出的貢獻(xiàn)。

　　Geoffrey Hinton[4] 在英國(guó)出生，接受的是基督教學(xué)校的教育，雖然他早早的就認(rèn)為基督教神學(xué)是完全的廢話[5]。1982年左右，Hinton 和 Terry Sejnowski一起找到了漂亮的訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)的方法，從而發(fā)明了玻爾茲曼機(jī)（Boltzmann machine），在人工智能和計(jì)算神經(jīng)科學(xué)領(lǐng)域都有很重要的應(yīng)用。

　　他還和同行一起推動(dòng)了BP算法，即反向傳播算法（Back-propagation）的廣泛應(yīng)用；之后他一直致力于優(yōu)化人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)。

　　但是在二十世紀(jì)九十年代到2006之間，人工神經(jīng)網(wǎng)絡(luò)慢慢地淡出了人工智能領(lǐng)域的前沿，也許是由于在實(shí)際應(yīng)用中，人工神經(jīng)網(wǎng)絡(luò)計(jì)算結(jié)果容易進(jìn)入局部極小值（Local minimum），找不到全局最小值（Global minimum），從而無(wú)法實(shí)現(xiàn)對(duì)實(shí)際問(wèn)題的求解。

　　但是有時(shí)候堅(jiān)守會(huì)得到回報(bào)的，Hinton 和 Yann LeCun，另一位深度學(xué)習(xí)的奠基人，就是這句話的最好詮釋。

　　他們兩個(gè)人都從神經(jīng)系統(tǒng)的原理得到靈感：LeCun 把腦的視覺(jué)系統(tǒng)的組織結(jié)構(gòu)擴(kuò)展到人工神經(jīng)網(wǎng)絡(luò)中，發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)了高效的手寫(xiě)字的識(shí)別；而 Hinton 則把腦皮層中分層的組織原則移植到人工神經(jīng)網(wǎng)絡(luò)中，在2006年發(fā)明了深度學(xué)習(xí)的訓(xùn)練方法。

　　恰逢計(jì)算機(jī)能力在2006前后獲得了急速提升，網(wǎng)絡(luò)的大量普及使用提供了大規(guī)模的數(shù)據(jù)，使得深度學(xué)習(xí)得以發(fā)揮其多層網(wǎng)絡(luò)的優(yōu)勢(shì)，在大數(shù)據(jù)的訓(xùn)練和沖擊下，那些局部極小值消失了，取而代之的是全局最小值。

　　目前，深度學(xué)習(xí)在很多特定任務(wù)，例如人臉識(shí)別、圖像中的物體識(shí)別、語(yǔ)音識(shí)別等應(yīng)用中的正確率已經(jīng)超過(guò)了人類。

　　Hinton兼職進(jìn)入Google，而谷歌也收購(gòu)了“深腦”（DeepMind），這一由系統(tǒng)神經(jīng)科學(xué)家創(chuàng)造的公司，結(jié)合深度學(xué)習(xí)與神經(jīng)科學(xué)中的強(qiáng)化學(xué)習(xí)（Reinforcement learning）概念，領(lǐng)導(dǎo)的團(tuán)隊(duì)創(chuàng)造了 AlphaGo，并在圍棋上戰(zhàn)勝李世石和其他頂級(jí)職業(yè)高手，也許這是深度學(xué)習(xí)革命的最好注解[6]。

　　4

　　開(kāi)篇的天才故事讓我們講到結(jié)束吧。

　　Pitts 雖然做出了巨大的貢獻(xiàn)，但他極度排斥社會(huì)的正式承認(rèn)。在芝加哥大學(xué)旁聽(tīng)、而不注冊(cè)學(xué)生，只是個(gè)開(kāi)始。也許是在 Norbert 的安排下，MIT要給他一個(gè)學(xué)位，所有Pitts需要做的事就是簽署一個(gè)文件、翻譯一篇德文文章（他懂德文，所以那是小菜一碟），而他斷然拒絕。

　　后來(lái)MIT想要給他一個(gè)正式的教職，這回只要Pitts簽署一個(gè)文件，同樣被Pitts回絕。Pitts刻意銷毀自己工作的記錄，逃避任何拍照的可能，沒(méi)有日記以及信件流傳?？傊?，對(duì)于不親身識(shí)得他的人，Pitts 是躲在霧里的一個(gè)謎，無(wú)法看清。

　　但是有趣的是，與 Pitts 認(rèn)識(shí)的人都會(huì)覺(jué)著Pitts樂(lè)于交流，極好相處，談吐不凡，知識(shí)淵博。往往你問(wèn)他一個(gè)科學(xué)或者藝術(shù)的問(wèn)題，他可以把這個(gè)問(wèn)題的來(lái)龍去脈、前因后果、娓娓道來(lái)，講上兩三個(gè)小時(shí)，聞?wù)卟痪搿?/p>

　　Pitts讓人聯(lián)想起電影《海上鋼琴師》中的音樂(lè)家，天才飄灑大海，卻又僅局限于一葉扁舟。Pitts人如美玉，卻選擇只是澤被身邊有限的好友。

　　Pitts 在1969年逝世于 MIT 的寓所里。死的時(shí)候身旁沒(méi)有一個(gè)人。如今，神經(jīng)元的數(shù)學(xué)模型被稱為 McCulloch–Pitts 神經(jīng)元。

　　5

　　Pitts 的天才和遭遇也許正是目前人工智能還無(wú)法企及的能力。深度學(xué)習(xí)需要“監(jiān)督學(xué)習(xí)”，也就是需要提前知道最終答案，從而訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)。

　　Pitts 的創(chuàng)造性思維，在1942年的時(shí)候并沒(méi)有最終答案，人工智能是否在未來(lái)可以創(chuàng)造出這一能力？Pitts的社會(huì)能力遠(yuǎn)遠(yuǎn)不如大多數(shù)社會(huì)人，那么人工智能在社會(huì)行為這一人類特別出色的能力上，能給我們什么樣的驚喜？

　　也許，還是要從神經(jīng)科學(xué)中找到一些關(guān)鍵性的原理性靈感，從而拓展人工智能的能力，也讓我們不斷思考人類與計(jì)算機(jī)在智能上的邊界。

　　參考文獻(xiàn)：

　　1、 Jim Anderson與Lettvin的訪談錄： Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　2、 MIT CogNet百科全書(shū)：http://cognet.mit.edu/library/erefs/mitecs/lettvin1.html

　　3、Wikipedia：http://en.wikipedia.org/wiki/Walter_Pitts

　　4、 Hinton訪談錄：Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　5、 “I was convinced throughout my childhood that the whole Christian ideology at school was just complete rubbish。 I’m still convinced of that。” Hinton訪談錄：Talking nets， James Anderson and Edward Rosenfeld， 1998， MIT Press。

　　6、深度學(xué)習(xí)的介紹有很多，可以從Yann LeCun，Yoshua Bengio和Geoffrey Hinton2015年在Nature上的“Deep learning”這一綜述開(kāi)始。