、

「在已知的宇宙中，人類的大腦是最復(fù)雜的東西，它復(fù)雜得讓試圖解釋它的簡(jiǎn)單模型可笑，讓精致的模型無(wú)用。」

這是杜克大學(xué)認(rèn)知神經(jīng)科學(xué)中心的斯科特 · 胡特爾被廣為引用的一句名言。

在馮諾依曼架構(gòu)觸頂、摩爾定律不再適用的當(dāng)下，工程師們愈發(fā)意識(shí)到，模擬人腦神經(jīng)網(wǎng)絡(luò)或許才是人工智能的未來(lái)。近 10 多年來(lái)受人腦啟發(fā)逐漸發(fā)展的神經(jīng)擬態(tài)計(jì)算，到底是怎么一回事？

模糊學(xué)習(xí)與神經(jīng)復(fù)刻

首先，要了解神經(jīng)形態(tài)技術(shù)，有必要快速了解一下大腦的工作原理。

信息以電信號(hào)的方式，通過(guò)神經(jīng)元突觸在大腦中傳遞。和傳統(tǒng)計(jì)算機(jī)通過(guò)晶體管的開(kāi)關(guān)來(lái)傳達(dá)信息相同，神經(jīng)中電信號(hào)的傳遞也只有 0 和 1 兩種狀態(tài)。

但不同于傳統(tǒng)計(jì)算機(jī)的一點(diǎn)是，雖然單個(gè)神經(jīng)元只有放電 / 非放電兩種狀態(tài)，但神經(jīng)元集群能夠以集體放電的方式來(lái)調(diào)控信號(hào)的強(qiáng)弱。同時(shí)，神經(jīng)元放電具有強(qiáng)關(guān)聯(lián)性，經(jīng)常同時(shí)放電的神經(jīng)元能夠建立更密集的連接。

簡(jiǎn)單來(lái)說(shuō)，大腦的神經(jīng)網(wǎng)絡(luò)能夠從強(qiáng)度、時(shí)效等方面更豐富地表達(dá)信息。因此在缺少明確定義、語(yǔ)義模糊的現(xiàn)實(shí)場(chǎng)景中，神經(jīng)形態(tài)模擬計(jì)算無(wú)疑具有更高的靈活性和分析能力。

圖：同時(shí)放電的神經(jīng)元 | Medical Xpress

除了更細(xì)膩、豐富的信息傳導(dǎo)以外，神經(jīng)擬態(tài)計(jì)算對(duì)硬件層面的要求十分高。傳統(tǒng)的馮諾依曼架構(gòu)下，信息的處理和儲(chǔ)存在物理上是分開(kāi)的。而神經(jīng)元之所以擁有極高的信息傳導(dǎo)效率，很大一部分原因是因?yàn)樾畔⒌奶幚砗痛鎯?chǔ)一體化。

這種設(shè)置讓信息不用在處理器和存儲(chǔ)之間來(lái)回穿梭，節(jié)省了大量的時(shí)間和能耗。而在目前的神經(jīng)擬態(tài)領(lǐng)域中，硬件的模擬距離真實(shí)的大腦還十分遙遠(yuǎn)。因此，現(xiàn)實(shí)中的神經(jīng)形態(tài)模擬更多地停留在程序和功能層面上。

現(xiàn)實(shí)中的神經(jīng)形態(tài)模擬

一些學(xué)者、初創(chuàng)公司和科技巨頭已經(jīng)在制造和使用神經(jīng)形態(tài)系統(tǒng)。

英特爾有一個(gè)名為 Loihi 的神經(jīng)形態(tài)芯片，已經(jīng)開(kāi)發(fā)了一個(gè)名為 Pohoiki Beach 的突觸系統(tǒng)，其中包含 800 萬(wàn)個(gè)神經(jīng)元（預(yù)計(jì)在不久的將來(lái)會(huì)達(dá)到 1 億個(gè)神經(jīng)元）。

Loihi 的微代碼（其芯片級(jí)指令）于 2017 年 9 月首次宣布，并于次年 1 月在 CES 2018 上正式首發(fā)，其中包括專門(mén)為訓(xùn)練神經(jīng)網(wǎng)絡(luò)而設(shè)計(jì)的語(yǔ)句。設(shè)計(jì)組明確將其描述為對(duì)神經(jīng)形態(tài)過(guò)程的模擬，而不是真正的功能實(shí)現(xiàn)。

圖：Loihi | Tim Herman for Intel Corp.

Loihi 的設(shè)計(jì)被稱為「受大腦啟發(fā)」。這可能有點(diǎn)像說(shuō)，「靈感來(lái)自一個(gè)真實(shí)的故事」，因?yàn)檫@些指令是微編碼的，而不是實(shí)體的連接。

如上圖所示，由 64 個(gè) Loihi 芯片組成的集群形成了一個(gè)神經(jīng)形態(tài)加速器。該加速器于 2019 年 7 月向研究界提供。目前，研究人員正在使用 Loihi 芯片制造人造皮膚和開(kāi)發(fā)動(dòng)力假肢。

IBM 也擁有自己的神經(jīng)形態(tài)系統(tǒng) TrueNorth，該系統(tǒng)于 2014 年推出，擁有 6400 萬(wàn)個(gè)神經(jīng)元和 160 億個(gè)突觸。雖然 IBM 后來(lái)沒(méi)有太多曝光 TrueNorth 的進(jìn)展，但它于 2020 年宣布與美國(guó)空軍研究實(shí)驗(yàn)室合作創(chuàng)建名為 Blue Raven 的「神經(jīng)擬態(tài)超級(jí)計(jì)算機(jī)」 。該實(shí)驗(yàn)室仍在探索這項(xiàng)技術(shù)的用途，初步選擇制造更智能、更輕、能耗更低的無(wú)人機(jī)。

與 Loihi 一樣，TrueNorth 與其說(shuō)是物理上的神經(jīng)形態(tài)，不如說(shuō)是神經(jīng)形態(tài)原理的模擬器。

「這些神經(jīng)網(wǎng)絡(luò)最吸引人的屬性是它們可以移植到神經(jīng)形態(tài)的硬件中，」 2018 年 9 月 IBM 神經(jīng)形態(tài)專利申請(qǐng)中寫(xiě)道，「它可以部署在移動(dòng)設(shè)備和本機(jī)傳感器中，可以實(shí)現(xiàn)實(shí)時(shí)的低功耗。神經(jīng)形態(tài)計(jì)算展示了一種前所未有的低功耗計(jì)算基板，可用于許多應(yīng)用程序。」

神經(jīng)形態(tài)計(jì)算始于加州理工學(xué)院的 Carver Mead 實(shí)驗(yàn)室。目前，世界上最著名的神經(jīng)形態(tài)計(jì)算實(shí)驗(yàn)室仍然在學(xué)術(shù)機(jī)構(gòu)中。例如，歐盟資助的人腦計(jì)劃項(xiàng)目 ( HBP ) ，自 2013 年開(kāi)始運(yùn)行，預(yù)計(jì)為期 10 年，旨在研究包括神經(jīng)形態(tài)計(jì)算在內(nèi)的六個(gè)領(lǐng)域以促進(jìn)對(duì)大腦的理解。

HBP 促成了兩項(xiàng)主要的神經(jīng)形態(tài)計(jì)劃，SpiNNaker 和 BrainScaleS。

2018 年，一個(gè)百萬(wàn)核的 SpiNNaker 系統(tǒng)上線，這是當(dāng)時(shí)最大的神經(jīng)形態(tài)超級(jí)計(jì)算機(jī)，是由德國(guó)工程師與 Jülich 神經(jīng)科學(xué)和醫(yī)學(xué)研究中心、英國(guó)曼徹斯特大學(xué)合作研發(fā)的百萬(wàn)核計(jì)算系統(tǒng)。該項(xiàng)目希望最終將其擴(kuò)大到對(duì) 100 萬(wàn)個(gè)神經(jīng)元進(jìn)行建模。

SpiNNaker 模擬哺乳動(dòng)物大腦中神經(jīng)元的連接方式，來(lái)實(shí)現(xiàn)大腦皮層細(xì)微的神經(jīng)電路功能。

圖：SpinNNaker | zdnet.com

正如 SpiNNaker 名字中的大寫(xiě)「NN」所強(qiáng)調(diào)的那樣，系統(tǒng)希望實(shí)現(xiàn)脈沖神經(jīng)網(wǎng)絡(luò) ( SNN ) 的作用。該系統(tǒng)特別適用于神經(jīng)形態(tài)架構(gòu)，因?yàn)樗苯幼饔糜谌嗽焱挥|的可塑性。正如曼徹斯特大學(xué)研究員 Andrew Rowley 在 2019 年 11 月的一次會(huì)議上解釋的那樣，「我們想要制造的是一臺(tái)擁有一百萬(wàn)個(gè)類似手機(jī)處理器的百萬(wàn)核機(jī)器，和 1% 人腦或 10 只老鼠大腦的處理水平相當(dāng)。」

和 SpiNNaker 一樣，BrainScaleS 喜歡把大寫(xiě)字母混在一起，也得到了歐盟人腦計(jì)劃的資助。但與 SpiNNaker 不同的是，BrainScaleS 是一項(xiàng)長(zhǎng)期運(yùn)行的、位于德國(guó)海德堡的項(xiàng)目，旨在把 SpiNNaker 進(jìn)行數(shù)字模擬的模型部署到物理建模的仿生平臺(tái)。該平臺(tái)的基礎(chǔ)自己研發(fā)的集成電路芯片。

圖：BrainScaleS 芯片 | zdnet.com

根據(jù) 2020 年 5 月提交給歐盟的文件，完全組裝后的 BrainScaleS 由五個(gè) 19 英寸機(jī)架組成，總共支持 20 個(gè)晶圓模塊（服務(wù)器）加上電源和冷卻器。每個(gè)晶片模塊包括 384 個(gè)處理器，每個(gè)處理器代表 512 個(gè)神經(jīng)元的 114,688 個(gè)突觸。神經(jīng)元一般會(huì)自動(dòng)「放置」在晶片上，但也可以使用 Python 的 morocco 插件手動(dòng)指定神經(jīng)元的放置位置。

神經(jīng)形態(tài)系統(tǒng)有哪些挑戰(zhàn)？

從馮諾依曼架構(gòu)轉(zhuǎn)向神經(jīng)形態(tài)計(jì)算并非沒(méi)有重大挑戰(zhàn)。

現(xiàn)行的計(jì)算規(guī)范，例如數(shù)據(jù)的編碼和處理方式，都是圍繞馮諾依曼模型發(fā)展起來(lái)的。因此，想要搭建切實(shí)可行的神經(jīng)形態(tài)系統(tǒng)需要對(duì)大量數(shù)據(jù)進(jìn)行重新設(shè)計(jì)。例如，傳統(tǒng)系統(tǒng)處理視覺(jué)輸入時(shí)，會(huì)將數(shù)據(jù)理解為一系列單獨(dú)的幀，而神經(jīng)形態(tài)處理器會(huì)將此類信息編碼為隨時(shí)間變化的視場(chǎng)（ VF, visual field ） 。

編程語(yǔ)言也需要從頭開(kāi)始重寫(xiě)。由于硬件方面存在的挑戰(zhàn)，需要能夠更好地適應(yīng)神經(jīng)形態(tài)設(shè)備的新一代的內(nèi)存、存儲(chǔ)和傳感器。

神經(jīng)形態(tài)技術(shù)甚至可能需要從根本上改變硬件和軟件的開(kāi)發(fā)方式。神經(jīng)形態(tài)硬件中不同元件的集成方式都和傳統(tǒng)芯片不同，例如內(nèi)存和處理器的集成等，都需要重新設(shè)計(jì)。

我們準(zhǔn)備好制造類腦計(jì)算機(jī)了嗎？

神經(jīng)形態(tài)計(jì)算可能會(huì)帶來(lái)神經(jīng)科學(xué)的進(jìn)步。隨著研究人員開(kāi)始嘗試在電子設(shè)備中重建神經(jīng)元，他們可能會(huì)更多地了解大腦的內(nèi)部運(yùn)作，從而幫助神經(jīng)學(xué)家更多地了解大腦。

同樣，隨著我們對(duì)人類大腦的了解越多，神經(jīng)形態(tài)計(jì)算也可能會(huì)開(kāi)辟更多的途徑。例如，神經(jīng)膠質(zhì)細(xì)胞 ( glia neurons ) —— 大腦的支持細(xì)胞 —— 在大多數(shù)神經(jīng)形態(tài)設(shè)計(jì)中的重要性并不高，但隨著這些細(xì)胞在信息處理過(guò)程中的作用逐漸被發(fā)現(xiàn)，計(jì)算機(jī)科學(xué)家開(kāi)始研究它們是否也應(yīng)該被加入到神經(jīng)形態(tài)系統(tǒng)中。

當(dāng)然，關(guān)于在硅中模擬人腦的日益復(fù)雜的工作，更有趣的問(wèn)題之一是研究人員最終是否可能最終在機(jī)器中重新創(chuàng)造意識(shí)。對(duì)于這個(gè)問(wèn)題，HyperTech 之前也進(jìn)行過(guò)探討。在這篇文章里，我們從意識(shí)的定義、人腦的認(rèn)知等方面討論了能夠打乒乓球的「缸中之腦」是否可被稱作具有意識(shí)。單就目前神經(jīng)形態(tài)模擬和類腦培育方面的成就而言，談?wù)摍C(jī)器是否具有意識(shí)還為時(shí)尚早。但在未來(lái)，真正的「創(chuàng)造」或許已經(jīng)在路上。