仿人類神經元的電腦晶片 - 工程師

Andrew avatar
By Andrew
at 2013-12-09T00:25

Table of Contents


http://pansci.tw/archives/50530
仿人類神經元的電腦晶片可以用更少的能量做更多事!

夸比納‧鮑恩(Kwabena Boahen)在1982年時得到他第一台電腦,當時他只是個住在迦納首
都阿克拉的青少年。他回想道:「那是一個很酷的裝置。」只要將儲存用的卡帶機和充作
螢幕的電視連接在一起,就可以開始寫程式。

但是當鮑恩發現電腦的運作原理時,他有點失望:「當我知道電腦的中央處理器(CPU)
必須不斷將數據在RAM和ALU之間來回處理時,我心想:『天啊!CPU竟然要這樣瘋狂運作
到死,電腦才能用。』」當下他直覺地想說電腦的設計需要一點「非洲元素」:多一點分
散和流動,不要那麼死板。

鮑恩現在是加州史丹佛大學的生物工程師,跟一群研究員試圖透過對腦的反向工程,開發
出這種「分散又流動」的計算模式。人類的大腦其實是一個高效又節能的器官,用沒那麼
完美、又慢又雜亂的的神經元,就可以處理一些對世界上最厲害的超級電腦而言都很棘手
的問題:理解語言、抽象思考還有控制動作等。

而這個比鞋盒還小的腦,不但不需要用到中央處理器,還只用了比家裡電燈泡還少的能量
。為了讓矽晶片達到同樣的效率,研究人員想要做出非數位式的晶片,盡量模擬生物神經
元運作的方式。就在幾年前,鮑恩的團隊製作出一個能夠模擬一百萬個神經元運作的裝置
——Neurogrid(神經網絡),相當於一隻蜜蜂腦中的神經元數量。

在經過將近四分之一世紀的研究,仿神經型態技術(neuromorphic technology)的應用
趨於成熟。這種技術被看好能應用在任何體積小、追求低耗能的裝置上,像是智慧型手機
、機器人,甚至人造眼、人造耳等。因此過去五年來,這種技術吸引了很多投資人,在美
國和歐洲投入數億美金研發。

「仿神經型態裝置也提供神經科學家一個有力的研究工具。」瑞士蘇黎世大學神經資訊研
究所(Institute of Neuroinformatics,INI)的賈科莫‧印地維里(Giacomo Indiveri
)表示。在這些裝置上實地測試各種神經功能理論模型,可以幫助科學家瞭解大腦的運作
方式。

不僅如此,仿神經型態技術也可以使晶片突破摩爾定律的物理極限。摩爾定律由英特爾創
辦人戈登‧摩爾提出,指積體電路上可容納的電晶體數目,約每隔24個月便會增加一倍,
而這個趨勢已經持續超過半世紀。照這電晶體不斷縮小的趨勢,總有一天這些電路會因太
小太過緊密,讓電子逸出零件互相干擾,訊號不穩。有些工程師嘗試用軟體的方法解決,
例如目前已用在讓網路跑得順暢的統計誤差校正。不過最終而言,鮑恩認為最佳的解決方
法還是生物在幾百萬年前就發展出的模式:大腦。

「我的目標是一個全新的計算方法,一個即便零件太小而不夠可靠,仍然可以進行計算的
方法。」鮑恩說。

矽胞
仿神經型態技術的起源可以追溯至世界知名的微晶片設計先驅-加州理工學院的卡佛‧米
德(Carver Mead),他在1980年代發明了這個詞,並且著迷於大腦不同凡響的能源效率。
米德說他深深地被這個問題吸引:「到底腦是怎麼用這麼少能量完成這麼多事呢?」

於是米德想到了一個方法:用亞閾值(sub-threshold)的矽晶片,也就是在低於可以讓電
腦位元從0跳到1的電壓下運作的電路,模仿大腦低耗能的運作方式。在這樣的電壓下,仍
然會有微弱但不穩定的電子流流過電晶體,自發性地消長,就像是離子透過離子通道進入
神經元,所引起的電位消長。米德認為若加上微型電容電阻及其他零件來控制電流,這種
微型電路就可以互相連結形成網絡,像腦中的生物神經元一樣,分散處理各種資訊,而不
是把中央處理器操到死。[1][2]

到了1990年代,米德和他的同事證明了製作仿真矽神經元是可行的。該裝置可以透過模仿
神經元突觸的接點,接受外界輸入的電子訊號,這些訊號會像在神經元內一樣地在電子迴
路中合成,若是這些訊號加總後高於閾值,這些矽神經元才會興奮產生神經衝動,沿著如
同軸突的線路,跳躍傳遞神經衝動。雖然說這種訊號傳遞的全有全無律,可以說是數位式
的(只有0和1),但仿真矽神經元主要的運轉基礎(把訊號加總),卻跟生物神經元一樣
都是非數位的,不若傳統晶片的電壓和電流是一些特定不連續的數值。[3]

這樣的話,在足夠強的刺激使矽神經元興奮產生神經衝動之前,只需要用很少的能量來合
成輸入訊號,就像低耗能的腦一樣。相反地,不管有沒有在計算任何數據,傳統的晶片都
需要持續的能量供給電流,以維持中央協調所有零件的計時器。不只如此,米德的團隊也
打造出了分散式神經資訊系統迴路,可以說是矽晶片版本的視網膜。這個裝置以50×50的
偵測器網偵測光線,並且為了像大腦一樣節省能量,仿真矽神經元不會一直發送訊號,只
有在光線亮度顯著改變時才會興奮產生神經衝動,傳送到顯示器,就像是視網膜對於光線
、陰影和動作的偵測模式。這樣能夠有效地區辨移動中的物體輪廓,同時最小化需要傳送
和處理的數據量。
[4]

寫程式的挑戰

鮑恩在1990年代加入米德的實驗室,他說:「那時候研究人員可以充分掌控仿視網膜的單
一矽晶片,但現在我們想要做的是像大腦一樣的裝置,這代表我們需要更大規模的晶片間
通訊技術。」這是一個很大的挑戰,因為現有的晶片間通訊演算法是建立在精確的數位訊
號上,無法套用在這套使用非數位式雜亂訊號的仿神經型態系統上。於是在鮑恩與其他研
究人員的努力下,針對這套仿神經型態系統,設計出新的演算法和電子迴路,才引發了大
規模仿神經型態系統的風潮。其中一個應用是,提供給神經科學家測試其大腦功能理論模
型的大型仿真模擬器。

舉例來說,在2006年的九月鮑恩發起了前述的Neurogrid神經網絡計畫,希望能夠成功模
擬一百萬個神經元的活動。雖然相較於人腦中860億個神經元而言微不足道,但已經足夠
建構出大腦皮質上,被認為構成大腦基本運算單位的幾個互動密切的細胞柱(column)。神
經科學家可以設計程式在Neurogrid上,以大腦運作速度,跑幾乎任何大腦皮質功能模型
,像是:工作記憶、決策和視覺注意力等等,比在傳統的數位晶片上模擬快了幾十萬倍。

「以實際效率和精確度來說,鮑恩的Neurogrid的確是領先其他大規模仿神經型態系統。」一起開
發仿真矽神經元的蘇黎世大學神經資訊所(INI)共同創辦人羅尼‧道格拉斯(Rodney
Douglas)如是說。

「不過沒有任何系統是完美的。」鮑恩自己迅速地指出。Neurogird有一個很大的問題是
其突觸設計,每個仿真矽神經元平均有5000個突觸,其簡化的設計使得突觸沒有辦法被個
別調整,但是人腦中的神經元突觸是會隨著經驗被修飾的,無法隨著經驗改變了話,就無
法記憶並學習。這個缺點使得科學家無法在Neurogrid上測試學習模型。若要每個突觸跟
生物神經元一樣能夠隨經驗改變,同時間還能塞在晶片有限的空間裡,必須把電路縮小一
千倍到奈米尺度。目前的技術還無法做到,不過最新開發的奈米尺度記憶體「memristors
」日後也許可以解決這個問題。

另一個問題是組建Neurogrid時無可避免的變異性,導致每個Neurogrid晶片有些微不同。
「雖然這個差異已經比大腦中的神經元小了。」鮑恩說,這代表Neurogrid的程式必須去
處理仿真矽神經元各異的反應速度。這個問題使得一些研究人員放棄了米德的亞閾值矽
晶片。他們轉往用傳統的數位式晶片,模擬個別神經元的活動,代價就是需花費較多的
能量,但也是為了以大腦實際運作的速度,模擬大腦大規模的活動來測試理論模型。

其中一個重要的計畫是由英國曼徹斯特大學的電腦工程師史蒂夫‧費博(Steve Furber)所
領導的SpiNNaker Project(脈衝神經網絡結構)。SpiNNaker奠基於費博本人協助研發的
ARM處理器,也就是智慧型手機裡的處理器,此計畫目前可以模擬五百萬個神經元的活動。

科學家的另外一個嘗試是維持之前的仿真矽神經元晶片(非數位式),但增加其運作速度
,比實際的大腦跑得快很多。不若Neurogrid是精確模擬大腦的運作速度,德國海德堡大
學的加速器物理學家卡爾‧海因次‧邁耶 (Karlheinz Meier) 所領導的European
BrainScaleS Project,目前能夠以比大腦快一萬倍的速度,模擬約40萬個神經元的活動。

雖然說這代表處理同樣的訊息量需耗掉比大腦多一萬倍的能量,但對腦科學研究很大的好
處是:「我們因此可以在十秒內模擬完大腦一天內的神經活動。」費博和邁耶兩人的計畫
都在最近得到更多資金援助。在歐盟十月正式上路的十年十億歐元的人類大腦計畫(Human
Brain Project)中,撥給仿神經型態技術約一億歐元的經費,讓費博可以將其計畫增加
至模擬五億個神經元;邁耶則有望模擬多達四百萬個神經元。

這些仿神經型態晶片的成功,燃起了世界對其應用的興趣,想運用其超低耗能的特性在手
機和機器人上。不過對電腦業界來說,並沒有那麼急切的需求,因為現階段要減少體積、
提昇效率,只要簡化電路設計或是使用平行運算的多核心系統就行了。現行的傳統方法也
就只能做到如此。因此,除了純學術的研究,美國國防高等研究計畫署(Defense Advanced
Research Projects Agency)也花了將近一億美金在自己的SyNAPSE(突觸)計畫上,開發
小巧低耗能的仿神經型態技術。

其中主要的承包商IBM,就拿這筆錢開發256位元的數位式仿神經元晶片,作為以後大規模
系統的基本單位。開發人工腦鮑恩則是自己想辦法開發新應用,從Spaun開始。Spaun
(Semantic Pointer Architecture Unified Network)是一個在超級電腦上面跑的腦功能
仿真模型,可以接受視覺刺激、控制機械手臂甚至做決策。其程式語言,是在十年前由加
拿大滑鐵盧大學的理論神經科學家克里斯‧伊里亞史密斯(Chris Eliasmith)所開發。使
用者只需要告訴系統想要執行的功能,例如移動機械手臂,系統就會自動幫你設計好相對
應的神經網絡來控制其動作。

伊里亞史密斯及其團隊在傳統電腦上測試Spaun,結果Spaun可以用250萬個模擬神經元、
模擬視網膜和模擬手臂,完成抄寫手寫的數字、回想清單上的項目、推論出數列中下一個
數字等認知測驗。[5]這絕對是模擬腦功能史上空前的進展,唯一的問題是其運作速度只
有大腦的九千分之一,要模擬大腦一秒的運作就得花上兩個半小時。因此鮑恩向伊里亞
史密斯提議:用Spaun的軟體系統在鮑恩的仿真矽神經元硬體上,用大腦的真實速度模
擬大腦功能。

伊里亞史密斯為此感到十分興奮:「我們就像各自手上有花生醬和巧克力,加起來就超好
吃的!」他們合作拿到了美國海軍研究總署的計畫補助,計畫在三年內做出小型的樣品,
五年內完成完整的系統。就像人腦有感覺神經輸入外界訊息,運動神經輸出動作指令,這
個新系統會配備INI製造的仿神經型態視網膜和耳蝸,配上機械手臂表現動作。但相當於
大腦的核心認知功能,卻是要從零開始。

「這不是新版的Neurogrid計畫,而是全新的設計構造。」鮑恩說,為了更實用,會犧牲
一點仿真度,做出「非常簡單、非常有效率的幾百萬個矽神經元」。畢竟這個系統是為了
應用在實際需求而建立的,而不是為了研究大腦功能的理論模型。鮑恩期許在五年內能
研發出,「完全獨立自主跟環境互動學習的機器人,同時其大腦只消耗跟手機一樣的電力
。」

長遠來看,這個計畫的成果可以從機器人拓展到電腦,提供電腦小巧且低耗能的處理器。
如果研究人員能夠掌握大腦超高效率運作的秘密,也許能夠避免如今不斷縮小的晶片即將
到達極限的命運。「雖然我們不確定我們的方法有沒有用,但是沒試過怎麼會知道?」鮑
恩表示。

--
如果這類技術真的被研發成功, 可能科技業又要大變革了

不過可能是幾十年後的事

到時可能電影裡的天網Skynet或是母體Matrix都變成真的....

--

All Comments

Damian avatar
By Damian
at 2013-12-09T13:07
感覺就跟AI當初一樣
Thomas avatar
By Thomas
at 2013-12-11T07:49
AI已經發展快20年了 但進步得很慢 表示遇到瓶頸了
Zora avatar
By Zora
at 2013-12-11T23:05
想短時間內快速進步... 很難
Sierra Rose avatar
By Sierra Rose
at 2013-12-16T17:29
也許AI的瓶頸就在於不能把CPU操到爆 要用神經元的方式?
Suhail Hany avatar
By Suhail Hany
at 2013-12-20T11:28
我覺得很像FPGA的邏輯閘阿...
Jacky avatar
By Jacky
at 2013-12-22T02:25
另外憶阻器(memristor)現在還在非常初期的嘗試階段,
William avatar
By William
at 2013-12-23T15:38
也很多人認為憶阻器可以改變摩爾定律就是了
Lucy avatar
By Lucy
at 2013-12-27T22:53
內文提到運作速度,cpu時眽來自石英震盪,科幻作品設定
大腦時眽來自心臟,那這台類神經電腦咧?
Donna avatar
By Donna
at 2013-12-31T00:14
老鼠腦袋阿(誤)
Edward Lewis avatar
By Edward Lewis
at 2013-12-31T16:14
銃夢的世界觀?

G遊記-再給我選一次 我還是要當設備

Ethan avatar
By Ethan
at 2013-12-08T21:40
這篇 寫給即將進入職場 或是打算跳槽去G公司的人參考 也希望版上可以更多人一起來分享工作心得 三年前進入G公司,目前待業中,打算農曆年後找下一 ...

研替與當兵找工作的差別?

Hazel avatar
By Hazel
at 2013-12-08T21:15
哥不能同意這位弟兄更多惹,哥以身為研替為榮 哥是今年的研替,從成功嶺出來不久 那16天真是哥生涯中最灰暗的一段日子 裡面做的事情沒一件有意 ...

直銷真的能年薪百萬嗎?

Hedwig avatar
By Hedwig
at 2013-12-08T20:16
如題,最近朋友一直騙我參加直銷,還有保險業,有直銷人能親身說明嗎?話說一位朋友當年也要騙我當老鼠,還好沒進去,否則就像那位朋友一樣套�� ...

研替與當兵找工作的差別?

Hamiltion avatar
By Hamiltion
at 2013-12-08T19:36
我情況和原PO有點不一樣 也想問問各位的意見 目前已經錄取研替 大概是心目中的第4志願 前3志願不是沒開缺就是不回我QQ 但最近突然發現 我有家庭因 ...

HTC-邏輯設計工程師

Todd Johnson avatar
By Todd Johnson
at 2013-12-08T19:23
各位前輩好 小弟最近收到HTC的研替面試通知 職缺是邏輯設計(Logic Design)工程師 想詢問各位前輩這份職缺的工作資訊 和部門的狀況 謝謝各位 --