IBM的深度學習獲得重大突破,縮短時間提 - 工程師

By Skylar DavisLinda
at 2017-08-15T17:30
at 2017-08-15T17:30
Table of Contents
[情報] IBM的深度學習獲得重大突破,縮短時間提高效率
http://bit.ly/2vWHL6Q
2017年8月9日,IBM宣布其已經發展出讓深度學習處理速度更快的人工智慧。以往IBM都在
單一伺服器上執行複雜的深度學習模組,新技術將使用多台伺服器搭配分散式深度學習軟
體(Distributed Deep Learning;DDL)縮短深度學習時間,提高效率。
今天的人工智慧技術通常是使用機器學習演算法執行。而機器學習運作的主要部分則是依
賴「模仿人類大腦內部工作」的神經網路上。目前,大多數在媒體上提及的先進深度學習
是谷歌的AlphaGo,即是由Alphabet旗下的DeepMind創建的Go-playing AI。
無論是微軟、臉書、亞馬遜與谷歌都一直在研發縮短深度學習的時間,讓其模仿人腦的思
考可以變得更為即時。一旦深度學習系統消化大量數據的時間,從數天縮短至數小時,則
所有透過人工智慧尋找或研發的技術,就能夠更快、更準確地找到,並加快人們應用人工
智慧技術。
目前為止,深度學習主要是在單一伺服器上運行,因為在不同電腦之間同一時間處理大量
資料的過程太過複雜。甚至於大公司至今都無法在不同伺服器和處理器之間保持資料同步
的處理。可是隨著IBM透過DDL,讓這些任務分配到64台伺服器之上,且在256個處理器下
執行,速度與精確上的確取得很大進展。
IBM使用了64個自行開發的Power 8伺服器,每一個微處理器都與256顆英偉達繪圖處理器
透過NVLink連接起來,讓兩種晶片之間的資料流程進行傳輸。當其開始處理來自
ImageNet-22K資料庫的750萬張圖片時,其識別準確率高達33.8%,比起微軟先前的29.8%
紀錄還高。另外值得一提的是,微軟一共花費10天才達成,而IBM只花了7個小時。這表示
著其不僅準確率提升,而且縮短許多時間。
另外,根據臉書的人工智慧研究部門發表採用較小數據庫以及較小神經網路縮短深度學習
模型的處理時間,其大約花費大約1小時即可訓練完成。如果採用IBM的DDL,則其只需要
50分鐘就完成。因此,IBM的深度學習系統也比臉書還要來得快上許多。
從理論上來說,將處理器擴容100%應該獲得100%的性能提升。但是實際上運用在深度學習
之時,由於複雜的管理和連接問題,這種效益永遠不會發生。但是IBM的DDL卻可以實現了
95%的擴展效率,比起臉書的89%的擴展效率又向上提升。
http://bit.ly/2vWHL6Q
--
http://bit.ly/2vWHL6Q
2017年8月9日,IBM宣布其已經發展出讓深度學習處理速度更快的人工智慧。以往IBM都在
單一伺服器上執行複雜的深度學習模組,新技術將使用多台伺服器搭配分散式深度學習軟
體(Distributed Deep Learning;DDL)縮短深度學習時間,提高效率。
今天的人工智慧技術通常是使用機器學習演算法執行。而機器學習運作的主要部分則是依
賴「模仿人類大腦內部工作」的神經網路上。目前,大多數在媒體上提及的先進深度學習
是谷歌的AlphaGo,即是由Alphabet旗下的DeepMind創建的Go-playing AI。
無論是微軟、臉書、亞馬遜與谷歌都一直在研發縮短深度學習的時間,讓其模仿人腦的思
考可以變得更為即時。一旦深度學習系統消化大量數據的時間,從數天縮短至數小時,則
所有透過人工智慧尋找或研發的技術,就能夠更快、更準確地找到,並加快人們應用人工
智慧技術。
目前為止,深度學習主要是在單一伺服器上運行,因為在不同電腦之間同一時間處理大量
資料的過程太過複雜。甚至於大公司至今都無法在不同伺服器和處理器之間保持資料同步
的處理。可是隨著IBM透過DDL,讓這些任務分配到64台伺服器之上,且在256個處理器下
執行,速度與精確上的確取得很大進展。
IBM使用了64個自行開發的Power 8伺服器,每一個微處理器都與256顆英偉達繪圖處理器
透過NVLink連接起來,讓兩種晶片之間的資料流程進行傳輸。當其開始處理來自
ImageNet-22K資料庫的750萬張圖片時,其識別準確率高達33.8%,比起微軟先前的29.8%
紀錄還高。另外值得一提的是,微軟一共花費10天才達成,而IBM只花了7個小時。這表示
著其不僅準確率提升,而且縮短許多時間。
另外,根據臉書的人工智慧研究部門發表採用較小數據庫以及較小神經網路縮短深度學習
模型的處理時間,其大約花費大約1小時即可訓練完成。如果採用IBM的DDL,則其只需要
50分鐘就完成。因此,IBM的深度學習系統也比臉書還要來得快上許多。
從理論上來說,將處理器擴容100%應該獲得100%的性能提升。但是實際上運用在深度學習
之時,由於複雜的管理和連接問題,這種效益永遠不會發生。但是IBM的DDL卻可以實現了
95%的擴展效率,比起臉書的89%的擴展效率又向上提升。
http://bit.ly/2vWHL6Q
--
Tags:
工程師
All Comments

By Leila
at 2017-08-16T22:13
at 2017-08-16T22:13

By Enid
at 2017-08-17T07:49
at 2017-08-17T07:49

By Rebecca
at 2017-08-17T12:30
at 2017-08-17T12:30

By Regina
at 2017-08-21T16:41
at 2017-08-21T16:41

By Jack
at 2017-08-23T19:53
at 2017-08-23T19:53

By Olive
at 2017-08-24T19:43
at 2017-08-24T19:43

By Sarah
at 2017-08-25T21:20
at 2017-08-25T21:20
Related Posts
台灣日立化成國際

By Connor
at 2017-08-15T15:37
at 2017-08-15T15:37
疑感情因素 台積電女工程師公司廁所上吊

By Jacky
at 2017-08-15T14:27
at 2017-08-15T14:27
中國 一加OnePlus 徵 天線專家/工程師

By Faithe
at 2017-08-15T13:30
at 2017-08-15T13:30
取經蘋果總部 林佳龍:水湳朝矽谷模式發

By Susan
at 2017-08-15T13:13
at 2017-08-15T13:13
新鮮人offer請益

By Ina
at 2017-08-15T12:45
at 2017-08-15T12:45