8月8日消息,據國外媒體報道,IBM研究所已經在分布式深度學習(DDL)中取得了一個新的里程碑,在接近交易效率的情況下,構建了一種可通過上百個處理器擴展DDL的軟件。
深度學習技術是人工智能(AI)的一個分支,可模仿人腦的工作原理。它也是微軟、Facebook、亞馬遜和谷歌的重大關注焦點。
IBM的這項研究解決了深度學習的主要挑戰(zhàn)之一:雖然大型神經網絡和大型數據集有助于深度學習,但也會帶來更長的訓練時間。
培訓大規(guī)模、深度學習的人工智能模型可能需要幾天或幾周的時間。
這個過程需要很長時間,因為擴展的處理器會相互通信。
事實上,隨著處理器的加速,情況變得更糟。更快的處理器可以學習得更快,但與傳統軟件一樣,它們之間的通信無法跟上。
IBM研究所的IBM研究員和系統加速及記憶主管Hillery Hunter在一篇博客文章中寫道:“基本上,更聰明、更快的處理器需要更好的交流方式,或者他們不同步,大部分時間都在等待對方的結果。”
“所以,如果沒有速度可能降低性能。”
新的DDL軟件解決了這個問題,它應該可以運行流行的開源代碼,比如Tensorflow、“咖啡因”、Torch和Chainer(而不是大量的神經網絡和數據集),性能和準確性都非常高。
IBM研究所演示了使用“咖啡因”框架,如何在64個IBM Power系統中通過256個處理器實現性能提升和95%的擴展效率。
之前的記錄是由Facebook人工智能研究設定的,該研究在2月2日的訓練中實現了近90%的擴展效率。
此外,在這個新軟件中,IBM 研究所在一個750萬張圖片訓練的神經網絡獲得了33.8%的新圖像識別精度,并在7小時內完成。微軟的紀錄是在10天內顯示了29.8%的準確性。
“精度提高4%是一個巨大的飛躍,過去的典型改善一直不到1%,”Hunter寫道。(yoyo)
編譯稿源:http://www.zdnet.com/article/ibm-research-achieves-new-milestone-in-deep-learning-performance/
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(AVC)推總數據顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現優(yōu)異,同比有14%的漲幅,傳統電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現能力,為您的創(chuàng)作工作帶來實質性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。