全球首臺！仿人腦超算「深南」即將面世，突破摩爾定律，能耗降低幾個(gè)數(shù)量級

　　1月2日消息，澳大利亞和德國高校的科研人員合作，開發(fā)出全球首臺仿人腦規(guī)模超算，能執(zhí)行每秒228萬億次突觸操作，未來將為人工智能應(yīng)用提供人腦規(guī)模的計(jì)算能力!

　　人腦作為地球上最為高效的計(jì)算設(shè)備，可以僅僅用20w的功率，1.3公斤的質(zhì)量，就能完成每秒100萬億次的運(yùn)算量。

　　而現(xiàn)在人類最大的超級計(jì)算機(jī)Hewlett Packard Enterprise Frontier，也能以完成和人腦計(jì)算量相似的計(jì)算，但是占地680平米，運(yùn)行功率達(dá)到2270萬瓦。

　　這兩個(gè)數(shù)字之間的巨大能耗差異，凸顯出了人腦作為計(jì)算設(shè)備構(gòu)架上的先進(jìn)性。而最近，澳大利亞的科學(xué)家宣布，他們開發(fā)了一臺完全模仿人腦的超級計(jì)算機(jī)——DeepSouth，將在明年4月份上線。

　　這將是世界上第一臺能夠在人腦規(guī)模模擬神經(jīng)元(數(shù)十億)和突觸(數(shù)萬億)網(wǎng)絡(luò)的超級計(jì)算機(jī)，可以模擬每秒228萬億次突觸操作。

　　西悉尼大學(xué)的ICNS團(tuán)隊(duì)與來自悉尼大學(xué)、墨爾本大學(xué)和德國亞琛大學(xué)的神經(jīng)形態(tài)領(lǐng)域的合作伙伴合作開發(fā)了這臺超算。

　　這臺超級計(jì)算機(jī)被命名為DeepSouth，是為了向IBM的TrueNorth系統(tǒng)和Deep Blue致敬。

　　西悉尼大學(xué)ICNS主任André van Schaik教授稱:

　　由于我們無法大規(guī)模模擬類腦網(wǎng)絡(luò)，我們對大腦如何使用神經(jīng)元進(jìn)行計(jì)算的理解的進(jìn)展受到阻礙。使用圖形處理單元 (GPU) 和多核中央處理單元 (CPU) 在標(biāo)準(zhǔn)計(jì)算機(jī)上模擬脈沖神經(jīng)網(wǎng)絡(luò)(Spiking Neural Networks)速度太慢且耗電。我們的系統(tǒng)將改變這一點(diǎn)。

　　這個(gè)平臺將增進(jìn)我們對大腦的理解，并在傳感、生物醫(yī)學(xué)、機(jī)器人、太空和大規(guī)模人工智能應(yīng)用等不同領(lǐng)域開發(fā)大腦規(guī)模的計(jì)算應(yīng)用。

　　根據(jù)ICNS的說法，這個(gè)超算主要的收益在這幾個(gè)地方:

　　-極低功率完成超快速、大規(guī)模并行處理:大腦能夠以20瓦的功率處理相當(dāng)于每秒10^18次的運(yùn)算。

　　DeepSouth使用模擬大腦工作方式的神經(jīng)形態(tài)工程，可以快速處理大量數(shù)據(jù)，使用的電量少得多，同時(shí)比其他超級計(jì)算機(jī)小得多。

　　-可擴(kuò)展性:系統(tǒng)允許添加更多硬件來創(chuàng)建更大的系統(tǒng)，或者縮小規(guī)模以實(shí)現(xiàn)更小的便攜式或更經(jīng)濟(jì)高效的應(yīng)用程序。

　　-可重新配置:利用現(xiàn)場可編程門陣列 (Leveraging Field Programmable Gate Arrays，F(xiàn)PGA) 促進(jìn)硬件重新編程，從而能夠添加新的神經(jīng)元模型、連接方案和學(xué)習(xí)規(guī)則，從而克服使用定制設(shè)計(jì)硬件的其他神經(jīng)形態(tài)計(jì)算系統(tǒng)中出現(xiàn)的限制。

　　DeepSouth將通過前端進(jìn)行遠(yuǎn)程訪問，該前端允許使用流行的編程語言Python描述神經(jīng)模型和設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)。前端的開發(fā)使研究人員無需詳細(xì)了解硬件配置即可使用該平臺。

　　-商業(yè)可用性:利用商用硬件可確保硬件的持續(xù)改進(jìn)，獨(dú)立于設(shè)計(jì)超級計(jì)算機(jī)的團(tuán)隊(duì)，克服使用定制設(shè)計(jì)硬件的其他神經(jīng)形態(tài)計(jì)算系統(tǒng)中出現(xiàn)的限制。

　　定制芯片需要大量時(shí)間來設(shè)計(jì)和制造，每個(gè)芯片的成本高達(dá)數(shù)千萬美元。使用商業(yè)現(xiàn)成的可配置硬件意味著該原型可以很容易在世界各地的數(shù)據(jù)中心復(fù)制。

　　-人工智能:通過模仿大腦，將能夠創(chuàng)建比當(dāng)前模型更有效的方式來執(zhí)行人工智能流程。

　　晶體管的極限

　　而要理解這個(gè)「仿真人腦」和現(xiàn)在通用計(jì)算機(jī)的差別，還是要從現(xiàn)代計(jì)算機(jī)的構(gòu)架入手。

　　1945年6月30日，數(shù)學(xué)家和物理學(xué)家約翰·馮·諾依曼描述了一種新機(jī)器的設(shè)計(jì)——電子離散變量自動(dòng)計(jì)算機(jī) (Edvac)。這有效地定義了我們所知的現(xiàn)代電子計(jì)算機(jī)。

　　智能手機(jī)、筆記本電腦以及世界上最強(qiáng)大的超級計(jì)算機(jī)都一直沿用馮·諾依曼在大約80年前引入的相同基本結(jié)構(gòu)。它們都具有不同的處理和內(nèi)存單元，其中數(shù)據(jù)和指令存儲在內(nèi)存中并由處理器計(jì)算。

　　幾十年來，微芯片上的晶體管數(shù)量大約每兩年增加一倍，這一現(xiàn)象被稱為摩爾定律。這使我們能夠擁有更小、更便宜的計(jì)算機(jī)。

　　然而，晶體管尺寸現(xiàn)在已接近原子尺度。在如此微小的尺寸下，計(jì)算過程中產(chǎn)生過多的熱量是一個(gè)很嚴(yán)重的問題。

　　這種被稱為量子隧道效應(yīng)的現(xiàn)象，會(huì)干擾晶體管的功能。這使得摩爾定律代表的晶體管小型化之路越來越難以走下去。

　　為了克服這個(gè)問題，科學(xué)家們正在探索新的計(jì)算方法，從都隱藏在頭腦中的強(qiáng)大計(jì)算機(jī)——人腦開始。

　　大腦并不按照約翰·馮·諾依曼的計(jì)算機(jī)模型工作。

　　它沒有單獨(dú)的計(jì)算和存儲區(qū)域。

　　相反，它們的工作原理是連接數(shù)十億個(gè)以電脈沖形式傳遞信息的神經(jīng)細(xì)胞。信息可以通過稱為突觸的連接點(diǎn)從一個(gè)神經(jīng)元傳遞到下一個(gè)神經(jīng)元。

　　大腦中神經(jīng)元和突觸的組織是靈活的、可擴(kuò)展的和高效的。

　　因此，與計(jì)算機(jī)不同的是，在大腦中，記憶和計(jì)算是由相同的神經(jīng)元和突觸控制的。自20世紀(jì)80年代末以來，科學(xué)家們一直在研究這個(gè)模型，意圖將其導(dǎo)入計(jì)算中。

　　模仿生命

　　神經(jīng)形態(tài)計(jì)算機(jī)基于簡單的基本處理器(其作用類似于大腦的神經(jīng)元和突觸)的復(fù)雜網(wǎng)絡(luò)。這樣設(shè)計(jì)最主要優(yōu)點(diǎn)是機(jī)器本質(zhì)上是并行的。

　　這意味著，與神經(jīng)元和突觸一樣，計(jì)算機(jī)中的幾乎所有處理器都可以同時(shí)運(yùn)行，串聯(lián)通信。

　　此外，由于單個(gè)神經(jīng)元和突觸執(zhí)行的計(jì)算與傳統(tǒng)計(jì)算機(jī)相比非常簡單，因此能耗要小幾個(gè)數(shù)量級。

　　盡管神經(jīng)元有時(shí)被認(rèn)為是處理單元，突觸被認(rèn)為是記憶單元，但它們有助于處理和存儲。換句話說，數(shù)據(jù)已經(jīng)位于計(jì)算需要的地方，沒有分別用處理器和存儲器分開。

　　這總體上加快了大腦的計(jì)算速度，因?yàn)閮?nèi)存和處理器之間沒有分離，這在經(jīng)典(馮·諾依曼)機(jī)器中會(huì)導(dǎo)致速度減慢。但它也避免了執(zhí)行從主存儲器組件訪問數(shù)據(jù)的特定任務(wù)的需要，就像傳統(tǒng)計(jì)算系統(tǒng)中發(fā)生的那樣，并且消耗大量的能量。

　　這些原則是DeepSouth的主要靈感。

　　但這不是目前唯一活躍的神經(jīng)形態(tài)系統(tǒng)。值得一提的是由歐盟倡議資助的人腦項(xiàng)目(HBP)。HBP于2013年至2023年運(yùn)行，并催生了BrainScaleS，這是一臺位于德國海德堡的機(jī)器，用于模擬神經(jīng)元和突觸的工作方式。

　　由于神經(jīng)形態(tài)計(jì)算機(jī)被設(shè)計(jì)用來模仿真實(shí)的大腦，因此它們可能是一個(gè)轉(zhuǎn)折點(diǎn)的開始。它們提供可持續(xù)且經(jīng)濟(jì)實(shí)惠的計(jì)算能力，并允許研究人員評估神經(jīng)系統(tǒng)模型，是一系列應(yīng)用的理想平臺。

　　它們有潛力促進(jìn)人類對大腦的理解，并為人工智能提供新的方法。