本篇文章942字,讀完約2分鐘

keobong dahomnay【科技在線】

ibm的幾位研究者近日發(fā)表了論文。 論文闡述了所謂的電阻解決方案單元( resistive processing unit,rpu )的新芯片概念。 據(jù)悉,與之前流傳的cpu相比,該芯片將深度神經(jīng)互聯(lián)網(wǎng)的訓(xùn)練速度提高30000倍。

深神經(jīng)互聯(lián)網(wǎng)( dnn )是一種具有多個隱藏層的人工神經(jīng)互聯(lián)網(wǎng)。 這個神經(jīng)網(wǎng)絡(luò)可以不進(jìn)行監(jiān)視訓(xùn)練也可以不進(jìn)行監(jiān)視訓(xùn)練。 結(jié)果出來的就是可以自己學(xué)習(xí)的機(jī)器學(xué)習(xí)(或者說人工智能),也就是所謂的深度學(xué)習(xí)。

前幾天,谷歌( alphabet ) deepmind在人機(jī)大戰(zhàn)中擊敗李世石的ai圍棋程序alphago使用了同樣的算法。 alpha go由一個搜索樹算法和數(shù)百萬種神經(jīng)元連接而成的兩個多層深度神經(jīng)互聯(lián)網(wǎng)組成。 一個互聯(lián)網(wǎng)被稱為戰(zhàn)略互聯(lián)網(wǎng),用于計算走哪一步勝率高,另一個互聯(lián)網(wǎng)被稱為價值互聯(lián)網(wǎng),用于告訴alpha go如何讓白子和黑子都運轉(zhuǎn)比較好

由于前景廣闊,許多機(jī)器學(xué)習(xí)研究者已經(jīng)聚焦于深度神經(jīng)互聯(lián)網(wǎng)。 但是,要達(dá)到一定程度的智能,這些互聯(lián)網(wǎng)需要非常多的計算芯片,例如alpha go采用的計算芯片數(shù)量達(dá)到了數(shù)千個。 所以,這是消耗計算資源,燒錢的任務(wù)。 但是,現(xiàn)在ibm的研究者提出了強(qiáng)大的計算能力可以與以前流傳的數(shù)千個芯片匹敵的新芯片概念。 這個芯片組合千萬個的話,未來ai的能力可能會越來越突破。

這個叫做rpu的芯片主要利用了深度學(xué)習(xí)等算法的兩個優(yōu)點。 局部性和并行性。 因此,rou利用新一代非易失性存儲器( nvm )技術(shù)的概念,在本地存儲算法中使用的權(quán)值,減小訓(xùn)練中的數(shù)據(jù)移動。 研究人員表示,如果將這個rpu大規(guī)模應(yīng)用于10億以上權(quán)重的深度神經(jīng)互聯(lián)網(wǎng)上,訓(xùn)練速度會提高30000倍。 也就是說,平時訓(xùn)練數(shù)千臺機(jī)器需要幾天的結(jié)果用這個芯片只需要幾個小時,而且能源效率也要低得多。

當(dāng)然,論文只是提出了概念,由于該芯片目前處于研究階段,普通非易失性存儲器尚未進(jìn)入主流市場,預(yù)計這類芯片還需要幾年的時間才能上市。 但是,如果這個芯片確實具有那么大的計算和能效特征,谷歌、facebook等從事ai研究和應(yīng)用的巨頭一定會關(guān)注,ibm本身也是ai、大數(shù)據(jù)的積極參與者之一,東西都會被做出來,

標(biāo)題:“IBM新概念芯片:AI訓(xùn)練速度提升30000倍”

地址:http://xiucaiguan.cn//xwdt/40283.html