自組織映射網(wǎng)絡(luò)(SOM,圖1a),又稱“Kohone網(wǎng)絡(luò)”,是一種受大腦拓撲結(jié)構(gòu)啟發(fā)的功能強大的無監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。相比經(jīng)典的多維尺度或主成分分析等線性算法,SOM具有更強大的數(shù)據(jù)聚類能力,在語言識別、文本挖掘、財務(wù)預(yù)測和醫(yī)學(xué)診斷等聚類和優(yōu)化問題方面展現(xiàn)出獨特的優(yōu)勢。但基于傳統(tǒng)CMOS硬件實現(xiàn)SOM受到計算相似性和確定鄰域的復(fù)雜性的限制,且存在電路結(jié)構(gòu)復(fù)雜、能量面積開銷大、缺乏對相似度的精確計算等問題。如何構(gòu)建簡潔、高效、精確的SOM硬件仍然是一大挑戰(zhàn)。憶阻器作為一種新型可編程非易失存儲器件,其交叉陣列結(jié)構(gòu)具有支持并行計算和存內(nèi)計算的天然優(yōu)勢,為SOM的硬件實現(xiàn)提供了新途徑。
近日,微電子所劉明院士團隊和復(fù)旦大學(xué)劉琦教授團隊利用憶阻器陣列(圖1b&c)構(gòu)建SOM網(wǎng)絡(luò)中的權(quán)值矩陣,首次實現(xiàn)了高效的SOM硬件系統(tǒng)。為解決SOM中神經(jīng)元和輸入特征數(shù)量增加時硬件系統(tǒng)復(fù)雜度加劇的問題,團隊提出了一種新型的多附加行憶阻器陣列架構(gòu)(圖1d),該架構(gòu)將憶阻器陣列分為兩個部分,一部分作為數(shù)據(jù)行存儲權(quán)值信息,另一部分作為附加行存儲權(quán)值的平方和。輸入向量和權(quán)值向量之間的相似性可以通過一步讀操作實現(xiàn),且不需要歸一化權(quán)值。基于該硬件系統(tǒng),團隊成功演示了數(shù)據(jù)聚類、圖像分割、圖像壓縮等應(yīng)用并成功用于解決組合優(yōu)化問題(圖2)。實驗結(jié)果表明,在不影響成功率或準確度的基礎(chǔ)上,與CMOS系統(tǒng)相比,該系統(tǒng)具有更高的能源效率和計算吞吐量。此外,由于其非監(jiān)督的特點,應(yīng)用場景更加豐富,更加迎合現(xiàn)實生活的需求,為憶阻器基智能硬件的構(gòu)建開辟一條新途徑。
該研究得到了國家重點研發(fā)計劃、國家自然科學(xué)基金委、國家重大科技專項、浙江省重點科研項目等項目支持。研究成果以“Implementing in-situ Self-organizing Maps with Memristor Crossbar Arrays for Data Mining and Optimization”為題在《自然·通訊》(Nature Communications)上在線發(fā)表。微電子所王睿博士為第一作者,復(fù)旦大學(xué)芯片與系統(tǒng)前沿技術(shù)研究院教授劉琦研究員和微電子所時拓副研究員為共同通訊作者。
圖1 SOM原理圖及其基于憶阻器陣列的實現(xiàn)。(a)SOM網(wǎng)絡(luò)原理圖。(b)憶阻器的典型I-V曲線。(c)128×64 1T1R憶阻器陣列光學(xué)實物圖。(d)1T1R憶阻器陣列實現(xiàn)2D-SOM的原理圖。
圖2 憶阻器基SOM系統(tǒng)的應(yīng)用。(a)圖像處理(分割);(b)求解組合優(yōu)化問題(TSP問題)。
綜合信息