邊緣人工視覺系統(tǒng)因其在自動(dòng)駕駛、智能家居、視頻監(jiān)控等場景的大量應(yīng)用,已成為一個(gè)備受關(guān)注的研究領(lǐng)域。傳統(tǒng)的人工視覺系統(tǒng)由于采用“感—存—算”分離的架構(gòu),大量冗余傳感數(shù)據(jù)在不同模塊間的頻繁遷移導(dǎo)致了系統(tǒng)高延遲、高功耗。采用神經(jīng)形態(tài)計(jì)算技術(shù),開發(fā)集成傳感、存儲(chǔ)和處理與一體的感內(nèi)或近感計(jì)算人工視覺系統(tǒng)是解決這一問題的重要途徑之一。儲(chǔ)池計(jì)算是一種計(jì)算復(fù)雜度低、能耗小的神經(jīng)形態(tài)計(jì)算技術(shù),非常適合與傳感器結(jié)合應(yīng)用于資源受限的邊緣端。但由于儲(chǔ)池權(quán)重固定,在降低訓(xùn)練成本的同時(shí),其網(wǎng)絡(luò)適應(yīng)能力受到限制,難以應(yīng)用于復(fù)雜多變的實(shí)際環(huán)境。
針對(duì)這一問題,微電子所微電子器件與集成技術(shù)重點(diǎn)實(shí)驗(yàn)室劉明院士團(tuán)隊(duì)的尚大山研究員同北京師范大學(xué)何聰麗博士、香港大學(xué)王中銳博士和中科院物理所張廣宇研究員團(tuán)隊(duì)合作,利用二維單層MoS2場效應(yīng)管(FET)光電非線性響應(yīng)機(jī)制和動(dòng)力學(xué)特性,結(jié)合生物視覺系統(tǒng)中水平細(xì)胞反饋機(jī)制,開發(fā)了具有明/暗光自適應(yīng)功能的感算一體延時(shí)儲(chǔ)池計(jì)算技術(shù)。
生物視網(wǎng)膜中存在亮度響應(yīng)閾值不同的兩類光感知器細(xì)胞,即視錐細(xì)胞和視桿細(xì)胞,分別適用于明亮和昏暗環(huán)境下的視覺行為。這兩類光感知細(xì)胞通過水平細(xì)胞的反饋機(jī)制進(jìn)行動(dòng)態(tài)調(diào)制,使視覺系統(tǒng)的光敏程度可隨著環(huán)境光強(qiáng)的增加(減?。┒鰪?qiáng)(減弱),從而實(shí)現(xiàn)明暗視覺適應(yīng)功能。受生物視網(wǎng)膜啟發(fā),團(tuán)隊(duì)采用單層MoS2為溝道材料、HfO2薄膜為柵電介質(zhì)、Si/SiO2為襯底的背柵結(jié)構(gòu)光電FET器件,通過數(shù)學(xué)建模定量描述了器件受光強(qiáng)調(diào)制的轉(zhuǎn)移特性和受柵壓調(diào)制的光電流衰退過程,并基于器件測(cè)試數(shù)據(jù)構(gòu)建了光電延時(shí)儲(chǔ)池計(jì)算模型,實(shí)現(xiàn)了對(duì)動(dòng)態(tài)視覺信息的識(shí)別。團(tuán)隊(duì)在光電延時(shí)儲(chǔ)池網(wǎng)絡(luò)基礎(chǔ)上,從仿生角度出發(fā),借鑒視網(wǎng)膜水平細(xì)胞調(diào)制機(jī)制,研發(fā)了輕量化水平調(diào)制神經(jīng)網(wǎng)絡(luò)模塊,利用柵壓調(diào)控機(jī)制模擬光感知細(xì)胞光敏特性的切換過程,實(shí)現(xiàn)了儲(chǔ)池計(jì)算的自適應(yīng)調(diào)制過程,在混合光強(qiáng)MNIST數(shù)據(jù)集上的識(shí)別率得到顯著提升。與固定結(jié)構(gòu)的延時(shí)儲(chǔ)池計(jì)算相比,自適應(yīng)延時(shí)儲(chǔ)池計(jì)算充分利用了器件的光電動(dòng)力學(xué)可調(diào)特性,提高了系統(tǒng)的泛化能力和不同環(huán)境下的穩(wěn)定性,并保留了儲(chǔ)池計(jì)算硬件友好、網(wǎng)絡(luò)輕量化、訓(xùn)練成本低等特點(diǎn)。該結(jié)果為開發(fā)可用于邊緣智能的高能效、自適應(yīng)的仿生視覺系統(tǒng)提供了參考。
該項(xiàng)研究得到了科技部、國家自然科學(xué)基金委、中科院和香港大學(xué)的支持。成果近期發(fā)表在《先進(jìn)光學(xué)材料》期刊上(Advanced Optical Materials, DOI: 10.1038/s42256-023-00609-5),微電子所專業(yè)碩士研究生江南佳為文章的第一作者。
圖1 a)二維單層MoS2光電FET陣列;b)器件在不同輸入光功率下的轉(zhuǎn)移曲線;c)不同柵壓下光電流Iph與光照強(qiáng)度的依賴關(guān)系;d)不同柵壓下的歸一化光電流衰退曲線;e)器件非線性光響應(yīng)動(dòng)態(tài)累積過程;f)不同柵壓下器件的動(dòng)態(tài)響應(yīng)范圍(DPR)
圖2 a)混合光強(qiáng)MNIST手寫數(shù)字?jǐn)?shù)據(jù)集示意圖;b)具有水平調(diào)制(HM)網(wǎng)絡(luò)模塊的延進(jìn)儲(chǔ)池的視覺自適應(yīng)工作流程;c)柵壓調(diào)制下器件動(dòng)力學(xué)響應(yīng)過程;d)光電自適應(yīng)延時(shí)儲(chǔ)池計(jì)算過程示意圖;e)基準(zhǔn)網(wǎng)絡(luò)(左)、小調(diào)制范圍網(wǎng)絡(luò)(中)和大調(diào)制范圍網(wǎng)絡(luò)(右)識(shí)別率;f)初始儲(chǔ)池網(wǎng)絡(luò)(黑)、小調(diào)制范圍網(wǎng)絡(luò)(藍(lán))和大調(diào)制網(wǎng)絡(luò)(紅)的識(shí)別率比較
文章鏈接:
Bio-inspired in-sensor reservoir computing for self-adaptive visual recognition with two-dimensional dual-mode phototransistors
Najia Jiang, Jian Tang, Woyu Zhang, Yi Li, Na Li, Xiuzhen Li, Xi Chen, Renrui Fang, Zeyu Guo, Fei Wang, Jun Wang, Zhi Li, Congli He, Guangyu Zhang, Zhongrui Wang, Dashan Shang
Advanced Optical Materials DOI: 10.1002/adom.202300271 (2023)
科研工作