劉星 李星宇
摘? ?要:基于人工智能、大數據場景下對芯片計算速度和能耗效率的需求,梳理影響神經形態(tài)計算芯片產業(yè)化發(fā)展的關鍵技術評價指標,簡要分析產業(yè)化應用現狀及國內外典型機構和產品,并對神經形態(tài)計 算芯片的產業(yè)化發(fā)展前景做出研判。
關鍵詞:神經形態(tài)計算;類腦芯片;產業(yè)化
一、神經形態(tài)計算芯片產業(yè)化需求背景
隨著物聯網、人工智能和大數據等信息技術 的高速發(fā)展,神經形態(tài)計算芯片已經成為一種重 要的人工智能芯片架構方式。基于傳統“馮·諾 依曼架構”的芯片,雖然在精準數值計算上擁有 出色能力,但是其計算單元與存儲單元分離的架 構,限制了人工智能、大數據場景下對計算速度 和能耗效率的需求。相比之下,神經形態(tài)計算芯 片的突出特點,在于處理感知、認知和決策等復 雜問題時,擁有更高的算力密度和能耗效率,因 此,更加適用于處理復雜的人工智能算法,以滿 足物聯網、邊緣計算等產業(yè)發(fā)展背景下對新型芯 片架構和器件技術的要求 [1]。
關于神經形態(tài)計算芯片的精確定義及范圍劃 分,目前學術界、產業(yè)界尚未達成一致。綜合考 慮相關文獻和社會認知度,本文采用“神經形態(tài) 計算芯片”的說法(亦有稱為“神經形態(tài)芯片”“腦 啟發(fā)式芯片”等),并將神經形態(tài)計算芯片定義為 “通過模仿生物大腦結構和部分工作機制進行設計 的芯片”。
神經形態(tài)計算芯片通過在硬件層面構造可以 相互通信的人造神經元,以更快的速度、更高的 復雜度和更高的能源效率集成芯片的內存、計算 和通信功能。目前,神經形態(tài)計算芯片可以粗略 地分為基于人工 / 深度神經網絡(ANN/DNN)的 芯片和基于脈沖神經網絡(SNN)的芯片 [1]?;?人工 / 深度神經網絡的芯片,神經元狀態(tài)被編碼 為數字位、時鐘周期或電壓水平,信息被以規(guī)律 的時間間隔傳輸;基于脈沖神經網絡的芯片,信 息則被編碼為脈沖時間(Spike timing),芯片使用 “尖脈沖”(Spike)并行地進行通信,就像人類大 腦真正的神經網絡一樣。
二、影響神經形態(tài)計算芯片產業(yè)化發(fā)展的 技術評價指標
近年來,神經形態(tài)計算芯片的快速發(fā)展,離 不開超大規(guī)模集成電路和腦科學領域的突破。從 20 世紀 80 年代,超大規(guī)模集成電路主要研制者 之一 Carver Mead 嘗試利用大規(guī)模集成電路實現神 經網絡的計算功能 [2](該項工作獲得了美國太空總署 NASA 與國家衛(wèi)生研究院 NIH 的重視),到 2008 年,惠普研究人員研制出世界首個納米尺寸 憶阻器(Memristor),神經形態(tài)計算芯片的產業(yè)化 突破了眾多技術瓶頸,進入快速發(fā)展期。
要在產業(yè)化落地中一展拳腳,神經形態(tài)計算 芯片必須在實現算力和能效大幅提升的同時,達 到或保持預期計算精度。清華大學集成電路學院、 北京未來芯片技術高精尖創(chuàng)新中心副教授高濱等 人在《自然·電子》發(fā)表的綜述文章 ?[1]?? ?中,提出 了神經形態(tài)計算芯片的四項評價指標,分別是: 1. 計算密度(芯片集成度),即芯片單位面積內的 人工突觸密度,反映了芯片單位面積計算能力; 2. 能量效率,即芯片運行時的能量消耗效率,涉 及到芯片運行時的學習和推理兩個階段;3. 計算精 度,即通過在標準數據集上運行廣泛使用的模型 來評估芯片的計算精度;4. 片上學習能力,即神 經形態(tài)計算芯片進行機器學習模型訓練等的能力。
針對上述影響神經形態(tài)計算芯片產業(yè)化發(fā)展 的關鍵技術評價維度,通過對相關專家的進一步 訪談,本文梳理了全球范圍內神經形態(tài)計算芯片 的技術發(fā)展現狀和可預期進展(見表 1)。
三、神經形態(tài)計算芯片產業(yè)化應用現狀
總體而言,神經形態(tài)計算芯片屬于芯片產 品中與主流芯片產品互補的、提供增量解決方案的高增長細分賽道。作為一個前沿且技術上不 斷突破的領域,不同研究機構對神經形態(tài)計算 市場規(guī)模的預測差距很大。公開資料顯示,部分 研究機構(如 Sheer Analytics & Insights、Mordor Intelligence、KBV 等)預測神經形態(tài)計算行業(yè)在 未來五年的復合年增長率在 12%-50% 之間,市場規(guī)?;蜻_到 4-5 億美元。 就神經形態(tài)計算芯片的應用領域來看,目前主要包括較為基礎的以分類任務為主的應用,如 圖像識別、信號處理和數據挖掘等,以滿足邊緣 計算、物聯網領域(如健康檢測設備、智能家居 設備等)不斷增長的對模式識別和感官數據進行 實時分析和計算的需求。
現階段,神經形態(tài)計算芯片的商業(yè)化落地仍面 臨亟待解決的發(fā)展瓶頸。首先,神經形態(tài)計算芯片 的計算精度(可靠性)達不到或者難以超越傳統芯 片性能。其次,終端設備廠商在采用神經形態(tài)計算 芯片時,面臨與現有軟硬件環(huán)境兼容上的轉換成本。
四、神經形態(tài)計算芯片的典型機構及產品
全球范圍內,參與神經形態(tài)計算芯片開發(fā)的 機構主要包括以下幾類:以 IBM、高通、英特爾、 華為等為代表的科技巨頭企業(yè);以斯坦福、清華 為代表的大學科研機構;初創(chuàng)型神經形態(tài)計算芯 片企業(yè)。在眾多神經形態(tài)計算芯片產品中,IBM的 TrueNorth 芯片、Intel 的 Loihi 芯片、海德堡大 學的 BrainScaleS 芯片、斯坦福大學的 Neurogrid 芯 片、曼徹斯特大學的 SpiNNaker 芯片以及清華大 學的天機芯片是現階段六個主要的神經形態(tài)計算 芯片代表 [3]。
(一)科技巨頭的芯片產品開發(fā)
TrueNorth 是 IBM 潛心研發(fā)近十年的神經形態(tài) 計算芯片。2011 年,IBM 公司通過模擬大腦結構, 首次研制出兩個具有感知和認知能力的硅芯片原 型,可以像大腦一樣具有學習和處理信息的能力。 2014 年,IBM 公司發(fā)布了名為“TrueNorth”的第 二代神經形態(tài)芯片。與第一代神經形態(tài)芯片相比, TrueNorth 芯片在神經元數量、可編程突觸數量、 每秒可執(zhí)行突觸運算量、總功耗、處理核體積等 方面的性能大幅改進。目前,IBM 公司已開發(fā)出 一臺神經元計算機原型,它采用 16 顆 TrueNorth 芯片,具有實時視頻處理能力。
英特爾在 2017 年 9 月也圍繞 FPGA 推出了模 仿人腦的人工智能芯片 Loihi,其內部包含了 128個計算核心,每個核心集成 1024 個人工神經元,總計 13.1 萬個神經元,彼此之間通過 1.3 億個突 觸相互連接。
除此之外,Zeroth 是高通公司發(fā)布于 2015 年 的“認知計算平臺”,它可以融入到高通公司量產 的 Snapdragon 處理器芯片中,以協處理方式提升 系統的認知計算性能,并可實際應用于手機和平 板電腦等設備中,支持諸如語音識別、圖像識別、 場景實時標注等實際應用 [2]。
國內方面,華為也在神經形態(tài)計算芯片領域 加緊布局。一方面,華為正就神經形態(tài)計算芯片 的研發(fā)與清華大學緊密合作。雙方通過共同派出 技術人員組成研發(fā)團隊的方式,開展包括芯片設 計制造、軟硬件協同、終端應用生態(tài)在內的全鏈 路合作。另一方面,華為全資子公司哈勃科技于 2019 年投資了深思考人工智能機器人科技(北京) 有限公司,后者正是一家專注于神經形態(tài)人工智 能與深度學習核心科技的人工智能公司。
現階段,尚未獲悉 IBM、英特爾等領先企業(yè) 基于神經形態(tài)計算芯片的大規(guī)模商業(yè)化產品面世。
行業(yè)整體仍處在生態(tài)搭建階段,即以內部研發(fā)為 主,將研究成果與外界共享,借助外部資源探索、 定義神經形態(tài)計算芯片的應用場景,以及進行面 向特定需求的產品開發(fā)。
(二)高校等科研機構的芯片研發(fā)
2020 年,麻省理工學院的學者在《自然納米 技術》上展示了一種新型神經形態(tài)芯片。它采用 新型憶阻器設計,采用銅銀合金構造憶阻器,而 非用銀作為模擬大腦突觸材料。改造后的新型憶 阻器擁有更強的性能,從而使芯片能夠更有效地 “記住”并重復回憶非常詳細的圖像,提高了芯片 進行圖像處理的效率 [4]。
我國的神經形態(tài)計算芯片“天機芯”由清華大 學施路平教授團隊研制,“天機芯”第一代、第二 代產品分別于 2015 年、2017 年研制成功,采用 28納米工藝制程,由 156 個計算單元(Fcore)組成, 可同時支持機器學習算法和現有神經形態(tài)計算算 法。經過不斷改進設計,第二代“天機芯”具有高 速、高性能、低功耗的特點。此外,浙大的“達爾 文”也是國內有代表性的神經形態(tài)計算芯片。
(三)初創(chuàng)型神經形態(tài)芯片企業(yè)
目前,國內神經形態(tài)計算芯片領域內的代表 性初創(chuàng)企業(yè)包括靈汐科技、知存科技、閃億半導 體、中科神經形態(tài)、南京芯辰神經形態(tài)科技、后 摩智能、九天睿芯、博維邏輯等。
靈汐科技成立于 2018 年,是清華大學神經形 態(tài)計算中心科技成果轉化項目,創(chuàng)始團隊脫胎于 清華大學天機芯片研發(fā)團隊,產品包括神經形態(tài) 計算芯片、基于神經形態(tài)計算芯片的加速板卡和 服務器、軟件工具鏈和系統軟件。公司于 2018、 2019 和 2021 年完成了三輪股權融資。
知存科技成立于 2017 年,創(chuàng)始人畢業(yè)于北京 大學,公司致力于開發(fā)基于 NOR Flash 的存算一體 人工智能芯片以及智能終端系統;面向低功耗、快 響應、低成本的人工智能應用場景,比如智能家居、 可穿戴設備、智慧城市、物聯網等。公司分別于 2019、2020 和 2021 年完成了三輪股權融資。
閃億半導體成立于 2017 年,是一家集成電路 產品研發(fā)商,并聚焦與存算一體芯片相關技術的研發(fā)。公司于 2021 年完成了來自張江科投和襄創(chuàng) 創(chuàng)業(yè)的股權融資。
中科神經形態(tài)成立于 2017 年,公司以中國科 學技術大學神經形態(tài)智能技術及應用國家工程實 驗室為依托,以神經形態(tài)智能技術研發(fā)為戰(zhàn)略方 向。公司于 2020 年先后獲得合肥產投集團和安徽 省量子科學基金的股權投資。
后摩智能成立于 2020 年,專注于存算一體芯 片的設計、研發(fā)及應用,為工業(yè)智能、泛機器人 等邊端及云端應用場景提供服務。公司于 2021 年 獲得紅杉中國等機構的股權投資。
九天睿芯成立于 2018 年,致力于超低功耗模數混合感存算一體芯片設計。公司于 2021 年 6 月完成 了韋豪創(chuàng)芯和浦東科創(chuàng)聯合等機構的股權投資。
四、神經形態(tài)計算芯片產業(yè)化發(fā)展趨勢 研判
得益于國內知名高校機構和多家技術領先企 業(yè)持續(xù)的科研探索和工程化迭代,中國在神經形 態(tài)芯片領域的技術實力已處于全球領先水平。而 中國在物聯網、邊緣計算方面的巨大發(fā)展空間, 也為神經形態(tài)芯片的產業(yè)化提供了豐厚的土壤。 此外,眾多風險投資機構對該領域的持續(xù)關注, 則為神經形態(tài)芯片的科研成果轉化和產業(yè)化落地 提供了更多助力。
(一)通過算法和架構設計改良計算精度,構筑技術壁壘
神經形態(tài)計算芯片在產業(yè)化過程中,核心技 術壁壘是計算精度問題(可靠性),需要在工程 上(包括器件、架構等層級)有待提升。就產業(yè) 化速度而言,從算法和架構上入手,投入產出比 會更高,而器件層面的提升則需要投入更多研發(fā) 力量。
(二)賽道分散,加速在中國構建其產業(yè)生態(tài)
由于不同神經形態(tài)計算芯片采用的架構、器 件、工藝等類別較多,不同技術彼此之間沒有絕 對的優(yōu)劣關系,在技術商業(yè)化上就表現為細分賽道 較多,賽道擠占的現象不明顯。同時,國內外在該
領域的技術水平上并沒有明顯差距,商業(yè)化的重點 在于找到恰當的應用場景,并搭建起穩(wěn)定的產業(yè)生 態(tài)。目前,業(yè)內以寒武紀、華為為代表的企業(yè),都 在采用軟硬一體的思路,自研全套解決方案,以更 加齊備的軟件配套提升下游廠商的使用意愿。
(三)憑借互補關系與傳統芯片共生共存
就芯片發(fā)展路徑而言,延續(xù)摩爾定律(More Moore)的路線仍有較長(>10 年)的迭代發(fā)展周 期;神經形態(tài)計算芯片模擬人腦的設計原理,使 其具備基于“馮·諾依曼架構”的傳統芯片的互 補性,為超越摩爾定律(More than Moore)的發(fā)展 思路帶來更多可能性。神經形態(tài)計算芯片與擅長 數值計算的傳統芯片相結合,能夠大大拓寬人工 智能芯片的應用場景。
(四)基于互補和交叉,或將受益于量子技術的發(fā)展
神經形態(tài)計算芯片與量子技術的發(fā)展具有一 定的互補性和交叉發(fā)展的機會。量子計算的技術 突破將極大提升云端的運算能力,而神經形態(tài)計 算芯片將改善邊緣端的運算能力。未來,神經形 態(tài)芯片和量子技術的結合,或將帶來更大的想象 空間,盡管周期將很長。
參考文獻
[1] Zhang W, Gao B, Tang J, et al. Neuro- inspired computing chips[J]. Nature Electronics, 2020, 3(7):371-382.
[2] 陶建華,陳云霽 . 神經形態(tài)計算芯片與神 經形態(tài)智能機器人發(fā)展現狀與思考 [J]. 中國科學院 院刊,2016,31(7):803-811.
[3] 施路平,裴京,趙蓉 . 面向人工通用智能 的神經形態(tài)計算 [J]. 人工智能,2020,4(01):6-15. [4] Yeon H,? ?Lin P,? ?Choi C, et al. Publisher Correction :Alloying conducting channels for reliable
neuromorphic computing[J].Nature Nanotechnology, 2020,15(7).
(作者單位分別為清華大學全球私募股權研究院、 清華大學經濟管理學院)