你的位置:首頁(yè) > 互連技術(shù) > 正文

炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵

發(fā)布時(shí)間:2023-11-29 責(zé)任編輯:lina

【導(dǎo)讀】聲音是人與人交戶的重要手段,在AI興起的現(xiàn)今,也是人與機(jī)器相互溝通的手段之一。從模擬階段的留聲機(jī)開(kāi)始到現(xiàn)在,人類對(duì)于高清化、高保真的追求一刻沒(méi)有停歇過(guò),也逐漸擺脫了線束的約束。對(duì)音頻來(lái)說(shuō),芯片至關(guān)重要,它既要擁有足夠的算力,也要擁有足夠低的功耗。


著名作家海倫·凱勒曾說(shuō)過(guò)這樣一句話,“盲隔絕了人與物,聾隔絕了人與人?!笨梢?jiàn)聽(tīng)力的重要性,由此可以看出,人的一生耳朵是最忙的感知系統(tǒng)之一。


聲音是人與人交戶的重要手段,在AI興起的現(xiàn)今,也是人與機(jī)器相互溝通的手段之一。從模擬階段的留聲機(jī)開(kāi)始到現(xiàn)在,人類對(duì)于高清化、高保真的追求一刻沒(méi)有停歇過(guò),也逐漸擺脫了線束的約束。對(duì)音頻來(lái)說(shuō),芯片至關(guān)重要,它既要擁有足夠的算力,也要擁有足夠低的功耗。


據(jù)SIG預(yù)測(cè),到2027年藍(lán)牙音頻傳輸設(shè)備年出貨量將達(dá)18.4億臺(tái),2023年~2027年的年復(fù)合增長(zhǎng)率為6%,藍(lán)牙數(shù)據(jù)傳輸設(shè)備年度出貨量將達(dá)到18.7億臺(tái),2023年~2027年的復(fù)合年增長(zhǎng)率為11%。


ICCAD 2023上,炬芯科技股份有限公司董事長(zhǎng)兼CEO周正宇博士博士分享了炬芯在AI大背景下,如何為音頻芯片提供更多創(chuàng)新。


20多年專注音頻領(lǐng)域


“炬芯的前身就是原來(lái)的炬力集成,我們?cè)谛袠I(yè)中做了20多年音頻,2005年炬力集成基于便攜式音頻在美國(guó)上市,2021年炬芯基于藍(lán)牙音頻在科創(chuàng)板上市。”周正宇博士這樣介紹道。


炬芯2023年半年報(bào)和官網(wǎng)顯示,其核心產(chǎn)品包括藍(lán)牙音頻SoC芯片、端側(cè)AI處理器芯片、便攜式音視頻SoC芯片三類。


藍(lán)牙音頻 SoC 芯片系列主要應(yīng)用于藍(lán)牙音箱(含TWS音箱、智能藍(lán)牙音箱)、Soundbar、智能手表、藍(lán)牙耳機(jī)(含TWS耳機(jī)、開(kāi)放式OWS耳機(jī))、無(wú)線電競(jìng)耳機(jī)等。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


端側(cè)AI處理器芯片系列是基于端側(cè)的帶有人工智能加速器的 系統(tǒng)級(jí)音頻處理器,致力于提供智能物聯(lián)網(wǎng)AIoT端側(cè)低功耗算力的芯片平臺(tái),也是炬芯主營(yíng)的音頻產(chǎn)品和人工智能技術(shù)的重要結(jié)合點(diǎn),可滿足市場(chǎng)未來(lái)日新月異的低功耗端側(cè)設(shè)備的人工智能應(yīng)用需求。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


便攜式音視頻SoC芯片系列是炬芯最早耕耘的、最成熟的產(chǎn)品線,全球市場(chǎng)占有率長(zhǎng)期較高,搭載了公司長(zhǎng)期積累的、較先進(jìn)的低功耗音視頻處理技術(shù)。該系列芯片主要針對(duì)便攜式高品質(zhì)音視頻編解碼類產(chǎn)品的應(yīng)用。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


具體從市場(chǎng)來(lái)看,炬芯在中高端品牌藍(lán)牙音箱市場(chǎng)份額明顯增長(zhǎng),下一步會(huì)通過(guò)產(chǎn)品持續(xù)迭代升級(jí)和優(yōu)化產(chǎn)品組合繼續(xù)提升在中高端品牌的滲透率;低延遲高音質(zhì)市場(chǎng)從有線連接向無(wú)線連接轉(zhuǎn)換的趨勢(shì),帶來(lái)了存量市場(chǎng)轉(zhuǎn)化和新增需求兩個(gè)機(jī)會(huì),炬芯正在持續(xù)加大研發(fā)投入保持技術(shù)領(lǐng)先優(yōu)勢(shì)并與各大品牌廠商繼續(xù)保持緊密合作以把握這一波市場(chǎng)轉(zhuǎn)型機(jī)會(huì);此外,在智能手表市場(chǎng),炬芯對(duì)中國(guó)、歐美和印度市場(chǎng)做了均衡的布局和節(jié)奏把握,智能手表作為貼合人體重要的健康數(shù)據(jù)監(jiān)測(cè)產(chǎn)品,將持續(xù)深耕。


用存內(nèi)計(jì)算創(chuàng)造更大算力和更低功耗


周正宇博士表示,過(guò)去以來(lái),炬芯的芯片架構(gòu)一般都是“CPU+DSP”的雙核架構(gòu),未來(lái),AI時(shí)代,炬芯會(huì)在CPU和DSP的基礎(chǔ)上,從高端音頻芯片入手,整合低功耗 AI 加速引擎,逐步全面升級(jí)為 CPU+DSP+NPU(based MMSCIM)三核異構(gòu)的AI SoC架構(gòu),為便攜式產(chǎn)品提供更大的算力。,最新一代基于MMSCIM的高端AI音頻芯片ATS286X,將會(huì)在明年將會(huì)Sample。


“算力和功耗是一對(duì)矛盾統(tǒng)一體?!敝苷畈┦空J(rèn)為,如何在同樣的制程、同樣的架構(gòu)、同樣的設(shè)計(jì)下,創(chuàng)造更大算力和更低功耗是AI時(shí)代的關(guān)鍵。


比如說(shuō),TWS耳機(jī)電池容量通常在35m~40mAh,典型平均工作電流約在5mA左右,也就是說(shuō),留給芯片的功耗預(yù)算只有20mA左右。再比如,智能手表典型電池容量在280~300mAh,典型工作電流在3mA上下,也就是說(shuō)在4.3V鋰電池中,只有15mA左右的功耗,還包括ADC、DAC等器件,也就是說(shuō)留給藍(lán)牙音頻芯片功耗只有10mW。


與之相悖的是,AI驅(qū)動(dòng)下,未來(lái)算力需求越來(lái)越大,也就是說(shuō),對(duì)藍(lán)牙音頻芯片商來(lái)說(shuō),要在10mW的功耗預(yù)算下,打造200~500GOPS算力是很大難題。


AI主要以復(fù)雜矩陣運(yùn)算來(lái)形成,而復(fù)雜的矩陣運(yùn)算最主要的算力功耗都來(lái)自于乘累加運(yùn)算,過(guò)去芯片普遍采用DSP處理音頻,突破的關(guān)鍵就在于突破馮諾范式的存儲(chǔ)墻和功耗墻,即存內(nèi)計(jì)算,通俗解釋就是把計(jì)算和存儲(chǔ)放在一個(gè)房間里去,讓它們零距離溝通。


存內(nèi)計(jì)算擁有許多不同介質(zhì),到底哪一種介質(zhì)適合做存內(nèi)計(jì)算?周正宇博士認(rèn)為各個(gè)介質(zhì)均有其特點(diǎn),不論哪種路徑,最主要的問(wèn)題就是寫(xiě)入次數(shù),假若AI需要做自適應(yīng)或模型不斷更新,那么它在寫(xiě)入多次之后就會(huì)報(bào)廢,所以這種介質(zhì)不適合做自適應(yīng)應(yīng)用,類似于Transformer這一類擁有自學(xué)能力的模型。


對(duì)比來(lái)看,SRAM讀寫(xiě)速度快,擁有無(wú)限次讀寫(xiě)能力,不僅采用標(biāo)準(zhǔn)工藝制造,還可以集成在SoC內(nèi),但它的弱點(diǎn)是存儲(chǔ)密度低。不過(guò),雖然如此,SRAM依舊是低功耗AI算力的首選。一方面,音頻只需要200~500GOPS的算力,而非幾十TOPS,密度低的缺陷因此而被規(guī)避,另一方面,標(biāo)準(zhǔn)的CMOS工藝不僅可以現(xiàn)在就能大規(guī)模量產(chǎn),還可以集成在單芯片上跟隨制程工藝演進(jìn)到2nm。加之無(wú)限次寫(xiě)入,可以支持自適應(yīng)計(jì)算,長(zhǎng)遠(yuǎn)來(lái)看,RL(強(qiáng)化學(xué)習(xí))和ML(機(jī)器學(xué)習(xí))可能也會(huì)為它帶來(lái)更多驚喜。


存內(nèi)計(jì)算也擁有模擬和數(shù)?;旌蟽蓚€(gè)技術(shù)路徑,它們最大的差異主要在于運(yùn)算用ADC+模擬電路實(shí)現(xiàn)的,還是基于數(shù)字電路實(shí)現(xiàn)。


炬芯科技選擇的是模數(shù)混合的存內(nèi)計(jì)算,暫時(shí)命名為“Mixed-Mode SRAM based CIM”,簡(jiǎn)稱MMSCIM,其優(yōu)勢(shì)是精度無(wú)限,可靠性和量產(chǎn)的一致性非常高,容易在制程上升級(jí),容易提升速度或PPA。


目前,該芯片雖然還沒(méi)有進(jìn)入量產(chǎn)階段,但進(jìn)展非??臁K谌仃囘\(yùn)算情況下,未來(lái)22nm就有望達(dá)到每瓦7.8TOPS的能效比。值得一提的是,在12nm情況下,它就已經(jīng)接近50TOPS,足以挑戰(zhàn)在10mW范圍內(nèi)釋放200~500GOPS算力。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


邊緣與AI融合,挑戰(zhàn)與機(jī)遇并存


在周正宇博士看來(lái),未來(lái)端側(cè)也會(huì)實(shí)現(xiàn)像ChatGPT、Tranformoer或類似的功能,或許是手機(jī),或者是手表,未來(lái)這些能力都能被人所觸及。就比如說(shuō),早年軟盤(pán)只有1.44MB的存儲(chǔ)空間,而現(xiàn)在TWS耳機(jī)中的存儲(chǔ)空間都超過(guò)了幾十兆。


端側(cè)是AI非常好的載體,以手表為例,它是唯一一個(gè)長(zhǎng)時(shí)間佩戴且緊貼皮膚的裝置,因此,非常方便成為健康監(jiān)測(cè)裝置,隨著傳感器發(fā)展,心率、血壓信息都成為了可測(cè)量的數(shù)據(jù)。而最終,它會(huì)成為一個(gè)能夠隨時(shí)監(jiān)測(cè)健康狀態(tài)的能手。


把幾億人的信息全部送到云端處理顯然不現(xiàn)實(shí),而當(dāng)邊緣端擁有AI,把專業(yè)的醫(yī)學(xué)知識(shí)灌注給它,它就會(huì)像一個(gè)移動(dòng)醫(yī)生一樣,隨時(shí)判斷心率、血氧變化是否健康。這就是邊緣AI的重要意義,這樣的例子在邊緣AI中不勝枚舉。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


當(dāng)然,挑戰(zhàn)與機(jī)遇并存。對(duì)國(guó)產(chǎn)來(lái)說(shuō),在端側(cè)做AI挑戰(zhàn)有兩方面,一方面如何以更好的能效比、PPA來(lái)實(shí)現(xiàn)人工智能,另一方面則是在于芯片制造,如何利用主流制程做到先進(jìn)制程的產(chǎn)品性能,這是國(guó)產(chǎn)芯片設(shè)計(jì)公司必須面對(duì)的挑戰(zhàn)。


自從ChatGPT問(wèn)世,最大的變化是自學(xué)習(xí)和自適應(yīng),而在其中隱私是很大問(wèn)題,未來(lái)端側(cè)也必然也要面對(duì)這樣的挑戰(zhàn)。


”我認(rèn)為現(xiàn)在AI最缺乏的是生態(tài)?!笔聦?shí)上,芯片行業(yè)大多情況都會(huì)把重點(diǎn)放在硬件設(shè)計(jì),但實(shí)際上,一個(gè)行業(yè)必須擁有自己的生態(tài),國(guó)內(nèi)更需要自己的生態(tài)。就比如說(shuō),TensorFlow與算力之前其實(shí)中間還間隔了很多層,或者說(shuō)工具,如果能做好這一層,就能建設(shè)好更好的國(guó)產(chǎn)生態(tài)。炬芯也會(huì)持續(xù)深耕,為國(guó)產(chǎn)芯片與生態(tài)建設(shè)添磚加瓦。


免責(zé)聲明:本文為轉(zhuǎn)載文章,轉(zhuǎn)載此文目的在于傳遞更多信息,版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問(wèn)題,請(qǐng)聯(lián)系小編進(jìn)行處理。


推薦閱讀:

以工藝窗口建模探索路徑:使用虛擬制造評(píng)估先進(jìn)DRAM電容器圖形化的工藝窗口

如何設(shè)計(jì)電池充電速度快4倍的安全可穿戴設(shè)備

電池冷卻系統(tǒng)對(duì)電動(dòng)汽車(chē)如何重要?

如何為ADAS 域控制器構(gòu)建多攝像頭視覺(jué)感知系統(tǒng)?

漫談QLC其二:扛起NAND家族重任,老四QLC




特別推薦
技術(shù)文章更多>>
技術(shù)白皮書(shū)下載更多>>
熱門(mén)搜索
?

關(guān)閉

?

關(guān)閉