9月25日,一年一度的云棲大會(huì)在杭州云棲小鎮(zhèn)開(kāi)幕。本屆云棲大會(huì)以“數(shù)·智”為主題,共設(shè)110余場(chǎng)峰會(huì)和論壇,聚集了世界上幾十個(gè)國(guó)家的上千名科學(xué)家、CTO、企業(yè)家,以及對(duì)技術(shù)充滿(mǎn)熱情的超過(guò)6萬(wàn)名從業(yè)者和愛(ài)好者。作為阿里巴巴平頭哥芯片合作伙伴,云天勵(lì)飛副總裁李?lèi)?ài)軍受邀出席平頭哥芯片生態(tài)專(zhuān)場(chǎng)并發(fā)表主題…

9月25日,一年一度的云棲大會(huì)在杭州云棲小鎮(zhèn)開(kāi)幕。

本屆云棲大會(huì)以“數(shù)·智”為主題,共設(shè)110余場(chǎng)峰會(huì)和論壇,聚集了世界上幾十個(gè)國(guó)家的上千名科學(xué)家、CTO、企業(yè)家,以及對(duì)技術(shù)充滿(mǎn)熱情的超過(guò)6萬(wàn)名從業(yè)者和愛(ài)好者。

作為阿里巴巴平頭哥芯片合作伙伴,云天勵(lì)飛副總裁李?lèi)?ài)軍受邀出席平頭哥芯片生態(tài)專(zhuān)場(chǎng)并發(fā)表主題分享,與阿里巴巴集團(tuán)副總裁戚肖寧、臺(tái)積電(南京)有限公司總經(jīng)理羅鎮(zhèn)球、新思科技中國(guó)董事長(zhǎng)兼全球副總裁葛群等行業(yè)專(zhuān)家一起探討5G時(shí)代芯片制造和架構(gòu)設(shè)計(jì)的新思考與新實(shí)踐。

李?lèi)?ài)軍在《高性能 AI 邊緣計(jì)算芯片架構(gòu)與應(yīng)用》的主題演講中提出, 5AIoT(5G+AI+IoT)時(shí)代將會(huì)帶來(lái)海量數(shù)據(jù)的處理需求,且實(shí)時(shí)處理的占比大幅提升。實(shí)時(shí)處理的需求、復(fù)雜場(chǎng)景下的邊緣計(jì)算能力,尤其是基于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)計(jì)算能力,對(duì)芯片計(jì)算架構(gòu)提出了新的要求。

針對(duì) 5AIoT應(yīng)用場(chǎng)景的這種需求,云天勵(lì)飛推出了一款面向視頻圖像分析應(yīng)用、適合各種邊緣場(chǎng)景下深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)推理加速的高性能異構(gòu)并行計(jì)算SoC芯片——DeepEye1000。

異構(gòu)多核并行計(jì)算架構(gòu)

李?lèi)?ài)軍表示,DeepEye1000采用異構(gòu)多核并行計(jì)算架構(gòu)設(shè)計(jì),集成阿里平頭哥玄鐵處理器(CPU)、自主產(chǎn)權(quán)神經(jīng)網(wǎng)絡(luò)處理器(NNP)、智能算子引擎、視覺(jué)數(shù)字信號(hào)處理器(DSP)、視頻編解碼器以及圖像編碼器等多個(gè)內(nèi)核和硬件加速單元。

自主神經(jīng)網(wǎng)絡(luò)計(jì)算引擎

李?lèi)?ài)軍進(jìn)一步指出,云天勵(lì)飛自主產(chǎn)權(quán)神經(jīng)網(wǎng)絡(luò)處理器(NNP)采用自研ASIP深度定制指令集,支持靈活可編程計(jì)算流;支持高能效混合精度計(jì)算,同時(shí)保證算法模型精度;通過(guò)計(jì)算存儲(chǔ)深度融合和動(dòng)態(tài)存儲(chǔ)調(diào)度技術(shù),外部存儲(chǔ)訪問(wèn)帶寬可大幅降低約77%。

與通用GPU相比,DeepEye1000單位性能提升20倍,單位能效提升100倍,系統(tǒng)時(shí)延降低200倍,具有低功耗、高能效、智升級(jí)、可編程等特點(diǎn)。

智能任務(wù)調(diào)度

李?lèi)?ài)軍介紹,通過(guò)自主設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器以及智能調(diào)度機(jī)制,DeepEye1000可以高效執(zhí)行各種算法的推理計(jì)算,實(shí)現(xiàn)高性能、低功耗的CNN網(wǎng)絡(luò)模型推理計(jì)算加速。

相比中斷處理機(jī)制,采用智能調(diào)度機(jī)制使檢測(cè)算法、跟蹤算法、識(shí)別算法的執(zhí)行時(shí)間分別減少約25%、35%、40%。

開(kāi)放工具鏈

為了方便DeepEye1000的使用,云天勵(lì)飛為DeepEye1000提供了基于TVM打造的芯片工具鏈和軟件開(kāi)發(fā)包(SDK),支持Caffe、MxNET、TensorFlow、ONNX等深度學(xué)習(xí)框架,支持一鍵部署。

“1+1+N”的AI城市綜合服務(wù)體系

分享最后,李?lèi)?ài)軍稱(chēng),云天勵(lì)飛的目標(biāo)是構(gòu)建“1+1+N”的AI城市綜合服務(wù)體系。將通過(guò)5G+AI+IoT的智能感知網(wǎng)絡(luò)觸角得到的數(shù)據(jù),經(jīng)過(guò)基于AI OS的城市大腦進(jìn)行分析、判斷和決策,最終應(yīng)用到城市大腦、新零售、工業(yè)檢測(cè)、機(jī)器人、智慧倉(cāng)儲(chǔ)、智能家居等城市綜合服務(wù)的多種應(yīng)用場(chǎng)景中。

與阿里平頭哥深度合作

此外,在下午舉辦的媒體見(jiàn)面會(huì)上,李?lèi)?ài)軍強(qiáng)調(diào),DeepEye1000 芯片集成了阿里平頭哥的玄鐵 810 處理器。利用云天勵(lì)飛的神經(jīng)網(wǎng)絡(luò)處理器設(shè)計(jì)能力,結(jié)合平頭哥提供的 CPU 處理器能力,賦能高效、異構(gòu)多核視覺(jué)AI計(jì)算,Linux視覺(jué)框架助力AI應(yīng)用極簡(jiǎn)開(kāi)發(fā),雙方協(xié)作,成功打造了云天勵(lì)飛面向視覺(jué)應(yīng)用的神經(jīng)網(wǎng)絡(luò)推理加速芯片。

云天勵(lì)飛副總裁李?lèi)?ài)軍(右二)出席媒體見(jiàn)面會(huì)

同時(shí),李?lèi)?ài)軍表示非常認(rèn)可平頭哥“無(wú)劍“平臺(tái)的服務(wù),本地化服務(wù)貼心、工具鏈升級(jí)快,對(duì)平頭哥一直積極打造行業(yè)生態(tài)非常贊賞。

云棲大會(huì)的十年,見(jiàn)證了中國(guó)數(shù)字經(jīng)濟(jì)的大發(fā)展,更成為數(shù)字經(jīng)濟(jì)未來(lái)的風(fēng)向標(biāo)。未來(lái)5G時(shí)代,云天勵(lì)飛將繼續(xù)與阿里巴巴平頭哥進(jìn)一步加強(qiáng)AI芯片領(lǐng)域的創(chuàng)新合作,為打造“中國(guó)芯”共同發(fā)力。