Imagination 攜手百度飛槳，共推中國(guó)人工智能生態(tài)建設(shè)

發(fā)布時(shí)間：2022-05-25作者來(lái)源：張國(guó)斌瀏覽：2546

我們已經(jīng)進(jìn)入了萬(wàn)物智能互聯(lián)的時(shí)代，人工智能技術(shù)成為給千行百業(yè)賦能智慧的不二選擇，在人工智能應(yīng)用中，構(gòu)建一個(gè)學(xué)習(xí)、應(yīng)用的生態(tài)直觀重要。美國(guó)人工智能領(lǐng)先企業(yè)都非常注重打造生態(tài)系統(tǒng)，如谷歌的Tensorflow，臉書的pytorch 等，在中國(guó)，目前，百度飛槳（PaddlePaddle）受到越來(lái)越多開發(fā)者以及人工智能上下游企業(yè)的青睞。

5月20日，Imagination Technologies在“Wave Summit 2022”大會(huì)上宣布：攜手百度飛槳（PaddlePaddle）及多家合作伙伴共同發(fā)起“硬件生態(tài)共創(chuàng)計(jì)劃”，利用自身的優(yōu)勢(shì)技術(shù)和市場(chǎng)應(yīng)用經(jīng)驗(yàn)共同構(gòu)建高效的軟硬一體平臺(tái)方案，將百度飛槳軟件的先進(jìn)算法和靈活性與Imagination異構(gòu)計(jì)算IP技術(shù)相結(jié)合，支持下游芯片及應(yīng)用開發(fā)商在此基礎(chǔ)上快速創(chuàng)建全面優(yōu)化的解決方案。

據(jù)悉，百度飛槳是中國(guó)[敏感詞]自主研發(fā)、功能豐富、開源開放的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。截至2022年5月，百度飛槳已經(jīng)匯聚了477萬(wàn)開發(fā)者，創(chuàng)建56萬(wàn)個(gè)AI模型，累計(jì)服務(wù)18萬(wàn)家企事業(yè)單位。硬件生態(tài)共創(chuàng)計(jì)劃是飛槳“大航?！庇?jì)劃2.0的重要部分之一。

目前，很多人工智能開發(fā)者在實(shí)際應(yīng)用中面臨多種挑戰(zhàn)，例如在開發(fā)階段，模型實(shí)現(xiàn)復(fù)雜，開發(fā)效率較低；在訓(xùn)練階段，產(chǎn)業(yè)界的數(shù)據(jù)量大，訓(xùn)練時(shí)間長(zhǎng)，反復(fù)訓(xùn)練困難；在部署階段，實(shí)際產(chǎn)業(yè)落地的要求很高，同時(shí)多硬件還會(huì)帶來(lái)了很大的部署成本；另外還有產(chǎn)業(yè)模型庫(kù)包含的模型較少，無(wú)法滿足開發(fā)者的應(yīng)用訴求等。而百度飛槳開發(fā)便捷的深度學(xué)習(xí)框架、超大規(guī)模深度學(xué)習(xí)模型訓(xùn)練技術(shù)、多端多平臺(tái)推理部署引擎和產(chǎn)業(yè)級(jí)的開源模型庫(kù)解決了這些挑戰(zhàn)。此外，一些國(guó)產(chǎn)AI芯片跟PyTorch和TF不兼容。但卻可以兼容百度飛槳，所以，百度飛槳對(duì)于推動(dòng)本土AI應(yīng)用普及發(fā)揮了巨大作用。

Imagination計(jì)算業(yè)務(wù)副總裁Shreyas Derashri表示：“很高興能夠與百度飛槳及眾多合作伙伴再次攜手，發(fā)布‘硬件生態(tài)共創(chuàng)計(jì)劃’，并為業(yè)界構(gòu)建軟硬一體的計(jì)算方案。2020年，Imagination加入百度飛槳硬件生態(tài)圈；2021年，Imagination和百度飛槳在全球人工智能（AI）生態(tài)系統(tǒng)方面開展合作。此次合作是雙方良好合作的延續(xù)，在算力和算法方面優(yōu)勢(shì)的深度融合，可為行業(yè)提供更優(yōu)化的解決方案?！?/span>

實(shí)際上，隨著人工智能技術(shù)在各行業(yè)的廣泛應(yīng)用及快速發(fā)展，業(yè)界已從各自獨(dú)立的硬件算力驅(qū)動(dòng)和算法創(chuàng)新驅(qū)動(dòng)進(jìn)入到算法和硬件協(xié)同創(chuàng)新階段。在硬件生態(tài)共創(chuàng)計(jì)劃中，合作雙方基于百度飛槳（PaddlePaddle）對(duì)未來(lái)硬件計(jì)算平臺(tái)的需求，結(jié)合Imagination （GPU, CPU, AI）異構(gòu)計(jì)算IP技術(shù)，從算法模型到計(jì)算框架再到半導(dǎo)體IP技術(shù)通過(guò)聯(lián)合優(yōu)化的方法，構(gòu)建高效靈活的軟件棧方案，為芯片廠商提供設(shè)計(jì)指導(dǎo)和Benchmark參考。面向行業(yè)應(yīng)用共建Model Zoo，為平臺(tái)和終端客戶提供參考方案。這種全新的生態(tài)合作模式將為雙方的客戶及合作伙伴帶來(lái)更多價(jià)值。未來(lái)，雙方將面向使用Imagination NC-SDK的飛槳開發(fā)者共同開發(fā)培訓(xùn)課程，進(jìn)行聯(lián)合培訓(xùn)認(rèn)證。

Imagination產(chǎn)品市場(chǎng)總監(jiān)鄭魁在也在大會(huì)上做了演講具體分享了合作細(xì)節(jié)，他指出目前Imagination已經(jīng)有一些模型是可以部署在基于Imagination一款4TOPs端側(cè)推理芯片上，雙方正在進(jìn)行持續(xù)的優(yōu)化，下半年會(huì)針對(duì)某些典型市場(chǎng)應(yīng)用發(fā)布一個(gè)聯(lián)合優(yōu)化的成果。

展望未來(lái)他表示這些模型會(huì)部署在更豐富的一些異構(gòu)平臺(tái)上面，如大算力平臺(tái)等來(lái)滿足高等級(jí)智能化應(yīng)用需求。他透露雙方會(huì)針對(duì)開發(fā)者推出培訓(xùn)視頻，在近期上線。

他強(qiáng)調(diào)Imagination全球芯片累計(jì)出貨量已經(jīng)超過(guò)110億！是擁有GPU IP 、RISC-V CPU IP以及 AI神經(jīng)網(wǎng)絡(luò)加速器 IP的公司，且大多數(shù)產(chǎn)品都滿足Function Safety功能安全標(biāo)準(zhǔn)。

這三款I(lǐng)P加上Imagination的軟件構(gòu)成了多核異構(gòu)的解決方案，針對(duì)不同的市場(chǎng)應(yīng)用提供各種高性能、低功耗、高度靈活可擴(kuò)展的IP組合解決方案，如手機(jī)移動(dòng)方案或是汽車智能駕艙，自動(dòng)駕駛甚至是數(shù)據(jù)中心的應(yīng)用方案等。

目前，異構(gòu)計(jì)算成為芯片設(shè)計(jì)的下一個(gè)重要方向。針對(duì)這個(gè)趨勢(shì)， Imagination從三個(gè)方向進(jìn)行創(chuàng)新，一個(gè)是針對(duì)目前已有的 GPU、CPU和AI 神經(jīng)網(wǎng)絡(luò)加速器，持續(xù)在多核架構(gòu)上演進(jìn)、在性能跟功耗上持續(xù)優(yōu)化。一個(gè)是在系統(tǒng)層面，為了消除數(shù)據(jù)瓶頸，對(duì)存儲(chǔ)、安全進(jìn)行創(chuàng)新性優(yōu)化。還有一個(gè)是在軟件層面提供了統(tǒng)一、開放，并且標(biāo)準(zhǔn)的工具鏈，支持標(biāo)準(zhǔn)的 framework操作，這就使開發(fā)者可以快速靈活的把他們的應(yīng)用部署在異構(gòu)架構(gòu)上。

他以軟件為例，傳統(tǒng)上網(wǎng)絡(luò)模型的部署會(huì)分成三個(gè)階段，首先會(huì)把在云端訓(xùn)好的模型去轉(zhuǎn)換成一個(gè)通用格式，然后通過(guò)建圖和編譯，生成平臺(tái)硬件相關(guān)的一些code。最后把它部署在硬件的執(zhí)行單元上。

而在Imagination的工具鏈里，Imagination為開發(fā)者提供了更豐富的部署和優(yōu)化功能。如在adapter之后，通過(guò)graph transform，去把 layer進(jìn)行了調(diào)整，讓它們對(duì)執(zhí)行單元更友好。再往后通過(guò)data profiling工具跟simulation工具，可以去幫助開發(fā)者確定[敏感詞]的量化策略，滿足符合它應(yīng)用性能和精度的要求。然后在compiler中，Imagination把靈活性開放給開發(fā)者，讓他們靈活的去定制后端執(zhí)行單元，如 layer是跑在GPU上還是跑在神經(jīng)網(wǎng)絡(luò)加速器上還是跑在 CPU上，這些由開發(fā)者決定。

“我們?cè)谂c飛槳的生態(tài)合作項(xiàng)目中，雙方就會(huì)從模型層一直到飛槳的框架，一直到我們IP的底層軟件，沿著這樣的一個(gè)應(yīng)用部署的路徑，我們雙方會(huì)進(jìn)行全棧的優(yōu)化。同時(shí)除了offline的部署方式，我們也會(huì)提供runtime的API叫做IMG DNN來(lái)滿足開發(fā)者 online的部署需要?！彼赋觯?/span>最終我們會(huì)跟飛槳一起會(huì)推出深度優(yōu)化的，并且可以非常靈活，拓展性非常強(qiáng)的多核異構(gòu)平臺(tái)方案?！?/span>

他表示未來(lái)Imagination會(huì)希望自己的客戶或芯片伙伴都參與到飛槳項(xiàng)目中來(lái)，

未來(lái)我們希望可以跟我們的芯片客戶或者是芯片伙伴們一起都參與到“硬件生態(tài)共創(chuàng)計(jì)劃”里，在一些重要應(yīng)用領(lǐng)域，如自動(dòng)駕駛，手機(jī)以及數(shù)據(jù)中心等，在基于飛槳的框架中，提供高競(jìng)爭(zhēng)力的國(guó)產(chǎn)計(jì)算平臺(tái)方案。

“眾人拾柴火焰高”，我注意到還有其他一些芯片公司也參與到百度飛槳項(xiàng)目中，希望本土的人工智能生態(tài)日益完善，為智慧化轉(zhuǎn)型助力?。ㄍ辏?br/>

免責(zé)聲明：本文原創(chuàng)作者張國(guó)斌，本文僅代表作者個(gè)人觀點(diǎn)，不代表薩科微及行業(yè)觀點(diǎn)，只為轉(zhuǎn)載與分享，支持保護(hù)知識(shí)產(chǎn)權(quán)，轉(zhuǎn)載請(qǐng)注明原出處及作者，如有侵權(quán)請(qǐng)聯(lián)系我們刪除。

上一條：大同談江上舟
下一條：越南自主汽車品牌未來(lái)會(huì)干翻中國(guó)汽車自主品牌嗎？