- A+
? ? 近日,美的集團(tuán)AI創(chuàng)新中心全自主研發(fā)的邊端AI算法部署工具鏈Aidget(AI edge toolbox)正式在Github和OpenI兩大社區(qū)同步上線開放。推進(jìn)開源開放是美的集團(tuán)承擔(dān)建設(shè)的智能服務(wù)機(jī)器人國家新一代人工智能開放創(chuàng)新平臺的重要內(nèi)容,Aidget將有助于美的集團(tuán)與開發(fā)者推進(jìn)AI生態(tài)共創(chuàng),賦能行業(yè)技術(shù)發(fā)展。
在各種智能嵌入式邊端設(shè)備上運(yùn)行深度學(xué)習(xí)模型(深度神經(jīng)網(wǎng)絡(luò))已成為AIoT的主流方式,但由于主流深度學(xué)習(xí)模型部署要求高,且邊端設(shè)備運(yùn)算資源受限,直接部署存在大量的計算資源浪費(fèi)等直接挑戰(zhàn),阻礙了深度學(xué)習(xí)模型在資源有限的邊端設(shè)備上的部署。
為解決這些問題,美的集團(tuán)AI創(chuàng)新中心于2021年發(fā)起了Aidget項目。Aidget包含模型壓縮工具以及推理加速引擎工具,實現(xiàn)從模型壓縮到推理加速全鏈路優(yōu)化。Aidget適用于linux/rtos/android/ios等多種不同邊端系統(tǒng),面向armv7/v8及dsp等不同邊端平臺提供指令級加速;針對多計算單元設(shè)備,提供高性能異構(gòu)計算能力;針對邊端小內(nèi)存設(shè)備,在內(nèi)存管理方面進(jìn)行優(yōu)化設(shè)計。
Aidget工具鏈主要工作流程是將模型通過壓縮工具進(jìn)行模型壓縮,支持前沿的主流算法技術(shù)剪枝、蒸餾及量化。通過多種壓縮方式結(jié)合應(yīng)用,實現(xiàn)高壓縮比并保持良好的精度性能。經(jīng)過壓縮后的模型通過推理引擎?zhèn)绒D(zhuǎn)換工具進(jìn)行解析,進(jìn)行進(jìn)一步優(yōu)化,包括算子消除、算子替換、布局調(diào)整等圖優(yōu)化操作。推理時加載模型,然后經(jīng)過預(yù)處理把模型從抽象的圖轉(zhuǎn)換為具體的算子和張量連接的描述形式,并進(jìn)行內(nèi)存復(fù)用和執(zhí)行調(diào)度等運(yùn)行優(yōu)化。
目前,Aidget已陸續(xù)在智能冰箱、洗碗機(jī)、家庭服務(wù)機(jī)器人等智能家電產(chǎn)品上實現(xiàn)了投產(chǎn)驗證和規(guī)?;慨a(chǎn),持續(xù)發(fā)揮了降本增效作用。美的集團(tuán)希望通過Aidget開源項目,為邊端智能提供AI解決方案;同時,美的集團(tuán)AI將持續(xù)推進(jìn)語音技術(shù)、計算機(jī)視覺、機(jī)器人學(xué)習(xí)相關(guān)算法/模型的開放服務(wù)和開源共創(chuàng),賦能行業(yè)發(fā)展。
? ? 文章來源:證券日報