近日，浦軟孵化器攜手蘑菇云創(chuàng)客空間邀請技術(shù)大咖歐陽軍老師共同探討及分享了TinyML實現(xiàn)邊緣設(shè)備機器學(xué)習(xí) | 超低功耗AI算法原理及應(yīng)用。

TinyML全稱為“Tiny Machine Learning”微型機器學(xué)習(xí)，作為人工智能的一個子類，是一個新興的發(fā)展學(xué)科，它能夠在資源受限的微控制器上實現(xiàn)低資源消耗、低功耗的機器學(xué)習(xí)算法，工程師們可以在mW功率范圍以下的設(shè)備上，實現(xiàn)機器學(xué)習(xí)的方法、工具和技術(shù)。因此可以支持各種不同的電池驅(qū)動的設(shè)備，和需要始終在線的應(yīng)用。這些設(shè)備包括智能攝像頭、遠程監(jiān)控設(shè)備、可穿戴設(shè)備、音頻采集硬件以及各種傳感器等等。它是不同技術(shù)領(lǐng)域和推動因素的交集，它位于物聯(lián)網(wǎng)設(shè)備、機器學(xué)習(xí)和邊緣計算之間的結(jié)合部，并因為多種驅(qū)動力的綜合作用，進展很快。

一、TinyML工作機制

 

 

TinyML 算法的工作機制與傳統(tǒng)機器學(xué)習(xí)模型幾乎完全相同，通常在用戶計算機或云中完成模型的訓(xùn)練。訓(xùn)練后處理是 TinyML 真正發(fā)揮作用之處，通常稱為“深度壓縮”（deep compression）。

在微控制器上部署并運行 TensorFlow 模型，需要三個步驟：

第一步  生成小型 TensorFlow 模型。

Keras

Keras 是一個用 Python 編寫的高級神經(jīng)網(wǎng)絡(luò) API，它能夠以 TensorFlow, CNTK, 或者 Theano 作為后端運行。這里我們使用Keras構(gòu)建并訓(xùn)練一個TensorFlow模型。

第二步  使用 TensorFlow Lite 轉(zhuǎn)換器轉(zhuǎn)換為 TensorFlow Lite 模型。

TensorFlow Lite

TensorFlow Lite 是 TensorFlow 移動和嵌入式設(shè)備輕量級解決方案。使用 TensorFlow Lite Converter 可以將 TensorFlow 模型轉(zhuǎn)換為高效的 compressed flat buffer格式。并且支持將 32 位浮點數(shù)轉(zhuǎn)換為更高效的 8 位整數(shù)進行量化以降低對算力的要求。

第三步  使用 C++ 庫在設(shè)備上進行推斷并處理結(jié)果。

TensorFlow Lite Micro

TensorFlow Lite Micro 是 TensorFlow Lite 針對 AIOT 的輕量級 AI 引擎，用于在微控制器和其他資源受限的設(shè)備上運行機器學(xué)習(xí)模型。

二、TinyML的特點與重要性

 

 

TinyML的出現(xiàn)，是為了更好的緩解邊緣ML和云端ML中，無法突破的多種問題，包括數(shù)據(jù)隱私、時間延遲、可靠性和能源效率。

數(shù)據(jù)隱私：TinyML嘗試在物聯(lián)網(wǎng)設(shè)備上，直接處理和分析受限的敏感數(shù)據(jù)，保護了數(shù)據(jù)隱私。

時間延遲：TinyML通過將某些機器學(xué)習(xí)任務(wù)轉(zhuǎn)移到設(shè)備本身，來進一步減少網(wǎng)絡(luò)延遲的可能性。

可靠性： TinyML可以將某些邊緣和云端中的機器學(xué)習(xí)能力移植到本地，提升可靠性。

能源效率：通過極低功耗TinyML的數(shù)據(jù)分析，減少網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)量，可以在一定程度上，節(jié)約物聯(lián)網(wǎng)終端中的電量消耗。

三、TinyML的應(yīng)用

 

 

TinyML與IoT的融合為各行各業(yè)的許多新應(yīng)用打開了大門, 可以應(yīng)用于智慧車載、智慧工廠、智慧城市、智慧家居等。

在這些應(yīng)用中TinyML可以實現(xiàn)關(guān)鍵字發(fā)現(xiàn)、物體識別和分類、手勢識別、音頻檢測、機器監(jiān)控。

應(yīng)用案例：

智慧車載

Swim. AI在實時數(shù)據(jù)傳輸?shù)倪^程中使用TinyML，通過有效提升傳感器中對于實時交通數(shù)據(jù)的智能化處理能力，減少了乘客的等候時間、交通擁堵的概率、改善汽車的排放并提升乘車安全。

智慧工廠

在制造業(yè)中，TinyML可以通過啟用實時決策，減少由于設(shè)備故障而導(dǎo)致的非計劃性停機。它可以根據(jù)設(shè)備狀況提醒工人必要時進行預(yù)防性維護。

放眼整個物聯(lián)網(wǎng)市場，TinyML還有更多的應(yīng)用價值。數(shù)以億計的微控制器和各種各樣的傳感器結(jié)合在一起，在未來會激發(fā)一些非常有創(chuàng)意、更具實用價值的TinyML應(yīng)用。

圖片來源： https://www.51cto.com/article/630845.html

參考文獻：

https://www.tensorflow.org/lite/guide/get_started?hl=zh-cn

https://towardsdatascience.com/tiny-machine-learning-the-next-ai-revolution-495c26463868

https://keras.io/zh/

https://mp.weixin.qq.com/s/MXcO2WHykXUN9vKOosj-Dw

蘑菇云創(chuàng)客空間

 

 

蘑菇云創(chuàng)客空間是上海浦東的第一家創(chuàng)客空間,是科技部授牌的首批國家級創(chuàng)客空間,由浦軟孵化器提供場地支持、上海智位機器人提供硬件及技術(shù)支持的一家為創(chuàng)客服務(wù)的開放式創(chuàng)客空間。擁有獨立的加工室、公共協(xié)作區(qū)域以及儲物、耗材商店,為硬件愛好者、程序員、設(shè)計師、DIY 發(fā)燒友等各類創(chuàng)客,甚至包括進行創(chuàng)新研發(fā)的科創(chuàng)團隊提供一個開放式的社區(qū)化會員空間。

關(guān)鍵詞：