物聯網正加速帶動人工智能走向終端裝置，我們可以看到市場繼續保持積極的成長趨勢。市場也期待有更多的人工智能物聯網設備在市場上普及，并深入包括消費性物聯網設備、工業應用和網絡、還有與視覺、語音和聲音影像相關的邊緣應用。
AI的應用案例正在推動著龐大的物聯網運算需求，而這背后都需要透過MCU來釋放這些運算能量。我們也可以看出市場上的MCU解決方案基本上有兩大發展趨勢，用以支持新一代的機器學習（Machine Learning；ML）運算能力。一是提高MCU本身的運算性能及能力，例如從Arm Cortex M0+提升到M4、M33和M7等。另一種則是透過在MCU中整合機器學習加速器或DSP等，來強化ML運算能力。
智能系統主架構
恩智浦半導體大中華區資深營銷經理黃健洲指出，物聯網對于未來智能化系統的重要性不言可喻。物聯網被視為未來各種智能化系統的主要架構，透過底層感測網絡、中間通訊傳輸與上層云端平臺的組合，讓信息無縫流動，進而延伸出更多應用，賦予更智能的生活體驗。不過隨著物聯網應用多元化、許多應用或因功能安全或因直觀需要實時反應，集中式運算的物聯網架構已難因應所有領域，因此系統終端開始被賦予一定程度的運算能力，以提升實時反應功能。
本文引用地址：http://www.eepw.com.cn/article/202202/431425.htm
圖一 : 恩智浦半導體大中華區資深營銷經理黃健洲
過去的物聯網架構中，數據需要從底層傳回云端平臺，再從云端平臺下指令由終端設備動作，對工廠、汽車或智能家電這類需要高實時性的系統來說，一來一往的訊息傳遞極為耗時，因此具備運算能力的終端設備。這類終端設備可在本地處理指令，快速響應用戶需求。
但最重要的是，因為物聯網的應用多元，每一類型的應用架構都可找到最適合的效能架構，如何讓資源使用優化，落實物盡其用的愿景，是目前設計工程師最需要的考慮的方向。
先進制程將幫助打造更快速、更有效率的運算架構，能夠有效管理實時分析及運用大量由終端裝置所產生的數據數據，因應用戶在不同情境下的需求，在短時間內精確處理海量的數據，并做出最正確的判斷與實時的反應。
TinyML可望在未來五年內獲得超過700億美元的收益，其目的就在提升物聯網設備易用性，并改變智能物聯的未來前景。
將運算從云端轉移至邊緣端，甚至是終端裝置，一直是這幾年產業的大趨勢，這使得Edge AI及End-point AI成為近幾年熱門的話題。當然產業也開始重視MCU-based AI應用，從嵌入式機器學習（Embedded ML）到微型機器學習（TinyML）都開始受到關注。TinyML被視為是快速發展的機器學習技術應用領域，從硬件、算法到應用軟件，都能以極低的功耗來執行設備上的傳感器數據分析，并實現各種長時間運作的應用，滿足電池長期供電的設備需求，因此特別適合用于物聯網設備。
TinyML將邊緣AI更進一步深化，使得在微控制器（MCU）上運行深度學習模型成為可能。比起一些小型的處理器，MCU的資源受限得多。目前MCU價格很便宜，平均銷售價格約低于0.50美元，而且它們無所不在，嵌入到消費端和工業設備之中。因此，如果在MCU上導入深度學習模型，就可以為許多應用開啟新的應用。
深度學習模型最初的成功，要歸功于具有海量存儲器和GPU資源的大型服務器。深度學習的前景催生了整個深度神經網絡的云端運算產業，在幾乎無限制的云端資源上運行超大型神經網絡是件很酷的事情，特別是針對那些有能力支付大筆開銷的大型企業。然而在此同時，近年來我們也看到了新的趨勢，也就是在邊緣設備上也開始需要導入機器學習模型。這些模型就是TinyML，這適合用在記憶容量與運算能力有限的物聯網設備上。
隨著半導體技術的快速提升，現在可以說是在物聯網終端裝置上，設計與部署真正智能的好時機。具備感知環境能力的裝置，能為其搜集到的數據與促成的服務，創造極大的價值。硬件與軟件近年來的發展，能夠為原本資源受限的終端裝置平臺增添更多的運算效能，促成大幅度的改變，讓開發人員可以為終端裝置導入真正的智能，并打造出視覺、語音與震動的能力。
智能聯網組件的選擇考慮
實時性與低延遲
Arm AIoT方案資深經理黃晏祥指出，許多情況下，將數據發送回云端進行處理是不可行的。減少數據往返時間不僅可以提高響應時間，而且在工業制造等作業中，實時處理對安全和營運相當重要。同樣的原則也適用于車聯網的場景。因此，在智慧化的物聯網應用當中，可運用ML來更快獲得訊息，并以極低延遲的效率傳遞給人或機器。
圖二 : Arm AIoT方案資深經理黃晏祥
安全與隱私保護
當物聯網裝置被廣泛部署，而裝置上又收集到許多數據數據，甚至有些機敏的數據，使得信息安全對于物聯網從端到云的整個過程也都極為重要。企業在布署物聯網時，對于遵從哪套標準也可能莫衷一是。Arm推動的PSA認證制度，就是希望能提供業界一致的安全標準。
規模化與經濟效益
物聯網最大的挑戰之一就是碎片化。之前許多企業傾向采用專用（proprietary）系統，造成物聯網不易擴大規模，導致經濟效益不彰。Arm Project Centauri目的在于建立一套開放標準架構，可以先就底層作業預作處理，并簡化設計流程，物聯網開發者可針對特定應用場景進行差異化開發。同時，物聯網相關應用也能更容易地進行開發，更快的反應市場趨勢并掌握商機，以提高企業的投資報酬率。
低功耗及易于使用
TinyML的導入，在硬件層面需要解決對于極低功耗的要求，在軟件層面則需要滿足易于使用與移植的特性。
結語
根據預測，到2030年，大約有20億臺設備將透過TinyML技術進入市場，并透過具有成本效益的方式，創造智能設備來造福市場使用者。至于在經濟方面，TinyML可望在未來五年內獲得超過700億美元的收益。TinyML目的就在于提升物聯網設備的應用易用性，并且改變智能化物聯設備的未來前景。
