自從物聯網（IoT）出現以來，邊緣智能是一項頗具顛覆性的創新。物聯網帶來了數十億智能互聯設備，這些設備傳輸TB級海量傳感器數據，用于執行基于人工智能的云計算，除此之外，另一項革命正在進行，那就是邊緣設備上的機器學習（ML）。隨著越來越多的智能化計算遷移到網絡邊緣，恩智浦緊跟趨勢，提供成本、性能和功率優化的處理解決方案，以便跨多個市場和應用推動機器學習技術，讓最終用戶享受到邊緣計算增強安全性、提高隱私性和減少延遲的優勢。
以前，機器學習、深度學習和神經網絡應用一直是數據科學家和人工智能專家的開發領域。但是，隨著越來越多的機器學習工具和技術可用來消除機器學習應用開發方面的一些復雜性，這種情況正在逐漸改變。恩智浦的eIQ（“edge intelligence”）機器學習開發環境就此應運而生。eIQ提供一組綜合工作流程工具、推理引擎、神經網絡（NN）編譯器、經過優化的庫和技術，幫助簡化并加快機器學習開發。eIQ適合各種技能水平的用戶，從第一次接觸深度學習項目的嵌入式開發人員，到重點研究高級目標識別、分類、異常檢測或語音識別解決方案的專家，eIQ都可以助力開發。
eIQ機器學習軟件于2018年推出，經過不斷發展，可支持系統級應用和機器學習算法實現，適用于恩智浦i.MX系列，包括低功耗i.MX RT跨界微控制器（MCU），以及基于Arm? Cortex?-M和Cortex?-A內核的多核i.MX 8和i.MX 8M應用處理器。
重大升級
為幫助機器學習開發人員更熟練地基于恩智浦i.MX平臺進行機器學習開發，并提高工作效率，我們大力擴展eIQ軟件環境，在其中添加了全新的eIQ Toolkit工作流程工具、基于圖形界面（GUI）的eIQ portal開發環境以及針對i.MX和i.MX RT設備進行優化的DeepViewRT?推理引擎。
下面詳細介紹eIQ軟件環境中新增的這些強大的工具如何幫助簡化機器學習開發，提高工作效率并為開發人員提供更多選項和更大的靈活性。
eIQ Toolkit：實現“機器學習人人可用”
考慮到機器學習、神經網絡和深度學習應用的潛在復雜性以及機器學習開發人員的不同需求，簡單的“萬能”工具并不適合。更好的方法是提供靈活的綜合工具套件，該套件應該能夠擴展，以滿足不同技能水平和經驗水平的機器學習開發人員。為此，我們在eIQ機器學習開發環境中添加了強大但易用的eIQ Toolkit，使開發人員能夠導入數據集和模型，基于恩智浦i.MX 8M應用處理器系列和i.MX RT跨界MCU系列訓練、量化、驗證和部署神經網絡模型與機器學習相關的計算。無論您是剛剛接觸機器學習項目的嵌入式開發人員，還是熟練的數據科學家，抑或是人工智能專家，都能在eIQ Toolkit中找到合適功能，以匹配您的技能水平并簡化機器學習項目的開發。
eIQ Toolkit提供簡單的工作流程和機器學習應用示例。此外，eIQ Toolkit包括eIQportal，提供基于GUI的直觀開發選項，您也可以根據自己的喜好選擇使用命令行工具。如果您想要利用現成的開發解決方案，或者需要恩智浦或我們值得信賴的合作伙伴提供的專業服務與支持，您可以在eIQ Toolkit中輕松訪問Au-Zone Technologies等公司提供的不同選擇，eIQ也會不斷更新豐富相關的支持。
通過使用eIQ portal，您可以輕松創建、優化、調試、轉換并導出機器學習模型，也可以從TensorFlow、ONNX和PyTorch機器學習框架中導入數據集和模型。您可以通過“自帶數據”（BYOD）流程，使用自己的數據訓練模型，從由預先訓練的模型組成的數據庫中選擇，或者通過“自帶模型”（BYOM）流程導入預先訓練的模型，比如來自Au-Zone Technologies的高級檢測模型。通過遵循簡單的BYOM流程，您可以使用基于云的公共或私有工具構建經過訓練的模型，然后將模型傳輸到eIQ Toolkit中，以便在針對芯片優化后的推理引擎上運行。
針對目標的圖形級別分析功能讓開發人員能夠在運行時深入了解運行情況，以便微調和優化系統參數、運行時性能、內存使用和在i.MX設備上執行的神經網絡架構。
恩智浦全新eIQ推理引擎
推理引擎是機器學習開發項目的核心，這是機器學習應用的運行時組件。eIQ機器學習軟件開發環境支持使用針對Glow、ONNX和TensorFlow Lite等針對i.MX和MCU進行優化的各種基于社區的開源推理引擎進行推理，除此之外，我們又新添加了DeepViewRT推理引擎。
DeepViewRT是與合作伙伴Au-Zone Technologies聯合開發的專有推理引擎，提供由供應商維護的更長期穩定的解決方案，作為對于現有開源推理引擎的補充。
在DeepViewRT推理引擎在MCUXpresso SDK中作為中間件集成，對于使用Linux操作系統的產品開發，DeepViewRT推理引擎可以通過Yocto BSP獲得。
