為差異化AIOT應用提供GPU和神經網絡加速器IP

Andrew Grant

1為AIOT提供神經網絡加速器

Imaginatron Technologies專注于邊緣和終端上的人工智能物聯網（AIoT）。我們創建半導體知識產權（IP），soc設計人員使用它們來開發用于邊緣設備的芯片。我們可以為神經網絡增加加速功能，以使它們能夠在終端上快速運行，進而增強邊緣的能力。在某些AI任務中，神經網絡加速器（NNA）的性能是典型嵌入式cPu的100倍，從而將以前只有在數據中心才能實現的性能直接帶給終端用戶。

我們看到的趨勢是，隨著“網絡邊緣”逐步涵蓋智慧城市、機器人流程自動化（RPA）和用于安防監控的智能攝像頭等智能設備，這一點正變得越來越重要。通過開發可用于邊緣同時占用最小芯片面積的全能型IP，將推動新一波邊緣設備面世。

2如何簡化AIOT終端設備的設計

簡化物聯網（IoT）終端設備的需求就是將功能整合到盡可能小的芯片面積中，以節省芯片成本。Imagination的IP（GPu和NNA）具備的靈活性和支持的功能，意味著能以極低的功耗為邊緣推理增加加速性能，這對于AIoT設備而言是非常理想的。

如今機器學習和邊緣AI的創新速度十分迅速，意味著幾乎每天都有新的進展。通過與主要框架的開發人員和終端用戶市場保持緊密聯系，Imaginatron一直身處于創新方法的前沿。Imagination不斷更新自己的軟件驅動程序，以利用新的技術進展和層操作運算方法。

3針對具體應用的差異化方法將是人們渴望實現的最終目標

今天，市面上仍有8位、16位Mcu，并新出現了RIsc-V Mcu。實際上，盡管純粹的性能始終是業界關鍵的成功因素之一，但針對具體應用采用差異化和優化的方法將是人們渴望實現的最終目標。

無論如何，探求靈活的、可用于眾多領域的IP是非常重要的，同時使用可組合在一起以實現更高性能的IP構建模塊將是一個決定性因素。Imagination的AIsynergy就是這方面一個很好的例子，利用AI synergy技術，各層可以在NNA上加速，同時浮點運算和自定義層可在GPU上運行。通過使用Imagination的Hyperlane技術中預留的HypeL ane通道，在保護任何圖形輸出的同時，還可以運行其他計算任務。