马克西姆希望用于边缘设备的低功率神经网络加速器芯片将引领一场“嵌入式革命”

人工智能和物联网似乎是天作之合，但要将两者完美结合，还需要克服许多障碍。总的来说，物联网是一种低功耗、电池供电的技术。另一方面，人工智能，特别是卷积神经网络(对机器视觉至关重要)，在计算上非常昂贵。

边缘计算提供实时数据处理。图片由计算理论

为了克服这些挑战，通常的做法是将计算转移到云上。然而，这带来了大量的延迟和安全问题。例如，一辆自动驾驶汽车需要尽快做出实时决策。它不能再等待数据被发送到云、计算和返回。

但是嵌入式设备呢?Maxim Integrated Micros、安全和软件业务部门的执行总监克里斯·阿迪斯认为，目前小型嵌入式设备“错过了这场人工智能革命的其余部分”。

阿迪斯解释说:“他们看不见也听不见——除了简单的词语，他们听不见的东西太多了。”“所以这就是我们试图填补的空白:我们如何才能把更多的人工智能前景带到嵌入式世界?”

一个新的解决方案：Maxim集成的NN加速器芯片

为了回答这个问题，Maxim Integrated转向了低功耗、高性能的人工智能芯片。今天上午，该公司宣布了其最新产品:a神经网络加速器芯片，旨在让人工智能应用于电池驱动的物联网设备。

新的芯片MAX78000，包括两个超低功耗核心 - ARM Cortex-M4核心或RISC-V基于FPU的微控制器，以及卷积神经网络加速器。ARDIS评论，“RISC-V在那里，因为在进入加速器之前，它是一种很好的低功耗方式来按摩数据。”

从性能的角度来看，Maxim提出了一些令人印象深刻的规范——特别是在性能和延迟方面。

MAX78000的简化框图。图片由马克西姆集成

在能源方面，该公司表示，MAX78000提供:

• 运行mnist时的能耗降低1,100倍
• 400x延迟改进MNIST
• 与低功耗Cortex M4F相比，在关键字发现期间的600x低能耗
• 与96 MHz的Cortex M4F相比，关键字识别性能提高了200倍

让我们深入了解这些规格是如何实现的。

MAX78000的核心:神经网络加速器

该SOC中最独特的特征是神经网络加速器，它是专门的硬件，旨在使卷积神经网络（CNNS）的能量消耗和延迟最小化。

根据Ardis的说法，采用的架构完全是专有的和新颖的。它的设计目标是最小化数据移动，众所周知，数据移动对芯片能量来说是一个巨大的负担，特别是在处理CNN链中的复杂数学配置时。

此外，加速器 - 这支持机器学习宇宙中的普通工具，如Tensorflow和Pytorch-旨在增加数学并行性，优化能量消耗并显着降低推理时间。

重要功能块概述。图片由Maxim Integrated提供

系统操作的另一个特征是微控制器的参与最小。一般来说，此架构中的MCU旨在配置网络，加载数据并启动它。在MCU完成其初始工作之后，它基本上是偏离的。这也证明对能源效率非常重要。

该设备还在执行之前加载数据，该数据会在推理期间否定访问存储器的需要，从而降低能量消耗，并提高延迟。“没有所需的外部内存，实际上是我们节省能源的方式之一。所有内存都是片上的，”Ardis说。

IOT的游戏更换器？

随着人们对低功耗、高性能AI芯片的需求日益增加，这条新闻在物联网领域似乎具有极其重要的意义。

新NN加速器的描述。图片由马克西姆集成

根据Maxim Integrated公司的说法，这种设备有潜力为系统提供实时决策的能力——比基于云计算的计算更快——并且没有相关的安全问题。

通过将AI带到边缘设备，该设备可以使新的应用程序，如毫秒或数据处理助听器内的面部ID。以这种方式，MAX78000可能是嵌入式设备的“切割电源线”的重要步骤。

Ardis表示，希望MAX78000可以开辟一条“嵌入式革命”的道路，类似于嵌入式革命微控制器带来的类型。“在微处理器出现之前，没有人想到微控制器会有这么多的功能。现在我至少穿了两件，”他说。

“这就是我们认为的人工智能前沿技术将走向的方向，希望我们能成为引领这一趋势的人之一。”