【新思科技IP资源】实现智能 IoT 应用的低功耗机器学习

arui1999

【新思科技IP资源】实现智能 IoT 应用的低功耗机器学习 [复制链接]

机器学习 (ML) 技术用于构建具有高级功能的设备，已在许多领域有所应用。这些设备应用经过训练的机器学习技术，可以从一个或多个传感器捕获的数据（如麦克风捕获的语音命令）中识别某些复杂向量，继而执行适当的操作。例如，识别出语音命令“播放音乐”之后，智能扬声器就可以启动歌曲的播放。机器学习是指算法无需经过显式编程就能学习的能力。本文将重点讨论机器学习推理，这个流程采用经过训练的模型对传感器捕获的输入数据进行有用的预测，以推理它经过训练后要去识别的复杂向量。我们将考虑高效实现机器学习推理的要求，以构建智能 IoT 边缘设备。

 

IoT 低功耗机器学习推理的要求
采用低功耗机器学习推理应用的 IoT 边缘设备通常执行不同类型的处理，如图 1 所示。 

 

这些设备通常对传感器输入数据执行一些预处理和特征提取，然后再对训练后的模型进行实际的神经网络处理。例如，具有语音控制功能的智能扬声器，可以首先通过执行回声消除和多麦克风波束形成对语音信号进行预处理。然后利用 FFT 提取光谱特征，在神经网络处理中经过训练用于识别语音指令词汇。

 

神经网络中每一层的输入数据都必须转换成输出数据。常见的一种转换就是卷积，它将输入数据与一组训练好的权重进行卷积，或者更精确地说，是将其关联起来。这种转换用于卷积神经网络 (CNN)，通常应用于图像或视频识别。循环神经网络 (RNN) 是另一种神经网络，可在处理输入序列时维持状态。因此，RNN 也有能力识别不同时间的向量。在文本和语音识别中，经常应用 RNN。 这些网络的关键运算是对输入样本和权重的点积运算。因此，处理器需要高效地实现这样的点积运算操作。这就要涉及高效计算，例如使用乘积累加 (MAC) 指令，以及对输入数据、权重核和输出数据的高效访问。

 

阅读更多内容>>