方孔分段的lisp_Sigmoid函数的分段非线性拟合法及其FPGA实现

作者：宋宇鲲，高晓航，张多利，杜高明，2017年电子技术应用第8期

摘 要： 使用分段非线性逼近算法计算超越函数，以神经网络中应用最为广泛的Sigmoid函数为例，结合函数自身对称的性质及其导数不均匀的特点提出合理的分段方法，给出分段方式同逼近多项式阶数对逼近结果精度的影响。完成算法在FPGA上的硬件实现，给出一种使用三阶多项式处理Sigmoid函数的拟合结果及流水线架构，处理精度达到10-5数量级，最大频率达到127.327 MHz，满足了高速、高精度的处理要求。

0 引言

在实时图像处理、数字信号处理等领域内，经常需要对非线性函数进行高速计算[1]。而在人工神经网络中更是需要对大量的非线性函数进行计算。因此，在人工神经网络的研究领域内，研究如何高速地处理非线性函数具有十分重要的意义。在人工神经网络中应用最为广泛的是Sigmoid函数。目前对于Sigmoid函数实现技术的研究主要分为软件实现和硬件实现两个方面。由于软件相比硬件而言速度较慢并且并行程度很低，所以无法满足其快速处理的要求[2]。因此，在超大规模集成电路快速发展的当今时期，研究如何利用硬件快速处理Sigmoid函数显然更加有意义。

FPGA凭借其可重构技术的灵活性，成为解决Sigmoid函数高速计算问题的有力工具。目前利用FPGA计算Sigmoid函数常用的方法有查找表法、CORDIC算法、Taylor级数展开法和分段线性逼近法。查找表法[3]提前将所有的计算结果保存在一个ROM中，这种方法计算方便且容易实现，但是随着函数计算精度的提高和拟合区间的增加，其所需求的存储资源会显著增加，资源消耗很高。CORDIC算法[4]通过多次迭代将一些复杂的运