深度神经网络Softmax函数定点算法设计

由于Softmax函数涉及高精度自然指数和浮点除法计算,深度神经网络推理计算占用大量硬件资源,导致神经网络部署难题。本文提出一种浮点数量化和定点计算方法,只用定点加法、移位操作即可实现精度高的Softmax函数值计算,满足高效推理需求。借助本文算法深度神经网络将易于部署到各种定点硬件平台,减少硬件资源占用,对神经网络部署应用启到促进作用。