量化(1):基础知识
最新推荐文章于 2024-09-20 15:09:03 发布
本文介绍了量化计算的基础知识,包括定点数的概念、转换方法以及量化计算的两种解决方案:偏移法和最大绝对值法。通过量化案例展示了如何将浮点数据转换为定点数据,并分析了量化对数据精度和内存使用的影响。
摘要由CSDN通过智能技术生成