numerical computation
文章平均质量分 70
CodeCold
这个作者很懒,什么都没留下…
展开
-
浮点转定点运算
Original Source:http://www.cnblogs.com/s_agapo/archive/2012/03/20/2407332.htmlhttp://blog.csdn.net/sonictl/article/details/9018681原文基于信号处理,本文对原文进行了精简和勘误,主要就浮点转定点运算的思想及实现进行说明:1. 简介:转载 2016-07-24 20:39:47 · 28541 阅读 · 3 评论 -
十进制二进制转换
基于库函数实现十进制转二进制,二进制转十进制。{二进制以字符串形式表示,不含除"0", "1"外其他字符}Language support(Up to now 16.9.14): C/C++ , PythonC/C++:Dec->Bin#include #include char buffer[9] = {0};_itoa( _integer, buff原创 2016-09-14 12:07:34 · 998 阅读 · 0 评论 -
Stochastic Rounding Algorithm
Algorithm Implementation based on 《Deep Learning with Limited Numerical Precision》ICML 2015 LILLEC++ Version:#include #include using namespace std;float StochasticRounding(floa原创 2016-08-03 18:24:54 · 1690 阅读 · 0 评论 -
浮点数量化2^n定点数
Target:将浮点数量化到最近的2^n定点数Code:E.g. 量化为3bit 区间为[-1,0.5]#include #include using namespace std;template int getArrayLen(Dtype& array){ return (sizeof(array) / sizeof(array[0]));}t原创 2016-11-12 10:49:19 · 3813 阅读 · 0 评论 -
LAPACK 求矩阵的逆
original source: http://stackoverflow.com/questions/3519959/computing-the-inverse-of-a-matrix-using-lapack-in-cFunction:inv(A)C++ Code (Edited):#include #include // pre install ://转载 2016-11-14 14:54:39 · 3805 阅读 · 0 评论