ML
文章平均质量分 96
Machine Learning
Iareges
这个作者很懒,什么都没留下…
展开
-
浮点数的存储方式、bf16和fp16的区别
目录1. 小数的二进制转换2. 浮点数的二进制转换3. 浮点数的存储3.1 以fp32为例3.2 规约形式与非规约形式4. 各种类型的浮点数5. BF16和FP16的区别Ref1. 小数的二进制转换十进制小数转换成二进制小数采用「乘2取整,顺序排列」法。具体做法是:用 222 乘十进制小数,可以得到积,将积的整数部分取出,再用 222 乘余下的小数部分,又得到一个积,再将积的整数部分取出,如此进行,直到积中的小数部分为零,或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,先取的整数作为二进原创 2024-04-17 18:11:21 · 929 阅读 · 2 评论 -
信息与熵,你想知道的都在这里了
信息论(Information Theory)原创 2022-07-03 18:34:15 · 596 阅读 · 16 评论 -
浅谈sklearn中的数据预处理
sklearn中的数据预处理原创 2022-06-12 16:28:50 · 552 阅读 · 19 评论 -
深入理解P-R曲线、ROC与AUC
目录一、均方误差、精度与错误率二、查准率、查全率与F1F1F12.1 查准率(Precision)与查全率(Recall)2.2 混淆矩阵的可视化2.3 P-R曲线与BEP2.4 F1F1F1 与 FβF_{\beta}Fβ三、ROC与AUC3.1 ROC(Receiver Operating Characteristic)3.2 AUC(Area Under roc Curve)一、均方误差、精度与错误率对模型的泛化性能进行评估,我们需要有衡量模型泛化能力的评价标准,这就是性能度量(Performa原创 2022-05-30 09:59:20 · 2129 阅读 · 48 评论