- 博客(2)
- 收藏
- 关注
RSS订阅原创 numpy实现基于超大整数矩阵运算的神经网络
如果强行将大整数转换为float或者double类型，由于python（很多其他语言也是这样）的float32和float64（double）分别遵从IEEE754单精度和双精度标准，其能表达的有效数字分别只有23位和52位，因此当我们把超大整数（有效2进制数在100位以上）转为float时必然会损失很多有效数字。可以看到，这里将每条205个大整数的二十万条数据读入了numpy数组，转为int类型之后显示dtype为'O'，支持乘法运算，结果的dtype仍为'O'
2023-05-25 22:15:06
200
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人