js转化IEEE754数据

本文详细介绍了IEEE754浮点数的原理,提供了一个JavaScript函数getIee754Value,用于将十六进制的IEEE754数据转换为十进制,涉及符号、指数和尾数的处理过程。
摘要由CSDN通过智能技术生成

1.什么是IEEE754?


IEEE754 浮点数:简读+案例=秒懂_ieee754浮点数的计算-CSDN博客

2.将十六进制的IEEE754数据转化为十进制数据

// console.log(getIee754Value("42F66B85", false, 2));//123.21


/**
 * 转化十六进制的IEEE754标准数据为十进制浮点型数据
 * @param {String} hexString 十六进制字符串
 * @param {Boolean} change 是否高低位互换
 * @param {number} decimalNum 小数位
 */
export function getIee754Value(hexString, change = false, decimalNum = 2) {
	if (hexString === "00000000") {
		return '0.00';
	}
	if (change) {
		hexString = hexString.substring(4, 8) + hexString.substring(0, 4);
	}
	let bytes = hexStringToBytes(hexString);
	return bytesToFloat(bytes, decimalNum);
}

/**
 * 字节数组转float
 * 采用IEEE 754标准
 */
function bytesToFloat(bytes, decimalNum) {
	//获取 字节数组转化成的16进制字符串
	let binaryStr = bytesToBinaryStr(bytes);
	//符号位S
	let s = parseInt(binaryStr.substring(0, 1));
	//指数位E
	let e = parseInt(binaryStr.substring(1, 9), 2);
	//位数M
	let M = binaryStr.substring(9);
	let m = 0,
		a, b;
	for (let i = 0; i < M.length; i++) {
		a = parseInt(M.charAt(i));
		b = Math.pow(2, i + 1);
		m = m + (a / b);
	}
	let f = ((Math.pow(-1, s)) * (1 + m) * (Math.pow(2, (e - 127))));
	return f.toFixed(decimalNum);
}

/**
 * 将字节数组转换成16进制字符串
 */
function bytesToBinaryStr(bytes) {
	let binaryStr = "";
	for (let i = 0; i < bytes.length; i++) {
		let str = (bytes[i] & 0xFF).toString(2);
		str = "00000000".substring(str.length) + str;
		binaryStr += str;
	}
	return binaryStr;
}

/**
 * 将十六进制字符串转换为字节数组
 */
function hexStringToBytes(hexString) {
	let bytes = [];
	for (let i = 0; i < hexString.length; i += 2) {
		bytes.push(parseInt(hexString.substr(i, 2), 16));
	}
	return bytes;
}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
JavaScript中,数字类型被表示为64位双精度浮点数,也就是IEEE754标准的浮点数。由于这种表示方式的限制,JavaScript中的数字类型在处理某些特定的数值时可能会丢失精度。 其中一个常见的情况是处理小数。由于浮点数总是以二进制形式存储,而不是十进制形式,所以在某些十进制小数的转换和计算过程中,可能会导致精度丢失。例如,0.1在二进制表示中是一个无限循环的数字,因此在进行计算时可能会产生舍入误差,导致结果不准确。 另一个常见的情况是处理大整数。由于JavaScript中的数字类型有限的存储长度(64位),超过这个长度的整数可能会被截断,导致精度丢失。这在涉及到大数运算、精确计算或需要非常精确结果的场景中可能会带来问题。 为了解决这些问题,可以使用一些技巧来确保精度不受影响。比如,可以使用一些库或工具来处理大数运算,避免使用浮点数进行货币计算等需要精确结果的情况。此外,可以使用一些特定的算法或技术,如使用字符串表示数值而不是直接使用数字类型,避免使用浮点数进行累计计算,使用专门处理小数的库等。 总的来说,尽管JavaScript中的数字类型在处理一些特定数值时可能丢失精度,但可以采取一些措施来减小这种影响,以确保需要精确计算的场景中的结果是准确的。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值