【Unity】Vector向量使用Debug.Log时出现的精度问题

声明三个变量,分别为Vector2、Vector3和Vector4类型,然后给他们的x分量设为带三位小数的0.375,用Debug.Log输出。

using System.Collections;
using System.Collections.Generic;
using UnityEngine;

public class TestVector : MonoBehaviour
{
    void Start()
    {
        Vector2 vector2 = new Vector2(0.375f, 0);
        Vector3 vector3 = new Vector3(0.375f, 0, 0);
        Vector4 vector4 = new Vector4(0.375f, 0, 0, 0);
        Debug.Log($"vector2:{vector2},vector2.x:{vector2.x}");
        Debug.Log($"vector3:{vector3},vector3.x:{vector3.x}");
        Debug.Log($"vector4:{vector4},vector4.x:{vector4.x}");
    }
}

由下面的输出结果,我们发现直接打印vector变量时,它的精度会被改变,由0.375四舍五入到0.38,但如果打印它的x分量,发现数值精度并没有改变。

推断是因为Debug.Log使用Vector的ToString()方法时,做了一个只保留两位小数的处理,实际上Vector保存的每个分量的精度没有被改变。

综上,要谨慎使用Vector类型的ToString()方法,某些情况如果将Vector保存成文本类型再重新读取可能会出现问题。

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值