关于浮点数精度的问题

float double数精度,自己原来也不怎么在乎,但这大半年下来竟然发现屡屡在此问题上栽跟头。

总结下来写渲染程序:

1.在CPU端尽量设置为double类型数据计算各种变换矩阵,最终传给GPU时再弄为float。

2.如果数值偏差太大,建议先转换为局部坐标系进行各种计算,最终转换为最后的坐标系。

3.顶点着色器中设置为高精度的high,比medium 降低的性能真的很小,但效果改善很不错。

4.有时向着色器中传入时间变量,会随着程序的开启越来越大,此时要注意精度,采取必要的措施,如取余等方式。

转载于:https://www.cnblogs.com/liding/p/6255172.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值