解决了个困扰了2天的问题,定点运算问题
2019/7/10 22:57:23
本文主要是介绍解决了个困扰了2天的问题,定点运算问题,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
分母变小了,相当于左移了
复制代码 代码如下:
a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)
|b|<pow(2,23)
|c|=pow(2,26)
|a|<1
在运算个过程中,需要把该运算转换成定点运算。
想了2天,都没有想出怎么可以保证a的精度,因为a可能很小,如果简单的
复制代码 代码如下:
a<<=8;
是无法保证a的精度的。
今天快要下班时,突然有灵机一动:
复制代码 代码如下:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度
分子不能左移太多位,分母右移,解决问题了。
发散思维说起来很容易,做起来不容易呀!
以上就是本文的全部内容,希望能给大家一个参考,也希望大家多多支持找一找教程网。
这篇关于解决了个困扰了2天的问题,定点运算问题的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-15在使用平台私钥进行解密时提示 "私钥解密失败" 错误信息是什么原因?-icode9专业技术文章分享
- 2024-11-15Layui框架有哪些方式引入?-icode9专业技术文章分享
- 2024-11-15Layui框架中有哪些减少对全局环境的污染方法?-icode9专业技术文章分享
- 2024-11-15laydate怎么关闭自动的日期格式校验功能?-icode9专业技术文章分享
- 2024-11-15laydate怎么取消初始日期校验?-icode9专业技术文章分享
- 2024-11-15SendGrid 的邮件发送时,怎么设置回复邮箱?-icode9专业技术文章分享
- 2024-11-15使用 SendGrid API 发送邮件后获取到唯一的请求 ID?-icode9专业技术文章分享
- 2024-11-15mailgun 发送邮件 tags标签最多有多少个?-icode9专业技术文章分享
- 2024-11-15mailgun 发送邮件 怎么批量发送给多个人?-icode9专业技术文章分享
- 2024-11-15如何搭建web开发环境并实现 web项目在浏览器中访问?-icode9专业技术文章分享