关于C++变量类型精度的研究

今天在练习的时候,忽然发现了一个神奇的“bug”,就是C++在进行数据精度处理的时候会有不同的结果,下面便是我做的两个小测试。

NO1.

关于C++变量类型精度的研究

如图,在同时使用int类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.000000

NO.2

关于C++变量类型精度的研究

如图,在同时使用double类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.500000

--------------分割线---------------

真的是很神奇,暂时还未找到原因,待解决后补充原因。

原文链接: https://www.cnblogs.com/alixx/p/12303420.html

欢迎关注

微信关注下方公众号,第一时间获取干货硬货;公众号内回复【pdf】免费获取数百本计算机经典书籍;

也有高质量的技术群,里面有嵌入式、搜广推等BAT大佬

    关于C++变量类型精度的研究

原创文章受到原创版权保护。转载请注明出处:https://www.ccppcoding.com/archives/328997

非原创文章文中已经注明原地址,如有侵权,联系删除

关注公众号【高性能架构探索】,第一时间获取最新文章

转载文章受原作者版权保护。转载请注明原作者出处!

(0)
上一篇 2023年3月1日 下午4:57
下一篇 2023年3月1日 下午4:57

相关推荐