首页 新闻 搜索 专区 学院

double 和float精度问题

0
悬赏园豆:10 [已解决问题] 解决于 2022-03-24 14:31

牛顿迭代算题的时候出现这样一幕
public int mySqrt(int x) {
int n = x;
double a = x;
while(a * a-n>0.1){
a -= (a * a-n)/(a * 2);
}
return (int)a;
}
其中double可以float有时候会差一个数

什么塞瓦定理啊的主页 什么塞瓦定理啊 | 初学一级 | 园豆:193
提问于:2022-03-23 21:12
< >
分享
最佳答案
1

double比float 的精度高,一般小数都用double类型的变量,如果要求精度更高的,需要用decimal 类型的变量

收获园豆:10
中华鲟3670 | 小虾三级 |园豆:647 | 2022-03-24 13:20
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册