double 和float精度问题

悬赏园豆：10 [已解决问题] 解决于 2022-03-24 14:31

牛顿迭代算题的时候出现这样一幕
public int mySqrt(int x) {
int n = x;
double a = x;
while(a * a-n>0.1){
a -= (a * a-n)/(a * 2);
}
return (int)a;
}
其中double可以float有时候会差一个数

算法 Java基础

什么塞瓦定理啊 | 初学一级 | 园豆：193
提问于：2022-03-23 21:12

< >

最佳答案

double比float 的精度高，一般小数都用double类型的变量，如果要求精度更高的，需要用decimal 类型的变量

收获园豆：10

中华鲟3670 | 小虾三级 |园豆：922 | 2022-03-24 13:20

清除回答草稿

您需要登录以后才能回答，未注册用户请先注册。

欢迎，请先 登录 或者 注册 。

double 和float精度问题

欢迎，请先登录或者注册。