程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> 更多編程語言 >> 編程解疑 >> 數據類型-Java double和float精確度問題

數據類型-Java double和float精確度問題

編輯:編程解疑
Java double和float精確度問題

我控制台輸出(10000.0/3.0)結果為3333.333333333335共18個字符但是double精度是15位啊,我將它轉化為float結果為3333.3333但是float的精度是6-7位為什麼會這樣,新手求解

最佳回答:


double的精度和輸出的10進制方式的精度沒有任何關系。這裡說的double float的精度是指它的有效精度。以你的程序為例,它輸出
3333.333333333335,很明顯最後一位5已經不是有效數字了,它的有效數字是15位,和你的結論是一樣的。

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved