程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 數據庫知識 >> MYSQL數據庫 >> 關於MYSQL數據庫 >> MySQL 中與浮點比較有關問題的解決

MySQL 中與浮點比較有關問題的解決

編輯:關於MYSQL數據庫

    注意,下述部分主要與DOUBLE和FLOAT列相關,原因在於浮點數的不准確本質。MySQL使用64位十進制數值的精度執行DECIMAL操作,當處理DECIMAL列時,應能解決大多數常見的不准確問題。

浮點數有時會導致混淆,這是因為它們無法以准確值保存在計算機體系結構中。你在屏幕上所看到的值通常不是數值的准確值。對於FLOAT和DOUBLE列類型,情況就是如此。DECIMAL列能保存具有准確精度的值,這是因為它們是由字符串表示的。

在下面的示例中,介紹了使用DOUBLE時的問題:


MySQL> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
MySQL> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
-> (6, 0.00, 0.00), (6, -51.40, 0.00);
 
MySQL> SELECT i, SUM(d1) AS a, SUM(d2) AS b
-> FROM t1 GROUP BY i HAVING a <> b;
 
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

結果是正確的。盡管前5個記錄看上去不應能進行比較測試(a和b的值看上去沒有什麼不同),但它們能進行比較,這是因為顯示的數值間的差異在十分位左右,具體情況取決於計算機的體系結構。

如果列d1和d2定義為DECIMAL而不是DOUBLE,SELECT查詢的結果僅包含1行,即上面顯示的最後1行。

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved