程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> C語言 >> C++ >> 關於C++ >> Vdsp(bf561)中的浮點運算(2):float的疑問

Vdsp(bf561)中的浮點運算(2):float的疑問

編輯:關於C++

寫一行很簡單的C代碼:

float a = 1234.56;

用vdsp編譯後的匯編代碼為:

R0 = 20972 ( X ) ;

R0.H = 17562 ;

[ FP + 0x10 ] = R0 ;

有點看不懂,呵呵,R0的值轉換為十六進制就是0x449A51EC。根據vdsp文檔的說法,其單精度浮點數格式為:

浮點數計算公式:

將0x449A51EC轉換為二進制:

0100 0100 1001 1010 0101 0001 1110 1100

可得:

Sign = 0

Mantissa = 001 1010 0101 0001 1110 1100

Exponent = 1000 1001

按照公式

將Exponent轉換為十進制,其值為137。

將Mantissa轉換為十進制,其值為:

2-3 + 2-4 + 2-6 + 2-9 + 2 -11 + 2-15 + 2-16 + 2-17 + 2-18 + 2-20 + 2-21 =

0.125 + 0.0625 + 0.015625 + 0.001953125 + 0.00048828125 + 0.000030517578125 + 0.0000152587890625 + 0.00000762939453125 + 0.000003814697265625 + 0.00000095367431640625 + 0.000000476837158203125 = 0.205625057220458984375

代入浮點數計算公式:

(-1)0 + 1. 205625057220458984375 * 2 (137-127)

= 1234.56005859375

那麼編譯器又是如何將1234.56轉換為0x449A51EC的呢?

首先轉換整數部分,用2除,取余數,其結果為:

1234 / 2 = 617 ….. 0

617 / 2 = 308 …….1

308 / 2 = 154 …….0

154 / 2 = 77 ……...0

77 / 2 = 38 ……….1

38 / 2 = 19 ……….0

19/ 2 = 9 ………….1

9 / 2 = 4………… .1

4/ 2 = 2 …………..0

2/2 = 1……………0

1/2 = 0……………1

即100 1101 0010,用16進制表示則為:0x4d2。

再轉換小數部分,用2乘,取整數位:

0.56 * 2 = 1.12取1

0.12 * 2 = 0.24取0

0.24 * 2 = 0.48取0

0.48 * 2 = 0.96取0

0.96 * 2 = 1.92取1

0.92 * 2 = 1.84取1

0.84 * 2 = 1.68取1

0.68 * 2 = 1.36取1

0.36 * 2 = 0.72取0

0.72 * 2 = 1.44取1

0.44 * 2 = 0.88取0

0.88 * 2 = 1.76取1

0.76 * 2 = 1.52取1

小數部分的值為0.1000 1111 0101 11

所以1234.56表示成二進制數就是

100 1101 0010. 1000 1111 0101 11

由於浮點數表示法的尾數部分以1開頭,所以上面的這個數可以表示為:

1.00 1101 0010 1000 1111 0101 11 * 210

從浮點數的表示公式即可算出

Exponent = 127 + 10 = 137

而尾數部分則為

00 1101 0010 1000 1111 0101 11

因此整個數就是:

0         1000 1001   00 1101 0010 1000 1111 0101 11

符號位    指數          尾數

從整數的角度來看就是:

0100 0100 1001 1010 0101 0001 1110 1011

十六進制表示為:

4    4    9    A   5    1   E    B

奇怪得很,最後居然有偏差。莫非VDSP還有什麼機關不成?

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved