在
http://radovi.javaeye.com/blog/322096這篇博客里談到計算機計算浮點數(shù)時的舍入誤差，我也在VS2005下進行了相應的實驗，如下代碼：
#include <iostream>
using namespace std;
int main()
{
double f = 4.35;
int a = int(f*100);
cout << a << endl;
system("pause");
} 的確打印出來的結果是434.
老男孩給出的解釋是這樣的：
這個問題和二進制的表示有很大關系
簡單地說
計算機不能準確表示諸如1/10等一類分數(shù)
我查到了一篇文章：
http://support.microsoft.com/kb/214118/zh-cn，如下,
IEEE 754 標準是一種方法很容易操作的壓縮方式存儲浮點數(shù)。 Intel coprocessors 和實現(xiàn)浮點數(shù)學的大多數(shù)基于 PC 的程序使用此標準。
IEEE 754 指定編號，以減少存儲要求，并允許該內置二進制算法指令來處理數(shù)據(jù)以相對較快速的方式的所有微處理器上可用的二進制格式存儲。 但是，是簡單的、 非重復的十進制數(shù)字的某些數(shù)字轉換為重復不能存儲的完美的準確性的二進制數(shù)字。
例如數(shù) 1 / 10 可以表示簡單小數(shù)的十進制數(shù)字系統(tǒng)中：
.1
但是，二進制格式中的數(shù)目將十進制重復的二進制文件：
0001100011000111000111 （和這樣上）
此數(shù)字無法表示按有限數(shù)量的空間。 因此，此數(shù)字向下舍入的大約-2.78E-17 存儲。
如果獲取給定的結果執(zhí)行多個的算術運算，這些舍入誤差可能具有累積性。
看來是和二進制的表示有很大關系。
posted on 2009-04-15 13:38
Sandy 閱讀(2594)
評論(1) 編輯 收藏 引用 所屬分類:
c++學習