一個浮點數表示產生的問題
半夜里剛睡著又被電話叫醒,一個項目的現場數據出現了錯誤。我們的程序要分析的報告里的某一個字段使用了定點小數的表示方法,即兩個字節表示整數部分,再兩個字節表示小數部分。剛開始的時候沒注意到這里有個問題,那就是這種表示法要求小數部分一定是定長的,否則,就無法解析。例如,0.03和0.30的表示不同在哪里,0.30可不可以表示成0.300。怪我當初考慮欠佳,失敗。
C++, 3DGame
只有注冊用戶登錄后才能發表評論。 | ||
【推薦】100%開源!大型工業跨平臺軟件C++源碼提供,建模,組態!
![]() |
||
網站導航:
博客園
IT新聞
BlogJava
博問
Chat2DB
管理
|
||
|