• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            posts - 311, comments - 0, trackbacks - 0, articles - 0
              C++博客 :: 首頁 :: 新隨筆 :: 聯(lián)系 :: 聚合  :: 管理

            要得到1位或2位精確小數(shù)的話,整數(shù)不能高于 32767

            即:f<32767.99

            因?yàn)?nbsp;2E15=32768

             所以最多只能正確處理0~32767的整數(shù),


            要得到3位 精確 小數(shù)的話,整數(shù)不能高于16383

            即:f< 16383 .999

            因?yàn)?2E14=16384 


            要得到4位 精確 小數(shù),整數(shù)不能高于2047

            即:f< 2047 .9999

            而 2E11=2048



            要得到5位 精確 小數(shù),整數(shù)不能高于127

            即:f< 127 .99999

            而 2E7=128

            要得到6位 精確 小數(shù),整數(shù)不能高于15

            即:f<15 .999999

            而 2E4=16


            要得到7位 精確 小數(shù),整數(shù)不能高于0

            即:f< 0 .9999999

            而 2E0=0


            要得到8位以上的 精確 小數(shù),是不可能的

            即:f不存在


            筆者得到了一些數(shù)據(jù),不過得不到它變化的規(guī)律,還請高人指點(diǎn)

             

            筆者得出結(jié)論的過程:

             

            我建了這個(gè)表:

            create table q(

                 money float(15,3)

            );

             

            然后插入這個(gè)數(shù)據(jù):

            insert into q values(1234567.234);

             

            再select一下讀出來后發(fā)現(xiàn),它顯示的是:

            1234567.250

             

            然后插入這個(gè)數(shù)據(jù):

            insert into q values(12345672.34);

             

            再select一下讀出來后發(fā)現(xiàn),它顯示的是:

            12345672.000


            也就是說,有10數(shù)位與以上的話就會出現(xiàn)不準(zhǔn)確的情況。

             

            如果是這樣的話:

            create table q(
            money float(10,3)
            );

             

            insert into q values(1234567.3);

            得到的是:

            1234567.250

             

             

            insert into q values(1234567);

            得到的是:

            1234567.000

             

            insert into q values(123456.7);

            得到的是:

            123456.703

             

            insert into q values(12345.67);

            得到的是:

            12345.670

             

            insert into q values(32768.990);

            得到:32768.988

             

            insert into q values(32767.990);

            得到:32767.990

            經(jīng)過很多次的試驗(yàn)

            要得到2位小數(shù)則 整數(shù)部分 最多不能超過32767。


            表改為:

            create table q(
            money float(30,10)
            );


            對純小數(shù)部分測試: 

             

            insert into q values(0.999);

            得到:0.9990000129

             

            insert into q values(0.9999);

            得到 :0.9998999834

             

            insert into q values(0.99999);

            得到:0.9999899864

             

            insert into q values(327.99);

            得到 :327.9899902344

             

            insert into q values(327.999);

            得到:327.9989929199

             


            表改為:

            create table q(
            money float(7,2)
            );

             


            insert into q values(327.99);

            得到:327.99


            insert into q values(327.9999);

            得到:328.00

             

            insert into q values(32767.9999);

            得到:32768.00

             

            insert into q values(32767.99);

            得到: 32767.99

             

            insert into q values(99999.99);

            得到: 99999.99

             

            表改為:

            create table q(
            money float(8,2)
            );

             

            insert into q values(999999.99);

            得到 :1000000.00

             

            insert into q values(999998.99);

            得到:999999.00

             

            insert into q values(130999.99);

            得到:130999.99

             

             

             

            表改為:

            create table q(
            money float(9,3)
            );

             

            insert into q values(32768.990);

            得到: 32768.988

            insert into q values(32767.990);

            得到:32767.990

            insert into q values(16383.999);

            得到:16383.999                                 

             

            要得到3位小數(shù)的話,整數(shù)不能高于16383

             

            insert into q values(32767.90);

            得到:32767.900


            insert into q values(32768.90);

            得到:32768.898

             

            要得到1位小數(shù)的話,整數(shù)不能高于32767

            久久亚洲私人国产精品| 青青青青久久精品国产| 一级a性色生活片久久无| 久久国产欧美日韩精品免费| 精品国产青草久久久久福利| 久久久精品午夜免费不卡| 欧美久久久久久午夜精品| 97精品国产97久久久久久免费| 精品久久久久久久久中文字幕| 亚洲乱码日产精品a级毛片久久| 一本一道久久综合狠狠老 | 久久妇女高潮几次MBA| 69国产成人综合久久精品| 久久福利资源国产精品999| 久久中文字幕一区二区| 一本一本久久A久久综合精品| 国产巨作麻豆欧美亚洲综合久久 | 999久久久国产精品| 亚洲国产日韩综合久久精品| 日本道色综合久久影院| 久久久精品人妻一区二区三区四| 久久久久久国产精品无码下载| 69国产成人综合久久精品| 色综合久久中文字幕无码| 日本高清无卡码一区二区久久 | 精品无码久久久久久久久久| 好久久免费视频高清| 亚洲av日韩精品久久久久久a| 伊人色综合久久天天网| 久久久噜噜噜久久中文字幕色伊伊| 久久er国产精品免费观看2| 久久久久无码精品国产不卡| 色综合久久久久综合体桃花网 | 国产精品中文久久久久久久| 色99久久久久高潮综合影院| 欧美亚洲另类久久综合婷婷| 久久国产成人亚洲精品影院 | 欧美喷潮久久久XXXXx| 久久久久亚洲AV成人网人人网站| 久久人人爽人人人人爽AV| 久久精品国产亚洲AV久|