導航:首頁 > 源碼編譯 > 浮點數演算法爭議與限制

浮點數演算法爭議與限制

發布時間:2023-01-04 11:23:21

1. 浮點數與科學計算有何關系

1、根據ieee754國際標准,常用的浮點數有兩種格式
(1)單精度浮點數(single)
(2)雙精度浮點數(double)
2、相同點:它們都用來表示帶有小數部分的實數,一般都用於科學計算,都由階碼和尾數構成。
3、不同點:
(1)單精度浮點數佔用4個位元組(32位)存儲空間,包括符號位1位,階碼8位,尾數23位。其數值范圍為3.4e-38~3.4e+38,單精度浮點數最多有7位十進制有效數字,單精度浮點數的指數用「e」或「e」表示。單精度浮點數有多種表示形式:±n.n(小數形式)
±n
e
±m(指數形式)
±n.n
e
±m
(指數形式)如果某個數的有效數字位數超過7位,當把它定義為單精度變數時,超出的部分會自動四捨五入。
(2)雙精度浮點數佔用8個位元組(64位)存儲空間,包括符號位1位,階碼11位,尾數52位。其數值范圍為1.7e-308~1.7e+308,雙精度浮點數最多有15或16位十進制有效數字,雙精度浮點數的指數用「d」或「d」表示。雙精度浮點數科學記數法格式
:±ad±c或±ad±c
4、vb6單、雙精度浮點數細節:
(1)single(單精度浮點型)變數存儲為
ieee
32
位(4
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-3.402823e38

-1.401298e-45,而在正數的時候是從
1.401298e-45

3.402823e38。
(2)、double(雙精度浮點型)變數存儲為
ieee
64
位(8
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-1.79769313486232e308

-4.94065645841247e-324,而正數的時候是從
4.94065645841247e-324

1.79769313486232e308。

閱讀全文

與浮點數演算法爭議與限制相關的資料

熱點內容
又見金底副圖選股公式源碼 瀏覽:203
燒錄編程器那個好用 瀏覽:542
三晉先鋒app如何簽約 瀏覽:439
網路如何讀取伺服器信息 瀏覽:434
mac壓縮解壓視頻 瀏覽:906
這就是程序員魅力 瀏覽:296
京東java演算法筆試題 瀏覽:178
柱子加密箍筋不準有接頭 瀏覽:199
我的世界伺服器菜單插件如何使用 瀏覽:12
劉毅10000詞pdf 瀏覽:890
剛畢業的程序員會什麼 瀏覽:974
單片機控制64路開關量 瀏覽:982
win10截圖編程 瀏覽:420
怎樣把名字變成文件夾 瀏覽:203
文件怎麼搞成文件夾 瀏覽:730
多線程編程php 瀏覽:606
安卓機越用越卡有什麼辦法 瀏覽:17
高中生解壓操場適合做的游戲 瀏覽:395
程序員java招聘 瀏覽:462
未來之光手機雲伺服器 瀏覽:160