導航:首頁 > 源碼編譯 > 浮點數演算法爭議與限制

浮點數演算法爭議與限制

發布時間:2023-01-04 11:23:21

1. 浮點數與科學計算有何關系

1、根據ieee754國際標准,常用的浮點數有兩種格式
(1)單精度浮點數(single)
(2)雙精度浮點數(double)
2、相同點:它們都用來表示帶有小數部分的實數,一般都用於科學計算,都由階碼和尾數構成。
3、不同點:
(1)單精度浮點數佔用4個位元組(32位)存儲空間,包括符號位1位,階碼8位,尾數23位。其數值范圍為3.4e-38~3.4e+38,單精度浮點數最多有7位十進制有效數字,單精度浮點數的指數用「e」或「e」表示。單精度浮點數有多種表示形式:±n.n(小數形式)
±n
e
±m(指數形式)
±n.n
e
±m
(指數形式)如果某個數的有效數字位數超過7位,當把它定義為單精度變數時,超出的部分會自動四捨五入。
(2)雙精度浮點數佔用8個位元組(64位)存儲空間,包括符號位1位,階碼11位,尾數52位。其數值范圍為1.7e-308~1.7e+308,雙精度浮點數最多有15或16位十進制有效數字,雙精度浮點數的指數用「d」或「d」表示。雙精度浮點數科學記數法格式
:±ad±c或±ad±c
4、vb6單、雙精度浮點數細節:
(1)single(單精度浮點型)變數存儲為
ieee
32
位(4
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-3.402823e38

-1.401298e-45,而在正數的時候是從
1.401298e-45

3.402823e38。
(2)、double(雙精度浮點型)變數存儲為
ieee
64
位(8
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-1.79769313486232e308

-4.94065645841247e-324,而正數的時候是從
4.94065645841247e-324

1.79769313486232e308。

閱讀全文

與浮點數演算法爭議與限制相關的資料

熱點內容
為什麼小度APP一直連不上網路 瀏覽:163
pdf模板java 瀏覽:40
現代瑞納的壓縮比 瀏覽:128
網吧里的ftp伺服器有什麼用 瀏覽:872
程序員年終總結工作體會 瀏覽:153
pdf可以直接列印 瀏覽:661
android刷wp8 瀏覽:912
歷史地圖集pdf 瀏覽:925
快手app極速版怎麼掃碼 瀏覽:805
qq程序員玩法 瀏覽:95
1是什麼門電路app 瀏覽:867
博之輪運動手錶用什麼app 瀏覽:646
asp視頻聊天源碼 瀏覽:85
網路游戲編程pdf 瀏覽:534
360壓縮出錯 瀏覽:848
源碼編輯器沒聲音 瀏覽:915
兒童源碼編程網址 瀏覽:828
有個app叫尺度空間怎麼樣 瀏覽:674
微博登陸java 瀏覽:683
一枚程序員 瀏覽:744