导航:首页 > 源码编译 > 浮点数算法争议与限制

浮点数算法争议与限制

发布时间:2023-01-04 11:23:21

1. 浮点数与科学计算有何关系

1、根据ieee754国际标准,常用的浮点数有两种格式
(1)单精度浮点数(single)
(2)双精度浮点数(double)
2、相同点:它们都用来表示带有小数部分的实数,一般都用于科学计算,都由阶码和尾数构成。
3、不同点:
(1)单精度浮点数占用4个字节(32位)存储空间,包括符号位1位,阶码8位,尾数23位。其数值范围为3.4e-38~3.4e+38,单精度浮点数最多有7位十进制有效数字,单精度浮点数的指数用“e”或“e”表示。单精度浮点数有多种表示形式:±n.n(小数形式)
±n
e
±m(指数形式)
±n.n
e
±m
(指数形式)如果某个数的有效数字位数超过7位,当把它定义为单精度变量时,超出的部分会自动四舍五入。
(2)双精度浮点数占用8个字节(64位)存储空间,包括符号位1位,阶码11位,尾数52位。其数值范围为1.7e-308~1.7e+308,双精度浮点数最多有15或16位十进制有效数字,双精度浮点数的指数用“d”或“d”表示。双精度浮点数科学记数法格式
:±ad±c或±ad±c
4、vb6单、双精度浮点数细节:
(1)single(单精度浮点型)变量存储为
ieee
32
位(4
个字节)浮点数值的形式,它的范围在负数的时候是从
-3.402823e38

-1.401298e-45,而在正数的时候是从
1.401298e-45

3.402823e38。
(2)、double(双精度浮点型)变量存储为
ieee
64
位(8
个字节)浮点数值的形式,它的范围在负数的时候是从
-1.79769313486232e308

-4.94065645841247e-324,而正数的时候是从
4.94065645841247e-324

1.79769313486232e308。

阅读全文

与浮点数算法争议与限制相关的资料

热点内容
又见金底副图选股公式源码 浏览:203
烧录编程器那个好用 浏览:542
三晋先锋app如何签约 浏览:439
网络如何读取服务器信息 浏览:434
mac压缩解压视频 浏览:906
这就是程序员魅力 浏览:296
京东java算法笔试题 浏览:178
柱子加密箍筋不准有接头 浏览:199
我的世界服务器菜单插件如何使用 浏览:12
刘毅10000词pdf 浏览:890
刚毕业的程序员会什么 浏览:974
单片机控制64路开关量 浏览:982
win10截图编程 浏览:420
怎样把名字变成文件夹 浏览:203
文件怎么搞成文件夹 浏览:730
多线程编程php 浏览:606
安卓机越用越卡有什么办法 浏览:17
高中生解压操场适合做的游戏 浏览:395
程序员java招聘 浏览:462
未来之光手机云服务器 浏览:160