导航:首页 > 源码编译 > 浮点数算法争议与限制

浮点数算法争议与限制

发布时间:2023-01-04 11:23:21

1. 浮点数与科学计算有何关系

1、根据ieee754国际标准,常用的浮点数有两种格式
(1)单精度浮点数(single)
(2)双精度浮点数(double)
2、相同点:它们都用来表示带有小数部分的实数,一般都用于科学计算,都由阶码和尾数构成。
3、不同点:
(1)单精度浮点数占用4个字节(32位)存储空间,包括符号位1位,阶码8位,尾数23位。其数值范围为3.4e-38~3.4e+38,单精度浮点数最多有7位十进制有效数字,单精度浮点数的指数用“e”或“e”表示。单精度浮点数有多种表示形式:±n.n(小数形式)
±n
e
±m(指数形式)
±n.n
e
±m
(指数形式)如果某个数的有效数字位数超过7位,当把它定义为单精度变量时,超出的部分会自动四舍五入。
(2)双精度浮点数占用8个字节(64位)存储空间,包括符号位1位,阶码11位,尾数52位。其数值范围为1.7e-308~1.7e+308,双精度浮点数最多有15或16位十进制有效数字,双精度浮点数的指数用“d”或“d”表示。双精度浮点数科学记数法格式
:±ad±c或±ad±c
4、vb6单、双精度浮点数细节:
(1)single(单精度浮点型)变量存储为
ieee
32
位(4
个字节)浮点数值的形式,它的范围在负数的时候是从
-3.402823e38

-1.401298e-45,而在正数的时候是从
1.401298e-45

3.402823e38。
(2)、double(双精度浮点型)变量存储为
ieee
64
位(8
个字节)浮点数值的形式,它的范围在负数的时候是从
-1.79769313486232e308

-4.94065645841247e-324,而正数的时候是从
4.94065645841247e-324

1.79769313486232e308。

阅读全文

与浮点数算法争议与限制相关的资料

热点内容
智能管家如何与安卓互通 浏览:733
秒表倒计时单片机程序 浏览:738
单片机小学期交通灯 浏览:591
如何查app文件在哪里 浏览:65
美的美居app有什么功能 浏览:410
安卓手机如何刷为华为系统 浏览:394
服务器如何搭建自己的简历 浏览:580
编译的程序名称 浏览:630
安卓机如何使用苹果同款闹钟 浏览:623
说文解字中华书局pdf 浏览:149
java反序列化xml 浏览:456
小蓝app为什么消息未连接 浏览:151
甲烷是不是可压缩流体 浏览:366
别克车怎么连接安卓手机投屏 浏览:566
负债净值比率算法 浏览:721
命令行窗口怎么添加目录 浏览:385
37的八位数源码 浏览:932
空调压缩机连接杆抱死 浏览:633
汽车空调压缩机进了泥土怎么办 浏览:710
宁德有什么好的买菜app 浏览:669