您好、欢迎来到现金彩票网!
当前位置:秒速快三开奖 > 双精度小数 >

浮点型数据的精度是什么意思

发布时间:2019-07-28 06:07 来源:未知 编辑:admin

  可选中1个或多个下面的关键词,搜索相关资料。也可直接点“搜索资料”搜索整个问题。

  知道合伙人软件行家采纳数:14357获赞数:329881982年上海业余工业大学化工系毕业 现退休向TA提问展开全部

  32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

  64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

  要超过这精度要求需要将数据类型定义为Decimal(VB6.0)数据类型,它有28位小数精度(十进制)

  展开全部浮点型数据又称单精度浮点数,精度表示的是该浮点数的取值范围。。。

  双精度类型:+-1.7*10^(-308)~~~+-1.7*10^308 双精度占用8个字节的内存

http://cellmall.net/shuangjingduxiaoshu/421.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有