double 转float 损失精度

(一)32位平台: 
分为有符号型与无符号型。
有符号型:
short 在内存中占两个字节,范围为-2^15~(2^15-1)
int 在内存中占四个字节,范围为-2^31~(2^31-1)
long在内存中占四个字节,范围为-2^31~2^31-1
无符号型:最高位不表示符号位
unsigned short 在内存中占两个字节,范围为0~2^16-1
unsigned int 在内存中占四个字节,范围为0~2^32-1
unsigned long在内存中占四个字节,范围为0~2^32-1
实型变量:
分单精度 float 和双精度 double 两种形式:
float:占四个字节,提供7~8位有效数字
double: 占八个字节,提供15~16位有效数字

(二)16位平台:
1)整型(基本型):类型说明符为int,在内存中占2个字节。
2)短整型:类型说明符为short int或short。所占字节和取值范围均与整型(基本型)相同。
3)长整型:类型说明符为long int或long,在内存中占4个字节。
无符号型:类型说明符为unsigned。
无符号型又可与上述三种类型匹配而构成:
各种无符号类型量所占的内存空间字节数与相应的有符号类型量相同。但由于省去了符号位,故不能表示负数。
实型变量:
分为单精度(float型)、双精度(double型)和长双精度(long double型)三类。
单精度型占4个字节(32位)内存空间,其数值范围为3.4E-38~3.4E+38,只能提供七位有效数字
双精度型占8 个字节(64位)内存空间,其数值范围为1.7E-308~1.7E+308,可提供16位有效数字。
长双精度型16 个字节(128位)内存空间,可提供18-19位有效数字。
	//X的小数点位没了 laserreader读进来的时候x的精度已经缺失 这样我老板的算法基于double还是float?要是基于float 所以以后算法设计看精度怎么设计
### 数据类型精度差异分析 #### Int 类型 `int` 是一种用于表示整数值的数据类型。其范围取决于具体实现,但在大多数现代计算机上通常是32位(4字节),可以存储从 \(-2^{31}\) 到 \(2^{31}-1\) 的值[^3]。 #### Float 类型 `float` 是单精度浮点数,遵循IEEE 754标准,占用32位空间。它能够提供大约6到9位有效十进制数字的精度。对于非常大或非常小的数值,可能会损失部分精确度[^2]。 #### Double 类型 `double` 双精度浮点数同样基于IEEE 754规范,占据64位内存位置。相比 `float` ,它可以保持更高的准确性——大概15至17位有效的十进制数字,并能处理更大的指数范围[^1]。 为了更直观地展示这三种基本数据类型的精度区别,下面给出一段简单的C++代码示例: ```cpp #include <iostream> using namespace std; int main(){ int a = 12345; float b = 12345.678f; double c = 12345.67890123456789; cout << "Int value: " << a << endl; // 输出:12345 cout.precision(10); // 设置输出精度为10位 cout << "Float value: " << fixed << b << endl; // 输出:12345.678125 cout.setf(ios::scientific, ios::floatfield); cout << "Double value: " << setprecision(17) << c << endl;// 科学计数法显示更多位数 return 0; } ``` 这段程序展示了不同数据类型如何影响数值的表现形式以及它们所能达到的最大精度水平。值得注意的是,尽管 `cout` 对于某些情况下的浮点数进行了优化使得看起来没有明显的舍入误差,但这并不意味着底层不存在二进制浮点数固有的精度问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值