当前位置: 首页 > news >正文

单精度浮点数值 和 双精度浮点数值

“单精度”和“双精度”其实就是计算机表示小数的 精度等级内存占用 的不同。

名称英文名占用内存精度(能表示的小数位数)常见别名
单精度float / float324 字节(32 位)大约 7 位有效数字float
双精度double / float648 字节(64 位)大约 15~16 位有效数字double

✅ 举个通俗的例子

假设你要存一个数:

π ≈ 3.141592653589793238
  • 用单精度 float 存进去后,精度只保留大约 7 位:

    float32(π)3.1415927
    
  • 用双精度 double 存进去后,保留大约 15 位:

    float64(π)3.141592653589793
    

你看到差距了吧?float 是“差不多就行”,double 是“较精确”


✅ 再举个 Python 数值对比的例子

import numpy as np# 单精度
a = np.float32(1.123456789)
print("float32:", a)  # 输出:1.1234568# 双精度
b = np.float64(1.123456789123456789)
print("float64:", b)  # 输出:1.1234567891234568

✅ 为什么有两种精度?

场景适合用哪种原因
游戏开发、图形渲染float速度快,占内存少,够用
科学计算、金融、工程double需要高精度计算
神经网络权重float32 / float16平衡精度和性能
金融汇率交易通常用 decimaldouble要求高精度,不能出错

✅ 底层结构简要(扩展)

它们都用 IEEE 754 标准格式 来表示:

类型符号位指数位尾数位(小数)总位数
float321 bit8 bit23 bit32 位
float641 bit11 bit52 bit64 位

这也是为什么 double 能表达更大的数、更高的精度。


✅ 总结一句话

单精度 float 就是用 4 字节内存,表示小数精度大约 7 位,适合对精度要求不高的场景;双精度 double 用 8 字节内存,能表示大约 15 位有效数字,适合精度要求高的科学或金融场景。

http://www.xdnf.cn/news/892945.html

相关文章:

  • 传统业务对接AI-AI编程框架-Rasa的业务应用实战(2)--选定Python环境 安装rasa并初始化工程
  • 高压单端探头设计中的器材应如何选型
  • 嵌入模型、问答模型以及其他常见模型类型的详细解析
  • 云服务器自带的防御可靠吗
  • this.$set() 的用法详解(Vue响应式系统相关)
  • Perforce ALM产品简介:一站式需求与测试管理平台(已通过SO 26262认证)
  • PaddleOCR(3):PaddleOCR命令讲解
  • OpenBayes 一周速览|TransPixeler 实现透明化文本到视频生成;统一图像定制框架 DreamO 上线,一键处理多种图像生成任务
  • Win10、Win11系统,使用谷歌浏览器文件流下载,C盘剩余容量小于4GB时,下载失败问题
  • 记一个判决书查询API接口的开发文档
  • 深入解析C++五大常用设计模式:原理、实现与应用场景
  • python变量
  • 技术文章大纲:如何利用DeepSeek提升工作效率
  • x86 汇编中的【条件跳转指令】:从基础到扩展的全面解析(查表版)
  • Dify 本地部署详细指南(Windows 11 系统)
  • 【Linux】可重入函数 volatile SIGHLD信号
  • 线程的基础知识
  • 深入理解 Spring IOC:从概念到实践
  • 企业级AI迈入黄金时代,企业该如何向AI“蝶变”?
  • 08_10小结
  • Tensorborad
  • Android Test2 获取系统android id
  • 8086寻址解剖图:7种武器解锁x86内存访问的基因密码
  • Simplicity studio SDK下载和安装,创建工程
  • 使用 DuckLake 和 DuckDB 构建 S3 数据湖实战指南
  • 在表单输入框按回车页面刷新的问题
  • 使用 minicom 录制串口报文并回放
  • 【YOLO 系列】基于YOLO的飞机表面缺陷智能检测系统【python源码+Pyqt5界面+数据集+训练代码】
  • 掌握YOLOv8:从视频目标检测到划定区域统计计数的实用指南
  • 图简记。。