当前位置: 首页 > ai >正文

小数的二进制表示

相信很多人都知道整数的二进制表示方法,但是小数的二进制就不一定了。

想来简单说一下整数的,就是不断的除以2取余数,

大致这样

从下往上取,这里42的结果就是101010

而且每个整数都有他对应的二进制数,但是小数转二进制是不是呢,往下看

小数就是不断的乘2然后取他的整数,直到他的小数部位为0,来张图可能会更好理解

从上往下读0.625取二进制就是0.101,如果小数前面有整数就可以把他转成二进制在组合,例如8.625,整数为100,小数为101,组合就是100.101,当然并不是每个小数都能够乘尽,比如0.1就不行,具体保留的位数就看你用什么了,比如你用的是double还是float。

也正因为这个就会出现精度丢失

 就比如这个出现了0.1+0.2不等于0.3的情况

http://www.xdnf.cn/news/4475.html

相关文章:

  • 【卡特兰数】不同的二叉搜索树
  • 学习笔记:黑马程序员JavaWeb开发教程(2025.3.30)
  • (25.05)Ubuntu 20.04上安装和运行ORB-SLAM3(非ROS)
  • 操作指南*
  • 数通HCIE的通过率怎么样?
  • no main manifest attribute, in xxx.jar
  • 软件系统的可观测性 Observability
  • 【AI】模型与权重的基本概念
  • 《Python星球日记》 第45天:KNN 与 SVM 分类器
  • 从电话到V信语音:一款App实现全场景社交脱身
  • 28.成功解决i2c_transfer返回-6的问题并linux驱动mpu6050(适合一切linux学习者)
  • OpenCV 中用于背景分割(背景建模)的一个类cv::bgsegm::BackgroundSubtractorCNT
  • 【HarmonyOS 5】鸿蒙中常见的标题栏布局方案
  • Oracle 开窗函数
  • 高组装导轨的特点
  • Java中字符转数字的原理解析 - 为什么char x - ‘0‘能得到对应数字
  • 《Python星球日记》 第43天:机器学习概述与Scikit-learn入门
  • 旧版谷歌浏览器Chrome v116.0.5845.141下载
  • 38.机壳间接缝的处理
  • 27、移除元素
  • 加速页面加载的全流程优化策略
  • 日常知识点之随手问题整理(虚函数 虚函数表 继承的使用场景)
  • 【Linux 系统调试】Linux 调试工具strip使用方法
  • Kubernetes生产级资源管理实战:从QoS策略到OOM防御体系
  • C 语言网络编程问题:E1696 无法打开 源 文件 “sys/socket.h“
  • ubuntu安装Go SDK
  • linux 怎么把trex-core-2.65用 crosstool-ng-1.27.0/编译
  • chili调试笔记13 工程图模块 mesh渲染 mesh共享边显示实现
  • FlyEnv:优雅直观的跨平台开发环境管理工具
  • VUE+ElementUI 使用el-input类型type=“number” 时,取消右边的上下箭头