当前位置: 首页 > news >正文

JS浮点数精度问题

在JavaScript开发中,浮点数精度问题是一个常见的陷阱。本文将深入探讨JavaScript中浮点数精度问题的原因、影响以及解决方案。

一、浮点数精度常见问题

(一)加法运算

console.log(0.1 + 0.2); // 0.30000000000000004
console.log(0.7 + 0.1); // 0.7999999999999999
console.log(0.2 + 0.4); // 0.6000000000000001
console.log(2.22 + 0.1); // 2.3200000000000003

(二)减法运算

console.log(1.5 - 1.2); // 0.30000000000000004
console.log(0.3 - 0.2); // 0.09999999999999998

(三)乘法运算

console.log(19.9 * 100); // 1989.9999999999998
console.log(19.9 * 10 * 10); // 1990
console.log(9.7 * 100); // 969.9999999999999
console.log(39.7 * 100); // 3970.0000000000005

(四)除法运算

console.log(0.3 / 0.1); // 2.9999999999999996
console.log(0.69 / 10); // 0.06899999999999999

(五)四舍五入保留小数位数

console.log((1.335).toFixed(2)); // 1.33

二、为什么会有这样的问题

(一)浮点数的存储方式

在JavaScript中,所有数字都以64位浮点数形式存储,即使整数也是如此。这种存储方式基于IEEE 754标准,其中64位的划分如下:

  • 符号位(1位):表示正负数,0表示正数,1表示负数。
  • 指数位(11位):表示次方数。
  • 尾数位(52位):存储小数部分,超出部分自动进一舍零。

(二)二进制表示的局限性

浮点数在计算机中以二进制形式存储,但某些十进制小数无法精确表示为二进制小数。例如,0.1和0.2在二进制中是无限循环小数,因此在存储时会被截断,导致精度丢失。

(三)JavaScript的Number类型

JavaScript中的Number类型统一按浮点数处理,整数也是按最大54位来计算的。因此,当数值超过安全范围(Number.MAX_SAFE_INTEGERNumber.MIN_SAFE_INTEGER)时,就会出现精度问题。

三、解决方案

(一)使用第三方库

为了精确处理浮点数运算,可以使用一些成熟的第三方库,如Math.jsdecimal.jsbig.js

Math.js

Math.js是一个功能强大的数学库,支持多种数据类型和操作。

const math = require('mathjs');
console.log(math.add(0.1, 0.2)); // 0.3
decimal.js

decimal.js提供任意精度的十进制数值运算。

const Decimal = require('decimal.js');
console.log(new Decimal(0.1).plus(0.2).toNumber()); // 0.3
big.js

big.js专注于大数运算,支持高精度的浮点数运算。

const Big = require('big.js');
console.log(new Big(0.1).plus(0.2).toString()); // "0.3"

(二)自定义函数

如果不想引入第三方库,可以编写自定义函数来处理浮点数运算。以下是一个简单的加法函数示例:

function add(a, b) {const factor = 10 ** 10;return (Math.round(a * factor) + Math.round(b * factor)) / factor;
}
console.log(add(0.1, 0.2)); // 0.3

(三)避免浮点数运算

在某些情况下,可以避免直接使用浮点数运算。例如,处理货币时,可以将金额转换为整数(如分)进行计算,最后再转换回浮点数。

function addCents(a, b) {return (Math.round(a * 100) + Math.round(b * 100)) / 100;
}
console.log(addCents(0.1, 0.2)); // 0.3
http://www.xdnf.cn/news/736993.html

相关文章:

  • WebFuture:网站部分图片突然无法显示的原因
  • 身份证发给别人怎么加水印?赛文奥特曼身份证添加水印教程
  • 大模型应用开发第九讲:RAG(检索增强生成)流程:用户查询→检索→生成响应
  • CQF预备知识:Python相关库 -- NumPy 基础知识 - 通用函数
  • xilinx位置约束
  • SAR ADC 比较器噪声分析(二)
  • gst_pad_query_default以及gst_pad_event_default
  • 2024PLM系统实施案例:天水天轲零部件
  • Sigma-Aldrich3D细胞培养支架有哪些类型?
  • LoRA:高效微调预训练模型的利器
  • DeepSeek-R1 重磅升级,智能体验再进化!
  • shell脚本的两种循环及状态返回值的区别及对比
  • 软件架构基础
  • ollama国内安装使用
  • 时间序列数据如何转化为动态图实践笔记
  • XSS跨站脚本攻击
  • 特伦斯 S75:重塑钢琴体验的数码钢琴之选
  • 基于教育数字化背景:人工智能技术支持下的教师专业发展路径
  • Baklib智能推荐赋能内容中台升级
  • 低频 500kHz vs 高频 1MHz,FP6291C与FP6291升压芯片应用在不同场景该怎么选择?
  • Spring生命周期中织入代理逻辑
  • 大模型-attention汇总解析之-MHA
  • 电工基础【2】自锁、互锁、正反转电路
  • leetcode动态规划—完全背包系列
  • 【论文阅读】DanceGRPO: Unleashing GRPO on Visual Generation
  • ✨1.1.1 按位与运算替代求余运算优化场景
  • 在 Android 上备份短信:保护您的对话
  • N2语法 状態
  • win7怎么关闭开机自启动程序?
  • 深入理解 MySQL 隔离级别:理论与实战