iOS 高精度数据精度丢失

This topic created in 2944 days ago, the information mentioned may be changed or developed.

▿ Optional<double></double>

NSDecimalNumber(value: num as! Double) 转换成 NSDecimal 类型数据变成 1876543209.999999744 精度丢失

2 replies • 2018-10-12 17:18:41 +08:00

finab

Oct 12, 2018

打印出来会丢失, 参与计算没事
打印或转成字符串的时候保留有效小数位四舍五入 round 一下吧

a498636530

Oct 12, 2018

打印出来精度丢失高精度处理保留 8 位 8 位以后直接处理掉（ NSDecimalNumber.RoundingMode.bankers ）就变成 1876543209.99999974 展示出来精度丢失

iOS 高精度数据 精度丢失