true?
false?
why?
false?
why?
This topic created in 2978 days ago, the information mentioned may be changed or developed.
 |
neptunoSep 7, 2018 via Android
1
false，精度？
|
 |
delectateSep 7, 2018
2
Python 3.7.0 (v3.7.0:1bf9cc5093, Jun 27 2018, 04:59:51) [MSC v.1914 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information. >>> 1/3+1-1==1/3 False >>> 1/3+1-1 0.33333333333333326 >>> 1/3 0.3333333333333333 |
 |
maximum2012Sep 7, 2018
3
javascript fasle
1/3+1-1 0.33333333333333326 1/3 0.3333333333333333 |
 |
401LiSep 7, 2018 via Android
4
新手，觉得尽量不要比较浮点数，机器存成定点数时就会有精度的问题吧。
|
 |
silencefentSep 7, 2018
5
javascript
console.log(Math.PI+1-1==Math.PI) true |
 |
SakuraSaSep 7, 2018
6
这个主要是看运算符 / 在表达式中是“整除”还是“浮点除”
我能想到的结果： 语言 除类型 结果 备注 java int 之间整除 true js 浮点除 false c/c++ int 之间整除 true python2 int 之间整除 true (运算符 // 表示浮点除) python3 浮点除 false (运算符 // 表示整除) |
 |
JeffKingSep 7, 2018 via iPhone
8
大一 c 语言数据类型章节： 浮点型数不要用于比较，除非自定义比较精度。
|
 |
jowanSep 7, 2018
9
http://www.php.net/manual/zh/language.types.float.php
永远不要相信浮点数结果精确到了最后一位，也永远不要比较两个浮点数是否相等。如果确实需要更高的精度，应该使用任意精度数学函数或者 gmp 函数。 |
 |
MrlgmSep 7, 2018
10
打开控制台，一输，false，是不是浮点数精度问题
|
 |
canxdenSep 7, 2018
11
int / int 向下取整为 0 所以是 ture
|
|
canxdenSep 7, 2018
12
如果会 1/3 能自动转成浮点型, 再进行不同类型数据操作会有误差.
|
 |
14
这个我问了一下我上小学的妹妹。她说这题她做过，虽然双等号有点超纲，但是这个结果是对的
|
3 |
frozenthroneSep 7, 2018 via iPhone
15
得看你什么语言
|
 |
kzzhrSep 7, 2018 via Android
16
0.1+0.2-0.3=?
|
 |
bomblessSep 7, 2018 via Android
17
我不懂浮点数而且我不想学系列
|
 |
ps1aniugeSep 8, 2018
18
powershell 代码，基于。net
PS A:\pscode> [decimal]$(1/3+1-1) -eq [decimal]$(1/3) True PS A:\pscode> [double]$(1/3+1-1) -eq [double]$(1/3) False |
 |
weixiangzheSep 8, 2018 via iPhone
19
两天一个浮点的帖子， 好烦啊😯
|
Select Language