数字计算不正确0+37000039541得出37000040448是不知支持上十亿的计算还是我写的不正确

BUG反馈 · 678 次浏览
Whiteface 创建于 2021-04-21 09:59

在计算中0-37000039541=37000040448,这是因为不支持十亿的计算吗?



回复内容
CL 2021-04-21 10:18
#1

嗯,精度限制,这里应该是Int型的

public const int MaxValue = 2147483647;

zetalpha 2021-04-21 17:52
#2

勾上增强模式

Whiteface 2021-04-21 18:22
#3
感谢两位回复,懂了,如果在计算中赋值可以用增强模式,直接赋值因为超上限会有出错
回复主贴