[问题求助] VBS整除的溢出错误？

wankoilz

这个整除总是溢出，还有mod也是。其他除法、求幂、加法等都没问题，不知道是怎么回事？

a=3194548456
msgbox a\2
'msgbox a mod 2
'msgbox a/2
'msgbox a^2
复制代码

Demon

http://msdn.microsoft.com/en-us/ ... x%28v=vs.84%29.aspx

Before division is performed, numeric expressions are rounded to Byte, Integer, or Long subtype expressions.

wankoilz

难道整除最大只支持长整型的2147483647吗，难怪溢出了，还有mod运算也是这个情况，但帮助文档却没说明。
这种情况怎么处理呢？

Demon

难道整除最大只支持长整型的2147483647吗，难怪溢出了，还有mod运算也是这个情况，但帮助文档却没说明。
这 ...
wankoilz 发表于 2013-3-12 17:24

http://msdn.microsoft.com/en-us/library/basszbdt%28v=vs.84%29.aspx

If number1 or number2 are floating point numbers, they are first rounded to integers.

wankoilz

integer不是更小了……那大数的整除和求模咋办呢，给个提示吧！（我看的中文帮助文档）

Demon

integer不是更小了……那大数的整除和求模咋办呢，给个提示吧！（我看的中文帮助文档）
wankoilz 发表于 2013-3-12 18:28

中文帮助文档是这么写的：

模数或余数。运算符执行 number1 除以 number2 操作（浮点数四舍五入为整数）并只返回余数作为 result。例如，在下面的表达式中， A（为 result）等于 5。
A = 19 Mod 6.7
如果任一表达式为 Null，则 result 也为 Null。任一表达式为 Empty 时按 0 来处理。

wankoilz

好吧。正数整除的话，还可以用/，再fix()或int()代替，但是求模怎么想办法突破integer的限制呢，请指教。

Demon

好吧。正数整除的话，还可以用/，再fix()或int()代替，但是求模怎么想办法突破integer的限制呢，请指教。
wankoilz 发表于 2013-3-12 19:45

被除数 = 商 *  除数 + 余数

小学数学不用我教你吧

wankoilz

忽略本楼！

wankoilz

还是只能这样……好吧

BAT-VBS

Python用户表示压力不大

$ python -c "print 3194548456/2"
1597274228