投稿日 | : 2004/06/16(Wed) 14:08 |
投稿者 | : Say |
Eメール | : |
URL | : |
タイトル | : Re: 計算についてなんですが・・・ |
999999も999999999も32768以上2147483647以下の整数ですから、
Long型とみなして計算され、結果がLong型の上限2147483647を超えると
オーバーフローします。
とりあえずオーバーフローを回避するには
MsgBox 999999# * 999999999#
というふうに倍精度浮動小数点演算にすればエラーは出なくなりますが、
15桁程度の精度しかありませんので、計算する数の桁数によっては
結果が丸められることがあり、注意が必要です。