VB6.0用掲示板の過去のログ(No.1)−VBレスキュー(花ちゃん)
[記事リスト] [新規投稿] [新着記事] [ワード検索] [過去ログ] [管理用]

投稿日: 2004/06/16(Wed) 14:08
投稿者Say
Eメール
URL
タイトルRe: 計算についてなんですが・・・

999999も999999999も32768以上2147483647以下の整数ですから、
Long型とみなして計算され、結果がLong型の上限2147483647を超えると
オーバーフローします。

とりあえずオーバーフローを回避するには
MsgBox 999999# * 999999999#
というふうに倍精度浮動小数点演算にすればエラーは出なくなりますが、
15桁程度の精度しかありませんので、計算する数の桁数によっては
結果が丸められることがあり、注意が必要です。


- 関連一覧ツリー (★ をクリックするとツリー全体を一括表示します)

- 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)

- Web Forum -