VB6.0用掲示板の過去のログ(No.2)−VBレスキュー(花ちゃん)
[記事リスト] [新規投稿] [新着記事] [ワード検索] [管理用]

投稿日: 2005/05/20(Fri) 20:13
投稿者Starfish
Eメール
URL
タイトルVBのバグです

> 「VBのInt関数の仕様はおかしい(一般的でない)のではないか?」
> という疑念を持っているんですが、
> いったん浮動小数点型の変数に入れた時と
> 直接とで
> 結果が違うのが一般的なんですか?

 Intさんの言われるとおり、これは、浮動小数点の誤差ではなく、VBのバグによるものだと思います。

 ただ、どうしても、浮動小数点による誤差は考慮する必要がありますので、想定の範囲内という
ことで、何らかの対応が必要ではないかと思います。


- 関連一覧ツリー (★ をクリックするとツリー全体を一括表示します)

- 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)

- VBレスキュー(花ちゃん) - - Web Forum -