tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]　 [ワード検索]　 [Home]

タイトル ： Re^2: VB2005の倍精度計算精度は？
投稿日： 2008/10/05(Sun) 21:28
投稿者： chime
> 　　因みに、倍精度変数と整数の変数が混ざっています。
> 　　整数変数部を倍精度に精度合わせすれば解消しません？

コメントありがとうございます。

(n-i)をcDbl(n-i)にして倍精度に直しましたが、双方の答えは同じでした。
また　型宣言で　as Integer を as Double に変更しても双方同じです。

VB6とVB2005では　大変小さい値の計算精度に差があるのではとの疑問が増大しました。

chime
- 関連一覧ツリー （ をクリックするとツリー全体を一括表示します）

古いスレッドにレスはつけられません。