tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^2: ご指摘の如くです。VB2005の倍精度計算精度は?
投稿日: 2008/10/06(Mon) 19:14
投稿者chime
YuOさん

的確なご返事ありがとうございます。

> 単純に丸め誤差,ということはありませんか?

> # 繰り返した結果の値ですから,現実的には有効桁数0桁と言ってしまえるかもしれません。
当方も結果を再検討しました。ご指摘の如き結論です。
検討結果を花ちゃんさんの下にResしました。

> VB6の計算結果は8E-12, VB2005の計算結果も8E-12ですから,ちゃんと計算結果は合致していま
VB6では非分割計算と分割計算に差があるものの結果は8E-12と同じといえます。

VB2008での検討に感謝いたします。

chime

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。