tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^2: VB2005の倍精度計算精度は?
投稿日: 2008/10/06(Mon) 19:07
投稿者chime
オショウさん
> エクセルにて、計算式の簡易な検証を行なってみました。

EXCELで追試計算頂きありがとうございます。
繰り返し計算の途中経過を見ました。
最後のところで、有効桁数ぎりぎりの引き算になっていました。

当方が花ちゃん、オショウ、YuOさんからのコメントを参考に検討し
そのレポートを花ちゃんの下にResしましたのでご覧下さい。

これで解決です。
ご支援ありがとうございました。

chime

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。