タイトル : Re^2: VB2005の倍精度計算精度は? 投稿日 : 2008/10/06(Mon) 19:07 投稿者 : chime
オショウさん > エクセルにて、計算式の簡易な検証を行なってみました。 EXCELで追試計算頂きありがとうございます。 繰り返し計算の途中経過を見ました。 最後のところで、有効桁数ぎりぎりの引き算になっていました。 当方が花ちゃん、オショウ、YuOさんからのコメントを参考に検討し そのレポートを花ちゃんの下にResしましたのでご覧下さい。 これで解決です。 ご支援ありがとうございました。 chime |