タイトル : Re^2: ご指摘の如くです。VB2005の倍精度計算精度は? 投稿日 : 2008/10/06(Mon) 19:14 投稿者 : chime
YuOさん 的確なご返事ありがとうございます。 > 単純に丸め誤差,ということはありませんか? > # 繰り返した結果の値ですから,現実的には有効桁数0桁と言ってしまえるかもしれません。 当方も結果を再検討しました。ご指摘の如き結論です。 検討結果を花ちゃんさんの下にResしました。 > VB6の計算結果は8E-12, VB2005の計算結果も8E-12ですから,ちゃんと計算結果は合致していま VB6では非分割計算と分割計算に差があるものの結果は8E-12と同じといえます。 VB2008での検討に感謝いたします。 chime |