VBレスキュー(花ちゃん) の Visual Basic 2010 用掲示板(VB.NET 掲示板)

タイトル： Re: VB2005の倍精度計算精度は？

投稿日： 2008/10/05(Sun) 20:35

投稿者： オショウ

> sj1 = 2.0# * (n - i) * sj2 / x - sj3

　　この式の評価の順序がVB6と.NETで違うのではないでしょうか？

　　因みに、倍精度変数と整数の変数が混ざっています。
　　整数変数部を倍精度に精度合わせすれば解消しません？

　　私も浮動小数点演算で、難儀しましたので・・・

※　未検証ですので、コーディングして確認して下さい。

以上。

- 関連一覧ツリー （

をクリックするとツリー全体を一括表示します）

VB2005の倍精度計算精度は？

chime

No.8273

Re: VB2005の倍精度計算精度は？ - 花ちゃん 08/10/05-19:32 No.8279
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:17 No.8282
  - VB6.0の方が正しく計算できていない(再投稿) - 花ちゃん 08/10/05-22:03 No.8285
    - Re: 当方疑問解決です。VB6.0の方が正しく計算できていない(再投.. - chime 08/10/06-19:00 No.8291
Re: VB2005の倍精度計算精度は？ - オショウ 08/10/05-20:35 No.8280
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:28 No.8283
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:36 No.8284
Re: VB2005の倍精度計算精度は？ - オショウ 08/10/05-22:27 No.8286
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/06-19:07 No.8292
Re: VB2005の倍精度計算精度は？ - YuO 08/10/05-22:44 No.8287
- Re^2: ご指摘の如くです。VB2005の倍精度計算精度は？ - chime 08/10/06-19:14 No.8293

タイトル	： Re: VB2005の倍精度計算精度は？
投稿日	： 2008/10/05(Sun) 20:35
投稿者	：オショウ

古いスレッドにレスはつけられません。