VBレスキュー(花ちゃん) の Visual Basic 2010 用掲示板(VB.NET 掲示板)

タイトル： Re^2: VB2005の倍精度計算精度は？

投稿日： 2008/10/05(Sun) 21:36

投稿者： chime

> > sj1 = 2.0# * (n - i) * sj2 / x - sj3
>
> 　　この式の評価の順序がVB6と.NETで違うのではないでしょうか？

Reの追加です。

For next 文で
n=13 までのsj1はvb6とvb2005は一致します。
最後のn=14でsj1が大変小さい値になり、一致しなくなります。

従ってn=13までの双方では式の評価は同じであると思いますが。

chime

- 関連一覧ツリー （

をクリックするとツリー全体を一括表示します）

VB2005の倍精度計算精度は？

chime

No.8273

Re: VB2005の倍精度計算精度は？ - 花ちゃん 08/10/05-19:32 No.8279
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:17 No.8282
  - VB6.0の方が正しく計算できていない(再投稿) - 花ちゃん 08/10/05-22:03 No.8285
    - Re: 当方疑問解決です。VB6.0の方が正しく計算できていない(再投.. - chime 08/10/06-19:00 No.8291
Re: VB2005の倍精度計算精度は？ - オショウ 08/10/05-20:35 No.8280
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:28 No.8283
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/05-21:36 No.8284
Re: VB2005の倍精度計算精度は？ - オショウ 08/10/05-22:27 No.8286
- Re^2: VB2005の倍精度計算精度は？ - chime 08/10/06-19:07 No.8292
Re: VB2005の倍精度計算精度は？ - YuO 08/10/05-22:44 No.8287
- Re^2: ご指摘の如くです。VB2005の倍精度計算精度は？ - chime 08/10/06-19:14 No.8293

タイトル	： Re^2: VB2005の倍精度計算精度は？
投稿日	： 2008/10/05(Sun) 21:36
投稿者	： chime

古いスレッドにレスはつけられません。