tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]  [ワード検索]  [Home]

タイトル VB6.0の方が正しく計算できていない(再投稿)
投稿日: 2008/10/05(Sun) 22:03
投稿者花ちゃん
> 計算式は2項の差であり、ご指摘いただいた括弧で括って1項にすることはできません。

失礼しました。

下記なら VB6.0 でも 結果が  8.18545231595635E-12 となり .NET と同じ結果になります
どうも VB6.0 の方がおかしいようですね。

Private Sub Command1_Click()
   Dim sj1 As Double, sj2 As Double, sj3 As Double
   Dim x As Double
   Dim n As Integer, i As Integer
   Dim sj(500) As Double
   n = 14
   sj3 = 0#
   sj2 = 0.00001
   x = 2.40482555769577
   For i = 1 To n - 1
      Dim tmp As Double
      tmp = 2# * (n - i) * sj2
      sj1 = tmp / x
      sj1 = sj1 - sj3
      sj3 = sj2
      sj2 = sj1
   Next i
   Debug.Print (CStr(sj1))
End Sub

Debug.Print CStr(sj1)   '結果  8.18545231595635E-12

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。