VBレスキュー(花ちゃん)の Visual Basic 6.0用掲示板

タイトル： 計算の誤差について

投稿日： 2009/06/10(Wed) 22:06

投稿者：シス

Debug.Print 100.1 - 90.2
という計算をすると「9.9」のはずが「9.89999999999999」という結果になりました。
これはどうしてなのでしょうか？

正確な結果を得るにはどうしたらいいのかわかりません。
調べても上手く見つからなかったので、よかったら教えて下さい
よろしくお願い致します。

- 関連一覧ツリー （

をクリックするとツリー全体を一括表示します）

計算の誤差について

シス

No.13743

Re: 計算の誤差について - 花ちゃん 09/06/10-22:31 No.13744
- Re^2: 計算の誤差について - シス 09/06/10-22:56 No.13745
  - Re^3: 計算の誤差について - 花ちゃん 09/06/11-00:10 No.13746
    - Re^4: 計算の誤差について - シス 09/06/11-03:51 No.13747
      - Re^5: 計算の誤差について - 魔界の仮面弁士 09/06/11-11:30 No.13748
        
        Re^6: 計算の誤差について - シス 09/06/12-01:41 No.13750

タイトル	：計算の誤差について
投稿日	： 2009/06/10(Wed) 22:06
投稿者	：シス

古いスレッドにレスはつけられません。