tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^2: 数字の比較について
投稿日: 2017/01/19(Thu) 11:09
投稿者SUZUKI
Hongliangさん 早速の回答ありがとうございます
計算しなくても誤差が出るというのは驚きというか困りものです
vb6.0は何か親切?機能が働いているという事でしょうか
ちなみにkをdouble型に変更して見ると
=側に流れます
doubleでも誤差が出るとなると根本的な対策でも
無いような気がします。。。。。。
質問してよいでしょうか

数字2.3はdouble型でしょうか?
なぜ=側に流れるのでしょうか?
=を問題にするならdecimal型でなければならないという事になりますか?

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。