[ツリー表示へ] [ワード検索] [Home]
タイトル ： Re^7: ＳＩＮＧＬＥ型の切捨てについて 投稿日 ： 2016/11/10(Thu) 09:43 投稿者 ： SUZUKI
| なるほど Dim A As Single Dim B As Single A = 0.96599993 B = CDec(A) MsgBox (A) ＝＞0.9659999 MsgBox (B) ＝＞0.9659999 A = 0.96599994 B = CDec(A) MsgBox (A) ＝＞0.966 MsgBox (B) ＝＞0.966 A = 0.96599995 B = CDec(A) MsgBox (A) ＝＞0.966 MsgBox (B) ＝＞0.966 これでなぜ４で切り上がるのが不思議でしたがなぞが解けました msgboxで確認するのも要注意ですね この現象はVB6.0 VB2005 も同じで、勘違いでした ｖｂ２００５からシビアに見るようになったという事でした 丁寧なご説明ありがとうございました |
をクリックするとツリー全体を一括表示します） - ＳＩＮＧＬＥ型の切捨てについて - SUZUKI 16/11/08-16:43No.11755