タイトル : Re^7: SINGLE型の切捨てについて 投稿日 : 2016/11/10(Thu) 09:43 投稿者 : SUZUKI
なるほど Dim A As Single Dim B As Single A = 0.96599993 B = CDec(A) MsgBox (A) =>0.9659999 MsgBox (B) =>0.9659999 A = 0.96599994 B = CDec(A) MsgBox (A) =>0.966 MsgBox (B) =>0.966 A = 0.96599995 B = CDec(A) MsgBox (A) =>0.966 MsgBox (B) =>0.966 これでなぜ4で切り上がるのが不思議でしたがなぞが解けました msgboxで確認するのも要注意ですね この現象はVB6.0 VB2005 も同じで、勘違いでした vb2005からシビアに見るようになったという事でした 丁寧なご説明ありがとうございました |