投稿日 | : 2005/08/17(Wed) 20:01 |
投稿者 | : いな |
Eメール | : |
URL | : |
タイトル | : Re: Fix関数で小数部が正しく切り捨てられない。 |
> Fix関数で小数部を切り捨てているのですが、
> 正しく切り捨てられず、±1の誤差が出るときが極稀にあります。
> 済みませんが、原因を教えて下さい。
原因、浮動小数点の丸め誤差
hhttp://www.google.co.jp/search?hl=ja&c2coff=1&q=%E8%AA%A4%E5%B7%AE+%E5%B0%8F%E6%95%B0%E7%82%
B9+site%3Ahttp%3A%2F%2Fwww.microsoft.com%2Fjapan%2Fmsdn%2F&lr=