[リストへもどる]　　　[VBレスキュー(花ちゃん)]
一括表示
投稿時間：2005/08/17(Wed) 19:16
投稿者名：Win_Kill
Ｅメール：
ＵＲＬ　：
タイトル：Fix関数で小数部が正しく切り捨てられない。
Fix関数で小数部を切り捨てているのですが、
正しく切り捨てられず、±1の誤差が出るときが極稀にあります。
済みませんが、原因を教えて下さい。

投稿時間：2005/08/17(Wed) 20:01
投稿者名：いな
Ｅメール：
ＵＲＬ　：
タイトル：Re: Fix関数で小数部が正しく切り捨てられない。
> Fix関数で小数部を切り捨てているのですが、
> 正しく切り捨てられず、±1の誤差が出るときが極稀にあります。
> 済みませんが、原因を教えて下さい。

原因、浮動小数点の丸め誤差

hhttp://www.google.co.jp/search?hl=ja&c2coff=1&q=%E8%AA%A4%E5%B7%AE+%E5%B0%8F%E6%95%B0%E7%82%
B9+site%3Ahttp%3A%2F%2Fwww.microsoft.com%2Fjapan%2Fmsdn%2F&lr=

投稿時間：2005/08/19(Fri) 19:32
投稿者名：Win_Kill
Ｅメール：
ＵＲＬ　：
タイトル：ありがとうございました。
hhttp://pc21.nikkeibp.co.jp/special/gosa/eg4.shtml
が参考になりました。

ありがとうございました。

投稿時間：2005/08/19(Fri) 20:07
投稿者名：いな
Ｅメール：
ＵＲＬ　：
タイトル：Re: ありがとうございました。
> hhttp://pc21.nikkeibp.co.jp/special/gosa/eg4.shtml
> が参考になりました。
>
> ありがとうございました。

上記リンクにもありますが、
通貨型を丸めの対策にすると言うのが、良くある逃げ方です。