VB6.0用掲示板の過去のログ(No.2)−VBレスキュー(花ちゃん)
[記事リスト] [新規投稿] [新着記事] [ワード検索] [管理用]

投稿日: 2005/08/17(Wed) 20:01
投稿者いな
Eメール
URL
タイトルRe: Fix関数で小数部が正しく切り捨てられない。

> Fix関数で小数部を切り捨てているのですが、
> 正しく切り捨てられず、±1の誤差が出るときが極稀にあります。
> 済みませんが、原因を教えて下さい。

原因、浮動小数点の丸め誤差

hhttp://www.google.co.jp/search?hl=ja&c2coff=1&q=%E8%AA%A4%E5%B7%AE+%E5%B0%8F%E6%95%B0%E7%82%
B9+site%3Ahttp%3A%2F%2Fwww.microsoft.com%2Fjapan%2Fmsdn%2F&lr=


- 関連一覧ツリー (★ をクリックするとツリー全体を一括表示します)

- 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)

- VBレスキュー(花ちゃん) - - Web Forum -