tagCANDY CGI VBレスキュー(花ちゃん)の Visual Basic 6.0用 掲示板
VBレスキュー(花ちゃん)の Visual Basic 6.0用 掲示板
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^3: 計算の誤差について
投稿日: 2009/06/11(Thu) 00:10
投稿者花ちゃん
> 型による精度の所為ということでしょうか?

と言うより、今回の場合は、2進数による演算の誤差でしょうか。

例えば、 10/3*3 の計算を電卓でした場合と、PC で計算した場合、答えが違いますよね。

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。