[
ツリー表示へ
] [
ワード検索
] [
Home
]
タイトル
:
Re^3: 計算の誤差について
投稿日
: 2009/06/11(Thu) 00:10
投稿者
:
花ちゃん
> 型による精度の所為ということでしょうか?
と言うより、今回の場合は、2進数による演算の誤差でしょうか。
例えば、 10/3*3 の計算を電卓でした場合と、PC で計算した場合、答えが違いますよね。
- 関連一覧ツリー
(
をクリックするとツリー全体を一括表示します)
-
計算の誤差について
-
シス
09/06/10-22:06
No.13743
Re: 計算の誤差について
-
花ちゃん
09/06/10-22:31
No.13744
Re^2: 計算の誤差について
-
シス
09/06/10-22:56
No.13745
Re^3: 計算の誤差について
-
花ちゃん
09/06/11-00:10
No.13746
Re^4: 計算の誤差について
-
シス
09/06/11-03:51
No.13747
Re^5: 計算の誤差について
-
魔界の仮面弁士
09/06/11-11:30
No.13748
Re^6: 計算の誤差について
-
シス
09/06/12-01:41
No.13750
古いスレッドにレスはつけられません。