[ツリー表示へ] [ワード検索] [Home]
タイトル ： Re: 計算の誤差について 投稿日 ： 2009/06/10(Wed) 22:31 投稿者 ： 花ちゃん
| > Debug.Print 100.1 - 90.2 > という計算をすると「9.9」のはずが「9.89999999999999」という結果になりました。 > これはどうしてなのでしょうか？ タイトルの計算の誤差や演算 誤差等をキーワードに検索すれば見つかりますよ。 データ型と演算誤差についての注意 http://support.microsoft.com/kb/409744/ja 過去のログより http://hanatyan.sakura.ne.jp/logbbs1/wforum.cgi?mode=allread&no=3276&page=0 > > 正確な結果を得るにはどうしたらいいのかわかりません。 > 調べても上手く見つからなかったので、よかったら教えて下さい Debug.Print 100.1@ - 90.2@ |
をクリックするとツリー全体を一括表示します） - 計算の誤差について - シス 09/06/10-22:06No.13743