[ツリー表示へ] [ワード検索] [Home]
タイトル ： double型同士の計算が合いません 投稿日 ： 2006/11/13(Mon) 15:53 投稿者 ： taku
| はじめまして。 自分なりにいろいろ調べてみたのですが、解決ができなかったので質問させてください。 double型同士で掛け算をしたいのですが、 1600*9.2と計算すると、普通だと 1600*9.2=14720 となるはずなのですが、 1600*9.2=14719.999999999998 となってしまい計算が合わなくなります。 もしこれが当たり前のよな質問だったらまことに申し訳ございませんが、 どうかよろしくお願いします。 ちなみに計算は、 Dim i As Double Dim a As Double Dim t As Double i = 1600 a = 9.2 t = i * a な感じで行っております。 |
をクリックするとツリー全体を一括表示します） - double型同士の計算が合いません - taku 11/13-15:53No.4524