tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板) [ツリー表示へ]   [Home]
一括表示(VB.NET VB2005)
タイトルdouble型同士の計算が合いません
記事No4524
投稿日: 2006/11/13(Mon) 15:53
投稿者taku
はじめまして。
自分なりにいろいろ調べてみたのですが、解決ができなかったので質問させてください。

double型同士で掛け算をしたいのですが、
1600*9.2と計算すると、普通だと

1600*9.2=14720

となるはずなのですが、

1600*9.2=14719.999999999998

となってしまい計算が合わなくなります。
もしこれが当たり前のよな質問だったらまことに申し訳ございませんが、
どうかよろしくお願いします。

ちなみに計算は、

        Dim i As Double
        Dim a As Double
        Dim t As Double

        i = 1600
        a = 9.2

        t = i * a

な感じで行っております。

[ツリー表示へ]
タイトルRe: double型同士の計算が合いません
記事No4526
投稿日: 2006/11/13(Mon) 16:50
投稿者大吉末吉
> double型同士で掛け算をしたいのですが、
> 1600*9.2=14719.999999999998
>
> となってしまい計算が合わなくなります。
> もしこれが当たり前のよな質問だったらまことに申し訳ございませんが、

「当たり前」と思ったほうが良いですよ。

「データ型のトラブルシューティング 」
http://msdn2.microsoft.com/ja-jp/library/ae382yt8(VS.80).aspx)

[ツリー表示へ]
タイトルRe^2: double型同士の計算が合いません
記事No4527
投稿日: 2006/11/13(Mon) 17:12
投稿者taku
大吉末吉さんありがとうございます。

勉強になりました。

マイクロソフトのホームページはかなり調べたつもりでしたが、
検索ワードがまずかったみたいです。
(まだまだ勉強が足りません・・・)

[ツリー表示へ]