VB6.0用掲示板の過去のログ(No.1)−VBレスキュー(花ちゃん)
[記事リスト] [新規投稿] [新着記事] [ワード検索] [過去ログ] [管理用]

投稿日: 2003/08/13(Wed) 11:36
投稿者花ちゃん
Eメール
URL
タイトルRe: データ型Double計算について

> 整数部が0桁の場合は小数部15桁目は計算結果で桁落ち
> してしまうのでしょうか?
>  例)0.123456789012345?
>    0.12345678901234?

小学生が宿題を聞いているのではないので、聞く前にその位の計算は
自分でして確かめてみたらどうですか?
Debug.Print 0.123456789012345 + 0.000000000000001


- 関連一覧ツリー (★ をクリックするとツリー全体を一括表示します)

- 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)

- Web Forum -