VB6.0用掲示板の過去のログ(No.1)−VBレスキュー(花ちゃん)
[記事リスト] [新規投稿] [新着記事] [ワード検索] [過去ログ] [管理用]

投稿日: 2003/08/13(Wed) 10:48
投稿者cozi
Eメール
URL
タイトルデータ型Double計算について

はじめまして。VB初心者のcoziです。
是非、教えて頂きたいのですが、
データ型Doubleで計算結果の精度を保てるのは
整数部、小数部、合わせて15桁までと思うのですが...
 例)123.123456789012
整数部が0桁の場合は小数部15桁目は計算結果で桁落ち
してしまうのでしょうか?
 例)0.123456789012345?
   0.12345678901234?
よろしくお願いします。


- 関連一覧ツリー (★ をクリックするとツリー全体を一括表示します)

- 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)

- Web Forum -