VB6.0用掲示板の過去のログ(No.1)−VBレスキュー(花ちゃん)
[記事リスト]
[新規投稿]
[新着記事]
[ワード検索]
[過去ログ]
[管理用]
| 投稿日 | ： 2003/08/13(Wed) 13:11 |
| 投稿者 | ： 魔界の仮面弁士 |
| Ｅメール | ： |
| ＵＲＬ | ： |
| タイトル | ： Re: データ型Double計算について |
先頭のゼロの桁に付いては、精度桁にはカウントされません。
ですから、『0.123456789012345』という数なら、桁落ちせずに保持されます。
Doubleは、倍精度の『浮動』小数点型です。つまり、小数点位置は動的に変更されます。
もし、最初のゼロまで「15桁」中にカウントするのであれば、例えば
0.00000000000000000000000000000000000012345
のような数を保持できない事になってしまいますよね。(^^;
ただ、「計算結果」となると、話が変わってくるかも知れません。
加減算か、乗除算か、あるいはその他の演算かによって、最終的な有効桁数は変化するからです。
たとえば、演算の途中で15桁を超えるような事があれば、
最終結果が15桁以内に収まったとしても、桁落ちする可能性はあるでしょう。
- 関連一覧ツリー
（★ をクリックするとツリー全体を一括表示します）
- 返信フォーム
（この記事に返信する場合は下記フォームから投稿して下さい）