VB6.0用掲示板の過去のログ(No.1)−VBレスキュー(花ちゃん)
[記事リスト]
[新規投稿]
[新着記事]
[ワード検索]
[過去ログ]
[管理用]
| 投稿日 | ： 2003/08/13(Wed) 17:40 |
| 投稿者 | ： cozi |
| Ｅメール | ： |
| ＵＲＬ | ： |
| タイトル | ： Re^2: データ型Double計算について |
回答ありがとうございました。
> 先頭のゼロの桁に付いては、精度桁にはカウントされません。
> ですから、『0.123456789012345』という数なら、桁落ちせずに保持されます。
桁落ちせずに保持されること確認できました。
ありがとうございます。
> ただ、「計算結果」となると、話が変わってくるかも知れません。
> 加減算か、乗除算か、あるいはその他の演算かによって、最終的な有効桁数は変化するからです。
>
> たとえば、演算の途中で15桁を超えるような事があれば、
> 最終結果が15桁以内に収まったとしても、桁落ちする可能性はあるでしょう。
そうですね。
いろいろご丁寧に教えて下さって本当にありがとうございました。
- 関連一覧ツリー
（★ をクリックするとツリー全体を一括表示します）
- 返信フォーム
（この記事に返信する場合は下記フォームから投稿して下さい）