VB6.0用掲示板の過去のログ(No.2)−VBレスキュー(花ちゃん)
[記事リスト]
[新規投稿]
[新着記事]
[ワード検索]
[管理用]
| 投稿日 | ： 2005/05/23(Mon) 03:19 |
| 投稿者 | ： 魔界の仮面弁士 |
| Ｅメール | ： |
| ＵＲＬ | ： |
| タイトル | ： Re^3: |
> しかしながら、計算した結果が制度の悪い型になるというのは考えられません。
制度→精度、の事だと解釈しますが、この場合の「精度が悪い」というのは、
どのような意味で書かれていますか?
「精度が悪い」という表現には、幾通りかの解釈があるかと思います。
たとえば、「数値として表現可能な範囲が狭い」(最小値と最大値の差が小さい)とか、
「値と値の幅が広く、細かい値を表現できない」(整数型なら1単位、通貨型なら0.0001単位)とか。
> 『Debug.Print TypeName(10@ / 1@)』は、「Double」を返しますが、以下のコードを
> 実行してみると、c3＝c5 とはならず、c3には通貨型の精度で値が表示されます。
上記の、「通貨型の精度」という表現の意味がわかりませんでした。
そらから、このコードが何を表しているのかも、良く分からなかったのですが、これは、
途中で、2進数の倍精度浮動小数点型処理が加わっているので、
通貨型(4桁固定小数点型)←→倍精度浮動小数点型の変換に伴う誤差が発生する
c3 と c5 では、途中の演算での丸め処理の発生位置が異なっているので、
両者は必ずしも同値を返すわけでは無い
……という2つの点を実験したものなのでしょうか?
(すみません、コードの意図が読み取れませんでした)
- 関連一覧ツリー
（★ をクリックするとツリー全体を一括表示します）
- 返信フォーム
（この記事に返信する場合は下記フォームから投稿して下さい）