VBレスキュー(花ちゃん) の Visual Basic 2010 用掲示板(VB.NET 掲示板)

タイトル： Re: ＳＩＮＧＬＥ型の切捨てについて

投稿日： 2016/11/09(Wed) 08:01

投稿者： shu

Single型で正確な数を要求すること自体やめた方がよいかと思いますが
希望のことをされるのでしたら
切り上げの最低値をSingleで求めIf判定された方が解決しやすいかもしれません。
掛け算した時点で誤差の数値を拾ってきてしまうので提示された方法で
行うならDecimalに変換してからDecimalで計算してSingleに戻すとうまくいくかも
しれません。

- 関連一覧ツリー （

をクリックするとツリー全体を一括表示します）

ＳＩＮＧＬＥ型の切捨てについて

SUZUKI

No.11755

Re: ＳＩＮＧＬＥ型の切捨てについて - shu 16/11/09-08:01 No.11756
- Re^2: ＳＩＮＧＬＥ型の切捨てについて - SUZUKI 16/11/09-11:03 No.11757
  - Re^3: ＳＩＮＧＬＥ型の切捨てについて - SUZUKI 16/11/09-13:00 No.11758
    - Re^4: ＳＩＮＧＬＥ型の切捨てについて - shu 16/11/09-13:32 No.11759
      - Re^5: ＳＩＮＧＬＥ型の切捨てについて - SUZUKI 16/11/09-15:22 No.11760
        
        Re^6: ＳＩＮＧＬＥ型の切捨てについて - 魔界の仮面弁士 16/11/09-19:07 No.11761
        
        Re^7: ＳＩＮＧＬＥ型の切捨てについて - SUZUKI 16/11/10-09:43 No.11762

タイトル	： Re: ＳＩＮＧＬＥ型の切捨てについて
投稿日	： 2016/11/09(Wed) 08:01
投稿者	： shu

古いスレッドにレスはつけられません。