tagCANDY CGI VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
VBレスキュー(花ちゃん) の Visual Basic 2010 用 掲示板(VB.NET 掲示板)
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^4: Double型のアスキー変換について
投稿日: 2011/07/02(Sat) 15:42
投稿者ハイド
> > アドバイスありがとうございます。
> > 現在、System.BitConverter.GetBytes()でバイト配列に変換→System.Text.ASCIIEncoding.ASCII.GetString()でアスキー変換しています。
> >
> > Double値 = 65.0 → 'A'には変換できています。
> > 問題は "AAAAAAAA"など8バイトフルに使った場合です。
> > 8バイトなので8文字OKだと思っているのですが、どうも桁落ちしてしまうらしく正しい結果が得られないのです。
>
> そうなるとDoubleが無理があるのかも、Int64とかUInt64にしてみてはどうでしょう?

一応、Longでは可能だということは確認しています。
客先からDouble型という指定がありましたので色々と模索しているところです。
もしVB的に実現不可能なのであればLongにせざるを得ないかもと思っています。

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。