tagCANDY CGI VBレスキュー(花ちゃん)の Visual Basic 6.0用 掲示板
VBレスキュー(花ちゃん)の Visual Basic 6.0用 掲示板
[ツリー表示へ]  [ワード検索]  [Home]

タイトル Re^2: 科学技術計算式の表示
投稿日: 2016/04/19(Tue) 08:59
投稿者計さん
魔界の仮面弁士様、返信が遅くなってしまって申し訳ありません。
あの後、関係各位と打ち合わせをしていたので遅くなりました。
ご相談の件ですが、一応の解決はいたしました。
現場の人間とさらに打ち合わせをして、どうやら現場として
得たい結果は、べき乗の数が知りたかったようです。
表記のルールとしては、
 1.計算結果によって『〇.〇〇E-〇〇』と表記する。
 2.計算結果によって『E』より後の数値が変動する。
    例:
     計算結果が『0.〜』の場合、『E』より後ろの数は『24』
     計算結果が『1.〜』の場合、『E』より後ろの数は『23』
 3.計算結果が『0.〜』だった場合、1つ桁上げをして表記する。
です。例えば、計算結果が
『1.25687394108575』だった場合、『-』から後の数値は『23』で
表記としては『1.26E-23』となり
計算結果が
『0.8704533855091751』だった場合、『-』から後の数値は『24』で
表記としては『8.70E-23』となります。
現場では、このような表記で計算結果の数値を扱っているようなので
処理としては、IF文で計算結果が『0.〜』なのか『1.〜』なのかを
判定して無理やり『〇.〇〇E-〇〇』の形に編集して出力するように
しました。
現場サイドにも見せ、テストしてもらったところOKをいただいたので
これで実装することになりました。
このような表記方法が正式にあるのかどうか、このような表記方法が
何という表記方法なのかわかりませんが、現場サイドの要望では
OKなようなのでこれでいこうと思います。
アドバイスいただきありがとうございました。

- 関連一覧ツリー をクリックするとツリー全体を一括表示します)

古いスレッドにレスはつけられません。