setfloatmode文(Ver9.35対応版)
目次−
setfloatmode文
setfloatmode文は、浮動小数点数モードの切り替えをします。(V7.00以降)
通常版ではこの文は使えません。
setfloatmodeを実行すると、resultは0になります。
浮動小数点数版でこの文を使うことができます。
setfloatmode 0;とすると、浮動小数点数モードがOFFになり、resultは0以外になります。
setfloatmode 1;とすると、浮動小数点数モードがONになり、resultは0以外になります。
浮動小数点数モードでは、以下の動作が通常とは違うようになります。
- 数値変数が浮動小数点数になっている。(符号1ビット、仮数部52ビット、指数部11ビット)
- str関数を使って数値を文字列に変換すると、小数点以下も付いて表示される。
場合によっては指数部付きの形式(+1.234E10のような形式)になることがある。
- val関数を使って文字列を数値に変換する場合は、小数点以下も判断する。
- hex関数を使って数値を16進数の文字列に変換すると、整数に変換して表示される。
- 余りの計算(5 % 2等)の場合は両辺が整数に変換されてから実行される。
- setregnum、getregnumの場合、数値は整数に変換されてから実行される。
- writeininum、getininum文は、小数点付きの値も正しく処理する。
- dllfuncで浮動小数点数用に作られたDLLを呼び出せる。
64bit版においては、setfloatmode 0;の状態では、数値は通常版32bitと同じ扱いになります。
参照:
浮動小数点数モード
HideMath.dll
影響の及ぶ範囲(execmacro)
影響の及ぶ範囲(アクティブ切り替え)