DL30 FAQ9

Webロガー2(形式:DL30)のI/Oマッピング機能を利用して、アナログ演算レジスタ(MA)の値をアナログ出力(A0)へ割り付けたところ、MAの値が600ですが、AOの値は599となりました。なぜでしょうか?
<A>
アナログ演算レジスタ(MA)は単精度浮動小数点型のため、厳密な内部の値は近似値です。手計算した値が600でもMAの中の値は599.9999のようになることがあります。MAの値が599.9999のときに、Web画面にMAを表示すると下の桁を四捨五入して、600.0と表示します。
このときに、MAをAOにI/Oマッピングするとアナログ出力(AO)は整数型のため、小数点以下を切り捨ててAOの値が599.0になります。
|