値丸めが発生したときの対策

JoyWatcherでは値丸めが発生した場合、条件が一致しなくなることがあります。

値丸めに関しては、以下ナレッジを参照ください。

例:[LOCAL$AA.TAG$VALUE]>=[LOCAL$AA.HI$VALUE]のような条件式で、

[LOCAL$AA.HI$VALUE]に100.01を設定すると、値丸めによって「100.0100021632」となるため、

[LOCAL$AA.TAG$VALUE]に100.01を入れても条件が一致しなくなります。

この場合、条件として使用する100.01までを抽出するためには、

[LOCAL$AA.TAG$VALUE]>= ( ROUND( [LOCAL$AA.HI$VALUE]*100 ) /100 )

としてください。

ROUNDは設定されたタグの小数点以下を四捨五入するため、100.0100021632に100をかけて10001.00021632とすると、「10001」となります。

この「10001」を再度100で割ることで、100.01となるため、値丸めが起きた場合も、条件が一致するようになります。

上記の例では小数点以下2桁ぶんを抽出していますが、例えば小数点以下3桁分を抽出する場合は、1000をかけてROUNDし、1000で割るようにすることで、可能となります。

Related content