「数値型の計算誤差」を編集中 (節単位)

==許容範囲を決めて値を比較する==
二つの浮動小数点数数値型数を比較するとき、例えばそれらが等しいかを調べるときに<code>==</code>を使うのは危険です。両者が全く等しい場合のみ等しいと判断するのではなく、「両者の差の絶対値がある程度であれば等しいと認める」など許容範囲を決めて比較する方が安全です。次の例は、許容範囲を定めt、<code>0.000001</code>未満の差の場合に等しいと判断します。
 import “Alice.Math”;
 
 ///二つの小数が等しいと認められるかどうかを評価します
 ///パラメータ a:一方の値
 ///         b:もう一方の値
 /// tolerance:許容できる誤差の最大の値(この数値は常に正)     
 function NumEqual(number a,number b,number tolerance)
  {
     return (math_abs(a - b) < tolerance);
  }
 
 var numA = 0.1 + 0.2;
 var numB = 0.3;
 ///許容範囲
 var tolerance = 0.000001;
 if(NumEqual(numA,numB,tolerance))
  {
     print(“二値は等しいと認められました”);
  }