「数値型の計算誤差」の版間の差分
| 40行目: | 40行目: | ||
} | } | ||
==一度整数にした後で変換する== | ==一度整数にした後で変換する== | ||
他には、例えば一度整数にしてから計算する方法が考えられます。次の例では、二つの数を整数にすることができる数<code>dis ** 10</code>を求めて二数を整数にした後、計算を行うことで誤差を防ぎます。ただしこの場合でも、有効数字15桁以上の数は正確に扱うことができません。 | |||
import “Alice.Math”; | import “Alice.Math”; | ||