ユーザ用ツール

サイト用ツール


けた落ち

cancellation

 ほぼ等しい値を有する二つの浮動小数点数x, yの差xyを少ない有効けた数で計算すると,意味のあるけたの情報が無くなってしまう現象.単精度演算でけた落ちを起こす場合は倍精度演算を実施する必要がある.