ユーザ用ツール

サイト用ツール


丸めの誤差

round-off error

 浮動小数点数は数学的な真の値に対し仮数の最終けたの大きさ程度の誤差(マシンエプシロン)を有する.したがって,浮動小数点数による演算結果もこれに対応した丸めの誤差を有する.

01/1012513.txt · 最終更新: 2017/07/19 08:48 by 127.0.0.1