内容へ移動
ユーザ用ツール
管理
ユーザー登録
ログイン
サイト用ツール
検索
ツール
文書の表示
以前のリビジョン
バックリンク
最近の変更
メディアマネージャー
サイトマップ
ユーザー登録
ログイン
>
最近の変更
メディアマネージャー
サイトマップ
現在位置:
機械工学事典
»
計算力学
»
けた落ち
この文書は読取専用です。文書のソースを閲覧することは可能ですが、変更はできません。もし変更したい場合は管理者に連絡してください。
====== けた落ち ====== ==== cancellation ==== {{tag>..c01}} ほぼ等しい値を有する二つの浮動小数点数//x//, //y//の差//x//-//y//を少ない有効けた数で計算すると,意味のあるけたの情報が無くなってしまう現象.単精度演算でけた落ちを起こす場合は倍精度演算を実施する必要がある. ~~NOCACHE~~
01/1003581.txt
· 最終更新: 2023/02/17 10:54 by
127.0.0.1
ページ用ツール
文書の表示
以前のリビジョン
バックリンク
文書の先頭へ