「やさしい応用情報処理技術者講座」にややこしいのが、解りやすくまとめてあったのを写経。
丸め誤差
数値を有効桁数にする際の誤差。例えば
は
として表現できるが
は
となり循環するためこのまま表現することができない。つまり、正確にをあらわすことができない
打ち切り誤差
計算を途中で打ち切ることにより生じる誤差。例えば方程式の解を求める際に計算を途中で打ち切って解の近似値を得る場合などを言う
けた落ち
絶対値がほぼ等しい２数を計算するとき有効数字（有効桁数）が減ってしまうことを言う。例えば、
は有効数字が５桁から１桁にけた落ちしている。
情報落ち
絶対値の大きな数値と絶対値の小さな数値を演算したとき小さな値のけたの情報が落ちてしまうこと。例えば有効桁を４桁として
を計算するとき２つの指数の桁を揃える必要があるが、このとき小さな数値が有効桁数に収まらなくなってしまい情報落ちが発生する。（
）
オーバーフロー
絶対値が大きいため、一定のビット数で表現できる範囲を超えてしまうこと。例えば
は8ビットでは表現することができない。
アンダーフロー
絶対値が小さいため表現できなくなること。例えば
は8ビット固定小数点では表現することができない。
やさしい応用情報技術者講座 2016年版 (「やさしい講座」シリーズ) | |
 | 高橋 麻奈 SBクリエイティブ 2015-11-26 |
