丸め誤差

Rounding Error まるめごさ

高頻出 ⚪ 旧用語テクノロジ系基礎理論

意味・解説

数値を有限の桁数で表現するために四捨五入や切り捨てを行うことで生じる誤差。

コンピュータでは有限のビット数で数値を表すため、無限小数や循環小数は正確に表現できない。例えば0.1は2進数では無限小数となり、丸め誤差が生じる。この誤差が計算を重ねるごとに蓄積される可能性がある。

有限の桁数に収めるために、はみ出た部分を切り捨てたり四捨五入することで生じる誤差です。

【原因】

・10進数の0.1は2進数では0.000110011...と無限に続く

・有限ビットで表現するため近似値になる

【影響】

・繰り返し計算で誤差が蓄積

・0.1を10回足しても1.0にならないことがある

丸め誤差の蓄積を防ぐため、金額計算には整数型を使用して1円単位で管理している。

同義語: 丸め込み誤差, ラウンドオフエラー

分類: 計算誤差