「プログラミング/共通知識」の版間の差分

ソースコードで記述する整数リテラル、及び小数リテラルは、特に指定をしないかぎり、10進数である。整数と、(ほとんどの場合、[[w:IEEE 754|IEEE 754]]に準拠した) 有限のケタの小数が、普通のプログラム言語では使える。分数や平方根（<math>\sqrt 3</math> など）などは、関数として用意されている場合でも、評価結果が近似される。また、小数も精度以下の部分は近似して表されるます。

もし<math>\sqrt 3</math>が <math>1.732050807732050808</math> に近似されたなら、コンピュータ内部では、<math>1.73205 \, 08075 \, 68877 \, 29352 \, 74463 \, 41505 \, 87236 \, 69428 \, 05253 \, \cdots</math>ではなく、<math>1.732050807732050808 \times 10^0</math>という値として表現されているます。上記のように、本来なら数学的には無限のケタの平方根などの無理数を有限ケタの小数に近似してしまうため、誤差が発生する。このような、無限小数を有限小数に近似したために誤差の発生する現象のことを'''ケタ落ち浮動小数点数による誤差'''という。