23,094
回編集
(→数値) |
|||
分数や平方根(√3 など)などは、プログラム言語によっては「sqrt(3)」(平方根を英語で 「square root」という)のような式としては使える場合もあるが、しかし、それらの式(分数や平方根)の計算結果は、有限のケタ(たとえば 1.732050807 )に近似され、小数として近似される。
もしコンピュータで√3が 1.732050807 に近似されたなら、
:けっして 1.73205 08075 68877 29352 74463 41505 87236 69428 05253…でなく、
:コンピュータ
という意味である。
|
回編集