「プログラミング/共通知識」の版間の差分

分数や平方根(√3 など)などは、プログラム言語によっては「sqrt(3)」(平方根を英語で 「square root」という)のような式としては使える場合もあるが、しかし、それらの式(分数や平方根)の計算結果は、有限のケタ(たとえば 1.732050807 )に近似され、小数として近似される。
 
もしコンピュータで√3が 1.732050807 に近似されたなら、 数学の値におき合えれば コンピュータ内部では
:けっして 1.73205 08075 68877 29352 74463 41505 87236 69428 05253…でなく、
:コンピュータ内部では 1.73205080700000000000000000000000000000000・・・・に近似されている
という意味である。
 
23,094

回編集