컴퓨터에서 실수표현을 하는 데 있어서, 메모리의 한계가 있기 때문에 정확도에도 한계가 있지요.
정수표현 조차도 기본자료형으론(INT64) 2^64-1 이상은 안되는것 처럼요.
대부분의 언어에서나 그렇습니다.
우리가 1/3을 소수로 나타낼 때, 편의상이나, 표기의 한계상 0.333 처럼 중간에 끊는 것 처럼, 컴퓨터상에서도 메모리 한계상 중간에 끊어요.
윈도 계산기에선 6E-30의 오차가 생기네요.
NaCl 2009-07-19 PM 6:22:13
제 기억에는 0.1도 2진수로는 무한소수라고...
강현구 2009-07-19 PM 9:07:39
컴퓨터의 문제가 아니고 실수 표현법이 그런거지요
오차가 1e-14 정도면 대부분의 계산에서는 충분히 정확하다고 봅니다..