728x90 300x250 부동소수점 연산 오류1 [javaScript] 부동소수점 연산 오류 아래의 연산을 계산해 보면 let x = 0.2 + 0.1; 당연히 0.3이 나올 거라 생각되지만 결과는 예상과 다른 값이 나온다. 0.2 + 0.1 = 0.30000000000000004 정수에서도 오차를 발견할 수 있다. let x = 999999999999999; // x will be 999999999999999 let y = 9999999999999999; // y will be 10000000000000000 정수의 최대 자릿수는 15자리까지 정확하게 표출이 된다. 왜 이런 오차가 발생하는 것일까? 컴퓨터는 소수 2진수를 이용해서 저장하고 컴퓨터의 저장용량은 한정되어있는데 무한대의 엄청 큰 숫자를 정확하게 계산하려면 속도도 느려지고 용량도 많이 차지하게 될 것이다. 그렇기 때문에 효율성을 위해.. 2022. 9. 30. 이전 1 다음 728x90 반응형