컴퓨터의 float 처리

컴퓨터는 실수를 근사값으로 표현한다.
실수는 원주율이나, $2/3$처럼 무한한 경우가 존재하므로, 메모리의 제한에 의해 정확도가 제한된 근사값으로 저장한다.

따라서, 실수가 포함될 경우 같은 수식이여도 계산 순서, 컴파일러 최적화, 등의 외부 환경에 따라 값이 변할 수 있다.

IEEE 754 표준은 가장 흔히 사용되는 실수 표기 방식으로, 연산에 관한 규정, 오버플로, 언더 플로 처리, 반올림 등의 방식을 정한다.

부동 소수점 표기

이진수로 실수를 표기할 경우 무조건 최상위 이진수는 1이 되게 된다.

최상위 이진수를 유일한 정수부로 만들고, 지수를 곱하는 방식으로 바꾸면 최상위 비트를 생략해도 되므로 1비트 절약하게 된다.

ex) $101.11 \rightarrow +\ .0111 \times 2^2$ (1은 생략)
이렇게, 소수점을 옮기는 방식으로 표현하므로 부동 소수점(floating point)라고 말한다.
- 반대로, 옮기지 않고 표현하는 고정 소수점 표기법도 존재함.

즉, 결국 보다시피 실수 변수는 3가지 정보를 저장하게 된다.

지수와 가수에 할당되는 비트의 수만큼 더욱 정확한 근사값을 표현할 수 있다.
보통 지수보다 가수에 더 많이 할당되며, 넘어가는 수는 반올림된 후 버려진다.

따라서 실수간의 비교는 직접 동일함을 비교하는 것이 아니라 두 수의 차이가 오차범위 내 인지 확인하는 방법으로 진행한다.

See you, Space Cowboy