"내가 손으로 푼 거랑 달라"
도구 결과가 손 계산과 다를 때가 있다. 도구가 잘못된 게 아니라 입력·진법 어딘가에서 어긋난 경우가 대부분. 한 번 점검 흐름을 익혀 두면 다음부터 의심이 사라진다.
점검 1: 입력 진법 확인
- 10진법으로 입력했는지
- 16진법으로 입력했는지
- 도구 입력 모드와 일치하는지
입력 진법을 도구가 다르게 해석하면 결과 전체가 어긋난다.
점검 2: 진법 표기 접두어
- 0x로 시작하면 16진법
- 0b로 시작하면 2진법
- 0o로 시작하면 8진법
- 접두어 없으면 보통 10진법
접두어를 빠뜨리면 도구가 다른 진법으로 해석할 수 있다.
점검 3: 사용 가능 숫자
- 2진법에 2~9 입력 → 오류
- 8진법에 8~9 입력 → 오류
- 10진법에 A~F 입력 → 오류
- 16진법에 G 이상 → 오류
각 진법이 허용하는 숫자 범위 안에 입력해야 한다.
점검 4: 자릿수 누락
2진법 1101을 손으로 풀 때 한 자리 빠뜨리면 결과가 달라진다. 도구 입력에서도 자릿수 정확히 확인. 진법 변환기로 입력 형태가 정확한지 한 번 더 확인.
점검 5: 음수·소수 처리
- 음수는 일반 변환과 컴퓨터 내부(2의 보수)가 다름
- 소수점은 도구별 지원 차이
- 큰 수(64비트 초과)는 정밀도 한계
특수한 경우는 도구별 처리 방식이 다를 수 있다. 일상 변환은 도구로 충분, 정밀 작업은 별도 검증.
점검 흐름 정리
- 입력 진법 모드 일치
- 진법 표기 접두어 확인
- 사용 가능 숫자 범위
- 자릿수 정확
- 특수 경우(음수·소수) 점검
다섯 단계를 거치면 결과 차이의 원인이 거의 잡힌다. 진수 변환기로 다시 입력해 결과가 같은지 비교.
마무리
결과가 다르면 도구를 의심하기 전에 입력을 점검. 다섯 가지 중 하나가 원인인 경우가 대부분이다.