계산기 사용시 (유효자릿수에 의한) 라운딩 처리 때문에 발생하는 오류 가능성, rounding errors
-
- 2024.09.13 - 07:50 2020.11.28 - 13:15 2302 10
출처 : HP-15C ADVANCED FUNCTIONS HANDBOOK (p.145)
ㄴ Appendix : Accuracy of Numerical Calculations
Example 2: Many Pennies.
A corporation retains Susan as a scientific and engineering consultant at a fee of one penny per second for her thoughts, paid every second of every day for a year. Rather than distract her with the sounds of pennies dropping, the corporation proposes to deposit them for her into a bank account in which interest accrues at the rate of 11¼ percent per annum compounded every second. At year's end these pennies will accumulate to a sum
where
payment = $0.01 = one penny per second,
i = 0.1125 = 11.25 percent per annum interest rate,
n = 60×60×24×365 = number of seconds in a year.
Using her HP-15C, Susan reckons that the total will be $376,877.67. But at year's end the bank account is found to hold $333,783.35. Is Susan entitled to the $43,094.32 difference?
In both examples the discrepancies are caused by rounding errors that could have been avoided. This appendix explains how.
The war against error begins with a salvo against wishful thinking, which might confuse what we want with what we get. To avoid confusion, the true and calculated results must be given different names even though their difference may be so small that the distinction seems pedantic.
번역 ChatGPT-4o
출처: HP-15C 고급 기능 설명서 (p.145)
ㄴ 부록: 수치 계산의 정확도
예제 2: 많은 페니.
한 기업이 Susan을 과학 및 엔지니어링 컨설턴트로 고용하면서, 1년 365일 24시간의 매 초마다 그녀의 상상에 대해 1 페니를 지급하기로 한다. 기업은 Susan이 떨어지는 동전 소리에 방해받지 않도록 그녀에게 지급할 돈을 은행 계좌에 예치할 것이며, 그 계좌에는 11¼ 퍼센트의 연이율로 매초마다 복리 이자가 붙는다. 일 년 후 이 페니들은 다음과 같은 금액으로 불어날 것이다.
$$ total = (payment) × \frac {(1+\frac{i}{n})^{n}-1}{\frac{i}{n}} $$
여기서,
지급액 = $0.01 = 1 페니 / 1 sec,
i = 0.1125 = 연이율 11.25%,
n = 60×60×24×365 = 1년의 초 단위 수.
Susan은 그녀의 HP-15C를 사용해 총액이 $376,877.67 이 될 것으로 계산했다.
그러나 1년 후 계좌에 있는 금액은 $333,783.35 뿐이었다.
Susan은 $43,094.32 의 차액을 받을 자격이 있을까?
두 예제 모두 차이가 발생한 원인은 반올림 오류 때문이다. 이러한 오류는 피할 수 있었다. 이 부록에서는 그 이유를 설명한다.
오류와의 전쟁은 우리가 원하는 것과 얻는 것을 혼동할 수 있는 비현실적 기대를 겨냥한 포격으로 시작된다. 혼란을 피하기 위해, 진정한 결과와 계산된 결과에는 구별된 이름이 부여되어야 하며, 그 차이가 너무 작아 보잘것없어 보일지라도 구분해야 한다.
HP-15C는 1982년 출시해 1989년 단종된 공학용 계산기입니다. 구형 기종이다보니 계산에 사용된 유효자릿수가 크지 않았던 듯 싶습니다(찾아보니 10 자리네요).
이 예제에서는 그래서 발생한 오차율이 무려 12.91% 에 달하는데... 이 정도면 (이 용도로는) 못쓴다고 봐야 맞을 겁니다. (항상 검산하고 있을 수는 없잖아요)
그러니 설명서 appendix에 이와 관련하여 오차가 발생할 수 있음을 강력하게? 경고하고 있습니다. 경고할 수밖에 없겠죠. 이 데이터를 그대로 썻다가는... 끔찍한 사태가 발생할 수도 있으니까요. 물론 이 예제는 좀 극단적인 계산에 해당한다고 할 수 있겠습니다만...
Round-Off Error As mentioned earlier, the HP-15C holds every value to 10 digits internally. It also rounds the final result of every calculation to the 10th digit. Because the calculator can provide only a finite approximation for numbers such as π or 2/3 (0.666…), a small error due to rounding can occur. This error can be increased in lengthy calculations, but usually is insignificant. To accurately assess this effect for a given calculation requires numerical analysis beyond our scope and space here! Refer to the HP-15C Advanced Functions Handbook for a more detailed discussion.
60p. Section 5: The Display and Continuous Memory. HP-15C Owner’s Handbook. 20Edition 2.4, Sep 2011
참고 : https://en.wikipedia.org/wiki/HP-15C
문제가 발생한 원인
i/n = 0.1125 / (60 × 60 × 24 × 365) 까지는 문제가 없었지만...
위의 값에 1을 더하는 순간 1 + i/n
화면 자릿수 표시 한계로 마지막 자릿수가 안보이니, 이 값에서 다시 1을 빼 보면
원래 이자율이 아니라 반올림된 "4" 가 남아 있습니다. 이자율이 달라진(올라간) 셈입니다.
요즘 계산기는 어떨까요? (feat. 울프람 알파)
https://www.wolframalpha.com/input?i=0.01*%28%28%281%2B%28%280.1125%29%2F%2860*60*24*365%29%29%29%5E%2860*60*24*365%29-1%29%2F%28%28%280.1125%29%2F%2860*60*24*365%29%29%29%29
= 333783.34994842833172198487646142620143147263335390407812403560738...
≒ 333783.35
-
25
댓글10
-
세상의모든계산기
TI-nspire CX (CAS)
오차 ≒ 4.78829, 오차율 ≒ 0.0014%
-
세상의모든계산기
TI-nspire CX (CAS) Finance Solver
오차 ≒ 0.000000002 오차율 ≒ 0%
단지 우연인지??
공식을 다른 (변형된) 걸 쓰나??
-
세상의모든계산기
HP 39gII
오차 ≒ 262.01175, 오차율 ≒ 0.0785%
-
세상의모든계산기
CASIO fx-570ES (Emul)
오차 ≒ -0.15815, 오차율 ≒ 0.0000474 %
* fx-991EX 결과 동일
-
세상의모든계산기
프로그램을 이용해서 순수하게 루프로만 계산
# 복리 계산 프로그램 # 매초 입금액: 0.01원 # 매초 이자율: 11.25%/(60*60*24*365) # 총 기간: 60*60*24*365 초 # 변수 초기화 deposit_per_second = 0.01 interest_rate_per_second = 11.25 / (60 * 60 * 24 * 365) / 100 total_seconds = 60 * 60 * 24 * 365 balance = 0 # 루프를 통한 복리 계산 for second in range(total_seconds): balance += deposit_per_second # 매초 입금 balance *= (1 + interest_rate_per_second) # 이자 적용 # 최종 잔고 출력 print(f"1년 후 최종 잔고는: {balance:.16f}원")결과 : 1년 후 최종 잔고는: 333783.3508975196164101원
더 정밀한 변수를 사용하면? getcontext().prec = 50
from decimal import Decimal, getcontext # Decimal의 정밀도 설정 getcontext().prec = 50 # 필요한 정밀도에 맞게 설정 # 변수 초기화 (Decimal 사용) deposit_per_second = Decimal('0.01') interest_rate_per_second = Decimal('11.25') / (60 * 60 * 24 * 365 * 100) total_seconds = 60 * 60 * 24 * 365 balance = Decimal('0') # 루프를 통한 복리 계산 for second in range(total_seconds): balance += deposit_per_second # 매초 입금 balance *= (1 + interest_rate_per_second) # 이자 적용 # 최종 잔고 출력 print(f"1년 후 최종 잔고는: {balance:.100f}원")1년 후 최종 잔고는: 333783.3511391508986042206488714749901779988494135500000000000000000000000000000000000000000000000000000000원 // getcontext().prec = 50
1년 후 최종 잔고는: 333783.3511391508986042206488714749901779987514741688945977231006921793358689473965341940033140160948000000원 // getcontext().prec = 100
-
세상의모든계산기
문득 루프로 돌리는게 정확할까? 공식에 넣어 계산하는게 정확할까? 궁금해 졌습니다.
처음에는 별 생각 없었는데(오차가 더 적을 거라는 기대가 있었던 것 같음)
생각해 보니 루프는 오차가 계속 누적되므로 루프 횟수가 많아질수록 오차가 커질 것 같음.from decimal import Decimal, getcontext # Decimal의 정밀도 설정 (100자리까지 계산) getcontext().prec = 100 # 변수 초기화 (Decimal 사용) deposit_per_second = Decimal('0.01') interest_rate_per_second = Decimal('11.25') / (60 * 60 * 24 * 365 * 100) total_seconds = 60 * 60 * 24 * 365 balance_loop = Decimal('0') # 루프를 통한 복리 계산 for second in range(total_seconds): balance_loop += deposit_per_second # 매초 입금 balance_loop *= (1 + interest_rate_per_second) # 이자 적용 # 공식에 맞는 정확한 계산 (fvaf) annual_interest_rate = Decimal('11.25') / 100 # 11.25% 연이자율 n = total_seconds # 총 복리 계산 횟수 (초 단위로 계산) fvaf = ((1 + annual_interest_rate / n) ** n - 1) / (annual_interest_rate / n) # 연금의 내가계수 공식 balance_fvaf = deposit_per_second * fvaf # 공식에 따른 미래 가치 # 결과 출력 print(f"루프를 통한 계산 결과: {balance_loop:.100f}원") print(f"공식에 따른 계산 결과: {balance_fvaf:.100f}원")루프를 통한 계산 결과: 333783.3511391508986042206488714749901779987514741688945977231006921793358689473965341940033140160948000000원
공식에 따른 계산 결과: 333783.3499484283317219848764614262014314726333539040781240356073844039099828033112644904100722067345000000원* 울프람 알파는 일단 결과로 보여지는 자릿수까지는 모두 공식에 의해 정확한 값을 보여주고, 【More Digits】 버튼을 누르면 그에 따라 정밀도를 높여 다시 계산하는 것 같습니다.
세상의모든계산기 님의 최근 댓글
언제 추가되었는지 확인은 못하였습니다만, 델리(DELI) D991EX 가 허용군에 추가되어 본문 갱신하였습니다 2026 11.10 좋은 정보 감사드립니다. 링크 글은 수정하였습니다. 2026 11.10 게임에서는 왜 굳이 버림을 쓸까요? 반올림이면 이런 일이 생깁니다. 진짜 99.99996% → 반올림하면 표시 100.0000% 눈에는 100%인데 렙업이 안 된 거죠. 이건 플레이어 입장에서 명백한 버그로 보입니다. 버림이면 표시가 진짜를 절대 초과하지 않습니다. 진짜 99.99996% → 표시 99.9999% 진짜 100.00000% → 표시 100.0000% = 딱 렙업 즉, 표시가 100%가 되는 순간 = 진짜로 렙업되는 순간이 일치합니다. 2026 11.08 2) 고정기준값 41에 대한 오차 제곱합 계산방법 이건 통계메뉴에서는 딱히 방법이 떠오르지 않네요. 질문하신 것과 같이 적은 갯수의 data라면 직접 입력하시는게 최선입니다. 하지만 DATA 갯수가 수십개 이상이라면? ㄴ 스프레드시트 기능을 이용하시는게 좋겠습니다. 【MENU】【8】 A열에 DATA 입력하고 B로 이동한 후 OPTN 【1】 Fill Formula 【ALPHA】키 방향키 숫자키 등을 이용해 수식 완성 C로 이동후 Formula 수식 입력 D의 빈공간으로 이동 후 OPTN 방향키 아래 누르다보면 Sum 보임 ALPHA 키 이용해서 수식 완성. : 기호는 MENU 버튼 바로 아래 있음 (ALPHA키로 입력) 【=】입력하면 최종결과 확인 * 주의 (B열, C열과 달리) D1 셀은 계산 결과인 951이 직접 입력된 상태이므로 DATA 수정후 recalculation 하여도 자동계산되지 않음. 자동계산을 위해서는 formula 형식으로 입력해야 함. 2026 10.27 1) 통계적 편차제곱합(평균 50.25기준) 입력 방법 【MENU】 【6】 【1】 로 1-var Stat 모드로 진입하여 【48】 【=】 【66】 【=】 【32】 【=】 【55】【=】 DATA 입력 【OPTN】 【3】 【▼】 【▼】 fx-570EX 기종에도 편차제곱합을 바로 보여주진 않습니다. 본문에 나온 것처럼 앞서 계산되어 저장된 각종 변수를 이용해 계산합니다. 【AC】【OPTN】【4】Statistics Calc 이 화면에서 다시 OPTN 하고 (메뉴가 3개로 줄어 있죠?) 여기서 방향키로 【▼】 아래를 내려보면 추가 메뉴가 있습니다. 4개 메뉴에는 각각 아래 하위 메뉴가 있습니다. 이 중에서 필요로 하는 것을 골라 계산하시면 되겠습니다. Variable 에 있는 값을 이용하면 다른 공식을 쓰셔도 됩니다. 2026 10.27