• ※ 사이트 내부 통합검색

  • ※ 카카오페이로 기부하기

  • ※ 사이트 내부 통합검색

ㄴ Appendix : Accuracy of Numerical Calculations

Example 2: Many Pennies.

A corporation retains Susan as a scientific and engineering consultant at a fee of one penny per second for her thoughts, paid every second of every day for a year. Rather than distract her with the sounds of pennies dropping, the corporation proposes to deposit them for her into a bank account in which interest accrues at the rate of 11¼ percent per annum compounded every second. At year's end these pennies will accumulate to a sum

화면 캡처 2020-11-28 133239.png


payment = $0.01 = one penny per second,
i = 0.1125 = 11.25 percent per annum interest rate,
n = 60×60×24×365 = number of seconds in a year.

Using her HP-15C, Susan reckons that the total will be $376,877.67. But at year's end the bank account is found to hold $333,783.35. Is Susan entitled to the $43,094.32 difference?

In both examples the discrepancies are caused by rounding errors that could have been avoided. This appendix explains how.

The war against error begins with a salvo against wishful thinking, which might confuse what we want with what we get. To avoid confusion, the true and calculated results must be given different names even though their difference may be so small that the distinction seems pedantic.


HP-15C는 1982년 출시해 1989년 단종된 공학용 계산기입니다. 구형 기종이다보니 계산에 사용된 유효자릿수가 크지 않았던 듯 싶습니다. 오차율이 무려 12.91%에 달하는데... 이 정도면 (이 용도로는) 못쓴다고 봐야 맞을 겁니다.

그러니 설명서 appendix에 이와 관련하여 오차가 발생할 수 있음을 강력하게? 경고하고 있습니다. 경고할 수밖에 없겠죠. 이 데이터를 그대로 썻다가는... 끔찍한 사태가 발생할 수도 있으니까요. 물론 이 예제는 좀 극단적인 계산에 해당한다고 할 수 있겠습니다만...


요즘 계산기는 어떨까요? (feat. 울프람 알파)

MSP58011e9b092cf0bgeeac0000641fh5cebi9ac68e.gif = 333783.34994842833172198487646142620143147263335390407812403560738...



댓글 '8'