재무 관련 시험에서, (계산기 자릿수?) 반올림에 따른 결과 값에 차이가 있다면?
-
- 2024.10.02 - 11:46 2024.10.02 - 08:46 517 5
네이버 지식인 질문 중 발췌
현재 사용하고 있는 계산기는 텍사스 BA 2 재무용 계산기입니다.
- FV(미래가치) = 450,000,000
- 할인율(계산기에서는 I/Y) = 5.2
- 시간(계산기에서는 N) = 20
여기서 현재가치(PV)를 구하는 문제에서
수식대로 PV = FV / (1+r) 20승 을 계산기로 구하면
아래와 같이 163,266,490.8 이 나오는데요,
[450,000,000 / 2.75623 = 163,266,490.8]
계산기 기능을 사용해서 각 펑션 값을 입력해서 현재가치(PV)를 구하면
답이 163,266,738.9 가 나옵니다.
계산기 자릿수를 5자리까지만 나오게 사용하고 있는데, 생략된 뒷소수자리 때문에 결과값이 다르게 나오는 건가요?
반대로 해보면
450,000,000 / 163,266,738.9 = 2.75623
450,000,000 / 163,266,490.8 = 2.75623
똑같이 답이 나오는데…
어떤 방식으로 계산 했을 때를 답으로 봐야 하는 건지 궁금합니다.
재무계산기를 쓰는 사람과 쌀집계산기를 쓰는 사람 답이 다를텐데 재무계산기 펑션을 사용한 값을 답으로 보는게 맞나요?
-
25
댓글5
-
세상의모든계산기
1. 결과값에 차이가 발생한 이유
(1.052)^(20) = 2.7562258170369......
반올림된 부분의 오차 때문에 결과값에 차이가 발생한 것입니다.
-
세상의모든계산기
1-1. 계산기 자릿수에 의한 오차인가?
BA II Plus 에서
공식에 숫자를 대입하여 직접 계산하더라도
【450000000】【÷】【(】
【1.052】
【yx】【20】
【)】
【=】
의 결과는 재무 계산기의 TVM Solver 의 결과와 같고,
자릿수 설정을 다섯자리로 했는지 두자리로 했는지는가 이 결과에 영향을 미치지는 않습니다.
"계산기의 자릿수 설정 때문에 발생한 오차"라고 말하는 것은 정확한 설명은 아닌 것이고,
(반올림되어) 소숫점아래 다섯자리로 나온 결과를 계산기 내부에서 가져다가 사용하지 않고,
손으로 다시 입력했기 때문에 차이가 나는 것이라고 할 수 있겠습니다.
-
세상의모든계산기
2. 쌀집 계산기를 사용한 계산
Non-K타입 12자리 계산기 = 반올림, F 기준으로
450000000
÷ 1.052 를 20번 반복 하는게 가장 빠릅니다.
제 계산기 기준 【450000000】【÷】【 1.052】【====================】 으로 계산
1
÷1.052 를 20번 반복하면 분모값을 정확하게 구할 수 있으니,
굳이 1.052^20 을 계산한 값을 소숫점 4자리까지만 잘라서 따로 구하고
그걸 나눌 필요가없는 겁니다.
위의 결과값(0.3628149746)에 ×450000000 을 해도 결과값은 거의 정확하게 나옵니다.
450000000을 먼저 넣고 계산한 것 오차는 미세하게 커졌습니다.
-
세상의모든계산기
4. 관행
무슨 시험이신지 모르겠으나, 관계자에게 물어보시는게 좋습니다.
이런 일은 비일비재하게 일어나는 일이니 관행이 있을 수밖에 없습니다.
억단위 계산에서 백원단위 절사해라.
이런 조건이 붙을 수도 있겠구요.
관행으로 채점자가 저 정도는 차이를 용인하고 다 정답으로 할 수도 있습니다.
일반계산기와, 재무용계산기가 혼용되는 시험이고,
주관식으로 답을 적어야 하는 시험이라면
채점 과정에 어느 정도 융통성은 기대할 수 있지 않을까요?
세상의모든계산기 님의 최근 댓글
fx-570 CW 는 아래 링크에서 https://allcalc.org/56026 2025 10.24 불러오기 할 때 변수값을 먼저 확인하고 싶을 때는 VARIABLE 버튼 【⇄[x]】목록에서 확인하고 Recall 하시면 되고, 변수값을 이미 알고 있을 때는 바로 【⬆️SHIFT】【4】로 (A)를 바로 입력할 수 있습니다. 2025 10.24 fx-570 CW 로 계산하면? - 최종 확인된 결과 값 = 73.049507058478629343538 (23-digits) - 오차 = 6.632809104889414877 × 10^-19 꽤 정밀하게 나온건 맞는데, 시뮬레이션상의 22-digits 와 오차 수준이 비슷함. 왜 그런지는 모르겠음. - 계산기중 정밀도가 높은 편인 HP Prime CAS모드와 비교해도 월등한 정밀도 값을 가짐. 2025 10.24 HP Prime 에서 <Home> 73.0495070344 (12-decimal-digits) // python 시뮬레이션과 일치 <CAS> 21자리까지 나와서 이상하다 싶었는데, Ans- 에서 자릿수를 더 늘려서 빼보니, 뒷부분 숫자가 아예 바뀌어버림. 버그인가? (전) 73.0495070584718691243 (21-digits ????) (후) 73.0495070584718500814401 (24-digits ????) 찾아보니 버그는 아니고, CAS에서는 십진수가 아니라 2진수(bit) 단위로 처리한다고 함. Giac uses 48 bits mantissa from the 53 bits from IEEE double. The reason is that Giac stores CAS data (gen type) in 64 bits and 5 bits are used for the data type (24 types are available). We therefore loose 5 bits (the 5 low bits are reset to 0 when a double is retrieved from a gen). 출처 : https://www.hpmuseum.org/cgi-bin/archv021.cgi?read=255657 일단 오차를 놓고 보면 16-decimal-digits 수준으로 보임. 2025 10.23 khiCAS 에서 HP 39gII 에 올린 khiCAS는 254! 까지 계산 가능, 255! 부터는 ∞ fx-9750GIII 에 올린 khiCAS는 factorial(533) => 425760136423128437▷ // 정답, 10진수 1224자리 factorial(534) => Object too large 2025 10.23