일반 계산기에서의 자릿수 12 digits / 14 digits
-
- 2024.09.13 - 17:43 2024.07.03 - 06:03 663 2
1. 일반 계산기에서의 자릿수 digits
계산기의 자릿수는 그 기기가 처리하고 표시할 수 있는 숫자의 최대 개수를 나타냅니다. 일반적으로 10자릿수, 12자릿수, 14자릿수 계산기가 많이 사용됩니다. 영어로는 각각 10 digits, 12 digits, 14 digits라고 표현합니다. 이 숫자는 계산기에 저장되고 활용될 수 있는 숫자의 한계를 의미합니다.
극단적인 예를 들어, 4자릿수(4 digits) 계산기의 경우 3.141592...와 같은 긴 소수를 입력하려고 해도 3.141까지만 입력이 가능합니다. 이 상태에서 2로 나누면 1.5705...가 되지만, 계산기는 5번째 자리에서 반올림하여 1.571만을 결과값으로 저장하고 표시합니다. 이처럼 자릿수 제한으로 인해 계산 과정에서 오차가 발생할 수 있습니다.
일상생활에서는 10자릿수 계산기도 충분히 정확한 결과를 제공하지만, 더 정밀한 계산이 필요한 경우 12자릿수나 14자릿수 계산기를 선호합니다. 특히 회계사 시험을 준비하는 사람들은 가장 오차가 적은 14자릿수 계산기를 많이 사용합니다. 자릿수가 많을수록 더 정확한 계산이 가능하지만, 대부분의 일상적인 계산에는 10자릿수로도 충분합니다.
2. 회계사 시험에서 14 digits 를 선호하는 이유
회계사 시험에서는 억(원)단위 숫자를 다루기도 하는데, 억원이면 1*10^8, 천억이면 1*10^11 이니까
12digits 로 충분하긴 합니다만...
계산 도중에 곱하기 나누기가 들어가다보면 12 digits 로 모자른 경우가 발생하기도 합니다.
https://kin.naver.com/qna/detail.nhn?d1id=4&dirId=40402&docId=392101115&qb=6rOE7IKw6riw&enc=utf8§ion=kin.qna.all&rank=1&search_sort=3&spq=0
이 때는 E 에러가 나서 멈춰버리고, 다시 처음부터 계산해야 할 수 있습니다.
그러면 계산하던 흐름이 끊겨버려서 시간낭비를 하게 되니, 맘편하게 14 digits 제품을 선호하는 것입니다.
14 digits 일반 계산기의 대표주자로 JS-40B 이 있습니다.
-
25
세상의모든계산기 님의 최근 댓글
V2 갱신 (nonK / K-Type 통합형) 예전에는 직접 코드작성 + AI 보조 하여 프로그램 만들었었는데, 갈수록 복잡해져서 손 놓고 있었습니다. 이번에 antigravity 설치하고, 테스트 겸 새로 V2를 올렸습니다. 직접 코드작성하는 일은 전혀 없었고, 바이브 코딩으로 전체 작성했습니다. "잘 했다 / 틀렸다 / 계산기와 다르다." "어떤 방향에서 코드 수정해 봐라." AI가 실물 계산기 각정 버튼의 작동 방식에 대한 정확한 이해는 없는 상태라서, V1을 바탕으로 여러차례 수정해야 했습니다만, 예전과 비교하면 일취월장 했고, 훨씬 쉬워졌습니다. 2026 02.04 A) 1*3*5*7*9 = 계산 945 B) √ 12번 누름 ㄴ 12회 해도 되고, 14회 해도 되는데, 횟수 기억해야 함. ㄴ 횟수가 너무 적으면 오차가 커짐 ㄴ 결과가 1에 매우 가까운 숫자라면 된 겁니다. 1.0016740522338 C) - 1 ÷ 5 + 1 = 1.0003348104468 D) × = 을 (n세트) 반복해 입력 ㄴ 여기서 n세트는, B에서 '루트버튼 누른 횟수' 3.9398949655688 빨간 부분 숫자에 오차 있음. (소숫점 둘째 자리 정도까지만 반올림 해서 답안 작성) 참 값 = 3.9362834270354... 2026 02.04 1. 분모 먼저 계산 400 × 10000 = 100 × 6000 = GT 결과값 4,600,000 역수 처리 ÷÷== 결과값 0.00000021739 2. 분자 곱하기 ×3 00 00 00 ×4 00 ×1 00 00 최종 결과 = 2,608,695.65217 2026 02.04 해결 방법 1. t=-1 을 기준으로 그래프를 2개로 나누어 표현 ㄴ 근데 이것도 tstep을 맞추지 않으면 문제가 발생할 것기도 하고, 상관이 없을 것 같기도 하고... 모르겠네요. 2. t=-1 이 직접 계산되도록 tstep을 적절하게 조정 tstep=0.1 tstep=0.01 도 해 보고 싶지만, 구간 크기에 따라 최소 tstep 이 변하는지 여기서는 0.01로 설정해도 0.015로 바뀌어버립니다. 그래서 tstep=0.02 로 하는게 최대한 긴 그래프를 얻을 수 있습니다. 2026 02.02 불연속 그래프 ti-nspire는 수학자처럼 연속적인 선을 그리는 것이 아니라, 정해진 `tstep` 간격으로 점을 찍고 그 점들을 직선으로 연결하는 'connect-the-dots' 방식으로 그래프를 그립니다. 여기에 tstep 간격에 따라 특이점(분모=0)이 제외되어 문제가 나타난 것입니다. seq(−2+0.13*t,t,0,23) {−2.,−1.87,−1.74,−1.61,−1.48,−1.35,−1.22,−1.09,−0.96,−0.83,−0.7,−0.57,−0.44,−0.31,−0.18,−0.05,0.08,0.21,0.34,0.47,0.6,0.73,0.86,0.99} t=-1 에서 그래프를 찾지 않습니다. 그 좌우 값인 −1.09, −0.96 두 값의 그래프값을 찾고, Window 범위를 보고 적당히 (연속되도록) 이어서 그래프를 완성하는 방식입니다. 그래서 t=-1에서도 그래프 값이 존재하는 것입니다. 2026 02.02