[공학용 계산기] 화면에는 안보이는 하위 자릿수 확인하기
-
- 2024.09.27 - 15:07 2015.10.14 - 12:31 2769 10
공학용 계산기는 내부적으로 계산에 사용하는 (유효)숫자와 외부화면상에 보여주는 숫자의 자릿수 차이가 있습니다. 내부적으로 계산에 사용하는 (유효)숫자는 대략 12자리~15자리로 계산기마다 차이가 있습니다. 자릿수가 많을수록 계산 결과가 더 정확해 지지만, 그 댓가로 계산 속도를 잃고 더 많은 메모리가 필요하게 됩니다. 그래서 적당한 수준에서 내부적 유효숫자를 cut 하여 정해놓습니다.
계산기에서 결과 화면상에 보이지 않는 추가적인 자릿수의 숫자를 확인하는 방법을 살펴보겠습니다.
원리는 간단합니다. 안보이는 쪽은 숫자의 오른쪽이므로, 왼쪽을 하나씩 없애면 오른쪽이 하나 보이는 겁니다.
예시)
[CASIO fx-350 ES] 에서 log(1.23) 을 구하면 소숫점11자리까지만 나옵니다.
(자릿수 표시 설정 : Norm1 혹은 Norm2 인 경우)
정수부분이 없으므로, 적당히 10n 을 곱해서 소수부분을 정수로 만들고, 그 정수부분을 없애보겠습니다.
여기서 정수부분을 빼줍니다.
그러면 안보이던 뒷부분(393979)이 드러나게 되는 것이죠.
같은 과정을 한번 더 하더라도 추가 자릿수는 나오지 않습니다.
(이미 계산기 내부의 유효 계산 자릿수를 다 확인하였기 때문입니다)
확인한 값을 연결하여
최종 상용로그값 log(1.23) = 0.089951114393979 (유효숫자 14자리) 값을 구할 수 있게 되었습니다.
주의
여러 단계의 계산인 경우에는 계산 과정중에 발생하는 오차가 확인하려고 하는 유효자릿수보다 클 수 있습니다. 그럴 때는 위의 방법으로 확인한 최종 결과값을 그대로 믿어서는 안됩니다.
따라서 결과값을 검토할 수 있다면 검토해서 사용하시고, 검토할 수 없다면 (틀린 결과일 수 있다는 가능성에) 주의해서 사용하시기 바랍니다. 그것이 중요한 의미를 갖는 계산일 때에는 wolfram alpha 사이트를 이용해서 계산하시는게 좋습니다.
-
25
댓글10
-
세상의모든계산기
https://kin.naver.com/qna/detail.naver?d1id=4&dirId=40402&docId=466406476&qb=6rOE7IKw6riw&enc=utf8§ion=kin.qna.all&rank=1&search_sort=3&spq=0
24*1.08^395
= 3.8246760741742144333298134773137547925018381087460557669889902692740302835543440552895098678257447980746108101685223968853... × 10^14
https://www.wolframalpha.com/input?i=24*1.08%5E395
-
-
세상의모든계산기
계산기별 유효 하위 자릿수 확인 방법은? 예상했던 것과 결과가 다른 이유는?
ㄴ fx-991ES PLUS C Emulator
10^1 이면 2자리, 10^11 이면 12자리.
1/10 = 0.1 = 1.0 * 10^(-1) 1자리 아닌가? 이것도 2자리로 들어가나?(100,000,000,000 + 0.1) - 100,000,000,000 = 100,000,000,000.1 - 100,000,000,000 = 0.1
(1,000,000,000,000 + 0.1) - 1,000,000,000,000 = 1,000,000,000,000. - 1,000,000,000,000 = 0
이렇게 됐다는 말인데...
그럼 내부 유효 자릿수가 최대 13이라는 거 아닌가? 14로 알고 있었는데?
부동소숫점 처리가 되면 ×10^(m) 으로 바뀌면서 m(exponent) 도 자리를 차지하게 되는 건가?
-
-
-
세상의모든계산기
EL-W506T PC Emulator
설명서 EL-W506T EL-W516T MODEL EL-W516XG
-
-
세상의모든계산기
fx-570 ES Plus - Norm(1, 2)에서
2,786,774.58 + 152,529,503.4 = 155316277.98 이지만
ㄴ 강제로 소숫점 단위가 반올림되는 이유는?
ㄴ fx-570 ES Plus 설명서 중 발췌
설명서에 나온 것처럼 내부에 저장된 값과 관계없이,
인수가 10자리 수로(?) 반올림되기 때문입니다.
155316277.98 에서 8이 반올림 되는 것인데
그 결과
155316278.0 이 되고 (Norm에서) .0을 표시하지 않는 내부 구조상
155316278 만 남게 되는 것입니다.
세상의모든계산기 님의 최근 댓글
500! 의 십진수 근사값 확인 500! = 1.22013682599111006870123878542304692625357434280319284219241358838 × 10^(1134) (참값, 울프람 알파) 2025 10.29 관련 라이브러리 https://allcalc.org/56263 sgn(x) 내장된 부호 함수(signum function)와 달리, 이 함수의 sgn(0)은 0을 반환합니다. 2025 10.29 라이브러리로 사용할 수 있습니다. (제작자 추천) 1. mylib 폴더에 넣기 2. Actions ➡️ library ➡️ refresh libraries 실행 하기 2025 10.29 ChatGPT-5 기호(÷, /, :) 자체는 의미적으로 같은 “나눗셈”을 뜻하지만, 문맥(사람이 쓰는 수학 vs 컴퓨터/프로그래밍)에 따라 해석 우선순위가 달라질 수 있습니다. 🔹 1️⃣ 전통 수학 표기 — ÷, /, : 수학 교과서, 논문, 일반 문서 등에서는 셋 다 의미적으로 “나누기”로 간주됩니다. 즉, 48÷2(9+3), 48/2(9+3), 48:2(9+3) 은 같은 의미로 받아들여야 합니다. 모두 사람의 수학 관행적 해석이 적용되어 48 ÷ 2 × (9+3) = 288 로 처리되죠. 즉, 기호가 바뀌어도 결과는 바뀌지 않습니다. 🔹 2️⃣ 컴퓨터·프로그래밍 문맥에서 / 사용 시 컴퓨터는 “생략된 곱셈(implicit multiplication)”을 따로 구분하지 못합니다. 따라서 다음 두 식은 완전히 다르게 인식됩니다. 표현 파이썬 등에서 해석 결과 48 / 2*(9+3) ((48 / 2) * (9+3)) 288 48 / 2(9+3) ❌ 문법 오류 (생략된 곱셈 인식 불가) — 즉, 컴퓨터 언어에서는 생략된 곱셈이 허용되지 않기 때문에, /는 반드시 명시적 *와 함께 써야 합니다. 🔹 3️⃣ “:” 기호의 경우 현대 수학에서는 “비율”을 나타내는 기호로 쓰입니다. a:b = \frac{a}{b} 따라서 (27 : 3(1+2)3) 같은 표현은 모호하거나 비표준적으로 간주됩니다. 대부분의 경우 계산기로는 입력 자체가 불가능합니다. ✅ 정리 기호 의미 결과 변화 주로 쓰이는 문맥 ÷ 나누기 없음 초중등 수학, 일반 표기 / 나누기 없음 (단, 프로그래밍에서는 생략 곱 불허) 수학/컴퓨터 : 비율 (또는 나누기 의미로 혼용) 보통 계산식에서는 사용 안 함 비, 비율 표기 🔹 결론 48 ÷ 2(9+3), 48/2(9+3), 48:2(9+3) 는 “수학적 의미”로는 동일하게 81로 해석됩니다. 하지만 프로그래밍이나 수식 파서(context) 에서는 /만 유효하고, 생략된 곱은 허용되지 않으며, :는 아예 다른 의미(비율)로 인식됩니다. 2025 10.28 ChatGPT-5 💯 네, 정확히 그 지점을 짚으셨어요. 요약하면 이렇게 말할 수 있습니다: “생략된 곱하기(implicit multiplication)”는 문자에서는 강한 결합력을 인정하지만, 숫자나 괄호 사이에서는 일반 곱셈(×)과 동일한 우선순위로 취급된다. 즉, 문자에서는 더 강하게 결합, 숫자·괄호 사이에서는 그냥 ‘보통 곱셈’ 으로 본다는 것이 현대 수학 표기와 계산기의 관행적 규칙입니다. 🔹 두 경우의 구조적 차이 식 형태 실제 해석 결과 결합력 특징 ab ÷ ab 문자 붙음 ((a×b) ÷ (a×b)) 1 문자 간 결합이 강함 → 한 항으로 인식 3(1+2)3 숫자·괄호 혼합 (3 × (1+2) × 3) 27 생략된 ×는 보통 곱셈 → 좌→우 규칙 적용 🔹 왜 문자식은 결합력이 더 강한가? 기호적 표현의 안정성 (ab), (xy), (2x) 같은 표기는 수백 년 동안 “하나의 곱셈 항(term)”으로 인식되어 왔습니다. 그래서 수학자들은 이걸 암묵적으로 “괄호로 묶인 덩어리”로 봅니다. ab ÷ ab = (ab) ÷ (ab) 함수 표기와 구분 필요 예: (sinx ÷ x) 에서 sinx는 sin(x)로 묶여야 의미가 있습니다. 이런 이유로 “문자 옆에 붙은 기호나 문자”는 항상 먼저 결합되도록 하는 관행이 굳어졌습니다. 🔹 반면 숫자·괄호에서는 (3(1+2)) 는 단순히 “3 × (1+2)”의 약식 표현이고, 여기서 “생략된 곱셈”은 “명시적 곱셈”과 동일한 연산자로 간주됩니다. 따라서 27 ÷ 3(1+2)3 = 27 ÷ 3 × 3 × 3 = 81 처럼 좌→우 순서로 처리합니다. 🔹 결론 생략된 곱하기(implicit multiplication)의 결합력은 표기 맥락에 따라 다르다. 문자/기호와 함께 쓰일 때 → 강하게 결합 (하나의 항으로 인식) 숫자와 괄호 사이 → 일반 곱셈과 동일한 우선순위 (좌→우 계산) 이건 “규칙이 바뀐 것”이 아니라, 표기 문법(context) 이 달라서 ‘결합 단위(token)’이 달라진 결과라고 보는 게 가장 정확합니다. 2025 10.28