- 세상의 모든 계산기 수학, 과학, 공학 이야기 수학 ()
유효숫자 Significant figures
1. 정의
- 정확도에 영향을 주는 숫자 : Wikipedia(KO)
- 오차를 고려한다 해도 신뢰할 수 있는 숫자를 자릿수로 나타낸 것 : 두산 백과
- The significant figures of a number are those digits that carry meaning contributing to its precision : WIkipddia (EN)
- Each of the digits of a number that are used to express it to the required degree of accuracy, starting from the first non-zero digit. : Oxford Dic
2. 특징
- 유효숫자의 갯수는 소숫점 위치와는 무관
- 자릿수만을 표현하기 위한 0은 유효숫자가 아니다. 0.000123 에서 1 앞의 0들
- 유효숫자 사이의 숫자는 유효숫자이다. (유효숫자는 연속으로 존재한다) 102 에서 1과 2가 유효숫자라면 0도 유효숫자
- 과학적 상수는 유효숫자가 무한대
- 수학은 오차 없는 정확한 숫자를 다루기 때문에 유효숫자 문제가 발생하지 않으나,
과학은 실험에 의한 오차가 항상 발생하기 때문에 유효숫자를 잘 파악해야 한다.
3. 구분
숫자 |
유효숫자의 갯수 |
비고 |
0.000123 |
1,2,3 |
앞의 0 무리는 자릿수를 표현하기 위한 것일 뿐 |
1.234 |
1,2,3,4 |
|
2.0 |
2,0 |
|
0.0 |
없음 |
모든 자리가 0 |
1.200E(-10) |
1,2,0,0 |
|
4×10² |
4 |
? |
내 손바닥 위의 사탕 1개 |
무한대 |
오차 없이 정확한 측정이 가능한 셈의 결과 |
무한대 |
과학적 상수 |
|
1980 (1의 자리 반올림) |
1,9,8 |
|
1980 (소숫점 첫째자리에서 반올림) |
1,9,8,0 |
|
4. 연산
- 덧셈, 뺄셈
소숫점 이하 자릿수가 짧은 것에 기준한다.
ex) 101.10 (소수이하2)+ 1.234 (소수이하3) + 3.109910 (소수이하6)105.44 (소수이하2)
- 곱셈, 나눗셈
유효숫자의 갯수가 적은 것에 기준한다.
ex) 101.10 (유효5)× 1.234 (유효4)124.7 (유효4)
1.2 kW (유효2) × 2 (유효무한대)2.4 kW(유효2)
- 셋 이상의 숫자 연산시 유효 숫자 처리는 중간에 혹은 마지막에?
매 계산마다 유효숫자 처리를 하는 것이 원칙.
단, 중간 유효숫자 갯수보다 한자리 많게 계산함.(근거는 모르겠음. 곱하기에서만 한자리 많게 하는 건가?)
ex) 4.18 - 56.17 ⅹ (3.382 - 3.01)
= 4.18 - 56.17 ⅹ 0.37 ⇐ 뺄셈방법에 따라 소수점 이하 2자리로 맞춤.
= 4.18 - 20.(8) ⇐ 반올림하여 한자리를 추가한 후 유효숫자 2자리로 맞춤.
= -17 ⇐ 소수점 첫째 자리에서 반올림하여 소수점 이하 0자리로 맞춤. (4.18 - 20 = -15.82)
- 반올림? 버림?
댓글5
- 1
-
세상의모든계산기
연산 예제의 계산 (feat. TI nspire Tool - Significant Figures Calculator )
나름 계산해 과정까지 보여주긴 합니다만,
교제에서 나온 것과 결과가 다를 수 있습니다. 주의하세요.
세상의모든계산기 님의 최근 댓글
fx-CG 의 경우 분모→A, 분자→B 로 저장해 풀어보면 fx-570 과 같이 A,B,C,D 로 나눠서 계산하면 결과는 둘 다 같음. 73.0495070585238 (15 digits) 같은 15digits 정밀도라도, 공학용 계산기에 따라 결과가 달라질 수 있는 건가? 입력 실수했나? - 어쨌건, TI-nspire 보다 정밀한 결과값 - 파이썬 시뮬레이터상 15 digits 값과 같진 않지만, 유사함. 2025 10.22 [공학용 계산기] 계산기 내부에서 사용하는 유효숫자 자릿수 Significant Digits https://allcalc.org/8848 2025 10.22 계산 정확도 (Internal Precision) 저게 맞나 싶은데요? 무슨 의미로 사용된 용어인지 검증이 필요한 듯 합니다. fx-570 ES PLUS 만 해도 내부 유효자릿수가 15-digits 입니다. https://allcalc.org/55918#comment_55944 2025 10.22 TI-nspire 로 동일하게 A, B, C, D 나누어 계산해 봐도... 한꺼번에 계산한 것과 똑같은 결과 "어? TI-nspire가 유효자릿수가 하나 적나?" 하고 1.234567890123456789 입력하고 Ans - 1.2345678 해 보니 내부 유효자릿수가 다르게 나오네요. TI-nspire 는 (십진수) 14-digits CASIO fx-570 ES 는 (십진수) 15-digits 둘 다 같다고 착각하고 있었나봅니다. 2025 10.22 카시오 fx-570 ES 로 계산하면? 카시오도 (십진수) 14digits 한계이므로, 비슷한 값이 나올 것으로 예상됨. 다만, stack 한계로 한번에 계산이 불가능하므로 부분을 나누어 계산 → A → B → C → D 최종 계산 결과에서 73.049507 을 빼면 fx-570 ES가 구한 결과값(Ans)은 73.0495070584404 (15digits) 로 최종 확인됨. - TI-Nspire 보다 오차가 작음. - 파이썬 시뮬레이션 15 digits 와는 차이가 있음. 2025 10.22