[공학용 계산기] 결과에 E가 뭐죠? ▶ 숫자(자릿수)의 표기법 Display Digits
-
- 2025.08.15 - 22:01 2015.01.16 - 23:19 181065 14
1. 표기법(Notation)이란?
공학용 계산기에서 다루는 숫자는 일상에서 쓰이는 숫자들과 비교하면 단위가 훨씬 더 크거나, 아니면 반대로 훨씬 더 작은 경우가 많습니다.
게다가 한번의 계산식에 여러가지 기호와 숫자들이 연속으로 나열되기도 하죠.
그래서 수식에 사용되는 숫자를 모두 하나도 빠짐없이 일상적 표기법에 의해 표시하면,
식이 너무나 길어지게 되고, 연속되는 숫자의 나열의 갯수에 집중하다보면 전체 수식을 파악하는 것에도 방해가 됩니다.
"계산기 입장"에서는 수식이 길든 짧든 아무런 상관이 없겠지만, 그것을 눈으로 보고 빠르게 인식/판단해야 하는 "인간의 입장"에서 "어떻게 보여지는가?"는 아주 중요한 문제입니다.
계산기를 직접 다룰 사람이 조금 더 수식을 편하게 볼 수 있도록 계산기 제작자는 숫자를 조금 특별하게 변형시켜 표현할 수 있게 하였는데, 그것이 지금 다룰 "표기법"입니다.
이러한 변형된 꼴의 숫자를 처음 접하는 경우에는 거부감이 들 수도 있지만, 사람의 적응력이란 놀라워서 계속 쓰다보면 금방 익숙해진답니다.
※ 초기(Default) 설정값이 아닌 경우, 현재 설정된 계산기 표기법이 화면 상단에 표시됩니다.
2. 표기법의 종류
a. 소수점의 위치에 따라 2가지로 나뉩니다.
i. 고정소수점 방식 (Fix) : 소숫점은 정수부와 소수부를 구분하는 점으로 고정되어 사용됩니다.
일상적인 소숫점 사용 방법과 동일합니다. 단, 소숫점 이하 몇자리까지를 표시할지 미리 결정하여야 합니다.
장점 : 계산에 이용되는 숫자들의 자릿수가 비슷하거나, 정수 위주의 계산인 경우 그리고 소수 이하 자리에 큰 의미가 없는 때에 유용합니다.
단점 : 소숫점 이하 자리가 0 일 때에도 모든 소수부 전체가 표시되기 때문에 수식이 쓸데없이 길어질 수 있습니다.
ii. 부동소수점 방식 (Float) : 소숫점의 위치가 이리저리 자유롭게 변동됩니다.
예를 들자면 소숫점 아홉번째 자리에 소숫점이 찍힐 수도 있습니다. 대신 뒤에 지수형태로(×10^-n, 또는 E로 표시) 어떤 수가 곱해져서 소숫점 위치의 이동을 상쇄시킵니다.
계산에 아주 큰 단위끼리의 아니면 아주 작은 단위끼리 아니면 큰 단위와 작은 단위가 혼재되어 있는 연산에 유용합니다.
표시할 유효한 자릿수를 지정할 수 있고, 지정된 것보다 적은 유효자릿수인 경우에는 적은 만큼만 표시되기 때문에 보기에 편합니다.
b. 지수(Exponential) 표현의 방식에 따라 3가지로 나뉩니다.
i. Normal Notation : 일상의 표기법입니다.
ii. Scientific Notation : 과학적 표기법입니다.
iii. Engineering Notation : 공학적 표기법입니다.
※ 질문 : 계산기에서 E는 무엇을 의미하나요?
예전 계산기(및 컴퓨터)에서는 한줄 표기밖에 되지 않았습니다. 10의 지수 형태(Exponential Format) 를 화면 표시하려고 보니, ×10n 꼴의 (윗첨자) 지수 형태를 액정장치에 구현하는 것도 쉽지 않았고, 그렇다고 "ooo×10^(±n)" 꼴로 정직하게 표시하자니, 가독성이 그다지 좋지 않을 뿐더러, 자리도 많이 차지했습니다. 결국 기존의 수학적 기호만을 사용하여 표현하는 효율적인 해결방법을 찾지 못했고, 그 대안으로 (지수의 의미를 가진 영단어 exponent의 약자 기호(=symbol) 로 만들어) "E"를 "×10^()" 대신에 간단하게 사용하게 된 것입니다.
여기서 (a)는 가수(假數, mantissa) 가 되고, (b) 는 10의 지수(Power of ten)가 됩니다. E만 따로 읽는다면 그냥 "E"로 읽거나 "곱하기 10의(b)승"이라고 읽어야 할 것입니다.
조금 더 쉽게 이해하자면 E는 10진수에서 소숫점의 위치를 이동(shift) 시키는 것으로 볼 수 있습니다.
예를 들어, E 다음에 +3(플러스)이 오면 (a)의 소숫점을 오른쪽으로 3칸 이동시키고, -4(마이너스)가 오면 소숫점을 왼쪽으로 4칸 이동시킵니다.
계산 예)
2,000,000,000×0.000000000003 = ??????
2E9 × 3E-12
= (2×3)E(9－12)
= 6E-3
= 0.006
ii) Scientific Notation (SCI)
을 E지수꼴 표시하면 5Ｅ3 입니다. (+3인데 플러스 기호는 생략되는 경우가 많습니다)
을 E지수꼴로 표시하면 5Ｅ-4 입니다.
iii) Engineering Notation (ENG)
공학적 표기법은 과학적 표기법(Sci)와 비슷한데, 지수(n)를 3의 배수로만 사용한다는 차이가 있습니다.
위의 표현 예를 다시 살펴보면
은 10의 지수가 3의 배수이니 SCI나 ENG나 차이가 없습니다.
는 10의 지수가 -4로서 3의 배수가 아니므로 다른 방식으로 표현됩니다.
과학적 표기법
5E-4, 공학적 표기법500E-6
E 앞에 오는 숫자인 가수(假數, 위의 예에서는 5 또는 500)가 될 수 있는 범위는 다음과 같습니다.
과학적 표기법 : 1 ≤ 가수(假數) <10
공학적 표기법 : 1 ≤ 가수(假數) <1000
※ 주의 : 모든 공학용 계산기에 Engineering Notation 기능이 있는 것은 아닙니다.
또 10^(3k) 꼴로 나타내지 않고 SI 접두어 k, m, μ, n 를 사용하는 모델(예:[fx-570 MS])도 있습니다.
3. 표기법에 따른 계산 결과의 차이
표기법은 단지 보기 편하도록 표시하여 주는 것 뿐, 결과값에 직접 영향을 미치지는 않습니다.
예를 들어 결과값을 3자리에서 반올림하여 표시하도록 설정했다고 해서, 실제로 결과값이 3자리에서 반올림되는 것은 아니라는 뜻입니다.
4. 계산기별 설정
[fx-350], [fx-570] [fx-5800p] [fx-9860G] 설정 - 자릿수 표기 및 반올림 Display Digits 및 Internal Rounding
[fx-570 MS] 공학용 단위 표기 설정 Mode - Disp - Eng on/off
[EL-509X] 설정 - 자릿수 표시 Display Digits
-
25
댓글14
-
세상의모든계산기
공학용 계산기에서 "E" 의 입력 방법
본문에 나온 "×10^()" 10의 지수 기호인 E는 결과로서만 볼 수 있는 것이 아니고, 입력시에도 사용할 수 있습니다.
(다만, 계산기에 따라 E 기호로 표시되지 않을 수는 있습니다.)- 보이는 것은 표기법에 설정에 따라 선택적으로 표시되지만, 사용하는 것은 영향을 받지 않습니다.
- 계산기마다 버튼 표시가 다를 수 있으므로 계산해서 확인해 보세요.
- 【×10x】 : 해당 기종 [fx-570 ES, EX], [fx-350 ES, EX]
- 【EXP】 : [fx-9860G 시리즈]
- 【EE】 : [TI-nspire], [TI-89]
- 【EEX】 : [HP Prime]
-
세상의모든계산기
"E" 사용 최초의 기록
위키에 나오기로는
E는 최소 1956년, 1958년부터는 사용되었다고 합니다. (원조는 확인을 못했습니다)Most popular programming languages – including Fortran, C/C++, Python, and JavaScript – use this "E" notation, which comes from Fortran and was present in the first version released for the IBM 704 in 1956.[4] The E notation was already used by the developers of SHARE Operating System (SOS) for the IBM 709 in 1958.[5]
-
세상의모든계산기
IBM 704 - manual of operation 문서에서는 E 흔적을 못찾았습니다.
https://archive.computerhistory.org/resources/text/Fortran/102653985.05.01.acc.pdf
Fortran 문서에서는 E의 흔적이 있습니다.
THE FORTRAN AUTOMATIC CODING SYSTEM FOR THE IBM 704 EDPM
Programmer's Reference Manual October 15, 1956
https://archive.computerhistory.org/resources/text/Fortran/102649787.05.01.acc.pdf
-
세상의모든계산기
Fortran 의 전신인 Speedcording(1953) 의 설명서 IBM 701 SPEED CODING SYSTEM 에는
https://archive.computerhistory.org/resources/access/text/2018/02/102632810-05-01-acc.pdf
E notation 이 없는 걸 보면 Fortran 이 최초가 아닐까 싶습니다.
-
세상의모든계산기
SOS 레퍼런스 메뉴얼에는 정확하게 설명되어 있습니다.
© 1959 by International Business Machines Corporation
https://bitsavers.org/pdf/ibm/share/SOS_Reference_Manual_Jun61.pdf
03.00.12
-
세상의모든계산기
첨부된 사진에 설명된 E notation은 현대의 E notation과 매우 유사하지만, 몇 가지 미묘한 차이점이 있습니다:
1. 유사점:
- 'E'를 사용하여 10의 지수를 나타냅니다.
- 소수점과 지수 표기를 사용합니다.
- 양의 지수에서 '+'기호를 생략할 수 있습니다.2. 차이점:
- 현대의 표기법에서는 보통 소수점 앞에 0이 아닌 숫자를 하나만 두는 것이 일반적입니다. 예를 들어, '314159.E-5' 대신 '3.14159E5'를 사용합니다.
- 문서에서는 '.314159E+1'과 같은 표기를 허용하고 있습니다. 현대에서는 이런 표기보다는 '3.14159E0'을 선호합니다.
- 문서에서는 '314159-5'와 같은 표기도 허용하고 있습니다. 현대의 과학적 표기법에서는 이런 형태를 거의 사용하지 않습니다.3. 특이사항:
- 문서는 'E' 문자를 생략할 수 있다고 언급하지만, 이는 지수가 명시적으로 표시될 때만 가능하다고 설명합니다. 현대의 많은 프로그래밍 언어와 수학 소프트웨어에서는 'E'를 반드시 포함해야 합니다.4. 추가 정보:
- 문서는 'B' 문자를 사용하는 경우에 대해 언급하고 있는데, 이는 현대의 일반적인 E notation에서는 보지 못하는 내용입니다.전반적으로, 이 문서에 설명된 E notation의 기본 개념은 현대의 것과 매우 유사하지만, 일부 표기 방식과 규칙에서 차이가 있습니다. 이는 표기법이 시간이 지남에 따라 더 표준화되고 간소화되었음을 보여줍니다.
-
세상의모든계산기
1972년 출시 ~ 1975년 단종 된 HP-35 의 사진을 찾아보니
http://codex99.com/design/the-hp35.html
브로셔 사진으로 추정해 보면,
E가 액정상에 직접 표시되진 않았던 것 같습니다.
위키를 찾아보니 그게 맞나봅니다.
Display type Red LED seven-segment display Display size 15 digits (decimal point uses one digit), (±10±99)
The calculator used a traditional floating decimal display for numbers that could be displayed in that format, but automatically switched to scientific notation for other numbers. The fifteen-digit LED display was capable of displaying a ten-digit mantissa plus its sign and a decimal point and a two-digit exponent plus its sign.
-
세상의모든계산기
수식의 결과로 E0 꼴로도 표시되는지;?
1. 계산기에 따라 다릅니다.
우선 Norm 과 같은 설정에서는 안되고,
Float 0~9 나 SCI 0~9 등의 설정으로 강제하면 일반적으로는 되는 듯 합니다.
fx-570 ES PLUS 는 E0 꼴은 아니고 ×100 꼴로는 나옵니다.
구형 액정 계산기의 경우 ×10지수 표시가 액정에 박혀? 있는데,
그런 계산기도 ×100 꼴로 표시하는게 일반적인 듯 합니다.
2. 반면
어떻게 해도 E0 꼴로 표시가 안되는 계산기도 있습니다.
하나씩 살펴보니 이 유형이 비 일반적이라고 보여지네요.
-
세상의모든계산기
Scientific Notation 을 E로 표시하게 된 것은
Seven-Segment Display 장치와 매우 관련이 높아 보입니다.
https://en.wikipedia.org/wiki/Seven-segment_display
https://patents.google.com/patent/US1126641
1903년에 특허가 최초 출원되었다고 하니
7segment display 개발 이후에 E가 자리 잡았다고 보는게 맞을 듯 합니다. 순서적으로는
세상의모든계산기 님의 최근 댓글
fx-570 CW 는 아래 링크에서 https://allcalc.org/56026 2025 10.24 불러오기 할 때 변수값을 먼저 확인하고 싶을 때는 VARIABLE 버튼 【⇄[x]】목록에서 확인하고 Recall 하시면 되고, 변수값을 이미 알고 있을 때는 바로 【⬆️SHIFT】【4】로 (A)를 바로 입력할 수 있습니다. 2025 10.24 fx-570 CW 로 계산하면? - 최종 확인된 결과 값 = 73.049507058478629343538 (23-digits) - 오차 = 6.632809104889414877 × 10^-19 꽤 정밀하게 나온건 맞는데, 시뮬레이션상의 22-digits 와 오차 수준이 비슷함. 왜 그런지는 모르겠음. - 계산기중 정밀도가 높은 편인 HP Prime CAS모드와 비교해도 월등한 정밀도 값을 가짐. 2025 10.24 HP Prime 에서 <Home> 73.0495070344 (12-decimal-digits) // python 시뮬레이션과 일치 <CAS> 21자리까지 나와서 이상하다 싶었는데, Ans- 에서 자릿수를 더 늘려서 빼보니, 뒷부분 숫자가 아예 바뀌어버림. 버그인가? (전) 73.0495070584718691243 (21-digits ????) (후) 73.0495070584718500814401 (24-digits ????) 찾아보니 버그는 아니고, CAS에서는 십진수가 아니라 2진수(bit) 단위로 처리한다고 함. Giac uses 48 bits mantissa from the 53 bits from IEEE double. The reason is that Giac stores CAS data (gen type) in 64 bits and 5 bits are used for the data type (24 types are available). We therefore loose 5 bits (the 5 low bits are reset to 0 when a double is retrieved from a gen). 출처 : https://www.hpmuseum.org/cgi-bin/archv021.cgi?read=255657 일단 오차를 놓고 보면 16-decimal-digits 수준으로 보임. 2025 10.23 khiCAS 에서 HP 39gII 에 올린 khiCAS는 254! 까지 계산 가능, 255! 부터는 ∞ fx-9750GIII 에 올린 khiCAS는 factorial(533) => 425760136423128437▷ // 정답, 10진수 1224자리 factorial(534) => Object too large 2025 10.23