샤프 계산기(EL-W506T, EL-5500X 등) 정적분 계산시 오차 주의 - 정적분 정밀도 높이기
-
- 2025.12.11 - 12:45 2025.12.11 - 12:17 987 2
1. 미스터리: 같은 문제, 두 개의 다른 답
공학용 계산기는 복잡한 수학 문제를 해결하는 강력한 도구입니다. 하지만 때로는 우리를 당황하게 만들기도 합니다.
특정 Sharp 공학용 계산기 모델에서 다음 정적분 문제를 계산했을 때, 설정 하나 차이로 전혀 다른 두 결과가 나오는 현상이 발견되었습니다.
문제: ∫(1 / ((1-x)(2-x))) dx 를 0부터 0.999까지 적분하시오.
- 기본 설정으로 계산한 결과:
6.747063684
- 계산식 마지막에
,1000을 추가하여 수동 설정으로 계산한 결과:6.217014664
어째서 이런 큰 차이가 발생했을까요? 이 글에서는 그 원인을 파헤치고, 계산기를 더 정확하게 사용하는 방법을 안내합니다.
2. 원인 분석: 공학용 계산기는 어떻게 정적분을(넓이를) 구하는가?
가. 진짜 정답: 해석적 방법 = 사람이 하는 방법 = CAS 계산기가 하는 방법
오차를 알기 위해선 먼저 '참값'을 알아야 합니다. 이 문제는 부분분수 분해를 통해 수학적으로 정확하게 풀 수 있습니다.
1 / ((1-x)(2-x))는 1/(1-x) - 1/(2-x)와 같습니다. 이를 적분하면 ln|(2-x)/(1-x)|가 되며, 0부터 0.999까지 정적분한 참값은 ln(500.5) 입니다.
고정밀도 계산기로 구한 참값은 약 6.2156075987... 입니다.
나. 계산기의 방식: 수치 적분과 '구간'
계산기는 사람처럼 수식을 푸는 것이 아니라, 수치 적분이라는 근사적인 방법으로 넓이를 구합니다.
마치 곡선 아래 영역을 수많은 잘게 썬 '피자 조각(구간)'으로 나누고, 각 조각의 넓이를 더하는 것과 같습니다.
Sharp 계산기는 별도 설정이 없으면 이 조각의 개수, 즉 구간(subinterval)을 100개로 하여 계산합니다. (*설명서 참고)
다. 무엇이 오차를 만들었나?
이제 모든 조각이 맞춰졌습니다. 계산 결과를 표로 비교해 보겠습니다.
| 계산 방식 | 구간(Subinterval) 수 | 결과값 | 참값과의 차이 (오차) |
|---|---|---|---|
| 참값 (ln(500.5)) | - | 6.215607... | - |
| Sharp (기본 설정) | 100 | 6.747063... | 약 +0.531 (매우 큰 오차) |
| Sharp (수동 설정) | 1000 | 6.217014... | 약 +0.0014 (오차 대폭 감소) |
오차의 핵심 원인은 적분하려는 함수 f(x)가 x=1에서 분모가 0이 되어 값이 무한대로 치솟는 '수직 점근선'을 가지기 때문입니다.
적분 구간의 끝인 0.999는 이 위험 지점 바로 옆입니다.
- 100 구간 (실패): 구간의 폭이 너무 넓어서,
x=0.99에서x=0.999사이의 폭발적인 값의 증가를 제대로 감지하지 못하고 건너뛰어 버립니다. 결국 엉뚱한 넓이를 계산하게 됩니다. - 1000 구간 (성공): 구간을 10배 더 잘게 쪼개자, 계산기는
x=1근처의 가파른 변화를 훨씬 촘촘하게 추적할 수 있게 되었습니다. 그 결과 훨씬 더 정확한 근사값을 얻은 것입니다.
3. Sharp 계산기 정밀 계산을 위한 실용 가이드
이러한 함정을 피하고 Sharp 계산기를 더 신뢰성 있게 사용하기 위한 단계별 가이드입니다.
1단계: 함수를 의심하라 (그래프 형태 예측)
계산 전에 함수를 살펴보세요. 분모가 0이 되는 지점, 즉 '점근선'이 있는지 확인하는 것이 첫걸음입니다.
2단계: 적분 구간을 확인하라 (위험 지역 근처인가?)
점근선이 적분 구간 안이나 아주 가까이에 있다면, 계산기의 기본 설정이 오차를 일으킬 확률이 매우 높다는 경고 신호입니다.
3단계: 수동으로 정밀도를 강제하라 (,n 활용)
위험이 감지되면, 계산식 뒤에 ,n을 추가하여 구간 개수를 직접 지정하세요. n은 구간의 수입니다.
사용법: ∫(함수, 시작값, 끝값, 구간 개수)
예시: ∫(1/((1-X)(2-X)), 0, 0.999, 1000)
*중요한 계산이라면 처음부터 1000 이상의 값을 지정하는 것이 안전합니다.
하지만 숫자가 커질수록 이렇게 BUSY 한 화면을 계속 쳐다보는 '끈기' 내지 한참 있다가 쳐다볼 '여유'가 필요합니다.
4단계 (선택): 결과를 교차 검증하라
n=1000일 때와 n=2000일 때의 결과를 비교하여, 값이 거의 변하지 않는다면 결과가 안정되었다고 믿을 수 있습니다.
6.2170에서 6.2157 로 바뀌었으니 안정되었다고 볼 수도 있겠고, 요구하는 정밀도에 따라서 아직 멀었다고 볼 수도 있겠습니다.
4. 결론: 도구를 이해하고 지배하기
이번 사례는 공학용 계산기가 만능이 아니라 정해진 알고리즘에 따라 작동하는 도구임을 명확히 보여줍니다.
특히 Sharp 계산기는 사용자에게 '구간 개수'라는 정밀도 제어 레버를 직접 제공하며,
기본 subinterval 을 100으로 매우 작게 기본설정하여, 시간적 이득을 취하는 것을 선택하였습니다.
하지만 그 반대 급부로서 기본 오차 가능성을 크게 만들었죠.
우리는 계산기의 잠재적인 함정을 피해갈 수도 있고, 함정에 걸려버릴 수도 있습니다.
복잡한 계산일수록 계산기의 한계를 인식하고 적극적으로 사고할 필요가 있다고 하겠습니다.
아니면... 그걸 대신해줄 다른 계산기로 넘어가셔야...
-
25
댓글2
-
세상의모든계산기
다른 계산기의 경우와 비교
1. TI-nspire CAS
ㄴ CAS 계산기는 가능한 경우 부정적분을 먼저하고, 그 값에 구간을 대입해 최종값을 얻습니다.
ㄴ 부정적분이 불가능할 때는 수치해석적 방법을 시도합니다.
2. CASIO fx-991 ES Plus
ㄴ CASIO 계산기의 경우, 적분할 함수에 따라 시간이 달라지는 것으로 알고 있는데, 정밀도를 확보할 별도의 알고리즘을 채택하고 있는 것이 아닐까 생각되네요.
세상의모든계산기 님의 최근 댓글
- claude AI는 l-c*r^2 을 1-c*r^2 으로 잘못 읽고 표시하고 있습니다. - TI-nspire CAS 계산기에 l-c*r^2 ≥0 을 조건에 추가해 계산해 보아도 결과는 바뀌지 않습니다. 2026 07.20 ⚠️ 경고가 바로 두 번째 방법이 "성공"한 이유와 정확히 연결되어 있습니다. 경고의 의미 "Domain of the result might be larger than the domain of the input"는 CAS가 절댓값(모듈러스)을 계산하는 과정에서 원래 식보다 정의역이 더 넓은 형태로 단순화했다는 뜻입니다. 구체적으로 이 계산은 내부적으로 대략 이런 과정을 거칩니다. $$\left|\frac{er}{e\cdot r}\right| = \sqrt{\left(\frac{er}{e\cdot r}\right)\cdot\overline{\left(\frac{er}{e\cdot r}\right)}}$$ 즉 원래 식(복소수)과 그 켤레복소수를 곱해서 실수부·허수부 제곱합을 만들고, 거기에 다시 제곱근을 씌우는 과정입니다. 이 과정에서 √(x²) → x 또는 √a·√b → √(ab) 같은 규칙들이 쓰이는데, 이런 규칙들은 x가 실수이고 0 이상일 때만 엄밀하게 성립합니다. CAS는 이 조건들을 일일이 다 추적하지 않고 넘어가면서, 원래는 (e≠0, r+l·ω·i ≠ 0 등) 복소수 특유의 좁은 정의역을 가진 식을, r, l, ω가 어떤 실수여도(부호 무관하게) 정의되는 1/√(r²+l²·ω²)라는 더 넓은 정의역의 식으로 바꿔버린 것입니다. CAS는 이 손실을 감지하고 경고를 띄운 것입니다. 이게 왜 조건 대입 성공과 연결되는가 정리하면, 이 경고는 사실상 이런 뜻입니다. "나는 이 결과를 만들면서 원래 식이 가지고 있던 정의역 제약 정보(부호 조건, i 관련 조건 등)를 이미 버렸다." 바로 이 "정의역 정보를 버린" 상태가 이후 con_1 대입을 매끄럽게 만드는 원인입니다. 첫 번째 시도에서는 i가 살아있는 원래 식에 조건을 대입했기 때문에, CAS가 √(1-c·r²)이 실수인지(정의역 조건: 1-c·r² ≥ 0) 계속 추적하려고 했고, 그 정보가 con에 없어서 더 이상 정리를 못 하고 멈췄습니다. 두 번째 시도에서는 절댓값 계산 단계에서 이미 그런 세밀한 정의역 추적을 CAS 스스로 포기(단순화)했기 때문에, 이후 ω에 무리식을 대입해도 "이게 실수가 맞나?" 하는 검증 절차 없이 그냥 대수적으로 치환·정리해 버립니다. 그래서 깔끔하게 √c/√l이 나온 겁니다. 한 줄 요약 절댓값 계산 시 뜬 "정의역이 넓어졌을 수 있다"는 경고는, CAS가 그 순간에 원래 식의 엄밀한 조건(정의역)을 놓쳤다는 신호이고, 바로 그 "조건을 놓친 상태"이기 때문에 뒤에 이어지는 조건식 대입이 막힘없이 진행된 것입니다. 다만 그 대가로, 결과인 1/√(r²+l²·ω²)이나 최종 √c/√l이 원래 회로 조건(i≠0이 되는 경계, 분모가 0이 되는 경우 등)에서는 엄밀히 성립하지 않을 수 있다는 점은 감안하셔야 합니다. 실제 물리적으로는 r, l, c > 0이고 결과도 물리적으로 타당한 형태라 문제없어 보이지만, 수학적 엄밀성 측면에서는 "정의역이 넓어진 근사적 결과"라는 꼬리표가 붙어있는 셈입니다. 2026 07.20 Claude AI 답변 TI-Nspire CAS의 | (such that / 조건대입) 연산자는 대입 시점의 수식 형태를 그대로 두고 기호만 치환하는 연산입니다. 대입 후에 처음부터 다시 "실수부/허수부 분리, 유리화" 같은 재간소화를 자동으로 수행하지 않습니다. 이 차이가 지금 보신 결과 차이의 핵심입니다. 첫 번째 경우 (|er/(e·r)| | con_1 and con → 실패) 이 시점의 식은 아직 r + l·ω·i 형태의 복소수 그대로입니다 (i가 살아있음). 여기에 con_1: ω = √(1-c·r²)/(√c·l)을 대입하면, 분모 안에 i · √(1-c·r²) 라는 항이 새로 생깁니다. 문제는 CAS가 √(1-c·r²)이 실수인지(즉 1-c·r² ≥ 0인지) 판단할 근거가 없다는 겁니다. 저장해 두신 con 조건은 c>0, l>0, r>0뿐이고, 1-c·r²≥0이라는 조건은 포함되어 있지 않습니다. 그래서 CAS는 i와 이 무리식을 더 정리(유리화, 실수부·허수부 재결합)하지 못하고 있는 그대로 남겨둡니다. 결과에 여전히 i가 보이는 이유입니다. 두 번째 경우 (결과값 1/√(r²+l²·ω²)에 대입 → 성공) |er/(e·r)| (절댓값/모듈러스) 연산은 그 자체로 이미 "복소수 → 실수" 변환을 완료한 결과입니다. 즉 1/√(r²+l²·ω²)에는 더 이상 i가 없고, 순수하게 r, l, ω로만 이루어진 실수식입니다. 이 식에 ω = con_1을 대입하는 것은 그냥 실수 대수식에 실수 대입하는 것이므로, i와 무리식이 뒤엉키는 문제 자체가 발생하지 않습니다. 그래서 바로 깔끔하게 √c/√l로 정리됩니다. 정리하면 절댓값(모듈러스) 계산은 "이 값들이 실수다"라는 가정을 이미 내부적으로 써서 i를 제거하는 연산입니다. 그 연산을 조건 대입 이전에 해두면, 이후 대입은 단순 실수 대입이라 문제없이 정리됩니다. 반대로 i가 남아있는 식에 무리식을 포함한 조건을 먼저 대입하면, 그 무리식의 실수성/부호에 대한 가정이 없어서 CAS가 i를 소거하는 재간소화를 못 하고 멈춰버립니다. 실용적 팁: 복소식에 조건을 대입해야 할 때는 가능하면 절댓값·실수화(유리화) 등을 먼저 끝내서 i를 없앤 뒤 조건을 대입하거나, 대입 후 결과에 다시 simplify/expand/combine 같은 명령을 한 번 더 걸어주면 (필요한 도메인 조건과 함께) 정리가 되는 경우가 많습니다. 2026 07.19 저도 어림잡아 추측할 뿐이지 정확한 이유를 알지는 못합니다. 질문하신 사진을 그대로 (Gemini 3.5 Flash / ChatGPT / Claude Sonnet 5) AI에 넣어 보니 claude AI 가 제일 합리적인 답변을 주어서 이를 붙여 넣습니다. 2026 07.19 아 그렇네요. 감사합니다. ^^ 2026 04.28