Ti nspire cx cas 2 동일한식의 결과값상이
기존수식에 특정값을대입한 결과값과
기존수식을전개한식에 동일한특정값을대입한 결과값이
왜다르게나올까요
2번째 3번째사진에 f1의 정확한값은 -1.1847인데 ctrl키로 근사치를 구하면 소수점이다제외되고 -1만 도출되네요 이거 왜이런거죠 대체
댓글 3
-
-
-
생각으로 그런 거고...
자세한 검증은 나중에 해보겠습니다.
-
-
-
테스트를 해보니 소숫점 이하 일부가 탈락하는 것을 확인할 수 있었습니다.
ㄴ 괄호가 풀어지지 않은 상태에서 값이 대입되면, 유효 자릿수(14 digits)를 넘기지 않기 때문에 아무 문제가 없습니다.
하지만 전개된 후에 값이 대입되면
ㄴ 상대적으로 큰 수와 상대적으로 작은 수가 혼재하게 되고,
ㄴ 그것들이 합쳐지는 과정에서, 큰 수에 붙는 (상대적으로 작은 수)는 버려집니다.
-
처음에는 |(제약 연산자) 선후 대입문제가 아닐까 생각했는데
그건 아닌 것 같구요.
생각해 보니까... 최대 유효 자릿수로 인한 꼬리잘림 문제로 보입니다.
[공학용 계산기] 계산기 내부에서 사용하는 유효숫자 자릿수 Significant Digits
위 링크글(예시 3) 을 참고해 보시면 될 것 같네요.