- 세상의 모든 계산기 자유(질문) 게시판 질문 ()
Ti nspire cx cas 2 동일한식의 결과값상이
기존수식에 특정값을대입한 결과값과
기존수식을전개한식에 동일한특정값을대입한 결과값이
왜다르게나올까요
2번째 3번째사진에 f1의 정확한값은 -1.1847인데 ctrl키로 근사치를 구하면 소수점이다제외되고 -1만 도출되네요 이거 왜이런거죠 대체
댓글3
-
세상의모든계산기
처음에는 |(제약 연산자) 선후 대입문제가 아닐까 생각했는데
그건 아닌 것 같구요.
생각해 보니까... 최대 유효 자릿수로 인한 꼬리잘림 문제로 보입니다.위 링크글(예시 3) 을 참고해 보시면 될 것 같네요.
-
세상의모든계산기
테스트를 해보니 소숫점 이하 일부가 탈락하는 것을 확인할 수 있었습니다.
ㄴ 괄호가 풀어지지 않은 상태에서 값이 대입되면, 유효 자릿수(14 digits)를 넘기지 않기 때문에 아무 문제가 없습니다.
하지만 전개된 후에 값이 대입되면
ㄴ 상대적으로 큰 수와 상대적으로 작은 수가 혼재하게 되고,
ㄴ 그것들이 합쳐지는 과정에서, 큰 수에 붙는 (상대적으로 작은 수)는 버려집니다.
계산기배우자 님의 최근 댓글
오차가 난다하더라도 위의경우는 너무심한거아닌가요2.287*10^-7 이랑 3*10^-14랑은 거이 10의7제곱이나 차이가 나는건데 2021 05.23