기존수식에 특정값을대입한 결과값과
기존수식을전개한식에 동일한특정값을대입한 결과값이
왜다르게나올까요
2번째 3번째사진에 f1의 정확한값은 -1.1847인데 ctrl키로 근사치를 구하면 소수점이다제외되고 -1만 도출되네요 이거 왜이런거죠 대체
기존수식에 특정값을대입한 결과값과
기존수식을전개한식에 동일한특정값을대입한 결과값이
왜다르게나올까요
2번째 3번째사진에 f1의 정확한값은 -1.1847인데 ctrl키로 근사치를 구하면 소수점이다제외되고 -1만 도출되네요 이거 왜이런거죠 대체
처음에는 |(제약 연산자) 선후 대입문제가 아닐까 생각했는데
그건 아닌 것 같구요.
생각해 보니까... 최대 유효 자릿수로 인한 꼬리잘림 문제로 보입니다.
[공학용 계산기] 계산기 내부에서 사용하는 유효숫자 자릿수 Significant Digits
위 링크글(예시 3) 을 참고해 보시면 될 것 같네요.