- 세상의 모든 계산기 자유(질문) 게시판 질문 ()
[TI-nspire] 역행렬 Exact Approx 차이
행렬곱의 역행렬(12×12)이 Exact Approximate 결과값이 많이 다른데 이건 왜이런건가요
댓글2
-
세상의모든계산기
아마도 유효자릿수 처리 문제 때문이겠죠?
역행렬에는 det() 함수가 내부적으로 쓰일 것 같은데(확실치 않음),
12*12 역행렬에는 계산이 많다보니 작은 자릿수 차이가 눈덩이(?) 처럼 커진게 아닐까 싶어요.
위에 쓴 건 모두 추측일 뿐이고 정확한 설명을 원하시면 TI로 문의해보시는게 좋겠습니다.

계산기배우자 님의 최근 댓글
오차가 난다하더라도 위의경우는 너무심한거아닌가요2.287*10^-7 이랑 3*10^-14랑은 거이 10의7제곱이나 차이가 나는건데 2021 05.23