[TI-nspire] 역행렬 Exact Approx 차이

댓글2

• 0

  세상의모든계산기

  2020.10.04 - 23:06 2020.10.04 - 23:05 #30563

  아마도 유효자릿수 처리 문제 때문이겠죠?
  역행렬에는 det() 함수가 내부적으로 쓰일 것 같은데(확실치 않음),
  12*12 역행렬에는 계산이 많다보니 작은 자릿수 차이가 눈덩이(?) 처럼 커진게 아닐까 싶어요.

  

   

  
  
  위에 쓴 건 모두 추측일 뿐이고 정확한 설명을 원하시면 TI로 문의해보시는게 좋겠습니다.

  Attached file

  ti_nspire_det.png 209.8KB 84

  댓글
• 0

  세상의모든계산기

  2020.10.16 - 18:21 #30641

  제목 임의 수정하였습니다.
  변경 전 : 역행렬 Exact Approx 차이
  변경 후 : [TI-nspire] Exact Approx 에 따라 역행렬 결과의 차이가 크게 나는 이유는?

  댓글