아마도 유효자릿수 처리 문제 때문이겠죠?
역행렬에는 det() 함수가 내부적으로 쓰일 것 같은데(확실치 않음),
12*12 역행렬에는 계산이 많다보니 작은 자릿수 차이가 눈덩이(?) 처럼 커진게 아닐까 싶어요.

위에 쓴 건 모두 추측일 뿐이고 정확한 설명을 원하시면 TI로 문의해보시는게 좋겠습니다.