- TI 89
[TI-89] 설정 - 표시 자릿수 Display Digits 설정과 유효 자릿수 Significant Digits
-
- 2016.04.03 - 23:58 2015.10.14 - 09:08 3217 2
출처 : https://epsstore.ti.com/OA_HTML/csksxvm.jsp?nSetId=96167
| Solution 12130: Difference Between the FIX and FLOAT Display Digits Mode Settings on the TI-89 Family, TI-92 Family and Voyage™ 200 Graphing Calculators. |
 |
|
|
|
|
What is the difference between the FIX and FLOAT Display Digits mode settings on the TI-89 Family, TI-92 Family and Voyage 200?
By default, the Display Digits mode setting is FLOAT 6, which means that results are rounded to a maximum of six digits. The [MODE] key can be used to select different settings which will apply to all exponential formats. Internally, the device calculates and retains all decimal results with up to 14 significant digits (although a maximum of 12 are displayed).
Note: Regardless of the Display Digits setting, the full value is used for internal floating-point calculations to ensure maximum accuracy. Note: A result is automatically shown in scientific notation if its magnitude cannot be displayed in the selected number of digits. For additional information on mode settings, refer to the online guidebook for your specific calculator model. |
결론
1. Display Digits 설정은 결과값을 보여주는 방식을 지정한 것일 뿐 유효숫자와는 무관하다.
2. 내부적으로는 최대 14개의 (decimal) 유효숫자를 계산하고 저장한다. (정수 제외)
-
25
세상의모든계산기 님의 최근 댓글
오류 발생 https://www.youtube.com/watch?v=dcg0x5SjETY 위 영상의 문제의 함수를 직접 구해 보았습니다. 그래프로는 잘 확인이 되는데... fmin(), fmax() 함수로 직접 구해보니, 결과가 기대한 것과 다르네요. 구간을 넣지 않으니 fmim, fmax 둘 다에서 오류인 결과를 내놓습니다. 구간을 넣더라도, 적절하게 넣지 않으면, 답이 잘 안나오는 걸 확인할 수 있습니다. fmin 은 그나마 x=0을 기준으로 나누지 않더라도 답이 나오는 편이지만, fmax 는 -10~10 을 구간으로 넣을 때, 가운데 x=0 근방에서 그래프가 위로 솟아오르는 구간은 함수값을 확인하지 않는 듯 합니다. ㄴ fmax가 더 열등해서 그런 것은 아니고, 뒤집어진 모양에서는 반대로 fmin이 못찾습니다. 구간 범위가 커질 경우, 함수에 적용하여 계산하다가 숫자 허용 한계를 벗어나서 overflow 가 나서 오류가 발생할 수도 있는 듯 합니다. 뒤에 점을 넣으니 경고 문구가 추가로 나오긴 했는데, ⚠️ Questionable accuracy. When applicable, try using graphical methods to verify the results. 그래도 실망이네요. * 믿음직한 녀석은 아닌 듯 하니, 주의 표시 ⚠️가 나오든 안나오든, 사용에 주의하시기 바랍니다. 가급적이면 그래프로 검증해 보시는게 좋겠습니다. 2025 10.26 예시 8-1 : 분수식 solve시 오류 예시, 분모에 들어간 X³을 X로 치환해 해결? https://allcalc.org/56074 2025 10.25 fx-570 CW 는 아래 링크에서 https://allcalc.org/56026 2025 10.24 불러오기 할 때 변수값을 먼저 확인하고 싶을 때는 VARIABLE 버튼 【⇄[x]】목록에서 확인하고 Recall 하시면 되고, 변수값을 이미 알고 있을 때는 바로 【⬆️SHIFT】【4】로 (A)를 바로 입력할 수 있습니다. 2025 10.24 fx-570 CW 로 계산하면? - 최종 확인된 결과 값 = 73.049507058478629343538 (23-digits) - 오차 = 6.632809104889414877 × 10^-19 꽤 정밀하게 나온건 맞는데, 시뮬레이션상의 22-digits 와 오차 수준이 비슷함. 왜 그런지는 모르겠음. - 계산기중 정밀도가 높은 편인 HP Prime CAS모드와 비교해도 월등한 정밀도 값을 가짐. 2025 10.24