제가 사용한 계산기는 카시오 fx-570ES PLUS 갖고 있습니다.

측량학에서 오차를 계산히는데 답이 1 나누기 Ans를 눌러도 예를들어

정답 객관식 4지선다에는 1/289 1/299 이런식으로 나오지만 제가 계산한 결과값은

3/402 이런식으로 분자의 숫자가 1로 표시가 되지 않게 나옵니다.

그래서 선지에 나온 것을 소수화 시키고 제가 갖고 있는 계산기를 소수화 시켜서 계산을 해서 번거로운 과정을 하고 있습니다.

이럴경우 어떻게 해결해야 할까요??

제목은 1장 2챕터에 지구의 형상과 크기 

2번문제 입니다. P10입니다.

편평률을 구하면 답이 분자가 1로 나오지 않고 다른숫자가 나옵니다.

계산값은 11/3189 로 나옵니다.

그래서 분수를 소수화시키면

3.449456*10(-3제곱) 선지

3.443571*10(-3제곱) 계산값

이렇게 답을 찾으니 솔직히 좀 복잡한 계산식이면 오차가 커질거리고 봅니다.

어떻게 해야 할까요??

계산기 위에 써 있는것은

M  D Math윗방향 화살표

이렇게 세팅 되어 있습니다.

빠른답변 부탁드립니다.

더운 여름 항상고생하시면서 열심히 가르키는 강사님들 모두 응원합니다.