안녕하세요
측량학 5페이지에 있는 예제 1번 문제 계산 관련 문의인데요
교수님께서 강의에서 계산기로 1/12(100/6370)^2을 하면 0.*****2가 나오고 이걸 분수로 바꾸려면 1 나누기 ans를 하면 50000이 나온다고 하셨습니다 (정답이 1/50000)
그런데 제가 계산기로 푼 결과
2.053713648x10^-5 가 나오고 이 값을 이용해서 1 나누기 ans(2.053713648x10^-5) 하니까 48692.28 이 나옵니다
제가 계산기로 푼 게 틀린 걸까요?? 아니면 48692.28을 반올림해서 50000으로 풀면 되는 걸까요?? 항상 측량값을 구할 때 반올림을 해야하나요??