계산기로 계산했을때 답이 계속 다르게 나와요

Question

강의나 해설지 정답을 보면 3.35곱하기 10의 마이너스 5승 값이 되는데

계산기에 저 식을 넣어서 해보면 결과값이 정답과는 다르게 나옵니다.

저의 결과 값은 0.3490342957 값이 나옵니다.

담당교수 · Accepted Answer

안녕하세요? 답변드립니다.

문제 조건에 전류의 단위가 [mA]입니다.

구한 수치는 [A]의 수치입니다.

[mA]의 작은 단위로 바꾸기 위해

10^3을 곱해야 합니다.

즉, 3.35 * 10^-5 * 10^3 = 3.35*10^-2이 답이 됩니다.

전기쟁이 · Answer

mA라서 단위를 바꾸기 위해 10^3을 곱해야 하는 것은 알고 있습니다.
정답 보기 답들이 1: 0.0332 2: 0.0328 3:0.0338 4:0.0335 이런 소수 값들의 차이인데 계산기에서는 0.349 이런 값이 나와버리니 10^3승을 해도 답이 안나옵니다.

담당교수 · Answer

3.35 * 10^-5 * 10^3을 계산기에 입력하면 0.0335라는 수치가 뜨게 됩니다. 해당 수치는 선지 4번에 있습니다.
계산기에 대입하면, 0.0335라는 수치가 나오게 됩니다.

기사/공사필기 계산기로 계산했을때 답이 계속 다르게 나와요