Всем измерениям присущи ошибки, и два одинаковых измерительных прибора при контроле одной и той же величины могут дать разные показания. Правильная оценка измеряемой величины может быть проведена только с некоторым допуском. Ошибки вытекают по следующим причинам:
Человеческий фактор. Например, неточность при считывании со шкалы или использование приборов, не соответствующих необходимым для какой-то конкретной цели требованиям.
Точность, с которой прибор способен вывести результат измерения, или, в случае генератора, точность заданной частоты или уровня выходного сигнала.
Точность калибровки.
Допуски параметров компонентов, используемых в измерительном приборе.
Изменения, вызванные временным и тепловым дрейфом параметров компонентов.
Изменения, вызванные температурой и колебаниями напряжения источника питания, а также временем разогрева необходимым для некоторых измерительных приборов.
Влияние, оказываемое на схему самим измерительным прибором во время проверки.
Существует важное отличие между точностью и разрешением измерительного прибора. Точность — это утверждение о максимальных ошибках, которые могут возникать из-за причин указанных в вышеизложенных пунктах 3 и 6. В спецификациях на измерительные приборы стабильность (пункты 5 и 6) обычно фиксируется отдельно.
Точность аналоговых измерительных приборов обычно определяется как процент от полного отклонения на всю шкалу. Она определяется точностью движущейся части, разбросом значений параметров компонентов и погрешностью калибровки шкалы. Деление шкалы может и не позволить пользователю определить показания до точности прибора, возможно, потому что неразборчивы деления или из-за явления параллакса. (Параллакс — видимое изменение положения предмета вследствие перемещения глаза наблюдателя). Эти факторы определяют разрешение или точность показаний.
Точность измерительных приборов с цифровыми дисплеями обычно определяется как процент от показаний плюс или минус один разряд или одна цифра. Хотя цифровые приборы в целом имеют более высокую точность, чем аналоговые, тот факт, что наименее значимая цифра может быть ошибочна, влияет на разрешение.
Большинство цифровых приборов использует процесс стробирования для того, чтобы переключить входной сигнал на измерительную схему на определенный период времени. Само время стробирования может изменяться и влиять на точность, но даже при идеально точном и стабильном времени стробирования фаза входного сигнала во время переключения влияет на количество импульсов, проходящих через логический элемент, и тем самым на разрешение.