xi ... jednotlivé hodnoty série měření (i = 1, ..., n)
(X) ... průměrná hodnota série měření, X = (x1+x2+ ... + xn)/n
(Xg) ... průměrná hodnota série měření etalonu měřicím systémem
s ... standardní odchylka
sg ... standardní odchylka měření etalonu měřicím systémem
R ... rozpětí, R = xmax - xmin
xm ... referenční hodnota etalonu, rovná se správné, resp. pravé hodnotě etalonu
Bi ... systematická chyba měření (Bias), Bi = Xg - xm
Výběrový rozptyl (výběrová směrodatná odchylka):
Rozptyl výběrových průměrů:
Standardní nejistota typu A :
uA(x) = s(X) =
Nejistotou typu B (zejména pro délková měření) je geometrický součet dílčích nejistot (nejistot způsobených vlivy měření):
kde je
uM ... nejistota měřidla (určena kalibrací, ověřením, normou, výrobcem)
uE ... nejistota etalonu (nutná pro kalibraci měřidla, přístroje, dána hodnotou z kalibračního protokolu)
uT ... nejistota vlivem rozdílu teploty od 20 °C
ut ... nejistota vlivem rozdílu teploty mezi měřidlem a měřenou součástí
Nejistota typu C (uC) je kombinovaná (celková) nejistota, která je určena odmocninou součtu kvadrátů nejistot typu A a B.
přičemž je
cg ... index potenciálu měřidla
cgk ... index způsobilosti měřidla
cg = (0,2 T)/(4 s)
cgk = ((0,1 T) - |Bi|)/(2 sg)
Zajímavé je porovnání výpočtu způsobilosti měřidla s výpočtem nejistoty měření (použití měřidla při měření výrobku ve výrobním procesu).