Podemos, no obstante, calcular el coeficiente de determinación o crítico del ajuste anterior, a partir de la siguiente fórmula de la varianza residual:
lo que implica un coeficiente de correlación de:
que resulta suficientemente aceptable, razón por la que aceptaremos como válido el presente ajuste normalizado.
Por otra parte, y por lo que se refiere a la fiabilidad del coeficiente de correlación hallado r, definimos la variable aleatoria:
Z = 1 / 2 • ln [(1+r) / (1-r)] ; e2z = [(1+r) / (1-r)] ;
con: = 0'990 y n = 8.
Se trata de determinar un intervalo de valores entre los que puede razonablemente esperarse (con una probabilidad del 95%) que se encuentre r, con media:
y desviación típica:
El intervalo buscado será:
Z = µz 2 • z = 2'647 0'894 = 3'541 y 1'753 ,
valores éstos que corresponden a: r1 = 0'998 y r2 = 0'942 .
Así pues, puede afirmarse que la probabilidad de que se cumpla la desigualdad: 0'942 < r < 0'998, es del 95%.
Aunque la relación precedente simplifique, de modo notable, el problema de determinar la exactitud de r como estimador de , tiene la desventaja de no ser fiable si las dos variables analizadas no poseen una distribución normal conjunta. En su consecuencia, a menos que se esté bastante seguro de que estas variables tengan tal distribución -por lo menos con una buena aproximación- no debe confiarse grandemente en los resultados obtenidos.