La maxima tension de +vref solo puede ser igual a la tension de alimentacion, con un pequeño margen de tolerancia ( es decir no mas de 100mV arriba).
Nunca he tenido problemas con el convertidor, pero la verdad es que nunca he trabajado con el modo a 8bits, siempre a 10bits y sin problemas con los registros donde guarda los datos, pon el codigo y te hecho un vistazo para ver si tienes algun problema.