Depende el potenciometro que uses , es decir , su calidad , tipo de pot , vueltas ,etc...
Hay potenciometros de unos cuantos centavos a unos cuantos dolares.
Para que tengas una medicion mas pequeña , no se si ya lo hiciste, es que los voltajes de Referencia sean pequeños y no lo manejes entre vcc y gnd.Ya eso depende como estes armando tu circuito.Y si de plano no te es suficiente los 10bits del adc del pic , pues estará bien el adc externo que te comentan.
Saludos!