me arriesgaría a decir que el problema es de ruido...
se te está colando ruido en el pin adc, debes considerar tu sistema electrónico físicamente, la señal debe llegar lo más directamente posible al pin, los cables deberían ser blindados o mallados eso soluciona considerablemente el problema, según la variación de lo que estás midiendo puedes poner filtros en la señal a medir, puede bastar con un capacitor pequeño...
Te recomiendo que busques ruido en el buscador del foro, recuerdo que hay temas donde se da mucha información al respecto...
Si lo que quieres es sólo mejorar la precisión para que muestras sucesivas no sean tan diferentes y en cambio no te interesa demasiado la exactitud (esto es relativo, verdad) una técnica que se usa es tomar algunas muestras y promediarlas, como el ruido es aleatorio al promediar tiende a anularse...
Corrijo: veo que ya lo hiciste. Está bien, podrías incluir más muestras también...
Espero que sea útil. Saludos.