Hola lo que podes hacer es cambiar la referencia del pic, en vez de usar 5V como referencia al conversor usar una referencia externa y ponerle 5.12V. De esta manera 5.12V / 1025 = 5 mV, de esta manera es mas fácil trabajar en asembler.
Para pasar tu valor a unidades, decenas u centenas tenes que usar una rutina para convertir un mumero a BCD o sea si en una variable tenes cargado el valor 53, te genera dos variables, una con las unidades, seria un 3 y otra con las decenas, el 5.
Te adjunte un rutina en assembler que convierte un binario de 32 bit (cuatro registros del pic) a BCD en 10 dígitos.
Saludos