Pues mejor sube el esquema que tienes para aclarar dudas.
A ver si algún forista que haya utilizado esta librería nos saca de dudas.
De todas formas, lo que funciona en un f84, funciona en un f877 desactivando el ADC.
Si sólo utilizas el puerto B para controlar el LCD, lo estas usando en modo 4bits y no te hace falta el puerto A.
Otra cosa, vigila el fuse LVP, que como lo tengas activado, pierdes la patilla RB3/PGM y el lcd no te funcionará.