Antes que nada tienes que saber si tu hardware para el motor funciona bien, lo ideal es que lo veas en el osciloscopio y que no le esté llegando voltaje negativo al motor producto del pwm (que supongo lo usas), para ello tienes que hacer un barrido de todos los ciclos útiles desde 1 hasta 99% porque si no verificas eso puede que tu control por mas PID que le agregues no va a funcionar como debe ser y es mas terminará quemando los dispositivos de switcheo de tu hardware para el motor.
No creo que puedas simular eso a menos que tengas en el simulador todos los datos técnicos del motor, no queda otra que te consigas un osciloscopio, si no puedes conseguirlo tendras que confiar en que el hardware está bien, aparte de ello tendras que implementar un control de velocidad con rampas de aceleración y desaceleración, me parece que en la página de microchip hay info al respecto o en la web.
Javicho.