Si tu cálculo esta hecho para 12,5 Kbps, entonces tu resistencia está OK !!
En cuanto a medir con osciloscopio la señal, recuerda que es una señal diferencial, debes medirla entre los dos terminales del BUS CAN.
Creo que por ahí tengo una nota sobre como medir en DeviceNet, la busco y te la posteo, pero a decir verdad yo nunca medí sobre el BUS, prometo hacerlo apenas pueda, así lo pongo en el hilo...
Respecto al cálculo, recuerda que 10 MHz con PLL4 te da una frecuencia de 40 MHz, por eso tu cálculo debería ser:
Setup Criteria Oscilator Frequency 40,000 MHz
Target CAN Bus Baud Rate 12,500 kbps
Selected Options BRP-1 (Baud Rate Prescaler) 63
Tq (Time Quanta) 3,200 µs
Number of Time Quanta 25
% Error of Target Baud Rate 0,0 % (Actual Baud Rate is 12,500 kbps )
Bit Timing Setup in Tq Propagation Delay 8
Phase Segment 1 8
Phase Segment 2 8
Syncronization Jump Width (SJW) 1
Configuration Register Setup (PIC18) Register Binary Hexadecimal
BRGCON1 b'00111111' 0x3F
BRGCON2 b'10111111' 0xBF
BRGCON3 b'00000111' 0x07
Así los has puesto??
Sino deberías tener cuatro veces mas velocidad en el BUS...