No puedes usar optoacopladores con cruce por 0, pero creo que proteus no los tiene sin cruce por 0, tampoco tiene motores trifasicos, por lo menos en la version que yo tengo nunca los encontre. Aunque veo que tu proteus si lo debe tener porque tienes un MOC3021 desconectado, abajo a la izquierda, ese es el que tienes que usar para cebar los TRIACs.
Si tienes oportunidad de montarlo con un motor pequeño seria mejor, yo con proteus nunca logre simular nada de CA ni monofasica y mucho menos trifasica, pero bueno mi proteus no se por que siempre funciono mal.
El optoacoplador NPN es para detectar el cruce por 0, por tanto debe ir directo a la fase R de CA (con una R de 100K, creo), tu lo tienes conectado al puente rectificador que tiene CC, ahi no vale de nada.