Hola.
Según lo que mencionas, es un producto vectorial o producto cruz. Eso se resuelve con una matriz, en la primera fila pones las direcciones, en la segunda y tercera las coordenadas de los vectores y resuelves el determinante.
Para hallar la distancia, se halla la norma del vector resultante, el cual es normal a la superficie formada por los dos vectores. Para hallar la norma usas el teorema de pitágoras.
Saludos