Transpose(a)*(b-xa) es un producto escalar porque, bueno, puedes ver claramente que Transpose(a) es un vector, pero ¿qué pasa con esta expresión (b-xa)? Bueno, (b-xa) es un vector porque sabemos que (b) es el vector, también sabemos que (a) es un vector y (x) es un escalar, por lo tanto, vector-escalar*vector=vector####[]