Transpose(a)*(b-xa) é um produto escalar porque bem, você pode ver claramente que Transpose(a) é um vetor, mas e essa expressão (b-xa)?! bem, (b-xa) é um vetor porque sabemos que (b) é o vetor, também sabemos que (a) é um vetor e (x) é um escalar, portanto, vetor-escalar*vetor=vetor####[]