Для начала вычислим скалярное произведение векторов a и b:

a b = 4(-3) + (-1)1 + 26 = -12 - 1 + 12 = -1

Теперь найдем длины векторов a и b по формуле: sqrt(a1^2 + a2^2 + a3^2) и sqrt(b1^2 + b2^2 + b3^2) соответственно:

|a| = sqrt(4^2 + (-1)^2 + 2^2) = sqrt(16 + 1 + 4) = sqrt(21)
|b| = sqrt((-3)^2 + 1^2 + 6^2) = sqrt(9 + 1 + 36) = sqrt(46)

Затем найдем косинус угла между векторами по формуле: cos(alpha) = (a b) / (|a| |b|):

cos(alpha) = -1 / (sqrt(21) * sqrt(46)) = -1 / (sqrt(966))

И, наконец, угол между векторами будет равен: alpha = arccos(-1 / (sqrt(966)))

Это алгоритм нахождения угла между векторами a и b.