а)
Сначала найдем сумму векторов a и b:
a + b = (-1 + 2; 3 - 1; 2 + 1) = (1; 2; 3)

Теперь найдем разность векторов a и b:
a - b = (-1 - 2; 3 + 1; 2 - 1) = (-3; 4; 1)

Теперь найдем скалярное произведение векторов (a+b) и (a-b):
(a+b) (a-b) = 1(-3) + 24 + 31 = -3 + 8 + 3 = 8

б)
Найдем длины векторов a и b:
|a| = sqrt((-1)^2 + 3^2 + 2^2) = sqrt(1 + 9 + 4) = sqrt(14)
|b| = sqrt(2^2 + (-1)^2 + 1^2) = sqrt(4 + 1 + 1) = sqrt(6)

Теперь найдем косинус угла между векторами a и b по формуле:
cos(θ) = (a b) / (|a| |b|) = ((-1)2 + 3(-1) + 21) / (sqrt(14) sqrt(6)) = (-2 - 3 + 2) / (sqrt(14) sqrt(6)) = -3 / (sqrt(84)) = -3 / (2sqrt(21)) = -3 / (2sqrt(37)) = -3 / (2sqrt(3)sqrt(7)) = -3 / (2sqrt(3)sqrt(7)) = -3 / (2*sqrt(21))

Ответ:
а) Скалярное произведение векторов (a+b) и (a-b) равно 8.
б) Косинус угла между векторами a и b равен -3 / (2*sqrt(21)).