Для начала найдем сумму векторов p и q:

p = a + b = (5, 0) + (8cos60°, 8sin60°) = (5 + 4, 8√3) = (9, 8√3)

q = a - b = (5, 0) - (8cos60°, 8sin60°) = (5 - 4, -8√3) = (1, -8√3)

Теперь найдем косинус угла между векторами p и q:

cosα = (p q) / (|p| |q|),

где p * q - скалярное произведение векторов p и q
|p| и |q| - длины векторов p и q

(p q) = 91 + 8√3*(-8√3) = 9 - 192 = -183,
|p| = √(9^2 + (8√3)^2) = √(81 + 192) = √273,
|q| = √(1^2 + (-8√3)^2) = √(1 + 192) = √193

cosα = -183 / (√273 * √193) ≈ -0.9902

Итак, косинус угла между векторами p и q равен приблизительно -0.9902.