Для нахождения скалярного произведения данных векторов необходимо вычислить сначала вектор (3a - b)^2a, а затем умножить его на векторы (-7;-2;6) и (10;-8;3).

Вектор (3a - b)^2a:
(3a - b) = (33 - 10)i + (3(-1) + 8)j + (32 - 3)k = (-1)i - 5j + 3k
Теперь умножаем на 2a:
2(-1)i + 2(-5)j + 23k = -2i - 10j + 6k

Теперь находим скалярное произведение вектора (-2i - 10j + 6k) и вектора (-7;-2;6):
(-2-7) + (-10-2) + (6*6) = 14 + 20 + 36 = 70

Теперь находим скалярное произведение вектора (-2i - 10j + 6k) и вектора (10;-8;3):
(-210) + (-10-8) + (6*3) = -20 + 80 + 18 = 78

Таким образом, скалярное произведение векторов (3a - b)^2a и (-7;-2;6) равно 70, а скалярное произведение векторов (3a - b)^2a и (10;-8;3) равно 78.