Для вычисления скалярного произведения векторов a и b используем формулу:
a•b = (3t (-2t)) + (-4 -1) + (-1 * -3)
a•b = -6t^2 + 4 - 3
a•b = -6t^2 + 1

Скалярное произведение векторов равно -6t^2 + 1.

Косинус угла между векторами a и b вычисляется по формуле:
cos(θ) = (a•b) / (||a|| * ||b||)

где ||a|| и ||b|| - длины векторов a и b соответственно.

Длины векторов a и b:
||a|| = sqrt((3)^2 + (-4)^2 + (-1)^2) = sqrt(9 + 16 + 1) = sqrt(26)
||b|| = sqrt((-2)^2 + (-1)^2 + (-3)^2) = sqrt(4 + 1 + 9) = sqrt(14)

Подставляем значения в формулу для косинуса угла:
cos(θ) = (-6t^2 + 1) / (sqrt(26) * sqrt(14))

Таким образом, скалярное произведение векторов a и b равно -6t^2 + 1, а косинус угла между ними равен (-6t^2 + 1) / (sqrt(26) * sqrt(14)).