Для упрощения выражения воспользуемся формулой синуса разности:

Sin 3a - sin a / cos 3a - cos a = 2 sin(2a) cos(a) / -2 sin(a) sin(2a) = -cos(a)