Данное уравнение является квадратным относительно sin x.
Заменим cos^2 x на 1 - sin^2 x:

3sin^2 x + 5sin x cos x + 2(1 - sin^2 x) = 0
3sin^2 x + 5sin x cos x + 2 - 2sin^2 x = 0

Перегруппируем слагаемые:

(sin^2 x + 5sin x cos x - 2sin^2 x) + 2 = 0
(-sin^2 x + 5sin x cos x) + 2 = 0

Преобразуем:

-sin x * (sin x - 5cos x) + 2 = 0

Теперь можем записать уравнение в виде:

sin x (5cos x - sin x) = 2

На сегодня этого достаточно информации для получения решения. Если у вас есть дополнительные вопросы, не стесняйтесь и спрашивайте.