Метод 1: Замена тригонометрических функций на функции Эйлера

Для начала представим синус и косинус через экспоненты:
sin(x) = (e^(ix) - e^(-ix)) / 2i
cos(x) = (e^(ix) + e^(-ix)) / 2

Подставим эти выражения в уравнение:
cos(2x) - 5sin(x) - 3 = 0
(e^(2ix) + e^(-2ix))/2 - 5(e^(ix) - e^(-ix))/2i - 3 = 0
e^(2ix) + e^(-2ix) - 5i(e^(ix) - e^(-ix)) - 6 = 0

Упростим уравнение:
(e^(ix))^2 + (e^(-ix))^2 - 5i(e^(ix) - e^(-ix)) - 6 = 0
z^2 + z^(-2) - 5iz - 5i/z - 6 = 0
z^4 - 6z^2 - 5iz^2 + 5i = 0

z^4 - 5z^2 - 6z^2 + 5 = 0
(z^2 - 6)(z^2 + 5) = 0

Получаем два уравнения:
z^2 - 6 = 0
z^2 + 5 = 0

Решив уравнения, найдем значения z и, соответственно, x.