Для начала заменим sin^2(x) на 1 - cos^2(x), используя тригонометрическое тождество:

sin(5x) + sin(x) + 2(1 - cos^2(x)) = 1

Раскроем скобки во втором слагаемом:

sin(5x) + sin(x) + 2 - 2cos^2(x) = 1

Перепишем уравнение в виде:

sin(5x) + sin(x) - 2cos^2(x) = -1

Заменим sin(5x) через формулу кратного угла:

sin(3x + 2x) + sin(x) - 2cos^2(x) = -1

(sin(3x)cos(2x) + cos(3x)sin(2x)) + sin(x) - 2cos^2(x) = -1

(3sin(x) - 4sin^3(x))(1 - 2sin^2(x)) + sin(x) - 2cos^2(x) = -1

3sin(x) - 6sin^3(x) - 8sin^3(x) + 16sin^5(x) + sin(x) - 2cos^2(x) = -1

Упростим уравнение:

16sin^5(x) - 14sin^3(x) + 4sin(x) - 2cos^2(x) + 1 = 0

16sin^5(x) - 14sin^3(x) + 4sin(x) - 2(1 - sin^2(x)) + 1 = 0

16sin^5(x) - 14sin^3(x) + 4sin(x) + 2sin^2(x) - 1 = 0

16sin^5(x) - 14sin^3(x) + 2sin^2(x) + 4sin(x) - 1 = 0

Получили порядкого пяти уравнение с одним неизвестным. Далее его можно решить численно, либо воспользоваться методами решения уравнений высших порядков.