Для начала преобразуем уравнение, используя формулы тригонометрии:

3ctgx – tg3x = 3ctg2x + 6ctg4x
3ctgx - (3tgx - tg^3x) = 3 (1/ctg2x) + 6 (1/ctg4x)
3ctgx - 3tgx + tg^3x = 3 (cos2x/sin2x) + 6 (cos4x/sin4x)
3ctgx - 3tgx + tg^3x = 3 ((2cos2xsin2x)/sin2x) + 6 ((4cos4xsin4x)/sin4x)
3ctgx - 3tgx + tg^3x = 6cos2x + 24cos4x

Теперь заменим ctg и tg на cos и sin:

3cosx/sinx - 3sinx/cosx + (sin^3x/cos^3x) = 6cos2x + 24cos4x

Упростим уравнение:

3cos^2x - 3sin^2x + sin^3x/cos^3x = 6(1 - sin^2x) + 24(1 - 2sin^2(2x))
3cos^2x - 3sin^2x + sin^3x/cos^3x = 6 - 6sin^2x + 24 - 48sin^2x
3cos^2x - 3sin^2x + sin^3x/cos^3x = 30 - 54sin^2x

Упростим уравнение дальше:

3cos^2x - 3sin^2x + sin^3x/cos^3x = 30 - 54(1-cos^2x)
3cos^2x - 3sin^2x + sin^3x/cos^3x = 30 - 54 + 54cos^2x
3cos^2x - 3sin^2x + sin^3x/cos^3x = 24 + 54cos^2x

Теперь полученное уравнение сводится к кубическому уравнению:

3cos^3x - 3sin^2xcosx + sin^3x = 24cos^3x + 54cos^5x

Таким образом, решение данного тригонометрического уравнения сводится к решению кубического уравнения.