Для решения уравнения с заменой, предлагаю воспользоваться следующей заменой:

Пусть t = x^2, тогда уравнение примет вид:

5 - 7t + 12sqrt(t) = 0

Теперь можно решить это квадратное уравнение относительно t и найти его корни.