Для решения этого уравнения раскроем скобки:

х^2 - 2х * х^2 - 2x = 12

Упростим:

x^2 x^2 - 2x x^2 - 2x * x^2 + 4x^2 = 12

x^4 - 4x^3 + 4x^2 = 12

x^4 - 4x^3 + 4x^2 - 12 = 0

Это уравнение четвертой степени, которое можно решить численно или графически.