2y(x-y) + y(3y-2x)
2xy - 2y^2 + 3y^2 - 2xy
2xy - 2y^2 + 3y^2 - 2xy
y^2

Поэтому решение уравнения: y^2