Для начала преобразуем уравнение:
-(|2x-y-1| + (x+2y)^2)/4 = x+2y+1
-|2x-y-1| - (x+2y)^2 = 4(x+2y+1)
-|2x-y-1| - x^2 - 4xy - 4y^2 = 4x + 8y + 4
Рассмотрим два случая:

Если 2x - y - 1 >= 0
Тогда уравнение превращается в:
-(2x-y-1 + (x+2y)^2)/4 = x+2y+1
-(2x-y-1 + x^2 + 4xy + 4y^2)/4 = x+2y+1
-(2x-y-1 + x^2 + 4xy + 4y^2)/4 = x+2y+1
-2x + y + 1 - x^2 - 4xy - 4y^2 = 4x + 8y + 4
-x^2 - 4xy - 5y^2 = 6x + 7y + 3

Если 2x - y - 1 < 0
Тогда уравнение превращается в:
-(y - 2x + 1 + (x+2y)^2)/4 = x+2y+1
-(y - 2x + 1 + x^2 + 4xy + 4y^2)/4 = x+2y+1
-(y - 2x + 1 + x^2 + 4xy + 4y^2)/4 = x+2y+1
-y + 2x - 1 + x^2 + 4xy + 4y^2 = 4x + 8y + 4
x^2 + 4xy + 5y^2 = 2x + 9y + 5

Далее решаем систему полученных уравнений в каждом случае, чтобы найти координаты точки.