1) Подставим xy=-8 в уравнение x^2=4/y^2:
x(-8)=4/y^2
-8x=4/y^2
-8xy^2=4
-8x*y^2-4=0

2) Подставим xy=-8 в уравнение -8x=4/y^2:
-8x=4/(8x)
-64x^2=4
64x^2=4
64x^2-4=0

Таким образом, система уравнений сводится к уравнению:
-8x*y^2-4=0
64x^2-4=0

Решим это уравнение численно.
Имеем x = -0.25, y = 32sqrt(7), x = 0.25, y = -32sqrt(7).