Для начала упростим систему уравнений:

1) Умножаем оба уравнения на 2, чтобы избавиться от дробей:
6y^2 - 4xy = 20 (1)
2y^2 - 6xy - 4x^2 = 10 (2)

2) Умножаем второе уравнение на 3:
6y^2 - 18xy - 12x^2 = 30 (3)

3) Теперь вычитаем уравнение (1) из уравнения (3):
14xy + 8x^2 = -10 (4)

4) Подставляем найденное значение x в уравнение (1):
6y^2 - 4(-10)/14 y = 20
6y^2 + 20/7y - 20 = 0

5) Решаем полученное квадратное уравнение относительно y:
Уравнение вида: 6y^2 + 20/7y - 20
D = (20/7)^2 - 4 6 (-20) = 400/49 + 480 = 880/49

y1 = (-20/7 + (√880/7))/12
y1 = (7(-20) + √8807)/(42) = (140 - 7√880)/42
y1 = (70 - 7√880)/21

y2 = (-20/7 - (√880/7))/12
y2 = (140 + 7√880)/42

Таким образом, система уравнений имеет два решения:
1) x = -10/7, y = (70 - 7√880)/21
2) x = -10/7, y = (140 + 7√880)/42