Для начала преобразуем систему уравнений:

3xy - x - y = 7
x * (3y - 1) = y + 7
x = (y + 7) / (3y - 1) (1)

x²y + xy² = 20
xy (x + y) = 20
x (y + 1) = 20 / y
x = 20 / (y + 1) (2)

Из выражений (1) и (2) получаем:

(y + 7) / (3y - 1) = 20 / (y + 1)

(y + 7)(y + 1) = 20(3y - 1)
y² + 8y + 7 = 60y - 20
y² - 52y + 27 = 0

Далее находим корни квадратного уравнения:

D = 52² - 4 * 27 = 2304 - 108 = 2196

y₁ = (52 + √2196) / 2
y₁ = (52 + 46.8) / 2
y₁ = 98.8 / 2
y₁ = 49.4

y₂ = (52 - √2196) / 2
y₂ = (52 - 46.8) / 2
y₂ = 5.2 / 2
y₂ = 2.6

Теперь подставляем найденные значения y обратно в исходные уравнения и находим соответствующие x:

Для y₁ = 49.4:
x₁ = (49.4 + 7) / (3 49.4 - 1) = 56.4 / 147.2 ≈ 0.383
x²y₁ + xy₁² = 20
0.383²49.4 + 0.383*49.4² ≈ 20

Для y₂ = 2.6:
x₂ = (2.6 + 7) / (3 2.6 - 1) = 9.6 / 6.8 ≈ 1.412
x²y₂ + xy₂² = 20
1.412²2.6 + 1.412*2.6² ≈ 20

Итак, система уравнений имеет два решения:
x₁ ≈ 0.383, y₁ ≈ 49.4
x₂ ≈ 1.412, y₂ ≈ 2.6