Сначала решим первое уравнение системы:

x - 5y = 9

x = 9 + 5y

Теперь подставим это значение x во второе уравнение системы:

(9 + 5y)² + 3(9 + 5y)y - y² = 3

Раскроем скобки:

81 + 90y + 25y² + 27y + 15y² - y² = 3

Упростим:

41y² + 117y + 78 = 3

41y² + 117y + 75 = 0

Разложим это квадратное уравнение на множители:

41y² + 117y + 75 = (41y + 15)(y + 5) = 0

Отсюда получаем два возможных значения y:

1) y = -15/41
2) y = -5

Теперь найдем соответствующие значения x:

1) x = 9 + 5(-15/41) = -120/41
2) x = 9 + 5(-5) = -16

Таким образом, решение системы уравнений будет:

x = -120/41, y = -15/41
x = -16, y = -5.