1) Решение системы уравнений методом подстановки:

Из второго уравнения найдем значение Y:
Y = 2 - X

Подставим это значение в первое уравнение:
X^2 + (2 - X)^2 = 20
X^2 + 4 - 4X + X^2 = 20
2X^2 - 4X - 16 = 0
2(X^2 - 2X - 8) = 0
X^2 - 2X - 8 = 0
(X - 4)(X + 2) = 0

Отсюда получаем два возможных значения X: X1 = 4 и X2 = -2

Подставим полученные значения обратно в уравнение Y = 2 - X:
1) При X = 4, получаем Y = -2
2) При X = -2, получаем Y = 4

Таким образом, получаем два набора решений: (4, -2) и (-2, 4)

2) Решение системы уравнений методом алгебраического сложения:

Сложим оба уравнения:
XY - 3Y^2 + XY + 2Y^2 = -24 + 21
2XY - Y^2 = -3
Y(2X - Y) = -3

Теперь разберем уравнение на множители:
Y = -1 и 2X - Y = 3
Y = 1 и 2X - Y = -3

1) Подставим Y = -1 во второе уравнение:
2X + 1 = 3
2X = 2
X = 1
Таким образом, получаем первый набор решений: (1, -1)

2) Подставим Y = 1 во второе уравнение:
2X - 1 = -3
2X = -2
X = -1
Таким образом, получаем второй набор решений: (-1, 1)

Итак, система имеет два решения: (1, -1) и (-1, 1)