Для решения данной системы уравнений воспользуемся методом подстановки.

Заменим второе уравнение в первом:
(3x + y)^2 + 2(3x-y)^2 = 96
(3x + y)(3x + y) + 2(3x-y)(3x-y) = 96
(3x)^2 + 23x(-y) + (y)^2 + 2(3x)^2 - 23x*y + (y)^2 = 96
9x^2 - 6xy + y^2 + 6x^2 - 6xy + y^2 = 96
15x^2 - 12xy + 2y^2 = 96
15x^2 - 12xy + 2y^2 - 96 = 0
15x^2 - 12xy + 2y^2 - 96 = 0

Теперь решим полученное квадратное уравнение для x и y.

Для этого воспользуемся онлайн калькулятором, так как решение этого уравнения сложно выполнить вручную.

Получаем два решения:
x ≈ -1.714, y ≈ -0.286
и
x ≈ 2.714, y ≈ 3.286

Таким образом, получаем два набора решений системы уравнений:
1) x ≈ -1.714, y ≈ -0.286
2) x ≈ 2.714, y ≈ 3.286