Преобразуем систему уравнений:

2x - y - 3z = 4
3x + y - 2z = 5
x + 4y + z = -11

Приведем систему к расширенной матрице:

2 -1 -3 | 4
3 1 -2 | 5
1 4 1 | -11

Применим метод Гаусса для приведения матрицы к ступенчатому виду:

2 -1 -3 | 4
0 2 5 | -7
0 5 4 | -15

Продолжим упрощение матрицы:

2 -1 -3 | 4
0 2 5 | -7
0 0 -21 | -38

Разделим третью строку на -21:

2 -1 -3 | 4
0 2 5 | -7
0 0 1 | 38/21

Теперь найдем значения переменных, начиная с последней:

z = 38/21

Подставим полученное значение z во второе уравнение:

2 -1 -3 | 4
0 2 5 | -7
0 0 1 | 38/21

2y + 5 * 38/21 = -7
2y + 190/21 = -7
2y = -7 - 190/21
2y = -147/21 - 190/21
2y = -337/21
y = -337/42
y = -337/21

Теперь подставим значения y и z в первое уравнение:

2 -1 -3 | 4
0 2 5 | -7
0 0 1 | 38/21

2x - (-337/21) - 3 * 38/21 = 4
2x + 337/21 - 114/21 = 4
2x = 4 - 337/21 + 114/21
2x = 84/21 - 337/21 + 114/21
2x = -139/21
x = -139/42
x = -139/21

Итак, решение системы уравнений:

x = -139/21, y = -337/21, z = 38/21