Для того чтобы привести матрицу к каноническому виду, нужно выполнить элементарные преобразования строк. Начнем с верхнего левого элемента:

Добавим ко второй строке первую строку, умноженную на -4:
3 -5 -6 4
4 -6 -4 2
1 -5 5 3

3 -5 -6 4
0 -4 20 -14
1 -5 5 3

Поделим вторую строку на -4:
3 -5 -6 4
0 1 -5 3.5
1 -5 5 3

Вычтем из первой строки третью строку:
2 -0 3 -1
0 1 -5 3.5
1 -5 5 3

Вычтем из первой строки две вторые строки:
2 -1 8.5 -4
0 1 -5 3.5
1 -5 5 3

Вычтем из третьей строки вторую строку:
2 -1 8.5 -4
0 1 -5 3.5
1 -5 10 -0.5

Таким образом, матрица приведена к каноническому виду.