Для того чтобы умножить матрицу А на матрицу В, необходимо умножить каждую строку матрицы A на каждый столбец матрицы В. Результатом будет новая матрица, размерностью MxN, где M - количество строк в матрице A, а N - количество столбцов в матрице B.

Матрица А:

5 1 -2

1 3 -1

8 4 -1

Матрица В:

3 5 5

7 1 2

1 6 0

Перемножим каждую строку матрицы А на каждый столбец матрицы В:

AB = ([5, 1, -2] * [3, 7, 1]) + ([5, 1, -2] * [5, 1, 6]) + ([5, 1, -2] * [5, 2, 0])

  = [22, 24, 1] + [20, 2, 16] + [10, 8, -10]

  = [22+20+10, 24+2+8, 1+16-10]

  = [52, 34, 7]

BA = ([3, 5, 5] * [5, 1, -2]) + ([7, 1, 2] * [5, 1, -2]) + ([1, 6, 0] * [5, 1, -2])

  = [16, 24, -1] + [11, -5, -14] + [5, -4, -2]

  = [16+11+5, 24-5-4, -1-14-2]

  = [32, 15, -17]

Итак, матрица AB равна:

52 34  7

А матрица BA равна:

32 15 -17