Пусть длина прямоугольника равна х см, а ширина равна у см.

Тогда имеем систему уравнений:
х у = 40
2 (x + у) = 26

Решаем систему методом подстановки или методом Крамера:

Из первого уравнения выразим одну из переменных:
у = 40 / x

Подставляем во второе уравнение:
2*(x + 40/x) = 26
2x + 80/x = 13
Переносим все в одну сторону:
2x - 13 + 80x = 0
Умножаем все на x:
2x^2 - 13x + 80=0

Решим квадратное уравнение:

D = (-13)^2 - 4 2 80 = 169 - 640 = -471

x1,2 = (13 +/- sqrt(-471)) / 4
x1,2 = 13 / 4 + sqrt(471) / 4i
x1,2 = 3.25 +/- 5.76i

Так как у нас физический объект, то в прямоугольнике не может быть комплексной ширины. Значит либо данные в условии введены неверно, либо прямоугольник не может быть построен с данными параметрами.