Обозначим стороны прямоугольника через а и b. Из условия задачи имеем систему уравнений:

2a + 2b = 20, (1)
a^2 + b^2 = 104. (2)

Из уравнения (1) найдем b = 10 - a. Подставим это значение в уравнение (2):

a^2 + (10 - a)^2 = 104,
a^2 + 100 - 20a + a^2 = 104,
2a^2 - 20a - 4 = 0,
a^2 - 10a - 2 = 0.

Решим это квадратное уравнение с помощью дискриминанта:

D = 10^2 - 41(-2) = 100 + 8 = 108.

a = (10 + √108) / 2 = (10 + 6√3) / 2 = 5 + 3√3.

Теперь найдем b = 10 - a = 5 - 3√3.

Диагональ прямоугольника можно найти по формуле:

d = √(a^2 + b^2) = √((5 + 3√3)^2 + (5 - 3√3)^2) = √(25 + 30√3 + 27 + 25 - 30√3 + 27) = √(104) = 2√26.

Таким образом, диагональ прямоугольника равна 2√26 см.