Обозначим длину прямоугольника за х, а ширину за у.
Тогда по условию задачи:
2x + 2y = 20, периметр прямоугольника равен 20 см,
(x+3)(y-1) = xy - x + 3y - 3 = xy - 1. (1)

Из первого уравнения получаем:
x + y = 10,
y = 10 - x. (2)

Подставляем выражение для y из уравнения (2) в уравнение (1):
x(10 - x) - 1 = 10x - x^2 - 1.

По условию задачи, площадь прямоугольника уменьшается на 1 см2:
xy - 10x + x^2 - 1 = xy - 1,
(10 - x)x - 1 = 0,
10x - x^2 - 1 = 0,
x^2 - 10x + 1 = 0.

Решим квадратное уравнение:
D = (-10)^2 - 411 = 100 - 4 = 96.
x1 = (10 + √96)/2 = 5 + 2√6, x2 = (10 - √96)/2 = 5 - 2√6.

Так как ширина прямоугольника не может быть отрицательной, то возьмем x1:
x = 5 + 2√6.
Затем подставляем x обратно в уравнение (2):
y = 10 - (5 + 2√6) = 5 - 2√6.

Теперь находим площадь прямоугольника:
S = xy = (5 + 2√6)(5 - 2√6) = 25 - 4*6 = 1.

Итак, площадь прямоугольника равна 1 см2.