Пусть сторона квадрата равна a, а сторона пятиугольника - b.
Периметр квадрата: P1 = 4a
Периметр пятиугольника: P2 = 5b

Так как квадрат описан около окружности, то диаметр этой окружности равен стороне квадрата: d = a
Также, так как пятиугольник вписан в эту же окружность, то радиус окружности равен apothem пятиугольника.
Так как пятиугольник равносторонний, то apothem равен половине стороны: r = b/2

Так как периметр квадрата больше периметра пятиугольника на 6 см, то:
4a = 5b + 6

Так как диаметр равен стороне квадрата, а радиус равен половине стороны пятиугольника, то:
a = 2r

Подставим это в первое уравнение:
8r = 5b + 6

Так как r = b/2, то:
8b/2 = 5b + 6
4b = 5b + 6
b = 6

Теперь находим радиус окружности:
r = b/2 = 6/2 = 3

Ответ: радиус этой окружности равен 3.