Площадь вписанного восьмиугольника можно найти с помощью следующей формулы:

S = 8 r^2 tg(π/8)

где r - радиус вписанной окружности.

Подставляем известное значение радиуса:

S = 8 (5√3)^2 tg(π/8)
S = 8 75 tg(π/8)
S = 600 * tg(π/8)

Так как tg(π/8) = 2 - корень из 2, то:

S = 600 * (2 - √2)
S = 1200 - 600√2

Ответ: площадь восьмиугольника равна 1200 - 600√2.