Кратко: для заданной эллипсы
$$E:\frac{x^2}{a^2}+\frac{y^2}{b^2}=1$$ максимальная по площади вписанная $n$-угольник и минимальная по площади описанная $n$-угольник находятся явно: это аффинные образы правильного $n$-угольника (соответственно вписанного в единичную окружность и описанного около неё). Приведу свойства, доказательство и численные рекомендации.
1) Формулировки результатов
- Максимальная по площади вписанная $n$-угольник имеет вершины
$$\left(a\cos (\varphi +\frac{2\pi k}{n}),b\sin (\varphi +\frac{2\pi k}{n})\right),k=0,\dots ,n-1,$$ для некоторого сдвига $\varphi$. Максимальная площадь равна
$$A_{\max }^{\text{in}}=\frac{nab}{2}\sin \frac{2\pi }{n}.$$
- Минимальная по площади описанная (стороны касаются эллипсы) $n$-угольник (при условии касания в $n$ точках) — аффинный образ правильного многоугольника, касающегося единичной окружности. Его площадь равна
$$A_{\min }^{\text{out}}=abn\tan \frac{\pi }{n}.$$
Обе оптимальные фигуры уникальны с точностью до поворота (сдвига $\varphi$) и зеркалирования.
2) Короткое доказательство (ключевая идея)
- Аффинное преобразование $T:(u,v)\mapsto (au,bv)$ переводит единичную окружность в эллипсу $E$. Аффинные преобразования сохраняют касание прямой и кривой, и масштабируют площади на множитель $\det T=ab$.
- На окружности известные факты: среди всех вписанных $n$-угольников максимальную площадь даёт правильный $n$-угольник; среди всех $n$-угольников, стороны которых касаются окружности радиуса $1$ (то есть с инрадиусом $1$), минимальную площадь даёт правильный. Под действием $T$ эти оптимальные фигуры переходят в оптимальные для эллипсы, а площади домножаются на $ab$.
- Прямое доказательство для вписанного случая без афинного перехода: пусть вершины заданы параметрами ${\theta }_k$ и упорядочены по обходу. Тогда координаты вершин $(x_k,y_k)=(a\cos {\theta }_k,b\sin {\theta }_k)$, и по формуле площади через детерминант
$$A=\frac{1}{2}\sum _{k=1}^n(x_k{y}_{k+1}-x_{k+1}{y}_k)=\frac{ab}{2}\sum _{k=1}^n\sin ({\theta }_{k+1}-{\theta }_k).$$ При фиксированной сумме $\sum ({\theta }_{k+1}-{\theta }_k)=2\pi$ сумма $\sum \sin ({\Delta }_k)$ максимальна при всех ${\Delta }_k$ равных (${\Delta }_k=2\pi /n$) по выпуклости/выпукло-вогнутым аргументам (Jensen или неравенство Коши для выпуклой/вогнутой функции). Это даёт формулу $A_{\max }^{\text{in}}=\frac{ab}{2}n\sin \frac{2\pi }{n}$.
- Для описанного многоугольника: пусть касательные к эллипсу берутся в точках с параметрами ${\theta }_k$. Для единичной окружности площадь описанного многоугольника равна $\sum \tan ({\Delta }_k/2)$ при $\sum {\Delta }_k=2\pi$; функция $g(\Delta )=\tan (\Delta /2)$ выпукла на $(0,\pi )$, поэтому сумма минимальна при равных ${\Delta }_k$, давая $n\tan (\pi /n)$. Умножение на $ab$ даёт формулу для эллипсы.
3) Свойства оптимальной фигуры (выводы)
- Симметрия: оптимальные многоугольники — «аффинно правильные», то есть образы правильных n-угольников; имеют равномерно распределённые угловые параметры на параметризующей окружности.
- Чувствительность: площади масштабируются линейно по $ab$. Малые изменения ${\theta }_k$ влияют через производную синуса или тангенса; стационарность достигается при равномерных интервалах ${\Delta }_k$.
- Уникальность: до поворотов/зеркалирования оптимум единственен; вырожденные или граничные ситуации возможны при больших нарушениях порядка вершин/касательных.
4) Численные подходы (рекомендации)
- Редукция к окружности: для численной оптимизации удобнее сначала применить обратное аффинное преобразование $T^{-1}$ к задаче, работать на окружности радиуса $1$, затем вернуть результат через $T$.
- Параметризация:
- Вписанный: задавать ${\theta }_k$ с условием ${\theta }_{k+1}>{\theta }_k$, фиксировать ${\theta }_1=0$ и оптимизировать n-1 разности ${\Delta }_k$ с ограничением $\sum {\Delta }_k=2\pi$.
- Описанный: оптимизировать разности ${\Delta }_k$ (касательные в точках).
- Оптимизаторы: для глобального поиска — многократные стартовые точки + градиентные методы (BFGS/Adam) для доработки; для гарантированного результата — воспользоваться доказанными равномерными решениями (они дают аналитическое решение). Автодиференцирование удобно для вычисления градиентов площади по ${\theta }_k$.
- Численная проверка чувствительности: вычислить градиенты $\partial A/\partial a,\partial A/\partial b$ (они тривиально $A/(a)$ и $A/(b)$ при масштабировании?) точнее: при фиксированных углах $A\propto ab$, так что $\partial A/\partial a=(b)\cdot (\text{угловая часть})$.
- Визуализация: строить отображение вершин и касательных, отслеживать сходимость ${\Delta }_k\to 2\pi /n$.
5) Связи и замечания
- Если интересует существование многоугольников, которые одновременно вписаны в одну конику и описаны около другой (Poncelet porism), то это отдельная богатая тема: при определённом расположении двух коник существует бесконечная семейство таких многоугольников; см. теорему Понселе.
- Если в задаче стоят дополнительные ограничения (ограниченная длина сторон, фиксированный центр симметрии, невырожденность касаний и т.п.), то решение может отличаться и потребует численной оптимизации с учётом ограничений.
Если нужно, могу: (а) вывести подробно формулы пересечения смежных касательных и явную формулу площади описанного многоугольника через ${\theta }_k$, (б) привести код-псевдокод для численной оптимизации.