Метод (схема, коротко и формально).
1) Зафиксируйте циклический порядок отмеченных точек на окружности и пронумеруйте их по кругу $1,2,3,4,5$. Любой пятиугольник (замкнутый обход этих точек) задаётся ориентированной 5‑циклической перестановкой вершин $(v_0,v_1,v_2,v_3,v_4)$ с $v_{i+5}=v_i$. Рёбра этого пятиугольника — хорды между соседними по обходу вершинами; остальные 5 хорд — «диагонали».
2) Для каждой диагонали отметьте, лежит ли она внутри данного (нарисованного) пятиугольника. Это даёт «маску» из 5 битов (по кругу): для диагонали $(i,j)$ ставим 1, если она внутреняя, 0 — если внешняя. Две диаграммы считаются эквивалентными, если одна получается из другой поворотом/отражением круга (действие диэдральной группы $D_5$). Такой классификатор полностью описывает «вписанность диагоналей».
3) Альтернативно (эквивалентно) классифицируйте через граф пересечений диагоналей: вершинам графа — диагонали, ребро между двумя вершинами — если соответствующие диагонали пересекаются внутри окружности. Для хорд на окружности критерий пересечения: хорды $(i,j)$ и $(k,l)$ пересекаются тогда и только тогда, когда по циклическому порядку их концы чередуются, например (после сдвига/перенумерации)
$$i<k<j<l(\text{по кругу}).$$ Эти два описания (битовая маска и граф пересечений) однозначно соответствуют друг другу.
Краткие вывода/примеры:
- Два «крайних» типа: выпуклый пятиугольник (обход по порядку $1,2,3,4,5$) — все диагонали внутренние; и правильная «звезда» $\{5/2\}$ (шаг 2) — максимальное самопересечение, когда каждая диагональ пересекает две другие (формируется пентаграмма).
- Всего типов «каких диагоналей внутренние/внешние» (модуло повороты и отражения) получается по теореме Бернсайда
$$\frac{1}{|D_5|}\sum _{g\in D_5}\#\mathrm{Fix}(g)=\frac{1}{10}(32+4\cdot 2+5\cdot 8)=8,$$ то есть 8 классов масок диагоналей up to симметрии круга.
Какие инварианты сохраняются при такой классификации (и почему они важны):
- Циклический порядок точек на окружности (он задан изначально) — фундаментальная инварианта; все рассуждения работают при фиксированном порядке.
- Ординальная структура пересечений (какие пары диагоналей пересекаются) — граф пересечений диагоналей; этот граф неизменен при непрерывных деформациях, не создающих/удаляющих пересечения (инвариант топологический/комбинаторный).
- Число пересечений (crossing number) — суммарное число внутренних пересечений ребер/диагоналей; сохраняется при гомеоморфизмах, не меняющих порядок.
- Класс маски диагоналей modulo $D_5$ (то есть эквивалентность по поворотам/отражениям) — инвариант классификации, которым мы именно пользуемся.
- Более сильный инвариант — ориентированный матроид (chirotope) множества точек; для точек на окружности он сводится к их циклическому порядку и полностью определяет, какие хорды пересекаются.
Практически: чтобы классифицировать конкретный пятиугольник — пронумеруйте точки по окружности, выпишите 5‑битовую маску «диагональ внутри/снаружи» или постройте граф пересечений диагоналей; затем приведите маску к канонической форме под действиями $D_5$. Это даёт один из 8 классов; дополнительные числовые инварианты — число пересечений, степень вершин в графе пересечений и т.д.