Кратко: для невыпуклого (но простого, т.е. не самопересекающегося) n‑угольника тот же результат удерживается, потому что любой простой n‑угольник можно разрезать на $n-2$ невырожденных треугольника, и сумма углов треугольников даёт требуемую величину.
Детали и обоснование.
1) Ограничение исходного доказательства. Доказательство для выпуклого n‑угольника опирается на то, что все диагонали из выбранной вершины лежат внутри многоугольника, поэтому они разбивают многоугольник на $n-2$ треугольников и
$$\text{сумма внутренних углов}=(n-2)\cdot 180^{\circ }.$$ Это аргумент завязан на выпуклости: для вогнутого многоугольника диагонали из одной вершины могут выходить наружу, поэтому прямое применение этого приёма может дать неверную разбиение.
2) Обоснование для невыпуклого (простого) многоугольника. Употребляют факт о триангуляции: любой простой n‑угольник можно разрезать на $n-2$ треугольников непересекающимися диагоналями (например, методом "вырезания ушей" — ear clipping; формально это следствие теоремы о двух ушах). Индуктивная схема: для $n=3$ тривиально; если $n>3$, существует диагональ, лежащая внутри, которая разделяет многоугольник на два простых многоугольника с меньшим числом вершин; применяя индукцию получаем разбиение на $n-2$ треугольников. Поскольку вершины треугольников — это вершины исходного многоугольника, в каждой вершине сумма углов треугольников, прилегающих к ней внутри многоугольника, равна внутреннему углу многоугольника в этой вершине. Суммируя углы всех $n-2$ треугольников, получаем
$$(n-2)\cdot 180^{\circ }=\sum _{\text{все углы треуг.}}=\sum _{\text{внутренние углы многоугольника}},$$ откуда итоговая формула остаётся той же:
$$\sum _{\text{внутренние углы}}=(n-2)\cdot 180^{\circ }.$$
3) Дополнительные замечания об ограничениях и тонкостях.
- Необходимое условие: многоугольник должен быть простой (без самопересечений). Для самопересекающихся (звёздчатых и пр.) понятие "внутреннего угла" и сумма углов нуждаются в уточнении; стандартная формула может не работать (нужна теория ориентации/числа обтекания).
- Вырожденные случаи (три соседние вершины коллинеарны, внутренний угол равен $180^{\circ }$) требуют аккуратного определения вершин и углов; формула остаётся справедливой при корректном учёте таких вершин, но разбиение на треугольники может потребовать удаление вырожденных звеньев.
- Практически используют алгоритмы триангуляции (ear clipping, алгоритмы по развёртке, разбиение на монотонные полосы и т.д.), которые дают конструктивное разбиение для простых многоугольников.
Вывод: исходное доказательство корректно только для выпуклых фигур из‑за удобства взятия всех диагоналей из одной вершины; для общего простого (невыпуклого) многоугольника нужно заменить этот шаг на существование триангуляции (например, через вырезание ушей). После триангуляции формула $(n-2)\cdot 180^{\circ }$ остаётся верной.