Кратко и по делу.
1) Основное (выпуклый случай). Пусть стороны четырёхугольника по порядку имеют длины $a,b,c,d$. Необходимое и достаточное условие существования вписанной окружности (касательной ко всем четырём сторонам внутри фигуро́й) — теорема Пито:
$$a+c=b+d.$$ Эквивалентные формулировки:
- внутренние биссектрисы четырёх углов пересекаются в одной точке (центре вписанной окружности);
- существуют неотрицательные числа $x,y,z,t$ (длины от точек касания до вершин по сторонам) такие, что
$$a=x+y,b=y+z,c=z+t,d=t+x,$$ откуда сразу следует $a+c=b+d$.
Доказательство: центр равновеликов по расстоянию до сторон ⇔ биссектрисы пересекаются; разложение на дуги касания даёт равенства выше и приводит к Пито.
2) Что меняется при переходе к невыпуклым простым четырёхугольникам (с одним вогнутым углом). Возможности:
- Если окружность касается всех четырёх сторон внутри соответствующих отрезков — тот же анализ с длинами касательных остаётся в силе, поэтому по-прежнему выполняется $a+c=b+d$ и биссектрисы (принимая за «внутренние» биссектрисы соответствующих внутренних углов) пересекаются в центре.
- Чаще в вогнутом случае невозможно одновременно касаться всех четырёх отрезков «изнутри»; возможна ситуация, когда окружность касается некоторых сторон в их продолжениях. Тогда для тех вершин, где касание происходит к продолжению стороны, нужно заменить внутреннюю биссектрису на соответствующую внешнюю; алгебраически это соответствует введению знаков и общей форме равенства
$$\pm a\pm b\pm c\pm d=0$$ с выбором знаков, зависящим от того, касание на отрезке или на продолжении. Геометрически условие — существуют выбор внутренней/внешней биссектрисы в каждой вершине, которые пересекаются в одной точке.
3) Самопересекающийся (перекрёстный) четырёхугольник. Здесь стороны лучше рассматривать как четыре прямые; «вписанная окружность» обычно понимается как окружность, касающаяся этих четырёх прямых. Условие становится тем же по сути: существует точка, равновысотная до этих четырёх прямых ⇔ соответствующие (внутренние или внешние, в зависимости от ориентации) биссектрисы пересекаются в одной точке. Алгебраически опять получается условие равенства сумм противоположных (или с учётом знаков) расстояний/длин. Практически это формулируется через знаковую версию Пито: для подходящей расстановки знаков
$$\pm a\pm b\pm c\pm d=0.$$
4) Замечания и следствия.
- Для простого (особенно выпуклого) практического контроля достаточно проверить $a+c=b+d$.
- Конкурентность биссектрис (с учётом внутренних/внешних) — более общая формулировка, покрывающая и невыпуклые, и самопересекающиеся случаи.
- Если требуется одновременно и вписанная, и описанная окружность (бикентрикальный четырёхугольник), то к условию Пито добавляется условие цикличности; между сторонами и углами в этом случае есть дополнительная связь (формула Фусса), но это уже отдельная тема.
Если нужно, могу привести короткие иллюстрации (схемы знаков для невыпуклого и самопересекающегося случаев) или строгие доказательства утверждений.