Задача. Дан (выпуклый) четырёхугольник ABCD и точки пересечения диагоналей O (хотя в условии точка O не играет принципиальной роли). Нужно сформулировать и доказать критерий существования окружности, касающейся всех четырёх сторон (вписанной окружности), и рассмотреть алгоритмы её построения геометрическими и численными методами.

Формулировка условия (критерий Питота для вписанного круга)
Для выпуклого четырёхугольника ABCD необходимое и достаточное условие существования окружности, касающейся всех четырёх сторон, следующее:

Четырёхугольник ABCD имеет вписанную окружность тогда и только тогда, когда суммы длин противоположных сторон равны:
AB + CD = BC + DA.

Такой четырёхугольник обычно называют касательным (или вписанным в окружность со стороны).

Доказательство

Необходимость. Пусть окружность радиуса r с центром I касается сторон AB, BC, CD, DA в точках P, Q, R, S соответственно. Тогда от каждой вершины до точек касания лежат «касательные отрезки» — например, от вершины A к точкам касания по смежным сторонам длины равны: AP = AS = t_A (свойство касательных отрезков к одной окружности). Аналогично для вершин B,C,D обозначим длины касательных отрезков t_B, t_C, t_D. Тогда
AB = AP + PB = t_A + t_B,
BC = t_B + t_C,
CD = t_C + t_D,
DA = t_D + t_A.
Складывая AB + CD и BC + DA получим одинаковую сумму 2(t_A + t_B + t_C + t_D), откуда AB + CD = BC + DA.

Достаточность. Предположим AB + CD = BC + DA. Рассмотрим неизвестные неотрицательные числа t_A, t_B, t_C, t_D, которые должны удовлетворять
t_A + t_B = AB,
t_B + t_C = BC,
t_C + t_D = CD,
t_D + t_A = DA.
Эта система совместна тогда и только тогда, когда выполняется AB + CD = BC + DA (проверка сумм); при совместности система даёт единственное решение (линейная система). Решения выражаются явно:
t_A = (AB - BC + CD + DA)/2 - но лучше записать в симметричной форме (можно вывести по решению системы); главное — для выпуклого четырёхугольника эти числа оказываются положительными (при невозможности положительности соответствующая геометрическая расстановка невозможна). Тогда мы можем отложить по каждому углу по отрезку соответствующей длины на двух примыкающих сторонах и получить четыре точки P,Q,R,S по порядку на сторонах AB,BC,CD,DA. Эти отрезки задают четыре прямые, касательные к искомой окружности. Из трёх таких непараллельных прямых всегда существует ровно одна окружность, касающаяся их (она строится как пересечение двух пар биссектрис углов, образованных этими прямыми). В частности, окружность, касающаяся AB, BC, CD и имеющая касательные точки на предварительно отложенных местах, будет иметь параметры, задаваемые t_i; тогда по равенству сумм сторон автоматом окажется, что та же окружность касается и DA (суммы касательных отрезков по сторонам совпадают). Более формальный вариант достаточности: найдём точку I, пересечение биссектрис внутренних углов при A и C (или при B и D) — это точка, равновдалённая от пар смежных сторон; расстояние r1 от I до AB и AD одинаково; расстояние r2 от I до BC и CD одинаково; с помощью равенства сумм можно показать, что r1 = r2, значит I равноудалён от всех четырёх сторон и даёт искомую окружность. (Точнее: рассмотреть сумму площадей четырёх треугольников, образованных сторонами и точкой I. Площадь ABCD = r1(AB+AD)/2 + r2(BC+CD)/2; при AB+CD = BC+DA из этого следует r1 = r2.)

Таким образом условие AB + CD = BC + DA является и необходимым, и достаточным.

Замечания о выпуклости и вырожденных случаях

Для невыпуклых (вогнутых) четырёхугольников условие меняется: может существовать окружность, касающаяся каждой стороны либо её продолжения; в этом случае формулы сумм берутся со знаком (Pitot для звёздчатых/непрямых случаев). Чаще рассматривают только выпуклые.Если одна из пар противоположных сторон параллельна, формулы и рассуждения сохраняют смысл, но нужны аккуратные знаки и проверка на совместимость.

Геометрический алгоритм построения (ступенями)
Предположим известны прямые, задающие стороны AB, BC, CD, DA и стороны пересекаются в вершинах A,B,C,D в порядке.

Геометрическая конструкция (простейший практический подход):
a) Постройте внутренние биссектрисы углов в вершинах A и C (возможно в B и D — любая пара противоположных углов).
b) Найдите их пересечение I. Точка I даёт центр окружности, равной расстоянию до двух смежных сторон в каждом из выбранных углов.
c) Измерьте (постройте перпендикуляры) расстояния от I до каждой из четырёх сторон. Если все расстояния равны с нужной точностью, то окружность радиуса r = это значение — искомая. Если расстояния не равны, никакой вписанной окружности нет. Практически при условии AB + CD = BC + DA пересечение биссектрис A и C будет центром (и расстояния будут равны).

Другой геометрический конструкторский подход (через касательные отрезки):

Вычислите (алгебраически или отложением) касательные длины t_A,t_B,t_C,t_D из системы, затем на каждой стороне от вершины откладывайте соответствующие отрезки и соединяйте получающиеся точки касания; затем постройте окружность, касающуюся трёх из полученных прямых (точно определяется), она в силу построения будет касаться и четвёртой.Численные методы и алгоритм решения уравнений
Численный подход полезен, если стороны заданы координатно (векторно). Пусть стороны заданы как четыре прямые Li: a_i x + b_i y + c_i = 0 (i=1..4), нормированы так, что sqrt(a_i^2 + b_i^2)=1, и знаки выбраны так, чтобы значения s_i(x,y) = a_i x + b_i y + c_i были положительны внутри четырёхугольника. Тогда расстояния от точки (x,y) до сторон — это d_i(x,y) = s_i(x,y) (т.к. нормы =1). Для центра I и радиуса r необходимо
d_1(x,y) = d_2(x,y) = d_3(x,y) = d_4(x,y) = r.

Из этих четырёх равенств достаточно удовлетворить два независимых:
F1(x,y) = d_1(x,y) - d_3(x,y) = 0,
F2(x,y) = d_2(x,y) - d_4(x,y) = 0.
Это две нелинейные (но здесь линейные) уравнения относительно x,y, поскольку d_i linear in x,y (при нормированных коэффициентах) — на самом деле F1 и F2 линейны: (a1-a3)x + (b1-b3)y + (c1-c3) = 0 и аналогично. Следовательно, при нормировке нормалей (длины векторов (a_i,b_i) = 1) решение (x,y) либо находится линейно единственным образом (если матрица коэффициентов невырождена), либо не существует. Этот даёт центр; затем r = d_1(x,y).

Практически алгоритм:

Нормируйте уравнения прямых так, чтобы sqrt(a_i^2 + b_i^2)=1 и знак выбран внутрь четырёхугольника.Решите линейную систему
(a1 - a3) x + (b1 - b3) y = -(c1 - c3),
(a2 - a4) x + (b2 - b4) y = -(c2 - c4).Если система имеет решение (x,y), вычислите r = a1 x + b1 y + c1 и проверьте r>0 и что дистантсы ко всем четырём сторонам равны с нужной точностью. Если r совпадает для всех — окружность существует; иначе — нет.

(Примечание: этот способ эквивалентен построению точек пересечения биссектрис, т.к. линия {d1 = d3} — это геометрическое место точек, равноудалённых от L1 и L3, т.е. их биссектрисы внутренних/внешних углов.)

Если коэффициенты строк не нормированы или вы хотите использовать численные итерационные методы (когда линии заданы шумно или требуется лучшая устойчивость), можно решать:
min_{x,y} sum_i (d_i(x,y) - mean_j d_j(x,y))^2
или минимизировать max_i d_i - min_i d_i. Для оптимизации подойдут методы Нелдера—Мида, метод Ньютона (если аналитические производные известны) или стандартные solver-ы (Levenberg–Marquardt) для системы F1=0,F2=0. Для начальной точки удобно взять пересечение биссектрис или центр вписанной окружности трёх последовательных сторон.

Практические замечания по устойчивости

Геометрическая конструкция (биссектрисы) обычно наиболее надёжна при точных построениях.Численная прямая формула через разность прямых особенно проста и устойчива, так как работает с линейными уравнениями (если нормировка нормалей выполнена корректно).Нужно следить за знаками нормалей: d_i должны быть положительными внутри фигуры — иначе решение будет соответствовать окружности, касающейся продолжений сторон, а не внутренних сторон.

Вывод / краткое резюме

Критерий существования вписанной окружности в выпуклый четырёхугольник: AB + CD = BC + DA (Pitot).Центр вписанной окружности — точка пересечения внутренних биссектрис пар противоположных углов; равное расстояние до всех четырёх сторон равно радиусу.Геометрическая конструкция: пересечение биссектрис + перпендикуляр до стороны даёт радиус.Численный (координатный) метод: нормировать уравнения сторон и решить две линейные разницы d1-d3=0, d2-d4=0 для центра; затем r = d_i(center).

Если хотите, могу:

привести пошаговую геометрическую инструкцию с рисунком (описание шагов для циркуля и линейки),дать подробный пример с конкретными координатами вершин и показать численное решение и проверку,рассмотреть модификации для вогнутого четырёхугольника или случая, когда круг должен касаться продолжений сторон.