Коротко: однозначный прямой способ — построить точки пересечения лучей с противолежащими сторонами, провести через эти точки перпендикуляры к соответствующим сторонам и проверить их пересечение. Если две перпендикуляра пересекаются в точке $O$ и третий перпендикуляр также проходит через $O$, то окружность с центром $O$ и радиусом $r=|O{A}_1|$ — искомая; иначе такой окружности не существует.
Подробно — пошаговая конструкция и обсуждение корректности.
1) Обозначения. Пусть
$$A_1=AP\cap BC,B_1=BP\cap CA,C_1=CP\cap AB.$$
2) Прямая (элементарная) конструкция.
- Постройте точки $A_1,B_1,C_1$.
- Через $A_1$ проведите перпендикуляр $l_a$ к $BC$; через $B_1$ — перпендикуляр $l_b$ к $CA$; через $C_1$ — перпендикуляр $l_c$ к $AB$.
- Пусть $O=l_a\cap l_b$. Если $l_a\parallel l_b$, то решения нет (нет центра).
- Проверьте, лежит ли $O$ на $l_c$. Эквивалентно проверьте равенство расстояний до сторон:
$$d(O,BC)=d(O,CA)=d(O,AB).$$ - Если да, то окружность с центром $O$ и радиусом $r=d(O,BC)=|O{A}_1|$ каса́ется сторон в требуемых точках $A_1,B_1,C_1$. Если нет — такой окружности нет.
3) Корректность и единственность.
- Центр окружности, касающейся данной прямой в заданной точке, обязан лежать на перпендикуляре к этой прямой, проходящем через точку касания; поэтому любой возможный центр — пересечение соответствующих перпендикуляров. Отсюда максимум одно решение.
- Условие существования — совпадение трех перпендикуляров в одной точке (или эквивалентно равенство трёх расстояний $d(O,BC)=d(O,CA)=d(O,AB)$ для некоторого $O$). В общем положении для произвольного внутреннего $P$ это условие не выполняется, значит решения обычно нет.
- Частный случай: если $P$ — инцентр треугольника $ABC$, то $A_1,B_1,C_1$ — точки касания инкруга, перпендикуляры пересекаются в инцентре и решение существует (инкруг).
4) Альтернативный подход (инверсия — для проверки существования и построения в некоторых случаях).
- Сделайте инверсию с центром $P$ радиуса произвольного. Прямые $BC,CA,AB$ перейдут в окружности, проходящие через образ $P$. Условие касания по точкам на лучах $AP,BP,CP$ переводится в условие, что искомая окружность при инверсии перейдёт в окружность, проходящую через три известных изображения точек; построение сводится к построению окружности по трём точкам. Эта схема иногда упрощает проверку существования и даёт способ построить искомую окружность, если изображения удачно расположены (не вырождаются в случай параллельных прямых). Требует осторожности при выборе радиуса инверсии и преобразования обратно.
5) Практические замечания.
- Если две перпендикуляра почти параллельны (рисунок почти не допускает пересечения из-за точности), конструкция чувствительна к погрешностям.
- Часто поставленная задача имеет решение только в специально устроенных случаях (например, $P$ инцентр или когда лучи проходят через реальные точки касания некоторой окружности). В остальных случаях конструкция констатирует отсутствие решения.
Итог: метод с перпендикулярами — главный и конструктивно корректный (постройка и проверка), инверсия — полезный альтернативный метод для анализа существования и получения решения в отдельных случаях.