Пусть заданы точки $A,B,C,D$ на плоскости, никакие три коллинеарны. Зафиксируем, что круг должен проходить через $A$ и $B$ и касаться прямой $\ell$ через $C$ и $D$ (аналогично рассматриваются и другие выбора пар точек). Обозначим
- $m$ — середина отрезка $AB$, $s=|AB|$;
- $d=\mathrm{dist}(A,\ell )$ (неотрицательная перпендикулярная расстояние от $A$ до $\ell$);
- выберем единичный вектор $v$ из $A$ к ближайшей точке на $\ell$, и единичный вектор $u$ в направлении от $A$ к $B$; положим $\alpha =\angle (u,v)$ (угол между вектором $AB$ и направлением к прямой $\ell$).
1) Не более двух окружностей.
Центр искомой окружности $O$ обязан лежать на серединном перпендикуляре к $AB$ (так как $OA=OB$) и одновременно удовлетворять условию касания $\mathrm{dist}(O,\ell )=OA$. Множество точек, для которых расстояние до точки $A$ равно расстоянию до прямой $\ell$, — это парабола с фокусом $A$ и директрисой $\ell$. Пересечение прямой (серединного перпендикуляра) и параболы даёт не более двух точек, откуда максимум две окружности.
2) Редукция через инверсию (критерий существования и число).
Сделаем инверсию с центром в $A$ и любой радиусом $R$. Тогда:
- точка $B$ перейдёт в $B^{\prime }$ на луче $AB$ так, что $A{B}^{\prime }\cdot AB=R^2$, т.е. $A{B}^{\prime }=\frac{R^2}{s}$;
- прямая $\ell$ (не проходящая через $A$ по условию) перейдёт в окружность ${\ell }^{\prime }$, которая проходит через $A$; её центр $O^{\prime }$ лежит на прямой $Av$ на расстоянии $A{O}^{\prime }=\frac{R^2}{2d}$ от $A$, радиус $r^{\prime }=A{O}^{\prime }=\frac{R^2}{2d}$.
Изображение искомой окружности (через $A,B$ и касающейся $\ell$) будет прямой $L$, проходящей через $B^{\prime }$ и касательной к окружности ${\ell }^{\prime }$ в некоторой точке. Таким образом задача сводится к делу о касательных к окружности ${\ell }^{\prime }$ из точки $B^{\prime }$. Число (не вырожденных) касательных равно:
- 2, если $B^{\prime }$ лежит вне ${\ell }^{\prime }$;
- 1, если $B^{\prime }$ лежит на ${\ell }^{\prime }$;
- 0, если $B^{\prime }$ внутри ${\ell }^{\prime }$.
Вычислим знак мощности точки $B^{\prime }$ относительно ${\ell }^{\prime }$. По координатной записи (или при непосредственном вычислении расстояний) получаем для мощности $P$ (мера отличия расстояния от центра и радиуса):
$$P=(B^{\prime }{O}^{\prime }{)}^2-(r^{\prime }{)}^2=R^4\left(\frac{1}{s^2}-\frac{\cos \alpha }{sd}\right).$$ Так как множитель $R^4>0$, знак $P$ задаётся знаком выражения
$$\frac{1}{s^2}-\frac{\cos \alpha }{sd}⟺d-s\cos \alpha .$$ Итого критерий (независимо от выбора радиуса инверсии):
- если $d>s\cos \alpha$, то $P>0$ и из $B^{\prime }$ исходят две касательные к ${\ell }^{\prime }$ ⇒ существуют две (в общем случае две различные) искомые окружности;
- если $d=s\cos \alpha$, то $P=0$ ⇒ ровно одна касательная (касание кратное) ⇒ ровно одна искомая окружность (касание «вдвойне»);
- если $d<s\cos \alpha$, то $P<0$ ⇒ нет касательных ⇒ нет окружностей.
3) Учёт вырожденного случая (касательная через $A$).
При некоторых конфигурациях одна из касательных от $B^{\prime }$ к ${\ell }^{\prime }$ может проходить через $A$. Такая касательная под инверсией соответствует вырожденному решению (прямая через $A$, а не окружность) и не даёт допустимой конечной окружности в исходной задаче. Это происходит тогда, когда прямая $AB$ является касательной к ${\ell }^{\prime }$ в точке $A$, т.е. когда $u\perp A{O}^{\prime }$, что эквивалентно $\cos \alpha =0$ (то есть $AB$ параллельно $\ell$). В этой ситуации формула даёт $d>0\Rightarrow P>0$ (две «касательные»), но одна из них проходит через $A$ и не даёт реальной окружности; следовательно при $AB\parallel \ell$ и $d>0$ существует ровно одна ненулевая искомая окружность (как это видно и из прямого анализа уравнения для центра).
Итоговое компактное заключение:
- Всего возможных окружностей не более двух.
- Пусть $s=|AB|$, $d=\mathrm{dist}(A,\ell )$, $\alpha$ — угол между вектором $AB$ и направлением от $A$ к прямой $\ell$. Тогда
- если $d>s\cos \alpha$ и $AB\nparallel \ell$, существуют ровно 2 окружности;
- если $d=s\cos \alpha$, существует ровно 1 окружность (касание кратное);
- если $d<s\cos \alpha$, окружностей нет;
- если $AB\parallel \ell$ (т.е. $\cos \alpha =0$) и $d>0$, существует ровно 1 (невырожденная) окружность.
Аналогичные формулы и рассуждения получаются для любой пары точек, через которые должна проходить окружность, и для любой прямой, задающей касание.