Условие и ответ (коротко). Пусть заданы окружности с центрами $O_1,O_2$ и радиусами $r_1,r_2$; расстояние между центрами $d=O_1{O}_2$. Для искомой окружности с центром $X$ и радиусом $\rho$ касание к $i$-й окружности (внешнее или внутреннее) даёт условие $\rho =|X{O}_i-r_i|$ с соответствующим знаком. Если положить знаки ${\sigma }_i\in \{+1,-1\}$ так, что $\rho ={\sigma }_i(X{O}_i-r_i)$, то равенство ${\sigma }_1(X{O}_1-r_1)={\sigma }_2(X{O}_2-r_2)$ даёт
$$X{O}_1-X{O}_2=k,k={\sigma }_1{r}_1-{\sigma }_2{r}_2.$$ Следовательно множество центров описывается уравнением с постоянной разностью расстояний от фокусов $O_1,O_2$:
$$|X{O}_1-X{O}_2|=|k|.$$ Это классическое определение гиперболы (или вырожденный случай). Таким образом для каждой фиксированной пары знаков $({\sigma }_1,{\sigma }_2)$ геометрическое место — ветвь(и) гиперболы c фокусами $O_1,O_2$ и постоянной разностью $|k|$. Условие существования действительных точек: $|k|<d$; если $|k|=0$, получаем перпендикулярный биссектор отрезка $O_1{O}_2$ (прямая), если $|k|>d$ решений нет.
Классическое (геометрическое) доказательство (сжатое).
- Для окружности с центром $X$ и радиусом $\rho$ касание к $O_i$ даёт $\rho =|X{O}_i-r_i|$. Приравнивая две формы для $\rho$ получаем линейную связь между $X{O}_1$ и $X{O}_2$:
$$X{O}_1-X{O}_2={\sigma }_1{r}_1-{\sigma }_2{r}_2=k,$$ где ${\sigma }_i=\pm 1$ фиксируется видом касания (внешнее/внутреннее).
- Множество точек с постоянной разностью расстояний до двух фиксированных точек — определение гиперболы (или при $k=0$ — биссектриса). Это завершает геометрическое доказательство.
Координатное доказательство (сжатое).
- Положим систему координат так, чтобы $O_1=(-d/2,0)$, $O_2=(d/2,0)$. Пусть $X=(x,y)$. Из $X{O}_1-X{O}_2=k$ получаем
$$\sqrt{(x+\frac{d}{2}{)}^2+y^2}-\sqrt{(x-\frac{d}{2}{)}^2+y^2}=k.$$ - Обозначим $R_1,R_2$ подкоренные величины и последовательно возведём в квадрат: $R_1=R_2+k$ $\Rightarrow$ $R_1^2-R_2^2=2k{R}_2+k^2$. Но $R_1^2-R_2^2=2dx$, поэтому
$$2dx=2k{R}_2+k^2\Rightarrow k^2((x-\frac{d}{2}{)}^2+y^2)=(dx-\frac{k^2}{2}{)}^2.$$ После раскрытия скобок и приведения получаем
$$\frac{4x^2}{k^2}-\frac{4y^2}{d^2-k^2}=1,$$ или в стандартном виде
$$\frac{x^2}{a^2}-\frac{y^2}{b^2}=1,a^2=\frac{k^2}{4},b^2=\frac{d^2-k^2}{4},$$ с $c^2=a^2+b^2=(d/2{)}^2$. Это уравнение гиперболы с фокусами в $O_1,O_2$ и разностью расстояний $2a=|k|$. Если $k=0$, из начального уравнения $R_1=R_2$ следует прямая $x=0$ — перпендикулярный биссектор.
Короткое замечание (инверсия). Если выполнить инверсию с центром в одной из точек пересечения заданных окружностей, то две заданные окружности перейдут в две прямые (через центр инверсии), а искомые окружности — в окружности, касающиеся этих прямых, центры которых лежат на биссекторах углов между прямыми; обратное преобразование этих биссекторов даёт те же ветви гиперболы.
Итог: для каждой комбинации внутренних/внешних касаний множество центров — ветви гиперболы с фокусами $O_1,O_2$, заданной равенством разности расстояний $|X{O}_1-X{O}_2|=|{\sigma }_1{r}_1-{\sigma }_2{r}_2|$; существование реальных точек требует $|{\sigma }_1{r}_1-{\sigma }_2{r}_2|<O_1{O}_2$.