Утверждение. Пусть инверсия с центром $O$ и радиусом $R$ переводит точку $P\ne O$ в $P^{\prime }$ так, что
$$OP\cdot O{P}^{\prime }=R^2,P^{\prime }\in OP.$$ Тогда
1) если прямая $l$ проходит через $O$, то образ $l^{\prime }$ при инверсии — та же прямая $l$ (как множество точек, за исключением $O$); точки перемещаются по лучам $OP$ по закону $OP\cdot O{P}^{\prime }=R^2$;
2) если прямая $l$ не проходит через $O$, то образ $l^{\prime }$ — окружность, проходящая через $O$. Более точно: пусть $H$ — проекция $O$ на $l$ (расстояние $OH=d>0$). Тогда образ $l^{\prime }$ — окружность с центром на перпендикуляре из $O$ к $l$, имеющая диаметр $O{H}^{\prime }$, где $H^{\prime }$ — образ $H$. В частности
$$O{C}^{\prime }=\frac{R^2}{2d},\text{радиус}r=\frac{R^2}{2d},$$ и $O{H}^{\prime }=2r=\frac{R^2}{d}$.
Краткое доказательство (координатное, достаточно простое). Выберем систему координат с центром в $O$ и так, чтобы $l$ задавалась уравнением $y=d$ ($d>0$). Тогда для точки $P=(x,d)\in l$ её образ
$$P^{\prime }=\frac{R^2}{x^2+d^2}(x,d)=(\frac{R^{2}x}{x^2+d^2},\frac{R^{2}d}{x^2+d^2}).$$ Покажем, что все такие $P^{\prime }$ лежат на окружности с центром $(0,R^2/(2d))$ и радиусом $R^2/(2d)$. Действительно, подставляя в уравнение окружности,
$$x^{\prime 2}+(y^{\prime }-\frac{R^2}{2d}{)}^2=\frac{R^4}{(x^2+d^2{)}^2}(x^2+\frac{(d^2-x^2{)}^2}{4d^2})=(\frac{R^2}{2d}{)}^2,$$ что и доказывает требуемое. Эта окружность проходит через $O$ (при $x=0,y=0$ равенство выполняется) и через $H^{\prime }=(0,R^2/d)$ — образ проекции $H=(0,d)$; отрезок $O{H}^{\prime }$ является диаметром.
Геометрическая интерпретация и частные случаи:
- $l$ через $O$: образ — та же прямая («окружность бесконечного радиуса»). Формально при $d\to 0$ центр $C^{\prime }$ уходит в бесконечность и окружность превращается в прямую.
- $l$ касательна к окружности инверсии ($d=R$): точка касания инвариантна, образ — окружность с радиусом $R/2$, центром на расстоянии $R/2$ от $O$.
- при $d\to \infty$ радиус образа $r=\frac{R^2}{2d}\to 0$, то есть образ «сжимается» к $O$.
Дополнительное замечание: обратный переход верен — инверсия переводит любую окружность, проходящую через $O$, в прямую, не проходящую через $O$. Это следует из того, что инверсия инволютивна и сохраняет углы.