Обозначим гомотетию с центром $A$ и коэффициентом $k$ как $H_{A,k}$, поворот вокруг $B$ на угол $\theta$ как $R_{B,\theta }$. Тогда композиция
$$T_{k,\theta }=R_{B,\theta }\circ H_{A,k}$$ имеет вид (в векторной форме, для точки $X$)
$$T_{k,\theta }(X)=k{R}_{\theta }X+t,t=B+R_{\theta }((1-k)A-B).$$
Пусть прямая $l$ задана уравнением $n\cdot X=c$ (вектор нормали $n$). Для $k\ne 0$ образ $l^{\prime }=T_{k,\theta }(l)$ задаётся уравнением
$$(R_{\theta }n)\cdot X=c^{\prime },c^{\prime }=kc+(R_{\theta }n)\cdot t.$$ После упрощения получаем
$$c^{\prime }=k(c-n\cdot A)+n\cdot A+(R_{\theta }n)\cdot (I-R_{\theta })B.$$
Отсюда сразу вытекают все случаи.
1) Случай $A\notin l$ (то есть $c-n\cdot A\ne 0$).
Для фиксированного $\theta$ величина $c^{\prime }$ линейно зависит от $k$ с ненулевым коэффициентом, поэтому при изменении $k$ образи $l$ покрывают все прямые с направлением $R_{\theta }(n{)}^{\perp }$ (все параллельные прямые заданному направлению). При изменении $\theta$ направления пробегают все возможные, следовательно множество всех образов равняется множеству всех прямых в плоскости (при включении $k=0$ получаем дополнительно вырожденные образы — точки $R_{B,\theta }(A)$, то есть окружность радиуса $|AB|$ вокруг $B$). Топологически это 2‑параметрическое семейство: пространство образов (неориентированных прямых) гомеоморфно ленте Мёбиуса (ориентированных — цилиндру $S^1\times \mathbb{R}$). Метрически: расстояние (перпендикулярное смещение) зависит непрерывно от параметров.
2) Случай $A\in l$ (то есть $c-n\cdot A=0$).
Тогда $c^{\prime }$ не зависит от $k$ и равен
$$c^{\prime }=n\cdot A+(R_{\theta }n)\cdot (I-R_{\theta })B,$$ то есть для любого $k$ образ при фиксированном $\theta$ один и тот же. При изменении $\theta$ получаем одномерное семейство: множество образов — кривая параметризуемая $\theta$ (период $2\pi$), топологически — окружность $S^1$. Геометрически:
- если $B\in l$, то при вращении получаем все прямые, проходящие через $B$ (все направления) — семейство всех лучей через $B$;
- если $B\notin l$, то при вращении получаем все прямые, лежащие на фиксированном расстоянии $d=\mathrm{dist}(B,l)$ от $B$ (это семейство касательных к окружности радиуса $d$ с центром в $B$). Метрически изменение линий непрерывно по $\theta$.
3) Частные/вырожденные моменты:
- Для $k=0$ образ любой $l$ — одиночная точка $R_{B,\theta }(A)$ (окружность радиуса $|AB|$ при вариации $\theta$).
- Если дополнительно $\theta \equiv 0$ и $k=1$, получаем тождественное преобразование (образ $l$ сам $l$).
Краткая сводка: если центр гомотетии $A$ не лежит на $l$, то при всех параметрах образы покрывают все прямые в плоскости (2‑параметрическое множество, топологически лента Мёбиуса для неориентированных прямых); если $A$ лежит на $l$, то образы образуют одномерное семейство (параметр $\theta$), топологически окружность, конкретно — все прямые на фиксированном расстоянии от $B$ (или все прямые через $B$, если $B\in l$).