Кратко — формула и выводы.
1) Положение. Поставим систему координат так, чтобы $A=(-1,0),B=(1,0)$. Для произвольной точки $X=(x,y)$ ортoцентр треугольника $ABX$ обозначим $H=(u,v)$. Условие «$AH\perp BX$ и $BH\perp AX$» даёт (вычитанием двух скалярных уравнений)
$$u=x,v=\frac{1-x^2}{y}.$$ То есть отображение $T:X\mapsto H$ задаётся рационально формулой
$$T:(x,y)⟼(x,\frac{1-x^2}{y}).$$
2) Уравнение геометрического места. Пусть задана окружность (проходящая через $A_1,B_1$) в виде
$$x^2+y^2+px+qy+r=0.$$ Подставляя $y=\frac{1-u^2}{v}$ и $x=u$ (так как $u=x$), получаем уравнение образа (места ортоцентров) в переменных $(u,v)$:
$$u^2{v}^2+(1-u^2{)}^2+pu{v}^2+q(1-u^2)v+r{v}^2=0.$$ Это алгебраическое уравнение степени 4 в $u,v$. Следовательно:
3) Общий вывод. Для общей окружности через $A_1,B_1$ геометрическое место ортоцентров треугольников $ABX$ есть алгебраическая кривая четвертой степени (рациональная кривая), заданная приведённым уравнением.
4) Какие свойства зависят от выбора окружности. Из уравнения видно:
- Степень (общая — 4) в общем случае не меняется; однако при специальных положениях окружности многочлен может вырождаться (факторизоваться), и тогда место может распадаться на более простые компоненты. Например, если окружность проходит через точку с $y=0$ (середина $AB$ в нашей координатной установке), в формуле появляется деление на нуль для соответствующего $X$ и образ содержит «точки на бесконечности» — алгебраическое вырождение (факторизация) уравнения.
- Топологию/форму: для общей окружности получается невырожденная четвёртая кривая; для специальных окружностей (ограниченные алгебраическими условиями на $p,q,r$) эта четвёртая может факторизоваться в произведение двух квадрик или в квадрику и линию и т.д. Условия факторизации описываются алгебраическими соотношениями между коэффициентами $p,q,r$ (они равны условию того, что многочлен по $u,v$ имеет факторизацию степени $\le 2$).
- Симметрии и место расположения зависят от центра и радиуса исходной окружности: координаты коэффициентов $p,q,r$ непосредственно входят в уравнение образа, поэтому смещение/поворот/масштабирование исходной окружности изменяют коэффициенты уравнения места.
5) Заключение (геометрическая интерпретация). Геометрическое место ортоцентров есть просто образ данной окружности при бирaциональном преобразовании $T$ (формула выше). В общем — это рациональная кривая 4‑й степени; только при специальных (исключительных) выборах окружности (например, когда её параметры удовлетворяют определённым алгебраическим соотношениям, в частности при прохождении через середину $AB$ и т.п.) кривая вырождается в более простые компоненты (кривые меньших степеней).