Обозначим постоянную через $K$. Поставим начало координат в ортоцентре $H$ и векторные обозначения $a=HA,b=HB,c=HC,p=HP$. Тогда
$$P{A}^2+P{B}^2+P{C}^2=\Vert p-a{\Vert }^2+\Vert p-b{\Vert }^2+\Vert p-c{\Vert }^2=3\Vert p{\Vert }^2+(\Vert a{\Vert }^2+\Vert b{\Vert }^2+\Vert c{\Vert }^2)-2p\cdot (a+b+c).$$ Вычитая $3P{H}^2=3\Vert p{\Vert }^2$ получаем линейное уравнение
$$(\Vert a{\Vert }^2+\Vert b{\Vert }^2+\Vert c{\Vert }^2)-2p\cdot (a+b+c)=K,$$ или эквивалентно
$$p\cdot (a+b+c)=\frac{\Vert a{\Vert }^2+\Vert b{\Vert }^2+\Vert c{\Vert }^2-K}{2}.$$
Заметим, что $a+b+c=3HG$ (потому что $HA+HB+HC=3HG$). Значит условие можно записать в удобном виде
$$HP\cdot HG=\frac{S-K}{6},S:=H{A}^2+H{B}^2+H{C}^2.$$
Выводы:
- В общем случае (треугольник не равносторонний, т.е. $HG\ne 0$) множество точек $P$ — прямая, заданная уравнением выше. Это прямая, нормаль которой направлена вдоль отрезка $HG$, то есть она перпендикулярна прямой Эйлера $HG$. Расстояние от $H$ до этой прямой равно
$$d=\frac{|S-K|}{6\Vert HG\Vert }.$$ Знак правой части определяет по какую сторону от $H$ (вдоль оси $HG$) лежит прямая.
- Частный случай: если треугольник равносторонний, то $HG=0$ и тогда исходное уравнение сводится к требованию $S=K$. Поэтому либо $K=S$ и множество всех точек плоскости удовлетворяет условию, либо $K\ne S$ и решений нет.
Связь с центрами и симметриями:
- Нормаль прямой совпадает с направлением $HG$, т.е. с осью, соединяющей ортоцентр и центроид (часть Эйлеровой прямой). Следовательно множество инвариантно относительно отражения вдоль этой прямой в смысле положения нормали (но само множество — прямая, перпендикулярная этой оси).
- Для изосцелевого треугольника прямая $HG$ совпадает с осью симметрии треугольника, поэтому искомая прямая будет перпендикулярна этой оси (и, следовательно, параллельна основанию, если вершина симметрии — вершина угла).
- Прямая проходит через центроид $G$, когда подставляя $p=HG$ выполняется условие, т.е. когда
$$K=S-6\Vert HG{\Vert }^2.$$
Таким образом геометрическое место — (обычно) прямая, перпендикулярная $HG$ и расположенная на расстоянии $\frac{|S-K|}{6\Vert HG\Vert }$ от $H$; в равностороннем случае — либо вся плоскость (если $K=S$), либо пусто.