Кратко и по существу.
Пусть фиксированы вершины $A=(x_1,y_1)$ и $B=(x_2,y_2)$, подвижная вершина $C$ задаётся функцией времени или параметра $t$ как $C(t)=(x(t),y(t))$. Обозначим длины сторон $a=|BC|=\sqrt{(x-x_2{)}^2+(y-y_2{)}^2}$, $b=|CA|=\sqrt{(x-x_1{)}^2+(y-y_1{)}^2}$, $c=|AB|=\sqrt{(x_2-x_1{)}^2+(y_2-y_1{)}^2}$.
1) Центр описанной окружности $O=(u,v)$.
- Геометрически: $O$ — пересечение серединных перпендикуляров; так как $OA=OB$, то для любых $C$ точка $O$ лежит на неподвижном серединном перпендикуляре к отрезку $AB$. Поэтому траектория центра описанной окружности при движении $C$ — подмножество этой фиксированной прямой (включая точку на бесконечности при вырождении треугольника).
- Координатная формула (решение системы $O{A}^2=O{B}^2$, $O{A}^2=O{C}^2$):
$$\{\begin{array}{l}(x_1-x_2)u+(y_1-y_2)v=S_{ab},\\ (x_1-x)u+(y_1-y)v=S_{ac},\end{array}$$ где
$$S_{ab}=\frac{1}{2}(x_1^2-x_2^2+y_1^2-y_2^2),S_{ac}=\frac{1}{2}(x_1^2-x^2+y_1^2-y^2).$$ Обозначим детерминант
$$D=(x_1-x_2)(y_1-y)-(y_1-y_2)(x_1-x).$$ Тогда (при $D\ne 0$)
$$u=\frac{S_{ab}(y_1-y)-(y_1-y_2)S_{ac}}{D},v=\frac{(x_1-x_2)S_{ac}-S_{ab}(x_1-x)}{D}.$$ Особые случаи: при коллинеарности $A,B,C$ имеем $D=0$ — описанный центр уходит в бесконечность (радиус окружности стремится к бесконечности).
2) Центр вписанной окружности $I=(I_x,I_y)$.
- Геометрически: $I$ — пересечение биссектрис; в барицентрических координатах $I\propto (a:b:c)$. Значит в декартовых координатах
$$I_x=\frac{a{x}_1+b{x}_2+cx}{a+b+c},I_y=\frac{a{y}_1+b{y}_2+cy}{a+b+c},$$ где $a,b,c$ определены выше. При плавном движении $C(t)$ эти выражения дают гладкую (при отсутствии вырождений) кривую для $I(t)$; она, вообще говоря, не рациональна и зависит от корней (длины сторон).
3) Свойства траекторий и условия пересечений/совпадения.
- Траектории:
- Траектория $O(t)$ всегда лежит на одном и том же серединном перпендикуляре к $AB$ (то есть на прямой). В зависимости от кривой для $C$ это будет некоторый (возможно ограниченный) отрезок или вся прямая; при вырождении треугольника точка может уходить в бесконечность.
- Траектория $I(t)$ — обычно гладкая кривая в плоскости, задаваемая функциями с корнями (зависит от длин сторон). В общем случае это сложная нерациональная кривая.
- Когда $I$ лежит на серединном перпендикуляре к $AB$: это ровно условие равенства сторон $AC=BC$ (треугольник с основанием $AB$ равнобедрен). Следовательно, пересечение траекторий (в смысле: в некоторый момент $t$ обе точки лежат на одной прямой) происходит при таких моментах; однако совпадение $O(t)=I(t)$ требует сильнейшего условия.
- Совпадение $O=I$ для одного и того же треугольника (то есть центр вписанной = центр описанной) происходит тогда и только тогда, когда треугольник правильный (равносторонний). Для фиксированного $AB$ это даёт не более двух положений $C$ — вершины равносторонних треугольников, построенных на $AB$ по обе стороны. Формально условие $O=I$ эквивалентно
$$AC=BC=AB,$$ и при этом $O$ (он же $I$) лежит на серединном перпендикуляре к $AB$ в точке, равновесной для равностороннего треугольника.
- Пересечения траекторий как множеств (то есть существует $t_1,t_2$ с $I(t_1)=O(t_2)$) возможны в общем случае; так как образ $O$ — прямая, достаточно, чтобы образ $I$ пересёк эту прямую. Условия для конкретных пересечений сводятся к решению уравнений $I_x(t_1)=u(t_2)$, $I_y(t_1)=v(t_2)$ (или если сравниваем при том же параметре — $I(t)=O(t)$, см. выше).
4) Краткие замечания по гладкости и алгебраическому типу:
- $O$ как функция от $(x,y)$ рациональна (линейно-рациональна): числители квадратичны по $(x,y)$, знаменатель линейный; потому траектория вдоль фиксированной кривой $C(t)$ задаётся рациональной функцией параметра (до вырождений).
- $I$ содержит корни (модули сторон), поэтому обычно нерациональна; при аналитическом движении $C(t)$ $I(t)$ аналитична, кроме вырождений (шаги через коллинеарность или касательные вырожденные случаи).
Итого: описанный центр движется по одному фиксированному серединному перпендикуляру к $AB$ (формула через систему линейных уравнений приведена выше), вписанный центр движется по более сложной кривой, задаваемой барицентрической формулой с длинами сторон (тоже приведено выше); совпадение центров возможно лишь для равностороннего треугольника (при данном $AB$ — два возможных положения $C$).