Конкретная ошибка: на шаге «наложения» утверждается, что после совмещения двух вершин и соответствующих сторон третий вершины обязательно совпадут. Это неверно — третья вершина определяется как пересечение двух кругов с центрами в совпавших вершинах, и два круга в общем случае пересекаются в двух точках (симметричных относительно прямой, соединяющей центры). То есть наложение двух точек и сторон даёт не единственное, а два возможных положения третьей вершины (ориентация может измениться отражением).
Короткое разъяснение в терминах: пусть мы совместили $A\mapsto A^{\prime }$ и $B\mapsto B^{\prime }$. Тогда возможные образы точки $C$ — пересечения кругов с центрами $A^{\prime }$ и $B^{\prime }$ радиусами $|AC|$ и $|BC|$; обычно таких пересечений две, поэтому нельзя заключить $C=C^{\prime }$ без дополнительного условия.
Корректное ограничение на применимость метода наложения: требовать фиксированной ориентации или «той же стороны» основания. Например:
- требовать, что точки $C$ и $C^{\prime }$ лежат по одну сторону от прямой $AB$ (или $A^{\prime }{B}^{\prime }$); или
- эквивалентно, что знаки детерминантов совпадают:
$\mathrm{sgn}\det (AB,AC)=\mathrm{sgn}\det (A^{\prime }{B}^{\prime },A^{\prime }{C}^{\prime })$.
При этом для вырожденных случаев (коллинеарность или касание кругов) надо отдельно рассматривать: если круги касаются, пересечение единственно (но это особый случай). Только при выполнении условия одинаковой ориентации наложение (без отражения) даёт однозначное совпадение третьих вершин, и метод корректен.