Для начала посчитаем скалярное произведение векторов:

(вектор AB + вектор BC) (вектор AC - вектор AB) = ABAB + ABAC - ABAB - BCAB + BCAC - BCAB = ABAC - BC*AB

Так как это равно 0, то ABAC = BCAB

Теперь посмотрим на отношение длин сторон треугольника:

AB/BC = sin(C)/sin(A)
AB/AC = sin(B)/sin(C)
BC/AC = sin(A)/sin(B)

Учитывая равенство ABAC = BCAB, можем записать:

sin(A) / sin(C) = sin(C) / sin(B)
sin(A) sin(B) = sin(C) sin(C)

Из последнего уравнения следует, что sin(A) * sin(B) = sin(C)^2. Так как sin(A), sin(B) и sin(C) все неотрицательные значения, то это возможно только если A = 90 градусов.

Следовательно, треугольник ABC прямоугольный.