Для вычисления смешанного произведения векторов АВ, ВС и А используем следующую формулу:

[AB, BC, AC] = (AB x BC) * AC

Где AB - вектор, соединяющий точки A и B,
BC - вектор, соединяющий точки B и C,
AC - вектор, соединяющий точки A и C,
x - операция векторного произведения.

Для начала найдем векторы AB, BC и AC:

AB = B - A = (39 - 13; 0 - 26; -39 - 0) = (26; -26; -39)
BC = C - B = (65 - 39; 26 - 0; 78 + 39) = (26; 26; 117)
AC = C - A = (65 - 13; 26 - 26; 78 - 0) = (52; 0; 78)

Теперь вычислим векторное произведение AB x BC:

AB x BC = (26 117 - (-26 26); -(26 117 - 26 26); 26 26 - 26 26) = (3066 + 676; -3066 - 676; 0) = (3742; -3742; 0)

И, наконец, найдем смешанное произведение:

[AB, BC, AC] = (3742; -3742; 0) (52; 0; 78) = 3742 52 + (-3742) 0 + 0 78 = 194984

Таким образом, смешанное произведение векторов АВ, ВС и А равно 194984.