Определим векторы от $A$ к $B$ и $C$:
$$AB=B-A=(B_x-A_x,B_y-A_y,B_z-A_z),AC=C-A.$$
Проверки и предпочтительные вычисления:
1) Коллинеарность (в трёхмерном пространстве):
- равенство нулю векторного произведения:
$$AB\times AC=0⟺\Vert AB\times AC\Vert =0.$$ (в компонентном виде через формулу-определитель
AB⃗×AC⃗=∣ijkABxAByABzACxACyACz∣\vec{AB}\times\vec{AC}=
\begin{vmatrix}\mathbf{i}&\mathbf{j}&\mathbf{k}\\
AB_x&AB_y&AB_z\\ AC_x&AC_y&AC_z\end{vmatrix}AB×AC= iABx ACx jABy ACy kABz ACz .)
- эквивалентно линейной зависимости $AB$ и $AC$ (матрица из них имеет ранг 1).
2) Определяют плоскость:
- если $AB\times AC\ne 0$ (ранг 2), то точки не коллинеарны и задают единственную плоскость с нормалью
$$n=AB\times AC,$$ ее уравнение: $n\cdot (X-A)=0$.
3) Альтернативы и частные случаи:
- Для 2D (или если $z$-координаты равны) удобно использовать 2×2-определитель площади:
$$\det \left(\begin{array}{cc}A{B}_x& A{C}_x\\ A{B}_y& A{C}_y\end{array}\right)=0$$ означает коллинеарность.
- Пропорциональность координат (координатные отношения) также эквивалентна, но численно менее устойчива.
4) Практические замечания:
- для численных расчётов проверяйте $\Vert AB\times AC\Vert <\epsilon$ с малым $\epsilon$;
- если две точки совпадают, ситуация вырожденная (считайте точки коллинеарными по определению, но плоскость не определена однозначно).