Алгоритм (шаги):
1. Построить векторы от $A$: $\mathbf{u}=AB=B-A$, $\mathbf{v}=AC=C-A$.
2. Проверка нулевой длины: вычислить квадраты норм $\Vert \mathbf{u}{\Vert }^2$, $\Vert \mathbf{v}{\Vert }^2$. Если какая‑то равна $0$, угол не определён (точки совпадают).
3. Надёжный способ получить угол — через $atan2$ с модулем векторного произведения и скалярным произведением:
- скалярное произведение $d=\mathbf{u}\cdot \mathbf{v}=\sum u_i{v}_i$,
- векторное произведение (в 3D) $\mathbf{w}=\mathbf{u}\times \mathbf{v}$ и его длина $s=\Vert \mathbf{w}\Vert$ (в 2D можно взять псевдовектор или вычислить эквивалентную величину),
- угол $\theta =atan2(s,d)$.
Этот результат даёт $\theta \in [0,\pi ]$.
Альтернатива (менее устойчива при краевых случаях): стандартная формула через косинус
$$\cos \theta =\frac{\mathbf{u}\cdot \mathbf{v}}{\Vert \mathbf{u}\Vert \Vert \mathbf{v}\Vert },\theta =\arccos (\mathrm{clamp}(\cos \theta ,-1,1)).$$
Устойчивость и практические рекомендации:
- Арккосинус плохо устойчив при малых или близких к $\pi$ углах, потому что производная ${\arccos }^{\prime }(x)=-1/\sqrt{1-x^2}$ растёт при $x\to \pm 1$. Небольшая ошибка в $\cos \theta$ даёт большую ошибку в $\theta$.
- Формула с $atan2(s,d)$ обычно стабильнее: для малых $\theta$ получается $\theta \approx s/d$ и относительная погрешность меньше. Для углов около $\pi$ аналогично корректно даёт значение близкое к $\pi$.
- Предотвращение переполнения/понижения: перед вычислением норм (и скалярного/векторного произведения) можно масштабировать векторы на один и тот же положительный множитель, например разделить компоненты на ${\max }_i\{|u_i|,|v_i|\}$ (если он ненулевой). Это не меняет $\theta$, но уменьшает риск переполнения/underflow при суммах квадратов.
- Всегда делать clamp результата деления для $\cos \theta$ в $[-1,1]$ перед $\arccos$.
- Проверять нулевые длины и возвращать ошибку/NaN для совпадающих точек.
- Используйте тип с большей точностью (long double) или аппаратное FMA, если нужна повышенная точность.
- В многомерном (не обязательно 3D) варианте можно использовать норму «внешнего произведения» через размерность (например, в 2D эквивалентно модулю псевдовектора); в размерностях >3 для $s$ можно вычислять $\Vert \mathbf{u}\Vert \Vert \mathbf{v}\Vert \sin \theta =\sqrt{\Vert \mathbf{u}{\Vert }^2\Vert \mathbf{v}{\Vert }^2-(\mathbf{u}\cdot \mathbf{v}{)}^2}$ и затем $\theta =atan2(\sqrt{\Vert \mathbf{u}{\Vert }^2\Vert \mathbf{v}{\Vert }^2-(\mathbf{u}\cdot \mathbf{v}{)}^2},\mathbf{u}\cdot \mathbf{v})$.
Сводка: рекомендую метод с $atan2(\Vert \mathbf{u}\times \mathbf{v}\Vert ,\mathbf{u}\cdot \mathbf{v})$ плюс масштабирование и проверки на ноль — он более устойчив при вычислениях с плавающей запятой, чем прямой $\arccos$ по нормированным векторaм.