Коротко: в сферической и гиперболической геометриях тождество Птолемея сохраняется после замены длины стороны на функцию от половины длины: на сфере — на $\sin$, в гиперболической — на $\sinh$. Ниже — формулировки, «поправочные» члены и сжатые схемы доказательств.
1) Напоминание (плоская Птолемея).
Для вписанного в окружность евклидова четырёхугольника $ABCD$ $$AC\cdot BD=AB\cdot CD+BC\cdot AD.$$
2) Сферический вариант (сфера единичного радиуса).
Если точки $A,B,C,D$ лежат на одной (сферической) окружности на единичной сфере и никакие противоположные точки не являются антиподами, то
$$\sin \frac{AC}{2}\sin \frac{BD}{2}=\sin \frac{AB}{2}\sin \frac{CD}{2}+\sin \frac{BC}{2}\sin \frac{AD}{2},$$ где $XY$ — длина кратчайшего большого круга между $X$ и $Y$ (в радианах).
Доказательство (схема): представить вершины как точки на единичной сфере в ${\mathbb{R}}^3$. Евклидово-хорда между $X$ и $Y$ равна
$$|XY{|}_{{\mathbb{R}}^3}=2\sin \frac{XY}{2}.$$ Точки, лежащие на одной сферической окружности, лежат также на одной евклидовой окружности в ${\mathbb{R}}^3$, поэтому для евклидовых хорд выполняется классическая Птолемея:
$$|AC||BD|=|AB||CD|+|BC||AD|.$$ Подставив $|XY|=2\sin \frac{XY}{2}$ и сократив общий множитель $4$, получаем указанное тождество. (Случаи с антиподами требуют отдельного рассмотрения.)
3) Гиперболический вариант (постоянная кривизна $-1$).
Если $A,B,C,D$ лежат на одной гиперболической окружности (или геодезической), то
$$\sinh \frac{AC}{2}\sinh \frac{BD}{2}=\sinh \frac{AB}{2}\sinh \frac{CD}{2}+\sinh \frac{BC}{2}\sinh \frac{AD}{2}.$$
Доказательство (схема): взять модель Лобачевского‑пространства как «двухлистный гиперболоид» в Минковском пространстве ${\mathbb{R}}^{1,2}$ с билинейной формой $⟨\cdot ,\cdot ⟩$. Для двух точек‑векторов $u,v$ гиперболоида
$$⟨u,u⟩=⟨v,v⟩=-1,⟨u,v⟩=-\cosh d(u,v).$$ Тогда
$$⟨u-v,u-v⟩=2(\cosh d(u,v)-1)=4{\sinh }^2\frac{d(u,v)}{2},$$ и поэтому «Минковская хордовая длина» $\sqrt{⟨u-v,u-v⟩}=2\sinh \frac{d}{2}$. Четыре точки, лежащие на одной гиперболической окружности, лежат в одной двухмерной плоскости в ${\mathbb{R}}^{1,2}$; применив к этим «хордам» (числам $2\sinh (\cdot /2)$) обычную Птолемею в этой плоскости (формально та же алгебра), получаем требуемое равенство после сокращения множителя $4$.
Альтернативный путь: работать в модели Пуанкаре (диска) — точки на одной гиперболической окружности соответствуют точкам на евклидовой окружности в модели; через стандартные выражения связи евклидовой и гиперболической метрик также получают формулу с $\sinh$.
4) «Поправочные члены» и неравенства.
Т.е. «поправочные члены» — это замена длины $d$ на $\sin (d/2)$ для сферы и на $\sinh (d/2)$ для гиперболы. Для произвольной четверки точек (не обязательно вписанной) имеет место соответствующая неравенство Птолемея:
- сферическое: при расположении в одном полушарии
$$\sin \frac{AC}{2}\sin \frac{BD}{2}\le \sin \frac{AB}{2}\sin \frac{CD}{2}+\sin \frac{BC}{2}\sin \frac{AD}{2},$$ - гиперболическое:
$$\sinh \frac{AC}{2}\sinh \frac{BD}{2}\le \sinh \frac{AB}{2}\sinh \frac{CD}{2}+\sinh \frac{BC}{2}\sinh \frac{AD}{2}.$$ Равенство в каждом случае тогда и только тогда, когда точки вписаны в одну окружность (или лежат на одной геодезической в вырожденном случае).
5) Замечание о методах доказательства.
- Прямое «встраивание» в модель пространства (сфера в ${\mathbb{R}}^3$, гиперболоид в ${\mathbb{R}}^{1,2}$) и применение евклидовой Птолемея к соответствующим «хордовым» величинам ($2\sin (d/2)$ или $2\sinh (d/2)$) даёт самый короткий и интуитивный аргумент.
- Альтернативно можно использовать конформные (Мёбиус‑) отображения: проекция (стереографическая для сферы, Пуанкаре для гиперболы) переводит задачy в плоскость и сводит доказательство к обычному Птолемею через выражения для евклидовых расстояний в модели; или доказывать через кросс‑отношение (cross‑ratio), которое везде ведёт себя однородно и даёт те же формулы.
Краткий итог: Ptolomey остаётся справедливой в сферической и гиперболической геометриях, но длины в формуле заменяются на $\sin (\cdot /2)$ (сфера) либо $\sinh (\cdot /2)$ (гипербола); доказательства получаются через вложение в соответствующие модельные пространства и применение классической (евклидовой) Птолемеевой формулы к соответствующим «хордовым» величинам.