Короткий ответ: точки P однозначно задаются барицентрическими координатами, пропорциональными противоположным площадям. Объяснение и формулы ниже.
1) Связь с барицентрическими координатами. Пусть $S=[ABC]$ (ориентированная площадь треугольника ABC), и для точки $P$ обозначим ориентированные площади
$[PAB]=a_1,[PBC]=a_2,[PCA]=a_3.$ Тогда всегда
$$a_1+a_2+a_3=S,$$ и барицентрические координаты $P$ относительно $A,B,C$ пропорциональны величинам $(\alpha :\beta :\gamma )=(a_2:a_3:a_1)$. Поэтому требование, что площади находятся в заданном отношении $r_1:r_2:r_3$ (где $r_1$ соответствует $[PAB]$, $r_2$ — $[PBC]$, $r_3$ — $[PCA]$) даёт
$$(a_1:a_2:a_3)=(r_1:r_2:r_3)⟹(\alpha :\beta :\gamma )=(r_2:r_3:r_1).$$
2) Условие осуществимости. Если заданы числа $r_1,r_2,r_3$ (не все нули), то существует (ориентированное) решение тогда и только тогда, когда $r_1+r_2+r_3\ne 0$. В этом случае найдётся единственная точка $P$ в плоскости треугольника с ориентированными площадями
$$[a_1,a_2,a_3]=\frac{S}{r_1+r_2+r_3}(r_1,r_2,r_3).$$ Если же рассматриваются неориентированные (модули) площади, то требование реализуемо только при $r_i\ge 0$ и хотя бы одно $r_i>0$; нормировка даёт единственную точку с ненормированными барицентриками.
3) Классификация по знакам/нулевым значениям:
- Все $r_i>0$: единственная точка $P$ — внутренняя точка треугольника.
- Ровно одно $r_i=0$, другие $>0$: $P$ лежит на соответствующей стороне. (Например, $r_1=0$ ($[PAB]=0$) ⇒ $P$ на прямой $AB$; если дополнительно дробь даёт положение между A и B, то на отрезке.)
- Два нуля: $P$ совпадает с соответствующей вершиной.
- Некоторые $r_i<0$: точка $P$ лежит вне треугольника; знак барицентрических координат показывает, по какую сторону соответствующей стороны находится $P$.
- $r_1+r_2+r_3=0$: нет решения в плоскости (нельзя подобрать ориентированные площади пропорциональные таким $r_i$, потому что сумма ориентированных площадей должна равняться $S\ne 0$).
4) Координатная формула. Пусть координаты вершин $A=(x_A,y_A),B=(x_B,y_B),C=(x_C,y_C)$. Тогда при реализуемых $r_i$ точка $P$ с нормированными барицентриками
$$(u:v:w)=(r_2:r_3:r_1)$$ даёт декомпозицию $u+v+w\ne 0$ и координаты
$$x_P=\frac{r_2{x}_A+r_3{x}_B+r_1{x}_C}{r_1+r_2+r_3},y_P=\frac{r_2{y}_A+r_3{y}_B+r_1{y}_C}{r_1+r_2+r_3}.$$ (Если дают ненормированные $r_i$, то делитель просто нормирует их сумму.)
5) Замечания.
- Всякая тройка $r_i$ (не все нули) задаёт единственную точку $P$ в плоскости (с учётом ориентирования) при $r_1+r_2+r_3\ne 0$. Следовательно в плоскости множество решений — точка (или при одном нуле — точка на стороне; при двух — вершина). Нет непрерывных множеств типа прямой или плоскости в рамках задачи «P в плоскости треугольника».
- Если рассматривать точки $P$ в трёхмерном пространстве и требовать соотношения (модулей) площадей, ситуация меняется и могут возникать дополнительно ветви вне плоскости; но стандартная и однозначная теория барицентрических координат работает для точек в плоскости ABC.
Если нужно, приведу краткий вывод формулы через площади или пример вычисления для конкретных чисел $r_1,r_2,r_3$ и координат вершин.