Кратко докажу два часто встречающихся варианта (в зависимости от того, на каких рёбрах лежат точки) и приведу общие формулы.
1) Точки на боковых рёбрах (отрезках $SA,SB,SC$).
Пусть $A_1\in SA,B_1\in SB,C_1\in SC$ и обозначим дроби от вершины $S$: $S{A}_1=\alpha \cdot SA,S{B}_1=\beta \cdot SB,S{C}_1=\gamma \cdot SC$ ($0\le \alpha ,\beta ,\gamma \le 1$). В координатной (аффинной) записи положим $S$ в начало, векторы к вершинам $A,B,C$ — $a,b,c$. Тогда
$$\mathrm{Vol}(S{A}_1{B}_1{C}_1)=\frac{1}{6}|\det (\alpha a,\beta b,\gamma c)|=\alpha \beta \gamma \cdot \frac{1}{6}|\det (a,b,c)|$$ и, следовательно,
$$\frac{\mathrm{Vol}(S{A}_1{B}_1{C}_1)}{\mathrm{Vol}(SABC)}=\alpha \beta \gamma .$$ Особый случай: если сечение параллельно основанию, то $\alpha =\beta =\gamma =k$ и объём «вырезанного» (или верхнего) пирамидального подобия равен $k^3$ долям от исходного: ${\mathrm{Vol}}^{\prime }=k^3\mathrm{Vol}$.
2) Точки на рёбрах основания (отрезках $BC,CA,AB$).
Пусть $A_1\in BC,B_1\in CA,C_1\in AB$ и положим дроби вдоль сторон (ориентированно): $B{A}_1=x\cdot BC,C{B}_1=y\cdot CA,A{C}_1=z\cdot AB$ ($0\le x,y,z\le 1$). Тогда плоскость через эти три точки пересекает пирамиду по треугольнику в плоскости основания, и объём верхней пирамиды с тем же вершином $S$ пропорционален площади основания. В систему координат положим $A=(0,0),B=(1,0),C=(0,1)$. Тогда
$$A_1=(1-x,x),B_1=(0,1-y),C_1=(z,0),$$ площадь треугольника $A_1{B}_1{C}_1$ равна 12∣1−x−y−z+xy+yz+zx∣\tfrac12\bigl|1-x-y-z+xy+yz+zx\bigr|21 1−x−y−z+xy+yz+zx , а площадь $ABC=\frac{1}{2}$. Следовательно
$$\frac{\mathrm{Area}(A_1{B}_1{C}_1)}{\mathrm{Area}(ABC)}=1-x-y-z+xy+yz+zx,$$ и для объёмов (так как высота от $S$ к плоскости основания общая)
$$\frac{\mathrm{Vol}(S{A}_1{B}_1{C}_1)}{\mathrm{Vol}(SABC)}=1-x-y-z+xy+yz+zx.$$ Проверка: при $x=y=z=\frac{1}{2}$ получаем $\frac{1}{4}$ (медианная треугольник).
Итого — общие формулы в двух естественных постановках:
- точки на боковых рёбрах: $\frac{V^{\prime }}{V}=\alpha \beta \gamma$;
- точки на рёбрах основания: $\frac{V^{\prime }}{V}=1-x-y-z+xy+yz+zx$.
(Все обозначения даны в тексте; доказательства — выше.)