Обозначим через $S_A,S_B,S_C,S_D$ площади граней $BCD,ACD,ABD,ABC$, через $h_A,h_B,h_C,h_D$ соответствующие высоты, объём тетраэдра $V$. Тогда для каждой вершины
$$V=\frac{1}{3}{S}_A{h}_A,\text{т.е.}{h}_A=\frac{3V}{S_A},$$ и аналогично для остальных. Следовательно
$$\sum _{\text{вершины}}{h}^2=\sum _{X\in \{A,B,C,D\}}\frac{9V^2}{S_X^2}=9V^2\sum _X\frac{1}{S_X^2}.$$
Итак при фиксированном объёме $V$ задача сводится к минимизации $\sum 1/S_X^2$ по положительным величинам $S_X$ (площади граней). Функция $x\mapsto 1/x^2$ выпукла на $(0,\infty )$, поэтому при симметричной задаче минимум достигается при равенстве аргументов (по принципу симметрии или по нестрогой форме неравенства Йенсена). Следовательно минимум достигается тогда и только тогда, когда
$$S_A=S_B=S_C=S_D.$$
Геометрически это означает: площади всех четырёх граней равны. В частности, если дополнительно требовать равенства рёбер, то это даёт регулярный тетраэдр; в общем же равенство площадей граней соответствует дисфеноидному (isosceles) тетраэдру, у которого все четыре грани равновелики (и попарно конгруэнтны).
Краткая схема доказательства с неравенствами (альтернативный вариант): пользуясь тождеством $S_X{h}_X=3V$ и неравенством Коши–Шварца для векторов $(h_X)$ и $(S_X)$ получаем
$$(\sum h_X^2)(\sum S_X^2)\ge (\sum h_X{S}_X{)}^2=(12V{)}^2,$$ откуда
$$\sum h_X^2\ge \frac{144V^2}{\sum S_X^2}.$$ При фиксированном $V$ правая часть минимальна тогда, когда $\sum S_X^2$ максимальна, а для заданной симметрии максимум $\sum S_X^2$ достигается при $S_A=S_B=S_C=S_D$. Это снова даёт условие равенства площадей граней как необходимое и достаточное условие для минимума суммы квадратов высот.