Пусть куб ребра (a). Обозначим фиксированную точку пересечения плоскости с одной гранью как (P) (на этой грани). Рассмотрим семейство плоскостей, проходящих через (P) и пересекающих три непоследовательные ребра куба в треугольник (T). Ниже — краткое, но ёмкое исследование изменения площади сечения (S(T)) при повороте плоскости вокруг (P), условия экстремума и геометрический смысл результатов.

1) Проекция и связь площадей.
Пусть грань с (P) — это плоскость (z=0). Обозначим угол между рассматриваемой плоскостью и гранью через (\theta) (так что (\theta=0) — плоскость совпадает с гранью). Ортойовая проекция треугольника (T) на эту грань — треугольник (T{proj}). Между площадями справедливо
[
S(T)=\frac{S(T{proj})}{\cos\theta}.
]
Таким образом изменение (S(T)) при повороте плоскости определяется двумя факторами: изменениеом проекции (S(T_{proj})) (т.е. как меняется пересечение линии плоскости с квадратной гранью) и изменением наклона (\theta).

2) Поведение при больших и малых наклонах.

При приближении плоскости к касательной положению (плоскость «скользит» по грани или ребру) треугольник вырождется и (S(T)\to 0). Это даёт глобальный минимум площади: можно сделать площадь сколь угодно малой (предельное значение 0), поэтому абсолютного положительного минимума нет. При увеличении наклона (\theta) фактор (1/\cos\theta) растёт и стремится «увеличивать» площадь, но одновременно проекция (S(T_{proj})) обычно уменьшается, потому что линия пересечения с гранью смещается по грани к углам.

3) Максимум.
Из известной общей геометрии сечений куба: наибольшая по площади треугольная секущая плоскость куба (без дополнительных ограничений на фиксированную точку) даёт равносторонний треугольник со стороной (a\sqrt{2}) и площадью
[
S_{\max}^{\text{(куб)}}=\frac{\sqrt{3}}{4}\,(a\sqrt{2})^2=\frac{\sqrt{3}}{2}\,a^2.
]
Такой треугольник получается плоскостью, проходящей через три вершины куба, попарно несмежные; эквивалентно — плоскостью, перпендикулярной одному из пространственных диагоналей куба. Это и есть глобальный максимум площади треугольного сечения куба.

Если в рассматриваемой задаче плоскость обязана проходить через фиксированную точку (P) на грани, то:

если из семейства плоскостей через (P) можно достигнуть положения, дающего вышеуказанный равносторонний треугольник (т.е. если этот оптимальный проходящий через три вершины вариант проходит через ту же грань и через (P)), то максимум по этому семейству равен (\dfrac{\sqrt{3}}{2}a^2); в общем случае (обычно) глобальный максимум по семейству плоскостей через конкретное (P) достигается тогда, когда плоскость максимально «симметрична» относительно конфигурации куба и выводит два других вершиноподобных пересечения как можно дальше друг от друга по кубу — формально это соответствует экстремизации выражения, получаемого через параметры пересечений (можно записать уравнение плоскости и через Лагранжевы множители получить условие экстремума). Геометрически условие максимума: плоскость через (P) должна быть как можно ближе по ориентации к той плоскости, которая даёт равносторонний треугольник (т.е. стремиться стать перпендикулярной пространственному диагоналу), чтобы два других вершинных пересечения были максимально удалены.

4) Локальный анализ (формула для площади).
Если поместить систему координат так, что один из вершин куба в начале и три координатные оси идут вдоль трёх ребер от этой вершины, то плоскость в виде перехвата осей имеет уравнение в интерпольной форме
[
\frac{x}{r}+\frac{y}{s}+\frac{z}{t}=1,
]
и тогда треугольник на осях с вершинами ((r,0,0),(0,s,0),(0,0,t)) имеет площадь
[
S=\frac12\sqrt{r^2s^2+r^2t^2+s^2t^2}\,/\,2?
]
(общее выражение зависит от взаимного расположения вершин; при проекции на одну грань и фиксированном (P) получают явную функцию параметров (r,s,t) с условием, что плоскость проходит через (P): (\dfrac{x_0}{r}+\dfrac{y_0}{s}+\dfrac{z_0}{t}=1). Экстремумы этой функции находятся стандартно через дифференцирование или метод Лагранжа; решение даёт условие равенства «вкладов» по координатам, что геометрически соответствует выравниванию плоскости относительно трёх направлений куба.)

(Примечание: точную явную формулу площади через координаты (x_0,y_0) точки (P) и угол поворота удобно получить при конкретном выборе ориентации осей и набора трёх пересекаемых рёбер; общий характер экстремумов остаётся описанным выше.)

5) Геометрический смысл итогов.

Минимум площади: можно сделать сечение сколь угодно малым — предел 0 — когда плоскость «касается» куба (проходит очень близко к ребру или грани). Это естественно: при приближении линии пересечения с гранью к углу квадратной грани проекция треугольника на грань уменьшается, и площадь стремится к нулю. Максимум площади: треугольник максимально, когда плоскость максимально «рассекает» куб — симметрично проходит через три максимально удалённые точки (в общем случае — через три вершины), что даёт равносторонний треугольник при оптимальной ориентации (плоскость, перпендикулярная пространственному диагоналу). Это означает, что для получения наибольшей площади нужно стремиться к положению, в котором все три пересечения расположены как можно более равномерно и далеко друг от друга по объёму куба.

Короткая сводка:

Абсолютный максимум площади треугольного сечения куба: (\displaystyle S_{\max}=\frac{\sqrt{3}}{2}\,a^2) (равносторонний треугольник со стороной (a\sqrt2)). Абсолютный минимум (в непорождающем вырождение триугольника смысле) отсутствует: (S\to 0) при приближении плоскости к касанию. Для плоскостей через фиксированную точку (P) максимум достигается, когда плоскость наиболее симметрична относительно куба (стремится к положению, перпендикулярному пространственному диагоналу); минимум достигается в пределе касательного положения.