Ответ: максимум f(x,y)=x^2 y при x+y=1, x,y≥0 равен 4/27 и достигается в точке (x,y)=(2/3,1/3).

Решение тремя способами и замечания о границах.

1) Подстановка (проще всего)

Из ограничения y = 1 − x, 0 ≤ x ≤ 1.f(x) = x^2(1−x) = x^2 − x^3.f'(x) = 2x − 3x^2 = x(2−3x) = 0 ⇒ x = 0 или x = 2/3.Концы отрезка: x = 0 ⇒ f = 0, x = 1 ⇒ f = 0. При x = 2/3: f = (4/9)·(1/3) = 4/27.Второй производной: f''(x)=2−6x, f''(2/3)=−2 < 0 → локальный максимум, и поскольку домен компактный, это глобальный максимум.

2) Метод Лагранжа

L = x^2 y + λ(1 − x − y).∂L/∂x = 2xy − λ = 0, ∂L/∂y = x^2 − λ = 0, ∂L/∂λ = 1 − x − y = 0.Из первых двух: 2xy = x^2 ⇒ либо x = 0, либо 2y = x.
x = 0 → y = 1, f = 0 (край).2y = x и x + y = 1 ⇒ 3y = 1 ⇒ y = 1/3, x = 2/3, f = 4/27.Замечание: метод Лагранжа ищет стационарные точки на внутренней части множества, но у нас есть ещё неравенства x,y≥0 — надо проверить и границы (x=0 или y=0). Поэтому всегда сравнивают найденные стационарные точки с значениями на границе.

3) Метод неравенств (AM–GM)

По AM–GM для трёх неотрицательных чисел x/2, x/2, y:
(x/2 + x/2 + y)/3 ≥ ((x/2)(x/2)y)^{1/3}.
Но x/2 + x/2 + y = x + y = 1, следовательно 1/3 ≥ (x^2 y /4)^{1/3}.
Возводя в третью степень: 1/27 ≥ x^2 y /4 ⇒ x^2 y ≤ 4/27.
Равенство достигается при x/2 = y, т.е. x = 2y, вместе с x+y=1 даёт x=2/3, y=1/3.Этот способ даёт сразу глобальную верхнюю оценку и условие равенства.

Тонкости при анализе граничных точек

Ограничения x,y≥0 — это неравенства: при применении Лагранжа нужно учитывать, что на границе некоторые неравенства становятся активными; нужно проверять все случаи (например, x=0 или y=0) и сравнивать значения.Если бы область не была компактной, максимум мог бы не существовать; здесь область компактна (отрезок), поэтому глобальный максимум существует и достигается.Иногда стационарные точки по Лагранжу могут лежать вне допустимой области — их надо отбросить.Можно также применить KKT-условия, если нужно формализовать проверку активных неравенств.

Итого: максимум 4/27 при (2/3,1/3).