Надо уточнить область определения. Если (x,y) — любые вещественные числа, то максимум отсутствует (функция неограниченно растёт вдоль прямой). Если дополнительно предполагается (x\ge0,\;y\ge0) (обычное условие для таких задач), то максимальное значение существует и равно (16) при ( (x,y)=(4,1)).

Краткие решения тремя методами (при (x,y\ge0)):

1) Подстановка:
[
y=\frac{6-x}{2},\qquad f(x)=x^2\frac{6-x}{2}=\frac{1}{2}(6x^2-x^3).
]
[
f'(x)=\frac{1}{2}(12x-3x^2)=\frac{3}{2}x(4-x)=0\Rightarrow x=0\text{ или }x=4.
]
При (x=4) получаем (y=1) и (f(4,1)=16); на концах отрезка (x\in[0,6]) значение (f) равно (0). Значит максимум (16).

2) Множители Лагранжа:
[
L=x^2y-\lambda(x+2y-6).
]
[
L_x=2xy-\lambda=0,\quad L_y=x^2-2\lambda=0\Rightarrow 2xy=\frac{x^2}{2}\Rightarrow x=0\ \text{или}\ 4y=x.
]
Из (x+2y=6) при (4y=x) получаем (y=1,\ x=4), (f=16). (Требуется также проверять границу и неограниченные направления.)

3) Неравенство AM–GM:
Возьмём шесть неотрицательных чисел: четыре раза (\frac{x}{4}) и два раза (y). Их сумма равна
[
4\cdot\frac{x}{4}+2y=x+2y=6.
]
По AM–GM
[
1=\frac{6}{6}\ge\biggl(\bigl(\tfrac{x}{4}\bigr)^4y^2\biggr)^{1/6}\Rightarrow x^{4/6}y^{2/6}\le 4^{4/6}.
]
Возводя в третью степень, получаем
[
x^2y\le 16,
]
равенство при (\frac{x}{4}=y\Rightarrow x=4y) и тогда (x=4,\ y=1).

Сравнение методов и замечания:

Подстановка (сведение к одной переменной) проста и явно показывает поведение вдоль прямой (полезно для проверки неограниченности). Лучший выбор при одном линейном ограничении.Метод Лагранжа систематичен, удобен при нескольких ограничениях и даёт соотношение между переменными ((\lambda) даёт информацию о чувствительности), но сам по себе не гарантирует глобального максимума: нужно анализировать границы/поведение на бесконечности.Неравенства (AM–GM, Hölder и т.д.) иногда дают быстрый глобальный верхний предел и условие равенства без дифференцирования; дают конструктивное понимание, когда удаётся подобрать разбиение суммы. Однако они требуют неотрицательности компонентов (AM–GM применима только для неотрицательных чисел) и зачастую нуждаются в хитром выборе членов — в некорректной постановке могут вводить в заблуждение или быть неприменимы.

Итог: при (x+2y=6,\ x,y\ge0) максимум (16) в точке ((4,1)). Если (x,y) не ограничены по знаку, глобального максимума нет.