Кейс: нужно минимизировать функцию f(x,y) = x^2 + y^2 при условии x + 2y = 3. Обсудите, когда удобно использовать геометрическую интерпретацию, а когда Lagrange-мultipliers
Коротко: решение и сравнение подходов. Решение (геометрия). f(x,y)=x^2+y^2 — квадрат расстояния от начала координат; условие x+2y=3x+2y=3x+2y=3 — прямая. Минимум достигается в проекции начала на эту прямую, т.е. в точке коллинеарной с нормалью (1,2)(1,2)(1,2): ищем точку t(1,2)t(1,2)t(1,2) на прямой t+2⋅(2t)=5t=3 ⟹ t=35,
t+2\cdot(2t)=5t=3\implies t=\tfrac{3}{5}, t+2⋅(2t)=5t=3⟹t=53,
получаем минимум в точке (35,65)\bigl(\tfrac{3}{5},\tfrac{6}{5}\bigr)(53,56) и значение f=(35)2+(65)2=9+3625=95.
f=\left(\tfrac{3}{5}\right)^2+\left(\tfrac{6}{5}\right)^2=\tfrac{9+36}{25}=\tfrac{9}{5}. f=(53)2+(56)2=259+36=59. Решение (метод множителей Лагранжа). Построим L(x,y,λ)=x2+y2−λ(x+2y−3).
L(x,y,\lambda)=x^2+y^2-\lambda(x+2y-3). L(x,y,λ)=x2+y2−λ(x+2y−3).
Условие стационарности: ∂L∂x=2x−λ=0,∂L∂y=2y−2λ=0,x+2y=3.
\frac{\partial L}{\partial x}=2x-\lambda=0,\qquad \frac{\partial L}{\partial y}=2y-2\lambda=0,\qquad x+2y=3. ∂x∂L=2x−λ=0,∂y∂L=2y−2λ=0,x+2y=3.
Отсюда x=λ2, y=λx=\tfrac{\lambda}{2},\; y=\lambdax=2λ,y=λ. Подставляя в ограничение: λ2+2λ=5λ2=3 ⟹ λ=65,
\tfrac{\lambda}{2}+2\lambda=\tfrac{5\lambda}{2}=3\implies \lambda=\tfrac{6}{5}, 2λ+2λ=25λ=3⟹λ=56,
получаем ту же точку (35,65)\bigl(\tfrac{3}{5},\tfrac{6}{5}\bigr)(53,56) и f=95f=\tfrac{9}{5}f=59. Когда удобна геометрия: - Низкая размерность (2D, 3D) и простые геометрические множества (прямые, окружности, сферы) — быстрое интуитивное решение. - Нужно быстро получить картинку или уникальный очевидный минимум (проекция, пересечение). Когда удобны множители Лагранжа: - Более общие задачи: большое число переменных, несколько или сложных равенств; формальный метод универсален. - Когда требуется алгоритическая/аналитическая процедура (можно программировать). - При необходимости учесть дополнительные условия (переход к KKT для неравенств). Ограничения и замечания: - Геометрия даёт быстрый ответ в простых случаях, но плохо масштабируется в высоких размерностях или при сложных множествах. - Лагранж даёт необходимые условия; нужно проверять, что найденные стационарные точки действительно минимумы (в данном случае задача выпуклая, поэтому найденный критический пункт — глобальный минимум).
Решение (геометрия). f(x,y)=x^2+y^2 — квадрат расстояния от начала координат; условие x+2y=3x+2y=3x+2y=3 — прямая. Минимум достигается в проекции начала на эту прямую, т.е. в точке коллинеарной с нормалью (1,2)(1,2)(1,2): ищем точку t(1,2)t(1,2)t(1,2) на прямой
t+2⋅(2t)=5t=3 ⟹ t=35, t+2\cdot(2t)=5t=3\implies t=\tfrac{3}{5},
t+2⋅(2t)=5t=3⟹t=53 , получаем минимум в точке (35,65)\bigl(\tfrac{3}{5},\tfrac{6}{5}\bigr)(53 ,56 ) и значение
f=(35)2+(65)2=9+3625=95. f=\left(\tfrac{3}{5}\right)^2+\left(\tfrac{6}{5}\right)^2=\tfrac{9+36}{25}=\tfrac{9}{5}.
f=(53 )2+(56 )2=259+36 =59 .
Решение (метод множителей Лагранжа). Построим
L(x,y,λ)=x2+y2−λ(x+2y−3). L(x,y,\lambda)=x^2+y^2-\lambda(x+2y-3).
L(x,y,λ)=x2+y2−λ(x+2y−3). Условие стационарности:
∂L∂x=2x−λ=0,∂L∂y=2y−2λ=0,x+2y=3. \frac{\partial L}{\partial x}=2x-\lambda=0,\qquad \frac{\partial L}{\partial y}=2y-2\lambda=0,\qquad x+2y=3.
∂x∂L =2x−λ=0,∂y∂L =2y−2λ=0,x+2y=3. Отсюда x=λ2, y=λx=\tfrac{\lambda}{2},\; y=\lambdax=2λ ,y=λ. Подставляя в ограничение:
λ2+2λ=5λ2=3 ⟹ λ=65, \tfrac{\lambda}{2}+2\lambda=\tfrac{5\lambda}{2}=3\implies \lambda=\tfrac{6}{5},
2λ +2λ=25λ =3⟹λ=56 , получаем ту же точку (35,65)\bigl(\tfrac{3}{5},\tfrac{6}{5}\bigr)(53 ,56 ) и f=95f=\tfrac{9}{5}f=59 .
Когда удобна геометрия:
- Низкая размерность (2D, 3D) и простые геометрические множества (прямые, окружности, сферы) — быстрое интуитивное решение.
- Нужно быстро получить картинку или уникальный очевидный минимум (проекция, пересечение).
Когда удобны множители Лагранжа:
- Более общие задачи: большое число переменных, несколько или сложных равенств; формальный метод универсален.
- Когда требуется алгоритическая/аналитическая процедура (можно программировать).
- При необходимости учесть дополнительные условия (переход к KKT для неравенств).
Ограничения и замечания:
- Геометрия даёт быстрый ответ в простых случаях, но плохо масштабируется в высоких размерностях или при сложных множествах.
- Лагранж даёт необходимые условия; нужно проверять, что найденные стационарные точки действительно минимумы (в данном случае задача выпуклая, поэтому найденный критический пункт — глобальный минимум).