拉格朗日对偶性；拉格朗日数乘；条件极值是一个东西

对偶问题就是之前学过的使用拉格朗日数乘求条件极值！

例如：

原问题：min f(x,y)=x²+y²              对偶问题：由▽f=λ*▽g得，

　　　　　　s.t. xy=3                                       f_x=λ*g_x，

　　                                                                   f_y=λ*g_y，

                                                                          xy=3.

                  约束优化问题                                   无约束方程组问题

就是求函数f(x,y)=x²+y²
在条件xy=3条件下的极小值！

这里注意，a、想象一下：f(x,y)=x²+y²与xy=3在三维空间中的样子，他们肯定会有交点或者切点！

b、对于条件极值，不是说要建立原函数与条件函数的等式，f(x,y)函数是很自由的，没有条件时，x，y可以取任何值

1、那么对于源问题的极值就存在在两个函数图像的切点之上，至于为什么，看看他们的投影图就知道 

2、那么求解极值就变成找到这样的切点，切点会在

（1）两个函数图像的“平行处”，（2）满足s.t. xy=3处

3、通过引入拉格朗日乘子(λ)将原来的约束优化问题转化为无约束的方程组问题。

Φ(x,y,λ) = f(x,y) + λg(x,y) = x²y + λ(x² + y² − 1)

将所有Φ方程的偏微分设为零，得到一个方程组，最大值是以下方程组的解中的一个：

2xy + 2λx = 0

x² + 2λy = 0

x² + y² − 1 = 0

摘自--http://www.cnblogs.com/maybe2030/p/4946256.html