在凸优化中,目标函数必须是凸函数是上凸还是下凸吗

D、欧几里得球范数球,椭球等

彡、无约束凸优化问题求解

对于少数一些简单的凸优化问题可以利用最优性准则通过解析来求解。但对于大多数凸优化问题来讲是没囿办法通过解析来求解的。

下降方法中有两个问题需要解决:确定搜索步长和确定搜索方向。确定搜索步长的方法和算法有:固定步长搜索精确直线搜索回溯直线搜索确定搜索方向的方法和算法有:梯度下降方法最速下降方法牛顿法。

3.3、确定步长的方法

步长值根据经验设定为了防止算法震荡,值应当较小优点:直观、简单;缺点:收敛速度慢。

比较常用的是回溯直线搜索大概思路是,用迭代方法求得的步长只要能使目标函数有足够的减少即可

3.4、调整搜索方向的方法

利用目标函数的一阶泰勒展开近似优化过程,求得搜索方向的方法

利用目标函数的二阶泰勒展开近似表示目标函数,通过求解这个二次函数的极小值来确定搜索方向

给个简单的例子希望能帮助你嘚理解。

假设 这是一个凸函数是上凸还是下凸你可以画一个三维坐标,然后他的图像应该是一个三维抛物线(像一个碗一样的感觉)

現在你在他的定义域,假设是(xoy) 平面画一条直线,和定义域相交得到这条直线本身。那么限制在这条直线上的函数实际上就是一個抛物线。

你可以理解成你用一个垂直于(xoy)的平面去切这个碗得到一个横截面,那个横截面就是限制在这条直线上的函数

然后如果你鼡无数条直线做这件事, 你就得到无数个横截面然后你就得到了原函数f(x)。

函数任意两点连线上的值 大于 对應自变量出的 函数值 的函数

目标函数是凸函数是上凸还是下凸变量所属集合是凸集合的优化问题

我要回帖

更多关于 凸函数是上凸还是下凸 的文章

 

随机推荐