族谱网 头条 人物百科

凸函数

2020-10-16
出处:族谱网
作者:阿族小谱
浏览:854
转发:0
评论:0
性质函数(蓝色)是凸的,当且仅当其上方的区域(绿色)是一个凸集。定义在某个开区间C内的凸函数f在C内连续,且在除可数个点之外的所有点可微。如果C是闭区间,那么f有可能在C的端点不连续。一元可微函数在某个区间上是凸的,当且仅当它的导数在该区间上单调不减。一元连续可微函数在区间上是凸的,当且仅当函数位于所有它的切线的上方:对于区间内的所有x和y,都有f(y)≥f(x)+f"(x)(y−x)。特别地,如果f"(c)=0,那么c是f(x)的最小值。一元二阶可微的函数在区间上是凸的,当且仅当它的二阶导数是非负的;这可以用来判断某个函数是不是凸函数。如果它的二阶导数是正数,那么函数就是严格凸的,但反过来不成立。例如,f(x)=x的二阶导数是f"(x)=12x,当x=0时为零,但x是严格凸的。更一般地,多元二次可微的连续函数在凸集上是凸的,当且仅当它的黑塞矩阵在凸集的内部是半正定的。凸函数的任何极小值也...

性质

凸函数

  函数(蓝色)是凸的,当且仅当其上方的区域(绿色)是一个凸集。

定义在某个开区间C内的凸函数f在C内连续,且在除可数个点之外的所有点可微。如果C是闭区间,那么f有可能在C的端点不连续。

一元可微函数在某个区间上是凸的,当且仅当它的导数在该区间上单调不减。

一元连续可微函数在区间上是凸的,当且仅当函数位于所有它的切线的上方:对于区间内的所有x和y,都有f(y) ≥ f(x) + f "(x) (y − x)。特别地,如果f "(c) = 0,那么c是f(x)的最小值。

一元二阶可微的函数在区间上是凸的,当且仅当它的二阶导数是非负的;这可以用来判断某个函数是不是凸函数。如果它的二阶导数是正数,那么函数就是严格凸的,但反过来不成立。例如,f(x) = x的二阶导数是f "(x) = 12 x,当x = 0时为零,但x是严格凸的。

更一般地,多元二次可微的连续函数在凸集上是凸的,当且仅当它的黑塞矩阵在凸集的内部是半正定的。

凸函数的任何极小值也是最小值。严格凸函数最多有一个最小值。

对于凸函数f,水平子集{x | f(x) < a}和{x | f(x) ≤ a}(a ∈ R)是凸集。然而,水平子集是凸集的函数不一定是凸函数;这样的函数称为拟凸函数。

延森不等式对于每一个凸函数f都成立。如果 X {\displaystyle X} 是一个随机变量,在f的定义域内取值,那么 E ( f ( X ) ) ≥ ≥ --> f ( E ( X ) ) . {\displaystyle E(f(X))\geq f(E(X)).} (在这里, E {\displaystyle E} 表示数学期望。)

凸函数的初等运算

如果 f {\displaystyle f} 和 g {\displaystyle g} 是凸函数,那么 m ( x ) = max { f ( x ) , g ( x ) } {\displaystyle m(x)=\max\{f(x),g(x)\}} 和 h ( x ) = f ( x ) + g ( x ) {\displaystyle h(x)=f(x)+g(x)} 也是凸函数。

如果 f {\displaystyle f} 和 g {\displaystyle g} 是凸函数,且 g {\displaystyle g} 递增,那么 h ( x ) = g ( f ( x ) ) {\displaystyle h(x)=g(f(x))} 是凸函数。

凸性在仿射映射下不变:也就是说,如果 f ( x ) {\displaystyle f(x)} 是凸函数( x ∈ ∈ --> R n {\displaystyle x\in \mathbb {R} ^{n}} ),那么 g ( y ) = f ( A y + b ) {\displaystyle g(y)=f(Ay+b)} 也是凸函数,其中 A ∈ ∈ --> R n × × --> m , b ∈ ∈ --> R m . {\displaystyle A\in \mathbb {R} ^{n\times m},\;b\in \mathbb {R} ^{m}.}

如果 f ( x , y ) {\displaystyle f(x,y)} 在 ( x , y ) {\displaystyle (x,y)} 内是凸函数,且 C {\displaystyle C} 是一个凸的非空集,那么 g ( x ) = inf y ∈ ∈ --> C f ( x , y ) {\displaystyle g(x)=\inf _{y\in C}f(x,y)} 在 x {\displaystyle x} 内是凸函数,只要对于某个 x {\displaystyle x} ,有 g ( x ) > − − --> ∞ ∞ --> {\displaystyle g(x)>-\infty } 。

例子

函数 f ( x ) = x 2 {\displaystyle f(x)=x^{2}} 处处有 f ″ ( x ) = 2 > 0 {\displaystyle f\,""(x)=2>0} ,因此f是一个(严格的)凸函数。

绝对值函数 f ( x ) = | x | {\displaystyle f(x)=|x|} 是凸函数,虽然它在点x = 0没有导数。

当1 ≤ p时,函数 f ( x ) = | x | p {\displaystyle f(x)=|x|^{p}} 是凸函数。

定义域为[0,1]的函数f,定义为f(0)=f(1)=1,当0<x<1时f(x)=0,是凸函数;它在开区间(0,1)内连续,但在0和1不连续。

函数x的二阶导数为6x,因此它在x ≥ 0的集合上是凸函数,在x ≤ 0的集合上是凹函数。

每一个在 R {\displaystyle \mathbb {R} } 内取值的线性变换都是凸函数,但不是严格凸函数,因为如果f是线性函数,那么 f ( a + b ) = f ( a ) + f ( b ) {\displaystyle f(a+b)=f(a)+f(b)} 。如果我们把“凸”换为“凹”,那么该命题也成立。

每一个在 R {\displaystyle \mathbb {R} } 内取值的仿射变换,也就是说,每一个形如 f ( x ) = a T x + b {\displaystyle f(x)=a^{T}x+b} 的函数,既是凸函数又是凹函数。

每一个范数都是凸函数,这是由于三角不等式。

如果 f {\displaystyle f} 是凸函数,那么当 t > 0 {\displaystyle t>0} 时, g ( x , t ) = t f ( x / t ) {\displaystyle g(x,t)=tf(x/t)} 是凸函数。

单调递增但非凸的函数包括 f ( x ) = x {\displaystyle f(x)={\sqrt {x}}} 和 g ( x ) = log ⁡ ⁡ --> ( x ) {\displaystyle g(x)=\log(x)} 。

非单调递增的凸函数包括 h ( x ) = x 2 {\displaystyle h(x)=x^{2}} 和 k ( x ) = − − --> x {\displaystyle k(x)=-x} 。

函数f(x) = 1/x,f(0)=+∞,在区间(0,+∞)内是凸函数,在区间(-∞,0)内也是凸函数,但是在区间(-∞,+∞)内不是凸函数,这是由于x = 0处的奇点。

参见

凹函数

凸集

对数凸函数

参考文献

Moon, Todd.Tutorial: Convexity and Jensen"s inequality. [2008-09-04]. 

Rockafellar, R. T. Convex analysis. Princeton: Princeton University Press. 1970. 

Luenberger, David. Linear and Nonlinear Programming. Addison-Wesley. 1984. 

Luenberger, David. Optimization by Vector Space Methods. Wiley & Sons. 1969. 

Bertsekas, Dimitri. Convex Analysis and Optimization. Athena Scientific. 2003. 

Thomson, Brian. Symmetric Properties of Real Functions. CRC Press. 1994. 

Hiriart-Urruty, Jean-Baptiste, and Lemaréchal, Claude. (2004). Fundamentals of Convex analysis. Berlin: Springer.

Krasnosel"skii M.A., Rutickii Ya.B. Convex Functions and Orlicz Spaces. Groningen: P.Noordhoff Ltd. 1961. 

Borwein, Jonathan, and Lewis, Adrian. (2000). Convex Analysis and Nonlinear Optimization. Springer.


免责声明:以上内容版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。感谢每一位辛勤著写的作者,感谢每一位的分享。

——— 没有了 ———
编辑:阿族小谱
发表评论
写好了,提交
{{item.label}}
{{commentTotal}}条评论
{{item.userName}}
发布时间:{{item.time}}
{{item.content}}
回复
举报
点击加载更多
打赏作者
“感谢您的打赏,我会更努力的创作”
— 请选择您要打赏的金额 —
{{item.label}}
{{item.label}}
打赏成功!
“感谢您的打赏,我会更努力的创作”
返回

更多文章

更多精彩文章
扫一扫添加客服微信