Выпуклый анализ. Выпуклые функции.. Лекция 12

1. ВЫПУКЛЫЙ АНАЛИЗ

ЛЕКЦИЯ 12
3. ВЫПУКЛЫЕ ФУНКЦИИ (ПРОДОЛЖЕНИЕ )

2.

3. ВЫПУКЛЫЕ ФУНКЦИИ
(ПРОДОЛЖЕНИЕ)
3.3. Непрерывность выпуклой функции.
3.4. Дифференцируемость выпуклой функции по всем возможным
направлениям.

3.

3.3. Непрерывность выпуклой функции. Неравенство (1.1), определяющее
I ( a u + ( 1 a ) v ) £ a I (u ) + ( 1 a ) I ( v )
(1.1)
выпуклую функцию, оказывается столь сильным, что обеспечивает ей непрерывность в
каждой внутренней точке области определения.
Теорема 6. Пусть функция I
: U ® R1 , где U R n выпуклое множество,
выпукла. Тогда она непрерывна в любой точке
Доказательство.
в множестве
u1
Сначала предположим, что
u0 = 0 Î int U , I (u0 ) = 0.
с вершинами
u0 Î int U .
Существует n
мерный куб
K
u4
u0 = O
K
u1 ,L , um , m = 2n , с центром в нуле и содержащийся
I ( ui ) . Любая точка v Î K
U . Обозначим I K = iÎmax
{ 1,L , m}
представлена в виде
m
v = å a i ui ,
i =1
Тогда в силу выпуклости функции
æ m
ö выпуклость I
I ( v ) = I ç å a i ui ÷
£
è i =1
ø
m
åa
i =1
i
£ IK
u3
может быть
}=1
m
}
å a i I ( ui ) £ I K å ai = I K .
i =1
U
= 1, a i ³ 0, i = 1,L , m.
I находим
m
u2
i =1
( 1)

4.

Пусть
u1 u
e
u4
u2
eK
u O
U
u
e
K
Тогда
Iвыпуклая
£
С другой стороны
u
± Î K.
e
I (v ) £ I k , v Î K
u
e × + ( 1 e ) ×0
e
u3
I(
}
u
выпуклость I
£
Из неравенства (1)
( 1)
£IK
}
=0
æuö
e I ç ÷ + ( 1 e ) I ( 0) £ e I K .
èe ø
}
0
следует
æ ÎK
ÎK ö Iвыпуклая
u
) = I çe × + ( 1 e ) × 0 ÷ £
ç e
÷
è
ø
( 2)
}ÎK ö
æ
ç 1 ÎK e æ u ö ÷ выпуклость I
×u+
)= Iç
ç ÷÷ £
1+ e è e ø ÷
ç1+ e
è
ø
e
× Ik Þ 0 £ I ( u ) + e × Ik Þ
1+ e
1
e æ uö
×u +
ç ÷
1+ e
1+e è e ø
0 = I(
u Î e K U , e Î ( 0,1] .
1
I ( u) +
1+ e
I (u ) ³ e I k .
( 3)

5.

Из (2)
I (u ) £ e I K
( 2)
I (u ) ³ e I k ( 3) следует, что
}=0
I (u ) I (0) = I (u ) £ e I k ,
и (3)
что и означает непрерывность функции
I
I (u ) £ e I k Þ
в нуле.
Общий случай сводится к уже рассмотренному путем введения функции
G : ( U { u 0 } ) ® R1 ,
определенной формулой
G (u ) = I (u + u0 ) I (u0 ), u Î
область определения G
64 7 48
U { u0 }
.
Эта функция выпукла и для нее выполнено
}0
0 Î int ( U { u0 } ) , G ( 0 ) = I (u + u0 ) I (u0 ) = 0.
Тогда по доказанному она непрерывна в нуле. Непрерывной в нуле будет и функция
константа
}
}
I (u + u0 ) = G (u ) + I (u0 ) , u Î U { u0 } ,
непрерывна
как сумма непрерывной функции и постоянной. Отсюда следует непрерывность функции
I ( u ) , u ÎU
в точке
u0 .
Теорема доказана.

6.

Для граничных точек доказанная теорема неверна.
Пример 4.
Функция
8
6
I : [ 0, +¥ ) ® R1 , определенная равенством
ìu 2 , u > 0
I (u ) = í
, u Î [ 0, +¥ ) ,
î 1, u = 0
[
выпукла на 0, +¥ ) ,
4
2
0.5
1
1.5
2
2.5
3
но терпит разрыв в нуле.
Покажем, что эта функция выпукла. Достаточно
проверить определение выпуклости только в точке
u = 0.
Пусть
u Î ( 0, +¥ ) и a Î [ 0,1) .
}0
}0
æ
ö }=1
(В случае a = 1: I ç1 × 0 + ( 1 1) u ÷ = I ( 0 ) = 1 × I ( 0 ) + ( 1 1) I ( u ) неравенство Иесена
ç
÷
è
ø
выполнено в форме равенства). Вычисляем
£ ( 1 a )
I ( u)
I ( 0)
}
æ 64 7>0 48 ö 64 7 48
}
+a ³ 0
I ( a × 0 + ( 1 a ) u ) = I ç ( 1 a ) u ÷ = ( 1 a ) 2 u2 £ a × 1 + ( 1 a ) u2 =
ç
÷
è
ø
= a I ( 0) + ( 1 a ) I ( u ) Þ
I ( a × 0 + ( 1 a ) u ) £ a I ( 0) + ( 1 a ) I ( u ) .

7.

3.4. Дифференцируемость выпуклой функции по всем возможным направлениям.
Определение 3.
возможным в точке
n
Пусть u Î U R .
u,
Направление e Î
если существует число
R n , e = 1 называется
t0 > 0
u + te Î U , "t Î [ 0, t0 ] .
Пример 5. Пусть u Î int U . Тогда любое направление e 0
U
u
e
такое, что
Пример 6.
Пусть
y
{
0
U
y=x
2
x
}
U = u = ( x, y ) Î R 2 x ³ 0, x 2 £ y £ 2 x 2 .
Для точки
y = 2x2
будет возможным.
u = ( 0,0 )
Действительно, пусть
нет ни одного возможного направления.
e = ( e1 , e2 ) , e = 1 и t > 0. Тогда, если
это направление возможное, для точки
u = ( 0, 0 ) Î U
должно
( te1 , te2 ) ÎU для достаточно малых t ³ 0.
2
2
2
2
Данное включение означает, что t ( e1 ) £ te2 £ 2 t ( e1 ) Þ
2
2
t ( e1 ) £ e2 £ 2 t ( e1 ) .
( 1)
выполняться включение
0 + te =
Левое неравенство в (1) невозможно, если
малых
t>0
e2 £ 0.
В случае, когда
e2 > 0
невозможно правое неравенство в (1). Полученное противоречие
доказывает отсутствие возможных направлений для точки
u = ( 0, 0 ) Î U .
для

8.

U R n выпукло и содержит не менее двух точек.
Пример 7. Пусть множество
u Î U имеется хотя бы одно возможное направление.
v Î U , v u. Положим e = v u. Для всех t Î [ 0,1]
Тогда для любой точки
Действительно, пусть
v } u
имеем
u + t e = u + t ( v u ) = tv + ( 1 t ) u Î U .
Полученное включение означает, что направление
Определение 4.
e = v u
Пусть I : U ® R1 , U R n .
по возможному направлению
e, e = 1,
возможное.
Производной функции
I
будем называть величину
I ( u + te ) I (u )
dI
,
( u ) = tlim
®+
0
de
t
если этот предел существует.
Заметим, что если функция
и дифференцируема в ней,
причем
I
определена в некоторой окрестности точки
u
то она имеет производные по всем возможным направлениям
dI
¶
( u ) = I ( u + te ) =
de
¶t
t =0
¶
I '(u + te) t =0 , ( te ) =
¶t
grad I ( u )
I '(u ) , e .

9.

Однако, обратное неверно. Более того, нельзя даже гарантировать непрерывность
функции в точке, в которой она имеет производные по всем направлениям.
Пример 8.
Пусть
ì x2 y
,
ï 4
2
I ( x, y ) = í x + y
ï 0,
î
0.5
0.25
0
­0.25
­0.5
­1
0
­0.5
­0.5
0
0.5
y = 0,
( x, y ) Î R 2
1
0.5
y 0,
Покажем, что эта функция дифференцируема вдоль
2
e
Î
R
, e = 1 в точке
любого направления
0.
1 ­1
Представим произвольное направление в виде
e = ( cos a ,sin a ) , a Î [ 0, 2p ] , ( e = 1) .
и установим существование предела
æ I ( 0 + te ) I (0) ö
lim ç
÷
t ® +0
t
è
ø
для любого направления

10.

e = ( cos a ,sin a ) .
В силу
I ( 0) = 0
( cos a ,sin a ) ö
æ
}
}=0
I ç 0 + t e ÷ I (0)
ç
÷
è
ø
=
t
имеем
y
x
6
7
8
}
æ
ö
1
I ç t cos a , t sin a ÷
÷
t ç
è
ø
2
ì1
t cos a ) t sin a
(
, sin a 0,
ï ×
4
2
= í t ( t cos a ) + ( t sin a )
=
ï
0,
sin a = 0
î
ì x2 y
,
ï
I ( x , y ) = í x4 + y 2
ï
î 0,
=
y 0,
y = 0,
ì cos 2 a sin a
, sin a 0,
ï 2
4
2
í t cos a + sin a
ï
0,
sin a = 0.
î
Отсюда выводим
2
ì
cos
a
ì cos a sin a
, sin a 0,
, sin a 0, = ï
dI
ï 2
4
2
í sin a
t cos a + sin a
( 0 ) = tlim
í
®+0
de
ï 0,
ï
sin a = 0.
0,
sin
a
=
0,
î
î
2
Таким образом, указанный предел существует.
точке
( 0, 0 ) . В самом деле, устремим точку
Однако, функция
( x, y )
I
разрывная в
к нулю по параболе y
= x2.

11.

Тогда
æ x} ö
I ç x, y ÷
ç
÷
è
ø
2
ì x2 y
,
ï
I ( x , y ) = í x4 + y 2
ï
î 0,
=
Теорема 7. Пусть функция
y 0,
x2 x2
y = 0,
x +( x
4
)
2 2
=
1
0 = I ( 0, 0 ) .
2
I : U ® R1 , где U R n выпуклое множество,
выпукла. Тогда в любой точке u Î int U функция I имеет производные по всем
n
направлениям e Î R .
Доказательство. Требуется доказать существование конечного предела
dI
I u + te ) I (u )
h( t) , h( t) = (
( u ) = tlim
.
®+0
de
t
Из включения u Î int U следует существование числа d > 0
u + tе Î U , t < d .
Пусть
t0 Î ( 0, d ) .
(
t
)
)
Для
такого, что
t Î ( 0, t0 ]
полагаем
t0 d
d
0
t0 t
t t t
b=
Î ( 0,1] Þ 1 b = 1 0
=
t0
t0
t0
Î
U
Î}U
64 7 48
Имеет место включение b u + ( 1 b ) ( u + t0 e ) Î U . С другой стороны

12.

t0 t
t0
t
t0
678
}
t t
t
t
t
b u + ( 1 b ) ( u + t0e ) = 0 u + ( u + t0e ) = u u + u + te = u + te Þ
t0
t0
t0
t0
u + te Î U , t Î ( 0, t0 ] .
Тогда
1 b ) ( u + t0 e )
æ b u +(}
ö
выпуклость I
I ç u + te ÷ = I ( b u + ( 1 b ) ( u + t0e ) )
£ b I ( u ) + ( 1 b ) I ( u + t0e ) Þ
ç
÷
u ) + ( 1 b ) I ( u + t0 e )
è
ø £ b I (64
7 48
I ( u + te ) I (u )
b I ( u ) + ( 1 b ) I ( u + t0e ) I (u )
h( t) =
£
=
t
t
t
=
b 1) I ( u ) + ( 1 b ) I ( u + t0e )
(
=
t
=
6 7t08
( 1 b ) éë I ( u + t0e ) I ( u ) ùû
h ( t0 )
t
64 47 4 48
t × éë I ( u + t0 e ) I ( u ) ùû
I u + t0 e ) I ( u )
=
= (
= h ( t0 ) Þ
t0 × t
t0
t £ t0 Þ h ( t ) £ h ( t0 ) .
=

13.

Таким образом, функция
h( t)
монотонно убывает при t
t0
t
g=
Î ( 0,1] Þ 1 g =
.
t + t0
t + t0
t
t0
t + t0
Тогда
t0
t
( u + te ) +
( u t0 e ) =
t + t0
t + t0
t0u + t0 × te + tu t × t0 e t0u + tu
=
= u.
t + t0
t + t0
g ( u + te ) + ( 1 g ) ( u t0 e )
I(
Полагаем
Имеет место равенство
t + t0
678
}
g ( u + te ) + ( 1 g ) ( u t0e ) =
=
® +0.
}
u
)=
выпуклость I
£
I ( g ( u + te ) + ( 1 g ) ( u t0e ) )
выпуклость I
£
g I ( u + te ) + ( 1 g ) I ( u t0e ) Þ
I (u ) £ g I ( u + te ) + ( 1 g ) I ( u t0e ) Þ g × I ( u + te ) ³ I (u ) ( 1 g ) I ( u t0 e ) Þ
I (u ) ( 1 g ) I ( u t0e )
I ( u + te ) ³
Þ
g

14.

t
t + t0
678
I (u ) ( 1 g ) I ( u t0e )
I ( u + te ) ³
=
g{
( t + t0 ) I (u ) tI ( u t0e )
t0
=
t0
t + t0
t
tI (u ) + t0 I (u ) tI ( u t0 e )
I
(
u
)
+
éë I (u ) I ( u t0e ) ùû Þ
=
=
t0
t0
t
I ( u + te ) ³ I (u ) + éë I (u ) I ( u t0e ) ùû Þ
t0
h( t )
зависит от t
6 4 47
4 48
6 4не 4
7 4 48
I ( u + te ) I (u ) I (u ) I ( u t0e )
I (u ) I ( u t0e )
³
Þh( t ) ³
, t Î ( 0, t0 ] ,
t
t0
t0
т.е. функция
h( t)
ограничена снизу при
t ® +0.
Существование конечного
предела следует теперь из монотонного убывания функции
h ( t ) . Теорема
доказана.

15.

Упражнение 1.
Найти производную по направлению от функции
I ( u) = u .
Решение.
Функция нормы выпукла и конечна. Следовательно, ее производная по любому
направлению существует. Для всех точек кроме
по формуле
¶u
dI
, e =
( u) =
de
¶u
В точке
u=0
¶
u, u
¶u
u=0
, e =
эта производная вычисляется
u
u, u
, e =
имеем
te
I ( u + te ) I (u )
dI
= e = 1.
= lim
( u ) = tlim
®+0
t ®+0 t
de
t
u, e
u
.