Математическое программирование

Карманов В.Г.

Математическое

программирование

МОСКВА

ФИЗМАТЛИТ ®

УДК 519.85
ББК 22.18
К 24

К а р м а н о в В. Г. Математическое программирование: Учеб. пособие —
6-е изд., испр. — М.: ФИЗМАТЛИТ, 2008. — 264 с. — ISBN 978-5-9221-0983-3.

Рассматривается широкий круг вопросов, связанных с математическим программированием. Изложены теоретические основы задач линейного, выпуклого
и нелинейного программирования и построения численных методов для их
решения.
По сравнению с изданием 1986 г. в книгу включены результаты, связанные
с исследованиями в области численных методов оптимизации и их применением к решению экстремальных задач, в том числе задач вырожденного типа.
Для студентов высших учебных заведений.

ISBN 978-5-9221-0983-3

c⃝ ФИЗМАТЛИТ, 2008

c⃝ В. Г. Карманов, 2008

!
"#
#
$
%"

%&'(!
!
"

!
&
!

!
"

$
)
*
!

$
!
"

"!
"

&
+
!
"

&
,
$
!
$
"

)
.
/"

01##
2&"

34%"


$
"

!
56$
"

78!
"

9:!

;""

<
##
$
!
"

!
"$
$
!
"

=&$!

!
$
"

!
3)
*>
"

?
!
!
"

&"

!
##
'**/!
!
!

"


/?

!
!

#
#
@
"

!
"

1$
$
"

&A
B
C6
&CD!
/CD!
CE
FCC:!
$
"

G#
!
"

;"

<%"

$
4"

$!
$
$
$;<!
$"

!
"

!
4!
$!
!
!
"

1$9#
!
$"

$!
"

!
!
$9"

#
$
!:!
!
$
G"

"

!
$9#
!
$"

$
$
($
"

1$"

1!
$
!
$

;$<
"

$9:$!
$"

;$9<!
!
"

$9;<!
;<
$91
!
#
!
"

$
!
!
"

&
"

$!
:$!
$
"

!
!
$"

%"

;<D<
"

!
"

;!
$<&
&
$
!
!
!
;<
"

&
!
!
$;!
<!
"

!
B!
4"

!
$$
!
!

$!
$$/$!
!
"

;<
;!

<
$9!
;$<

;<
&!
!
$$9!
"

!
"!!#
##
#$

$9@

"

F!
!
$!
$
"

$!
!
$
;<
"

F!
#
"

&$
:
#
"

!
H"

!
"

:"

6!
!
"

/$"

!
!
"

!
!
$
/$9$

!
"

$
!
!
$
$
!
!
$
I
!

!
$9!
"

;<:$!

"

$9#
4*" 
("

;$"

<!
?
"

#
$9$
;<!
"

;<!
"

%
;<
!
!
;<+" 
("

!
"

!
"

1!
!
"

:$$
$$
#
!
$$
 

#
!
$
"

!
!
"

;$<
#
1$
$
!
$
"

?
$$!
$
$$
"

#&
$
;!
!
<
$
!

9"

1!
!
:"

"

1$"

$
$!
!
"

!
"

!
#
$9J!
$!
!
!

"

J!
$$9!
$#
"

I"

!
$&

/
!
$
!
$
"

!
"

$
!
$
#
$
!
"

!
#
!
"

$
:$!
!
9"

!
$
"

G!
9"

!
$
!
"

!
$
1"

$"

$$
!
$"

$
$
!
$
$!
"

!"
#$$#%&
!
"

$
"

!
#
!
#
"

$

"

:!
#
"

!
$
F!

!
$
"

!
4!
"

$"#
"":'(
?
#
!
"

!
#
!
"

&
!
!
"

$:!?
#
"

6"

$?
#
;"

<
!

?
#
"

!
"#?
$"

!
!
"

!
#
&"

$#&
#"

K

&"!
"

!
!
!
$
"

!

!
#
#
F
$
"

'$
!
!
J#$
!
"

!
$!
7"

8!
!
!
$
"

"&
"

!
!

!
#
#
$
$''

6!
!
7"

8
!
$
"

&"
&:"

$
$!
$9&
!
"

"

&'$1!
"

$
$"

1n
m
;!
!
$
!
!
</$
a

ij

;<
j
""

i"@
b

j

$
;<
$j
""

6!
x

i

$
$i"/!
x

i

>&n

X

ia

ij

x

i

$j
""

!
$$b

j

?

n

X

ia

ij

x

i

b

j

j
L
*m
(c

i

i"!
#
n

X

ic

i

x

i

F!
#
$
?

min

n

X

ic

i

x

i

n

X

ia

ij

x

i

b

j

j
L
*m
x

i

>i
L
*n
')
&
$$!
J!
$$#
$
"

;78
$
$?
$
!
!
!
<&(J"

:"

$
$!

$$$F#
?

a

i

i";i
L
*m<@

b

j

$j
";j
L
*n
<
@

c

ij

i"j
" /$
x

ij

i"j
" &
$
?

m

X

in

X

j
c

ij

x

ij

$;<
@

n

X

j
x

ij

!
i"@

m

X

ix

ij

!
j
" 
&
?

n

X

j
x

ij

L
a

i

i
L
*mm

X

ix

ij

L
b

j

j
L
*n
m

X

ia

i

L

n

X

j
b

j

:$!
#
$
?

min

m

X

in

X

j
c

ij

x

ij

'*

n

X

j
x

ij

L
a

i

m

X

ix

ij

L
b

j

x

ij

>i
L
*mj
L
*n
4!
m

X

ia

i

L

n

X

j
b

j

"

D$?

min

m

X

in

X

j
c

ij

x

ij

n

X

j
x

ij

a

i

m

X

ix

ij

L
b

j

x

ij

>i
L
*mj
L
*n
M!
!
!
"

i"!
$&
"!
!
"


 $
?
$
;"

<
n
$
n
"

!
$
m
L
n
a

i

L
b

j

L
*4!
$!
!
$
"

'&&'"
)"&
"

$
$
"

B!
"

!
!
GB"

/$
x

i

!
i" 

%x

i

i

i

?
i

x

i

i

!
$"

$
!
$"

$P
$?

m

X

ix

i

L
P
N
:x

i

$


#
T

i

;x

i

<Oi

i

P:$!
?

min

m

X

iT

i

;x

i

<

m

X

ix

i

L
P
N
i

x

i

i

i
L
*m1B"

$
$"

$
&
!
"

n
!
!
!
!
"

&
$"

!
$#
x

ij

;i
L
*m
j
L
*n<!

x

ij

"

!
i" 
j
" 
!'+

/!
$
"

;;x

ij

<
$
<!

$
!
1"

&*'Jm
$;*!
+!
!
j!
m<
$9$b

j

Fn
"

;*!
+!
!
i!
n<!
i""

f

i

$9x

i

;1!
f

i

;x

i

<
<
6!
a

ij

;a

ij


i"j
" 
$<:$
$9"

x

ij

i"j
" 
$9x

i

L

X

j

x

ij

"

@
!
min

h

L;x

ij

<
L

X

ij

a

ij

x

ij

N

X

i

f

i

;x

i

<

i

X

i

x

ij

L
b

j

x

ij

>1$
$$$9!
#
f

i

;x

i

<!

%x

ij

!
$"

!
"

#
L;x

ij

<
;**</$#*"E

n

n"x
L

x

x

x

n

"$
x

T

L
;x

x

x

n

<
"'x
R
x
R
x
R
x
R
R
S
R
S
;"<R
S
"R
SR

"R

;Q<R
S
"$9R
SR

"$9R

G;R
<
R
fx
?
Qg
x
E

n

$"

Qfx
Y
?
Qg
x
Y
$QR
nS
"!
fx
?
x
R
x
S
gin
t
R
L
R
nG;R
<
R
hxy
i
L

n

X

ix

i

y

i

x
y
kxk
L
hxxi

xfx

k

g
x

k

fk

g
k

A
L
Oa

ij

P
m
ni
L
*n
i
$
*
nA

T

!
A?
A
L
Oa

a

a

n

Pa

i

L

a

i

a

i

a

mi

i
L
*n
@
A

T

L

a

T

a

T

a

T

n

AB
A
B
?

C
L
Oc

ij

P
L
AB
L

h

n

X

k
a

ik

b

k
j

i

B

!
$B
;Ax<

i

i"Axdet
B
B
x
y
E

n

!
x

i

y

i

;i
L
*n<x
y
x

i

y

i

;i
L
*n
<!'$

x
L
y
x

i

L
y

i

$iOxy
P
x
y

fz
?
z
L
x
N

N
;*
<y
>
*g;xy
<
L
fz
?
z
L
x
N
;*
<y
>
*g
;xy
P
L
fz
?
z
L
x
N
;*
<y
>
*g
Oxy
<
L
fz
?
z
L
x
N
;*
<y
>
*g
minfg
L

min

x
X

;x<
#
;x<

X
$
;y
f
;x<
N
g
;x<
"

!
y
$
f
;x<
N
g
;x<<;x<
#
;x<
x
?
;x<
L
grad
;x<
L

L
r;x<diam
X
sup

x

x

X

kx

x

ksign
L

*>*>PfQg
!
QPfQjR
g
!
Q
R
!
x

L
arg
minf;x<
?
x
X
g
!
"

#
;x<
X
X

L
Arg
minf;x<
?
x
X
g
!
"

#
;x<
"

X
E

n

L
fx
E

n

x
+g
E

n

?L
;?L
!
<!","%$
#
!
"

E

n

G$
x

T

L
;x

x

x

n

<
n
x

x

x

n

"

n!
1x
E

n

!
y
E

n

:x
N
y
L
;x

N
y

x

N
y

x

n

N
y

n

<
;<!

x
L
;x

x

x

n

<
;<!

hxy
i
L

n

X

ix

i

y

i

;<6$
x

T

L
;x

x



x

n

<
;<!
"

x

x

x

n

&
;<

kxk
L
hxxi

?

kxk
>kxk
L
>
!
x
L
+@

kxk
L
jjkxk@

kx
N
y
k
kxk
N
ky
k($
SD?

hxy
i
kxk
ky
k(E

n

D!

fx

m

g
E

n

x
m
!
lim

mx

m

L
x!
lim

mkx

m

xk
L
>:x
"#$%'&

1%U

;x<
L
fy
?
ky
xk
g

$
%
x%X
E

n

!
"

!
!
$
"

$
X
&:x
X
X
!

!
"

X
*:x
X
X
!

$
!
X
!
!
%"

G;X
<!
X
!
"

X
-%X
n"E

n

"

!
$x
X
y
X

Oxy
P&X
!
xy
X
z
L

L
x
N
;*
<y
X
>
*&
E

!
!
!
!
!
!
!
'!
X
?

X
L
fx
?
Ax
aB
x
L
bgA!
B
!
;!
!
$A
B
<I$
"

!
$
.:z
$x

x

x

m

!
z
L
x

N
x

N
N
m

x

m

N
N
N
m

L
*!

i

>
;i
L
*m</&X
&$J
;<&
"

+*2
X
$$1!
X
$$m
*
;m
*<
B$"

z
L
x

N
x

N
N
m

x

m

$m
X
/!

$i
!
i

*He
$!
!
*:y
L
x

N
N
m

x

m

)(
"&
$!i

L

i

$x

x

m

!
y
X
1z
L
x

N
;*
<y

O>*P!
+*2
X
!
x
X
$("
'v
X
P

X

;v
<
p
X
!
kp
v
k
L
inf

xX

kx
v
k
;v
X
<
L
;+*<

1L
;v
X
<
v
"

X
(%
$
&X
%
$
v
)p
X
%)v
X
*!
!
&X
!
p
J
(v
X
!
!
p
L
v
L
>1v
X
?
v
X
Gfx

k

g!
x

k

X
!
!

lim

k
kx

k

v
k
L
:fx

k

g
!
fx

k

i

g

!
lim

ix

k

i

L
p1X
!
p
X
F
"

kp
v
k
L
J!
"

p

!
p

X
!
p

L
p

!
!
kp

v
k
L
kp

v
k
L
1X
!
z
L

p

N

p

"

X
:v
!
p

!
p

z
!
$
"

v
!
Op

p

P
"

Ov
zP
kz
v
k
!
:
($p
X
$v
&X
$!
$x
X
hx
pv
pi
>;++<

""'
)'

J
1p
v
X
&x
X
z
L
x
N
;*
<p&
X
$
O>*P
z
X
:kz
v
k

L
kx
pk

N
+hx
pp
v
i
N
kp
v
k

kz
v
k

kp
v
k

kx
pk

N
+hx
pp
v
i
>1O>*P!


hx
pp
v
i
>;++<1;++<:$
x
$
kx
v
k

L
k;x
p<
N
;p
v
<k

L

L
kx
pk

N
+hx
pp
v
i
N
kp
v
k

kp
v
k

p
v
X
&*<
J$
x
X
;x
v
x
p<
L
;x
px
p<
N
;p
v
x
p<
kx
pk

kx
pk
kx
v
k@

+<
$y
z
E

n

kP

X

;y
<
N
P

X

;z<k
ky
zkJ!
*<
!
kx
v
k

L
k;x
p<
N
;p
v
<k

L

L
kx
pk

N
+hx
pp
v
i
N
kp
v
k

kx
pk

J!
;++<
hP

X

;y
<
y
P

X

;z<
P

X

;y
<i
>
hP

X

;z<
zP

X

;y
<
P

X

;z<i
>G!
hP

X

;y
<
y
P

X

;z<
N
zP

X

;z<
P

X

;y
<i
>!
!
SD!
+<?

kP

X

;y
<
P

X

;z<k

hP

X

;z<
P

X

;y
<z
y
i
kP

X

;z<
P

X

;y
<kkz
y
k*%
E

n

U
L
fx
?
hcxi
L
g))
"&
$!c
L
+&
E

n

"

?

fx
?
hcxi
gfx
?
hcxi
g-:
(%
$
&X
%
$
v
&)&X
)Uhcv
i
L
;+,<

x
X

hcxi
;+.<

J
1p
v
X
B"

U
L
fx
?
hcxi
L
c
L
v
pL
hcv
ig;+,<F;++<
hxv
pi
hpv
pi
hv
v
pix
X
1;+*<
!
>F!
"

!

hcxi
L
hv
pxi
hv
pv
i
L
hcv
i
L
;+.<4
/?
"

v
U
!
X
!

U
;+*<.:
$
%
$
x

&X
)!
)%c
L
+
!
U
L
fx
?
hcxi
L

L
gL
hcx

i
x
X

hcxi
J
B"

fv

k

g!
"

X
;X
<
"

!
lim

k
v

k

L
x

1++2
v

k

U

k

L
fx
?
hc

k

xi
L
k

gk

L
hc

k

v

k

i
hc

k

xi
k

x
X
He
$!

kc

k

k
L
*6$
!
$
!
""'
)*

lim

k
c

k

L
c1!
U

k

!
hcx

i
L
lim

k
hc

k

v

k

i
hcxi
x
X
F!
U
L
fx
?
hcxi
L
g

4
'$
!

x

!
;++<!

/
"

6+,
$!
x

!
c
$$$
!
78
c

c

/:
*&X

&X
&Y
;X

Y
L
<&X
Y
)%)U+
)c
L
+
!
hcy
i
hcxi

y
Y
x
X
J
%Z
L
fz
?
z
L
y
xy
Y
x
X

g

)"&
$!!
z
L
+
:"

++2
++3
c
L
+
!
hczi
L
hcy
xi
hc+i
L
>

y
Y
x
X

y
Y
x
X
!
4
/$!
$
"

X

!
#
"

E

n

:!
!
!
z
z
L
>
!
$0/
:x
X


;<
!
X
x

x

!

x

L
x

!
x
L
x

N
;*
<x

;>*<6!
$
"

V
+:
;<%
$x

!

 !
&X
&$$#&J
;n

E

n

!
X
<(n
L
*!
X
!
1!
n
L
k
*
1X
E

k

B*<
x

X
1"

!
X
?

L
fx
?
hcxi
L
hcx

ig%X

L
X
!
"

!
X
!
"

!
!
!

;k
*<"!
X

;"

X

<1x

X

x

x

x

N

X

!
x

L

N

X

ii

x

i

i

>i
L
*N
""'
)+

N

X

ii

L
*1!
x

x

x

N

X
1!
x

i

x

x

X
!
x

L
x

!
;>*<
!
x

i

L
x

N
;*
<x

:x

i

X

!
hcx

i

i
L
hcx

iX
!
hcx

i
hcx

ihcx

i
hcx

iF!
>
*!
hcx

i
L

Ohcx

i

i
;*
<hcx

iP
Ohcx

i
;*
<hcx

iP
L
hcx

i1!
x

;hcx

i
L

L
hcx

i<@
x

X
!
!
x

X

L
X
C"

!
x

X

C
!
x

i

X

+<
1x

X
1x

l
1l
X
x
x
!
X
!
x

X
!
;>*<
!
x

L
x
N
;*
<x
1x
x
!
x

J!
"

x
L

N

X

ii

y

i

N

X

ii

L
*i

>i
L
*N

x
L

N

X

ii

z

i

N


X

ii

L
*i

>i
L
*N

y

i

z

i

X
:x

L

N

X

ii

y

i

N

N

X

i;*
<i

z

i

)"&
$!1,
(2&
"

E!
$
#
1#
!
!
!
%K
!
x
K
"

x
K
>6!
E

n

!
!
6fx
?
x
+g
/!
"

fx
?
Ax
+gfy
?
y
L
Axx
+gG#
$
E:
"&Y
L
fy
?
y
L
Axx
+g

 J
1A
L
Oa

a

a

m

PJ"

m1m
L
*
Y
!
!
!
1!
m
L
k
*
Y
!
a

a

a

k
!
*<
(Y
a

a

a

k

!
!
k
!
!
"

!
+<
1!
$a

k

Y
&y
Y
W

y
L
y
N
a

k

!
>!
y
Y
B"

fy

n

g!
y
&
y

n

L
y

n

N
n

a

k

!
n

>!
n("

fn

g
!
!

$!
!
lim

nn

L
!
!
y
a

k

L
lim

n;y

n

n

a

k

<
L
lim

ny

n

y

n

Y
Y
4!
y
L
y
N
a

k

Y
F!
fn

g
!
Y
1!
n

Nn
:n

y

n

L

L

n

y

n

N
a

k

:lim

nn

y

n

L
+!
y

n

lim

nn

y

n

L
a

k

6y

n

Y
!
!
!
a

k

Y
11B
m
n
v
E

n

:
E
!hv
xi
>
x
fx
?
B
x
+g
!
)u
+v
L
B

T

u"($'
)*)$

J
J
1"

u
+
v
L
B

T

u:$
x
fx
?
B
x
+g
$
hv
xi
L
hB

T

uxi
L
huB
xi
>6
$

1x
fx
?
B
x
+g
hv
xi
>BY
L
fy
?
y
L
B

T

uu
+g(v
Y
!
1!
v
Y
%"

Y
;+*2<
;+,+<!
"

++2
c
L
+
!
hcy
i
hcv
i
;+0<

y
Y
:y
Y
>!
;+0<
!
hcy
i
hcv
i
>C
!
hcy
i
>6hcy
i
L
hcB

T

ui
L
huB
ci
>F
u
+!
B
c
+;+2<

6y
L
+
Y
!
;+0<
hcv
i
>;+3<

&x
L
c!
;+2<
;+3<
"

1$
E1B
L

b

T

b

T

b

T

K
L
fx
?
B
x
+gK
x!
$"

"

b

!
b

!
b

;+.
K
"

!
Y
L
fy
?
y
L
B

T

uu
+g

<)%
"&
$!:?
$"

$
x
K
v
x
$!
$
!

$v
Y
&G
(%
$
B
%
$
v

%)?
$
B
x
+hv
xi
>;+5<

$
v
L
B

T

uu
+;+=<

J
(;+=<!
E"

!
$
x
fx
?
B
x
+g
$
hv
xi
>!

!
!
;+5<
1!

;+=<
:Ex
fx
?
B
x
+g
$
hv
xi
>!
"

!
hv
xi
>
x
fx
?
B
x
+g*J#!
"

G
(%
$
B
%
$
v
%)?
$
B
x
+x
+hv
xi
>;+*><

$
v
B

T

uu
+;+**<

J
4;+*><
;+5<?

B
x
+hv
xi
>4B
L

B

E

!
E
V+,.
"

B
-(BS
L
fx
?

B
x
L
+x
+g&x
S
$!
S
"

x

!
x

!
x

L
x

!
>!
>

$
x
L
x

N
x

:L
L

x
?

n

X

ix

i

L
*x

i

>i
L
*n

/!
Q
L
S
L
(x

x

x

k

Q!
x

x

k

x

k

!
i

>
;i
L
*k
<!
$S
"$$)&

J!
z
L
j

x

j

$!
x

S
!
x

S
!
z
L
x

N
x

>FQ
!
>!

y

L
x

Q!
y

L
x

Q6x

j

L

j

z
L
y

N
y

L

j

L

j

k

X

ij

z

i

L
*k

X

iy

i

L
*k

X

iy

i

L
*@

N
L
*!
!
x

j

QJ++*>
#
"

:
%
$
x&)S&$$$
!
>>k

>+
x
L

k

X

ii

x

i

&!","#
,$&/
E;x<!
"

X
!
!
$xy
X
O>*P
;x
N
;*
<y
<
;x<
N
;*
<;y
<;+*+<

6+0
$#
/!
$
##
$
#!

$
*(
"&
$!&#
;x<!
#
;x<
:$!
;x
N
;*
<y
<
;x<
N
;*
<;y
<
;+*,<

$xy
X
O>*P!
;x<
#
&($
;>*<
;+*+<
!
#
;x<
&&1#
#
"

1#
$
!
"

:
($;x<
L
hxB
xi
N
hpxi

$!
$!
$B
$&J
;x
N
;*
<y
<
L
hxB
xi
N
+;*
<hxB
y
i
N

N;*
<

hy
B
y
i
N
hpxi
N
;*
<hpy
i
L

L
;x<
N
;*
<;y
<
;*
<hx
y
B
;x
y
<i

;>*<
$
;*
<hx
y
B
;x
y
<i
>

!
B
/4
/!
"

#
;x<
$
B
B#
&*:
(%
$
;x<+
&X
%
$
&Z
L
fx
X
?

;x<
g
J
&
+*2
"

!
xy
Z
z
L
x
N
;*
<y
Z
O>*PFX
!
z
X
&"

;+*+<!
;z<
L
;x
N
;*
<y
<
;x<
N
;*
<;y
<
N
;*
<L
4
/!
;x<
#
!
Z
L
fx
X
?
;x<
g
"$$*'

&-6
F
*;x<
&X
z
L

m

X

ii

x

i

m

X

ii

L
*i

>x

i

X
i
L
*m
m

X

ii

x

i

m

X

ii

;x

i

<;+*.<

J
;<1m
L
*
;+*.<

1!
;+*.<
m
*!
m
*F+*5
!
z
X
(m

L
*!
L
L
L
mL
>!

;+*.<
$
(>
m

*!
;z<
L
m

X

ii

x

i

L
;*
m

<

mX

ii

m

x

i

N
m

x

m

;*
m

<
mX

ii

m

x

i

N
m

;x

m

<
;*
m

<

mX

ii

m

;x

i

<
N
m

;x

m

<
L

m

X

ii

;x

i

<&.1;$
<
#
;x<&X
&#&&%
%
$
%
s

;ksk
L
*<?

xs

L
lim

x
sx&/&
##
"

#
*;x<
&X
X

;x<
L
max
f;x<>g&
!
$xy
X

;x
N
;*
<y
<
L
max
f;x
N
;*
<y
<>g
max
f;x<
N
;*
<;y
<>g
max
f;x<>g
N
;*
<
max
f;y
<>g
L

L
;x<
N
;*
<;y
<*)
"&
$!*;x<
&X
$X
;x<J!
;x<
;x
N
;*
<y
<
;x<
N
+;*
<;x<;y
<
N
;*
<

;y
<
L

L
;x<
N
;*
<;y
<
;*
<;;x<
;y
<<

;x<
N
;*
<;y
<&0&#
#
#
!

$
!
,;x<
&X
!
%
$x
X
y
X

$h;x<y
xi
;y
<
;x<;+*0<

(h;x<y
xi
;y
<
;x<J
1;x<
:$xy
X
!
x
L
y
!
!
>
*!
;x
N
;y
x<<
;x<
N
O;y
<
;x<Pky
xk

x
sx;y
<
;x<s
L

y
x

ky
xk

!
L
ky
xk1>!
xs

ky
xk
;y
<
;x<h;x<siky
xk
L
h;x<y
xi
;y
<
;x<1;+*0<Bz
L

L
x
N
;*
<y
>
*:z
X
!
h;z<x
zi
;x<
;z<h;z<y
zi
;y
<
;z<V
!
;*
<
!
>
L
h;z<+i
;x<
N
;*
<;y
<
;z<"$$**

&+34"B"

x

X
!
#
"

;x<!
X
!
!
x

L
arg
minf;x<
?
x
X
g&:
*;x<
&X
%
$x

X
%)!

$;x<
&X
J
1!
x

"

!
x

X
!
;x

<
;x

<Bx
L
x

N
;*
<x

O>*P:X
!
x
X
J!
;x<

$
x

;x<
L
;x

N
;*
<x

<
;x

<
N
;*
<;x

<
;x

<
N
;*
<;x

<
L
;x

<;x<
;x

<6!

x

"

!
x
x

&:
*;x<
&X
&X

L

n

x

X
?
;x

<
L
L
min

xX

;x<

o

L
Arg
minf;x<
?
x
X
g

J
1x

x

X

1X

X
X

!
$
O>*P
$
z
L
x

N
;*
<x

X
;x<
;z<
L
;x

N
;*
<x

<
;x

<
N
;*
<;x

<
L

L
N
;*
<L
!
;z<
!
;z<
L
!
z
X

*"&
$!&*;x<
&X
x

X
!
L
;x

<
L
min

xX

;x<x
X
x
L
x

$;x<
;x

<!
 !
x

J
1!
x



X
!

x

L
x

!
!
;x

<
L
;x

<
L
:$
;>*P
x
L
x

N
;*
<x

X
!
#
;x<
$
;x<
L
;x

N
;*
<x

<
;x

<
N
;*
<;x

<
L

L
N
;*
<L
x

&&," 
#
,$*;x<
;x<
;y
<%
$
z
Oxy
P
!

;x<
;z<
;y
<zy
kz
y
k

xzkx
zk

J
1!
;>*<
!

z
L
x
N
;*
<y
$
zy
kz
y
k

xzkx
zk

:kz
y
k
L

kx
zk!
zy
kz
y
k

L

zy
kx
zk

xzkx
zk

;*
<O;z<
;y
<P
O;x<
;z<P:$!
"

;z<
;x<
N
;*
<;y
<#
;x<&*
:
*&X
!
 !
)sksk
L
*x
N
s
X
>
x
X
"$$*+

J
:X
!
"

fx

k

g
X
!
kxk
!
k
B#xX
nfx

k

g
s

k

L

kx

k

xk

;x

k

x</fs

k

i

g!
lim

is

k

i

L
sJ$
#>
"

k

!
k

i

k

$
>
kx

k

i

xk

*:x
N
s

k

i

L

kx

k

i

xk

x

k

N

*
kx

k

i

xk

x
X

k

i

k

!
lim

i;x
N
s

k

i

<
L
x
N
s
X
X
J!
y
#X
:v

k

L
x
N
k

s
X
*!
k

*!
k

v

k

N

*
k

y
L

k

;x
y
<
N
y
N
s
X
k

X
y
N
s
X
&-:
*f
;x<
&X
&X
;<
L
fx
X
?
f
;x<
g

%
$
$)&X
;<
L
fx
X
?
f
;x<
g
J
6
$
J
1X
;<

(!
X
;<
X
;<@
!
X
;<

1!
!
X
;<

:#x
X
;<
X
;<
"

s!
ksk
L
*!
x
N
s
X
;<
>1X
;<
!
diam
X
;<!
x
N
s
X
;<


F!
z
L

L
x
N
s
$
f
;x<
f
;z<
!
v
L
v
;<
L
x
N
s
>
$
f
;v
<
:z
L
x
N
s
L

v
N

*
x!

*
#
f
;x<
X
;<
f
;z<
f
;v
<
N

*
f
;x<!
"

f
;v
<
;f
;z<
f
;x<<
N
f
;x<6f
;z<
f
;x<
#!
f
;v
<
NN!
f
;v
<
>*"&
$!*4",4
#
,$*%!
#
;x<
"

"

X
!
!
#
"

$
1!
"

"

B#
!
$
"

!
"

$
!
*/
E;x<!
"

X
!
$
!
>
!
$xy
X
!
Oxy
P
X
!

$
O>*P
$
;x
N
;*
<y
<
;x<
N
;*
<;y
<
;*
<kx
y
k

&$
*4",#
,$B"

#
;x<
L
hxB
xi
N
hpxiB
G"

;x
N
;*
<y
<
L
;x<
N
;*
<;y
<
;*
<hx
y
B
;x
y
<ihx
y
B
;x
y
<i
kx
y
k

$
B
V
#
*&:
*;x<
&X
%
$
y
X

&X

L
fx
X
?
;x<
;y
<g

)x

L
arg
minf;x<
?
x
X
gJ
4#y
X
&
#
;x<
>
>!

j;x<
;y
<j
x
U
L
fx
X
?
kx
y
k
g:$!
;x<
;y
<
x
U
"+,$,
$*$

1x
X
nU
:L
kx
y
k

*F+0+
"

;x<
;y
N
;x
y
<<
;*
<;y
<
N
;*
<kx
y
k

6z
L
y
N
;x
y
<
U
!
kz
y
k
!
!
!

;y
N
;x
y
<<
;y
<
1;x<
N
;y
<
N
;*
<kx
y
k

;x<
;y
<
N
;*
<kx
y
k

L

L
;y
<
N

kx
y
k
N
kx
y
k

:$!
X
!
kxk
$
;x<
N:$
!
X

&
!
!
"

fx

k

g
X

!
kx

k

k
k
6k

L
k

;y
<!
$
;x

k

<
;y
<!

k
k

!
!
!
x

k

X

k
k

Gx

!
;x<
X

X

"

!
x

L
arg
min
f;x<
?
x
X

g
L
arg
min
f;x<
?
x
X
g(x

!
#
**:
*;x<
&X
?

<
x
X
kx
x

k

;;x<
;x

<<*#;x<
C

;X
<?

$<
xy
X
$h;x<
;y
<x
y
i
kx
y
k

@

<
kx
x

k
k;x<k@

<
>
;x<
;x

<
k;x<k

J
<
Fx
N

x

;x<
N

;x

<
kx
x

k

;x

<
x
N

x

<
*%
"&
$!$<
:#
;x<
!
;x<
;y
<
h;x<x
y
i/+0+
kx
y
k

h

;x<
x
N

y

i

N

h

;y
<
x
N

y

i

h;x<x
y
i
N

h;y
<y
xi
L

h;x<
;y
<x
y
i<
&
x

;x<
X
x
X

;,.3<

h;x

<x
x

i
>$<
kx
x

k

h;x<


;x

<x
x

i
h;x<x
x

i
k;x<k
kx
x

k<<
F;x<
<
>
;x<
;x

<
h;x<x
x

i
k;x<k
kx
x

k
k;x<k

&
$
"

#
#
#
$!
$
;<
"

'5

BX
L
fx
?
f

i

;x<
>i
L
*mg;,*<

f

i

;x<
;i
L
*m
<
#
1#
;x<
X
4#
;x<
X
$
"

2V
!
;x<
min
x
X
;,+<

!
!

minf;x<
?
x
X
gmin

x
X

;x<$
!
?

*<
$
x

X
?

;x

<
L
min

xX

;x<@

+<
$
!
x

!
L
inf

xX

;x<@

(
,<
$
$
!
;x<
"

X
#
@

.<
$
$
!
X
L
(X
#
;x<!
;,+<
&",F+.0
+*2
!
X
;;,*<<

!
$#
f

i

;x<
;i
L
*m
<
$(;,+<
#
f

i

;x<
"

!
;x<
!
$
*(%X
;,+<
&!
!
f

i

;x<
>!
"

!:x

L
arg
minf;x<
?
x
X
g
"

!
$6!
x!
$
#
;x<
X
!
$
!"!"1"

&
!

$/
6s
L
+
x
X
&!
>!
x
s
X
O>P6!
X
L
fx
?
x
>g!
x
L
>
$
s
+!
s
L
+
!
!
x
L

x

L
>

x

>

x

n

>

$
s
?

s
L

s

>

s

s

n

s

s

s

n

!
s
L
+
"!%'

/!
x
X
!
$
s
&
$
6"/!
"

#
;x<
#x
X
"

f

i

;x<
>!
f

i

;x<
L
>&
/f

i

;x<
>
#x
X
!
f

i

;x<
L
>&
$"

x
X
?

I
;x<
L
fi
?
f

i

;x<
L
>g&&$
#
;x<
f

i

;x<
;i
L
*m
<
#
#
*1s
n"!
J#x
X
"

s
?

hf

i

;x<si
N
>i
I
;x<;,,<

1"

x-*s
;ksk
L
><
;,,<
>s
&x
X
J
(!
I
;x<
L
!
"

x
X
!
$
s
"

(i
I
;x<!
f

i

;x<
>!
x
$
!
!
s
!
1i
I
;x<1!
f

i

;x
s<
>

$
>!
s
"

:f

i

;x<
L
>!
$
>
$
Of

i

;x<
f

i

;x
s<P
>;;+.3<<!

lim

Of

i

;x<
f

i

;x
s<P
L
hf

i

;x<si
>;,,<
>