Интегральные представления и их приложения в многомерном комплексном анализе

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РФ

СИБИРСКИЙ ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ

А.М.Кытманов, С.Г.Мысливец

ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ И ИХ
ПРИЛОЖЕНИЯ В МНОГОМЕРНОМ КОМПЛЕКСНОМ
АНАЛИЗЕ

Красноярск
СФУ
2010

УДК 517.55
ББК 22.161.5
К 97

Рецензенты: С.В.Знаменский, д-р физ.-мат. наук;
В.В.Чуешев, д-р физ.-мат. наук

Кытманов А.М.
К 97 Интегральные представления и их приложения в многомерном комплексном анализе: монография/А.М.Кытманов, С.Г.Мысливец. –
Красноярск: Сибирский федеральный университет, 2010. — 389 c.

ISBN 978-5-7638-1990-8

Монография посвящена интегральным представлениям для голоморфных функций многих комплексных переменных: Бохнера-Мартинелли,
Коши-Фантаппье, Коппельмана и др. Приведены приложения данных
представлений к аналитическому продолжению функций, формуле Лефшеца, сингулярным интегральным операторам,
¯∂-проблеме Неймана,
устранению особенностей CR-функций, дзета-функции систем нелинейных уравнений и др.
Предназначена для специалистов по многомерному комплексному анализу, аспирантов и студентов.
The monograph is devoted to integral representations of holomorphic
functions in several complex variables: Bochner-Martinelli, Cauchy-Fantappie,
Koppelman etc. It is considered the applications of given representations
to analytic continuations of functions, Lefschetz formula, singular integral
operators, ¯∂ Neumann problem, removal of singularities of CR functions, zetafunction of non-linear system of equations etc.
It intends for specialists in multidimensional complex analysis and
postgraduate students.

УДК 517.55
ББК 22.161.5

c⃝ Сибирский
федеральный
университет, 2010
ISBN 978-5-7638-1990-8

Предисловие

Интегральное представление Бохнера-Мартинелли для голоморфных
функций многих комплексных переменных появилось в работах Мартинелли (1938) и Бохнера (1943). Оно было первым по существу многомерным представлением, в котором интегрирование велось по всей границе
области. Это интегральное представление обладает универсальным ядром
(не зависящим от вида области), так же как ядро Коши в C1. Но в пространстве Cn при n > 1 ядро Бохнера-Мартинелли является гармонической, а не голоморфной функцией. Данное обстоятельство долгое время
препятствовало широкому применению интеграла Бохнера-Мартинелли в
многомерном комплексном анализе.
Интерес к представлению Бохнера-Мартинелли возрос в 1970-е гг., что
было связано с повышением внимания к интегральным методам в многомерном комплексном анализе. Кроме того, оказалось, что весьма общее
интегральное представление Коши-Фантаппье, найденное Лере, легко получается из представления Бохнера-Мартинелли. В то же время появилось представление Коппельмана для внешних дифференциальных форм,
частным случаем которого является представление Бохнера-Мартинелли.
Представления Коши-Фантаппье и Коппельмана нашли серьезное применение в многомерном комплексном анализе при получении удачных интегральных представлений для голоморфных функций, явного решения
¯∂-уравнения, равномерной аппроксимации голоморфных функций на компактах и т. д.
Школа по многомерному комплексному анализу, возникшая в Красноярске в 60-х гг. прошлого века благодаря Л.А.Айзенбергу и А.П.Южакову,
развивала теорию интегральных представлений и вычетов и их приложений. В 80-90-х годах прошлого века были изданы монографии, посвященные интегральным представлениям и вычетам (Л.А.Айзенберг,
Ш.А.Даутов, А.П.Южаков, А.К.Цих, А.М.Кытманов, Н.Н.Тарханов). С
тех пор прошло более 20 лет, появились новые результаты и новые направления деятельности.
В данную монографию вошли результаты авторов, полученные за последние годы. В частности, построены точные комплексы, связанные с
комплексом Дольбо; изучены различные семейства комплексных прямых
и кривых, достаточных для голоморфного продолжения функций с границы ограниченной области; доказан многомерный аналог известной формулы Лефшеца, вычисляющей полное число Лефшеца для комплекса Дольбо
для строго псевдовыпуклой области в терминах локальных инвариантов

3

Предисловие

неподвижных точек (как внутренних, так и граничных) голоморфного эндоморфизма f; получены различные условия ¯∂-замкнутости дифференциальных форм, позволяющие находить продолжения CR-форм с границы области; найдены формулы для вычисления степенных сумм корней
систем нелинейных (неалгебраических) уравнений, с помощью них получен аналог дзета-функции Римана для таких систем; изучен сингулярный
интегральный оператор Бохнера-Мартинелли на гиперповерхностях с особыми точками конического типа; эти результаты применены к изучению
C∗-алгебры операторов, порожденных оператором Бохнера-Мартинелли,
его сопряженным и операторами умножения на непрерывные функции.
В каком-то смысле данная монография продолжает книгу одного из
авторов [37], изданную затем за рубежом [119]. Во всяком случае первые
две главы нашей книги почти полностью взяты из [37].
Результаты монографии излагались в спецкурсах Института математики Сибирского федерального университета в 1995–2010 гг.
Нумерация глав и параграфов сквозная. Все утверждения, замечания,
формулы и примеры привязаны к номеру параграфа.
Монография подготовлена при частичной финансовой поддержке
гранта Президента РФ НШ-7347.2010.1; гранта РФФИ, №08-01-00844 и
гранта АВЦП, №2.1.1/4620.

4

Глава 1

Многомерные интегральные
представления

Теория интегральных представлений занимает важное место в многомерном комплексном анализе. Она продолжает интенсивно развиваться и
находит все новые приложения как в самом комплексном анализе, так и в
других разделах математики. В данной главе приводятся те интегральные
представления, которые затем применяются в других главах. Конечно, это
далеко не все интегральные формулы, известные на данный момент. Выбор авторов связан с их собственными предпочтениями. Мы здесь ничего
не говорим о формулах интегрирования по многообразиям меньшей размерности (типа кратной формулы Коши). Теорию многомерных вычетов
мы лишь немного используем в последних главах. Останавливаемся только
на формулах, в которых интегрирование ведется по всей границе области.
Изложение построено так, чтобы показать логику получения этих формул
от классической формулы Бохнера-Грина до формулы Хенкина-Рамиреза,
нашедшей ряд серьезных приложений в многомерном комплексном анализе.

1. Интегральное представление Бохнера-Грина

Рассмотрим n-мерное комплексное пространство Cn переменных z =
(z1, . . . , zn). Если z, w ∈ Cn, то положим

⟨z, w⟩ = z1w1 + · · · + znwn,
|z| =
⟨z, ¯z⟩,

где ¯z = (¯z1, . . . , ¯zn). Топология в Cn задается метрикой (z, w) → |z − w|.
Если z ∈ Cn, то положим

Re z = (Re z1, . . . , Re zn) ∈ Rn,
Im z = (Im z1, . . . , Im zn) ∈ Rn,

где Re zj
=
xj и Im zj
=
yj, а zj
=
xj + iyj для j
=
1, . . . , n.
Поэтому Cn ≃ R2n. Ориентация Cn определяется порядком координат
(x1, . . . , xn, y1, . . . , yn). Таким образом, форма объема dv имеет вид

dv = dx1∧· · ·∧dxn∧dy1∧· · ·∧dyn = dx∧dy =
i

2

n
dz∧d¯z =
− i

2

n
d¯z∧dz.

Как обычно, комплекснозначная функция f, заданная на открытом
множестве U ⊂ Cn, принадлежит пространству Ck(U), т. е. f ∈ Ck(U), если
f является k раз непрерывно дифференцируемой на U при 0 ⩽ k ⩽ ∞ и

Глава 1. Многомерные интегральные представления

C0(U) = C(U). Если M есть замкнутое множество в Cn, то f ∈ Ck(M), когда
f продолжается в некоторую окрестность U множества M до функции
класса Ck(U). Мы также будем рассматривать пространство Cr(U) или
Cr(M), если r ⩾ 0 не обязательно целое число. Функция f ∈ Cr(U), если
она принадлежит классу C[r](U), где [r] есть целая часть числа r и все ее
производные порядка [r] удовлетворяют (локально) на U условию Гельдера
с показателем (r − [r]).
Пространство O(U) состоит из функций f, голоморфных на открытом
множестве U, а пространство O(M) — из функций f, голоморфных в некоторой окрестности (каждая в своей) замкнутого множества M. Функция
f принадлежит пространству функций A(U), если f голоморфна в U и
непрерывна на замыкании U, т. е. f ∈ O(U) ∩ C(U).
Введем также пространство Соболева Ws(U) = Ws
2(U), s ∈ N, которое
состоит из измеримых функций, чьи обобщенные частные производные до
порядка s включительно принадлежат пространству Лебега L2(U).
Как обычно, через D(U) будем обозначать пространство бесконечно
дифференцируемых функций с компактным носителем на открытом множестве U с топологией индуктивного предела, а через E(U) = C∞(U) —
пространство бесконечно дифференцируемых функций на U с топологией
равномерной сходимости функций и всех их производных на компактных
подмножествах в U.
Область D в Cn есть область с границей ∂D класса Ck, т. е. ∂D ∈ Ck,
если

D = {z ∈ Cn : ρ(z) < 0}

и ρ есть вещественнозначная функция класса Ck в некоторой окрестности
замыкания области D и дифференциал dρ ̸= 0 на ∂D. Если k = 1, то D есть
область с гладкой границей. Функцию ρ будем называть определяющей
функцией области D. Ориентация границы ∂D индуцируется ориентацией
области D.
Под областью D с кусочно-гладкой границей ∂D будем понимать невырожденный гладкий полиэдр, т. е. область

D = {z ∈ Cn : ρj(z) < 0, j = 1, . . . , m},

причем вещественнозначные функции ρj
принадлежат классу C1
в
некоторой окрестности замыкания D
и для любого набора индексов j1, . . . , js
выполняется условие dρj1 ∧ · · · ∧ dρjs ̸= 0 на множестве
{z ∈ Cn : ρj1(z) = · · · = ρjs(z) = 0}. Как известно, для таких областей D
и поверхностей ∂D справедлива формула Стокса.
Через B(z, ε) = {ζ ∈ Cn : |ζ − z| < ε} будем обозначать шар радиуса
ε > 0 с центром в точке z ∈ Cn, а через a S(z, ε) — его границу, т. е.
S(z, ε) = ∂B(z, ε).

6

1. Интегральное представление Бохнера-Грина

Рассмотрим внешнюю дифференциальную форму (ядро БохнераМартинелли) U(ζ, z) типа (n, n − 1) вида

U(ζ, z) = (n − 1)!

(2πi)n

n
k=1
(−1)k−1 ¯ζk − ¯zk

|ζ − z|2n d¯ζ[k] ∧ dζ,
(1.1)

где d¯ζ[k] = d¯ζ1 ∧ · · · ∧ d¯ζk−1 ∧ d¯ζk+1 ∧ · · · ∧ d¯ζn, dζ = dζ1 ∧ . . . ∧ dζn. При

n = 1 форма U(ζ, z) превращается в ядро Коши
1
2πi ·
dζ

ζ − z . Очевидно, что

форма U(ζ, z) имеет гармонические в Cn \ {z} коэффициенты и является
замкнутой по переменной ζ, т. е. dζU(ζ, z) = 0.
Пусть g(ζ, z) — фундаментальное решение уравнения Лапласа:

g(ζ, z) =








−(n − 2)!

(2πi)n ·
1

|ζ − z|2n−2 ,
n > 1,

1
2πi ln |ζ − z|2,
n = 1,
(1.2)

тогда

U(ζ, z) =

n
k=1
(−1)k−1 ∂g

∂ζk
d¯ζ[k] ∧ dζ = (−1)n−1∂ζg ∧

n
k=1
d¯ζ[k] ∧ dζ[k],
(1.3)

где оператор ∂ определяется равенством

∂ =

n
k=1
dζk
∂
∂ζk
.

Оператор Лапласа ∆ будем записывать в следующем виде:

∆ =

n
k=1

∂2

∂ζk∂¯ζk
= 1

4

n
k=1

∂2

∂x2
k
+ ∂2

∂y2
k

= 1

4∆R.

Если ζk = xk + iyk, то

∂
∂ζk
= 1

2

∂

∂xk
− i ∂

∂yk

,
∂
∂¯ζk
= 1

2

∂

∂xk
+ i ∂

∂yk

.

Для функции f ∈ C1(U) определим дифференциальную форму µf следующим образом:

µf =

n
k=1
(−1)n+k−1 ∂f

∂¯ζk
dζ[k] ∧ d¯ζ.

Теорема 1.1 (формула Бохнера-Грина). Пусть D — ограниченная
область в Cn с кусочно-гладкой границей и функция f ∈ C2(D), тогда
∂D

f(ζ)U(ζ, z) −
∂D

g(ζ, z)µf(ζ) +
D

g(ζ, z)∆f(ζ) d¯ζ ∧ dζ =

7

Глава 1. Многомерные интегральные представления

=

f(z),
z ∈ D,
0,
z /∈ D,
(1.4)

где интеграл по области D в (1.4) сходится абсолютно.

Доказательство. Поскольку

dζ
f(ζ)U(ζ, z) − g(ζ, z)µf(ζ)
+ g(ζ, z)∆f d¯ζ ∧ dζ = 0,
(1.5)

то справедливость формулы (1.4) для точек z /∈ D следует из формулы
Стокса.
Если z ∈ D, то для достаточно малых ε > 0 из (1.5) и формулы Стокса
имеем
∂D

f(ζ)U(ζ, z) −
∂D

g(ζ, z)µf(ζ) +
D\B(z,ε)

g(ζ, z)∆f(ζ) d¯ζ ∧ dζ =

=
S(z,ε)

f(ζ)U(ζ, z) −
S(z,ε)

g(ζ, z)µf(ζ).

При n > 1 модуль интеграла
S(z,ε)

g(ζ, z)µf(ζ)

⩽
(n − 2)!

(2π)nε2n−2

S(z,ε)

|µf| ⩽ Cε,

т. е.

lim
ε→+0

S(z,ε)

g(ζ, z)µf(ζ) = 0.

(При n = 1 рассуждения аналогичны). Однако

S(z,ε)

f(ζ)U(ζ, z) = (n − 1)!

(2πi)nε2n

S(z,ε)

f(ζ)

n
k=1
(−1)k−1(¯ζk − ¯zk)d¯ζ[k] ∧ dζ =

= (n − 1)!

(2πi)nε2n

B(z,ε)

nf(ζ) +

n
k=1

∂f
∂¯ζk
(¯ζk − ¯zk)

d¯ζ ∧ dζ.

Поскольку

lim
ε→+0
1
ε2n

B(z,ε)

n
k=1

∂f

∂¯ζk
(¯ζk − ¯zk)
d¯ζ ∧ dζ = 0,

то, применяя теорему о среднем (отдельно для действительной и мнимой
части функции f), получим

8

2. Интегральное представление Бохнера-Мартинелли

lim
ε→+0

S(z,ε)

f(ζ)U(ζ, z) = lim
ε→+0
n!

(2πi)nε2n

B(z,ε)

f(ζ)d¯ζ ∧ dζ =

= lim
ε→+0
n!

πnε2n

B(z,ε)

f(ζ)dv = f(z).

2

2. Интегральное представление
Бохнера-Мартинелли

Cформулируем некоторые следствия формулы Бохнера-Грина (1.1)
для различных классов функций f.

Следствие 2.1 (Бохнер [100]). Пусть D — ограниченная область
в Cn с кусочно-гладкой границей и функция f гармоническая в D класса
C1(D), тогда
∂D

f(ζ)U(ζ, z) −
∂D

g(ζ, z)µf(ζ) =

f(z),
z ∈ D,
0,
z /∈ D.
(2.1)

Следствие 2.2 (Коппельман [117]). Пусть D — ограниченная область в Cn с кусочно-гладкой границей и функция f класса C1(D), тогда
∂D

f(ζ)U(ζ, z) −
D

¯∂f(ζ) ∧ U(ζ, z) =

f(z),
z ∈ D,
0,
z /∈ D,
(2.2)

где оператор

¯∂ =

n
k=1
d¯ζk
∂
∂¯ζk
,

а интеграл по области D в (2.2) сходится абсолютно.

Формула (2.2) есть формула Бохнера-Мартинелли для гладких функций.
Доказательство. Предположим сначала, что f ∈ C2(D). Преобразуем интеграл

D

¯∂f(ζ) ∧ U(ζ, z) =
D

n
k=1

∂f
∂¯ζk

∂g
∂ζk
d¯ζ ∧ dζ =
D

∂ζg ∧ µf =

=
D

dζ(gµf) −
D

g∆f d¯ζ ∧ dζ =
∂D

gµf −
D

g∆f d¯ζ ∧ dζ

9

Глава 1. Многомерные интегральные представления

(здесь применима формула Стокса, поскольку все интегралы сходятся абсолютно). Тогда по формуле (1.4) для z ∈ D получим
D

¯∂f(ζ) ∧ U(ζ, z) =
∂D

f(ζ)U(ζ, z) − f(z).

Если f ∈ C1(D), то мы получим (2.2), аппроксимируя f (в метрике C1(D))
функциями класса C2(D).
2

Следствие 2.3 (Бохнер [100], Мартинелли [136]). Пусть D —
ограниченная область в Cn с кусочно-гладкой границей и функция f голоморфна в D класса C(D), тогда
∂D

f(ζ)U(ζ, z) =

f(z),
z ∈ D,
0,
z /∈ D.
(2.3)

Формула (2.3) была получена Мартинелли, а затем Бохнером независимо друг от друга и разными методами. Она является первой интегральной формулой для голоморфных функций в Cn, в которой интегрирование
ведется по всей границе области. Сейчас эта формула стала уже классической и вошла во многие учебники по многомерному комплексному анализу
(см., например, [19, 86]).
При n = 1 формула (2.3) становится формулой Коши, но в отличие от
формулы Коши ядро в (2.3) не является голоморфным по переменным z
и ζ при n > 1. Отделяя в ядре U(ζ, z) действительную и мнимую части,
нетрудно показать, что интеграл
∂D

f(ζ)U(ζ, z)

является суммой потенциала двойного слоя и касательной производной
потенциала простого слоя. А именно: Мартинелли заметил, что если на
границе ограниченной области с гладкой границей выбрать два непрерывных векторных поля ν(ζ) и s(ζ) с
условием ν = is (ν — поле внешних
нормалей к ∂D), то сужение ядра U(ζ, z) на ∂D совпадает с
∂

∂ν + i ∂

∂s

g(ζ, z)dσ.

Поэтому интеграл Бохнера-Мартинелли наследует часть свойств интеграла Коши и часть свойств потенциала двойного слоя. В отличие от
интеграла Коши он не является голоморфной функцией, а в отличие от
потенциала двойного слоя имеет несколько худшее граничное поведение.
Но вместе с тем он устанавливает связь между гармоническими и голоморфными функциями в Cn при n > 1.

10