Задача Римана–Гильберта для эллиптической системы первого порядка на плоскости

Чернова О.В.

Задача Римана–Гильберта для эллиптической системы первого порядка на плоскости

01.04.01 Математика

Математика

Дипломы

Вуз: Белгородский государственный университет - национальный исследовательский университет (НИУ «БелГУ»)

ID: 5c1a53707966e104f6f852c7

UUID: 04fc13b0-e5c7-0136-fd0f-525400005860

Язык: Русский

Опубликовано: больше 5 лет назад

Просмотры: 10

Чернова О.В.

Источник: Федеральное государственное автономное образовательное учреждение высшего образования «Белгородский государственный национальный исследовательский университет»

Комментировать 0

Рецензировать 0

Скачать - 617,5 КБ

Поделиться работой

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ «Белгородский государственный национальный исследовательский университет» (НИУ «БелГУ») ИНСТИТУТ ИНЖЕНЕРНЫХ ТЕХНОЛОГИЙ И ЕСТЕСТВЕННЫХ НАУК КАФЕДРА ОБЩЕЙ МАТЕМАТИКИ Задача Римана–Гильберта для эллиптической системы первого порядка на плоскости Выпускная квалификационная работа обучающегося по направлению подготовки 01.04.01 Математика очной формы обучения, группы 07001632 Черновой Ольги Викторовны Научный руководитель: доктор физико-математических наук, профессор Глушак А. В. Рецензент: кандидат физико-математических наук, доцент Борисовский И. П. БЕЛГОРОД – 2018

2 Оглавление Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Глава 1. 1 Вспомогательные ведения . . . . . . . . . . . . . . . . . . 20 1 Эллиптическая система первого порядка . . . . . . . . . . . . . . . 20 2 Функции, аналитические по Дуглису . . . . . . . . . . . . . . . . . 23 Глава 2. Задача Римана–Гильберта . . . . . . . . . . . . . . . . . 31 3 Одномерные сингулярные операторы . . . . . . . . . . . . . . . . . 31 4 Задача Римана—Гильберта . . . . . . . . . . . . . . . . . . . . . . . 36 Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

3 Введение Особый интерес многих математиков к эллиптическим системам основан на том, что они играют весьма важную роль в различных вопросах анализа, геометрии и механики. Самой первой по праву работой по изучению эллиптических задач в областях с угловыми точками считается работа И. Радона [64]. Для случая плоской области с угловыми точками на границе им был при менен метод решения уравнений с частными производными путем сведения краевой задачи (Неймана и Дирихле) для оператора Лапласа к интегральным уравнениям на границе области. Впоследствии метод, предложенный в [64], нашел широкое применение в различных направлениях: в краевых задачах теории функций [51], плоской теории упругости [57], общей теории эллиптических задач [56]. Во второй половине XX-го века теория краевых задач для эллиптиче ских уравнений была изучена в работах многих математиков: S. Agmon [1], [2], S.Agmon, A. Douglis, L. Nirenberg [4], [5], L. Bers, А. John, M. Schechter [7], F. Browder [9], [10], L. Hormander [21], Ya. A. Roitberg [23]–[26], M. Schechter [27]–[32], М. С. Аграновича, М. И. Вишика [35], И. А. Бикчантаева [36], [37], В. С. Виноградова [42]–[44], М. И. Вишика [45], [46], Л. Р. Волевича [47], А. И. Вольперта [48], [49], Назарова, Б. А. Пламеневского [61], И. Г. Петровского [63], Я. A. Ройтберга [66], Я. A. Ройтберга, З. Г. Шефтеля [67], [68], В. А. Солонникова [81], Р.С. Сакса [69] и многих других. Одной из основных краевых задач аналитических функций является краевая задача Римана–Гильберта. Первая ее постановка для аналитических функций исторически принадлежит Б. Риману [65]. В 1857 г. он сформулиро вал задачу следующим образом: найти аналитическую в области 𝐷 функцию по известному соотношению между действительной и мнимой частями на границе области, но не указал способов ее решения.

4 Полное решение этой задачи в односвязной области, при условии что действительная и мнимая части 𝑢 и 𝑣 удовлетворяют на границе условию Re((𝛼 − 𝑖𝛽)(𝑢 + 𝑖𝑣)) = 𝛼𝑢 + 𝛽𝑣 = 𝛾, где 𝛼2 + 𝛽 2 = 1 дал Гильберт [20]. В связи с этим данную задачу стали называть задачей Римана–Гильберта. Уже к концу 50-х годов прошлого века в работах русских математи ков И.Н. Векуа [41], Ф. Д. Гахова [50], Н. И. Мусхелешвили [60] изучение этой задачи было завершено. В монографии И.Н.Векуа [40] данная проблема рассматривалась для обобщенных аналитических функций и для некоторого класса эллиптических систем двух уравнений. Впоследствии работы многих математиков [39], [42], [49] были направлены на обобщение задачи на общие эллиптические системы 2𝑛 уравнений первого порядка. Так Б. Боярским [39] изучается краевая задача для 𝑄− аналитических функций в многосвязных областях, которые являются решением одной эллиптической системы специ ального вида. В трудах В. С. Виноградова [42] – [44] и А. И. Вольперта [48] изучены краевые задачи в односвязных областях для общих эллиптических систем, получена формула индекса и установлена фредгольмовость. Крае вые задачи в односвязной области для однородной эллиптической системы с действительными коэффициентами, порядки производных в краевых услови ях которых меньше порядка системы, изучены А.И.Вольпертом [49]. Много интересных результатов для эллиптических систем первого порядка с посто янными коэффициентами были получены Б. Боярским [39], W. Wendland [33], Gilbert R. P., Buchanan J. L [18] и др. В своей работе Ф. Д. Гахов [50] впервые рассмотрел краевую задачу типа Гильберта для аналитических функций с краевым условием, содержащим производные. К этой задаче приводятся многие задачи теории бесконечно малых изгибаний поверхностей положительной кривизны, а также задачи безмоментной теории оболочек.

5 Законченные результаты по краевым задачам для общих эллиптических систем с постоянными коэффициентами можно увидеть в работах А. П. Сол датова [74], [75], [77], [80]. Так в работе [80] изучена краевая задача для эл липтических систем с постоянными матричными коэффициентами, которая охватывает широкий круг локальных и нелокальных краевых задач и пред ложен метод эквивалентной редукции этой задачи к системе граничных урав нений. Рассмотрения проводились в пространствах с весом для областей с ку сочно–гладкой границей. В работе была получена формула индекса задачи, описана асимптотика ее решений в окрестности угловых точек и установлен критерий фредгольмовости. Новый подход к задачам такого рода, который опирается на априорные оценки был разработан в работе В. А. Кондратьева [53]. Далее на этом направ лении [55], [61] получены законченные результаты: сформулированы условия, необходимые и достаточные для фредгольмовости. Краевая задача для общих эллиптических систем с переменными коэф фициентами в ограниченной области с кусочно-гладкой границей рассматри валась в работе М. М. Сиражудинова [71], [72], в которой получена формула индекса и приведены условия фредгольмовости. Задача о нахождении голоморфной функции в ограниченной области 𝐷, которая удовлетворяет условию: значение неизвестной функции в точке 𝑦 границы области 𝜕𝐷 связано со значением в каждой точке Ω(𝑦), Ω𝜕𝐷 → 𝜕𝐷−гладкое невырожденное преобразование, Ω(Ω(𝑦)) = 𝑦, где 𝑦 ∈ 𝜕𝐷 была рассмотрена T. Carleman [12] в 1932 г. Эта задача сводится к сингулярному интегральному уравнению со сдвигом. Исследованию общих краевых задач в областях с особенностями на гра нице типа угловой или конической точки посвящены работы В.Г. Мазья [58] и С. А. Назаров, Б.А. Пламеневский [61]. Эллиптические уравнения с абстракт ными нелокальными краевыми условиями изучались в работах М. И. Вишика [46], R. Beals [6], F. Browder [11], M. Schechter [32].

6 В последние годы прошлого века усилился интерес к решению эллип тических краевых задач путем редукции их к сингулярным уравнениям на границе [57]. Известны два классических способа: метод потенциала и теоре тико–функциональный метод. В работах [19], [59] были получены фундамен тальные результаты по решению общих эллиптических задач методом потен циала. Отметим работу Я. Б. Лопатинского [56] как одну из первых работ, посвященных краевым задачам для эллиптических систем в двумерной обла сти с угловой точкой. Я. Б. Лопатинским были рассмотрены краевые задачи с постоянными коэффициентами. Используя метод потенциала им были по лучены условия нормальной разрешимости краевой задачи в пространствах функций, все производные до порядка 𝑛 включительно которых непрерывны. В дальнейшем метод потенциала для эллиптических систем высокого поряд ка на плоскости был развит в работах [3], [14], для эллиптических систем с постоянными старшими коэффициентами в работе [15]. Классический теоретико–функциональный метод восходит к трудам А. Пуанкаре, Л. Гильберта, Т. Карлемана, И.И. Привалова. Основываясь на представлении решений эллиптических уравнений через аналитические функ ции, он позволяет свести исследование исходной задачи к исследованию кра евых задач теории функций. И. Н. Векуа в своей работе [41] был развит тео ретико–функциональный метод для эллиптических уравнений на плоскости с вещественно аналитическими коэффициентами, для эллиптических систем с постоянными старшими коэффициентами данный метод получил развитие в работах А. В. Бицадзе [38], а также в работах Р. С. Сакса [70]. Отметим, что в представлении А. В. Бицадзе решений эллиптических систем наряду с аналитическими функциями участвуют и ее производные до некоторого порядка. Сравнительно недавно (А. П. Солдатов [73], З. Йех [22]) было обнаружено, что представление А. В. Бицадзе можно существенно упростить, заменив аналитические функции решениями канонических эллип

7 тических систем первого порядка 𝜕𝜑 𝜕𝜑 −𝐽 = 0, 𝜕𝑦 𝜕𝑥 где все собственные значения 𝜆 постоянной матрицы 𝐽 ∈ C𝑙×𝑙 лежат в верхней полуплоскости, т.е. имеют положительную мнимую часть. Как показано А. Дуглисом [13], все элементы теории аналитических функций распространяются и на решения этой системы. Можно сказать, что по отношению к эллиптическим уравнениям и си стемам с постоянными (и только старшими) коэффициентами эти функции играют ту же роль, что и аналитические функции по отношению к уравне нию Лапласса. Аналогичные свойства выявлены в работах Н. А. Жура [54] и для систем, эллиптических по Дуглису – Ниренбергу, а также для систем, гиперболических по Лере и Петровскому. Теория эллиптических систем первого порядка для случая 𝑙 = 2 получи ла законченный вид в трудах И. Н. Векуа [41] и Л. Берса [8] и известна под названием теории обобщенных аналитических функций. Дальнейшее распространение: 𝑙 > 2, проявилось в работах Б. В. Бояр ского [39], Р. Гилберта [16], Р. Гилберта, Г. Хилла [17] и др. Важные результаты для общих эллиптических задач на плоскости ме тодом, близким к теоретико–функциональному, получены А. И. Вольпертом [49]. В представленной работе в конечной области 𝐷 комплексной плоскости C переменной 𝑧 рассматривается эллиптическая система 𝑙 линейных диффе ренциальных уравнений первого порядка )︂ (︂ 𝜕 𝜕 −𝐴 𝑈 (𝑧) + 𝑎(𝑧)𝑈 (𝑧) + 𝑏(𝑧)𝑈 (𝑧) = 𝐹 (𝑧), 𝜕𝑦 𝜕𝑥 𝑧 ∈ 𝐷, (0.1) где 𝑙 ×𝑙−матричные коэффициенты 𝑎(𝑧), 𝑏(𝑧) и 𝑙−вектор–функция 𝐹 (𝑧) при надлежат классу 𝐶(𝐷) и матрица 𝐴 ∈ C𝑙×𝑙 постоянна.

8 Для этой системы рассматривается задача Римана–Гильберта Re 𝐶(𝑡)𝑈 (𝑡)+ |Γ = 𝑓 (𝑡), (0.2) где 𝑙 × 𝑙 матрица-функция 𝐶(𝑡) принадлежит классу Гельдера 𝐶 𝜈 (Γ) с пока зателем 0 < 𝜈 < 1 и 𝑙−вектор–функция 𝑓 (𝑡) ∈ 𝐶(𝐷). В предположении 𝐹 (𝑧) ∈ 𝐶 𝜇 (𝐷), 𝑓 (𝑡) ∈ 𝐶 𝜇 (Γ), 𝜇 < 𝜈 задача исследует ся в классе 𝐶𝐴𝜇 (𝐷) = {𝑈 (𝑧) ∈ 𝐶 1 (𝐷) ∩ 𝐶 𝜇 (𝐷), 𝐿𝐴 𝑈 (𝑧) ∈ 𝐶 𝜇 (𝐷)}, (0.3) где введено обозначение 𝐿𝐴 = 𝜕 𝜕 −𝐴 . 𝜕𝑦 𝜕𝑥 Цель исследования: доказать фредгольмову разрешимость задачи Ри мана–Гильберта (0.1)–(0.2) в классе (0.3) и найти формулу ее индекса с по мощью интегралов типа Коши. Для достижения поставленной цели необходимо: – показать, что пространство 𝐶𝐴𝜇 (𝐷) банахово относительно соответству ющей нормы; – получить представление для функции 𝜑(𝑧) из класса 𝐶𝐽𝜇 (𝐷); – свести исходную задачу к системе сингулярных интегральных уравне ний; Объектом исследования являются краевые задачи для эллиптических систем первого порядка на плоскости. Предметом исследования – задача Римана–Гильберта (0.2) для эллипти ческой системы (0.1) в классе (0.3). Представленная работа состоит из введения, двух глав, заключения и списка используемой литературы (83 наименований).В пределах каждой гла вы принята сквозная нумерация параграфов и формул. Теоремы и леммы нумеруются двумя цифрами, первая из которых указывает на номер пара графа, а вторая – на номер теоремы (леммы) внутри параграфа.

9 Во введении приведен краткий исторический обзор по теме магистер ской диссертации, обосновывается актуальность выбранной темы исследо вания, формулируется цель, объект и предмет исследования, описывается структура работы и кратко излагается содержание основных результатов. Первая глава магистерской диссертации содержит предварительные сведения, касающиеся эллиптических систем первого порядка и функций, аналитических по Дуглису. В первом параграфе в области 𝐷 комплексной плоскости C перемен ной 𝑧 рассматривается система 𝑙 линейных дифференциальных уравнений первого порядка 𝐴1 𝜕𝑈 (𝑧) 𝜕𝑈 (𝑧) + 𝐴2 + 𝑎(𝑧)𝑈 (𝑧) + 𝑏(𝑧)𝑈 (𝑧) = 𝐹 (𝑧), 𝜕𝑥 𝜕𝑦 𝑧 ∈ 𝐷, где коэффициенты при старших членах — постоянные матрицы 𝐴1 , 𝐴2 ∈ C𝑙×𝑙 , а 𝑙 × 𝑙−матричные коэффициенты 𝑎(𝑧), 𝑏(𝑧) ∈ 𝐶(𝐷) и 𝐹 (𝑧) ∈ 𝐶(𝐷). По определению система эллиптична, если для каждого ненулевого век тора 𝜉 = (𝜉1 , 𝜉2 ) ∈ R2 , выполнено det(𝜉1 𝐴1 + 𝜉2 𝐴2 ) ̸= 0, тогда матрица 𝐴 = −𝐴−1 2 𝐴1 не имеет вещественных собственных значений и предыдущую систему всегда можно представить в эквивалентном виде (0.1) Пусть 𝑙1 и 𝑙2 число собственных значений матрицы 𝐴 системы (0.1) (с учетом кратности), лежащих, соответственно, в верхней и нижней полуплос кости, при этом 𝑙 = 𝑙1 + 𝑙2 . Множество всех собственных значений можно записать в виде 𝜎 ̃︀ = 𝜎1 ∪ 𝜎2 , 𝜎𝑖 ⊆ {𝜆, Im 𝜆 > 0}, где черта означает комплексное сопряжение. С помощью подходящей обратимой линейной подстановки систему (0.1) всегда можно преобразовать к каноническому виду, т.е. к аналогичной систе ме, в которой все собственные значения матрицы системы лежат в верхней полуплоскости. В основе этого преобразования лежит следующее предложе ние

10 Лемма 1.1. Существуют такие обратимые 𝑙 × 𝑙 матрицы 𝐵, 𝐽 блоч ной структуры ⎛ 𝐵=⎝ 𝐵11 𝐵 12 𝐵21 𝐵 22 ⎞ ⎠, ⎛ 𝐽 =⎝ 𝐽1 0 0 𝐽2 ⎞ ⎠, (0.4) где 𝐵𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 , 𝐽𝑖 ∈ C𝑙𝑖 ×𝑙𝑖 , 𝑖, 𝑗 = 1, 2, что ⎛ ̃︀ 𝐵 −1 𝐴𝐵 = 𝐽, 𝐽̃︀ = ⎝ 𝐽1 0 0 𝐽2 ⎞ ⎠. Матрицы 𝐽𝑖 ∈ C𝑙𝑖 ×𝑙𝑖 имеют жорданову форму, при этом их диагональные элементы составляют множество 𝜎𝑖 . В конце параграфа сформулирована и доказана теорема, которая поз воляет привести общую эллиптическую систему (0.1) к каноническому виду эллиптической системы с треугольной матрицей 𝐽. Теорема 1.1 В обозначениях (0.4) подстановка 𝐵 −1 𝑈 = (𝜑1 , 𝜑2 ), или в блочной записи, подстановка 𝑈𝑖 = 𝐵𝑖1 𝜑1 + 𝐵𝑖2 𝜑2 , 𝑖 = 1, 2, преобразует систему (0.1) к эквивалентной системе 𝜕𝜑(𝑧) 𝜕𝜑(𝑧) −𝐽 + 𝑐(𝑧)𝜑(𝑐) + 𝑑(𝑧)𝜑(𝑧) = 𝐹0 , 𝜕𝑦 𝜕𝑥 (0.5) где 𝑙 × 𝑙−матричные коэффициенты имеют вид ⎛ ⎞ ⎛ ⎞ ̃︀ ̃︀ 𝑑 ̃︀ 𝑐 ̃︀ 𝑐11 𝑑12 ⎠ , 𝑑 = ⎝ 11 12 ⎠ . 𝑐=⎝ 𝑑̃︀21 ̃︀ 𝑐22 ̃︀ 𝑐21 𝑑̃︀22 Второй параграф посвящен функциям, аналитическим по Дуглису. Напомним, что система Дуглиса имеет вид 𝜕𝜑 𝜕𝜑 −𝐽 = 0, 𝜕𝑦 𝜕𝑥 (0.6) где все собственные значения 𝜆 матрицы 𝐽 ∈ C𝑙×𝑙 лежат в верхней полу плоскости, т.е. имеют положительную мнимую часть. Очевидно, эта система

11 получается из (0.5) в предположении 𝑐 = 𝑑 = 𝐹0 = 0 и 𝑙 = 𝑙1 , 𝑙2 = 0. Именное название системы оправдано, так как в предположении теплицевой матрицы 𝐽 [52] она впервые была изучена А. Дуглисом [13] в рамках так называемых гиперкомплексных чисел. В общем случае в уравнении (0.6) матрицу 𝐽 можно выбрать с точно стью до подобия и подчинить различным дополнительным требованиям. На пример, 𝐽 можно считать жордановой матрицей, или, более общим образом, треугольной матрицей. Для того, чтобы подчеркнуть зависимость от 𝐽, 𝑙−вектор–функцию 𝜑(𝑧) = (𝜑1 (𝑧), . . . , 𝜑𝑙 (𝑧)), являющуюся решением системы Дуглиса (0.6), называем также 𝐽−аналитической функцией. Эту функцию будем рассматриваем в конечной области 𝐷, ограниченной гладким контуром Γ, который предполагается ориентированным положитель но по отношению к области 𝐷, т.е. движение по Γ в выбранном направлении оставляет область 𝐷 слева. Саму область 𝐷 называем конечной, если она лежит внутри некоторого круга. Основные сведения, касающиеся системы Дуглиса (0.6) подробно изло жены в [78]. Напомним некоторые из них, основанные на аналогах теоремы и формулы Коши для решений этих систем. С каждым комплексным числом 𝑧 = 𝑥 + 𝑖𝑦 свяжем 𝑙 × 𝑙−матрицу 𝑧𝐽 = 𝑥 · 1 + 𝑦 · 𝐽, 𝑥, 𝑦 ∈ R, собственными значениями которой служат числа 𝑥 + 𝜆𝑦, где 𝜆 ∈ 𝜎(𝐽), а 1−единичная матрица. В частности, при 𝑧 ̸= 0 эта матрица обратима. Аналогом интегральной теоремы Коши для 𝐽−аналитической в конеч ной области 𝐷 вектор–функции 𝜑(𝑧) ∈ 𝐶(𝐷) является равенство Z 𝑑𝑧𝐽 𝜑(𝑧) = 0. Γ Здесь (𝑙 × 𝑙)−матричный дифференциал 𝑑𝑧𝐽 , определяемый аналогично 𝑧𝐽 ,

12 действует на 𝑙−вектор 𝜑 обычным образом и потому поставлен впереди. Это равенство является очевидным следствием системы (0.6) и формулы Грина. Аналогом интегральной формулы Коши является обобщенная интеграль ная формула Коши Z 1 (𝑡 − 𝑧)−1 𝐽 𝑑𝑡𝐽 𝜑(𝑡) = 𝜑(𝑧), 2𝜋𝑖 𝑧 ∈ 𝐷. Γ Граничные свойства в классах Гельдера интеграла типа Коши Z 1 𝜙(𝑡)𝑑𝑡 (𝐼𝜙)(𝑧) = , 𝑧 ∈ 𝐷, 2𝜋𝑖 𝑡 − 𝑧 Γ определяющего аналитическую в 𝐷 функцию, хорошо известны [60]. Напомним, что функция 𝜙 удовлетворяет условию Гельдера с показа телем 𝜇, 0 < 𝜇 < 1, на некотором множестве 𝐸 комплексной плоскости, если существует такая постоянная 𝐶 > 0, что |𝜙(𝑧1 ) − 𝜙(𝑧2 )| ≤ 𝐶|𝑧1 − 𝑧2 |𝜇 для любых 𝑧1 , 𝑧2 ∈ 𝐸. Наименьшая постоянная 𝐶 в этой оценке совпадает с полунормой |𝜙(𝑧1 ) − 𝜙(𝑧2 )| , |𝑧1 − 𝑧2 |𝜇 𝑧1 ̸=𝑧2 [𝜙]𝜇 = sup где верхняя грань берется по точкам 𝑧𝑗 ∈ 𝐸. Класс ограниченных функций, удовлетворяющих этому условию, обозначается 𝐶 𝜇 (𝐸), относительно нормы |𝜙| = sup |𝜙(𝑧)| + [𝜙]𝜇 𝐸 он является банаховым пространством [79]. Заметим, что элементы 𝜙 это го пространства продолжаются до функций 𝜙 ̃︀ ∈ 𝐶 𝜇 (𝐸) с сохранением 𝐶 𝜇 − норм, так что множество 𝐸 всегда можно считать замкнутым. Отметим, что семейство банаховых пространств 𝐶 𝜇 (𝐸) монотонно убы вает по 𝜇 в смысле вложений, причем в случае ограниченного множества 𝐸 вложение 𝐶 𝜈 (𝐸) ⊆ 𝐶 𝜇 (𝐸) при 𝜇 < 𝜈 компактно. Если 𝐸 является замкнутой областью 𝐷, то можно ввести пространство 𝐶 1,𝜇 (𝐷) непрерывно дифференцируемых в 𝐷 функций, которые вместе со своими частными производными принадлежат 𝐶 𝜇 (𝐷).

13 В соответствии с обобщенной формулой Коши можно ввести обобщен ный интеграл типа Коши Z 1 (𝐼𝐽1 𝜙)(𝑧) = (𝑡 − 𝑧)−1 𝐽 𝑑𝑡𝐽 𝜙(𝑡), 2𝜋𝑖 𝑧 ∈ 𝐷, (0.7) Γ с произвольной 𝑙−вектор–функцией (𝜙1 , . . . , 𝜙𝑙 ) ∈ 𝐶(Γ) и матричным диф ференциалом 𝑑𝑡𝐽 = 𝑑𝑡1 + 𝐽𝑑𝑡2 . Этот интеграл определяет функцию, 𝐽−аналитическую вне кривой Γ. С ним также связан обобщенный сингулярный интеграл Z 1 𝑡0 ∈ Γ, (𝑆𝐽 𝜙)(𝑡0 ) = (𝑡 − 𝑡0 )−1 𝐽 𝑑𝑡𝐽 𝜙(𝑡), 𝜋𝑖 Γ который понимается обычным образом в смысле главного значения по Коши. Для этих интегралов справедлив результат [77], аналогичный классиче скому случаю. Единственное отличие состоит в том, что на контур Γ необхо димо наложить дополнительное условие гладкости. Обозначим 𝑒(𝑡) = 𝑒1 (𝑡) + 𝑖𝑒2 (𝑡) единичный касательный вектор к Γ в точек 𝑡, направление которого согласовано с ориентацией контура. Его можно рассматривать как непрерывную функцию на Γ. По определению Γ называют ляпуновским контуром, если эта функция удовлетворяет условию Гельдера. Более точно, этот контур принадлежит классу 𝐶 1,𝜈 , если функция 𝑒(𝑡) ∈ 𝐶 1,𝜈 (Γ), 𝜇 < 𝜈. Теорема 2.2. Пусть область 𝐷 ∈ C ограничена гладким контуром Γ ∈ 𝐶 1,𝜈 , ориентированным положительно по отношению к 𝐷. Тогда для вектор–функции 𝜙(𝑡) из класса 𝐶 𝜇 (Γ), функция (𝐼𝐽1 𝜙)(𝑧), аналитическая по Дуглису, непрерывно продолжима на границу Γ = 𝜕𝐷 области 𝐷, и опера тор 𝐼𝐽1 ограничен 𝐶 𝜇 (Γ) → 𝐶 𝜇 (𝐷). При этом для граничных значений (𝐼𝐽1 𝜙)+ этой функции справедливы формулы Сохоцкого–Племеля 2(𝐼𝐽1 𝜙)+ (𝑡0 ) = 𝜙(𝑡0 ) + 𝑆𝐽 𝜙(𝑡0 ) 𝑡0 ∈ Γ.

14 В завершение второго параграфа приведена теорема о представлении 𝐽−аналитических функций обобщенными интегралами типа Коши с веще ственной плотностью, которая является аналогом известной теоремы Н.И. Мусхелишвили [60] о представлении для аналитических функций. Теорема 2.3. Пусть область 𝐷 конечна и ограничена гладким конту ром Γ. Тогда любая 𝐽− аналитическая в 𝐷 функция 𝜑0 (𝑧) ∈ 𝐶 𝜇 (𝐷) един ственным образом представима в виде 𝜑0 (𝑧) = (𝐼𝐽1 𝜙)(𝑧) + 𝑖𝜉, с некоторой вещественной 𝑙−вектор–функцией 𝜙(𝑡) ∈ 𝐶 𝜇 (Γ) и веществен ным 𝑙−вектором 𝜉 ∈ R𝑙 . Третий параграф второй главы посвящен одномерным сингулярным операторам. Напомним [62], что оператор 𝑁 , ограниченный в банаховых простран ствах 𝑋 → 𝑌 , фредгольмов, если подпространство {𝑥 ∈ 𝑋, 𝑁 𝑥 = 0}, на зываемое его ядром ker 𝑁 , конечномерно, образ im 𝑁 = 𝑁 (𝑋) замкнут в 𝑌 и фактор–пространство 𝑌 /im 𝑁 , называемое его коядром coker 𝑁 , также ко нечномерно. Удобно для краткости размерности dim(ker 𝑁 ) и dim(coker 𝑁 ) обозначать, соответственно, dim 𝑁 и codim 𝑁 . Целое число ind 𝑁 = dim𝑁 − codim𝑁 называется индексом оператора 𝑁 . Коядро coker 𝑁 = 𝑌 /im 𝑁 часто отождествляется с ядром ker 𝑁 * сопря женного оператора 𝑁 * . Следующая теорема сдержит основные свойства фредгольмовых опера торов [62]. Теорема 3.1. (a) Произведение 𝑁1 𝑁2 двух фредгольмовых операторов есть также фредгольмовый оператор индекса ind (𝑁1 𝑁2 ) = ind 𝑁1 +ind 𝑁2 . (b) Сумма фредгольмого и компактного оператора есть фредгольмовый оператор того же индекса. В частности, если оператор 𝑁0 компактен в 𝑋, то оператор 𝑁 = 1 + 𝑁0 фредгольмов и его индекс равен нулю.

15 (c) Оператор 𝑁 : 𝑋 → 𝑌 фредгольмов тогда и только тогда, когда существует такой фредгольмовый оператор 𝑀 : 𝑌 → 𝑋, что 𝑀 𝑁 = 1 + 𝑁1 , 𝑁 𝑀 = 1 + 𝑁2 , где операторы 𝑁1 и 𝑁2 компактны в, соответственно, 𝑋 и 𝑌. (d) Сумма фредгольмого и ограниченного оператора достаточно малой нормы есть фредгольмовый оператор того же индекса. ̃︀ : 𝑋 × C𝑚 → (e) Пусть оператор 𝑁 : 𝑋 → 𝑌 фредгольмов и оператор 𝑁 ̃︀ (𝑥, 𝜉) = (𝑦, 𝜂), где 𝑌 × C𝑛 действует по формуле 𝑁 𝑦 = 𝑁𝑥 + ∑︁𝑚 𝑗=1 𝑎𝑗 𝜉𝑗 , 𝜂𝑖 = 𝑏𝑖 𝑥 + ∑︁𝑚 𝑗=1 𝑐𝑖𝑗 𝜉𝑗 , 1 ≤ 𝑖 ≤ 𝑛, с некоторыми 𝑎𝑗 ∈ 𝑌 и ограниченными линейными функционалами 𝑏𝑖 ∈ 𝑋 * . ̃︀ фредгольмов и его индекс ind 𝑁 ̃︀ = ind 𝑁 + 𝑚 − 𝑛. Тогда оператор 𝑁 Исходя из 𝑙 ×𝑙−матриц–функций 𝑎, 𝑏 ∈ 𝐶 𝜇 (Γ), рассмотрим сингулярный оператор 2𝑁 = 𝑎(1 + 𝑆) + 𝑏(1 − 𝑆) + 2𝑁0 , (0.8) где 𝑎 и 𝑏 понимаются как операторы умножения 𝜙 → 𝑎𝜙, оператор 𝑁0 ком пактен в пространстве 𝐶 𝜇 (Γ) и 1−единичный оператор. По определению 𝑁 принадлежит к нормальному типу, если матрицы–функции 𝑎 и 𝑏 обратимы, т.е. det 𝑎(𝑡) ̸= 0 для всех 𝑡 ∈ Γ и аналогичным свойством обладает 𝑏. Согласно [79] класс всех ограниченных операторов 𝑁 : 𝑋 → 𝑌 является векторным пространством, которое обозначим ℒ(𝑋, 𝑌 ). При 𝑋 = 𝑌 пишем кратно ℒ(𝑋). Следующая лемма имеет важное значение, так как использу ется при доказательстве основной теоремы магистерской диссертации. Лемма 3.1. Пусть 𝑋 = 𝑋1 × . . . × 𝑋𝑛 и оператор 𝑁 ∈ ℒ(𝑋) пред ставляется треугольной 𝑛 × 𝑛−матрицей (𝑁𝑖𝑗 ), 𝑁𝑖𝑗 ∈ ℒ(𝑋𝑗 , 𝑋𝑖 ), например 𝑁𝑖𝑗 = 0 при 𝑖 < 𝑗. Тогда, если диагональные элементы 𝑁𝑖𝑖 ∈ ℒ(𝑋𝑖 ) фредголь мовы, то оператор 𝑁 фредгольмов и его индекс ind 𝑁 = ind 𝑁11 + . . . + ind 𝑁𝑛𝑛 .

16 Приведем результаты классической теории сингулярных уравнений [60]. Теорема 3.2. Пусть матрицы–функции 𝑎, 𝑏 ∈ 𝐶 𝜈 (Γ) и оператор 𝑁0 компактен в пространстве 𝐶 𝜇 (Γ). Тогда оператор (0.8) фредгольмов в про странстве 𝐶 𝜇 (Γ) тогда и только тогда, когда матрицы 𝑎, 𝑏 обратимы и его индекс дается формулой [︂ ]︂ 1 det 𝑏 ind 𝑁 = ln , 2𝜋𝑖 det 𝑎 Γ где [ ]Γ означает приращение непрерывной ветви логарифма на контуре Γ в соответствии с заданной его ориентацией. Примером компактного оператора в 𝐶 𝜇 (Γ) служит интегральный опера тор вида 1 (𝐾𝜙)(𝑡0 ) = 𝜋𝑖 Z 𝑘(𝑡0 , 𝑡) 𝜙(𝑡)𝑑𝑡, 𝑡 − 𝑡0 𝑡0 ∈ Γ, (0.9) Γ где функция 𝑘(𝑡0 , 𝑡) ∈ 𝐶 𝜈 (Γ × Γ) с некоторым 𝜈 > 𝜇 и обращается в нуль при 𝑡 = 𝑡0 . Очевидно, ядро 𝑘(𝑡0 , 𝑡)(𝑡 − 𝑡0 )−1 этого оператора имеет слабую особенность и потому интеграл понимается в обычном смысле. Следующая лемма дает критерий компактности оператора этого вида. Лемма 3.2. Пусть функция 𝑘(𝑡0 , 𝑡) ∈ 𝐶 𝜈 (Γ × Γ), 0 < 𝜇 < 𝜈 < 1, и выполнено условие 𝑘(𝑡, 𝑡) = 0, 𝑡 ∈ Γ. Тогда оператор 𝐾 ограничен 𝐶(Γ) → 𝐶 𝜇 (Γ) и, в частности, компактен в 𝐶 𝜇 (Γ). Если контур Γ ∈ 𝐶 1,𝜈 , то в соответствии с теоремой 2.2 сингулярный оператор 𝑆𝐽 ограничен в пространстве 𝐶 𝜇 (Γ). Более того справедлива следу ющая лемма. Лемма 3.3. Пусть Γ ∈ 𝐶 1,𝜈 , тогда оператор 𝐾 = 𝑆𝐽 − 𝑆 удовлетво ряет условиям леммы 3.2. Далее в этом параграфе показана связь операторов (0.8) с комплексным сопряжением 𝜙(𝑡) → 𝜙(𝑡).

17 Для оператора 𝐾 вида (0.9) оператор 𝐾 имеет тот же вид с функцией ˜ 0 , 𝑡) = −𝑘(𝑡0 , 𝑡) (𝑡 − 𝑡0 )𝑒(𝑡) . 𝑘(𝑡 (𝑡¯ − 𝑡¯0 )𝑒(𝑡) Аналогично для сингулярного оператора Коши 𝑆 оператор 𝑆 записывается в форме (0.9) с 𝑘(𝑡0 , 𝑡) = − (𝑡 − 𝑡0 )𝑒(𝑡) . (𝑡¯ − 𝑡¯0 )𝑒(𝑡) Что касается оператора 𝑆𝐽 , то, очевидно, он совпадает с −𝑆𝐽 и справедлив следующий результат. Лемма 3.4. Пусть Γ ∈ 𝐶 1,𝜈 , тогда вместе с оператором 𝐾 вида (0.9) условию леммы 3.2 удовлетворяет и оператор 𝐾. Кроме того, каждый из операторов 𝑆 + 𝑆 и 𝑆𝐽 + 𝑆𝐽 представим в виде (0.9) и удовлетворяет усло виям этой леммы. Обозначим 𝐶R𝜇 (Γ) соответствующее пространство вещественных 𝑙− век тор–функций. Если ограниченный в 𝐶 𝜇 (Γ) оператор 𝑁 обладает свойством 𝑁 = 𝑁, то он действует как R− линейный оператор 𝑁R в пространстве 𝐶R𝜇 (Γ) веще ственных функций. В случае его фредгольмовости индекс этого оператора понимается, конечно, по отношению к размерностям над полем R. Лемма 3.5. Операторы 𝑁 и 𝑁R свойством фредгольмовости обладают одновременно и их индексы совпадают. Следующий результат, который дает теорема 3.2. совместно с леммой 3.5 завершает третий параграф второй главы. Теорема 3.3. Пусть контур Γ ∈ 𝐶 1,𝜈 , матрица–функции 𝐺(𝑡) ∈ 𝐶 𝜈 (Γ) и оператор 𝑁0 компактен в пространстве 𝐶 𝜇 (Γ). Тогда оператор 𝑅𝜙 = Re[𝐺(𝜙 + 𝑆𝜙 + 𝑁0 𝜙)] фредгольмов в пространстве 𝐶R𝜇 (Γ) тогда и только тогда, когда матрица

18 𝐺 обратима, и его индекс дается формулой 1 ind 𝑅 = − [arg det 𝐺]Γ , 𝜋 где приращение [ ]Γ вдоль Γ берется в направлении, оставляющем область 𝐷 слева. В заключительном четвертом параграфе рассматривается задача Ри мана–Гильберта для общей эллиптической системы (0.1) в конечной области 𝐷 ∈ C, ограниченной гладким контуром Γ ∈ 𝐶 1,𝜈 , 0 < 𝜈 < 1. Пусть 𝐶−комплекснозначная матрица блочной структуры, размерности 𝑙×𝑙 ⎛ 𝐶=⎝ 𝐶11 𝐶12 𝐶21 𝐶22 ⎞ где 𝐶𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 ⎠, 𝑖, 𝑗 = 1, 2. Предполагая, что матрица–функция 𝐶(𝑡) принадлежит классу 𝐶 𝜈 (Γ), задача ставится краевым условием (0.2). Если матричные коэффициенты 𝑎, 𝑏 ∈ 𝐶 𝜇 (𝐷), 𝜇 < 𝜈 а правые части 𝐹 ∈ 𝐶 𝜇 (𝐷), 𝑓 ∈ 𝐶 𝜇 (Γ), то задачу (0.1)–(0.2) естественно рассматривать в классе (0.3) В параграфе доказано, что пространство 𝐶𝐴𝜇 (𝐷) банахово относительно нормы |𝑈 |𝐶𝐴𝜇 (𝐷) = |𝑈 |𝐶 𝜇 (𝐷) + |𝐿𝐴 𝑈 |𝐶 𝜇 (𝐷) . Как обычно, задачу (0.1)–(0.2) будем называть фредгольмовой, если фредгольмов ее оператор, действующий 𝐶𝐴𝜇 (𝐷) → 𝐶 𝜇 (𝐷) × 𝐶 𝜇 (Γ). Напомним, что согласно лемме 1.1 матрица 𝐵 ∈ C𝑙×𝑙 имеет следующую блочную структуру ⎛ 𝐵=⎝ 𝐵11 𝐵 12 𝐵21 𝐵 22 ⎞ ⎠, 𝐵𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 , 𝑖, 𝑗 = 1, 2. Рассмотрим 𝑙 × 𝑙−матрицу–функцию 𝐺(𝑡) c блочными элементами вида 𝐺𝑖1 = 𝐶𝑖1 𝐵11 + 𝐶𝑖2 𝐵21 𝐺𝑖2 = 𝐶 𝑖1 𝐵12 + 𝐶 𝑖2 𝐵22 𝑖, = 1, 2.

19 В заключении доказывается основная теорема магистерской диссер тации о фредгольмовой разрешимости задачи Римана–Гильберта (0.1)–(0.2) в классе (0.3). Теорема 4.1. Пусть область 𝐷 конечна, ограничена гладким конту ром Γ ∈ 𝐶 1,𝜈 и матрица–функция 𝐶(𝑡) ∈ 𝐶 𝜈 (Γ). Пусть 𝑙 × 𝑙−матричные коэффициенты 𝑎(𝑧), 𝑏(𝑧) ∈ 𝐶 𝜇 (𝐷), а правые части системы (0.1) и краевого условия (0.2) принадлежат соответственно 𝐹 (𝑧) ∈ 𝐶 𝜇 (𝐷), 𝑓 (𝑡) ∈ 𝐶 𝜇 (Γ). Тогда условие обратимости det 𝐺(𝑡) ̸= 0, 𝑡∈Γ необходимо и достаточно для фредгольмовости задачи (0.1)–(0.2) в классе (0.3) и ее индекс дается формулой 1 æ = − [arg det 𝐺]Γ + 𝑙, 𝜋 где приращение [ ]Γ берется в направлении, оставляющем область 𝐷 слева.

20 Глава 1 Вспомогательные ведения 1 Эллиптическая система первого порядка Рассмотрим в области 𝐷 на комплексной плоскости C переменной 𝑧 си стему 𝑙 линейных дифференциальных уравнений первого порядка 𝐴1 𝜕𝑈 (𝑧) 𝜕𝑈 (𝑧) + 𝐴2 + 𝑎(𝑧)𝑈 (𝑧) + 𝑏(𝑧)𝑈 (𝑧) = 𝐹 (𝑧), 𝜕𝑥 𝜕𝑦 𝑧 ∈ 𝐷, где коэффициенты при старших членах – постоянные матрицы 𝐴1 , 𝐴2 ∈ C𝑙×𝑙 , а 𝑙 × 𝑙−матричные коэффициенты 𝑎, 𝑏 и 𝑙−вектор–функция 𝐹 (𝑧) ∈ 𝐶(𝐷). Под ее регулярным решением понимается комплексная 𝑙−вектор–функция 𝑈 = (𝑈1 , ..., 𝑈𝑙 ) ∈ 𝐶 1 (𝐷), удовлетворяющая этой системе тождественно. По определению система эллиптична, если для каждого ненулевого век тора 𝜉 = (𝜉1 , 𝜉2 ) ∈ R2 , выполнено det(𝜉1 𝐴1 + 𝜉2 𝐴2 ) ̸= 0. В частности, это условие означает, что матрицы 𝐴1 , 𝐴2 невырождены. Действительно, пусть для определенности 𝜆1 = 1, 𝜆2 = 0. Имеем det 𝐴1 ̸= 0. Аналогично и во втором случае. Обозначим 𝐴 = −𝐴−1 2 𝐴1 . Данное выше условие эллиптичности означает, что матрица 𝐴 не имеет вещественных собственных значений. В самом деле, предположим противное: det(𝐴 − 𝜆) = 0 и 𝜆−вещественное. Подставим в это равенство выражение для 𝐴, получим −1 det(−𝐴−1 2 𝐴1 − 𝜆) = det(−𝐴2 )det(𝐴1 + 𝜆𝐴2 ), первый множитель не равен нулю, т.к. матрица 𝐴2 невырожденна. Второй множитель также не равен нулю, т.к. должно выполняться условие эллип тичности, здесь 𝜆1 = 1, 𝜆2 = 𝜆. Получили противоречие. Таким образом, умножая рассматриваемую систему слева на −𝐴−1 2 и −1 −1 переходя к переобозначениям 𝑎 = −𝐴−1 2 𝑎, 𝑏 = −𝐴2 𝑏, 𝐹 = −𝐴2 𝐹 , ее всегда

21 можно записать в эквивалентном виде 𝜕𝑈 (𝑧) 𝜕𝑈 (𝑧) −𝐴 + 𝑎(𝑧)𝑈 (𝑧) + 𝑏(𝑧)𝑈 (𝑧) = 𝐹 (𝑧). 𝜕𝑦 𝜕𝑥 (1.1) Соответственно в этой общей эллиптической системе старшие коэффици енты при производных постоянны и матрица 𝐴 ∈ C𝑙×𝑙 не имеет вещественных собственных значений. Обозначим 𝑙1 и 𝑙2 число собственных значений матрицы 𝐴 системы (1.1) (с учетом кратности), лежащих, соответственно, в верхней и нижней полу плоскости, при этом 𝑙 = 𝑙1 + 𝑙2 . Множество всех собственных значений можно записать в виде 𝜎 ̃︀ = 𝜎1 ∪ 𝜎2 , 𝜎𝑗 ⊆ {𝜆, Im 𝜆 > 0}, (1.2) где черта означает комплексное сопряжение. Напомним, что жордановой формой матрицы называют блочно–диаго нальную матрицу 𝐽 = diag(𝐽1 (𝜆1 ), . . . , 𝐽𝑙 (𝜆𝑙 )), (1.3) где в свою очередь каждая матрица 𝐽𝑖 , 1 ≤ 𝑖 ≤ 𝑙 также блочно–диагональна и составлена из клеток Жордана ⎛ 𝜆 1 0 ... ⎜ 𝑖 ⎜ ⎜ 0 𝜆𝑖 1 . . . 𝐽𝑖 (𝜆𝑖 ) = ⎜ ⎜ ⎜ · · · ... ⎝ 0 0 0 ... 0 ⎞ ⎟ ⎟ 0 ⎟ ⎟ ⎟ · ⎟ ⎠ 𝜆𝑖 (1.4) различных порядков. С помощью подходящей обратимой линейной подстановки систему (1.1) всегда можно преобразовать к аналогичной системе, в которой 𝑙2 = 0, т.е. когда все собственные значения матрицы 𝐴 лежат в верхней полуплоскости. В основе этого преобразования лежит следующее предложение [82].

22 Лемма 1.1. Существуют такие обратимые 𝑙 × 𝑙 матрицы 𝐵, 𝐽 блоч ной структуры ⎛ 𝐵=⎝ 𝐵11 𝐵 12 𝐵21 𝐵 22 ⎞ ⎠, ⎛ 𝐽 =⎝ 𝐽1 0 0 𝐽2 ⎞ ⎠, (1.5) где 𝐵𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 , 𝐽𝑖 ∈ C𝑙𝑖 ×𝑙𝑖 , 𝑖 = 1, 2, что ⎛ ̃︀ 𝐵 −1 𝐴𝐵 = 𝐽, 𝐽̃︀ = ⎝ ⎞ 𝐽1 0 0 𝐽2 ⎠. (1.6) Матрицы 𝐽𝑖 ∈ C𝑙𝑖 ×𝑙𝑖 имеют жорданову форму (1.4), при этом их диагональ ные элементы составляют множество 𝜎𝑖 . С 𝑙−вектор–функцией 𝜑 = (𝜑1 , 𝜑2 ), где 𝜑1 означают первые 𝑙1 компо нент, а 𝜑2 следующие 𝑙2 компонент, свяжем вектор–функцию 𝜑̃︀ = (𝜑1 , 𝜑2 ). Аналогично положим 𝐹̃︀0 = 𝐵 −1 𝐹 = (𝐹1 , 𝐹 2 ), и введем блочные матрицы ⎞ ⎛ ̃︀ 𝑐 ̃︀ 𝑐 ⎝ 11 12 ⎠ = 𝐵 −1 𝑎𝐵, ̃︀ 𝑐21 ̃︀ 𝑐22 ⎛ ⎝ 𝐹0 = (𝐹1 , 𝐹2 ), 𝑑̃︀11 𝑑̃︀12 𝑑̃︀21 𝑑̃︀22 ⎞ ⎠ = 𝐵 −1 𝑏𝐵. (1.7) Теорема 1.1. В обозначениях (1.5) подстановка 𝐵 −1 𝑈 = (𝜑1 , 𝜑2 ), или в блочной записи, подстановка 𝑈𝑖 = 𝐵𝑖1 𝜑1 + 𝐵𝑖2 𝜑2 , 𝑖 = 1, 2, (1.8) преобразует систему (1.1) к эквивалентной системе 𝜕𝜑(𝑧) 𝜕𝜑(𝑧) −𝐽 + 𝑐(𝑧)𝜑(𝑧) + 𝑑(𝑧)𝜑(𝑧) = 𝐹0 (𝑧), 𝜕𝑦 𝜕𝑥 где 𝑙 × 𝑙−матричные коэффициенты 𝑐, 𝑑 имеют ⎛ ⎞ ⎛ ̃︀ ̃︀ 𝑐11 𝑑12 𝑑̃︀11 ⎝ ⎠ ⎝ 𝑐= , 𝑑= ̃︀ 𝑑21 ̃︀ 𝑐22 ̃︀ 𝑐21 (1.9) вид ̃︀ 𝑐12 𝑑̃︀22 ⎞ ⎠. (1.10)

23 Доказательство. Подстановка (1.8) приводит систему (1.1) к виду 𝜕 𝜑̃︀ 𝜕 𝜑̃︀ − 𝐴𝐵 + 𝑎𝐵 𝜑̃︀ + 𝑏𝐵 𝜑̃︀ = 𝐹. 𝐵 𝜕𝑦 𝜕𝑥 Умножая это равенство слева на 𝐵 −1 , в соответствии с леммой 1.1 получим систему 𝜕 𝜑̃︀ ̃︀𝜕 𝜑̃︀ −𝐽 + (𝐵 −1 𝑎𝐵)𝜑̃︀ + (𝐵 −1 𝑏𝐵)𝜑̃︀ = 𝐵 −1 𝐹, 𝜕𝑦 𝜕𝑥 С учетом (1.7) в соответствующей блочной записи она выглядит следующим образом: 𝜕𝜑1 𝜕𝜑1 − 𝐽1 + ̃︀ 𝑐11 𝜑1 + ̃︀ 𝑐12 𝜑2 + 𝑑̃︀11 𝜑1 + 𝑑̃︀12 𝜑2 = 𝐹1 , 𝜕𝑦 𝜕𝑥 𝜕𝜑2 𝜕𝜑 − 𝐽 2 2 + ̃︀ 𝑐21 𝜑1 + ̃︀ 𝑐22 𝜑2 + 𝑑̃︀21 𝜑1 + 𝑑̃︀22 𝜑2 = 𝐹 2 . 𝜕𝑦 𝜕𝑥 Заменяя второе уравнение этой системы комплексно сопряженным, по лучим новую систему 𝜕𝜑1 𝜕𝜑1 − 𝐽1 + ̃︀ 𝑐11 𝜑1 + ̃︀ 𝑐12 𝜑2 + 𝑑̃︀11 𝜑1 + 𝑑̃︀12 𝜑2 = 𝐹1 , 𝜕𝑦 𝜕𝑥 𝜕𝜑2 𝜕𝜑2 𝑐21 𝜑1 + ̃︀ 𝑐22 𝜑2 + 𝑑̃︀21 𝜑1 + 𝑑̃︀22 𝜑2 = 𝐹2 , − 𝐽2 + ̃︀ 𝜕𝑦 𝜕𝑥 которая, очевидно, имеет вид (1.9) с коэффициентами (1.10). Отметим, что матрица 𝐽 системы (1.9) составлена из клеток Жордана вида (1.4) с диагональными элементами из множеств 𝜎1 и 𝜎2 , лежащих в верхней полуплоскости и фигурирующих в (1.2). 2 Функции, аналитические по Дуглису Рассмотрим простейшую эллиптическую систему первого порядка 𝜕𝜑 𝜕𝜑 −𝐽 = 0, 𝜕𝑦 𝜕𝑥 (2.1)

24 где все собственные значения 𝜆 матрицы 𝐽 ∈ C𝑙×𝑙 лежат в верхней полу плоскости, т.е. имеют положительную мнимую часть. Очевидно, эта система получается из (1.9) в предположении 𝑐 = 𝑑 = 𝐹0 = 0 и 𝑙 = 𝑙1 , 𝑙2 = 0. В предположении, что матрица 𝐽− теплицева [52], система (2.1) впервые была изучена А. Дуглисом [13] в рамках так называемых гиперкомплексных чисел. В случае скалярной матрицы 𝐽 = 𝜈 имеем уравнение 𝜕𝜑 𝜕𝜑 −𝜈 = 0. 𝜕𝑦 𝜕𝑥 Если 𝐽 = 𝑖 то решением системы (2.1) служит обычная аналитическая функ ция комплексной переменной 𝑧 = 𝑥 + 𝑖𝑦. Действительно, подставляя вместо 𝜑 выражение 𝑢 + 𝑖𝑣 в уравнение (2.1) и заменяя 𝐽 на 𝑖, получим 𝜕(𝑢 + 𝑖𝑣) 𝜕(𝑢 + 𝑖𝑣) −𝑖 = 0. 𝜕𝑦 𝜕𝑥 Или, после группировки действительной и мнимой части )︂ (︂ )︂ (︂ 𝜕𝑣 𝜕𝑢 𝜕𝑢 𝜕𝑣 + +𝑖 − = 0. 𝜕𝑦 𝜕𝑥 𝜕𝑦 𝜕𝑥 Откуда непосредственно следует, что 𝜕𝑢 𝜕𝑣 = , 𝜕𝑥 𝜕𝑦 𝜕𝑢 𝜕𝑣 =− . 𝜕𝑦 𝜕𝑥 Заметим, что условие (2.1) совпадает с условиями Коши–Римана в ком плексной форме и, следовательно, возможно аналогичным образом ввести условие существования комплексной производной. Теорема 2.1. Если функция 𝜑 аналитична по Дуглису в области 𝐷, то в каждой точке 𝑧0 ∈ 𝐷 существует предел (1) 𝜑′ (𝑧0 ) = lim (𝑧 − 𝑧0 )−1 𝐽 [𝜑(𝑧) − 𝜑(𝑧0 )] = 𝜑 , 𝑧→𝑧0 где 𝜑 (1) 𝜕 𝑛𝜑 = . 𝜕𝑥𝑛 (2.2)

25 Верно и обратное, если вектор-функция 𝜑 ∈ 𝐶 1 (𝐷) допускает предел (2.2) в каждой точке 𝑧0 ∈ 𝐷, то она удовлетворяет (2.1), причем ее производной служит частная производная по 𝑥. Доказательство. В самом деле, по условию дифференцируемости 𝜑(𝑧) − 𝜑(𝑧0 ) = (𝑥 − 𝑥0 ) 𝜕𝜑 𝜕𝜑 (𝑧0 ) + (𝑦 − 𝑦0 ) (𝑧0 ) + |𝑧 − 𝑧0 |𝜀(𝑧), 𝜕𝑥 𝜕𝑦 где вектор-функция 𝜀(𝑧) → 0 при |𝑧 − 𝑧0 | → 0. В силу (2.1) и (2.2) получим 𝜑(𝑧) − 𝜑(𝑧0 ) = (𝑧 − 𝑧0 )𝐽 𝜕𝜑 (𝑧0 ) + |𝑧 − 𝑧0 |𝜀(𝑧). 𝜕𝑥 Согласно [78] обратная матрица 𝑧𝐽−1 однородна степени -1 и ее норма в C𝑙×𝑙 допускает оценку |𝑧𝐽−1 | ≤ 𝐶|𝑧|−1 . Таким образом, матрица функция |𝑧|𝑧𝐽−1 однородна степени нуль и, очевидно, непрерывна. Поэтому она равномерно ограничена, что и приводит к справед ливости (2.2). Обратно, пусть 𝜑 ∈ 𝐶 1 (𝐷) и предел (2.1) существует в каждой точке 𝑧0 ∈ 𝐷. Если под знаком этого предела 𝑦 = 𝑦0 , то (𝑧 − 𝑧0 )𝐽 = 𝑥 − 𝑥0 и 𝜑′ = 𝜕𝜑 . 𝜕𝑥 Полагая 𝑥 = 𝑥0 , получим (𝑧 − 𝑧0 )𝐽 = (𝑦 − 𝑦0 )𝐽 и, следовательно, 𝜑′ (𝑧0 ) = 𝐽 −1 𝜕𝜑 (𝑧0 ). 𝜕𝑦 Совместно с предыдущим равенством отсюда следует, что 𝜑 удовлетворяет уравнению (2.1) и 𝜑′ = 𝜑(1) . В силу доказанной теоремы вектор–функцию 𝜑(𝑧) = (𝜑1 (𝑧), . . . 𝜑𝑙 (𝑧)) ∈ 𝐶 1 комплексной переменной 𝑧 = 𝑥 + 𝑖𝑦 назовем аналитической по Дуглису, если она удовлетворяет уравнению (2.1).

26 В общем случае в уравнении (2.1) матрицу 𝐽 можно выбрать с точно стью до подобия и подчинить различным дополнительным требованиям. На пример, 𝐽 можно считать жордановой матрицей, или, более общим образом, треугольной матрицей. Если 𝜎(𝐽) состоит из точек 𝜆1 , 𝜆2 , ..., 𝜆𝑛 , то можно также 𝐽 подчинить требованию 𝐽 = diag(𝐽1 , ..., 𝐽𝑛 ), 𝜎(𝐽𝑘 ) = {𝜆𝑘 }, с диагональными блоками 𝐽𝑘 ∈ C𝑙𝑘 ×𝑙𝑘 , 𝑙1 + ... + 𝑙𝑛 = 𝑙. Основные сведения, касающиеся системы Дуглиса (2.1) подробно изло жены в [78]. Напомним некоторые из них, основанные на аналогах теоремы и формулы Коши для решений этих систем. С каждым комплексным числом 𝑧 = 𝑥 + 𝑖𝑦 свяжем 𝑙 × 𝑙−матрицу 𝑧𝐽 = 𝑥 · 1 + 𝑦 · 𝐽, 𝑥, 𝑦 ∈ R, (2.3) собственными значениями которой служат числа 𝑥 + 𝜆𝑦, где 𝜆 ∈ 𝜎(𝐽), а 1−единичная матрица. В частности, при 𝑧 ̸= 0 эта матрица обратима. Например, когда 𝑙 = 2 и 𝐽−есть клетка Жордана (1.4), то в развернутом виде ⎛ 𝑧𝐽 = ⎝ 𝑧𝜆 𝑦 0 𝑧𝜆 ⎛ ⎞ ⎠, 𝑧𝐽−1 = 𝑧𝜆−2 ⎝ 𝑧𝜆 −𝑦 0 𝑧𝜆 ⎞ ⎠, где аналогично (2.3) положено 𝑧𝜆 = 𝑥 + 𝜆𝑦. Покажем, что справедливо следующее важное матричное соотношение Z 1 𝜁𝐽−1 𝑑𝜁𝐽 = 1, 𝜁 ∈ C (2.4) 2𝜋𝑖 |𝜁|=1 где 1 означает единичную матрицу. Для фиксированного комплексного числа 𝜆, Im𝜆 > 0 рассмотрим ана литическую в верхней полуплоскости функцию Z 1 𝑑𝜁𝜆 𝜒(𝜆) = , 2𝜋𝑖 𝜁𝜆 |𝜁|=1

27 где аналогично (2.3) положено 𝜁𝜆 = 𝜁1 + 𝜆𝜁2 и 𝑑𝜁𝜆 = 𝑑𝜁1 + 𝜆𝑑𝜁2 . Тогда левая часть (2.4) является значением 𝜒(𝐽) этой функции от матрицы 𝐽. Согласно [78] имеет место формула 𝜒(𝐽) = 𝑙−1 (𝑘) ∑︁ 𝜒 𝑘=0 𝑘! (𝐽 − 𝜆)𝑘 , где 𝑙−порядок матрицы. В силу этой формулы для справедливости соотно шения (2.4) достаточно убедиться, что 𝜒(𝜆) ≡ 1 в верхней полуплоскости Im 𝜆 > 0. В самом деле, замена 𝑧 = 𝜁1 + 𝜁𝜁2 переводит единичную окружность |𝜁| = 1 в эллипс Γ0 , таким образом 1 𝜒(𝑧) = 2𝜋𝑖 Z 𝑑𝑧 = 1. 𝑧 Γ0 Аналогом интегральной теоремы Коши для 𝐽−аналитической в конеч ной области 𝐷 вектор–функции 𝜑(𝑧) ∈ 𝐶(𝐷) является равенство Z 𝑑𝑧𝐽 𝜑(𝑧) = 0. Γ Здесь (𝑙 ×𝑙)−матричный дифференциал 𝑑𝑧𝐽 , определяемый аналогично (2.3), действует на 𝑙−вектор 𝜑 обычным образом и потому поставлен впереди. Это равенство является очевидным следствием (2.1) и формулы Грина. Fyfjujv интегральной формулы Коши является обобщенная интеграль ная формула Коши Z 1 (𝑡 − 𝑧)−1 𝐽 𝑑𝑡𝐽 𝜑(𝑡) = 𝜑(𝑧), 2𝜋𝑖 𝑧 ∈ 𝐷. Γ С помощью теоремы Коши и (2.4) она устанавливается аналогично случаю обычных аналитических функций. Граничные свойства в классах Гельдера интеграла типа Коши Z 1 𝜙(𝑡)𝑑𝑡 (𝐼𝜙)(𝑧) = , 𝑧 ∈ 𝐷, 2𝜋𝑖 𝑡 − 𝑧 Γ

28 определяющего аналитическую в 𝐷 функцию, хорошо известны [60]. Напомним, что функция 𝜙 удовлетворяет условию Гельдера с показа телем 𝜇, 0 < 𝜇 < 1, на некотором множестве 𝐸 комплексной плоскости, если существует такая постоянная 𝐶 > 0, что |𝜙(𝑧1 ) − 𝜙(𝑧2 )| ≤ 𝐶|𝑧1 − 𝑧2 |𝜇 для любых 𝑧1 , 𝑧2 ∈ 𝐸. Наименьшая постоянная 𝐶 в этой оценке совпадает с полунормой |𝜙(𝑧1 ) − 𝜙(𝑧2 )| , |𝑧1 − 𝑧2 |𝜇 𝑧1 ̸=𝑧2 [𝜙]𝜇 = sup (2.5) где верхняя грань берется по точкам 𝑧𝑗 ∈ 𝐸. Класс ограниченных функций, удовлетворяющих этому условию, обозначается 𝐶 𝜇 (𝐸), относительно нормы |𝜙| = sup |𝜙(𝑧)| + [𝜙]𝜇 𝐸 он является банаховым пространством [79]. Заметим, что элементы 𝜙 это го пространства продолжаются до функций 𝜙 ̃︀ ∈ 𝐶 𝜇 (𝐸) с сохранением 𝐶 𝜇 − норм, так что множество 𝐸 всегда можно считать замкнутым. Отметим, что семейство банаховых пространств 𝐶 𝜇 (𝐸) монотонно убы вает по 𝜇 в смысле вложений, причем в случае ограниченного множества 𝐸 вложение 𝐶 𝜈 (𝐸) ⊆ 𝐶 𝜇 (𝐸) при 𝜇 < 𝜈 компактно. Если 𝐸 является замкнутой областью 𝐷, то можно ввести пространство 𝐶 1,𝜇 (𝐷) непрерывно дифферен цируемых в 𝐷 функций, которые вместе со своими частными производными принадлежат 𝐶 𝜇 (𝐷). Для интегралов типа Коши справедлив следующий классический резуль тат [60]. Если 𝜙 ∈ 𝐶 𝜇 (Γ), то функция 𝜑 = 𝐼𝜙 непрерывно продолжима в замкнутую область 𝐷 и принадлежит классу 𝐶 𝜇 (𝐷), причем оператор 𝐼 ограничен 𝐶 𝜇 (Γ) → 𝐶 𝜇 (𝐷), т.е. допускает оценку |𝐼𝜙|𝐶 𝜇 (𝐷) ≤ 𝐶|𝜙|𝐶 𝜇 (Γ) . При этом для ее граничных значений 𝜑+ (𝑡0 ) = lim 𝜑(𝑧), 𝑧→𝑡0 𝑡0 ∈ Γ,

29 справедлива формула Сохоцкого–Племеля 2𝜑+ = 𝜙 + 𝑆𝜙 с сингулярным ин тегралом Коши 1 (𝑆𝜙)(𝑡0 ) = 𝜋𝑖 Z 𝜙(𝑡)𝑑𝑡 , 𝑡 − 𝑡0 𝑡0 ∈ Γ, (2.6) Γ который понимается в смысле главного значения по Коши. В соответствии с обощенной интегральной формулой Коши можно вве сти обобщенный интеграл типа Коши Z 1 1 (𝐼𝐽 𝜙)(𝑧) = (𝑡 − 𝑧)−1 𝐽 𝑑𝑡𝐽 𝜙(𝑡), 2𝜋𝑖 𝑧 ∈ 𝐷, (2.7) Γ с произвольной 𝑙−вектор–функцией (𝜙1 , . . . , 𝜙𝑙 ) ∈ 𝐶(Γ). Этот интеграл опре деляет функцию, 𝐽−аналитическую вне кривой Γ. С ним также связан обоб щенный сингулярный интеграл Z 1 (𝑆𝐽 𝜙)(𝑡0 ) = (𝑡 − 𝑡0 )−1 𝐽 𝑑𝑡𝐽 𝜙(𝑡), 𝜋𝑖 𝑡0 ∈ Γ, (2.8) Γ который понимается обычным образом в смысле главного значения по Коши. Для этих интегралов справедлив результат [77], аналогичный классиче скому случаю. Единственное отличие состоит в том, что на контур Γ необхо димо наложить дополнительное условие гладкости. Обозначим 𝑒(𝑡) = 𝑒1 (𝑡) + 𝑖𝑒2 (𝑡) единичный касательный вектор к Γ в точек 𝑡, направление которого согласовано с ориентацией контура. Его можно рассматривать как непрерыв ную функцию на Γ. По определению Γ называют ляпуновским контуром, ес ли эта функция удовлетворяет условию Гельдера. Более точно, этот контур принадлежит классу 𝐶 1,𝜈 , если функция 𝑒(𝑡) ∈ 𝐶 1,𝜈 (Γ). Заметим попутно, что в терминах 𝑒 связь комплексного дифференциала 𝑑𝑡 в (2.6) и матрич ного дифференциала 𝑑𝑡𝐽 в (2.7) с элементом 𝑑1 𝑡 длины дуги определяется соотношениями 𝑑𝑡 = 𝑒(𝑡)𝑑1 𝑡 и 𝑑𝑡𝐽 = [𝑒(𝑡)]𝐽 𝑑1 𝑡. Теорема 2.2. Пусть область 𝐷 ∈ C ограничена гладким контуром Γ ∈ 𝐶 1,𝜈 , ориентированным положительно по отношению к 𝐷. Тогда для вектор–функции 𝜙(𝑡) из класса 𝐶 𝜇 (Γ), 0 < 𝜇 < 𝜈 < 1, функция (𝐼𝐽1 𝜙)(𝑧),

30 аналитическая по Дуглису, непрерывно продолжима на границу Γ = 𝜕𝐷 об ласти 𝐷, и оператор 𝐼𝐽1 ограничен 𝐶 𝜇 (Γ) → 𝐶 𝜇 (𝐷). При этом для граничных значений (𝐼𝐽1 𝜙)+ этой функции справедливы формулы Сохоцкого–Племеля 2(𝐼𝐽1 𝜙)+ (𝑡0 ) = 𝜙(𝑡0 ) + 𝑆𝐽 𝜙(𝑡0 ) 𝑡0 ∈ Γ. (2.9) Хорошо известна теорема Мусхелишвили [60] о представлении аналити ческих функций, удовлетворяющих условию Гельдера в замкнутой области, интегралами типа Коши с вещественной плотностью. Аналог этой теоремы Мусхелишвили имеет место и для 𝐽− аналитических функций [77], которые, напомним, рассматриваются для треугольных матриц 𝐽. Теорема 2.3. Пусть область 𝐷 конечна и ограничена контуром Γ. Тогда любая 𝐽− аналитическая в 𝐷 функция 𝜑0 (𝑧) ∈ 𝐶 𝜇 (𝐷) единственным образом представима в виде 𝜑0 (𝑧) = (𝐼𝐽1 𝜙)(𝑧) + 𝑖𝜉, (2.10) с некоторой вещественной 𝑙−вектор–функцией 𝜙(𝑡) ∈ 𝐶 𝜇 (Γ) и веществен ным 𝑙−вектором 𝜉 ∈ R𝑙 .

31 Глава 2 Задача Римана–Гильберта 3 Одномерные сингулярные операторы Простейшим сингулярным оператором на ориентированном гладком кон туре Γ является оператор Коши 𝑆, действующий по формуле (2.6). Его рас сматриваем в пространстве 𝑙−вектор–функций 𝜙 ∈ 𝐶 𝜇 (Γ). Как отмечено в §2, он ограничен в этом пространстве. Исходя из 𝑙 × 𝑙−матриц–функций 𝑎, 𝑏 ∈ 𝐶 𝜇 (Γ), рассмотрим сингулярный оператор 2𝑁 = 𝑎(1 + 𝑆) + 𝑏(1 − 𝑆) + 2𝑁0 , (3.1) где 𝑎 и 𝑏 понимаются как операторы умножения 𝜙 → 𝑎𝜙, оператор 𝑁0 компак тен в пространстве 𝐶 𝜇 (Γ) и 1 означает единичный оператор. По определению 𝑁 принадлежит к нормальному типу, если матрицы–функции 𝑎 и 𝑏 обрати мы, т.е. det 𝑎(𝑡) ̸= 0 для всех 𝑡 ∈ Γ и аналогичным свойством обладает 𝑏. Для операторов этого типа хорошо известен критерий фредгольмовости. Напомним [62], что оператор 𝑁 , ограниченный в банаховых пространствах 𝑋 → 𝑌 , фредгольмов, если подпространство {𝑥 ∈ 𝑋, 𝑁 𝑥 = 0}, называемое его ядром ker 𝑁 , конечномерно, образ im 𝑁 = 𝑁 (𝑋) замкнут в 𝑌 и фак тор–пространство 𝑌 /im 𝑁 , называемое его коядром coker 𝑁 , также конечно мерно. Удобно для краткости размерности dim(ker 𝑁 ) и dim(coker 𝑁 ) обозна чать, соответственно, dim 𝑁 и codim 𝑁 . Целое число ind𝑁 = dim𝑁 − codim𝑁 называется индексом оператора 𝑁 . Коядро coker 𝑁 = 𝑌 /im 𝑁 часто отож дествляется с ядром ker 𝑁 * сопряженного оператора 𝑁 * . Фредгольмовы операторы обладают следующими основными свойства ми [62]. Теорема 3.1. (a) Произведение 𝑁1 𝑁2 двух фредгольмовых операторов есть также фредгольмовый оператор индекса ind (𝑁1 𝑁2 ) = ind 𝑁1 +ind 𝑁2 .

32 (b) Сумма фредгольмого и компактного оператора есть фредгольмовый оператор того же индекса. В частности, если оператор 𝑁0 компактен в 𝑋, то оператор 𝑁 = 1 + 𝑁0 фредгольмов и его индекс равен нулю. (c) Оператор 𝑁 : 𝑋 → 𝑌 фредгольмов тогда и только тогда, когда существует такой фредгольмовый оператор 𝑀 : 𝑌 → 𝑋, что 𝑀 𝑁 = 1 + 𝑁1 , 𝑁 𝑀 = 1 + 𝑁2 , где операторы 𝑁1 и 𝑁2 компактны в, соответственно, 𝑋 и 𝑌. (d) Сумма фредгольмого и ограниченного оператора достаточно малой нормы есть фредгольмовый оператор того же индекса. ̃︀ : 𝑋 × C𝑚 → (e) Пусть оператор 𝑁 : 𝑋 → 𝑌 фредгольмов и оператор 𝑁 ̃︀ (𝑥, 𝜉) = (𝑦, 𝜂), где 𝑌 × C𝑛 действует по формуле 𝑁 ∑︁𝑚 ∑︁𝑚 𝑐𝑖𝑗 𝜉𝑗 , 𝑎𝑗 𝜉𝑗 , 𝜂𝑖 = 𝑏𝑖 𝑥 + 𝑦 = 𝑁𝑥 + 𝑗=1 𝑗=1 1 ≤ 𝑖 ≤ 𝑛, с некоторыми 𝑎𝑗 ∈ 𝑌 и ограниченными линейными функционалами 𝑏𝑖 ∈ 𝑋 * . ̃︀ фредгольмов и его индекс ind 𝑁 ̃︀ = ind 𝑁 + 𝑚 − 𝑛. Тогда оператор 𝑁 Второе утверждение в (b) известно как теорема Рисса. Оператор 𝑀 в утверждении (c) носит название регуляризатора 𝑁 . Из утверждения (a) фред гольмовость 𝑁 𝑘 для некоторого натурального 𝑘 влечет и фредгольмовость 𝑁 . Еще одно утверждение такого рода выделим особо. Напомним [79], что класс всех ограниченных операторов 𝑁 : 𝑋 → 𝑌 является векторным пространством, которое обозначим ℒ(𝑋, 𝑌 ). При 𝑋 = 𝑌 пишем кратно ℒ(𝑋). Лемма 3.1. Пусть 𝑋 = 𝑋1 × . . . × 𝑋𝑛 и оператор 𝑁 ∈ ℒ(𝑋) пред ставляется треугольной 𝑛 × 𝑛−матрицей (𝑁𝑖𝑗 ), 𝑁𝑖𝑗 ∈ ℒ(𝑋𝑗 , 𝑋𝑖 ), например 𝑁𝑖𝑗 = 0 при 𝑖 < 𝑗. Тогда, если диагональные элементы 𝑁𝑖𝑖 ∈ ℒ(𝑋𝑖 ) фредголь мовы, то оператор 𝑁 фредгольмов и его индекс ind 𝑁 = ind 𝑁11 + . . . + ind 𝑁𝑛𝑛 . Классический результат [60] для сингулярных операторов (3.1) нормаль ного типа состоит в том, что они фредгольмовы и их индекс выражается через

33 индекс Коши матрицы–функции 𝐺 = 𝑏𝑎−1 . Теорема 3.2. Пусть матрицы- функции 𝑎, 𝑏 ∈ 𝐶 𝜈 (Γ) и оператор 𝑁0 компактен в пространстве 𝐶 𝜇 (Γ). Тогда оператор (3.1) фредгольмов в про странстве 𝐶 𝜇 (Γ) тогда и только тогда, когда матрицы 𝑎, 𝑏 обратимы и его индекс дается формулой [︂ ]︂ 1 det 𝑏 ind 𝑁 = ln , 2𝜋𝑖 det 𝑎 Γ (3.2) где [ ]Γ означает приращение непрерывной ветви логарифма на контуре Γ в соответствии с заданной его ориентацией. Примером компактного оператора в 𝐶 𝜇 (Γ) служит интегральный опера тор вида 1 (𝐾𝜙)(𝑡0 ) = 𝜋𝑖 Z 𝑘(𝑡0 , 𝑡) 𝜙(𝑡)𝑑𝑡, 𝑡 − 𝑡0 𝑡0 ∈ Γ, (3.3) Γ 𝜈 где функция 𝑘(𝑡0 , 𝑡) ∈ 𝐶 (Γ × Γ) с некоторым 𝜈 > 𝜇 и обращается в нуль при 𝑡 = 𝑡0 . Очевидно, ядро 𝑘(𝑡0 , 𝑡)(𝑡 − 𝑡0 )−1 этого оператора имеет слабую особен ность и потому интеграл понимается в обычном смысле. Критерий компакт ности оператора вида (3.3) дает следующая лемма [83]. Лемма 3.2. Пусть 𝑘(𝑡0 , 𝑡) ∈ 𝐶 𝜈 (Γ × Γ), 0 < 𝜇 < 𝜈 < 1, и 𝑘(𝑡, 𝑡) = 0, 𝑡 ∈ Γ. (3.4) Тогда оператор 𝐾 ограничен 𝐶(Γ) → 𝐶 𝜇 (Γ) и, в частности, компактен в 𝐶 𝜇 (Γ). Если контур Γ ∈ 𝐶 1,𝜈 , т.е. производная гладкой параметризации кривой принадлежит 𝐶 𝜈 , то в соответствии с теоремой 2.2 сингулярный оператор 𝑆𝐽 ограничен в пространстве 𝐶 𝜇 (Γ), 0 < 𝜇 < 𝜈. Утверждается, что к разности 𝑆𝐽 − 𝑆 применима лемма 3.2 [34]. Лемма 3.3. Пусть Γ ∈ 𝐶 1,𝜈 , тогда оператор 𝐾 = 𝑆𝐽 − 𝑆 удовлетво ряет условиям леммы 3.2. Рассмотрим еще связь операторов (3.1) с комплексным сопряжением 𝜙(𝑡) → 𝜙(𝑡), который можно рассматривать как линейный (над полем R) опе

34 ратор, совпадающий со своим обратным. Аналогичную инволюцию 𝑁 → 𝑁 можно ввести в классе C− линейный операторов, полагая по определению 𝑁 𝜙 = 𝑁 𝜙. ¯ (3.5) Например, для оператора 𝐾 вида (3.3) оператор 𝐾 имеет тот же вид с функ цией ˜ 0 , 𝑡) = −𝑘(𝑡0 , 𝑡) (𝑡 − 𝑡0 )𝑒(𝑡) . 𝑘(𝑡 (𝑡¯ − 𝑡¯0 )𝑒(𝑡) Действительно, по определению (3.5) имеем Z 1 𝑘(𝑡0 , 𝑡) (𝐾𝜙)(𝑡0 ) = − 𝜙(𝑡)𝑑𝑡. 𝜋𝑖 𝑡 − 𝑡0 Γ Так как 𝑑𝑡 = 𝑒(𝑡)𝑑1 𝑡, где 𝑒(𝑡)−единичный касательный вектор, а 𝑑1 𝑡−элемент длины дуги, то 𝑑𝑡 = 𝑒(𝑡)𝑑𝑡/𝑒(𝑡) и значит оператор 𝐾 можно представить в ˜ 0 , 𝑡). виде (3.3) с функцией 𝑘(𝑡 Аналогично для сингулярного оператора Коши 𝑆 оператор 𝑆 записыва ется в форме (3.3) с 𝑘(𝑡0 , 𝑡) = − (𝑡 − 𝑡0 )𝑒(𝑡) . (𝑡¯ − 𝑡¯0 )𝑒(𝑡) Что касается оператора 𝑆𝐽 , то, очевидно, он совпадает с −𝑆𝐽 . Совершенно аналогично лемме 3.3 устанавливается следующий результат. Лемма 3.4. Пусть Γ ∈ 𝐶 1,𝜈 , тогда вместе с оператором 𝐾 вида (3.3) условию леммы 3.2 удовлетворяет и оператор 𝐾. Кроме того, каждый из операторов 𝑆 + 𝑆 и 𝑆𝐽 + 𝑆𝐽 представим в виде (3.3) и удовлетворяет усло виям этой леммы. Обозначим 𝐶R𝜇 (Γ) соответствующее пространство вещественных 𝑙− век тор–функций. Если ограниченный в 𝐶 𝜇 (Γ) оператор 𝑁 обладает свойством 𝑁 = 𝑁, (3.6) то он действует как R− линейный оператор 𝑁R в пространстве 𝐶R𝜇 (Γ) веще ственных функций. В случае его фредгольмовости индекс этого оператора понимается, конечно, по отношению к размерностям над полем R [79].

35 Лемма 3.5. Операторы 𝑁 и 𝑁R свойством фредгольмовости обладают одновременно и их индексы совпадают. Примером оператора, действующего в пространстве 𝐶R𝜇 (Γ), служит опе ратор 𝑅𝜙 = Re[𝐺(𝜙 + 𝑆𝜙 + 𝑁0 𝜙)], (3.7) где 𝑙×𝑙− матрица - функция 𝐺 ∈ 𝐶 𝜈 (Γ) и оператор 𝑁0 компактен в простран стве 𝐶 𝜇 (Γ). С учетом определения (3.5) и вещественности 𝜙 можем записать 2𝑅𝜙 = 𝐺(𝜙 + 𝑆𝜙 + 𝑁0 𝜙) + 𝐺(𝜙 + 𝑆𝜙 + 𝑁 0 𝜙), так что 𝑅 = 𝑁R по отношению к C− линейному оператору 2𝑁 = 𝐺(1 + 𝑆) + 𝐺(1 + 𝑆) + 2𝑁1 с компактным оператором 2𝑁1 = 𝐺𝑁0 +𝐺𝑁 0 . Очевидно, оператор 𝑁 обладает свойством (3.6) и в условиях леммы 3.4 может записан в форме (3.1) с 𝑎 = 𝐺, 𝑏 = 𝐺 и компактным оператором 2𝑁0 = 𝐺𝑁2 + 2𝑁1 . Поэтому теорема 3.2 совместно с леммой 3.5 приводит к следующему резуль тату. Теорема 3.3. Пусть Γ ∈ 𝐶 1,𝜈 , матрица–функции 𝐺 ∈ 𝐶 𝜈 (Γ) и опера тор 𝑁0 компактен в пространстве 𝐶 𝜇 (Γ). Тогда оператор (3.7) фредгольмов в пространстве 𝐶R𝜇 (Γ) тогда и только тогда, когда матрица 𝐺 обратима, и его индекс дается формулой 1 ind 𝑅 = − [arg det 𝐺]Γ , 𝜋 (3.8) где приращение [ ]Γ вдоль Γ берется в направлении, оставляющем область 𝐷 слева.

36 4 Задача Римана—Гильберта Пусть конечная область 𝐷 ∈ C ограничена гладким контуром Γ ∈ 𝐶 1,𝜈 , 0 < 𝜈 < 1. В этой области рассмотрим эллиптическую систему 𝑙 диф ференциальных уравнений первого порядка (1.1), которую для удобства за пишем в виде 𝐿𝐴 𝑈 (𝑧) + 𝑎(𝑧)𝑈 (𝑧) + 𝑏(𝑧)𝑈 (𝑧) = 𝐹 (𝑧), 𝐿𝐴 = 𝜕 𝜕 −𝐴 , 𝜕𝑦 𝜕𝑥 𝑧 ∈ 𝐷, (4.1) где постоянная матрица 𝐴 ∈ C𝑙×𝑙 не имеет вещественных собственных зна чений, 𝑙−вектор–функция 𝐹 (𝑧) и 𝑙 × 𝑙 матричные коэффициенты 𝑎(𝑧), 𝑏(𝑧) принадлежат классу 𝐶(𝐷) и под регулярным решением этой системы пони мается 𝑙−вектор–функция 𝑈 = (𝑈1 , . . . , 𝑈𝑙 ) ∈ 𝐶 1 (𝐷), удовлетворяющая этой системе тождественно. Пусть 𝐶−комплекснозначная 𝑙 × 𝑙 матрица блочной структуры ⎞ ⎛ 𝐶11 𝐶12 ⎠ , где 𝐶𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 𝑖, 𝑗 = 1, 2. 𝐶=⎝ 𝐶21 𝐶22 (4.2) В предположении что матрица–функция 𝐶(𝑡) ∈ 𝐶 𝜈 (Γ) рассмотрим кра евую задачу Римана–Гильберта Re 𝐶(𝑡)𝑈 (𝑡)+ |Γ = 𝑓 (𝑡), 𝑡 ∈ Γ. (5.3) Если матричные коэффициенты 𝑎, 𝑏 ∈ 𝐶 𝜇 (𝐷), 𝜇 < 𝜈, а правые части 𝐹 ∈ 𝐶 𝜇 (𝐷), 𝑓 ∈ 𝐶 𝜇 (Γ), то задачу (4.1)–(4.3) естественно рассматривать в классе 𝐶𝐴𝜇 (𝐷) = {𝑈 ∈ 𝐶 1 (𝐷) ∩ 𝐶 𝜇 (𝐷), 𝐿𝐴 𝑈 ∈ 𝐶 𝜇 (𝐷)}. Ниже, при доказательстве теоремы 4.1, будет установлено, что простран ство 𝐶𝐴𝜇 (𝐷) банахово относительно нормы |𝑈 |𝐶𝐴𝜇 (𝐷) = |𝑈 |𝐶 𝜇 (𝐷) + |𝐿𝐴 𝑈 |𝐶 𝜇 (𝐷) . (4.4)

37 В области 𝐷 задачу (4.1)–(4.3) будем называть фредгольмовой, если фредгольмов ее оператор, ставящий каждому решению 𝑈 в соответствие пару (𝐹, 𝑓 ) и действующий 𝐶𝐴𝜇 (𝐷) → 𝐶 𝜇 (𝐷) × 𝐶 𝜇 (Γ). Напомним, что согласно лемме 1.1. матрица 𝐵 ∈ C𝑙×𝑙 имеет следующую блочную структуру ⎛ 𝐵=⎝ 𝐵11 𝐵 12 𝐵21 𝐵 22 ⎞ ⎠, 𝐵𝑖𝑗 ∈ C𝑙𝑖 ×𝑙𝑗 , 𝑖, 𝑗 = 1, 2. Рассмотрим 𝑙 × 𝑙−матрицу–функцию 𝐺(𝑡) c блочными элементами вида 𝐺𝑖1 = 𝐶𝑖1 𝐵11 + 𝐶𝑖2 𝐵21 𝐺𝑖2 = 𝐶 𝑖1 𝐵12 + 𝐶 𝑖2 𝐵22 𝑖, = 1, 2. (4.5) Теорема 4.1. Пусть конечная область 𝐷 ограничена гладким конту ром Γ и матрица–функция 𝐶(𝑡) ∈ 𝐶 𝜈 (Γ). Пусть 𝑙 × 𝑙−матричные коэф фициенты 𝑎(𝑧), 𝑏(𝑧) ∈ 𝐶 𝜇 (𝐷), а правые части (4.1) и (4.3) принадлежат, соответственно, 𝐹 (𝑧) ∈ 𝐶 𝜇 (𝐷) и 𝑓 (𝑡) ∈ 𝐶 𝜇 (Γ). Тогда условие det 𝐺(𝑡) ̸= 0, 𝑡 ∈ Γ, (4.6) необходимо и достаточно для фредгольмовости задачи (4.1)–(4.3) в классе 𝐶𝐴𝜇 (𝐷) и ее индекс дается формулой 1 æ = − [arg det 𝐺]Γ + 𝑙, 𝜋 (4.7) где приращение [ ]Γ вдоль Γ берется в направлении, оставляющем область 𝐷 слева. Доказательство. С помощью линейной замены из теоремы 1.1 𝑈𝑖 = 𝐵𝑖1 𝜑1 + 𝐵𝑖2 𝜑2 , 𝑖 = 1, 2, (4.8) представим систему (4.1) в эквивалентном виде 𝐿𝐽 𝜑(𝑧) + 𝑐𝜑(𝑧) + 𝑑𝜑(𝑧) = 𝐹0 (𝑧), 𝐿𝐽 = 𝜕 𝜕 −𝐽 , 𝜕𝑦 𝜕𝑥 𝑧 ∈ 𝐷, (4.9)

38 по отношению к 𝑙−вектор–функции 𝜑 = (𝜑1 , 𝜑2 ). При этой подстановке 𝑙 × 𝑙−матричные коэффициенты 𝑎(𝑧), 𝑏(𝑧) пере ходят в 𝑙 × 𝑙−матричные коэффициенты 𝑐(𝑧), 𝑑(𝑧) ∈ 𝐶 𝜇 (𝐷), а правая часть 𝐹 (𝑧) ∈ 𝐶 𝜇 (𝐷) переходит в 𝐹0 (𝑧) ∈ 𝐶 𝜇 (𝐷), где 𝐹0 = 𝐵 −1 𝐹 = (𝐹1 , 𝐹2 ). Краевое условие (4.3) в обозначениях (4.8) примет вид Re 𝐺(𝑡)𝜑(𝑡)+ |Γ = 𝑓0 (𝑡), (4.10) где 𝑙−вектор–функция 𝑓 переобозначена в 𝑓0 . В самом деле, с учетом подстановки (4.8) перепишем (4.3) в виде Re[𝐶𝑖1 (𝐵11 𝜑1 + 𝐵12 𝜑2 )] + Re[𝐶𝑖2 (𝐵22 𝜑1 + 𝐵22 𝜑2 )] = 𝑓𝑖 , 𝑖 = 1, 2, или относительно 𝑙−вектор–функции 𝜑 = (𝜑1 , 𝜑2 ) получим Re(𝐶𝑖1 𝐵11 + 𝐶𝑖2 𝐵21 )𝜑1 + Re(𝐶 𝑖1 𝐵12 + 𝐶 𝑖2 𝐵22 )𝜑2 = 𝑓𝑖 , 𝑖 = 1, 2. Очевидно, в обозначениях (4.5) последнее равенство совпадает с условием (4.10). Заметим что, если 𝑈 (𝑧) ∈ 𝐶𝐴𝜇 (𝐷), то функция 𝜑(𝑧) принадлежит анало гичному классу 𝐶𝐽𝜇 (𝐷) = {𝜑 ∈ 𝐶 1 (𝐷) ∩ 𝐶 𝜇 (𝐷), 𝐿𝐽 𝜑 ∈ 𝐶 𝜇 (𝐷)}, зависящему от 𝐽. Таким образом, можно говорить, что задача (4.1)–(4.3) в классе 𝐶𝐴𝜇 (𝐷) эквивалентна задаче (4.9)–(4.10) в классе 𝐶𝐽𝜇 (𝐷), причем оператор этой зада чи действует 𝐶𝐽𝜇 (𝐷) → 𝐶 𝜇 (𝐷) × 𝐶 𝜇 (Γ). Напомним, что матрицы 𝐽𝑖 имеют жорданову форму (1.4) и согласно лемме 1.1 матрица 𝐽 треугольна. Убедимся, что любая функция 𝜑(𝑧) ∈ 𝐶𝐽𝜇 (𝐷) единственным образом представима в виде 𝜑(𝑧) = (𝐼𝐽1 𝜙)(𝑧) + (𝐼𝐽2 𝜓)(𝑧) + 𝑖𝜉, 𝜉 ∈ R𝑙 , (4.11)

39 с некоторой вещественной 𝑙−вектор–функцией 𝜙(𝑡) ∈ 𝐶R𝜇 (Γ) (здесь нижний индекс R указывает на то, что элементы соответствующего пространства яв ляются вещественными вектор–функциями), комплексной 𝑙−вектор–функцией 𝜓(𝑧) ∈ 𝐶 𝜇 (𝐷) и постоянным вектором 𝜉 ∈ R𝑙 . Действительно, подействуем оператором (4.4) на функцию 𝜑 𝐿𝐽 𝜑 = 𝐿𝐽 𝐼𝐽1 𝜙 + 𝐿𝐽 𝐼𝐽2 𝜓 + 𝐿𝐽 𝑖𝜉. Как показано в §2 функция 𝐼𝐽1 𝜙 аналитична по Дуглису, а согласно [83] 𝐿𝐽 𝐼𝐽2 𝜓 = 𝜓, (4.12) поэтому получаем 𝐿𝐽 𝜑 = 𝜓. Далее полагая 𝜑̃︀0 = 𝜑−𝐼𝐽2 𝜓, имеем 𝐿𝐽 𝜑̃︀0 = 𝐿𝐽 (𝜑− 𝐼𝐽2 𝜓) = 𝜓 −𝜓 = 0, следовательно, функция 𝜑̃︀ также является 𝐽−аналитичной и к ней можно применить представление (2.10) из теоремы 2.3. Таким образом существование этого представления доказано. Докажем его единственность. Предположим, что существуют 𝜙 ̂︀ ∈ 𝐶 𝜇 (Γ) и 𝜓̂︀ ∈ 𝐶 𝜇 (𝐷), такие, что 𝜑 = 𝐼𝐽1 𝜙 ̂︀ + 𝐼𝐽2 𝜓̂︀ + 𝑖𝜉, 𝜉 ∈ R𝑙 . Действуя оператором 𝐿𝐽 на последнее равенство, получим ̂︀ 𝐿𝐽 𝐼𝐽1 𝜙 ̂︀ + 𝐿𝐽 𝐼𝐽2 𝜓̂︀ + 𝐿𝐽 𝑖𝜉 = 𝜓, ̂︀ кроме того 𝐿𝐽 𝐼 1 (𝜙 − 𝜙) но 𝐿𝐽 𝜑 = 𝜓, а значит 𝜓 = 𝜓, ̂︀ = 0, таким образом, 𝐽 единственность доказана. Покажем, что относительно нормы |𝜑|𝐶𝐽𝜇 (𝐷) = |𝜑|𝐶 𝜇 (𝐷) + |𝐿𝐽 𝜑|𝐶 𝜇 (𝐷) пространство 𝐶𝐽𝜇 (𝐷) банахово. Как отмечено в §2, пространство 𝐶 𝜇 (𝐷) банахово в замкнутой области 𝐷 относительно нормы |𝜑|𝐶 𝜇 = sup𝐷 |𝜑(𝑧)| + [𝜑]𝜇 , где [𝜑]𝜇 −полунорма (2.5). Покажем, что 𝐿𝐽 𝜑𝑛 → 𝐿𝐽 𝜑, т.е. пространство 𝐶 𝜇 (𝐷) банахово относи тельно нормы |𝐿𝐽 𝜑|𝐶 𝜇 (𝐷) . Обозначим 𝐿𝐽 𝜑𝑛 = 𝜙𝑛 . Оператор 𝐼𝐽2 является пра вым обратным для 𝐿𝐽 и, согласно (4.12), 𝐿𝐽 𝐼𝐽2 𝜙𝑛 = 𝜙𝑛 , поэтому 𝐿𝐽 (𝜑𝑛 − 𝐼𝐽2 𝜙𝑛 ) = 0,

40 таким образом 𝜑0𝑛 = 𝜑𝑛 − 𝐼𝐽2 𝜙𝑛 есть последовательность 𝐽−аналитичных функций. В силу обобщенной формулы Коши легко показать, что простран ство 𝐽−аналитических функций полно, тогда 𝜑0𝑛 → 𝜑0 , где 𝜑0 −функция, аналитична по Дуглису. Согласно [83] оператор 𝐼𝐽2 : 𝐶 𝜇 (𝐷) → 𝐶 1,𝜇 (𝐷) огра ничен, поэтому 𝐼𝐽2 𝜙𝑛 → 𝐼𝐽2 𝜙 в 𝐶 𝜇 (𝐷). Значит 𝜑𝑛 → 𝜑, где 𝜑 = 𝜑0 + 𝐼𝐽2 𝜙. Таким образом |𝐿𝐽 (𝜑𝑛 − 𝜑)|𝐶 𝜇 (𝐷) = |𝐿𝐽 (𝜑0𝑛 + 𝐼𝐽2 𝜙𝑛 ) − 𝐿𝐽 (𝜑0 + 𝐼𝐽2 𝜙)|𝐶 𝜇 (𝐷) = |𝜙𝑛 − 𝜙)|𝐶 𝜇 (𝐷) → 0 и пространство 𝐶𝐽𝜇 (𝐷) относительно введенной нормы банахово . Так как классы 𝐶𝐽𝜇 (𝐷) и 𝐶𝐴𝜇 (𝐷) связаны линейной подстановкой (4.8) с постоянными коэффициентами, то, очевидно, пространство 𝐶𝐴𝜇 (𝐷) банахово относительно нормы (4.4). Подставим представление (4.11) в задачу (4.9)–(4.10), получим систему интегральных уравнений 𝐿𝐽 (𝐼𝐽1 𝜙 + 𝐼𝐽2 𝜓 + 𝑖𝜉) + 𝑐(𝐼𝐽1 𝜙 + 𝐼𝐽2 𝜓 + 𝑖𝜉) + 𝑑(𝐼𝐽1 𝜙 + 𝐼𝐽2 𝜓 − 𝑖𝜉) = 𝐹0 , Re 𝐺[(𝐼𝐽1 𝜙)+ + (𝐼𝐽2 𝜓)+ + 𝑖𝜉)] = 𝑓0 . Используя 𝐽−аналитичность функции 𝐼𝐽1 𝜙, и равенство (4.12) перепи шем первое уравнение системы 𝜓 + 𝑐𝐼𝐽1 𝜙 + 𝑑𝐼𝐽1 𝜙 + 𝑐𝐼𝐽2 𝜓 + 𝑑𝐼𝐽2 𝜓 + 𝑖(𝑐 − 𝑑)𝜉 = 𝐹0 . Обозначим оператор (𝐼𝐽2 𝜓)+ , действующий из области 𝐷 на контур Γ, через Z 1 (𝜁 − 𝑡0 )−1 (𝐼 𝜓)(𝑡0 ) = − 𝐽 𝜓(𝜁)𝑑2 𝜁, 𝜋𝑖 12 𝑡0 ∈ Γ, 𝜁 ∈ 𝐷, (4.13) 𝐷 где верхний индекс указывает на то, что этот оператор переводит двумерную функцию 𝜓(𝑧) в одномерную функцию (𝐼 12 𝜓)(𝑡0 ). Согласно теореме 4.2(a) он ограничен 𝐶 𝜇 (𝐷) → 𝐶 1,𝜇 (Γ).

41 Применяя формулы Сохоцкого–Племеля (2.9) ко второму уравнению этой системы, с учетом (4.13), получим Re 𝐺(𝜙 + 𝑆𝐽 𝜙) + 2Re 𝐺𝐼 12 𝜓 − 2Im 𝐺𝜉 = 2𝑓0 . Таким образом, задача (4.9)–(4.10) в классе 𝐶𝐽𝜇 (𝐷) эквивалентным обра зом редуцируется к следующей системе сингулярных интегральных уравне ний 𝜓(𝑧) + 𝑐(𝑧)(𝐼𝐽1 𝜙)(𝑧) + 𝑑(𝑧)(𝐼𝐽1 𝜙)(𝑧) + 𝑐(𝑧)(𝐼𝐽2 𝜓)(𝑧)+ +𝑑(𝑧)(𝐼𝐽2 𝜓)(𝑧) + 𝑖(𝑐(𝑧) − 𝑑(𝑧))𝜉 = 𝐹0 (𝑧), Re 𝐺(𝑡)(𝜙(𝑡) + 𝑆𝐽 𝜙(𝑡)) + 2Re (𝐺𝐼 12 𝜓)(𝑡) − 2Im𝐺(𝑡)𝜉 = 2𝑓0 (𝑡). Обозначим: 2𝑁11 𝜙 = Re 𝐺[𝜙 + 𝑆𝐽 𝜙], 𝑁21 𝜙 = 𝑐𝐼𝐽1 𝜙 + 𝑑𝐼𝐽1 𝜙, 𝐻1 (𝑡) = −Im 𝐺(𝑡), 𝑁12 𝜓 = Re 𝐺𝐼 12 𝜓, 𝑁22 𝜓 = 𝑐𝐼𝐽2 𝜓 + 𝑑𝐼𝐽2 𝜓 (4.14) 𝐻2 (𝑧) = 𝑖(𝑐 − 𝑑)(𝑧), тогда предыдущая система, относительно набора (𝜙, 𝜓, 𝜉) примет вид (𝑁11 𝜙)(𝑡) + (𝑁12 𝜓)(𝑡) + 𝐻1 (𝑡)𝜉 = 𝑓0 (𝑡), (𝑁21 𝜙)(𝑧) + 𝜓(𝑧)(1 + 𝑁22 ) + 𝐻2 (𝑧)𝜉 = 𝐹0 (𝑧). В краткой операторной форме, относительно 2𝑙−вектор–функции 𝜙 ̃︀ = (𝜙, 𝜓) и 𝑙−вектора 𝜉, систему запишем одним уравнением 𝑁𝜙 ̃︀ + 𝐻𝜉 = 𝑓 где операторные матрицы 𝑁 и 𝐻 имеют вид ⎛ ⎞ ⎛ ⎞ 𝑁11 𝑁12 𝐻 ⎠, 𝐻 = ⎝ 1 ⎠, 𝑁 =⎝ 𝑁21 1 + 𝑁22 𝐻2 (4.15) 𝑓 = (𝑓0 , 𝐹0 ).

42 Оператор уравнения (4.15) (𝑁, 𝐻) действует 𝐶R𝜇 (Γ) × 𝐶 𝜇 (𝐷) × R𝑙 → 𝐶 𝜇 (Γ) × 𝐶 𝜇 (𝐷), где, отметим, под пространством 𝐶 𝜇 (Γ) в правой части пони мается пространство комплексных 𝑙−вектор–функций. Рассмотрим подробно каждый из операторов 𝑁𝑖𝑗 , 𝑖, 𝑗 = 1, 2 в (4.14). Для оператора 𝑁11 в силу вещественности 𝑙−вектор–функции 𝜙 имеем 1 1 (𝑁11 𝜙)(𝑡) = Re 𝐺[𝜙(𝑡) + 𝑆𝐽 𝜙(𝑡)] = [𝐺(𝜙 + 𝑆𝐽 𝜙) + 𝐺(𝜙 + 𝑆𝐽 𝜙)](𝑡), 2 4 согласно рассуждениям §3, последнее равенство можно продолжить 1 (𝑁11 𝜙)(𝑡) = [𝐺(𝜙 + 𝑆𝐽 𝜙) + 𝐺(𝜙 − 𝑆𝐽 𝜙)](𝑡). 4 Согласно леммам 3.3, 3.4, в обозначениях §3, 𝑆𝐽 ∼ 𝑆, 𝑆𝐽 ∼ 𝑆, поэтому с точностью до компактного слагаемого, последнее равенство окончательно примет вид ̃︀ 𝜙)(𝑡) = 1 [𝐺(𝜙 + 𝑆𝜙) + 𝐺(𝜙 − 𝑆𝜙)](𝑡), (𝑁 4 где 1 (𝑆𝜙)(𝑡0 ) = 𝜋𝑖 Z 𝜙(𝑡)𝑑𝑡 , 𝑡 − 𝑡0 𝑡0 ∈ Γ Γ есть сингулярный интеграл Коши (2.6), который, как отмечено в §2, огра ̃︀ действует в пространстве 𝐶 𝜇 (Γ) вещественных ничен в 𝐶 𝜇 (Γ). Оператор 𝑁 R 𝑙−вектор–функций 𝜙 и, согласно выше сказанному, ограничен в этом про странстве. Что касается оператора (𝑁12 𝜓)(𝑡) = Re 𝐺(𝑡)(𝐼 12 𝜓)(𝑡), то он ограничен 𝐶 𝜇 (𝐷) → 𝐶 𝜈 (Γ) и компактен 𝐶 𝜇 (𝐷) → 𝐶 𝜇 (Γ). Как уже было отмечено выше оператор (𝐼𝐽2 𝜓)(𝑧) ограничен 𝐶 𝜇 (𝐷) → 𝐶 1,𝜇 (𝐷), а так как вложение 𝐶 1,𝜇 (𝐷) ⊂ 𝐶 𝜇 (𝐷) компактно, то оператор 𝐼𝐽2 : 𝐶 𝜇 (𝐷) → 𝐶 𝜇 (𝐷)−компактен, следовательно оператор 𝑁22 𝜓 = 𝑐𝐼𝐽2 𝜓 + 𝑑𝐼𝐽2 𝜓 компактен в этом пространстве. Согласно теореме 2.2 оператор 𝐼𝐽1 ограничен 𝐶 𝜇 (Γ) → 𝐶 𝜇 (𝐷), а значит ограничен и оператор 𝑁21 𝜙 = 𝑐𝐼𝐽1 𝜙 + 𝑑𝐼𝐽1 𝜙.

43 Таким образом, с точностью до компактного слагаемого оператор 𝑁 сов падает с оператором ⎛ 𝑁0 = ⎝ ̃︀ 𝑁 0 𝑁21 1 ⎞ ⎠. ̃︀ . Согласно лемме 3.1. оператор 𝑁0 фредгольмов, если фредгольмов 𝑁 Как показано в [60] все основные результаты классической теории сингуляр ̃︀ . С учетом теоремы 3.3 оператор ных операторов распространяются и на 𝑁 ̃︀ фредгольмов тогда и только тогда, когда выполнено условие (4.6). В част 𝑁 ̃︁, такой что ности, согласно теореме 3.1 (с) существует его регуляризатор 𝑀 ̃︀ 𝑀 ̃︁ ∼ 𝑀 ̃︁𝑁 ̃︀ ∼ 1. выполнено 𝑁 Но тогда непосредственно проверяется, что оператор ⎞ ⎛ ̃︁ 𝑀 0 ⎠ 𝑀0 = ⎝ ̃︁ −𝑁21 𝑀 1 служит регуляризатором к оператору 𝑁0 и, следовательно, оператор 𝑁0 фред гольмов. Так как операторы 𝑁 и 𝑁0 отличаются на компактное слагаемое, то согласно теореме 3.1(b) 𝑁 фредгольмов, а вместе с ним фредгольмова и исходная задача (4.1)–(4.3). Обратно, пусть задача (4.1)–(4.3) фредгольмова, так что фредгольмов и оператор 𝑁, а следовательно и 𝑁0 . Пусть 𝑀0 его регуляризатор, запишем его в блочном виде ⎛ 𝑀0 = ⎝ 𝑀11 𝑀12 𝑀21 𝑀22 ⎞ ⎠, ̃︀ 𝑀11 ∼ 𝑀11 𝑁 ̃︀ ∼ 1, что, тогда из соотношений 𝑁0 𝑀0 ∼ 𝑀0 𝑁0 ∼ 1 получим 𝑁 ̃︀ , и на основании теоремы 3.1 (c), приводит к фредгольмовости оператора 𝑁 в свою очередь, к справедливости условия (4.6). Чтобы установить формулу индекса (4.7), введем оператор 𝑁0 (𝑡), зави ̃︀ на 𝑡𝑁 ̃︀ в сящий от параметра 0 ≤ 𝑡 ≤ 1, который получается заменой 𝑁 определении оператора 𝑁0 . Те же соображения показывают, что оператор

44 𝑁0 (𝑡) также фредгольмов. Поскольку он непрерывно зависит от 𝑡, его индекс ̃︀ . Учитывая эти не зависит от 𝑡 и, в частности, ind 𝑁0 = ind 𝑁0 (0) = ind 𝑁 рассуждения и применяя снова теорему 3.1 (b) получим ̃︀ . ind 𝑁 = ind 𝑁0 = ind 𝑁 (4.16) ̃︀ выражается через индекс Коши мат Заметим, что индекс оператора 𝑁 ̃︀ = Ind 𝐺−1 𝐺, или, согласно теореме рицы–функции 𝐺(𝑡) по формуле ind 𝑁 ̃︀ = −2Ind 𝐺. 3.1(а), ind 𝑁 Пространство 𝐶R𝜇 (Γ)×𝐶 𝜇 (𝐷)×R𝑙 есть расширение пространства 𝐶R𝜇 (Γ)× 𝐶 𝜇 (𝐷) на 𝑙 измерений, поэтому на основании утверждения (e) теоремы 3.1 операторы (𝑁, 𝐻) и 𝑁 фредгольмово эквивалентны, а их индексы ind (𝑁, 𝐻) = ind 𝑁 + 𝑙. (4.17) Совместно с (4.16), (4.17) и (3.8) окончательно получаем формулу ин декса 𝑚 ∑︁ 1 æ = ind 𝑁 + 𝑙(2 − 𝑚) = − [arg det𝐺(𝑡)]|Γ𝑖 + 𝑙(2 − 𝑚), 𝜋 𝑖=1 которая и полностью завершает доказательство теоремы 4.1.

45 Литература 1. Agmon S. The approach to the Dirichlet problem// I. Ann. Scoula Norm. Sup. Pisa. – 1959. – V. 13. – P. 405–448. 2. Agmon S. Lectures on elliptic boundary value problems// Van Nostrand Mathematical Studies, Princeton New Jarsey-Toronto-New York-London. – 1965. 3. Agmon S. Milteple layer potentials and Dirichlet problem for higher order elliptic equation in the plane. I // Comm. Pure and Appl. Math. – 1957. – V. 10. – № 2. – P. 179—-239. 4. Agmon S., Douglis A., Nirenberg L. Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions// I. Comm. Pure Appl. Math. – 1964. – V. 12. – P. 623–727. 5. Agmon S., Douglis A., Nirenberg L. Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions// II. Comm. Pure Appl. Math. – 1964. – V. 17. – P. 35–92. 6. Beals R. Nonlocal elliptic boundary value problems // Bull. Amer. Math. Soc. – 1964. – 70. – № 5. – P. 693–696. 7. Bers L., John А. and Schechter M. Partial Differential Equations, Interscience Publishers, New York-London-Sydney, 1964. 8. Bers L. Theory of pseudo-analytic functions // Lecture Notes. N. Y., 1953. 9. Browder F. E. Estimates and existence theorems for elliptic boundary value problems// Proc. Nat. Acad. Sci. U.S.A. – 1959. – V. 45. – P. 365–372. 10. Browder F. E. A priori estimates for solutions of elliptic boundary value

46 problems// I, II, Proc. Kon. Nederl. Akad. Wetenschap. – 1960. – V. 22. – P. 145–159, 160–196; III, Indag. Math. – 1961. – V. 23. – P. 404–410. 11. Browder F. E. Non-local elliptic boundary value problems. // Amer. J. Math. – 1964. – V. 86. – P. 735–750. 12. Carleman T. Sur la theorie des equations integrales et ses applications // Verhandlungen des Internat. Math. Kongr. Zurich. – 1932. – V. 1. – P. 138–151. 13. Douglis, A.A., A function theoretic approach to elliptic systems of equations in two variables, Comm. Pure Appl. Math. – 1953. – V. 6. – P. 259–289. 14. Fichera G. Linear elliptic equations of higher order in two independent variables and singular integral equations, with applications to anisotropic inhomogeneous elasticity// Procees. of the Symp. «Part. Diff. Equations and Contin. Mech.» (Madison Wise, 1960). The Univ. of Wise. Pr., 1961. 15. Fichera G., Ricci P. E. The single layer potential approach in the theory of boundary value problems for elliptic equations // Lecture Notes in Math. Berlin — N. Y.: Springer – 1976. – V. 561. – P. 39–50. 16. Gilbert R. P. Constructive methods for elliptic equations // Springer Lecture Notes. – 1974. – V. 365. 17. Gilbert R. P. Hile G. N. Generalized hypcrcomplex function theory // Trans. Amer Math. Soc. – 1974. – V. 195. – P. 1—29. 18. Gilbert R. P., Buchanan J.L. First order elliptic systems, N.-Y., Ac. Pr., 1983. 19. Giraud G. Nouvelles méthode pour traiter certaines problèmes relatifs aux équations du type elliptique//J. de Math. – 1939. – V. 18. – P. 111–143. 20. Hilbert D. Grundzuge der Integralgleichungen. Leipzig Berlin., 1924.

47 21. Hormander L. Linear partial differential operators// Springer, Berlin Gottingen-Heidelberg, 1963. 22. Ieh, R. Z. Hyperholomorphic functions and higher order partial differentials equations in the plane /R.Z. Ieh// Pacific Journ. of Mathem. -– 1990. -– V. 142. – № 2. — P.379–399. 23. Roitberg, Ya.A. Homeomorphism theorems and a Green formula for general elliptic boundary problems with nonnormal boundary conditions / Ya.A. Roitberg // Mat. Sb. – 1970. – P. 83–125. 24. Roitberg, Ya.A. On the boundary values of generalized solutions / Ya.A. Roitberg // Mat. Sb. – 1971. – V. 86. – № 2. P. 248–267. 25. Roitberg, Ya.A. A theorem on a complete selection of isomorphism for elliptic Douglis-Nirenberg systems / Ya.A. Roitberg // Ukrain. Mat. Zh. – 1975. V. 27. – № 4. –P. 544–548. 26. Roitberg, Ya.A. On the existence of boundary values of generalized solutions to elliptic equations / Ya.A. Roitberg // Sibirsk. Mat. Zh. – 1979. – V. 20. – P. 386–396. 27. Schechter M. Integral inequalities for partial differential operators and functions satisfying general boundary conditions// Comm. Pure Appl. Math. – 1959. – V. 12. – P. 37–66. 28. Schechter M. General boundary value problems for elliptic partial differential equations// Comm. Pure Appl. Math. – 1959. – V. 12. – P. 457–486. 29. Schechter M. Remarks on elliptic boundary value problems// Comm. Pure Appl. Math. – 1959. – V. 12. – P. 561–587. 30. Schechter M. Negative norms and boundary problems// Ann. Of Math. – 1960. – V. 72. – P. 581-593.

48 31. Schechter M. A local regularity theorem// J. Math. Mech. – 1961. – V. 10. – P. 279–287. 32. Schechter M. Nonlocal elliptic boundary value problems// Ann. Scuola Norm. Sup. Pisa. – 1966. – V. 20. – № 2. – P. 421–441. 33. Wendlahd W. Elliptic systems in the plane. Pitman, London etc., 1979. 34. Абаполова Е. А., Солдатов А.П. К теории сингулярных интегральных уравнений на гладком контуре // Научные ведомости БелГУ. – 2010. – № 5 (76). – вып. 18. – C. 6–20. 35. Агранович М. С., Вишик М. И. Эллиптические задачи с параметром и параболические задачи общего вида// Успехи матем. наук. – 1964. – Т. 19. – Выпуск 3(117). – С. 53–161. 36. Бикчантаев И.А. Об одной краевой задаче для дифференциального урав нения эллиптического типа, Тр. сем. по краевым задачам. – 1971. – вы пуск 8. – С. 31–40. 37. Бикчантаев И.А. Некоторые краевые задачи для одного эллиптического уравнения, II, Изв. вузов. Матем. – 1973. – № 12. – С. 10–21. 38. Бицадзе А. В. Краевые задачи для эллиптических уравнений второго порядка. М. : Наука, 1966. 39. Боярский Б.В. Теория обобщенного аналитического вектора.–Annales Polon. Math. – 1966. – V. 17.– N 3.– P. 281–320. 40. Векуа И.Н. Новые методы решения эллиптических уравнений. М.—Л.: Гос- техиздат, 1948. 41. Векуа И.Н. Обобщенные аналитические функции. 2-ое изд., М., Наука, 1988.

49 42. Виноградов В. С. Граничная задача для эллиптической системы первого порядка на плоскости.// Дифференц. уравнения. – 1971. – Т. 7. – № 8. – С. 1440–1448. 43. Виноградов В. С. Об одном методе решения граничной задачи для эллип тической системы первого порядка на плоскости // ДАН СССР. – 1971. – Т. 201. – №4. – С. 767–770. 44. Виноградов В. С. О граничных задачах для эллиптических систем на плоскости с непрерывными коэффициентами // ДАН СССР. – 1976. – Т. 227. – №4. – С. 777–780. 45. Вишик М. И. О сильно эллиптических системах дифференциальных урав нений.// Матем. сборник. – 1951. – Т. 29(71). – № 3. – С. 615–676. 46. Вишик М. И. Об общих краевых задачах для эллиптических дифферен циальных уравнений// Тр. Моск. Мат. об-ва. – 1952. – Т. 1. – С. 187–246. 47. Волевич Л. Р. Разрешимость краевых задач для общих эллиптических систем. // Матем. сборник. – 1965. – Т. 68(110). – № 3. – С. 373–416. 48. Вольперт А.И. Нормальная разрешимость граничных задач для эллип стических дифференциальных уравнений на плоскости // Теор. и прикс. матем. – 1958. – Вып. 1. – С. 28–57. 49. Вольперт А.И. Об индексе и нормальной разрешимости граничных за дач для эллиптических систем дифференциальных уравнений на плоско сти.// УМН. – 1960. – Т. 15. – выпуск 3(93).– С. 189–191. 50. Гахов Ф. Д. Краевые задачи.–М.: ГИФМЛ, 1963. 51. Данилюк И.И. Нерегулярные граничные задачи на плоскости. М.: Наука, 1975.

50 52. Иохвидов, И. С. Ганкелевы и теплицевы матрицы и формы : Алгебраич. теория. — М.: Наука, 1974. — 263 с. 53. Кондратьев В.А. Краевые задачи для эллиптических уравнений в обла стях с коническими и угловыми точками // Т. Моск. матем. об-ва. – 1967. – Т. 16. – С. 202–292. 54. Жура Н. А. Об общем решении систем Лере — Дуглиса — Ниренберга с постоянными коэффициентами на плоскости // Докл. АН СССР. – 1993. – Т. 331. – № 5. – С. 546—549. 55. Кондратьев В.А., Олейник О.А. Краевые задачи для уравнений с част ными производными в негладуих областях // УМН. – 1983. – Т. 38. – №2. – С. 3–76. 56. Лопатинский Я.Б. Теория общих граничных задач.–Киев: Наук. думка, 1984. 57. Магнарадзе Л.Г. Основыне задачи плоской теории упругости для конту ров с угловыми точками // Тр. Тбилисск. матем. ин-та. – 1938. – Т. 4. – С. 43–76. 58. Мазья В.Г. Граничные интегральные уравнения. // Современные пробле мы математки. Фундаментальные направления.– Т.– 27 (Итоги науки и техн. ВИНИТИ АН СССР). – М.: 1988. – С. 131–228. 59. Миранда К. Уравнения с частными производными эллиптического типа. М.: ИЛ, 1957. 60. Мусхелишвили Н.И.Сингулярные интегральные уравнения. 3-е изд., М., Наука, 1968. 61. Назаров С. А., Пламеневский Б.А. Эллиптические задачи в областях с кусочно гладкой границей. М.: Наука, 1991.

51 62. Пале Р. Семинар по теореме Атьи-Зингера об индексею-М.:Мир, 1970. 63. Петровский И. Г. Лекции об уравнениях с частными производными. –М.: Физматгиз, 1961. 64. Радон И. О краевых задачах для логарифмического потенциала. // УМН. – 1946. – Т. 1. – вып. 3-4. – С.96–124. 65. Риман Б. Основы общей теории функций. ( В сочинениях). М. : ГТИ, 1948. 66. Ройтберг Я. А. Эллиптические задачи с неоднородными граничны ми условиями и локальное повышение гладкости обобщенных решений вплоть до границы// ДАН СССР. – 1964. – Т. 157. – № 4. – С. 798–801. 67. Ройтберг Я. А., Шефтель З. Г. Формула Грина и теорема о гомеоморфиз мах для эллиптических систем// Успехи матем. наук. – 1967. – Т. 22. – Выпуск 5(137). – С. 18–182. 68. Ройтберг Я. А., Шефтель З. Г. Теорема о гомеоморфизмах для эллипти ческих систем и ее приложения// Матем. сборник. – 1969. – Т. 78(120). – № 3. – С. 446–472. 69. Сакс Р.С. Краевые задачи для некоторых систем, приводимых к эллип тическим.// Дифференц. уравнения. – 1974. – Т. 10.– № 1– С. 132–142. 70. Сакс Р.С. Краевые задачи для эллиптических систем дифференциальных уравне- ний. Новосибирск: Изд-во НГУ, 1975. 71. Сиражудинов М.М. О задаче Римана–Гильберта для эллиптических си стем первого порядка в многосвязной области. // Матем. сб. – 1993. – Т. 184. – № 11. – С.39–62.

52 72. Сиражудинов М.М. Магомедов А. Г. , Магомедова В. Г. Краевые зада чи для общих эллиптических систем на плоскости. 2. // Изв. РАН, сер. матем. – 2000. – №2. 73. Солдатов А. П. Эллиптические системы высокого порядка // Диффе ренц. уравнения. – 1989. – Т. 25. – № 1. – С. 136–142. 74. Солдатов А. П. Общая краевая задача (𝑘 − 1)−порядка для эллиптиче ских уравнений // ДАН СССР. – 1990. – Т. 311. – № 1. – С. 39–43. 75. Солдатов А. П. Общая краевая задача для эллиптических систем // ДАН СССР. – 1990. – Т. 311. – №3. – С. 539–543. 76. Солдатов А. П. Одномерные сингулярные операторы и краевые задачи теории функций. М. : Высш. шк, 1991. 77. Солдатов А.П., Метод теоpии функций в кpаевых задачах на плоскости. I. Гладкий случай // Изв. РАH СССР"(сеp.матем.) – 1991. – T. 55. – № 5. – C.1070–1100. 78. Солдатов А.П. Гипераналитические функции и их приложения: учебное пособие. Белгород : Белгородский гос. ун-т, 2006. 79. Солдатов А.П. Сингулярные интегральные операторы и эллиптические краевые задачи. // Современные проблемы математики. Фундаменталь ные направления. – 2017. – Т. 63. – С. 1–189. 80. Солдатов А.П. Эллиптические системы второго порядка на полуплоско сти. // Известия РАН (сер. матем.) – 2006. – Т. 70. – № 6 – С. 161–192. 81. Солонников В. А. Об общих краевых задачах для систем, эллиптических в смысле Дуглиса–Ниренберга// Изв. АН СССР. Сер. матем. –1964. – Т. 28. – № 3. –С. 665–706.

53 82. Солдатов А.П., О.В. Чернова К теории эллиптических систем первого порядка.// Доклады Адыгской (Черкесской) Международной академии наук.– 2009. – Т. 11. – №1. – С. 79–83. 83. Солдатов А.П., Чернова О.В., Задача Римана–Гильберта для эллиптиче ской системы первого порядка в классах Гельдера // Научные ведомости БелГУ.–2009.– № 13(68). – вып. 17/2. – С. 115–120.

Рецензии:

Авторизуйтесь, чтобы добавить рецензию

- у работы пока нет рецензий -

Отзывы:

Авторизуйтесь, чтобы оставить отзыв