Полулинейные вырождающиеся эллиптические уравнения тема диссертации и автореферата по ВАК РФ 01.01.02, доктор физико-математических наук Нгуен Минь Чи

• Нгуен Минь Чи
• доктор физико-математических наук
• 2006

Оглавление диссертации доктор физико-математических наук Нгуен Минь Чи

ЧАСТЬ 1. БЕСКОНЕЧНАЯ ДИФФЕРЕНПИРУЕМОСТЬ

РЕШЕНИЙ.

ГЛАВА 1. НЕРАВНОМЕРНО ФУНДАМЕНТАЛЬНЫЕ

РЕШЕНИЯ И НЕОГРАНИЧЕННЫЕ РЕШЕНИЯ ОДНОРОДНЫХ ЛИНЕЙНЫХ ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

1.1. Основные определения, гипергеометрические функции.

1.2. Случай конечного вырождения.31'

1.3. Случай бесконечного вырождения.

ГЛАВА 2. ГЛАДКОСТЬ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ

ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

2.1. Вспомогательные утверждения.

2.2. Полулинейное уравнение типа Хёрмандера.

2.3. Полулинейные гипоэллиптические уравнения высшего порядка.

2.4. Полулинейное уравнение типа Джилиоли-Трева.

2.5. Уравнение с бесконечным вырождением.

ЧАСТЬ 2. АНАЛИТИЧНОСТЬ РЕШЕНИЙ.

ГЛАВА 3. НОВОЕ ДОКАЗАТЕЛЬСТВО АНАЛИТИЧНОСТИ И РЕГУЛЯРНОСТИ ПО ЖЕВРЕЮ РЕШЕНИЙ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

3.1. Леммы Фридмана.

3.2. Пространство Гёльдера с весом.

3.3. Оценки Дуглиса-Ниренберга.

3.4. Новый аргумент в доказательстве аналитичности и регулярности по Жеврею решений.

ГЛАВА 4. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО ЖЕВРБЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ УРАВНЕНИЙ ТИПА МИЗОХАТЫ.

4.1. Фундаментальное решение и формула представления.

4.2. Бесконечная дифференцируемость решений.

4.3. Аналитичность и регулярность по Жеврею.

ГЛАВА 5. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО ЖЕВРЕЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ УРАВНЕНИЙ ТИПА ДЖИЛИОЛИ-ТРЕВА.

5.1. Модельное уравнение типа Грушина на плоскости.

5.2. Уравнение типа Джилиоли-Трева.

ГЛАВА 6. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО

ЖЕВРЕЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ

УРАВНЕНИЙ КОНА-ЛАПЛАСА НА

ГРУППЕ ГЕЙЗЕНБЕРГА.

6.1. Полулинейное уравнение Кона-Лапласа.

6.2. Фундаментальное решение оператора

Кона-Лапласа.

6.3. Регулярность по Жеврею решений.

ЧАСТЬ 3. ГЛОБАЛЬНЫЕ СВОЙСТВА РЕШЕНИЙ.

ГЛАВА 7. СУЩЕСТВОВАНИЕ НЕТРИВИАЛЬНЫХ РЕШЕНИЙ КРАЕВОЙ ЗАДАЧИ ДЛЯ ПОЛУЛИНЕЙНЫХ ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

7.1. Теоремы вложения типа Соболева.

7.2. Теоремы об существовании решений.

ГЛАВА 8. НЕСУЩЕСТВОВАНИЕ НЕТРИВИАЛЬНЫХ РЕ

ШЕНИЙ КРАЕВОЙ ЗАДАЧИ И РЕГУЛЯРНОСТЬ

РЕШЕНИЙ ВБЛИЗИ ГРАНИНЫ.

8.1. Обобщённые тождества Похожаева и теоремы об несуществовании решений.

8.2. Гладкость решений краевой задачи вблизи границы.

Введение диссертации (часть автореферата) на тему «Полулинейные вырождающиеся эллиптические уравнения»

1. С ранних исследований дифференциальных уравнений с частными производными, теория эллиптических уравнений играла важную роль (см. Пуанкаре [164], Гильберт [116], Бернштейн [59] и Бре-зис-Браудер [71]). Центральными задачами в теории эллиптических уравнений и эллиптических систем были проблемы гладкости решений (свойство бесконечной дифференцируемости и аналитичности решений) и теория краевых задач. Не случайно, что эти проблемы связаны с 2 задачами из 23 задач Гильберта (см. [34], Олейник [31], Миранда [154] и Ерезис и Браудер [71]). В первой половине прошлого века крупные результаты в теории линейных и нелинейных эллиптических уравнений были достигнуты в великолепных работах (см. Петровский [163], Вишик [3], Лопатинский [23], Де Джорджи [84], Агмон, Дуглис, и Ниренберг [46], [47], Браудер [73], .). Многими свойствами эллиптических операторов обладают и широкие классы вырождающихся эллиптических (в. э.) операторов, которые изучаются интенсивно с середины 50-60 годов до настоящего дня. Мы коротко напомним главные результаты и историческое развитие в теории вырождающихся эллиптических уравнений, которые имеют близкое отношение к теме диссертации.

2. Бесконечная дифференцируемость решений. Теория гипоэллип-тических дифференциальных операторов берущая своё начало в работах Колмогорова [138], Вейля [226], Шварца [179] и Хёрмандера [118] является одним из важнейших разделов общей теории дифференциал-ных уравнений с частными производными. Основной задачей этой теории является выяснение структуры символов гипоэллиптических операторов. Грубо говоря, оператор P(x,D) с бесконечно дифференцируемыми коэффициентами является гипоэллиптическим оператором если из бесконечной дифференцируемости правой части вытекает бесконечная дифференцируемость обобщённых решений. Гипоэллип-тическими являются все эллиптические операторы. Для гипоэллиптических операторов с постоянными коэффициентами хорошо известны необходимые и достаточные условия. Оператор (в М") с постоянными коэффициентами Р(И) гипоэллиптичен тогда и только тогда существуют константы (7, в > 0 что для всех мульти-индексов а = (аь., ап) справе-длива оценка где £ Е Шп,С ^ |£|. Найменьшее число s (всегда достигается) в (0.0.1) называется показателем гипоэллиптичности оператора P(D). Имеется также некоторая формула для вычисления показателя гипоэллиптичности (см. Шилов [44]). Он оказывается рациональным и не меньше, чем единицу. Для операторов с переменными коэффициентами известны только отдельные достаточные условия, позволяющие устанавливать гипоэллиптичность различных классов операторов. Если оператор Р(х, D) имеет постоянную силу и при любом фиксированном х = хо £ ii оператор с постояными коэффисиентами P{xq1D) гипоэллиптичен, то гипоэллиптичен и оператор P(x,D). Однако, условие посто янной силы не является необходимым, например для уравнения в работе Колмогорова [138] в явном виде было найдено фундаментальное решение, которое является бесконечно дифференцируемой функцией вне диагонали. Отсюда следует, что оператор К гипоэллиптичен. Поэтому, естественно возникла задача об нахождении достаточных условий гипоэллиптических операторов, не обладающих постоянной силой. Трев [195], [196] и Хёрмандер [119] (см. также Егоров [16] и Тэйлор [193]) впервые доказали гипоэллиптичность операторов с медленно меняющейся силой, т. е. операторы удовлетворяющие следующим условиям:

Как сразу видно, класс операторов с медленно меняющейся силой обобщает класс операторов с постоянной силой. С развитием теории

0.0.1) з дифференциальных уравнений в частных производных, мощное понятие псевдодифференциальных операторов были введено в работах Маслова [24], и Кона, Ниренберга [133]. Понятие гипоэллиптичности можно естественно обобщить для них. Результаты об гипоэллиптиче-с'ких псевдодифференциальных операторах с медленно меняющейся силой получены в работах Хёрмандера [120] и Егорова [14]. Позже в работах Хёрмандера [121], [124] и Егорова [15], [16] был обнаружен очень важный подкласс гипоэллиптических операторов, а именно класс субэллиптических операторов, которые охватывают почти все гипоэ-ллиптические операторы с простыми характеристиками. Однако, до настоящего времени мы знаем ещё не много о структуре гипоэллиптических операторов с кратными характеристиками. Эта проблема привлекает большое внимание специалистов (см., например, Хёрмандер [122], Олейник и Радкевич [32], Кон [135], Шёстранд [182], Буте де Монвель, Григис и Хелффер [67], Фефферман и Фонг [92], Маскарело и Родино [148], . и ссылки там же). Фундаментальную роль в исследовании таких операторов сыграла работа Хёрмандера [122] о гипоэллиптичности оператора вида к

Р(х, D) = X? + Х0 + с(х), (0.0.2) i=i где с(х) G С°°(П) a Xq,Xi, . ,Xk - гладкие вещественные векторные поля в О и ранг алгебры Ли, порожденной полями Xq, ., X& равен размерности пространства R" в каждой точке О. Ротшильдом и Стей-ном [176] построен параметрикс для оператора (0.0.2). Большой цикл по гипоэллиптичности оператора вида

P(x,D) = at(x)X\ где i — (¿1,., ¿г) - мулти-порядок, XL = Xtl. .Xir, |t| = г, ц принимают значение от 1 до к, составляют работы Хелффера и Нурига [114] и Ротшильда [175]. Грушин [11] - [13] расмотрел гипоэллиптичность квазиоднородных операторов. Он впервые заметил дискретное явление: гипоэллиптичность семейства операторов нарушена на дискретном множестве параметров. Простейшим примером такого явления является множество операторов, зависящих от одного комплексного параметра А, на плоскости д2 д2 д

Оператор Gi,a является гипоэллиптическим тогда и только тогда, когда А ф 2N + 1, где N - целое число. Дальнейшим изучением дискретных явлений для множества операторов с конечным вырождением занимаются многие математики, в том числе Джилиоли и Трев [105], Меникофф [151], [152], Маскарело и Родино [147], Шёстранд [181] -[183], Хёрмандер [123], . и ссылки там же. Федий [36] и последовательно Моримото [156], и Моримото и Мориока [157] рассмотрели гипоэллип-тические операторы с бесконечым вырождением. Недавно, Хосиро [126] и Ягджан и Рейсиг [172] обнаружили дискретное явление для множества операторов с бесконечным вырождением.

2. Аналитичность решений. Свойство аналитичности решенй нелинейных эллиптических уравнений изучалось с начала двадцатого века. Эта проблема является одной из 23 знаменитых гипотез Гильберта. Она была решена Берштейном [59] для одного эллиптического уравнения второго порядка с двумя перемеными. Затем к концу 50 годов многие математики, в том числе, Жеврей [104], Жиро [107], Радо [171], Берштейном [61], Леви [142], Петровский [163], Моррей [158], Фридман [98], развили этот результат до полной общности. Установлено, что решение эллиптической системы любого порядка с любым числом переменных аналитично, если правая часть аналитична. В последующих годах исследование в этом направлении сосредоточено на линейные аналитически гипоэллиптические уравнения с аналитическими коэффициентами. Обзор результатов по проблеме аналитичности, полученных до 1940 г., содержится в статье Бернштейна и Петровского [2], до 1969 г. - в статье Олейник [31], до 1986 г., в статье Волевича и Олейник [8]. Грубо говоря, линейный оператор Р(х, Л) с аналитическими коэффициентами является аналитически гипоэллиптическим (з-гипоэллиптическим), если из аналитичности (в-регулярности по Жеврею) правой части следует аналитичность (я-регулярпость по Жеврею) решений. Здесь предполагаем, что в Е [1,оо). Из выше сказанного очевидно, что линейные эллиптические операторы с аналическими коэффициентами являются аналитически гипоэллиптическими. Аналитичность решений эллиптических псевдодифференциальных уравнений и систем доказана в работах Кре и Буте де Монвел:я [68] и Волевича [7]. Условие эллиптичности являет ся необходимым для аналитической гипоэллиптичности только в двух случаях. Петровский [163] (см. также [125], [16]) показал, что для линейных дифференциальных операторов с постоянными коэффициентами условие эллиптичности является и необходимым для аналитической гипоэллиптичности. Если Р{0) - гипоэллиптический оператор то он является бо-гипоэллиптическим, где во - показатель гипоэллиптичности Р{Р). Каннай [131] установил, что для обыкновенных дифференциальных операторов с аналитическими коэффициентами, условие эллиптичности также является необходимым для аналитической гипоэллиптичности. Однако, это условие не является необходимым в более общих ситуяциях. Мизохата [155] исследовал аналитичность решений линейных уравнений первого парядка с комплексными коэффициентами. Оператор, изучаемый Мизохатой, можно считать оператором Коши-Римана с вырождением. Трев [197] г [199] изучает необходимые и достаточные условия для аналитической гипоэллиптичности в классе операторов главного типа. В случае дифференциальных операторов главного» типа с аналитическими коэффициентами имеется достаточное условие аналитической гипоэллиптичности, формулируемое в терминах главного символа исходного оператора. В случае операторов, имеющих кратные характеристики, вопрос об условиях аналитической гипоэллиптичности существенно усложняется. Грушин [11] - [13] доказал аналитичность решений эллиптических уравнений вырождающихся на некотором подмногобразии. Для класса операторов, рассмотренных Грушиным в [11], необходимое условие для аналитической гипоэллиптичности оказывается и достаточным. Дериджи и Зуйли [85], [86], [228] рассмотрели регулярность по Жеврею решений уравнений типа суммы квадратов Хёрмандера. В течение некоторого времени считают, что для опраторов типа суммы квадратов Хёрмандера условие гипоэллиптичности также является условием аналитической гипоэллиптичности. Однако, Бауенди и Галауик [51] показали что оператор +х2— + — в М3 дх2 ду2 дг2 не является аналитически гипоэллиптическим. Этот оператор являет ся я-гипоэллиптическим только при э > 2. Трев [200] и Тартакофф [190] независимо друг от друга установили аналитическую гипоэллиптич-ность операторов, возникающих при изучении 5-задачи Неймана, частным случаем которых является оператор Кона - Лапласа на группе Гейзенберга. Окази [170] и Родино [174] опровергнули гипотезу Шварца, приведя пример аналитически гипоэллиптического оператора не являющегося д-гипоэллиптическим при в > во, где во есть некоторое вещественное число больше, чем единицу. Крист [80], [81] и Бове и Тартакофф [69] установили некоторые результаты на оптимальные показатели в я-гипоэллиптичности. Недавно, Трев [202] выдвинул гипотезу об аналитической гипоэллиптичности дифференциальных операторов второго порядка. Обзор по этой теме до сего дня имеется в [70], [203]. Хотя результаты в изучении аналитической гипоэллиптичности и я-гипоэллиптичности линейных дифференциальных операторов не до-стигнули совершенного уровня, но они уже являются достаточно тонкими. Однако, до настоящего времени изучение аналитически гипоэ-ллиптических и з-гипоэллиптических нелинейных операторов остаётся совсем не тронутым (не давно вышла работа Тартакоффа и Зангитари [192] на эту тему).

4. Краевые задачи. Интенсивное изучение краевых задач, между прочим, также связано с одной из гипотез Гильберта. Результаты в этом направлении громадны, так что невожмозно дать краткий обзор. Общие краевые задачи для линейных эллиптических уравнений изучились в многих работах, см. например Бернштейн [60], Лебег [143], Шаудер [177], Вишик [3], Олейник [30], Шапиро [180], Лопатин-ский [23], Агмон, Дуг лис, и Ниренберг [46], [47], Браудер [73], Шехтер [178], Агранович [1], Кальдерон [77], Лионе и Мадженес [144], Вишик и Грушин [4], . и ссылки там же. Краевые задачи для нелинейных эллиптических уравнений исследовались в работах Лерэ и Шаудера [140], Ниренберга [161], Гельфанда [9], Браудера [74] - [75], Похожаева [165] - [167], Лерэ и Лионса [141], Серрина [184], Ладыженской [22], Амбросетти и Рабиновича [48], Эванса [90], Брезиса и Ниренберга [72], Скрупника [185], Гильбарга и Трудингера [106], . и ссылках там же. Среди многих средств для изучения нелинейных краевых задач вариационный метод занимает особое место. Здесь именно мы сделаем ударение только на использование такого метода в исследовании нелинейных краевых задач. В работе Похожаева [166] рассматривает ся следующая краевая задача: г

Аи + ир = 0 в П и > О в п (0.0.3) 0 где 1<p<oohîî - ограниченная область с гладкой границей в Мп. Похожаев показал что если п = 2,1 < р - любое или п > 3,1 < р < то задача (0.0.3) всегда имеет решение. Однако, если п>3,р> и ÎÎ звёздная то задача (0.0.3) не имеет решений. При п > 3 показатель ро = играет очень важный роль в задаче (0.0.3) и называется критическим для задачи (0.0.3). Оно тесно связано с критическим значением q'o = в теореме вложения Соболева. Напомним, что если п = 2, то пространство Щ(£1) всегда вложено в ¿^(iî). Если п > 3, то пространство Щ(0) вложено в тогда и только тогда, когда 1 ^ р

Если 3 ^ п, 1 ^ р < Ро, то вложение является компактным. Задача (0.0.3) тоже связана с проблемой нахождения найлучшей константы в теореме вложения Соболева (см. Аубин [50] и Таленти [188], [189]). Амбросетти и Рабинович [48] изучили краевую задачу типа (0.0.3) но с ир замененным на up+f(x,u). Если 1 < р < и f(x,u) - хорошое возмущение, то у них также имеется теорема об существовании решений. А если fix,и) - нечётное, то существуют даже бесконечно много решений. Отметим, что в рассмотренных случаях компактность вложения влечёт за собой выполнение условий типа Палея - Смейля. В последние 30 лет специалисты начали рассмотреть краевые задачи для в. э. уравнений. Максимальный принцип, неравенство Харнака и гладкость слабых решений для гипоэллиптического оператора типа суммы квадратов Хёрмандера изучаются в работах Вони [64] - [66]. В работе Джерисона [127] рассмотрена задача Дирихле для линейных уравений Грушина и вещественных уравений Кона - Лапласа на группе Гейзен-берга. Как заметил Джерисон, вопрос об гладкости решений вблизи границы очень сложен и имеет глубокую связь с проблемой регулярности решений краевой задачи для эллиптических уравнений в негладких областях, изучаемых в работах Кондратьева [19], [20], Кондратьева и Олейник [21], Назарова и Пламеневского [29], Козлова, Мазьи и Россманна [139], . и ссылках там же. Эта проблема ожидает много интересных исследований и полное его изучение будет требовать применения новых техник. Немножко спустя, Джерисон и Ли [128] изучили проблему Ямабэ на группе Гейзенберга. Заметим, что эта проблема касается краевой задачи для нелинейных в. э. у. Теорема вложения пространств Соболева с весом присоединенных с в. э. операторами доказана в работе Капогна, Даниели и Гарофало [78]. Задача Дирихле для вещественного полулинейного оператора Кона - Лапласа на группе Гейзенберга исследуется в работе Гарофало и Ланконели [103]. Краевые задачи для полулинейных гипоэллиптических операторов типа суммы квадратов Хёрмандера рассмотрены Су [227] и Томас [194]. Недавно, критический показатель для краевой задачи для уравнения смешанного типа Трикоми обнаруживается в работе Лупо и Пауне [145]. Задача Дирихле для систем в. э. уравнений изучается в работах Чыонга и Кэ [82], [83]. Наконец, локальная разрешимость полулинейных в. э. уравнений рассматривается в ра-боте Грамчев и Родино [108]. Теперь передём к краткому описанию содержания диссертации.

5. Настоящая работа посвящена изучению полулинейных вырождающихся эллиптических уравнений. Она состоит из введения, трёх частей с восьмью главами и литературы.

В первой части исследуется бесконечная дифферепцируемость решений в. э. у. Она состоит из двух глав.

В главе 1 изучаются необходимые условия гипоэллиптичности в. э. операторов методом построения негладких (неограниченных) решений соответствующих однородных уравнений. Она состоит из трёх параграфов.

В параграфе 1.1 вводятся основные определения об пространстве функций Жеврея, гипоэллиптичности, аналитической гипоэллиптичности, я-гипоэллиптичности (по Жеврею). Такие понятия обсуждают ся в пункте I для линейных операторов, а в пункте II для нелинейных операторов. В пункте III этого параграфа приводятся короткие необходимые сведения об гипергеометричеких функциях Гаусса и Аппеля.

В параграфе 1.2 построены неограниченные решения однородного уравнения с конечным вырождением. В пункте I докажем • вспомогательные леммы. В пункте II этого параграфа формулируются и доказываются главные результаты. Отметим, что неограниченные решения однородного уравнения Кона - Лапласа на группе Гейзен-берга были конструированы Фолландом и Стейном в [94].

В параграфе 1.3 построены неограниченные решения однородного уравнения с бесконечным вырождением. Для семейств рассмотренных здесь операторов даются неограниченные решения во всех случаях где гипоэллиптичность нарушена. В этом параграфе предварительно доказываются вспомогательные леммы. Затем в пункте I формулируют ся главные теоремы. В пунктах II и III приводятся доказательства результатов, сформулированных в пункте I. Отметим, что из построения негладких решений в параграфах 1.2 и 1.3 вытекают не только необходимые условия для гипоэллиптичности но и необходимые условия для аналитической гипоэллиптичности и s-гипоэллиптичности для изучаемых классов в. э. операторов.

Глава 2 посвящена изучению достаточных условий гипоэллиптичности в. э. у. . Она состоит из пяти параграфов.

В параграфе 2.1 вводятся необходимые сведения об максимально 5-гипоэллиптичности операторов, построенных из заданных вещественных полей. Сформулируются условия Н, (Н)|, (K)f, (K')f. Конструкция поднятия векторных полей Ротшилдом и Стейном в [176] тоже напоминается.

В параграфе 2.2 доказывается гипоэллиптичность полулинейного оператора второго порядка, являющегося обобщением оператора типа суммы квадрата, рассмотренного Хёрмандером в [122]. Для получения результатов мы используем метод априорных оценок и наличие пара-метрикса линейной части изучаемого оператора.

В параграфе 2.3 изучается максимально ö-гипоэллиптичность в. э. у. высшего порядка, построенных из заданных вещественных полей. В пункте I этого параграфа доказываются максимально j-гипоэллипти-чность рассмотренных операторов при выполнении условий (Н)ь (K)f. Прямым методом установлены априорные оценки в этом случае. Отметим, что если I = 2, то требуется только условие (Н)2, так как в этом случае выполнение условия (Н)2 влечёт за собой условие (K)5j. В пункте II доказывается максимально ^-гипоэллиптичность операторов четвёртого порядка при выполнении только условия (Н)з. Сначала выведены априорные оценки для гипоэллиптичности рассмотренных операторов. Затем на основе только что доказанного можно установить максимально ^-гипоэллиптичность использованием техникой поднятия векторных полей, введенной в параграфе 2.1. Для иллюстрации полученных резултатов приведены примеры в обоих случаях.

В параграфе 2.4 методом использования фундаментального решения доказывается бесконечная дифференцируемость решений полулинейного уравнения, главная часть которого суть линейный оператор, рассмотренный Джилиоли и Тревом в [105]. Отметим, что даже для линейного случая это новое доказательство отличается от доказательства предложенного Джилиоли и Тревом.

В параграфе 2.5 изучается сравнительно новый класс уравнений с бесконечным вырождением. Через преобразование Фурье конструированы параметриксы для рассматриваемого уравнения. Гладкость решений: отсюда „вытекает. Как побочный продукт получаем также локальная разрешимость и локальная неразрешимость рассматриваемого уравнения.

Переходим к описанию второй части работы. Она занимается изучением аналитичности решений полулинейных в. э. у. Метод, использованный в исследовании эллиптических уравнений обобшается для достижения результатов. Настоящий метод впервые применяется для изучения полулинейных в. э. у. Предложенный метод, который будет проведён по индукции, основан на три главных этапах. Первый этап заключается в нахождении точного или даже приблизительного фундаментального решения главной (линейной) части изучаемого уравнения. С найденным фундаментальным решением можно написать интегральную формулу представления решения через нелинейную часть уравнений. Эта интегральная формула будет содержать два слагаемого: интегралы в области и на границе. На втором этапе оценим производные нелинейной части, зная в предположении индукции оценки младших производных решений. На заключителпном этапе определяем подходящие метрику и функциональное пространсрво. Часто, выбор метрики будет зависить от свойства найденного на первом этапе фундаментального решения. Теперь по выбранной метрике, для данной точки окружаем её некоторой фигурой, которую подберём как проше как можно. Во всех ситуяциях, где мы изучаем, в качестве фигуры достаточно выбрать квадрат или куб с пропоциональными сторопами.

Используя формулу представления выведенную на первом этапе можно выразить высшие производные решений в данной точке через сумму интегралов в области и на границе выбранной раньше нами фигуры. Как правило, интеграл по области хорошо оценивается. Главная трудность, которая отсутствует при изучении эллиптических уравнений, заключается в оценке интеграла на границе. Чтобы бороться с ней, нужно интегрировать по частям. При интегрировании по частям существенно используются специфики исследуемого уравнения. Это и есть центральная причина выбора простой фигуры (если граница состоит из прямых или плоских поверхностей, то легко интегрировать по частям). И выбор удобных пространств зависит от выкладок проделанных в этом месте. Кроме того, чтобы оценить подынтегральные функции, нужно выбрать фигуру в зависимости от точки, которую она окружает. В конце концов, нам хотелось установить оценки высших производных решений, которые удовлетворяли условиям леммы Фридмана. Применение этой леммы даёт нам нужные результаты. Теперь приступим к описанию четырёх глав содержащихся в этой части.

Глава 3 касается аналитичности решений нелинейных эллиптических уравнений. Здесь результаты хотя являются известными, но метод для их получения улучшается. Мы следуем методу Фридмана, но на заклютительном этапе применяем новый аргумент.

Глава 3 состоит из трёх параграфа. В параграфе 3.1 устанавливаются некоторые леммы Фридмана. Заметим, что здесь некоторые формулировки оригинальных лемм Фридмана улучшаются. Приведём доказательство очень важной леммы Фридмана (на самом деле, следствие 3.1.1), которое отсутствует в работах [97], [98] Фридмана.

В параграфе 3.2 определены пространства Гёльдера с весом и перечислены его свойства. Отметим, что эти пространства хорошо улавливают характеристические поведения решений эллиптических уравне-т ний вблизи границы.

В параграфе 3.3 вводятся оценки полученные Дуглисом - Ниренбер-гом в [87]. Эти оценки, которые можно считать априорными оценками в введённых в предыдущем параграфе пространствах Гёльдера с весом, играют очень важную роль в дальнейшем исследовании.

В параграфе 3.4 используя оценки Дуглиса - Ниренберга в предыдущем параграфе представляем новый аргумент в доказательстве аналитичности решений нелинейных эллиптических уравнений. Как видно из доказательства продемонстрированного в этом параграфе, аналитичность решений эллиптических систем по Дуглису - Ниренбергу, которые в общем случае не являются эллиптическими даже в смысле Петровского, тоже можно получить.

Глава 4 посвящена изучению бесконечной дифференцируемости, аналитичности и регулярности по Жеврею решений полулинейных в. э. у., главная часть которых является степенью оператора рассмотренного Мизохатой в [155]. Она состоит из трёх параграфа.

В параграфе 4.1 построено фундаментальное решение оператора, являющегося степенью оператора Мизохаты.

В параграфе 4.2 доказывается гипоэллиптичность исследуемого уравнения в этой главе.

В параграфе 4.3 устанавливаяется аналитичность и регулярность по Жеврею решений изучаемого уравнения в этой главе. Некоторые геометрические свойства фундаментального решения найденного в параграфе 4.1 существенно используются при доказательстве.

Глава 5 изучает аналитичность и регулярность по Жеврею решений полулинейных уравнений, главной частью которых служит оператор Джилиоли - Трева введённый в главе 1. Она содержит два параграфа.

В параграфе 5.1 доказываются теоремы об аналитичности и регулярности по Жеврею решений полулинейных уравнений, являющихся линейным возмущением модельного оператора Грушина на плоскости. Здесь существенно используются оценки гипергеометрических функций, напоминатых в главе 1.

В параграфе 5.2 устанавливаются теоремы об аналитичности и регулярность по Жеврею решений общего полулинейного уравнения типа

Джилиоли - Трева.

Глава 6 касается полулинейного уравнения типа Кона-Лапласа на группе Гейзенберга. Она содержит три параграфа.

В параграфе 6.1 вводится оператор Кона-Лапласа на группе Гейзенберга. Стоит заметить, что на группе Гейзенберга оператор Кона-Лапласа вырождается в каждой точке.

В параграфе 6.2 построено фундаментальное решение и исследованы некоторые его свойства. На основе полученного фундаментального решения определён оператор потенциала и выведена интегральная формула представления решений.

В параграфе 6.3 использованием свойств и установленных в параграфах 6.1 и 6.2 формул доказывается регулярность по Жеврею решений изучаемого уравнения.

Наконец, третья часть настоящей работы посвящена исследованию глобальных свойств решений полулинейных в. э. у. Она содержит две главы. В этой части изучаем краевую задачу для полулинейных в. э. у. в ограниченной области. Отметим, что в отличие от в. э. у. рассмотренных в предыдущих частях, здесь уравнения могут иметь коэффициенты, не принадлежащие пространствам бесконечно дифференцируемых или аналитических функций. Это и понятно потому что в настоящей части мы заинтересуемся нетолько бесконечно дифференцируемыми или аналитическими решениями но и решениями имеющими низкую гладкость. Вместе, главы 7 и 8 показывают, что явление критического показателя, присущее краевой задаче для эллиптических уравнений, тоже наблюдается в краевой задачи для в. э. у. Однако, здесь критический показатель меньше, чем тот в эллиптическом случае. Кроме размерности обьёмляющего пространства он зависит также от порядка вырождения исследуемых уравнений. Теперь передём к описанию отдельных глав в настоящей части.

В главе 7 изучается существование нетривиальных решений краевой задачи полулинейных в. э. у. Эта глава состоит из двух параграфа.

В параграфе 7.1 доказываются теоремы вложения пространств Соболева. с весом, присоединённые с в. э. у. Главное доказательство, использующее только неравенство Гёльдера, по своей идее напоминает доказательство теоремы вложения классического пространства Соболева, предложенное Гальярдом и Ниренбергом в [102] и [162]. Подчёркиваем, что пространства, изучаемые в настоящем параграфе, могут не обладать бесконечно дифференцируемым весом. Поэтому доказательства, имеющиеся в некоторых дригих работах, в общем случае не применяются здесь.

В параграфе 7.2 вариационым принципом доказываются теоремы об существовании нетривиальных решений в пространствах, изученных в предыдущем параграфе. Если нелинейное возмущение дополнительно обладает свойством нечётности, то задача имеет много решений. В пункте I перечислаем теоремы Амбросетти и Рабиновича в [48] об критических значениях нелинейного функционала в Банаховом пространстве. В пункте II на основе установленных теорем вложения в параграфе 7.1 и перечисленных теорем в предыдущем пункте доказаны теоремы об существовании и наличии много решений нашей задачи.

Последная глава уделяет внимание проблеме несуществования не-тривальных решений краевой задачи, рассмотренной в предыдущей главе и вопросу об гладкости собственных функций вблизи границы. Она состоит из двух параграфа.

В параграфе 8.1 установлены обобщённые тождества Похожаева. Отсюда вытекают теоремы об несуществовании нетривиальных решений. Особенно отметим, что для уравнений с бесконечным вырождением рассморенных в первой части, если нелинейная часть имеет суперлинейный рост, то краевая задача может не иметь нетривиального решения.

В параграфе 8.2 исследуется гладкость собственных функций краевой задачи вблизи границы путём использования найденных в первой части фундаментальных решений. В пункте I установлены существование последовательности собственных функций и их свойства. В пункте II через обобщённое преобразование Кельвина, при некоторых геометрических условиях на границы доказывается их гладкость вблизи границы.

В заключение автор выражает глубокую благодарность профессору Ю. В. Егорову за постоянное внимание и большую помощь в работе, профессорам В. А. Кондратьеву, В. П. Маслову и С. И. Похожаеву за поддержки и внимание к работе.

Список литературы диссертационного исследования доктор физико-математических наук Нгуен Минь Чи, 2006 год

1. М. С. Агранович, Эллиптические сингулярно интегро-дифферен-циальные операторы, УМН, 20 (1965), 3-120.

2. С. Н. Бернштейн, И. Г. Петровский, О первой краевой задаче (задаче Дирихле) для уравнения эллиптического типа и свойствах функций, удовлетворяющих этим уравнениям, УМН, 8 (1941), 8-26.

3. М. И. Вишик, О сильно эллиптических системах уравнений, Матем. сб., 29 (1951), 615-676.

4. М. И. Вишик, В. В. Грушин, Эллиптические краевые задачи, вырождающиеся на подмногообразии границы, ДАН СССР, 190 (1970), 255-258.

5. В. С. Владимиров, Уравнения Математической Физики, М., 1976.

6. Л. П. Волевич, Об общих системах дифференциальных уравнений, ДАН, 132 (1960), 20 23.

7. Л. П. Волевич, Псевдодифференциальные операторы с голоморфными символами и классы Жевре, Труды Моск. матем. о-ва, 24 (1971), 43-68.

8. Л. П. Волевич, О. А. Олейник, Об аналитичности решений систем уравнений с частными производными, В кн. Избранные труды И. Г. Петровского, М.: Наука, 1986.

9. И. М. Гельфанд, Некоторые проблемы в теории квази-линейных уравнений, УМН, 14 (1959), 87-158.

10. И. М. Гельфанд, Г. Е. Шилов, Обобщённые Функции, Вып. 1, 2, 3, Физматгиз, 1958.

11. В. В. Грушин, Об одном классе гипоэллиптических операторов, Матем. сб., 83 (1970), 456-483.

12. В. В. Грушин, Об одном классе эллиптических псевдодифференциальных операторов, вырождающихся на подмногобразии, Матем. сб., 84 (1971), 163-195.

13. В. В. Грушин, Гипоэллиптические дифференциальные уравнения, Матем. сб., 88 (1972), 501-521.

14. Ю. В. Егоров, Гипо эллиптические псевдодифференциальные операторы, Труды Моск. матем. об-ва, 16 (1967), 99-108.

15. Ю. В. Егоров, О су б эллиптических операторах, УМН, 2 (1975), 57-114, 57-104.

16. Ю. В. Егоров, Линейные Дифференциальные Уравнения Главного Типа, Москва, Наука, 1984, 360.

17. Ю. В. Егоров, В. А. Кондратьев, О задаче с косой производной, Матем. сб., 78 (1969), 148-176.

18. А. Н. Колмогоров, С. В. Фомин, Элементы Теории Функций и Функционального Анализа, Москва, Наука, Физматгиз, 1981.

19. В. А. Кондратьев, Краевые задачи для эллиптических уравнений в областях с коническими и угловыми точками, Труды Моск. матем. о-ва, 16 (1967), 209-292.

20. В. А. Кондратьев, Особености задачи Дирихле для эллиптических уравнений второго порядка в окрестности ребра, Дифф. уравн., 13 (1977), 2026-2032.

21. В. А. Кондратьев, О. А. Олейник, Краевые задачи для уравнений с частными производными в негладких областях, УМН, 38 (1983), 3-76.

22. О. А. Ладыженская, Краевые Задачи Математической Физики, Наука, 1973.

23. Я. Б. Лопатинский, Об одном способе приведения граничных задач для системы дифференциальных уравнений эллиптического типа к регулярным интегральным уравнениям, Укр. мат. журн., 5 (1953), 123-151.

24. В. П. Маслов, Теория Возмущений и Асимптотические Методы, М., МГУ, 1965.ЛИТЕРАТУРА 307

25. В. П. Маслов, Канонический оператор на Лагранжевом многообразии и регуляризатор для псевдо-дифференциальных операторов и разностных схем, ДАН СССР, 195 1970, 551-554.

26. В. П. Маслов, Операторные Методы, М., Наука, 1973.

27. С. Г. Михлин, Курс Математической Физики, Наука,1968.

28. С. Г. Михлин, Линейные Уравнения в Частных Производных, Москва, Высшая школа, 1977.

29. С. А. Назаров, Б. А. Пламеневский, Эллиптические Задачи в Областях с Кусочно Гладкой Границей, Наука, Москва, 1991.

30. О. А. Олейник, О свойствах решений некоторых краевых задач для уравнений эллиптического типа, Матем. сб., 30, (1952), 695-702.

31. О. А. Олейник, К девятнадцатой проблеме Гильберта, В кн.: Проблемы Гильберта, М.: Наука, (1969), 206-208.

32. О. А. Олейник, Е. Б. Радкевич, Уравнения второго порядка с неотрицательной характеристической формой, Итоги Науки. Мат. анализ. -М.:ВИНИТИ, 1971.

33. И. Г. Петровский, Лекции об Уравнениях с Частными Производными, Физматгиз, 1961.

34. Проблемы Гильберта, М.:Наука, 1969.

35. С. Л. Соболев, Некоторые Применения Функционального Анализа в Математической Физике, -Л.: Издательство ЛГУ,1950.

36. В. С. Федий, О одном условии гипоэллиптичности, Матем. сб., 85 (1971), 18-48.

37. Н. М. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора высокого порядка , Дифф. Уравн., 26 (1990), 687-692.

38. Н. М. Чи, Гипоэллиптические псевдодифференциальные операторы четвертого порядка с неинволютивным характеристическим множеством, Вестн. МГУ, (1990), 71-73.

39. Ю. В. Егоров, Н. М. Чи, Максимально гипо эллиптические операторы с неинволютивным характеристическим множеством, ДАН СССР., 314 (1990), 1059-1061.

40. H. M. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора, Матем. Зам., 49 (1991), 147-149.

41. Ю. В. Егоров, H. М. Чи, Об классе максимально гипоэллипти-ческих операторов, Труды Сем. Петровского, 17 (1994), 3-26.

42. H. М. Чи, Об уравнении Грушина, Матем. Зам., 63 (1998), 95-105.

43. H. М. Чи, Некоторые примеры негипоэллиптических бесконечно вырождающихся эллиптических дифференциальных операторов, Матем. Зам., 71 (2002), 567-580.

44. Г. Е. Шилов, Математический Анализ, Второй специальный курс, Наука, 1965.

45. М. А. Шубин, Псевдодифференциальные Операторы и Спектральная Теория, Москва, Физматгиз, Наука, 1978.

46. S. Agmon, A. Douglis, L. Nirenberg, Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions, I; Comm. Pure Appl. Math., 12 (1959), 623-727.

47. S. Agmon, A. Douglis, L. Nirenberg, Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions, II, Comm. Pure Appl. Math., 17 (1964), 35-92.

48. A. Ambrosetti, P. Rabinowitz, Dual variational methods in critical point theory and applications, Journal of Functional Analysis, 14 (1973), 349-381.

49. P. Appel, J. Kampé de Fériet, Functions Hyperg¿métriques et Hyper-sphériques. Polynomes d'Hermite, Gauthier-Villars, 1926, 434.

50. T. Aubin, Problème isopérimètriques et espaces de Sobolev, J. Diff. Geom., 11 (1976), 573-598.

51. M. S. Baouendi, C. Goulaouic, Nonanalytic-hypoellipticity for some degenerate elliptic operators, Bull. A. M. S., 78 (1972), 483-486.

52. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator, Duke Math. J., 98 (1999), 465-483.

53. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator1., Duke Math. J., 117 (2003), 385-387.

54. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator

55. I, Duke Math. J., 128 (2005), 119-140.ЛИТЕРАТУРА sog

56. H. Bateman, A. Erdelyi, Higher Transcendental Functions, vol. I, McGraw-Hill, New York, 1953, 302.

57. R. Beals, Solutions fondamentales exactes, Journées Équations aux dérivées partielles, Saint-Jean-de-Monts (1976), 11-19.

58. R. Beals, A Note on fundamental solutions, Comm. Part. Diff. Equat., 24 (1999), 369-376.

59. R. Beals, P. Greiner, Calculus on Heisenberg Manifolds, Annals of Math. Study, Princeton University Press, 119 (1988), 194.

60. S. Bernstein, Sur la nature analytique des solutions des équations aux dériveés partielles du second ordre, Math. Ann., 59 (1904), 20-76.

61. S. Bernstein, Sur la généralisation du problème de Dirichlet, I, II, Math. Ann., 62 (1906), 253-272; 69 (1910), 82-136.

62. S. Bernstein, Démonstration du thérème de Hilbert sur la nature analytique des solutions des équations du type elliptique sans l'emploi des series normales, Math. Z., 28 1928, 330-348.

63. I. Birindelli, I. Capuzzo Dolcetta, A. Cutri, Indefinite semi-linear equations on the Heisenberg group: A priori bounds and existence, Comm. Part. Diff. Equat., 23 (1998), 1123-1157.

64. P. Bolley, J. Camus, B. Helffer, Sur une classe d'opérateurs partiellement hypoelliptiques, J. Math. Pures Appl., 55 (1976), 131-171.

65. J. M. Bony, Principe du maximum dans les espaces de Sobolev, C. R. Acad. Sei. Paris, 265 (1967), 333-336.

66. J. M. Bony, Sur la régularité des solutions du problem de Dirichlet pour les opérateurs elliptiques dégénérés, C. R. Acad. Sei. Paris, 267 (1968), 691-693.

67. J. M. Bony, Principe du maximum, inégalité de Harnak et unicité du problème de Cauchy pour les opérateurs elliptiques dégénérés, Ann. Inst. Fourier Grenoble, 19 (1969), 277-304.

68. L. Boutet de Monvel, A. Grigis, B. Helffer, Parametrixes d'operateurs pseudodijferentiels a caractéristiques multiples, Asterique, 34-35 (1976), 93121.

69. L. Boutet de Monvel, P. Krée, Pseudodifferential operators and Gevrey classes, Ann. Inst. Fourier Grenoble, 27 (1967), 295-323.

70. A. Bove, D. Tartakoff, Optimal non-isotropic Gevrey exponent for sums of squares of vector fields, Comm. Part. Diff. Equat., 22 (1997), 1263-1282.

71. A. Bove, Gevrey hypo-ellipticity for sums of squares of vector fields: some examples, Contemp. Math., 368 (2005), 41-68.

72. H. Brezis, F. Browder, Partial differential equations in the 20th century, Adv. Math. 135 (1998), 76-144.

73. H. Brezis, L. Nirenberg, Positive solutions of nonlinear elliptic equations involving critical Sobolev exponents, Comm. Pure Appl. Math., 36 (1983), 437-477.

74. F. Browder, Estimates and existence theorems for elliptic boundary value problems, Proc. Nat. Acad. Sc. USA, 45 (1959), 365-372.

75. F. Browder, Nonlinear elliptic boundary value problems, Bull. Amer. Math. Soc., 69 (1963), 862-874.

76. F. Browder, Fixed point theory and nonlinear elliptic problems, Bull. Amer. Math. Soc., 9 (1983), 1-39.

77. L. Caffarelli, J. J. Kohn, L. Nirenberg, J. Spruck, The Dirichlet problem for nonlinear second order elliptic equations, II, Comm. Pure Appl. Math., 38 (1985), 209-252.

78. A. P. Calderon, Boundary value problems for elliptic equations, Proceedings of the joint Soviet-American symposium on partial differential equations, Novosibirsk Acad. Sci. USSR, 1963, pp. 1-4.

79. L. Capogna, D. Danielli, N. Garofalo, An Embedding theorem and the Har-nack inequality for nonlinear subelliptic equations, Comm. Part. Diff. Equat., 18 (1992), 1765-1794.

80. L. Cattabriga, L. Rodino, L. Zanghirati, Analytic-Gevrey hypoellipticity for a class of pseudo-differential operators with multiple characteristics, Comm. Part. Diff. Equat. , 15 (1990), 81-96.

81. M. Christ, A necessary condition for analytic hypoellipticity, Math. Research Letters, 1 (1994), 241-248.

82. M. Christ, Intermediate optimal Gevrey exponents occur, Comm. Part. Diff. Equat., 22 (1997), 359-379.

83. N. М. Chuong, Т. D. Ке, Existence of solutions for a nonlinear degenerate elliptic system, Electron J. Differential Equations, 93 (2004), 1-15.

84. N. M. Chuong, T. D. Ke, Existence results for a semilinear parametric problem with Grushin type operator, Electron J. Differential Equations, 94 (2005), 1-12.

85. E. DeGiorgi, Sulla differenziabilita, e I'analiticita delle estremali degli inte-grali multipli regolari, Mem. Accad. Sc. Torino, C. Sc. Fis. Mat. Natur., 3 (1957), 25-43.

86. M. Derridj, Unprobleme aux limites pour une classe d'operateurs du second ordre hypoelliptiques, Ann. Inst. Fourier Grenoble, 21 (1971), 99-148.

87. M. Derridy, C. Zuily, Regularite Gevrey des operateur de Hormander, J. Math. Pures Appl., 57 (1973), 309-336.

88. A. Douglis, L. Nirenberg, Interior estimates for elliptic systems of partial differential equations, Comm. Pure Appl. Math., 8 (1955), 503-538.

89. Yu. V. Egorov, V. A. Kondratiev, On Spectral Theory of Elliptic Operators, Birkhauser, Basel Boston - Berlin, 1996.

90. Yu. V. Egorov, Y. Ilyasov, On multiple solutions for elliptic boundary value problem with two critical exponents, To appear (2006).

91. L. C. Evans, Classical solutions of fully nonlinear, convex, second order elliptic equations, Comm. Pure Appl. Math., 35 (1982), 333-363.

92. E. B. Fabes, С. E. Kenig, R. P. Serapioni, The local regularity of solutions of degenerate elliptic equations, Comm. Part. Diff. Equat., 7 (1982), 77-116.

93. C. Fefferman, D. Phong, The uncertainty principle and sharp Garding inequalities, Comm. Pure and Appl. Math., 34 (1981), 285-331.

94. G. B. Folland, J. J. Kohn, The Neumann Problem for the Cauchy-Riemann Complex, Annals of Math. Study, Princeton University Press, 75 (1972), 146p.

95. G. B. Folland, E. M. Stein, Estimates for the дь complex and analysis on the Heisenberg group, Comm. Pure Appl. Math., 27 (1974), 429-522.

96. G. B. Folland, Subelliptic estimates and function spaces on nilpotent Lie groups, Arkiv Mat., 13 (1975), 161-207.

97. G. В. Folland, Applications of analysis on nilpotent groups to partial differential equations, Bull. Amer. Math. Soc., 83 (1977), 912-930.

98. A. Friedman, On classes of solutions of elliptic linear partial differential equations, Proc. Amer. Math. Soc., 8 (1957), 433-442.

99. A. Friedman, On the regularity of the solutions of non-linear elliptic and parabolic systems of partial differential equations, J. Math. Mech., 7 (1958), 43-59.

100. A. Friedman, Partial Differential Equations, New York: Holt, Rinehart and Winston, 1969.

101. К. O. Friedrichs, The identity of weak and strong extensions of differential operators, Trans. Amer. Math. Soc., 55 (1944), 132-151.

102. К. O. Friedrichs, On the differentialibility of the solutions of linear elliptic differential equations, Comm. Pure Appl. Math., 6 (1953), 299-326.

103. E. Galiardo, Ulteriori proprietà di alcune classi di funzioni in piu variabili, Ric. Mat., 8 (1959), 24-51.

104. N. Garofalo, E. Lanconelli, Existence and nonexistence results for semilinear equations on the Heisenberg group, Indiana Univ. Math. J., 41 (1992), 71-98.

105. M. Gevrey Sur la nature analytique des solutions des équations aux dériveés partielles, Ann. Éc. N. Sup., 35 (1918), 127-190.

106. A. Gilioli, F. Treves, An example in the solvability theory of linear PDE's, Amer. J. Math., 96 (1974), 367-385.

107. D. Gilbart, N. S. Trudinger, Elliptic Partial Differential Equations of Second Order, Springer, 1997, 517p.

108. G. Giraud, Sur la problème de Dirichlet généralise; équations non linéaires à m variables, Ann. Èc. N. Sup., 43 (1926), 1-128.

109. T. Gramchev, L. Rodino, Gevrey solvability of partial differential operators with multiple characteristics, Boll. U. M. I., Sez В (1999), 65-120.

110. P. C. Greiner, E. M. Stein, Estimates for the d-Neumann problem, Math. Notes, 19, Princeton University Press, Princeton, New Jersey, 1971.

111. A. Grigis, L. Rothschild, A criterion for analytic hypoellipticity of a class of differential operators with polynomial coefficients, Ann. Math., 118, (1983) 443-460.

112. N. Hanges, A. A. Himonas, Singular solutions for a class of Grushin type operators, Proc. Amer. Math. Soc., 124 (1996), 1549-1557.

113. B. Helffer, Theorie Spectrale pour des Operateurs Global Elliptiques, Uni-versidade Federal de Pernambuco, Notas de Curso, 1981.

114. B. Helffer, Conditions nécessaires d'hypoanalyticité pour des opérateurs invariants à gauche homogènes sur un groupe nilpotent gradué, J. Diff. Equat., 44 (1982), 460-481.

115. B. Helffer, J. Nourrigat, Hypoellipticite Maximal pour des Operateurs Polynomes de Champ de Vecteur, Birkhauser, (1985), 275 p.

116. B. Helffer, L. Rodino, Opérateurs différentiels ordinaires intervenant dans l'étude de l'hypo-ellipticité, Bolletino U. M. I., 14-B (5) (1977), 491-522.

117. H. Hilbert, Uber das Dirichletsche prinzip, Jahresbericht Deut. Math.-Ver. VIII (1900), 184-188.

118. E. Hopf, Ubër den funktionalen insbesondere den analytischen Charakter der lösungen elliptischer differentialgleichungen zweiter Ordnung, Math. Z., 34, (1931), 194-233.

119. L. Hörmander, On the theory of general partial differential equations, Acta Math., 94, (1955), 161-248.

120. L. Hörmander, Hypoelliptic differential operators, Ann. Inst. Fourier Grenoble, 11 (1961), 477-492.

121. L. Hörmander, Pseudodifferential operators and hypoelliptic equations, Proc. Symp. Pure Math., 10 (1966), 138-183.

122. L. Hörmander, Psedo-differential operators and non-elliptic boundary problems, Ann. Math., 83 (1966), 129-209.

123. L. Hörmander, Hypoelliptic second-order differential operators, Acta Math., 119 (1967), 147-171.

124. L. Hörmander, A class of hypoeliptic pseudodifferential operators with double characteristics, Math. Ann, 217 (1975), 165-188.

125. L. Hörmander, Subelliptic operators, Seminar on Singularities of Solutions of Linear Partial Differential Equations. Ann. Math. Studies, 91 (1979), 127-207, Princeton University Press, Princeton, New Jersey.

126. L. Hörmander, The Analysis of Linear Partial Differential Operators, I-IV, Springer-Verlag Berlin Heidelberg, 1983, 1985.

127. T. Hoshiro, Some examples of hypoelliptic operators of infinitely degenerate type, Osaka J. Math., 30 (1993), 771-782.

128. D. Jerison, The Dirichlet problem for the Kohn Laplacian on the Heisenberg group, II, Journal of Funt. Anal., 43 (1981), 224-257.

129. D. S. Jerison, J. M. Lee, The Yamabe problem on CR manifolds , J. Diff. Geom., 25 (1987), 167-197.

130. H. Lewy, Uber den analytischen charakter der lösungen elliptischer differentialgleichungen, Göttingen. Nach., (1927), 178-186.

131. К. Kajitani i S. Wakabayashi, Propagation of singularities for several classes of pseudo-differential operators, Bull. Sc. Math., 115 (1991), 397-449.

132. Y. Kannai, An unsolvable hypoelliptic differential equations, Isr. J. Math., 9 (1971), 306-315.

133. J. J. Kohn, L. Nirenberg, Non-coercive boundary value problems, Comm. Pure Appl. Math., 18 (1965), 443-492.

134. J. J. Kohn, L. Nirenberg, An algebra of pseudo-differential operators, Comm. Pure Appl. Math., 18 (1965), 269-305.

135. J. J. Kohn, Pseudo-differential operators and non-elliptic problems, Pseudodifferential operators, С. I. M. E. Stresa (Italy), 1968, 157-165.

136. J. J. Kohn, Pseudo-differential operators and hypo-ellipticity, Proc. Symp. Pure Math., 23 (1973), 61-69.

137. J. J. Kohn, Subelliptic estimates, Proc. Symp. Pure Math., 35 (1979), 143152.

138. J. J. Kohn, Hypoellipticity at points of infinite type, Contemp. Math., 251, Amer. Math. Soc., Providence, RI, 251 (1998), 393-782.

139. A. H. Kolmogorov, Zufällige Bewegungen, Ann. of Math., 35, (1934), 116117.

140. V. A. Kozlov, V. G. Mazya, J. Rossmann, Elliptic Boundary Value Problems in Domain with Points Singularities, Matli. Surveys Monographs, 52 (1997), Amer. Math. Society.

141. J. Leray, J. P. Schauder, Topologie et équations fonctions fonctionelles, Ann. Sei. Ее. Norm. Sup., 51 (1934), 43-78.

142. J. Leray, J. L. Lions, Quelques résultat de Visik sur les problèmes elliptiques nonlinéaires par les méthod de Minty-Browder, Bull. Soc. Math. Fr., 93 (1965), 97-107.

143. H. Lewy, Neuer beweis des analytischen characters des lösundgen elliptischer differentialgleichungen, Math. Ann., 101 (1929), 605-619.

144. H. Lebesgue, Sur le probleme de Dirichlet, Rend. Cire. Mat. Palermo, 24 (1907), 371-402.

145. J. L. Lions, E. Magenes, Problèmes aux limites non homogenes et applications, 3 vol. -Paris: Dunod, 1968.

146. D. Lupo, K. Payne, Critical exponents for semilinear equations of mixed elliptic-hyperbolic and degenerate type, Comm. Pure Appl. Math., LVI (2003), 403-424.

147. M. Mascarello, Su alcune funzioni speciali che intervengono nello studio dell'ipoellitticita, Rend. Sem. Mat. Univ. Politec. Torino, 36 (1977-1978), 343-349.

148. M. Mascarello, L. Rodino, A class of pseudodifferential operators with multiple non-involutive characteristics, Ann. Scoula Norm. Sup. Pisa, Ser. IV, 8 (1981), 575-603.

149. M. Mascarelo, L. Rodino, Partial Differential Equations with Multiple Characteristics, Academie-Verlag, 1997, 352 p.

150. V. P. Maslov, The characteristics of pseudodifferential operators and difference schemes, Actes Congrès Intern. Math, 2 (1970), 755-769.

151. A. Melin, Free systems of vector fields, Seminair Goulaouic Schwartz, (1977/1978), 7pp, École Polytech., Palaiseau, 1978.

152. A. Menikoff, Some examples of hypoelliptic partial differential equations, Math. Ann., 221 (1976), 176-181.

153. A. Menikoff, Psedo-differential operators with double characteristics, Math. Ann., 231 (1977), 145-180.

154. G. Metivier, Analytic hypoellipticity for operators with multiple characteristics, Comm. Part. Diff. Equat., 6 (1980), 1-90.316 ЛИТЕРАТУРА

155. С. Miranda, Partial Differential Equations of Elliptic Type, Springer-Verlag, 1970, 370.

156. S. Mizohata, Solutions nulles et solutions non analytiques, J. Math. Kyoto Univ., 1 (1962), 271-302.

157. Y., Morimoto, On the hypoellipticity for infinitely degenerate semi-elliptic operators, J. Math. Soc. Japan, 30 (1978), 327-358.

158. Y. Morimoto, T. Morioka, The positivity of Schrôdinger operators and the hypoellipticity of second order degenerate elliptic operators, Bull. Sc. Math., 121 (1997), 507-547.

159. С. B. Morrey On the analyticity of the solutions of analytic nonlinear systems of partial differential equations I, II, Amer. J. Math., 80 (1958), 198218, 219-237.

160. С. B. Morrey, Multiple Integrals in the Calculus of Variations, Berlin -Heidelberg New York: Springer - Verlag, 1966.

161. С. B. Morrey, L. Nirenberg, On the analiticity of the solutions of linear elliptic systems of partial differential equations, Comm. Pure Appl. Math., 10 (1957), 271-290.

162. L. Nirenberg, On nonlinear elliptic partial differential equations and Holder continuity, Comm. Pure Appl. Math., 6 (1953), 103-156.

163. L. Nirenberg, Elliptic partial differential equations, Ann. Sc. Norm. Pisa, 13 (1959), 115-162.

164. I. G. Petrovskii, Sur l'analyticite des solutions des systèmes d'équations différentielles, Matem. Sbornik (N. S.), 5(47) (1939), 3-70.

165. H. Poincare, Sur les équation aux derivées partielles de la physique mathématique, Amer. J. Math., 12 (1890), 211-294.

166. S. I. Pokhozaev, The boundary value problem for equation Au = и2, Russian Dokl. Akad. Nauk SSSR, 138 (1961), 305-308.

167. S. I. Pokhozaev, Eigenfunctions for the equation Au + Af(u) = 0, Russian Dokl. Akad. Nauk SSSR, 165 (1965), 33-36.

168. S. I. Pokhozaev, The solvability of nonlinear equations with odd operators, Funk. Analiz i Prilozhenie, 1 (1967), 66-73.

169. P. R. Popivanov, Construction of solutions of pseudo-differential equations with given singularities, C. R. Acad. Bulgare Sei., 34 (1981), 165-167.

170. P. R. Popivanov, Microlocal hypoellipticity of some classes of differential operators, Annuaire Univ. Sofia. Fac. Math. Mec., 79 (1989), 301-311.

171. T. Okaji, Gevrey hypoellipticity operators which are not C°°-hypoelliptic, J. Math. Kyoto Univ., 28 (1988), 311-322.

172. T. Rado, Das Hilbertsche theorem über den analytishen charakter der lösungen der partiellen differentialgleichungen zweiter Ordnung, Math. Z., 25 (1926), 514-589.

173. M., Reissig, K., Yagdjan, An interesting connection between hypoellipticity and branching phenomena for certain differential operators with degeneracy of infinite order, Rend. Mat. Appl., 15 (1995), 481-510.

174. L. Rodino, Gevrey hypoellipticity for a class of operators with multiple characteristics, Asterique, 89-90 (1981), 249-262.

175. L. Rodino, On linear partial operators with multiple characteristics, Teubner-Texte zur Mathematik, 112 (1989), 238-249.

176. L. P. Rothschild, A criterion for hypoellipticity of operators constructed from vector fields, Comm. Part. Diff. Equat., 4 (1979), 247-320.

177. L. P. Rothschild, E. M. Stein, Hypoelliptic differential operators and nilpotent groups, Acta Math., 137 (1976), 247-320.

178. J. P. Schauder, Über linear elliptische differentialgleichungen zweiter Ordnung, Math. Z., 38 (1934), 257-282.

179. M. Schechter, Various types of boundary conditions for elliptic equations, Comm. Pure Appl. Math., 13 (1960), 407-425.

180. L. Schwartz, Theorie des Distributions I, II, Hermann, 1950, 1951.

181. Z. Shapiro, On general boundary problems for equations of elliptic type, Из. Акад. Наук СССР, 17 (1953), 539-562.

182. J. Sjöstrand, A class of pseudo-differential multiple characteristics, C. R. Acad. Sei. Paris, Ser A., 275 (1972), 817-819.

183. J. Sjöstrand, Parametrices for psedodifferential operators with multiple characteristics, Arkiv Mat., 12 (1974), 85-130.318 ЛИТЕРАТУРА

184. J. Sjôstrand, Propagation of singularities for with multiple involutive characteristics, Ann. Inst. Fourier Grenoble, 27 1976, 141-155.

185. J. Serrin, The problem of Dirichlet for quasilinear elliptic differential equations with many independent variables, Philos. Trans. Roy. Soc. London., 264 (1969), 413-496.

186. I. V. Skrypnik, Methods of analysis of nonlinear elliptic boundary value problems, Trans. Math. Monographs, 139 (1991).

187. E. M. Stein, Singular Integrals and Differentiability Properties of Functions, Princeton, New Jersey: Princeton University Press, 1970.

188. K. Taira, On a class of hypoelliptic differential operators with double characteristics, J. Math. Soc. Japan, 45 (1993), 391-419.

189. G. Talenti, Best constant in Sobolev inequality, Ann. Mat. Рига Appl., 110 (1976), 353-372.

190. G. Talenti, Elliptic equations and rearrangements, Ann. Scuola Norm. Sup. Pisa, 3 (1976), 697-718.

191. D. Tartakoff On the local real analiticity of solutions to and the B-Neumann problem, Acta. Math., 145 (1980), 177-204.

192. D. Tartakoff, Gevrey and analytic hypoellipticity, Microlocal Analysis and Spectral Theory (Lucca, 1996), NATO Adv. Sci. Inst. Ser С Math. Phys. Sci. 490, Kluwer Acad. Publ., Dordrecht, (1997), 39-59.

193. D. Tartakoff, L. Zanghirati Local real analiticiti of solutions for sums of squares of nonlinear vector fields, J. Diff. Equat., 213 (2005), 341-351.

194. M. Taylor, Pseudodifferential Operators, Princeton: Princeton University Press, 1981.

195. B. Thomas, Viscosity solutions on Grushin type planes, Illinois J. Math., 46 (2002), 893-911.

196. F. Treves, Opérateurs différentiels hypo-elliptiques, Ann. Inst. Fourier Grenoble, 9 (1959), 1-73.

197. F. Treves, An invariant criterion of hypoellipticity, Amer. J. Math., 63 (1961), 645-688.

198. F. Treves, Hypoelliptic equations of principal type, sufficient conditions and necessary conditions, Comm. Pure Appl. Math., 24 (1971), 631-670.

199. F. Treves, A new method of proof of the subelliptic estimates, Comm. Pure Appl. Math., 24 (1971), 71-115.

200. F. Treves, Analytic hypoellipticity for partial differential equations of principal type, Comm. Pure Appl. Math., 24 (1971), 537-567.

201. F. Treves Analytic hypo-ellipticity of a class of pseudo-differential operators with double characteristics and application to the 8—Neumann problem, Comm. Part. Diff. Equat., 3 (1978), 745-642.

202. F. Treves Pseudo-Differential Operators and Fourier Integral Oprators, Plenum Press, 1982.

203. F. Treves, Symplectic geometry and analytic hypo-ellipticity of differential equations, La Pietra 1996, Proceed. Sympos. Pure Math. A. M. S., 65 (1999), 201-219.

204. F. Treves, Symplectic geometry and anahjticity of solutions of second order partial differential equations, в печати, (2006).

205. N. M. Tri, Critical Sobolev exponent for degenerate elliptic operators, Acta Math. Vietnam., 23 (1998), pp. 83-94.

206. N. M. Tri, Semilinear perturbations of powers of the Mizohata operator, Comm. Part. Diff. Equat. 24 (1999), 325-354.

207. N. M. Tri, On the Gevrey analyticity of solutions of semilinear perturbations of powers of the Mizohata operator, Rend. Sem. Mat. Univ. Politec. Torino, 57 (1999), 37-57.

208. N. M. Tri, Remark on non-uniform fundamental solutions and non-smooth solutions of some classes of differential operators with double characteristics, J. Math. Sci. Univ. Tokyo , 6 (1999), 437-452.

209. N. M. Tri, Non-smoothxsolutions for a class of infinitely degenerate elliptic differential operators, Vietnam J. Math., 28 (2000), pp. 159-172.

210. N. M. Tri, A note on necessary conditions of hypoellipticity for some classes of differential operators with double characteristics, Kodai Math. J., 23 (2000), 281-297.

211. N. M. Tri, On local properties of elliptic degenerate semilinear partial differential operators, Proceedings of the Hanoi Conference on Partial Differential Equations and Their Applications, pp. 41-55, 2000.

212. N. M. Tri, On local properties of some classes of infinitely degenerate elliptic differential operators, Rend. Sem. Mat. Univ. Politec. Torino, 59 (2001), 277-288.

213. N. M. Tri, On the Gevrey regularity of solutions of a class of semilinear elliptic degenerate equations on the plane, J. Math. Sci. Univ. Tokyo , 9 (2002), 217-255.

214. N. M. Tri, Gevrey regularity of solutions of semilinear hypoelliptic equations on the plane, Microlocal Analysis and Related Topics, RIMS, 1261 (2002), 140-149, the University of Kyoto.

215. N. M. Tri, New argument for the Gevrey regularity of solutions of nonlinear elliptic PDES, Russ. J. Math. Phys., 10 (2003), 353-358. '

216. M. Calanchi, L. Rodino, N. M. Tri, Solutions of logarithmic type for elliptic and hypoelliptic equations, Ann. Univ. Ferrara, XLI (1997), 111-127.

217. N. M. Chuong, L. Q. Trung, N. M. Tri, Theory of Partial Differential Equations, Vietnam Science and Technique Publisher, 1995.

218. N. M. Chuong, H. T. Ngoan, L. Q. Trung, N. M. Tri, Partial Differential Equations, Vietnam Education Publisher, 2000, Book in Vietnamese.

219. N. Т. C. Thuy, N. M. Tri, Some existence and non-existence results for boundary value problem (BVP) for semilinear elliptic degenerate operators, Russ. J. Math. Phys., 9 (2002), 366-371.

220. N. M. Tri, V. Т. T. Hien, Gevrey regularity of solutions of semilinear equations with double characteristics, Preprint of Institute of Mathematics, 2005, Hanoi, Vietnam.

221. N. M. Tri, Non-linear hypoelliptic operators, Preprint of Institute of Mathematics, 2006, Hanoi, Vietnam.

222. S. Wakabayashi, M. Suzuki, Microhypoellipticity for a classes of pseudodifferential operators with double characteristics, Funkciaj Ekvacioj, 36 (1993), 519-556.

223. H. Weyl, The method of orthogonal projection in potential theory, Duke Math. J., 7 (1940), 411-444.

224. C. J. Xu, Semilinear subelliptic equations and Sobolev inequality for vector fields satisfying Hormander condition, Chinese Journal of Contemporary Mathematics, 15 (1994), 183-192.

225. Условие звёзности 291, 295Фм.-й 195 Критический показатель 292r0 = k + 2,Fktx(x,y,u,v) 196 Собственные значения 298