Интегральные представления и граничное поведение функций класса Соболева в нерегулярных областях тема диссертации и автореферата по ВАК РФ 01.01.01, доктор физико-математических наук Васильчик, Михаил Юлианович

• Васильчик, Михаил Юлианович
• доктор физико-математических наук
• 2006

Введение диссертации (часть автореферата) на тему «Интегральные представления и граничное поведение функций класса Соболева в нерегулярных областях»

К началу двадцатого столетия развитие теории дифференциальных уравнений и вариационного исчисления потребовало расширения класса функций, среди которых ищется решение.

В 20-х годах прошлого века при решении многих задач стали использоваться различные обобщения производной функции и расширенное понимание решения. В конце 30-х годов С. Л. Соболев ввел то понятие обобщенной производной, которое сейчас является общепринятым, определил пространства которые сейчас называются пространствами Соболева, и установил основные соотношения между этими пространствами, а так же между пространствами и пространствами С(й) (^¿00(0), где Г — й-мерное гладкое многообразие в К". Эти соотношения называются теоремами вложения.

Пространства Соболева и теоремы вложения играют чрезвычайно важную роль в теории дифференциальных уравнений с частными производными, а так же в различных областях математического и функционального анализа. Это обусловило их интенсивное изучение и к настоящему времени привело теорию пространств Соболева на всем пространстве М" или на областях с гладкой границей к практически завершенному виду.

Однако для пространств Соболева функций, определенных на областях с негладкой границей, теория еще весьма далека от завершения.

Основные результаты диссертации относятся к теоремам вложения разных измерений или, как их еще называют, теоремам о следах. Первые результаты о следах функций класса IV}, получены С. Л. Соболевым (см. [37, гл. 1]). Теоремы С. Л. Соболева давали определенный ответ на вопрос, какими свойствами обладает след функции из на многообразии Г с О, но он давался в терминах класса \¥ и не давал полного описания следов.

Первые окончательные результаты по проблеме следов функций из пространств Соболева были получены при р = 2 Ароншайном [48] и независимо от него В. М. Бабичем и Л. Н. Слободедким [1], Л. Н. Слободецким [36], Фройдом и Краликом [54], Проди [59], [60].

Дальнейшие исследования Гальярдо [51], О. В. Бесова [2], [3], П. И. Лизоркина [22], [23] и С. В. Успенского [39] привели к полному решению проблемы о следах функций классов И^ при любом конечном р > 1 и при условии достаточной гладкости многообразия Г. Обратимая характеристика следов функций из Г2) на Г С П дается в терминах пространств О. В. Бесова В^(Г).

Следы функций на липшицевом многообразии охарактеризованы О. В. Бесовым [5], [6]. Более общая ситуация рассмотрена в работах Йонсона [57] и Йонсона и Валли-на [58]. В работах [5], [6], [57] и [58] описание следов дано с помощью пространств на многообразии, элементами которых являются наборы функций. Так, если F € I > 1 то элементом такого пространства на множестве Г С П будет набор функций где к зависит от 1,р,п и размерности Г. Упомянем еще работу С. К. Водопьянова [13], где использован модифицированный подход Уитни для описания граничных значений функций из пространств Соболева И^б) и Никольского заданных в произвольной области евклидового пространства. Особенность этого метода состоит в том, что он применим к любой области, независимо от гладкости ее границы.

Представляет интерес задача описания граничных свойств функций, определенных в области с кусочно-гладкой границей. В этом случае на гладких участках границы определены производные по нормали и, следовательно, правомерно рассматривать задачу о следах в постановке близкой к классической.

При этом оказывается, что при наличии на границе нерегулярных точек описание граничного поведения функций существенно зависит от геометрии области. Так, например, если на границе области есть только одна нерегулярная точка — вершина пика, то пространства следов функции класса будут различными для пика, направленного наружу [28], [64].

В работах [31] С. М. Никольский описал пространство следов функций из пространств Нр(0) (пространства Никольского). Г. Н. Яковлев получил обратимую характеристику следов функций из И^(О) для случая кусочно-гладкой границы 80 с ненулевыми углами на дй, образованными гиперповерхностями-участками дй [44], [46]. Задачей о следах функций на кусочно-гладкой границе области с ненулевыми углами занимались многие математики, прежде всего — в связи с краевыми задачами математической физики (см., например, [56] и [53] и приведенную там литературу).

В работах |44] и [45] Г. Н. Яковлев рассмотрел области на плоскости, границы которых имеют изолированные особенности, нарушающие липшицевость границы, в том числе и нулевые углы. Это, по-видимому, были первые работы, где исследовались следы функций на границе, содержащей нулевые углы.

В работе [25] В. Г. Мазья получил необходимые и достаточные условия на следы функций из И^1 (0) для случая области в Мп, п ^ 3, граница которой содержит пики. При доказательстве В. Г. Мазья использовал преобразование Фурье, что не позволяет перенести непосредственно методы доказательства на случай произвольного р > 1. В работе В. Г. Мазьи и С. В. Поборчего [28] получено описание следов для произвольных р е (1, оо). Одновременно и независимо этот же результат был получен в работе [64]. В работе [27] В. Г. Мазья и С. В. Поборчий рассмотрели случай р= 1.

В работах [29], [64] и [70] рассмотрена задача о следах для функций класса \Ур и для других областей, кроме пика, имеющих на границе нулевые углы — некоторые случаи гребней, области между и вне касающихся гиперповерхностей.

Мы рассматриваем теоремы о следах только для пространств Соболева ^((3). Аналогичные рассмотрения можно было бы провести и для некоторых других функциональных пространств, например, для пространств Бесова £^((3). Но наша главная цель — изучить граничное поведение функций, определенных в областях с нулевыми углами на границе, исследовать зависимость этого поведения от геометрии области. Для этой цели пространства Соболева подходят наилучшим образом. С одной стороны, они наиболее просто определяются и наиболее изучены, что позволяет избежать многих технических сложностей, которые появились бы при исследовании других пространств. С другой стороны, пространства Соболева и сейчас наиболее используемые функциональные пространства, что делает важной любую новую информацию об этих пространствах.

Основным инструментом при изучении пространств Соболева И^ при I ^ 2, у нас является интегральное представление. Метод интегральных представлений, идущий от работ С. Л. Соболева (см. [37]) является одним из важнейших при изучении пространств Ир(С). Дальнейшее развитие метод получил развитие в работах В. П. Ильина [16], О. В. Бесова [4], [7], Ю. Г. Решетняка [33], [34], С. В. Успенского [40], В. Г. Мазьи [24] и других математиков (см. [10] и приведенную там литературу).

Преимущество метода интегральных представлений состоит в том, что представление функции в данной точке х строится по значениям этой функции в точках контролируемого (независимого от функции) множества, содержащегося в области определения (носитель представления). Благодаря этому появляется возможность для изучения функциональных пространств функций, заданных на множестве достаточно общего вида. В нашем случае — это области, имеющие на границе внешние пики или гребни. Кроме того, функцию ^ € можно, используя интегральное представление, представить в виде Р = ^ + Я, где ^ имеет хорошие дифференциальные свойства (зависящие только от области), а функция Я контролируемым образом мала и порядок малости согласуется с размерами поперечного разреза пика или с "толщиной"гребня.

Опишем кратко структуру работы и расположение результатов по главам.

Диссертация состоит из шести глав. Первая глава носит вспомогательный характер и содержит три параграфа. В § 1.1 вводятся обозначения, используемые на протяжении всей работы. В § 1.2 вводятся функциональные пространства — весовые пространства Лебега, Соболева и Бесова на плоских кривых и на пространственных областях и поверхностях. В § 1.3 собраны известные утверждения о функциональных пространствах, существенные для наших рассмотрений. Утверждения мы приводим без доказательств, но с необходимыми ссылками. Приводится теорема об аддитивности пространств Соболева, принадлежащая В. И. Буренкову [11], теорема о продолжении функций из пространств Бесова на окрестность гребня — переформулировка результата Л. Н. Слободецкого [36, § 6] к нужному нам виду, теоремы Г. Н. Яковлева |46] о следах функций из пространств Соболева на границе липшицевой кусочно-гладкой области.

Во второй главе строятся интегральные представления для различных областей, имеющих на границе нулевые углы, направленные во внешность области. Глава содержит четыре параграфа. В § 2.1 строится интегральное представление для функций, определенных в плоском пике:

Р0 = {х = (хь х2) е К2: 0 < XI < 1, </>1(2:1) <х2< ^2(^1)}, (0.1) где щ и <р2 — дифференцируемые на (0,1) функции. Число производных у и ^ определяется показателем I пространства Соболева И^Ро). Для <р\ и <р2 выполняются условия 1ш1 <р{(х) = 0, г = 1, 2. Положим ц> — — Представление функции

XI—»+0

Р е \У1р{Р0) имеет вид

Р = Рх + Я, (0.2) где

Р1(х) = Х;аА(х1)|, (0.3) к=0 где коэффициенты а* дифференцируемы столько же раз, сколько и <рх, щ. Для функции Л из (0.2) выполняется С||Р|и<(Ро), (0.4)

Хр(Яо) при |а| = к ^ а = (ах, аг) — мультииндекс.

Усреднение функции и интегральное представление по нему строятся по известной схеме (10, § 7]. Отличие от построений в [10] состоит в том, что мы используем переменный радиус усреднения, зависящий от функции <р. Переменный радиус усреднения использовался и ранее. Упомянем здесь только работу Л. Д. Кудрявцева [18], в которой усреднение с переменным радиусом использовалось для исследования граничных задач для эллиптических уравнений и работы О. В. Бесова [7]—[9], в которых с помощью усреднений с переменным радиусом строились интегральные представления функций, которые, в свою очередь, использовались для доказательства теорем вложения в областях с углами на границе.

Особенностью наших построений является то, что используя переменный радиус усреднения мы решаем две проблемы — добиваемся того, что носитель представления лежит в области определения функций, и получаем представление функций из пространств Соболева в виде (0.2).

В § 2.2 доказываются вспомогательные утверждения. Устанавливаются оценки для коэффициентов <*к из (0.3), доказываются неравенства (0.4), рассматриваются оценки для следов производных функции Я на границе РоВ § 2.3 строится интегральное представление для функций, определенных в пространственном гребне

Ю = {х = (хих2, .,хп)еШп: щ{х2) < X! < <р2(х2), О <Х1 <\, 1 = 2,. ,п}.

Функции (рг и <р2 удовлетворяют тем же условиям, что и функции щ из § 2.1. Интегральное представление функций получается как в (0.2), но ^ имеет теперь вид ад=!>(*')§, к=0 где х' = {х2, .,хп) € К""1. В этом же параграфе получены интегральные оценки

ДЛЯ фуНКЦИЙ йк и Я.

В § 2.4 рассматриваются функции из ИГр(Р), где

Р = {х = (х', х„) е М": 0 < х„ < 1, \х'\ < фп)}, (0.5) где у еСЧМ) и

Шо<р(т)=Шо<р'(т) = 0.

Интегральное представление для функций из \¥р(Р) имеет вид (0.2), где Р^х) = а для функции Я выполняется

Результаты § 2.4 используются в шестой главе при доказательстве компактности оператора вложения №р(Р) <—> Ь-^^дР).

Результаты этой главы опубликованы в [66], [69], [70], [74]. Третья глава посвящена теоремам о следах функций из И^(б), где (? С К2 — ограниченная область с кусочно-гладкой границей <ЭС, имеющей на <9С конечное число особенностей типа внешних или внутренних пиков. Глава состоит из пяти параграфов.

В § 3.1 сформулированы результаты этой главы. Основными являются лемма 3.1.1 и теоремы 3.1.1, 3.1.2 и 3.1.4.

Доказательства теорем 3.1.2, 3.1.4 и теорем из пятой главы существенно используют лемму 3.1.1. В этой лемме для функции Рх(х) = £ аДях) ^—и векг=о гторного поля N — {собш, вт ы}, определенного на кривой Г = {ж € Е2: 0 < Хг < Более

1, &2 = ф{х\)}, производные иХг)

Якр точно, если & = —£ дкЕ1 выражаются через производные г г = 0, 1,.,/ — 1, то функции аг выражаются явно и у г однозначно через & ог(0 = £ИУ~Г 6) т^Л], г = о, 1,., I -1.

Функции Ь{ выписываются в виде рекуррентных соотношений (Ь0 = £о)-Теорема 3.1.1 дает необходимые и достаточные условия на след функции ц = Е\дРо, где Р 6 \Ур(Ро), Р0 - область (0.1), и на след ц = где У = £\Р0 иП-квадрат {х = (х1; ж2) € К2: -1 < х\, х2 < 1}. В этой теореме производные функции Р по нормали или по некоторому некасательному направлению не участвуют. Пусть

Г* = {х = (ж1, х2) £ К2: 0 < х\ < 1, х2 = <¿>¡(£1)}, г = 1, 2 части границы области (0.1). Используя разбиение единицы, задачу описания следов функций на границе области С, имеющей конечное число внешних или внутренних пиков, можно свести к описанию следов на границе Р0 или V = О\Р0, где Б — квадрат (—1,1) х (-1,1), причем, можно считать, что все рассматриваемые функции Р из \¥р(Ра) или из и их следы на дР0 и дУ обращаются в нуль при х\ > х°, где х® € (0,1) — фиксированное число, и на сторонах квадрата И — для области V.

Обозначим щ = /г|г(, г = 1, 2, для функции /х, определенной на <9Р0. Теорема 3.1.1 утверждает, что функция ц будет следом некоторой Р 6 И^(Ро) тогда и только тогда, когда она принадлежит весовому пространству Бесова на Г,- и функции и ц2 не сильно отличаются друг от друга, а точнее — конечна величина

1-1 Е о dk fi2(t) - m{t) dtk

Ф) где обозначено ^(t) = fi(t, <pi(t)), <p(t) = <p2(t) — ip\ (i). При lim <p'(t) = 0 мы имеем нулевой угол на границе.

В случае внутреннего пика (область V) т принадлежат невесовому пространству Бесова на Г; и конечна величина к=0 dk jl2{t) - mjt) dtk t i-P,t(0,l)

Заметим, что В.И.Буренков получил [49] необходимые и достаточные условия на след функции на границе ненулевого угла, не требующие ничего от производных функции д.

Обозначим через Л^ единичное векторное поле, определенное на Г», г = 1, 2, некасательное к Г,-. В теореме 3.1.2 получены необходимые и достаточные условия для того, чтобы для системы функций /¿о, Мь • • • > определенной на Гх уГг, выполнялись равенства

STF дЖ /i(0r) ¿ = 1,2, г = 0, 1,., 1-1,

0.6) г< для некоторой функции F е где мы считаем С = Ро или С = V. В (0.6) обозначено ц^у = ¿¿г|г,

Таким образом, постановка вопроса в теореме 3.1.2 вполне классическая (см., например, [10, § 24] или [42, часть 3, глава И]).

В теореме 3.1.4 рассматривается постановка задач о следах, типичная для граничных задач математической физики. В теореме 3.1.4 даются необходимые и достаточные условия для того, чтобы для системы функций до, Ц1,. 0 < к < I — 1, определенной на дРо, существовала функция F € И^(Ро) такая, что выполняются равенства (0.6) при г = 0, 1,., А;.

Теорема 3.1.3 есть следствие теоремы 3.1.2. В ней рассматривается область, в которой внутренний пик выродился в разрез.

В § 3.2 рассматриваются вспомогательные утверждения. Доказывается лемма 3.1.1, получаются интегральные оценки для функций, возникающих в лемме 3.1.1 и участвующих в формулировках теорем 3.1.2 и 3.1.4.

В этом же § 3.2 строятся функции ^ € И^Ро) такие, что для Fi выполняются равенства (0.6) именно на IV

В §§ 3.3—3.5 доказываются теоремы 3.1.1, 3.1.2 и 3.1.4.

Результаты данной главы опубликованы в [63], [65]—[69], [72[, [73].

В четвертой главе рассматриваются пространства И7^(С), где область (7 из К", п ^ 3, имеет на границе нулевые углы типа пиков, гребней или соприкасающихся поверхностей.

В § 4.1 приведены вспомогательные сведения, использующиеся в этой главе. Рассматривается, в частности, отображение, переводящее пик (0.5) на бесконечный цилиндр = = Зп) е К": 0 < в„ < оо, Ю < 1}.

Интегралы, вычисленные по дР или Р, переходят после замены переменных в интегралы по д0Б и Д где до Б — часть границы дБ: д0Б = {в = (б;, я„) 6 дБ: |а'| = 1, 0 < 8П < оо}.

После этого мы получаем задачу о следах для весового пространства Соболева на Б. В параграфе рассмотрены величины, через которые дается явный вид нормы в ТМГ^Б) — пространстве следов функций из на дБ с нормой

1Н1п»¿„(О) = ВДИи^: Р до~ М, и доказывается эквивалентность некоторых интегралов, что позволяет рассматривать эквивалентные нормировки в ТЖДРо) и ТУ/р^Б).

В этом же параграфе вводится конформное отображение, переводящее цилиндр Б в полупространство М", что позволяет впоследствии рассматривать эквивалентную задачу о следах функций на (п — 1)-мерной плоскости.

В § 4.2 рассматривается область с внешним пиком на границе, С^-диффеоморфным пику (0.5).

Положим для (.I, определенной на границе Р (см. (0.5))

Ы\ар* = уш\р<р{х)<в:ху, 1

НЫПарлут = Ы\аР0 + {р}ар„> где о(х,у) = х п-Уп|

0.7) тах{9?(а;п), <р(р„)} для х = (х',хп), у = (у',уп) € Мп, х(т") — характеристическая функция отрезка [0,1]. Теорема 4.2.1 утверждает, что

В § 4.3 рассматривается область й с пиком на границе, направленным вовнутрь области. Пусть II — некоторая окрестность О — начала координат и функции из и их слеДы 1Ш р) и) отличны от нуля только на [7р|С и и(~]дР, где Р — область (0.5). Тогда теорема 4.3.1 — основной результат § 4.3, утверждает, что где сг — это функция (0.7).

В § 4.4 рассматривается случай внутреннего пика при р ^ п — 1. В данном параграфе изложение в значительной степени следует работе [25] и основные усилия здесь направлены на то, чтобы результаты, полученные для р = 2, перенести на случай произвольных р е (1, оо). Основной результат сформулирован в теореме 4.4.1 и приведено доказательство, краткое в тех местах, где оно следует работе [25].

§ 4.5 посвящен области, находящейся между касающимися в точке гиперповерхностями. аа^идвои

Пусть (р — та же функция, что и в определении пика (0.5). Область й определяется следующим образом в = {х = (х',хп) е К": |х'| < 1, 0 < хп < </з(|х'|)}.

Обозначим

5о = {х = (*', х„) е М": |х'| < 1, ж„ = 0}, 5! ={х = (х',х„) е Кп: |х'| < 1, хп = у?(|х'|)}, (х', </?(|х'|)), если х = (х', 0) € 50, (х', 0), если х = (х', х„) € 51!, х(х) = <

Считаем все рассматриваемые функции из \¥р(0) и на дО равными нулю при |х'| > Хо > 0, где х0 € (0,1) — некоторое фиксированное число.

Основным результатом § 4.5 является Теорема 4.5.1. Справедливо соотношение да эр эр оа

В последнем § 4.6 рассматривается случай области, имеющей на границе особенность типа гребня. Пусть функции <ри (р2 из Сх([0,1]) — те же, что и в (0.1). Положим

Б = {х = (жь х2,., х„) € Е": </31(х2) < Хх < <р2(х2), 0 < х/ < 1,;/ = 2,., п},

0.8)

5 = {х = (хь х2,., Хп) е мп: - 1 < ХЬ х2 < 1, 0 < XI < 1, = 3,., п}.

Пусть (? — это либо область Д либо — область V — 0\Б и пусть N — это единичный вектор нормали, определенный почти всюду на дй и направленный внутрь области С. Положим для х, у £ дй и Л > 0 р{х) - зир{т: г > 0, х + тЛГ(ж) 6 (?}, 12 т(х, у) = тш{/>(х), р(у)}, где х ~ характеристическая функция отрезка [0,1]. Через «¿(х, у) обозначим точную нижнюю грань длин спрямляемых кривых, лежащих в б и соединяющих же у. Основным результатом § 4.6 является доказанная в этом параграфе Теорема 4.6.1. Справедливо соотношение

1 ( р 1'

М™г1в)~{1№\>р{х)ЛЪу + П у)<Ех<Е„ > . дв \8gdg '

Результаты четвертой главы опубликованы в работах [64] и [70]. В пятой главе рассматриваются пространства Соболева со старшими производными на областях, имеющих на границе особенность типа гребня Б (0.8) или вида V =

Для того, чтобы сформулировать результаты, мы рассматриваем вначале аналог леммы 3.1.1 в пространственном случае и определяем функции, аналогичные введенным в плоском случае в § 3.1. Формулировка основных результатов параграфа (теоремы 5.1.1 и 5.1.2) приводится в § 5.1. Теорема 5.1.1 доказывается в § 5,2, теорема 5.1.2 - в § 5.3.

Отметим здесь, что в [50] В. И. Буренков рассматривает необходимые и достаточные условия на след функции класса И^ на границе пространственного угла, не предъявляющие к производным функции на границе никаких явных требований. Результаты главы 5 опубликованы в [67] и [70]. В главе 6 рассматривается третья краевая задача

Е ¿: (аФ) + £ Ш ^+а№и = хеС>

1 1 ^ 5 ' г=1 1

Он о(х) и = ц{х), X е для случая, когда й — это пик (0.5).

В § 6.1 дается точная формулировка рассматриваемой краевой задачи и формулируется утверждение о ее фредгольмовой разрешимости (теорема 6.1.2) в пространстве \УЦР).

В § 6.2 доказывается полная непрерывность оператора вложения

I: W*(P) -> Ь2,,(дР).

При доказательстве существенно используется интегральное представление из § 2.4.

В § 6.3 доказывается фредгольмова разрешимость третьей краевой задачи в пространстве W2 (Р)- Доказательство следует хорошо известной схеме установления подобных утверждений (см., например, [20, гл.Н] или [21, гл. III]).

Результаты этой главы опубликованы в [74] и [75].

Параграфы имеют двойную нумерацию. Первая цифра — это номер главы, вторая — номер параграфа в главе. Например, § 3.4 означает четвертый параграф третьей главы.

Параграфы делятся на пункты, нумерация которых тройная. Например, пункт 3.4.2 означает второй пункт в § 3.4.

Тройной нумерацией помечаются теоремы, леммы и номера формул. Первая цифра всегда означает главу, вторая — номер параграфа в этой главе, третья — номер теоремы, леммы или формулы в данном параграфе. Нумерация для теорем, лемм и формул независимая.

Оглавление

1 Обозначения и предварительные сведения 17

1.1 Обозначения.17

1.2 Функциональные пространства и интегральные неравенства .19

1.3 Предварительные сведения.23

2 Интегральные представления дифференцируемых функций 28

2.1 Интегральное представление функций, определенных в плоской области (п = 2) . 29

2.2 Интегральные оценки (п = 2) . 36

2.3 Интегральные представления функций, определенных в гребне (п ^ 3). 54

2.4 Интегральное представление функций, определенных в пространственном пике . 60

3 Теоремы о следах для пространств функций, определенных в областях на плоскости (п = 2) 63

3.1 Формулировка основных результатов.64

3.2 Вспомогательные утверждения.75

3.3 Доказательство теоремы 3.1.1 . . .87

3.4 Доказательство теоремы 3.1.2.95

3.5 Доказательство теоремы 3.1.4.118

4 Теоремы о следах для функций класса W^, определенных в пространственных областях 134

4.1 Предварительные сведения . .134

4.2 Область с внешним пиком на границе.156

4.3 Область с внутренним пиком на границе р > п - 1) .173

4.4 Область с внутренним пиком на границе р < п - 1) .;.198

4.5 Область, заключенная между гиперповерхностями, касающимися в точке210

4.6 Случай гребня.220

5 Теоремы о следах для функций класса I ^ 1, определенных в пространственных областях. 250

5.1 Формулировка основных результатов.250

5.2 Доказательство теоремы для области с внешним гребнем.255

5.3 Доказательство теоремы для области с внутренним гребнем.267

6 Разрешимость третьей краевой задачи в №¡(0) 278 6.1 Постановка задачи. Формулировка основных результатов . . 278

6.2 Доказательство теоремы о компактности оператора вложения /2 • • • • 280

6.3 Доказательство фредгольмовости третьей краевой задачи в И^1 (О) . .284

Список литературы диссертационного исследования доктор физико-математических наук Васильчик, Михаил Юлианович, 2006 год

1. Бабич В. М., Слободецкий Jl. Н. Об ограниченности интеграла Дирихле // Докл. АН СССР. - 195G. - Т.106. - № 4. - С. 604-607.

2. Бесов О. В. О некотором семействе функциональных пространств. Теоремы вложения и продолжения // Докл. АН СССР. 1959. - Т.126. - С. 1163-1165.

3. Бесов О. В. Исследование одного семейства функциональных пространств в связи с теоремами вложения и продолжения // Тр. Мат. ин-та им. В. А. Стеклова.- 1961. Т.60. - С. 42-81.

4. Бесов О. В. О продолжении функций из Llp и // Тр. Мат. ин-та им. В. А. Стек-лова. 1967. - Т.89. - С. 5-17.

5. Бесов О. В. Поведение дифференцируемых функций на негладкой поверхности // Тр. Мат. ин-та им. В. А. Стеклова. 1972. - Т.117. - С. 3-10.

6. Бесов О. В. О следах на негладкой поверхности классов дифференцируемых функций // Тр. Мат. ин-та им. В. А. Стеклова. — 1972. Т.117. — С. 11—21.

7. Бесов О. В. Интегральные представления функций и теоремы вложения для области с условием гибкого рога// Тр. Мат. ин-та им. В. А. Стеклова. — 1984.- Т.170. С. 12-30.

8. Бесов О. В. Теорема вложения Соболева для области с нерегулярной границей // Мат. сб. 2001. - Т. 192, № 3. - С. 3-26.

9. Бесов О. В. О компактности вложения весовых пространств Соболева на области с нерегулярной границей // Тр. Мат. ин-та РАН им. В. А. Стеклова. — 2001. — Т.232. С. 72-93.

10. Бесов О. В., Ильин В. П., Никольский С. М. Интегральные представления функций и теоремы вложения. — М.: Наука, 1975. — С. 480.

11. Буренков В. И. Об аддитивности классов \Vp\Q,) // Тр. Мат. ин-та им. В. А. Стеклова. 1967. - Т.89. - С. 31-35.

12. Виленкин Н. Я. Комбинаторика. — М.: Наука, 1969. — С. 328.

13. Водопьянов С. К. Внутренние геометрии и граничные значения дифференцируемых функций // Сиб. мат. журн. 1989. - Т.ЗО, № 2. — С. 29-42.

14. Глобенко И. Г. Некоторые вопросы теории вложения для областей с особенностями на границе // Мат. сб. — 1962. — Т.57 (99), № 2. — С. 201-224.

15. Гольдштейн В. М., Решетняк Ю. Г. Введение в теорию функций с обобщенными производными и квазиконформные отображения. — М.: Наука, 1983. — С. 284.

16. Ильин В. П. Свойства некоторых классов дифференцируемых функций многих переменных, заданных в п-мерной области // Тр. Мат. ин-та им. В. А. Стеклова.- 1962. Т.66. - С. 227-363.

17. Ильин В. П. Интегральные представления дифференцируемых функций и их применение к вопросам продолжения функций классов №1р{д) // Сиб. мат. журн.- 1967, № 7. С. 573-586.

18. Кудрявцев Л. Д. Прямые и обратные теоремы вложения. Приложения к решению вариационным методом эллиптических уравнений // Тр. Мат. ин-та РАН им. В. А. Стеклова. 1959. - Т.55. - С. 3-181.

19. Лабутин Д. А. Интегральное представление функций и вложение пространств Соболева на областях с нулевыми углами // Мат. заметки. —1997. — Т.61, вып.2, февр. С. 201-219.

20. Ладыженская О. А. Краевые задачи математической физики. — М.: Наука, 1973.- С. 408.

21. Ладыженская О. А., Уральцева Н. Н. Линейные и квазилинейные уравнения эллиптического типа. — М.: Наука, 1973. — С. 576.

22. Лизоркин П. И. Граничные свойства функций из весовых классов // Докл. АН СССР. 1960. - Т.132, № 3. - С. 514-517.

23. Лизоркин П. И. Характеристика граничных значений функций из Щ(Еп) на гиперповерхностях // Докл. АН СССР. 1963. - Т.150, № 5, - С. 984-986.

24. Мазья В. Г. Интегральные представления функций, удовлетворяющих однородным краевым условиям и его приложения // Изв. вузов. Математика. — 1980.- № 2. С. 34-44.

25. Мазья В. Г. О функциях с конечным интегралом Дирихле в области с вершиной пика на границе // Мат. ин-т им.В.А.Стеклова. Ленингр. отд-ние. — 1983. — Т.126. С. 117-137.

26. Мазья В. Г. Пространства Соболева. — Л.: Изд-во Ленингр. гос. ун-та, 1985.- С. 416.

27. Мазья В. Г., Поборчий С. В. О следах функций с суммируемым градиентом в области с вершиной пика на границе // Мат. заметки. — 1989. — Т.45, № 1.- С. 57-65.

28. Мазья В. Г., Поборчий С. В. Следы функций из пространств Соболева на границе области с пиком // Тр. Ин-та Математики / АН СССР. Сиб. отд-ние. — 1989.- Т.14: Современные проблемы геометрии и анализа. — С. 182—208.

29. Мазья В. Г., Нетрусов Ю. В., Поборчий С. В. Граничные значения функций из пространств Соболева в некоторых нелипшицевых областях // Алгебра и анализ, 1999. Вып.1. - С. 141-170.

30. Михайлов В. П. Дифференциальные уравнения в частных производных. — М.: Наука, 1976. С. 392.

31. Никольский С. М. Граничные свойства функций, определенных на области с угловыми точками. I—III // Мат. сб.: I. — 1956. — Т.48 82, № 3. — С. 303-318; И. 1957. - Т.44 86. - С. 127-144; III. - 1958. - Т.45 87. - С. 181-194.

32. Никольский С. М. Приближение функций многих переменных и теоремы вложения. — М.: Наука, 1969. — С. 480.

33. Решетняк Ю. Г. Некоторые интегральные представления дифференцируемых функций // Сиб. мат. журн. 1971. - Т.12, № 2. - С. 420-432.

34. Решетняк Ю. Г. Интегральные представления дифференцируемых функций в областях с негладкой границей // Сиб. мат. журн. —1980. — Т.21, № 6. — С. 108— 116.

35. Решетняк Ю. Г. Теоремы устойчивости в геометрии и анализе. — Новосибирск: Наука. Сиб. отд-ние, 1982. С. 230.

36. Слободецкий JI. Н. Обобщенные пространства С. JI. Соболева и их приложения к краевым задачам в частных производных // Уч. зап. Ленингр. пед. ин-та им. А. И. Герцена. 1958. - Т.197. - С. 54-112.

37. Соболев С. JI. Некоторые приложения функционального анализа в математической физике. Новосибирск: Изд-во СО АН СССР, 1962. - С. 256.

38. Стейн И., Вейс Г. Введение в гармонический анализ на евклидовых пространствах. М.: Мир, 1974. - С. 336.

39. Успенский С. В. Свойства классов Wp^ с дробной производной на дифференцируемых многообразиях // Докл. АН СССР. 1960. - Т.132, № 1. - С. 60-62.

40. Успенский С. В. О представлении функций, определяемых одним классом гипо-эллиптических операторов // Тр. Мат. ин-та им. В. А. Стеклова. —1972. — Т.117. С. 292-299.

41. Успенский С. В., Демиденко Г. В., Перепелкин В. Г. Теоремы вложения и приложения к дифференциальным уравнениям / АН СССР. Сиб. отд-ние. Ин-т математики. — Новосибирск: Наука. Сиб. отд-ние, 1984. — С. 224.

42. Фадеев Д. К., Вулих Б. 3., Уральцева Н. Н. и др.; Под ред. М. 3. Соломяка.JL: Изд-во Ленингр. ун-та, 1981 — С. 200.

43. Харди Г. Г., Литтльвуд Д. Е., Полна Г. Неравенства. — М.: Изд-во иностр. лит., 1948. С. 256.

44. Яковлев Г. Н. Граничные свойства функций класса WP на областях с угловыми точками // Докл. АН СССР. 1961. - Т.140, № 1. - С. 73-76.

45. Яковлев Г. Н. Задача Дирихле для областей с нелипшицевой границей // Дифферент уравнения. 1965. — Т.1, № 8. — С. 1085-1098.

46. Яковлев Г. Н. О следах функций из пространства Wj, на кусочно-гладких поверхностях // Мат. сб. 1967. - Т.74 (116), ДО 4. - С. 526-543.

47. Ambrosio I., Kirchenheim В. Rectifiable Sets in metric and Banach Space // Math. Ann. 2000. - V.318. - P. 527-555.

48. Aronszajn N. On coercive integro-differential quadric forms // Conference on Partial Differential Equations, Univ. of Kansas, 1954. Report № 14. - P. 94-106.

49. Burenkov V. I. Description of traces for Sobolev Spaces defined on piecewise smooth surfaces // Function Spaces, Differential Operators and Nonlinear Analysis: Proc. / Intern, conf. Svratka, Greece, May-June 2004. — Svratka, 2004. — P. 20-21

50. Burenkov V. I. Description of traces for Sobolev Spaces defined on a cube // Functional'nye prostranstva, teoriya priblizhenii, nelineinyi analiz: Proc. / Intern, conf. Moskva, 2005. M., 2005. - P. 271.

51. Gagliardo E. Caratterizzazione delle trace sulla frontiera relative ad alcune classi di funzioni in n variabili // Rend. Semin. Mat. Univ. di Padova. — 1957. — Vol.27.- P. 284-305.

52. Gehring F.W., Vaisala J. The coefficients of quasiconformality of domains in space // Acta Metematica. 1965. - V. 144. - P. 1-70.

53. Grisvard P. Elliptic problems in nonsmooth domains. — Pitman; Boston, 1985. — P. 410.

54. Frend G., Králik D. Uber die Anwendbarkeit des Dirichletschen Prinzips für den Kreis // Acta Math. Hung. 1956. - Vol.7, № 3-4. - P. 411-418.

55. Hestens M. R. Extension of the range of a differentiable function // Duke Math. J.- 1941. T.8 - P. 183-192.

56. Jonsson A. Besov spaces on Lipschitz superfaces // University of Umea. — 1986.- V.7. P. 1-12.

57. Jonsson A. The trace of potentials in general sets // Arc. Math. — 1979. — V.17.- P. 1-18.

58. Jonsson A., Wallin H. A Whitney extension theorem in LP and Besov spaces // Ann. Inst. Fourier. 1978. - V.28. - P. 139-192.

59. Prodi G. Tracce Sulla frontiera della funzioni di Beppo Levi // Rend. Semin. Mat. Univ. Padova. 1956. - V.26. - P. 36-60.

60. Prodi G. Tracce di funzioni con derívate di ordine 1 a quadrato integrabile Su varietá di dimensione arbitraria // Rend. Semin. Mat. Univ. Padova. — 1958. — V.28. — P. 402-452.

61. Rabinowich V., Schulze B.-W., Tarkhanov N. A Calculus of Boundary Value Problems in Domains with Non-Lipschitz Singular Points. — Potsdam, 1997. — 54 P.- (Preprint / Universität Potsdam, Institut für Mathematik)

62. Rabinowich V., Schulze B.-W., Tarkhanov N. Boundary Value Problems in Cuspidal Wedges. — Potsdam, 1998. — 69 P. — (Preprint/ Universität Potsdam, Institut für Mathematik)

63. Васильчик М. Ю. О следах функций из пространств Соболева, определенных в плоской области с внешним пиком на границе // Тез. докл. XII Школы по теории операторов в функциональных пространствах, Тамбов, 1987. — С. 34.

64. Васильчик М. Ю. О следах функций из пространств Соболева И^, определенных в областях с нелипшицевой границей // Тр. Ин-та Математики / РАН. Сиб. отд-ние. — 1989. — Т. 14: Совеременные проблемы геометрии и анализа. — С. 9—45.

65. Васильчик М. Ю. О следах функций из пространств Соболева, определенных в плоской области с нелипшицевой границей // Докл. АН СССР. — 1991. — Т.319, № 2. С. 275-277.

66. Васильчик М. Ю. Граничные свойства функций класса Соболева, определенных на областях с кусочно-гладкой нелипшицевой границей // Тез. докл. междун. конференции "Функциональные пространства, теория приближений, нелинейный анализ", Москва, 1995. — С. 72.

67. Васильчик М. Ю. Граничные свойства функций из пространств Соболева, определенных в плоской области с угловыми точками // Сиб. мат. журн. — 1995. Т.36, № 4. - С. 787-804.

68. Васильчик М. Ю. Обратимая характеристика следов функций из пространств Соболева на кусочно-гладкой границе плоской области // Тр. Ин-та Математики / РАН. Сиб. отд-ние. —1996. — Т.31: Пространства Соболева и смежные вопросы анализа. С. 40—57.

69. Васильчик М. Ю. Некоторые применения интегральных представлений при исследовании граничных свойств дифференцируемых функций // Тр. Ин-та Математики / РАН. Сиб отд-ние. — 1996. — Т.31: Пространства Соболева и смежные вопросы анализа. — С. 58—99.

70. Васильчик М. Ю. О задаче Дирихле для бигармонического уравнения в плоской области с пиком // Тез. докл. междун. конференции по анализу и геом., посвящ. 70-летию акад. Ю.Г.Решетняка, Новосибирск, 1999. — С. 117—119.

71. Васильчик М. Ю. О граничном поведении функций из пространств Соболева, определенных в плоской области с вершиной пика на границе // Матем. труды / РАН. Сиб. отд-ние. 2003. - Т. б, № 1. - С. 3-27.

72. Васильчик М. Ю. О компактности оператора вложения пространства в Ьш(дС) в случае плоской области С с вершиной пика на границе // Тез. докл. междун. конференции "Геом. анализ и его приложения", Волгоград, май 2004. Волгоград, 2004. - С. 24-26.

73. Васильчик М. Ю., Гольдштейн В. М. О разрешимости третьей краевой задачи для области с пиком // Мат. заметки. — 2005. — Т.78, вып. 3, сент. — С. 466—468.