Алгебры полиномиальных инвариантов классических матричных групп тема диссертации и автореферата по ВАК РФ 01.01.06, доктор физико-математических наук Лопатин, Артем Анатольевич

• Лопатин, Артем Анатольевич
• доктор физико-математических наук
• 2013

Оглавление диссертации доктор физико-математических наук Лопатин, Артем Анатольевич

Оглавление

Введение

Предварительные сведения

Обзор результатов диссертации

Обозначения

1 Порождающие: определения и результаты

1.1 Смешанные колчаны

1.2 Пфаффианы и таблицы

1.3 Основной результат главы

1.4 Инварианты нескольких матриц

1.5 Действие групп на таблицах

2 Полуинварианты как определители-пфаффианы

2.1 Определения

2.1.1 5Х-смешанные колчаны

2.1.2 Определения и замечания

2.1.3 Разбиения и распределения

2.2 Определение и свойства БР

2.3 Сведение к зигзаг-колчану

2.4 Полуинварианты зигзаг-колчанов

2.4.1 Обозначения

2.4.2 Формулировка основного результата главы

2.4.3 Частный случай 1Х = 12 = 1

2.5 Доказательство теоремы 2.15

3 Формула разложения для

3.1 Определения и формулировки

3.2 Мультилинейный случай

3.3 Коэффициенты

3.4 Следы и <7fc

3.5 Следствия

4 GL- и SX-инварианты колчанов

4.1 Основной результат главы

4.2 Полуинварианты зигзаг-колчанов

4.3 Полуинварианты произвольных колчанов

4.4 Доказательство теоремы 4.2

5 Порождающие: завершение доказательства

5.1 Редукция

5.1.1 Хорошие фильтрации

5.1.2 Доказательство теоремы 5.2

5.2 Путевые 0-таблицы и хорошие П-таблицы

5.3 Доказательство теоремы 1.12

6 Соотношения

6.1 Основные определения и формулировки

6.2 Дополнительные определения

6.3 Случай Sp{n): изоморфизм алгебр

6.4 Случай Sp(n): инварианты колчанов

6.5 Случай 0(п)

7 Свободные соотношения

7.1 Определения и результаты

7.2 Вспомогательные результаты

7.3 Производные

7.4 р-мультилинейные свободные соотношения

7.5 Мультилинейные свободные соотношения

7.6 Инварианты GL-смешанных колчанов

8 Ступень нильпотентности алгебры с тождеством хп = 0

8.1 Результаты

8.2 Рекурсивная верхняя оценка

8.3 Следствия

8.4 Случай п = 4

8.5 (7£(п)-инварианты нескольких матриц

9 Частный случай: 0(3)-инварианты

9.1 Основной результат главы

9.2 Определения и замечания

9.3 Алгебра А34

9.4 Случай мультистепени (1, 62 ■ ■ •, Sd)

9.5 Сведение к

9.6 Dmax и ступень нильпотентности для А

Литература

Введение диссертации (часть автореферата) на тему «Алгебры полиномиальных инвариантов классических матричных групп»

Введение

Предварительные сведения

Исторический обзор. Настоящая диссертация посвящена ряду вопросов, связанных с построением систем порождающих некоторых алгебр инвариантов и описанию соотношений между порождающими.

Теория инвариантов оформилась в самостоятельную алгебраическую дисциплину более полутора веков назад под влиянием ряда задач геометрии, алгебры и теории чисел. Ее первоначальной целью было изучение алгебраических выражений, не меняющихся (или меняющихся определенным образом) при невырожденных линейных заменах переменных. Простейшим примером являются симметрические многочлены, так как они инвариантны относительно действия группы перестановок на множестве переменных. Однако с течением времени проблематика теории инвариантов расширилась, и в настоящее время под теорией инвариантов обычно понимают теорию, изучающую действия алгебраических групп на алгебраических многообразиях. Основы теории инвариантов изложены в книгах Т.А. Спрингера [25], Д. Мамфорда и Дж. Фогати [70], X. Крафта [13], Э.Б. Винберга и В.Л. Попова [3]. Современный подход к конструктивной теории инвариантов изложен в книге X. Дерксена и Г. Кемпера [33].

В истории теории инвариантов, с некоторой долей условности, принято выделять три периода. Первый период — это вторая половина XIX века. Теория инвариантов того времени связана с такими именами, как Буль, Кэли, Сильвестр, Эрмит, Якоби, Клебш, Гордан. Особенностью этого периода является изучение конкретных алгебр инвариантов, явное описание их порождающих и соотношений между порождающими. Одним из основных догильбертовских достижений является результат П. Гордана о том, что инварианты бинарных форм конечнопорожде-

ны над полями нулевой характеристики. Гораздо более общий результат был получен Д. Гильбертом в 1890 году, который в современной формулировке звучит так: алгебра инвариантов редуктивной алгебраической группы, действующей на аффинном многообразии, конечно порождена. Отметим, что обобщение на случай поля положительной характеристики было получено Нагатой. XIV проблема Гильберта посвящена теории инвариантов: будет ли кольцо инвариантов алгебраической группы, действующей на полиномиальном кольце, всегда конечно порожденным? Контрпример был построен М. Нагатой в 1959 году.

Второй период — это первая половина XX века. Он характеризуется изучением связи между теорией инвариантов и теорией представлений классических матричных групп и представлен такими математиками, как Р. Брауэр, Г. Вейль, И. Шур. Основные результаты были собраны в книге Г. Вейля 1946 года: "Классические группы — их инварианты и представления" [84], где были рассмотрены инварианты векторов и ковекторов.

Современный период теории инвариантов связан с интенсивным использованием геометрических идей, и теория инвариантов становится разделом алгебраической геометрии. Исторически ключевое значение имеет книга Д. Мамфорда "Геометрическая теория инвариантов" [69] 1965 года.

В данной диссертации мы завершаем описание порождающих для инвариантов смешанных колчанов. Для случая колчана с одной вершиной и ортогональной или симплектической группы мы завершаем описание соотношений между порождающими. Рассмотрен ряд приложений к частным случаям.

Инварианты матричных групп. Рассмотрим классическую матричную группу С, т.е. группу из списка СЬ(п), О(п), Зр(п), 5Х(п), 50(п), и прямую сумму

Н = Рпхп 0 • • • 0 Епхп

с? копий пространства пхп матриц над бесконечным полем Р. Группа С действует на Н диагонально сопряжениями, а именно:

д-{Аи...,Ал) = (дА1д-\...,дАад-1), (1)

где д е в и Аи...,Аа £ Епхп.

Координатное кольцо пространства Н (другими словами, кольцо полиномиальных функций / : Н —> F) — это кольцо полиномов

R = F[#] = ¥[xij(k) 11 < i, j < n, 1 < к < d],

где Xij(k) : H —> F переводит представление ... ,Ad) € V в (¿,j)-bift элемент матрицы Обозначим через

/ хц(А;) ■•• х\п{к) \

Xk = \ :

у " ' " Хпп(1ъ) j

к-ую общую матрицу (1 < к < п).

Действие G на Н индуцирует действие G на R следующим образом: (д • f){h) = f(g~l • К) для всех д G, f £ R, h £ Н. Другими словами,

д • Xij(k) = (г,_7')-ый элемент матрицы д~1Хкд.

Алгебру G-инвариантов нескольких матриц обозначим через

Rg = {/ 6 R | д • / - / для всех д G G}.

Ясно, что / еЯ лежит в RG тогда и только тогда, когда f(g ■ h) = f{h) для всех д € G и h £ Н.

Алгебра RG имеет приложения как к теории представлений ассоциативных алгебр (например, см. [39, 67]), так и к теории алгебр с полиномиальными тождествами. На приложении к теории алгебр с полиномиальными тождествами (PI-алгебры) мы остановимся ниже. Кроме того, С1/(п)-инварианты нескольких матриц были применены к некоммутативной алгебраической геометрии в недавних работах 3. Райхштайна и Н. Вонессена [75, 76, 83].

Мы не рассматриваем случаи ортогональной группы и специальной ортогональной группы над полем характеристики два, так как в этих случаях даже порождающие алгебры инвариантов нескольких векторов не известны. Последние результаты в этом направлении могут быть найдены в статье М. Домокоса и П. Френкеля [41] 2005 года.

Обозначим коэффициенты характеристического полинома пхп матрицы X через crt(X), т.е.

det(A£ - X) = \п - (Ti(X)Xn~1 + • • • + (-l)nan{X). (2)

Порождающие алгебры R° были найдены в 1992 году С. Донки-ным [44] для GL(n) и в 1999 году А.Н. Зубковым для 0{п) и Sp(n) [8]. В указанных работах было доказано, что алгебра инвариантов RG порождается следующими элементами:

(a) at(A) (1 < t < п и А пробегает множество всех мономов от Xj,... если G = GL{n);

(b) crt(B) (1 < t < n я В пробегает множество всех мономов от Хи ..., Xd, Xj,..., Xj), если G = 0(n) и char F ф 2;

(c) crt(C) (1 < t < n и С пробегает множество всех мономов от Xi,..., Ха, ..., Х£), если G — Sp(n). Здесь X* обозначает сим-плектически транспонированную матрицу (см. раздел 1.1).

Если charF = 0 или charF > гг, то достаточно взять следы tr(?7) вместо at(U) для того, чтобы получить систему порождающих алгебры RG. Ранее, над полями нулевой характеристики, соответствующие результаты были получены К.С. Сибирским [24] в 1968 году и К. Прочези [73] в 1976 году, которые применили классическую теорию инвариантов векторов и ковекторов (см. книгу [84] Г. Вейля). Более того, Ю.П. Размыс-ловым [18] в 1974 году было показано, что над полем нулевой характеристики достаточно полагать, что deg(U) < п2. Развивая идеи из [73], X. Аслаксен, И.К. Тан, К.Б. Жо вычислили порождающие для случая G = SO(n) в 1995 году (см. [27]).

Над бесконечным полем произвольной характеристики соотношения для RGL(n) были установлены А.Н. Зубковым [7] в 1996 году. В статье А.Р. Кемера [62] 1997 года приводится прямое комбинаторное доказательство этого результата для случая полилинейных соотношений.

Отметим, что важность изучения инвариантов матричных групп над полями положительной характеристики была указана Э. Форманеком в обзоре [54], опубликованном в 1991 году (также см. [53]). Ключевым отличием случая положительной характеристики от случая поля нулевой характеристики является следующее свойство:

• если 0 < charF < п, то для любого d инвариант tr(Xi • • • JQ) не выражается через инварианты из RGL^ меньшей степени.

При остальных характеристиках поля данное свойство неверно.

Минимальная (относительно включения) система порождающих (сокращенно МСП) для С£(2)-инвариантов нескольких матриц была описана в работах [24, 40, 74]:

• trpQ), tr(Xf), tv(XiXj) (г < j), tY{XiXjXk) (г < j < к), если charF ф 2,

• tr(Xj), det(Xj), tr(X^ • • • Xir) (¿i < • • • < гГ, r > 0), если charF = 2,

где 1 < i,j,k,ii,...,ir < d. Для 0(2)-инвариантов нескольких матриц над F = С МСП была построена в статье [24].

Положим, что d = 2. При charF = 0 Я. Дубнов [6] в 1941 году нашел следующую систему порождающих алгебры инвариантов RGLtr(Xi), tr(Xf), tr(Xf), tr(X2), tr(Xf), tr(Xf), triXxXa), tr(X?X2), tr(XiXf), tr(X?Xf), tr(XiX2XfX|), a A.B. Маринчук и K.C. Сибирский [15] в 1969 году показали, что указанная система порождающих является минимальной. Если заменить tr(X^) на crfc(Xj) (г = 1,2, к = 2,3), то получим МСП для поля произвольной характеристики. Более того, алгебра инвариантов RGL^ изоморфна фактору кольца многочленов от 11 переменных по главному идеалу, порождающий которого явно указан К. На-камото [72] в 2002 году и X. Аслаксеном, В. Дренским, Л. Садиковой [28] в 2006 году Ранее, над полями нулевой характеристики аналогичный результат был получен Я. Тераниши [81] в 1986 году. Над полем нулевой характеристики МСП для RGL^ была найдена в статье [81], а детальное описание соотношений малых степеней было получено В. Дренским и Р. Ла Скало [50] в 2007 году. Кроме того, при малых п ряд результатов об алгебре RGL^ над полями нулевой характеристики может быть найден в обзоре В. Дренского [49], а над полем произвольной характеристики — в работе М. Домокоса, А.Н. Зубкова и С.Г. Кузьмина [40].

Рассмотрим более подробно приложение алгебры С£(п)-инвариантов нескольких матриц к PI-алгебрам. Алгебра конкомитаитов Сп порождается алгеброй инвариантов

RGL(n)

и общими матрицами. Тождества алгебры конкомитаитов называются матричными тождествами с формами, и они содержат идеал тождеств Т[Мп] алгебры всех п х п матриц над полем F. Задача описания идеала матричных тождеств с формами эквивалентна описанию тождеств алгебры RGL(n\ которая решена, в отличие от задачи описания Т[Мп]. Поэтому алгебра инвариантов

RGL(n)

может быть использована для получения информации о тождествах алгебры всех п х п матриц. Отметим, что идеал тождеств Т[Мп] описан

только в случае п = 2 и charF Ф 2 (см. [17], [31], [65]). Используя матричные тождества с формами, J1.M. Самойлов [19, 20] в 2008 году положительно решил следующую проблему, поставленную А.Р. Кемером [61] в 1996 году: верно ли, что радикал Джекобсона относительно свободной алгебры счетного ранга над бесконенчным полем положительной характеристики является ниль-идеалом ограниченного индекса? Матричные тождества с формами также применялись К.А. Зубрилиным [10, 11] при изучении алгебр, удовлетворяющих тождествам Капелли. При помощи изучения матричных тождеств с формами А.Я. Белов [1], работая над полем произвольной характеристики, показал устойчивость вербально первичных Т-идеалов, наличие у них слабых тождеств и центральных полиномов. В статье [12], опубликованной в 1990 году, А.Р. Кемер, помимо решения локальной проблемы Шпехта для произвольного бесконечного поля, доказывает существование киллеров всех форм. А именно для 1 < t < п киллером формы at называется такой некоммутативный многочлен ht qL Т[Мп], что htat(x) — gt лежит в Т[Мп] для некоторого некоммутативного многочлена Киллеры помогают совершать переход от матричных тождеств с формами к обычным тождествам матриц. Полагая, что charF ф 2,3, А.Р. Кемер и И.В. Аверьянов [63] в 2006 году описали идеалы киллеров следов для 2 х 2 и 3 х 3 матриц.

Отметим так же, что алгебры и поля инвариантов различных подгрупп классической матричной группы G (например, параболических) в случае d = 1 были исследованы в работах А.Н. Панова [16], К.А. Вятки-ной и А.Н. Панова [4], В.В. Севостьяновой [21, 22, 23].

Инварианты колчанов. Колчаном Q = (Q0, Qi) называется конечный ориентированный граф со множеством вершин Qo и множеством ребер Q1. Данное понятие было введено П. Габриэлем [55] в 1972 году в качестве эффективного средства для описания различных проблем линейной алгебры. Важность данного понятия с точки зрения теории представлений следует из того, что категория представлений колчана эквивалентна категории конечномерных модулей алгебры путей данного колчана. Так как каждая конечномерная базовая (basic) алгебра над алгебраически замкнутым полем является фактор-алгеброй алгебры путей некоторого колчана (см. главу 3 из [51]), то категория конечномерных модулей над такой алгеброй является полной подкатегорией категории представлений колчана. Полиномиальные инварианты колчанов важны не только для классической теории инвариантов, но и для теории пред-

ставлений колчанов потому, что эти инварианты различают полупростые представления колчана.

Представление колчана с I вершинами состоит из набора векторных пространств Е™,..., ¥П1, сопоставленных вершинам, и линейных отображений между этими векторными пространствами "вдоль" стрелок. Вектор п = (пх,... ,п/) называется вектором размерности. Группа СЬ(пх) х • • • х С?1/(п/) действует на множестве представлений колчана заменой базисов в пространствах, сопоставленных вершинам. Как и выше, мы можем определить алгебру полиномиальных инвариантов. Если колчан состоит из одной вершины и нескольких петель, то алгебра инвариантов колчана совпадет с алгеброй СЬ(п)-инвариантов нескольких матриц.

Понятие представления колчана можно обобщить следующим образом. Рассмотрим некоторую вершину V данного колчана, где 1 < V < I. В классическом случае полная линейная группа СЬ(Пу) действует на умножением слева, но в нашем случае произвольная классическая матричная группа из списка СЬ(пу), 0{пу), 5р(пг;), ЗЬ(пь), 80(пь) может действовать на Более того, разобьем часть вершин на непересекающиеся пары. При этом вершинам из одной пары сопоставим взаимосопряженные векторные пространства. Таким образом, теперь мы можем работать с билинейными формами, а не только с линейными отображениями. Кроме того, вместо произвольных линейных отбражений "вдоль" стрелок мы можем рассматривать только те, которые удовлетворяют некоторому ограничению; например, сохраняют некоторую билинейную симметрическую форму на пространствах, сопоставленных вершинам. Полученные таким способом представления колчанов называются представлениями смешанного колчана О.. Таким образом, О — (0.,п1д,Н,г) определяется следующими элементами:

• колчаном О, вместе с вектором размерности п,

• типами классических матричных групп, задаваемых вектором д,

• типами линейных отображений вдоль стрелок, задаваемых вектором Н,

• инволюцией г, которая задает пары сопряженных вершин.

Явное определение вместе с примерами может быть найдено в разделе 1.1.

Частными случаями рассмотренной конструкции являются следующие понятия.

• СЬ-смешанные и суперсмешанные представления колчанов, введенные А.Н. Зубковым [86] в 2000 году (также см. [87]). Для получения СХ-смешанных (суперсмешанных, соответственно) представлений из [87] следует рассмотреть представления такого смешанного колчана О, что £ — это произведение полных линейных групп (полных линейных групп, ортогональных и симплектических групп, соответственно).

• Ортогональные и симплектические представления симметрического колчана, введенные X. Дерксеном и Дж. Вайманом [35] в 2002 году.

• Симметрические представления колчанов со знаком, введенные Д. Шмелькиным [80] в 2006 году.

Дополнительные детали могут быть найдены в примере 1.2. Мотивация данных обобщений с точки зрения теории представлений алгебраических групп дается в работах [35], [80], где симметрические колчаны и колчаны со знаком, соответственно, как ручного, так и конечного типа классифи-цированны.

Смешанный колчан О позволяет нам определить группу С = G(n,gr,г), действующую на Н = Н(0.,п,1). Рассмотрим известные результаты о порождающих и соотношениях между ними для алгебры инвариантов

Над полями нулевой характеристики инварианты произвольного колчана <2 были найдены Л. Ле Брюном и К. Прочези [67] в 1990 году.

Применяя теорию модулей с хорошей фильтрацией (см. [42]), С. Дон-кин [47] в 1994 году описал порождающие для случая произвольного колчана над нолем положительной характеристики. Соотношения между порождающими были найдены А.Н. Зубковым [9] в 2001 году, используя подход, позволяющий одновременно вычислять порождающие и соотношения между ними. Этот подход также использует теорию модулей с хорошей фильтрацией.

Инварианты колчана относительно действия (7 = П^ейо назы-

ваются полуинвариантами. Их порождающие над полями произвольной характеристики были установлены М. Домокосом и А.Н. Зубковым [38] в

2001 году, используя методы из [7, 9, 44, 47], и, независимо, X. Дерксеном и Дж. Вайманом [32, 34] в 2002 году, используя теорию представлений колчанов. Одновременно, аналогичный результат над полями нулевой характеристики был получен А. Скофилдом и М. Ван ден Бергом [78] в 2001 году.

Комбинируя рассуждения с суперклассами Юнга из [47] с редукцией из [8], А.Н. Зубков [87] в 2005 году нашел порождающие для случая смешанных колчанов (Q,n,g,h,i) с gv Е {GL,0, Sp} для всех v € Qo. Соотношения между порождающими алгебры инвариантов GL-смешанных колчанов были установлены А.Н. Зубковым [88] в 2005 году по модулю свободных соотношений.

Ступень нильпотентности алгебры с тождеством хп = 0. Обозначим через Cnjd ступень нильпотентности относительно свободной ассоциативной F-алгебры без единицы с d (свободными) порождающими и тождеством хп = 0. Так как = 1 и Спд = п, то мы полагаем, что n, d > 2, если не оговорено противное. Ясно, что Cn^d зависит только от n, d и р = char F.

Рассмотрим следующие три случая:

(a) р = 0;

(b) 0 < р < п;

(c) р > п.

Хорошо известная теорема Нагаты-Хигмана (см. [71] и [58]), которая первоначально была доказана Я. Дубновым и В. Ивановым [52] в 1943, утверждает, что Сп^ < 2П в случаях (а) и (с). Как было отмечено в [40], Сп4 > d в случае (Ь); в частности, Сп^ —> оо при d —¥ оо. Значит, случай (Ь) существенно отличается от случаев (а) и (с). В 1974 году Ю.П. Размыслов [18] доказал, что Cnjd < п2 в случае (а). Что же касается нижних оценок на Cnjd, в 1975 году Е.Н. Кузьмин [14] установил неравенство Cn,d > \п(п + 1) в случаях (а), (с) и предположил, что Cn^d в действительности равно |n(n + 1) в этих случаях. Доказательство данной нижней оценки было воспроизведено в книгах [48] и [30]. Однако гипотеза Кузьмина остается недоказанной, за исключением некоторых частных случаев. А именно, гипотеза верна при п = 2 и п — 3. В случае (а) гипотеза была доказана М.Р. Воганом-Ли [82] при п — 4 и Н. Жукавец вместе с И.П. Шестаковым [79] при п = 5, d = 2.

Используя подход А.Я. Белова [29], A.A. Кляйн [64] в 2000 году получил следующие верхние оценки для случая поля произвольной характеристики: Сп4 < \n6du и Сп4 < irn1_i)[nn3dm: где га = [п/2]. Здесь [а] (где а Е К) обозначает наибольшее целое число b < а. В 2011 году А.Я. Белов и М.И. Харитонов [2] показали, что Сп^ < 218 ■ n^g3(n)+28d (см> замечание 8.13). Более того, они доказали наличие аналогичных верхних оценок для высоты Ширшова конечно порожденной алгебры с полиномиальными тождествами.

Для d > 0 и поля произвольной характеристики ступень нильпотентности Cntd известна для п = 2 (например, см. [40]):

q _ Г 3, если р = 0 или р > 2 2,d \ <¿+1, если р = 2

Обзор результатов диссертации

В главах 1—5 диссертации строятся порождающие алгебры инвариантов произвольного смешанного колчана:

Теорема 1.12. Рассмотрим смешанный колчан (Q, п, д, h, г), удовлетворяющий условию (1.5). Тогда алгебра инвариантов F[jFf (Q, n, h)]^*1'9'^ порождается элементами

где

1. ß\ ■ ■ ■ ßr пробегают множество всех замкнутых путей в QD и 1 < к < riß>>;

2. (Т, (Ii,..., Ys)) пробегает множество всех путевых £1°-таблиц такого веса w, что

a) если gv Е {GL, О, Sp] для некоторой вершины v Е Qo, то Щ(ь) =wv = 0;

b) если gv = SL для некоторой вершины v <Е Qo, то w^ = 0 или wv = 0;

c) если gv = SO для некоторой вершины v Е Qo, то wv < 1 и i(v) — v.

Все понятия, используемые в формулировке теоремы, включая условие (1.5), вводятся в главе 1. В качестве следствия, в разделе 1.4 мы устанавливаем порождающие матричных инвариантов специальной ортогональной группы (над полями нечетной характеристики):

Следствие 1.14, часть d). Пусть charF ф 2. Если п четно, то алгебра инвариантов нескольких матриц

RSO(n)

порождается следующими

элементами:

где 1 < к < п, к\ + ■ ■ ■ + ks = п/2, и матрицы Y, Y\,..., К, пробегают множество всех мономов от Xi,..., X¿, Xj1..., Xj. Если п нечетно, то Rs°(n) =

Здесь через pffc обозначена частичная линеаризация обобщенного пфаффиана pf, который для произвольной матрицы X четного порядка равен pf(X — Хт).

Глава 1 организована следующим образом. В разделе 1.1 обобщается понятие представлений колчанов и вводится ключевое понятие смешанных колчанов.

Раздел 1.2 содержит необходимые в главе 1 обозначения вместе с ключевыми понятиями блочной частичной линеаризации пфаффиана (БЧЛП) и таблицы с заменой (которые для краткости обычно называем таблицами). С каждой таблицей с заменой (Т, (Xi,..., Xs)) связан многочлен bpfT(Xi,... ,Х3), который является БЧЛП (см. лемму 1.15), однако не всякая БЧЛП равна bpfT(Xi,... ,XS) для некоторой таблицы с заменой.

В разделе 1.3 основной результат главы (теорема 1.12) сформулирован при помощи таблиц с заменой. Затем в разделе 1.4 рассмотрен случай колчана с одной вершиной (следствие 1.14).

Разделы 1.5-5.3 посвящены доказательству теоремы 1.12. В разделе 1.5 установлено, что элементы из теоремы 1.12 действительно являются инвариантами (лемма 1.18).

В главе 2 описаны инварианты в ключевом частном случае SL-смешанных колчанов на языке БЧЛП. Для этого в разделе 2.2 вводится определитель-пфаффиан DPir, который является частным случаем БЧЛП. В разделе 2.3 случай общего колчана сводится к случаю зигзаг-колчана, который является разновидностью двудольного колчана. В раз-

деле 2.4 формулируется основной результат главы, который затем доказывается в разделе 2.5.

Глава 3 посвящена доказательству формулы разложения, которая представляет БЧЛП, соответствующую некоторой таблице, как многочлен от БЧЛП, соответствующих таблицам с меньшим числом столбцов (см. теорему 3.7). Краткая формулировка этого результата дана в теореме 3.1. В разделе 3.2 доказывается мультилинейный аналог формулы разложения. Разделы 3.3 и 3.4 посвящены доказательству формулы разложения. Некоторые следствия из формулы разложения рассмотрены в разделе 3.5. Например, формула разложения обобщает хорошо известную формулу С.А. Амитсура [26], которая представляет определитель суммы матриц как многочлен от коэффициентов характеристических многочленов различных произведений этих матриц.

В главе 4 мы переписываем порождающие из главы 2 в терминах БЧЛП, соответствующих таблицам. Кроме того, мы получаем единообразное описание инвариантов, независимо от того, рассматриваем ли мы зигзаг-колчан или нет. Более того, мы описываем порождающие для случая GL- и ^¿-инвариантов (теорема 4.2).

Глава 5 посвящена завершению доказательства теоремы 1.12. Общий случай сводится к случаю GL- и SX-инвариантов в разделе 5.1 при помощи двойственности Фробениуса и теории модулей с хорошей фильтрацией. В теореме 5.2 установлено, что пространство инвариантов является образом GL- и ^¿-инвариантов некоторого явно построенного колчана. В разделе 5.2 мы применяем формулу разложения для того, чтобы переписать БЧЛП как многочлен от БЧЛП специального вида (теорема 5.15). Применяя этот результат, в разделе 5.3 мы находим образ GL- и 51-инвариантов и показываем, что элементы из теоремы 1.12 порождают алгебру инвариантов.

В главе 6 над полями положительной нечетной характеристики описаны соотношения между порождающими матричных инвариантов ортогональной и симплектической групп (теоремы 6.7 и 6.8):

Теорема 6.7. Положим, charF ф 2 и G = 0{п). Тогда идеал соотношений Кп для ~а(Х)/Кп порождается

cri)T.(a, 6, с) для t + 2r > п (£, г > 0), где а,Ь,с пробегают множество элементов алгебры F(A^).

Теорема 6.8. Положим, charF ф 2 и G = Зр(п). Тогда идеал соотношении Кп для R&W ~ сг(Х)/Кп порождается

Qt,r(a, b, с) для t + 2r > п (t, г > 0), где a,be ¥{Х) и се ¥{Х)*.

Все необходимые определения можно найти в разделе 6.1. Доказательства этих результатов состоят из двух шагов: вначале мы сведем проблему описания соотношений для

R0(n)

и

RSPH

к соотношениям между инвариантами GL-смешанных представлений колчанов из [87], а затем завершим описание соотношений между инвариантами смешанных представлений колчанов, полученное А.Н. Зубковым [88] по модулю свободных соотношений. Соотношение называется свободным, если оно верно для матриц произвольных размеров. Первый шаг осуществлен в главе 6, а второй вынесен в отдельную главу 7 (см. теорему 7.23).

В главе 7 мы показываем, что при charF ^ 2 идеалы свободных соотношений для и R^^ равны нулю (теорема 7.1). Из этого ре-

зультата и работы А.Н. Зубкова [88] следует теорема 7.23. Опишем идею доказательства теоремы 7.1. Вначале, в разделе 7.3 мы определим частичные производные dq на кольце многочленов Afa, содержащем а(Х). Действуя частичными производными на свободных соотношениях, построим р-мулътилинейное свободное соотношение в разделе 7.4. Затем, применяя замены в разделе 7.5, получим мультилинейное свободное соотношение. Заменяя общие матрицы на подходящие матрицы с целыми коэффициентами, мы покажем, что единственное мультилинейное свободное соотношение тождественно равно нулю.

В главе 8 получаем следующие верхние оценки на ступень нильпотентности Сща'-

• <4-2zd для | < charF < п (см. следствие 8.8).

• С-м описана с погрешностью 3 для всех d и charF ^ 2 (см. теорему 8.14).

В качестве приложения, рассмотрена алгебра СЬ(п)-инвариантов нескольких матриц и описана ее конечная система порождающих при помощи (см. теорему 8.22).

Глава 9 посвящена вычислению наибольшей степени -Dmax элементов МСП для которая может быть использована для построения

"небольшой" конечной системы порождающих алгебры Получены

следующие оценки на Dmах:

Теорема 9.1. Пусть п — 3 и d > 1. Тогда

• Если char F = 3, то 2d + 4 < Dmax <2d + 7.

• Если charF ^ 2,3, mo Dmax = 6.

Основные результаты диссертации. На защиту выносятся следующие результаты:

• описаны порождающие алгебры матричных инвариантов специальной ортогональной группы над бесконечным полем нечетной характеристики (следствие 1.14, часть d)),

• описаны соотношения между порождающими для алгебры матричных инвариантов ортогональной группы над бесконечным полем нечетной характеристики (теорема 6.7),

• описаны соотношения между порождающими для алгебры матричных инвариантов симплектичсской группы над бесконечным полем нечетной характеристики (теорема 6.8),

• описаны порождающие алгебры инвариантов смешанных колчанов над бесконечным полем произвольной характеристики (теорема 1.12),

• изучены свойства алгебры инвариантов ортогональной группы малого порядка (теорема 9.1),

• над полями положительной характеристики построены новые оценки на ступень нильпотентности относительно свободной конечно порожденной ассоциативной алгебры с тождеством хп = О (следствие 8.8); строится конечная система порождающих алгебры матричных инвариантов полной линейной группы (теорема 8.22).

Все эти результаты получены автором самостоятельно. Результаты из главы 2 получены автором совместно с А.Н. Зубковым при равном участии.

Научная новизна и практическая ценность. Все основные результаты диссертации являются новыми. Диссертация носит теоретический характер. Ее результаты могут быть использованы в дальнейших исследованиях алгебр инвариантов нескольких матриц и их обобщений, в теории алгебр с полиномиальными тождествами, в теории представлений алгебр, при чтении спецкурсов для студентов и аспирантов.

Апробация работы. Результаты диссертации докладывались на следующих научно-исследовательских семинарах: Омский алгебраический семинар (ОФ ИМ СОРАН), семинар "Группы Ли и теория инвариантов" (МГУ), семинар "Алгебра и логика" (ИГУ), семинар им. A.M. Ширшова "Теория колец" (ИМ СОРАН), семинар по теории представлений университета г. Билефельд (Германия), семинар "Алгебры Ли, йордановы алгебры и их представления" университета г. Сан-Паулу (Бразилия), алгебраический семинар университета г. Кампинас (Бразилия), алгебраический семинар университета г. Бразилиа (Бразилия), алгебраический семинар Мюнхенского технического университета (Германия), семинар по теории представлений Рурского университета в Бохуме (Германия). Кроме того, результаты диссертации были доложены па следующих математических конференциях: международная конференция "Мальцевские чтения" (Новосибирск, 2002, 2003, 2010); международная алгебраическая конференция, посвященная 250-летию МГУ и 75-летию кафедры алгебры (Москва, 2004); международная конференция "Теория представлений и ее приложения" (Уппсала, Швеция, 2004); международная алгебраическая конференция, посвященная 100-летию со дня рождения Конторовича и 70-летию Л.Н. Шеврина (Екатеринбург, 2005); исследовательская конференция "Геометрия представлений и теория инвариантов" (Спа, Бельгия, 2005); международная конференция по модулям и комодулям (Порту, Португалия, 2006); конференция "Дни теории представлений" (Ганновер, Германия, 2007); международная алгебраическая конференция, посвященная 100-летию со дня рождения Д.К. Фаддее-ва (Санкт-Петербург, 2007); международная алгебраическая конференция, посвященная 100-летию со дня рождения А.Г. Куроша (Москва,

2008); конференция по алгебре, геометрии и динамическим системам (Белфаст, Великобритания, 2009); международная алгебраическая конференция, посвященная 60-летию А.И. Генералова (Санкт-Петербург,

2009); международная конференция "Перспективы теории инвариантов" (Кельн, Германия, 2009); международная алгебраическая конференция,

посвященная 70-летию A.B. Яковлева (Санкт-Петербург, 2010); международная конференция "Стохастические методы в биологии и предельные алгебры" (Омск, 2010); вторая школа-конференция "Алгебры Ли, алгебраические группы и теория инвариантов" (Москва, 2011); международная конференция по теории колец, посвященная 90-летию со дня рождения А.И. Ширшова (Новосибирск, 2011); международная конференция "Алгебры Ли, йордановы алгебры, их представления и приложения, V" (Белем, Бразилия, 2012); международная конференция "Группы, кольца и групповые кольца" (Убатуба, Бразилия, 2012).

Структура и объем работы. Диссертация состоит из введения, 9 глав и списка литературы. Полный объем диссертации составляет 189 страниц. Список литературы включает 103 наименования.

Публикации. Результаты диссертации были опубликованы в работах [89]-[103].

Обозначения

Введем некоторые обозначения, которые будут использоваться во всех разделах. Мы работаем над бесконечным полем F произвольной характеристики charF. Все векторные пространства, алгебры и модули рассматриваются над полем F, если не оговорено противное. Обозначим через N множество неотрицательных чисел, через Z — множество целых чисел, через Q — поле рациональных дробей над Z и положим, что F* = F\{0}. Если не оговорено противное, то, рассматривая матрицу, мы предполагаем, что она над некоторой коммутативной алгеброй с единицей над полем F.

Введем лексикографический порядок < на NxN следующим образом: (ai, 61) < (d2, b2) тогда и только тогда, когда di < а2 или а\ = a<i и Ъ\ < &2-

Обозначим композицию отображений fug через / о д(х) = f(g(x)) или, для краткости, через fg(x). Символ Кронекера обозначим через 5ij.

Мощность множества S обозначим через а результат замены а на b в S — через 5|а_>.ь. Иногда замену будем обозначать через а —» Ъ. Конечную последовательность ..., аг обозначим через (ai,..., аг) или, для краткости, через а\ • • • аг. Во втором случае а\ ■ • ■ аг является словом от букв ai,...,ar. Аналогично мощности множества обозначим длину последовательности Л = (Ai,..., Ар) через = р. Если А — это

последовательность элементов некоторого кольца, то положим, что |Л| = Ах + .. . + АР. Элемент и свободной полугруппы называется примитивным если и ф V • • • у, где количество сомножителей больше 1. Для целых чисел г < ] обозначим интервал г, г + 1,... ,.7 — 1,.? через [1,з].

Обозначим через тождественную перестановку из группы всех перестановок «5П на п элементах. Для г ф 3 обозначим транспозицию, переставляющую г и 3, через (г,3). Для перестановок сг\ Е е>П1,..., ст^ Е 3Пк через sgn(cгl • • • сг^) обозначим sgn(cгx) ■ ... • sgn(cr^г).

Мы обозначаем мультимножества при помощи скобок {.. .}т. А именно, пусть = будет отношением эквивалентности на некотором множестве 5 и ах,..., ар, &ь ..., Ья лежат в 5. Мы полагаем, {ах,..., ар}т = {¿>1,..., Ьд}т тогда и только тогда, когда р — q и

#{1 < 3 < VI 0-2 = а*} = #{1 <3 <р\Ъ,= аг}

для всех 1 < г < р.

Под распределением В = (В1,...,В3) множества [1,£] мы понимаем упорядоченное разбиение множества на непересекающиеся подмножества Вг (1 < г < в), которые называются компонентами распределения. Каждому распределению В сопоставим две функции 3 1—>• В\з\ и 3 >• В(з) (1 < з < £), определенные следующим образом:

В\з\ = г, если з е Ви и В(з) = #{[1,3] nвi\je В{}.

Вектор £ = (¿1,..., € М8 задает распределение Т = (Т15..., Т8) множества [1,4], где £ = ¿х Н-----и Тг = {¿х Н-----+ 1, • • • ,¿1 Н-----1-*»},

1 < г < 5. Например, если £ = (1, 3,0, 2), то Т = ({1}, {2,3,4}, 0, {5, 6}) и Г|5| = 4. Распределения, задаваемые векторами, будем обозначать соответствующими заглавными буквами. Отметим, что для 1 < 3 < £ выполняется

Т\з\ = г, если ¿х + ■ •• + ¿¿-1 < 7 < ¿1 + • • • + и, и Т{з) + + и-1), где Т\з\ = г.

Вектор А = (Ах,..., А3) Е удовлетворяющий условиям Ах > • • • >

А5 и Ах Ч-----ЬА5 = £, называется разбиением числа I и обозначается через

АЬ£.

Мультиразбиением А Ь £ называется набор из q разбиений А = (Ах,...,А9), где Лх Ь ¿ь...,^ Ь и £ = (¿х,...^) Е №. Мульти-разбиение А отождествляется с вектором (Ах,...,А5) Е М5, где =

5Ъ ■ • • > = Зд, Аг = • • • ,Лв1+...+^), 5 = + ВвКТОр

в = («1,..., Бд) называется высотой мультиразбиения Л. Мультиразбие-ние Л задает распределение Л = (Ах,..., Л3) и подгруппу Юнга ¿>д.

Обозначим свободную полугруппу (без единицы), свободно порожденную буквами Х2,..., х^ ,х~2 , ■ • через (Л"). Подполугруппу, свободно порожденную буквами х\,..., Ха, х{■> • ■ • > х1-> обозначим через Для

монома а е (X) и буквы х через с^ж(а) обозначим количество букв х в мономе а, а через с^(а) — общее количесво букв в мономе а. Мулъти-степень монома а Е ~ это

mdeg(a) = ((^Х1(а) + deg:cт(a),... ^Х(г(а) + deg:Eт(a)).

Например, degЖl(a) = 3, deg¡[.т(a) = 1 и пк^(а) = (4,1) для а = х\х~1х\х2.

Кольцо Ъ естественным образом гомоморфно отображается в поле Е. Образ этого гомоморфизма обозначим через Ъ^.

Для векторного пространства V через ¿^(У), АЬУ обозначим

его симметрическую алгебру, £-ую симметрическую степень и внешнюю степень.

Пусть некоторая группа С действует на векторном пространстве V. Это действие переносится и на координатную алгебру аффинного

многообразия V: для / € F[V], д £ С, V £ V полагаем (д-/)(у) = Рассматривая двойственное пространство V* как на однородную компоненту степени 1 алгебры ¥[У], превращаем V* в С-модуль. Если группа С действует на векторных пространствах V, IV, то она действует и на Нот]р(У,Ил) — пространстве линейных отображений из V в IV: для / е Нот(У, УУ), д £ С, V £ V полагаем (д • /)(у) = д • (/(д• у)). Кроме того, действие С на V ® V*/ задается формулой д • (г; ® т) = д ■ V <8> д ■ ио.

Список литературы диссертационного исследования доктор физико-математических наук Лопатин, Артем Анатольевич, 2013 год

Литература

[1] А.Я. Белов, Ассоциативных Р1-алгебр, совпадающих со своим коммутатором, не существует, Сиб. матем. журн., 44 (2003), 12391254.

[2] А.Я. Белов, М.И. Харитонов, Субэкспоненциальные оценки в теореме Ширшова о высоте, Матем. сб., 203 (2012), №4, 81-102.

[3] Э.Б. Винберг, В.Л. Попов, Теория инвариантов, Итоги науки и техн., Соврем, проблемы матем., Фундам. напр. ВИНИТИ, 55 (1999), 137-309.

[4] К.А. Вяткина, А.Н. Панов, Поле II-инвариантов присоединенного представления группы СЬ(п,К), Матем. заметки, 93 (2013), №1, 144-147.

[5] Ф.Р. Гантмахер, Теория матриц, М.: Наука, 1966.

[6] Я. Дубнов, Полная система инвариантов двух аффиннизаторов в центрально-аффинном пространстве размерности два или три, Труды семинара по векторному и тензорному анализу, 5 (1941), 250-270.

[7] А.Н. Зубков, Об обобщении теоремы Размыслова-Прочези, Алгебра и логика, 35 (1996), №4, 241-254.

[8] А.Н. Зубков, Инварианты присоединенного действия классических групп, Алгебра и логика, 38 (1999), №5, 299-318.

[9] А.Н. Зубков, Теорема Размыслова-Прочези для представлений колчанов, Фундам. прикл. матем., 7 (2001), №2, 387-421.

10] К.А. Зубрилин, Алгебры, удовлетворяющие тождествам Капел-ли, Мат. сб., 86 (1995), №3, 53-64.

11] К.А. Зубрилин, О классе нильпотентности препятствия для представимости алгебр, удовлетворяющих тождествам Капел-л% Фунд. и прикл. матем., 1 (1995), №2, 409-430.

12] А.Р. Кемер, Тождества конечнопорожденных алгебр над бесконечным полем, Изв. АН СССР. Сер. матем., 54 (1990), №4, 726-753.

13] X. Крафт, Геометрические методы в теории инвариантов, М.: Мир, 1987.

14] E.H. Кузьмин, О теореме Нагаты-Хигмана, Математические структуры, вычислительная математика, математическое моделирование, труды, посвященные 60-ти летию академика J1. Ильева, София, 1975, 101-107.

15] A.B. Маринчук, К.С. Сибирский, Минимальные полиномиальные базы аффинных инвариантов трех 3x3 матриц, Матем. исследования, 14 (1969), Ш, 46-56.

16] А.Н. Панов, Инварианты коприсоединенных представлений регулярных факторов, Алгебра и анализ, 22 (2010), №3, 222-247.

17] Ю.П. Размыслов, Существование конечного базиса тождеств матричной алгебры порядка два над полем характеристики нуль, Алгебра и логика, 12 (1973), №1, 83-113.

18] Ю.П. Размыслов, Тождества во следом полных м,атричных алгебр над полем характеристики нуль, Изв. акад. наук СССР, Сер. матем, 38 (1974), т, 723-756.

19] JI.M. Самойлов, О нильиндексе радикала относительно свободной ассоциативной алгебры, Матем. заметки, 82 (2007), JNM, 583-592.

20] JI.M. Самойлов, О радикале относительно свободной ассоциативной алгебры над полями положительной характеристики, Матем. сборник, 199 (2008), №5, 81-126.

[21] В.В. Севостьянова, Алгебра инвариантов присоединенного действия унитреугольной группы в нильрадикале параболической подалгебры, Вестн. СамГУ, 76 (2010), №2, 72-83.

В.В. Севостьянова, Поле инвариантов присоедипцииого действия унитреугольной группы в нильрадикале параболической подалгебры, Зап. научн. сем. ПОМИ, 375 (2010), 167 194.

В.В. Севостьянова, Инварианты присоединцнного действия на нильрадикале параболической подалгебры для Вп, Сп, Dn, Зап. научн. сем. ПОМИ, 386 (2011), 265-280.

К.С. Сибирский, Алгебраические инварианты системы матриц, Сибирск. матем. жури., 9 (1968), №1, 152-164.

Т.А. Спрингер, Теория инвариантов, М.: Мир, 1981.

S.A. Amitsur, On the characteristic polynomial of a sum of matrices, Linear and Multilinear Algebra, 8 (1980), 177-182.

H. Aslaksen, E.-C. Tan, C.-B. Zho, Invariant theory of special orthogonal groups, Pacific J. Math., 168 (1995), №2, 207-215.

H. Aslaksen, V. Drensky, L. Sadikova, Defining relations of invariants of two 3x3 matrices, J. Algebra, 298 (2006), 41-57.

A.Ya. Belov, Some estimations for nilpotence of nill-algebras over a field of an arbitrary characteristic and height theorem, Commun. Algebra, 20 (1992), 2919-2922.

A. Belov, L.H. Rowen, Computational aspects of polynomial identities, Research Notes in Mathematics, 9, A.K. Peters, Wellesley, MA, 2005, 378 pp.

J. Colombo, P. Koshlukov, Central polynomials in the matrix algebra of order two, Linear Algebra Appl., 377 (2004), 53-67.

H. Derksen, J. Weyman, Semi-invariants of quivers and saturation for Littlewood- Richards on coefficients, J. Amer. Math. Soc., 13 (2000), 467-479.

[33] H. Derksen, G. Kemper, Computational invariant theory, Invariant Theory and Algebraic Transformation Groups, I. Encyclopaedia of Mathematical Sciences, 130, Springer-Verlag, Berlin, 2002, 268 pp.

[34] H. Derksen, J. Weyman, On the Littlewood-Richardson polynomials, J. Algebra, 255 (2002), №2, 247-257.

[35] H. Derksen, J. Weyman, Generalized quivers associated to reductive groups, Colloq. Math., 94 (2002), №2, 151-173.

[36] M. Domokos, Invariants of quivers and wreath products, Coramun. Algebra, 26 (1998), 2807 2819.

[37] M. Domokos, Finite generating system of matrix invariants, Math. Pannon., 13 (2002), №2, 175-181.

[38] M. Domokos, A.N. Zubkov, Semi-invariants of quivers as determinants, Transform. Groups, 6 (2001), №1, 9-24.

[39] M. Domokos, A.N. Zubkov, Semisimple representations of quivers in characteristic p. Algebr. Represent. Theory, 5 (2002), №3, 305-317.

[40] M. Domokos, S.G. Kuzmin, A.N. Zubkov, Rings of matrix invariants in positive characteristic, J. Pure Appl. Algebra, 176 (2002), 61-80.

[41] M. Domokos, P.E. Frenkel, Mod 2 indecomposable orthogonal invariants, Adv. Math., 192 (2005), 209-217.

[42] S. Donkin, Rational representations of algebraic groups: tensor products and filtrations, Lecture Notes in Math., Vol. 1140, Springer-Verlag, Berlin, Heidelberg, New York, 1985.

[43] S. Donkin, The normality of closures of conjugacy classes of matrices, Invent. Math., 101 (1990), 717-736.

[44] S. Donkin, Invariants of several matrices, Invent. Math., 110 (1992), 389-401.

[45] S. Donkin, On tilting modules for algebraic groups, Math. Z., 212 (1993), 39-60.

S. Donkin, Invariant functions on matrices, Math. Proc. Cambridge Philos. Soc., 113 (1993), 23-43.

S. Donkin, Polynomial invariants of representations of quivers, Comment. Math. Helvetici, 69 (1994), 137-141.

V. Drensky, E. Formanek, Polynomial identity rings, Advanced Courses in Mathematics, CRM Barcelona, Birkhâuser, Basel-Boston, 2004.

V. Drensky, Computing with matrix invariants, Math. Balkanica (N.S.), 21 (2007), 141-172.

V. Drensky, R. La Scala, Defining relations of low degree of invariants of two 4x4 matrices, Internat. J. Algebra Comput., 19 (2009), №1, 107-127.

Yu.P. Drozd, V.V. Kirichenko, Finite dimensional algebras, SpringerVerlag, 1994.

J. Dubnov, V. Ivanov, Sur lâbaissement du degré des polynômes en affineurs, C.R. (Doklady) Acad. Sci. USSR, 41 (1943), 96-98.

E. Formanek, The invariants of n x n matrices, in: Lecture Notes in Math., Vol. 1278, 1987, pp. 18-43.

E. Formanek, The polynomial identities and invariants of n x n matrices, Regional Conference Series in Appl. Math., Vol. 78, American Math. Soc., Providence, RI, 1991.

P. Gabriel, Unzerlegbare Darstellungen I, Manuscripta Math., 6 (1972), 71-103.

F.D. Grosshans, Algebraic homogeneous spaces and invariant theory, Lecture Notes in Math., Vol. 1673, Springer-Verlag, Berlin, Heidelberg, New York, 1997.

J. Havil, Gamma: Exploring Euler's constant, Princeton, NJ; Princeton University Press, 2003.

G. Higrnan, On a conjecture of Nagata, Math. Proc. Cambridge Philos. Soc., 52 (1956), 1-4.

[59] W.V.D. Hodge, D. Pedoe, Methods of algebraic geometry, Vol. I, Cambridge Univ. Press, Cambridge, 1947.

[60] N. Jacobson, Structure of rings, Amer. Math. Soc. Colloq. Publ., 37 (1964), Appendix 1.

[61] A. Kemer, Pi-algebras and nil algebras of bounded index, Trends in ring theory (Miskolc, Hungary, 1996), CMS Conf. Proc., vol. 22, Amer. Math. Soc., Providence, RI 1998, pp. 59-69.

[62] A. Kemer, Multilinear identities of the algebras over a field of characteristic p, Int. J. of Algebra and Computation, 5 (1997), №2, 189-197.

[63] A. Kemer, I. Averyanov, Description of the algebras generating the variety of trace-killers, Adv. in Appl. Math., 37 (2006), №3, 390-403.

[64] A.A. Klein, Bounds for indices of nilpotency and nility, Arch. Math. (Basel), 76 (2000), 6-10.

[65] P. Koshlukov, Basis of the identities of the matrix algebra of order two over a field of characteristic p ^ 2, J. Algebra, 241 (2001), 410-434.

[66] S. Lang, Algebra, Addison-Wesley Publishing Company, Reading, Mass., 1965.

[67] L. Le Bruyn, C. Procesi, Semi-simple representations of quivers, Trans. Amer. Math. Soc., 317 (1990), 585 598.

[68] O. Mathieu, Filtrations of G-modules, Ann. Sci. Ecole Norm. Sup. (2), 23 (1990), 625-644.

[69] D. Mumford, Geometric invariant theory, Springer-Verlag, 1965.

[70] D. Mumford, J. Fogarty, Geometric invariant theory, 2nd enlarged edition, Ergebnisse 34, Springer, 1982.

[71] M. Nagata, On the nilpotency of nil algebras, J. Math. Soc. Japan, 4 (1953), 296-301.

[72] K. Nakarnoto, The structure of the invariant ring of two matrices of degree 3, J. Pure Appl. Algebra, 166 (2002), 125-148.

[73] C. Procesi, The invariant theory of n x n matrices, Adv. Math., 19 (1976), 306-381.

[74] C. Procesi, Computing with 2x2 matrices, J. Algebra, 87 (1984), 342 359.

[75] Z. Reichstein, N. Vonessen, Group actions and invariants in algebras of generic matrices, Adv. in Appl. Math., 37 (2006), №4, 481 500.

[76] Z. Reichstein, N. Vonessen, Polynomial identity rings as rings of functions, J. Algebra, 310 (2007), №2, 624-647.

[77] A. Schofield, On general representations of quivers, Proc. London Math. Soc. (3), 65 (1992), 46-64.

[78] A. Schofield, M. van den Bergh, Semi-invariants of quivers for arbitrary dimension vectors, Indag. Math. (N.S.), 12 (2001), №1, 125-138.

[79] I.P. Shestakov, N. Zhukavets, On associative algebras satisfying the identity xb = 0, Algebra Discrete Math. (2004), №1, 112 120.

[80] D.A. Shmelkin, Signed quivers, symmetric quivers, and root systems, J. Lond. Math. Soc. (2), 73 (2006), №3, 586-606.

[81] Y. Teranishi, The ring of invariants of matrices, Nagoya Math. J., 104 (1986), 149 161.

[82] M.R. Vaughan-Lee, An algorithm for computing graded algebras, J. Symbolic Comput., 16 (1993), 345-354.

[83] N. Vonessen, Polynomial identity rings as rings of functions, II, J. Algebra, 371 (2012), 462-479.

[84] H. Weyl, The classical groups — their invariants and representations, Princeton Univ. Press, Princeton, NJ, 1946.

[85] E. Zelmanov, Some open problems in the theory of infinite dimensional algebras, J. Korean Math. Soc., 44 (2007), №5, 1185 1195.

[86] A.N. Zubkov, Mixed representations of quivers and relative problems, Bielefeld University, SFB 343, Preprint 00-094, 2000.

[87] A.N. Zubkov, Invariants of mixed representations of quivers I, J. Algebra Appl., 4 (2005), №3, 245-285.

[88] A.N. Zubkov, Invariants of mixed representations of quivers II: Defining relations and applications, J. Algebra Appl., 4 (2005), №3, 287-312.

Публикации автора по теме диссертации:

[89] А.А. Лопатин, Кольцо инвариантов трех 3x3 матриц над полем простой характеристики, Сибирский матем. журнал, 45 (2004), №3, 624-633.

[90] A.A. Lopatin, The algebra of invariants of 3 x 3 matrices over a field of arbitrary characteristic, Communications in Algebra, 32 (2004), JVfi7, 2863-2883.

[91] A.A. Lopatin, Relatively free algebras with the identity x3 = 0, Communications in Algebra, 33 (2005), №10, 3583 3605.

[92] A.A. Lopatin, A.N. Zubkov, Semi-invariants of mixed representations of quivers, Transformation Groups, 12 (2007), №2, 341-369.

[93] A.A. Lopatin, On block partial linearizations of the pfaffian, Linear Algebra and its Applications, 426/1 (2007), 109-129.

[94] A.A. Lopatin, Invariants of quivers under the action of classical groups, Journal of Algebra, 321 (2009), 1079-1106.

[95] A.A. Lopatin, Indecomposable invariants of quivers for dimension (2,..., 2) and maximal paths, Communications in Algebra, 38 (2010), 3539-3555.

[96] A.A. Lopatin, Indecomposable invariants of quivers for dimension (2,... ,2) and maximal paths, II, Сибирские электронные математические известия, 7 (2010), 350-371.

[97] A.A. Lopatin, Orthogonal invariants of skew-symmetric matrices, Linear and Multilinear Algebra, 59 (2011), №8, 851 862.

[98] A.A. Lopatin, On minimal generating systems for matrix 0(3)-invariants, Linear and Multilinear Algebra, 59 (2011), №1, 87-99.

[99] A.A. Lopatin Minimal generating set for semi-invariants of quivers of dimension two, Linear Algebra and its Applications, 434 (2011), №8, 1920-1944.

[100] A.A. Lopatin, Relations between 0(n)-invariants of several matrices, Algebras and Representation Theory, 15 (2012), 855-882.

[101] A.A. Lopatin, Free relations for matrix invariants in modular cases, Journal of Pure and Applied Algebra, 216 (2012), 427-437.

[102] A.A. Lopatin, On the nilpotency degree of the algebra with identity xn = 0, Journal of Algebra, 371 (2012), 350-366.

[103] A.A. Lopatin, Matrix identities with forms, Journal of Pure and Applied Algebra, 217 (2013), №11, 2056 2075.