Аннотация
Относительная эллиптическая теория или, как её назвал в своих работах Б.Ю. Стернин, «проблема Соболева», состоит в том, что в категории гладких пар многообразий (M,X), одно из которых X гладко вложено в другое M, построить фредгольмову эллиптическую теорию и найти формулу индекса для неё. С точки зрения (псевдо)дифференциальных уравнений задача Соболева состоит в том, что рассматривается сравнение Du ≡ f(modX), где D - псевдодифференциальный оператор, а символ « ≡» означает равенство левой и правой части с точностью до распределений сосредоточенных на подмногообразии X. Очевидно, в случае, когда размерность подмногообразия больше единицы, сравнение, о котором говорится выше, не определяет фредгольмов оператор, именно ядро этого сравнения является бесконечномерным. Оказывается, что если добавить к рассматриваемому сравнению ещё некоторые операторы B, определённые на подмногообразии X, связанные некоторым алгебраическим условием (типа коэрцитивности) с оператором D, то полученный оператор (D,B) уже будет фредгольмовым в соответствующих пространствах Соболева. Замечательным фактом при этом является то, что это условие может быть сформулировано инвариантным образом как условие эллиптичности некоторого оператора, индуцированного задачей на подмногообразии X и, таким образом, условия эллиптичности оператора D и оператора (D,B) вместе доставляют нам фредгольмов оператор. Эта теорема вместе с формулой индекса была в своё время доказана Б.Ю. Стерниным. Напомним, что все операторы, участвующие в построении указанной теории, были псевдодифференциальными. В частности, псевдодифференциальным был оператор (D,B), что, между прочим, и позволило дать определение его эллиптичности. Совершенно по другому обстоит дело в ситуации, когда на многообразии M имеется дополнительная структура, например, действие группы Ли. В этом случае оператор (D,B) уже не будет, вообще говоря, псевдодифферециальным оператором и, следовательно, вопрос о его эллиптичности, формально говоря, не может быть даже поставлен. Тем не менее, в нашей работе при определённых условиях мы можем изучить полученный оператор (D,B), дать определение его символа и доказать его фредгольмовость. Более того, мы предъявляем формулу индекса в этой более общей ситуации. Этому и посвящена настоящая работа.