О проблеме пересечения классов смежности конечно порожденных подгрупп в группе Кокстера с древесной структурой Текст научной статьи по специальности «Математика»

ЧЕБЫШЕВСКИЙ СБОРНИК

Том 17 Выпуск 2

УДК 519.4

О ПРОБЛЕМЕ ПЕРЕСЕЧЕНИЯ КЛАССОВ СМЕЖНОСТИ КОНЕЧНО ПОРОЖДЕННЫХ ПОДГРУПП В ГРУППЕ КОКСТЕРА С ДРЕВЕСНОЙ СТРУКТУРОЙ

О, В, Инченко (г, Тула)

Аннотация

В 1955-1956 гг. П. С. Новиковым была доказана неразрешимость основных алгоритмических проблем в классе конечно определенных групп. В связи с этим возникла задача изучения данных проблем в конкретных классах конечно определенных групп. Таким образом, научный интерес представляет собой класс конечно определенных групп Кокстера, введенный X. С. М. Кокстером в 1934 г.

Класс конечно порожденных групп Кокстера с древесной структурой был выделен

B. Н. Безверхним в 2003 г.

Пусть конечно порожденная группа Кокстера с древесной структурой задана копред-ставлением

С = (аь ...ап; (а^)2, (а*а,,г,] € 1 ,п,г = ])

где т, — число, соответствующее симметрической матрице Кокстера, причем, при г = ], т, = т,, т, ^ 2. Если т, = го, то между а^ и а, соотношения пет. Группе С соответствует конечный связный дерево-граф Г такой, что если вершинам некоторого ребра е графа Г соответствуют образующие о^ и а,, то ребру е соответствует соотношение вида (а^а, = 1.

С

рожденных групп Кокстера, объединенных по конечным циклическим подгруппам. При этом от графа Г группы С перейдем к графу Г следующим образом: вершинам некоторого ребра е графа Г поставим в соответствие группы Кокстера па двух образующих

C, = (а,,а*; (а,)2, (а4)2, (а,а*) и С^ = (а^,ак; (а4)2, (ак)2, (аiаfc)m¿fc), а ребру е — циклическую подгруппу (а^;(а^)2).

Проблема пересечения классов смежности состоит в том, что необходимо выяснить существует ли алгоритм, позволяющий для любых двух конечно порожденных подгрупп # и #2 группы С и любых слов гш\,гЮ2 € С установить пусто или пет пересечение члхНх П и>2#2.

Ранее автором была доказана разрешимость данной проблемы для свободного произведения двух двупорожденных групп Кокстера с объединением.

В настоящей работе показана разрешимость проблемы пересечения классов смежности конечного числа конечно порожденных подгрупп группы Кокстера с древесной структурой, представленной в виде древесного произведения п сомножителей, объединненых по циклическим подгруппам второго порядка.

При доказательстве использован метод специального множества и метод типов, введенный В. П. Безверхним и использованный им при исследовании разрешимости различных алгоритмических проблем в свободных конструкциях групп.

Ключевые слова: группа Кокстера с древесной структурой, проблема пересечения классов смежности, свободное произведение групп с объединением, метод специального множества, метод типов.

Библиография: 17 названий.

ON PROBLEM OF INTERSECTION OF THE ADJACENCY CLASSES OF FINITELY GENERATED

SUBGROUPS OF COXETER'S GROUP WITH TREE STRUCTURE

О, V, Inehenko (Tula) Abstract

P. S. Novikov in 1955-1956 showed the unsolvability of the main algorithmic problems in class of finite defined groups. In this connection there was important task of consideration of these problems in specific classes of finite defined groups. Thus, class of finite defined groups of Coxeter represents scientific interest. The class of groups of Coxeter was defined by H. S. M. Coxeter in 1934.

The classe of finitely generated groups of Coxeter with tree structure was defined by V. N. Bezverkhnii in 2003.

Let finitely generated group of Coxeter with tree structure is defined by presentation

G = (a1, ...an; (aj)2, (aja,)mij,i,j G 1,n,i = j)

where mj, — number which corresponds to a symmetric matrix of Сoxeter. At that, if i = j, that mj, = m,i, m> 2. If mj, = то, that between a^d a, relation does not exist . The group matches finite coherent tree-graph Г such that: if tops of some edge -e of graf Г are elements aj and a,, that the edge e matches relation (aja,)mij = 1.

G

groups of Coxeter, which are united by final cyclic subgroups. In this case, we will pass from graf Г of group G to graf Г as follows: we associate tops of some edge e of graf Г groups of Coxeter with two generating elements Gjj = (a,,aj;(aj)2, (aj)2, (a,aj)mji) and Gjk = (aj, ak; (aj)2, (ak)2, (ajak)mik), and edge e — cyclic subgroup (aj; (aj)2).

The problem of intersection of the adjacency classes of finitely generated subgroups is that you need to find an algorithm that will help determine empty or not intersection wiHi П w2H2, where Hi and H2 any subgroup of group ^aid wi,w2 G G.

Previously, the author proved the solvability of this problem for free product with association of two Coxeter's groups with two generating element.

In the article author shows solvability of a problem of intersection of the adjacency classes of finite number of finitely generated subgroups of Coxeter's group with tree structure. For this

Gn are united by finite cyclic subgroups.

To prove of this result, the author used the method of special sets and method of types. These methods were defined V. N. Bezverkhnii. He used these methods for research of various algorithmic problems in free constructions of groups.

Keywords: Coxeter's group with tree structure, problem of intersection of the adjacency classes, amalgamated free product, method of special sets, method of types.

Bibliography: 17 titles.

1. Введение

Пусть G — конечно порожденная группа Кокстера с древесной структурой, представленная в виде древесного произведения двуиорожденных групп Кокстера объединенных по конечным циклическим подгруппам:

G = ^ П *Gs; relGi, ..,relGs; ai = a'^.

В этом случае группе Кокстера О соответствует дерево — граф Т такой, что, если вершинам некоторого ребра е графа Т соответствуют группы Кокстера па двух образующих Оц = ^aj, аа2, а2, (а^а^)™5^ и Оц- = (щ, ак; а2, а2к, (а^к)т*к), тогда ребру е соответствует

циклическая подгруппа (аг; а2} (Рис. 1).

В. Н. Безверхним в [3] был получен следующий результат:

ТЕОРЕМА 1 (3). Пусть О древесное, произведение групп

объединенных по изоморфным подгруппам и^ < О и Uji < О с помощью фиксированного набора конструктивных изоморфизмов р^ : рji(Uij) = Uji. Тогда, если подгруппы и^ и Uji обладают условием, лшксилшльности и в солтожителях разрешимы проблемы:

1. проблема вхождения;

2. проблема пересечения классов сложности любой конечно порожденной подгруппы, Н < От, с подгруппой и^ < От;

3. существует алгоритм, выписывающий образующие пересечения любой конечно порожденной подгруппы Н < От с подгруппой и^ < От,

О

Очевидно, что конечно порожденная группа Кокстера с древесной структурой, представленная в виде древесного произведения с объединением по конечным циклическим подгруппам, удовлетворяет условиям теоремы 1. Таким образом,

О

релшша, проблема вхождения.

Рис. 1 Дерево-граф группы С4

О

релшша, проблема, пересечения, подгрупп и существует алгоритм выписывающий образующие этого пересечения.

Будем говорить, что в группе С разрешима проблема пересечения классов смежности конечно порожденных подгрупп, если для любых двух конечно порожденных подгрупп # и #2 группы С и любых слов € С существует алгоритм, позволяющий установить пусто

или нет пересечение -Ш1#1 Р| -Ш2#2 .

Рассмотрим свободное произведение С двупорожденных групп Кокстера

Су* = (ау, а*; а2, а2, (ауа*)^) и С*к = (а*, ак; а2, а|, (а*ак)тл)

объединенных по циклической подгруппе (а*; а2}: С = Су* * С*к-

(аг,а2)

В [7] показано, что в группе С разрешима проблема пересечения классов смежности двух конечно порожденных подгрупп.

Теорема 3 (9). В группе С разрешим,а, проблема пересечения классов смежности конечного числа конечно порожденных подгрупп.

Обобщим результат, полученный для группы С на всю группу С.

С

в виде свободного произведения двух сомножителей, объединенных по конечной циклической подгруппе следующим образом: Рассмотрим древесное произведение к — 1 сомножителей, которому соответствует связный дерево-граф Тк_1, Тк-1 с Т. Группу, соответствующую графу Тк_1 обозначим через Ск_1- Пусть к-ый сомножитель-подгруппа Сху соответствует вершине дерева-графа Т (Рис. 1.), которая связана с графом Тк_1 ребром е^. При этом ребру ег соответствует циклическая подгруппа второго порядка (ах; аХ). Так группа С представлена как свободное произведение двух подгрупп — Ск_1 и Сху, объединенных по циклической подгруппе порядка два (ах; аХ), то есть С = Ск_1 * Сху.

(а-£; аХ>

Таким образом, для доказательства разрешимости проблемы пересечения классов смеж-

С

суждения аналогичные рассуждениям, использованным при получении разрешимости данной проблемы в группе С.

Предположим, что в группе Ск_1 разрешима проблема пересечения классов смежности конечного числа конечно порожденных подгрупп. Покажем, что данная проблема разрешима С

2. Необходимые утверждения

С

9 = ¿1а ¿2а..¿ид Кд Гид ..Г1 д, (1)

где гд и ¿_д1 — представители правых классов смежности группы Ск_1 то (ах; ах) и Сху по (ах; (ах)2), причем Г+1д (аналогиино ¿зд, ¿5+1д) принадлежат разным сомножителям С Кд 9

Если Кд не принадлежит объединяемой подгруппе, то слоги ¿ид и гид принадлежат одному С Кд

¿(9) =2п + 1.

Определение 1. Если в (1) ¿1д¿2д..¿ид = (гид..г1д)_1; то слово

9 = г_д1..г_д1Кд гид ..Г1д (2)

ид

называется трансформой.

Если принадлежит объединяемой подгруппе, то в (1) слоги ¿«д и г«д принадлежат разным сомножителям группы О. В этом случае слоговая длина слова

9 = ¿1д ¿2д ..¿гад Лд г«д ..г1д, (3)

где = К^^на £(д) = 2п.

Слово вида (1) будем называть нетрансформой нечетной длины, вида (3) нетрансформой четной длины.

Определение 2. Подслово 11д 12д..¿«д(г«д..г1д) называется левой (правой) половиной слов (1), (3). Подслово 11д 12д..¿«д(Кдг«д..г1д) — закрытым, начальным, (конечным) отрезком,.

Определение 3. Левая (правая) половина слова = ¿2ш ..¿тшгтш ..Г1ш называется изолированной в множестве } ] € 1, И, если ни у одного из слов е = ±1 множества, ({— } \шг)и ^{ш-1} нельзя выделить ¿2ш ..¿тш ..Г1ш) в качестве начального (конечного) подслова, то есть = ¿2ш4..¿тш,¿т+1ш,ш« (ш^ = ..г^)•

Определение 4. Конечное множество слов Ш = {шг}ге^^ гРУппы О назовем специальным, если оно удовлетворяет следующим условиям:

1. Левая, половина нетрансформы из множества Ш изолирована, в нем,. Если нетрансфор-ма четной длины, то изолирована, и, левая и правая половины;

2. Длину нетрансформы шгс нельзя, уменьшить, умножая слева и справа на, слова из подгруппы, порожденной множеством ({шг}\шгс)- Длину произвольного элемента, нельзя уменьшить, умножая на слово ш длины, меньше Ь(шгс); принадлежащее подгруппе

3. Пусть ш|0 = ¿1^0¿2^0..¿гаадоК^оггаадо..г,-+1шо..Г1адо; е = ±1 ; < п — нетрансформа из множества {шг}ге^^ м

{шС0; = Г«Ша_; "^'шо -г1шо},

ег = ±1 подмножество нетрансформ из множества ({шг}\шг0) и ({ш-1} \шг:01); зравые половины которых оканчиваются подсловом ГуШо..г1шо; тогда если подгруппа

({шгЬе1м) П ^-Шо ..^-Шо..г1шо = ^е

^ = / Ок-1, если гу+1шо € О&_1; ^ Ожу, если гу+1шо € Оху.

не единична, то Ь(шгои) ^ Ь(шго); г<9е и € •¿(■шгоиша) ^ ¿(шго);

Пусть - llwi ¿8+1Шг "¿«Ш^ + ..г1ш4 и

щ = ^

слова из {шг}ге не обязательно раззичны, т и П в ^ т, тогда не существует слова

9 = 1 длины меньше 2в из подгруппы такого, что если ¿1

то

лзбо ес/ш ..г^ = -Пш,-,то

wig = l iwi ..lswi ls+iwi ..Inwt Kw i rnWi ..r s+iwir SWj ..r iwj ,

либо если r-wi ..r-w.i = liwj ..lswj, mo

9wi = liwj ..lswj (rs+iwi) .. irnwi) iKwi) lnwi ..l—wi,

либо если l'-wi..l-wi = rswj ..riwj > rno

wi g = rlwi ..rnwi {KwJ {l^wJ .. {ls+ i,wj rswj .riwj .

Лемма 1 (1). Пусть группа

G* = (G, t; relG, t_iUit = p(Ui)).

есть HNN-pacuiupenue группы G с помощью ассоциированных подгрупп Ui и U_ i = p(Ui) и фиксированного конструктивного изоморфизма (р. Если подгруппы Ui и U_i обладают усло-

G

1. проблема вхождения;

2. существует алгоритм, позволяющий для любой конечно порожденной подгруппы, H < G и любого элемента, w g G установить, пусто или нет, пересечение wH р| U£, £ = ±1;

3. существует алгоритм, выписывающий для, любой конечно порожденной подгруппы, H < G и подгруппы, U£, £ = ±1, образующие их пересечения,

G*

альное.

Теорема 4 (Миллер-Шупп). Группа G = (Gi * G2,Ui = p(Ui)); являющаяся свободным произведением групп Gi и G2 с объединением, по изоморфным подгруппам Ui и U_i

( ( ) ( ( U ) = U_

G* = (Gi * G2,t; relGi, relG2,t_iUit = p(Ui)).

По теореме 4 группа G = Gk_ i * Gxy изоморфно вложима в группу

(ax^Z )

G* = (Gk_ i * Gxy, t; relGk_ i ,relGxy, t_ iaxt = p(ax)),

которая удовлетворяет условиям леммы 1. Тогда справедливо

Следствие 2. Всякое конечное множество слов {w'}ieYN гРУппы G = Gk_i * Gxy

, (ax laX )

можно через конечное число шагов преобразовать в специальное.

Пусть W — специальное множество слов. Разобьем его на подмножества следующим образом: подмножеству Mo принадлежат все нетрансформы, а под множествам M' трансформы с одинаковыми крыльями, принадлежащие одной подгруппе, сопряженной некоторой группе Gk_i или Gxy. Каждое из этих подмножеств порождает подгруппу (M'), i = 0,k, имеющую вид: (M') = r_i..r_С'Гп'..Гц. Здесь C' — подгруппы из Gk_i или Gxy, порожденные ядрами

(Mi)

(Mi) < (M2) < ... < (Mk)

(4)

Лемма 2 (1). Ряд (4) можно преобразовать в ряд

(и[) < (И2) < ... < (и'к) , (4')

обладающий следующими свойствами:

1. др ((Мо), (М 1),..., (Мк)) = др ((ЫЦ), (М>),..., (Ы'к));

2. Если подгруппе {м'^ = т-х..т- С''тпх..т1х, 1 ^ . ^ к' принадлежит трансформа и =

rix ■■rnx hrnx..r 1 х, где h принадлежит объединяемой подгруппе, то среди подгрупп ряда, (4') имеется подгруппа, (M') = r-X■■r1xC[rn-1 ,x..r 1 x содержащая u;

3. Если для некоторой трансформы и = т-х ..т-1Кхтпх..т1х, принадлежащей подгруппе (м'^) = г-Х-г-ХСТпх..г\х, и нетрансформы у = ¡-¿..¡Ц^Ку¡П1у..¡1у из Мо, и\ ^ и, (левая, половина у изолирована) выполняется соотношение Ь(у-1иу) ^ Ь(у), т,о существует подгруппа, (М^) ряда, (4'), содержащая, трансформу у-1 (т-£..тЦ^Кхтпх..т1х) у, а, если Ь(уиу-1) < Ь(у), то существует подгруппа (М'3) ряда, (4Г), содержащая трансформ,у

у (Т1х ..тпхКхтпх..

т1х у-1

4- Если (м'^ = т-х..^хСТп1х..Т1хЕ (МЯ = Т-Х..Т-1хТ~а1+1 ,у..Т-уС'зтп2у..т1х - подгруппы ряда (4Г), и2 > и1, и подгруппа (М' ) содержит трансформу и = т-Х ..т-!хЬ,тп1х..т1х,

л,ибо u! = r-x . rix, где K = r,n_^+1yhrm+i,y, mo существует подгруппа ряда,

(4') (Mk) rix ■■rnixrni + 1 ,УCkrni+1,y:r1x, содержащая в первом случае трансформу и, u

5. Если (M's)

= r-■■rn-¡iXCSrn1x■■rlx подгруппа, из ряда (4Г) и

У = lly ■ ■1П2>yKrn2y■■rni+1,yrnix■■r1x,

£ = ±1 — элемент специального множества, причем подслово

-1 -1 -1

r r r 1 1x ••' nix1 n1 + 1,y

и если подгруппа, (М'а) содержит трансформу т-X..тп 11хНтп1х..т1х либо трансформу т-1 ..т-11хКтП1х..т1х, где К = т-1+1уНтп1+1у, то существует, подгруппа ряда (4!)

(Щ) = Т1хс ..Т-1хТ-1+1,уТп1 + 1,у..т1х,

содержащая эт,у трансформу.

(Мо)

ства — свободна и не содержит трансформ.

Подгруппу, порожденную специальным множеством {и^^обозначим через др (Мо,Б). Она представляет собой НИИ-группу с основой являющуюся древесным произведением, Еравильной системой проходных букв которой служат элементы из Мо- Подгруппы (Мо) и М'А, . = 1, к ряда (4') будем называть порождающими подгруппами (и1, .., ип) = др (Мо, 5).

Определение 5. Произведение щ~ик назовем словом подгруппы, {w1, ■■,wn) = gp (M0,S) группы G = Gk-1 * Gxy, если

{ax;aD

1. и» = 1;

2. иг € {М0 и М-1} либо иг принадлежат некоторой подгруппе из ряда (4');

3. иг = ^ц ,

4- иг и иг+1 не содержатся, в одной подгруппе ряда, (4');

5. в и1..ик нет произведен,ия игиг+1ихг+2 (г = 1,к — 2); г<9е иг = и-1^ иг € {М0 и М-1}, иг+1 € (М') и игиг+1иг+2 € (М«)/ (м'У (М«) - Ш ряда (4').

Лемма 4 (4). Вся,кое произведение шЦ..ш^П; еу = ±1, где шу - образующие подгруппы

{шг }геГм/' через конечное число шагов можно при вести к слову иг1..игк; к ^ подгруппы др (М0,5) =

Определение 6. Будем говорить, что между словами г1 и г2 имеет место касание первого, второго или третьего рода, если длина, произведения г^2 соответственно больше, равна, или меньше максимальной из длин, ¿(г1) £(г2).

Определение 7. Слово и1..и^ является простым, если

¿(иь.ид;) = тах {¿(иО, ..,Цик)} .

Лемма 5 (4). Е'слм и1 ..ик - слово подгруппы, др (М0,5^о Ь(и1..и^) ^ Ь(иг); г = 1,к.

Следствие 3 (4). Е'слм в слове и1..и^ выполнить сокращения в группе О, то в нем, со-

и1

Следствие 4 (4). Всякое слово подгруппы, др (М0,5) может быть представлено в виде произведения простых слов, между которыми имеет место касание первого рода.

Лемма 6 (4). Пусть {шг}ге _ специальное множество слов группы О и N =

^{шг^еТж) _ подгруппа в О. И пусть ш| = ...¿«ш;г«ш;...Г1ш; (е = ±1) - элемент специального множества, г = 1 ^ £ ^ п - начальное подслово левой половины ш|; причем, г не является изолированной левой половиной . Тогда, если =

И п ^ ...г^ А ...¿-Ш, = ^ ^е

А = / € Ожу;

у \ Оху, если € Ок-1,

то ряд (4') содержит подгруппу (М«) =

Пусть Н — конечно порожденная подгруппа группы О порождена двумя различными специальными множествами, то есть Н = др (М0, 5) и Н = др (М0, 5"), где основа 5 порождена подгруппами ряда

(М1) < (М2) < ... < (Мк), (5)

а 5' порождена подгруппами ряда

(М1) < (М2) < ... < (Мк) (4')

(Мг) = г-1^ , С € О^1 или С € ОЖу ; (м^ = д-1^ду СУ € О^1 или СУ € ОЖу .

В [4] показано, что простое слово и^.ик подгруппы др (М0,5) может быть одного из следующих видов:

a) слово и^.и^ содержит нетрансформу максимальной длины, то есть ¿(иг) > ¿(иу), 1 ^ ] ^

г — 1, г + 1 ^ ] ^ к и« - нетрансформа;

b) слово и1..и^ содержит нетрансформу иг и трапсформу иг+1 максимальной длины, то есть

¿(иг) = ¿(иг+1) = Дигиг+О, ¿(иг) > ¿(и,'), 1 ^ ] ^ г — 1, г + 2 ^ j ^ к;

c) слово и^.и^ содержит нетрансформы иг и иг+2, и трансформу иг+1 со свойства ми: ¿(иг) =

¿(иг+2) ¿(иг) = ¿(игиг+1) = ¿(игиг+1иг+2), ¿(иг) > ¿(и,-), 1 ^ j ^ г — 1 г + 3 ^ ] ^ к, причем длина слова иг+1 может оказаться меньше длины иг, 0 ^ ¿(игц) ^ ¿(иг);

с1) слово иь.и^ содержит трансформу иг максимальной длины.

НО ством, то есть Н = др (М0,5). Каждый элемент д = 1 из Н имеет несократимую запись в ш-символах: д = шЦ шЦ -шй' ег = ±1- Перемножая рядом стоящие трансформы одного типа, получим запись слова д в и — символах: д = и1..и^, где иг = 1 иг = и"^, г = 1, к — 1.

Проведем в слове д = и^.иг все сокращения в группе О, получим слоговую запись этого элемента: д = д1д2..д^ к ^ 1.

Лемма 7 (8). Каждый слог дг слова, д = д1д2..дк имеет, вид:

дг = а^гУ^аХ, (6)

г = 1, к, где хг — центральный или правый слог иу_1; уг центральный, слог иу € М^у, j = 1,п; ¿г — левый или центральный слог иу+1; ах и аХ — элементы из объединяемой подгруппы,.

Рассмотрим конечное множество конечно порожденных подгрупп Н1, Н2,.., Н« группы О. Необходимо установить пусто или нет пересечение

ш1 Н1 П ш2Н2 П ... П ш«Н«,

где ш1,ш2, ..,ш« € О. В общем случае шу € Ну, j € 1,п. Рассмотрим эквивалентную задачу о пересечении:

- 1 - 1

«.

1

ш«1ш1Н1 п ш«1 ш2Н2 п ... п Н«. (7)

Обозначим ш«1шу = уу.

Если пересечение (7) не пусто, то найдутся такие Лу € Ну, j = 1,п, что

= У2^2 = .. = Л,«.

Перепишем слова Лу в и — символах соответствующей подгруппы:

г = у1и(1) (1)и(1) (2) ..и(1) (Г1) = = у2и(2) (1)и(2) (2) ..и(2) (Г2) =

= у«_1и(«_1)(1)и(«_1)(2)..и(«_1)(г«_1) = = и(«)(1)и(«)(2)..и(«)(г«) = = ш0?(1) д(2)..д(г).

Последняя строчка равенства (8) дает несократимую запись слова г в группе О. ш0 начальное под слово слова г.

Будем называть (г^) типом трансформ, порождающей подгруппы

подгруппы И', а' е О и обозначать его (у', г). Символом Ь((у', г)) = 2Ь(у(") + 1 будем обозначать длину типа (у('\ г), а символ ом Т' множество всех типов трансформ подгруппы И Пополним Т' символом в' </ О, получим множество Т'. Обозначим через К' множество

м' и ^М^и Т", . = 1, и, соответствующее подгруппе ИПрисоединим к множеству

К') символ 7(з) </ О, получим К') . Соотношения (8) определяют следующее отображение:

^(1,2,., т) = х (к(1) х х т(1) х (к(1) х х х

х х (к(2) х ) х т(2) х (к(2) х х х .. (9)

.. х (2 + х (К(п) х 2+) х Т(п) х (К(п) х 2+) х 2+)

где 2 + = {0,1,2,..}.

По лемме 7 каждый слог из последней строчки равенства (8) образован элементами трех соседних символов, то есть

(к) = (1) (1) (1) ' = (2) (2) (2) ' = = (п) (п) (п) ' д(к) = аххк ук zk ах = аххк ук хк ах = .. = аххк ук хк ахг

Здесь ах — элемент из объединяемой подгруппы (ах; а Тогда отображение (9) определяет функцию:

^(к) = (ро\к), (т11)(к),р[1)(к)) ,т(1)(к), (т(21)(к),р(21)(к)) ,р'о(1\к)

Е'Р(о\к), Ет1)(к),'р1)(к)) ,т(2)(к), Ет2)(к),'р2)(к)] ,р'о(2)(к)И ,..

[Ро1)(к), \ т<Г)(к),Р<Г)(к)) ,т(п)(к), [т2п)(к),'р2п)(к)) ,р'о(п)(к)) ,

где номер к соответствует слогу д(к) = а^'^у' а'х слов а у, р'(к) — номер элем ента ах в ассоциированной подгруппе (ах; а!), то есть принимает значения 0 или 1; аналогично р'о('\к) принимает значения 0 или 1;

т1'\к) = \ р' (к) = 0, если х' = 1, то есть х' не принимает участия в образовании слога

а(к>> _ . .

т('\к) = и('\к) е К(')\ {7(')}, если х' = 1 и х' — есть р'(к)-ый слог и('\к); т ("(к) = в('\ есл и у' = 1;

т("(к) = (у('), г), если у' — слог трансформы типа (у(",г^; т' (к) = 7 есл и хк' = 1;

т' (к) = и2\к) е К("\ {7}, если х' = 1 и х' — есть р' (к)-ът слог слова и' (к). Определение 8. ^(к) назовем типом слога д(к) в слове у. Мощность множества всех типов не превосходит числа

А = 4 П (2 ^ Ь(и(") + 1] ЕIIИ, (10)

где

т"

мощность множества Т('\ . = 1,и; Множитель 4 впереди — есть порядок ассоци-

ированной подгруппы в квадрате.

Лемма 8. Если Ь(у) > А, где у — слово из (8) и у е Ип, у = 1, то существует слово у' е Ип, Ь(у') < Ь(у), удовлетворяющее равенствам (8).

Доказательство. Пусть г — слово из (8) и г € Н«, тогда

г = у1и(1) (1)и(1) (2) ..и(1) (гт) = = у2и(2) (1)и(2)(2)..и(2)(г2) =

= у«_ 1и(«_1) (1)и(«_1) (2) ..и(«_1) (г«_ 1) = = и(«) (1)и(«) (2) ..и(«) (г«) =

= ш09(1) 9(2).. д(г + 1),

где и(г)(1)и(г)(2)..и(г)(гг) слово в Нг. Так как г + 1 > А, т0 существуют индексы к и к' такие, что 1 < к<к' < г +1 и ^ (к) = ^ (к'). Тогда в сл ове г соответствующие этим индексам слоги

(г) (г) (г) / п /\ ~ (г) (г) (г)

9(к) = ажжк X 4 аХ и д(к') = ажжк/ук' % а'ж

(г) (г) (г) (г) (г) (г)

где жк, ук , ^к и ж к/, у к' , ^к' являются слогами и -символов

u(г)(j(г) — 1) = и«(/г) — 1)жк°и« — 1)

-Че^и ^лк "тгдЫУ

= (ий^(г) — ^Г^!^0)

+1) = сиги? ^г1^ иг^ о-(г)+1)

и(% '(г) — 1)=и^а'« — ^«и« о- '(г) — 1)

и(%'(г)) = (и«м(/(г) — ^ГМ^О''(г))

и(%'(г) + 1) = (и«^ '^Г^и^'« + 1)

в слове

и(г) (1)и(г) (2) .. и( .. u(г)(j '(г) — 1)и(г ) (j'(г))u(г) (j '(г) + 1) .. и(г) (г г)

Так как ^(к) = ^(к'), то

ах — ах, ах — а'ж)

/ж( ) - /Ж( ) ) --)

жк = жк' ' ^к = ^к'

u!íght(j(г)—1)=и<гдм(/(г)—1)

и

и^д ^(г)+1)=и^д м(/(г)+1).

Вырежем из слова

и(г)(1)и(г)(2).. u((e)ft(j(г)—^и«^«—^и^-«—l))_lykг)zkг)urггght(j(г)+1).. .. и(е))4(/(г)—^к^и^'(г)+1).. )

подслово

иЯ^«—1)(и2д^4(^(г)—^г^и«^«+1).. и(е>4(/(г)—1)жкг).

Получим слово

г' = и(г)(1)и(г)(2) .. и)(j(г) — 1)жкг)yk«)zkг)ur?ght(j'(г) + 1) .. и(г)(г),

принадлежащее пересечению и ¿(г') < ¿(г). Лемма доказана. □

и(

3. Основная теорема

Теорема 5. В конечно порожденной группе Кокстера с древесной структурой С разрешима проблема пересечения классов смежности конечного числа конечно порожденных подгрупп.

Доказательство. Пусть Ну, j = 1,п — конечно порожденные подгруппы группы С. Будем считать, что образующие групп Ну образуют специальное множество и Ну = Б(у)), (у)

где М0 — множество всех нетрансформ из специального множества образующих подгруппы Ну Б(у) — осно ва Ну, порожденная подгруппа ми вида Му) = (^(у))-1Аку)-и(у), г = 1,к(у).

На множестве и-символов подгруппы Ну зададим отображение Ф(у)(и) следующим образом:

и, если

(у).

Ф(у)(и) = < если и € (М^) = (V?)-1 А^.

Символы а(„ , 1 < к < к(у) С

Распространим отображение па подгруппы Ну (па произведения и-символов) следующим образом. Пусть -ш(у) = и(у)(1)и(у)(2)..и(у)(т(у)) — слово подгруппы Ну, записанное в и-симво-лах. Тогда

Ф(у)(ад(у)) = Ф(у)(и(у)(1))Ф(у)(и(у)(2))..Ф(у)(и(у)(т(у))).

Назовем образ -ш(у) при отображении Ф(у) символическим словом. Если в слове -ш(у) г-ый слог имеет вид ((г) = аХьу)ж(у)у(у)гг(у)аХ(у), где у(у) — центральный слог некоторой трансформы и(у)(з(у)) из ^Му)^ (ж(у), г(у) могут отсутствовать, в этом случае полагаем их равными

единице), то в образе Ф(у)(-ш(у)) данный слог будет иметь вид ж(у)ар(])г(у), при этом данное произведение будем считать слогом в Ф(у)(-ш(у)). Таким образом, под слоговой длиной Ф(у)(-ш(у)) будем подразумевать слоговую длину -ш(у). По лемме 8

¿(и(га)(1)и(га)(2)..и(га)(гга)) < А +

Е Цм(у)) + Л (

о ежО) У 4

здесь

тт(у)

мощность множества

Т(у),

где А = 4 П I 2 £ ¿(ад(у)) + 1 | I Т(у) у = 1 \ адСЯеЖ№

j = 1, п. Множитель 4 впереди — есть порядок ассоциированной подгруппы в квадрате.

Ну

Ф(у)(иу(1))Ф(у)(иу(2))..Ф(у)(иу(Гу)), j =

прообразы которых довлетворяют условию ¿(и(у)(1)и(у)(2)..и(у)(гу) < А + ¿(-ш0). Таких обра-

(у)

зов существует конечное множество, обозначим его через Нф . Учитывая лемму 7, прообраз

может быть записан в виде и1и2..ип = (ж1у1г1)(ж2у2^2)..(жкгк), тогда подгруппе, порождеп-(у) (у)

ной ядрами А( ] в образе соответствует один элемент \ Число элемептов ж^ и конечно

для слов ограниченной длины.

(у)

Из множеств Нф выберем по одному произвольному слову:

у1Ф(1)(и(1)(1))Ф(1)(и(1) (2))..Ф(1) (и(1)(т{)) = = у1(х[1)а^)х(11))(х21)а^) а« #) =

= у2Ф(2)(и(2)(1))Ф(2)(и(2) (2))..Ф(1) (и(2)(Т2))= , ч

/ (2) (2) (2)\/ (2) (2) (2)\ , (2) (2) (2)л Щ)

= у2(х1 )а11)х\ ))(х2 >а\2х2 ))..(х>2)«Ц^О = ..

.. = Ф(п)(и(п)(1))Ф(п)(и(п)(2))..Ф(п)(и(п)(тп)) =

В первых и — 1 строчка равенства (11) возможны сокращения между у' и

Ф(')(и(')(1))Ф(')(и(')(2))..Ф(')(и(')(тз)). Рассмотрим первую строчку. Пусть у1 = д1 д2..дв- Если между у1 и

Ф(1)(и(1)(1))Ф(1)(и(1)(2))..Ф(1)(и(1)(т1))

(1) (1) (1) „г, г,

идет сокращение, то дз и х1 щ х1 принадлежат одной подгруппе 0^1 или Оху, тогда дз^!^а!(1)х^) = ах1!^, где аХ! — элемент из объединяемой подгруппы, который может принимать значения 1 или ах. Зафиксируем ах1) и из равенства дв^1 а^1 х^) = ах1), решая

проблему вхождения найдем а((1). Далее переходим к нахождению ядра следующего слога формального слова.

После того, как все сокращения проведены, между слогами формальных равенств соответствующих соотношениям (8) должно установиться взаимно однозначное соответствие. Будем иметь

y1Ur1ght(t1

= ' (2) (t _ 1) ( (2) (2) (2) )( (2) (2) (2))( (2) (2) (2) )и (2) = y2Uright( 2 1)■■(xi2-1yi2-1 Zi2-1)(Xi2 yi2 Zi2 )(Xi2+1yi2 + 1Zi2 + 1)Uright

= U(n)(-\) (X(n) n(n) Z(n) )(X(n)y(n)Z(n))(X(n) H(n) Z(n) )U(n)

■ ■ = u (1)■■(Xin-lyin-lZin-1)(Xin yin zin )(Xin + 1yin + 1Zin + 1)Uright

В последнем равенстве сделаем вставки. Получим

= y2Uright°t2 — 1)■■(xi2 — l уУ(2 -1 Zi2 2-1)(ax )) ЧЧЧЫ )) ^^А^^+^^дЫ = ■■

■ ■ = u(n)(1)..(x^L1 y(n-A(n-1)(a{x))2 0xC)y^z^)(ax^)20xCl1y^1 z^U^

Для определения у^/, . = 1,и рассмотрим уравнения:

(xi1 №№ = a^^^z^ = ■■ = ax^atW ^.

11 " 11 ~%1 !ах ах %2 ~22 _( ') -

Так как ах и ах , . = 2, и принадлежат объединяемой подгруппе, то присоединим каждый

из них, если он есть к х^ и х' соответственно. Получим

ч ч

( ')

Если в последних равенствах хотя бы одно из аизвестно, то определяются и все осталь-( ')

ные. Если ни одно из а\ не известно, то сделаем вставки

r(i)z(i)(z(i)-1 a(i)z(i)) _ a(2)r(2)z(2)(z(2)-1a(2)z(2)) = = a(ra)r(ra)z(ra)(z(ra)-1a(ra)z(ra))

(7) (7) (7)

Заметим, что а(.) принадлежат гд е ,) являются подгруппам и групп и

Если принадлежат то учитывая, что группа конечна и € легко

(у) 3 "

определяем все .

Если же припадлежат то сопрягая все слогами € снова получаем

подгруппу группе Элемент ж- € Таким образом, необходимо решать проблему

пересечения классов смежности в группе но по индуктивному предположению в группе

данная проблема разрешима. Далее переходим к следующей системе равенств слогов и повторяем процесс описанный выше.

4. Заключение

Таким образом, показано, что в конечно порожденной группе Кокстера с древесной структурой проблема пересечения классов смежности конечного числа конечно порожденных подгрупп разрешима.

СПИСОК ЦИТИРОВАННОЙ ЛИТЕРАТУРЫ

1. Безверхний В. Н. Решение проблемы вхождения в классе HNN-rpvnn // Алгебраические проблемы теории групп и полугрупп. Тула, 1981., С. 20-62

2. Безверхний В. И. Решение проблемы сопряженности подгрупп в одном классе HNN-rpvnn // Алгоритмические проблемы теории групп и полугрупп и их приложение. ТГПИ им. Л. Н. Толстого, 1983. С. 50-80.

3. Безверхний В. И. Решение проблемы вхождения в некоторых классах групп с одним определяющим соотношением // Алгоритмические проблемы теории групп и полугрупп. Тула: ТГПИ, 1986. С. 3-22.

4. Безверхний В. Н. О пересечении подгрупп в HNN-группах // Фундаментальная и прикладная математика 1998, том 4, №1, С. 199-222.

5. Безверхний В. Н. О группах Артина, Кокстера с древесной структурой // Алгебра и теория чисел: Современные проблемы и приложения. Тезисы докладов V Международной конференции. Тула, 2003, С.33 31.

6. Безверхний В. Н., Инченко О. В. Проблема пересечения конечно порожденных подгрупп в группах Кокстера с древесной структурой // Известия ТулГУ Естественные науки. 2009. Вып. 2. С. 16-31.

7. Инченко О. В. Разрешимость проблемы пересечения классов смежности конечно порожденных подгрупп группы Кокстера с древесной структурой // Вестник ТулГУ Дифференциальные уравнения и прикладные задачи. 2010. Вып. 1. С. 61-71.

8. Безверхняя И. С. О сопряженности конечных множеств подгрупп в свободном произведении групп // Алгоритмические проблемы теории групп и полугрупп. ТГПИ им. Л. И. Толстого, 1981., С.102-116.

9. Инченко О.В. Об одной проблеме в группе Кокстера с древесной структурой. Вестник Тул-ГУ Серия Дифференциальные уравнения и прикладные задачи Выпуск 1. 2016 (Принято к печати)

10. Брискорн Э., Сайто К. Группы Артина и группы Кокстера // Математика: Сб. переводов. 1974. №6. С. 56-79

11. Линдон Р., Шупп П. Комбинаторная теория групп. М: Мир, 1980.

12. Новиков П. С. Об алгоритмической неразрешимости проблемы тождества слов в теории групп // Труды математического института АНСССР. 1955.

13. Безверхняя И. С. О корневом замыкании подгрупп свободного произведения групп с объединением // Алгоритмические проблемы теории групп и полугрупп и их приложение. 1TIIII им. Л. Н. Толстого, 1983г. С. 81-112.

14. Безверхний В. Н., Добрынина И. В. О свободных подгруппах в группах Артина с древесной структурой // Чебышевский сборник, 15:1, 2014, 32-42.

15. Добрынина И. В. Решение проблемы ширины в свободных произведениях с объединением // Фундаментальная и прикладная математика, 15:1, 2009, С. 23-30

16. Appel К., Schupp Р. Artin groups and infinite Coxeter groups // Invenf. Math. 1983. V. 72. P. 201-220.

17. Baumslag B. J. Intersection of finitely generated subgroups in free products //J. London Math. Soc. - 1966. - V.U. - P. 673-679

REFERENCES

1. Bezverkhnii V. N. 1981, "Solution of the problem of inclusion of subgroups in one class HNN-group" , Algorithmic problems in group theory and semigroups, Tula State Tolstoy Pedagogical Institute, P. 20-62.

2. Bezverkhnii V. N. 1983, "Solution of the problem of an associativity of subgroups in one class HNN- group "Algorithmic problems in group theory and semigroups and their applications, Tula State Tolstoy Pedagogical Institute, P.50-80.

3. Bezverkhnii V. N. 1986, "Solution of the problem of inclusion in some class of groups with one relation" Algorithmic problems in group theory and semigroups, Tula State Tolstoy Pedagogical Institute, P. 3-22.

4. Bezverkhnii V. N. 1998, "About intersection of subgroups in HNN-groups" , Fundamental and applied mathematics, Vol 4, №1, P. 199-222.

5. Bezverkhnii V. N. "About Artin groups and Coxeter groups with tree structure" , Abstracts of the V international conference. Algebra and number theory: modern problems and applications, Tula, 2003, P.33 -34.

6. Bezverkhnii V. N. k, Inchenko O. V. 2009, "The problem of intersection of finite defined subgroups in Coxeter groups with tree structure Izvestiya of the Tula State University. Natural sciences, Vol. 2., P.16-31.

7. Inchenko О. V. 2010. "Solvability of problem of the adjacency classes of finitely generated subgroups of Coxeter group with tree structure" Vestnik of the Tula State University. Differential equations and applied problems, Vol. 1, P.61-71.

8. Bezverkhnv I. S. 1981, "About an associativity of finite sets of subgroups in free product groups" , Algorithmic problems in group theory and semigroups, Tula State Tolstoy Pedagogical Institute, P.102-116.

9. Inchenko О. V. 2016, "About one problem in Coxeter group with tree structure" , Vestnik of the Tula State University. Differential equations and applied problems, Vol. 1., (Принято к печати)

10. Briscorn E. к, Saito К. 1974, "Artin groups and Coxeter groups" , mathematics: The collection of translations №6. P.56-79.

11. Lindon R. & Shupp P. 1980, Combinatorial group theory, Mir, Moscow.

12. Novikov P. S. 1955, "About algorithmic unsolvabilitv of problem of identity of words in group theory" , Works of the m,at,hem,atical Institute Academy of Sciences USSR.

13. Bezverkhnv I. S. 1983, "About radical locking of subgroups of free product of groups with amalgamation "Algorithmic problems in group theory and semigroups and their applications, Tula State Tolstoy Pedagogical Institute, P.81-112.

14. Bezverkhnii V. N. k, Dobrvnirina I.V. 2014, "About free subgroups in Artin group with tree structure" , Chebyshevskii Sbornik, Vol. 15, №1, P. 32-42.

15. Dobrvnirina I. V. 2009, "Solution to problem of width in free product of groups with amalgamation "Fundamental and applied mathematics, Vol. 15, №1, P. 23-30.

16. Appel К. k, Schupp P. 1983, "Artin groups and infinite Coxeter groups" , Invenf. Math., Vol. 72., P. 201-220.

17. Baumslag B. J. 1966, "Intersection of finitely generated subgroups in free products" , J. London Math. Soc., Vol.41., P. 673-679.

Тульский государственный университет. Получено 11.02.2016 Принято в печать 10.06.2016