Об алгоритме для вычисления индекса подгруппы в группе, разложимой в прямое произведение Текст научной статьи по специальности «Математика»

УДК 512.24 А. П. Горюшкин

ОБ АЛГОРИТМЕ ДЛЯ ВЫЧИСЛЕНИЯ ИНДЕКСА ПОДГРУППЫ В ГРУППЕ, РАЗЛОЖИМОЙ В ПРЯМОЕ ПРОИЗВЕДЕНИЕ

Устанавливается, что в некоторой бесконечной серии групп, разложимых в прямое произведение, не существует алгоритма для вычисления индекса конечно порожденной подгруппы.

Ключевые слова: группа, подгруппа, прямое произведение, порождающее множество, алгоритмическая проблема, разрешимость, проблема вхождения, проблема равенства, проблема индекса.

Теория групп изобилует проблемами, не имеющими алгоритмического решения. В последние десятилетия такого рода проблемам нашлось практическое применение в криптографии в качестве основы криптостойкости протокола. Для криптографических приложений представляют интерес как классические проблемы Дэна (проблема слов, проблема сопряжённости и проблема изоморфизма), так и алгоритмические проблемы в теории групп, тесно связанные с классическими. Такими являются проблема вхождения и проблема индекса.

Проблема слов (проблема равенства) для конечно определённой группы G состоит в отыскании или доказательстве невозможности алгоритма, который для любого элемента w узнавал бы, равен этот элемент единице в G или нет.

Проблема вхождения для конечно определённой группы G состоит в отыскании или доказательстве невозможности алгоритма, который по любому конечному множеству элементов hi (i = 1, 2, ..., m) и элементу w узнавал бы, принадлежит или нет элемент w подгруппе H = гр(^, h2, ... , hm), порождённой элементами hi. Из алгоритмической разрешимости проблемы вхождения следует разрешимость проблемы слов. Поэтому проблему вхождения называют обобщённой проблемой равенства.

Проблема индекса для конечно определённой группы G состоит в отыскании алгоритма, который по любому конечному множеству элементов hi (i = 1, 2, ..., m) группы G узнавал бы, конечный или бесконечный индекс в G имеет подгруппа H = гр(^, h2, ... , hm), порождённая этим

Горюшкин Александр Петрович — кандидат физико-математических наук, доцент, профессор кафедры математики и физики (Камчатский государственный университет имени Витуса Беринга, Петропавловск-Камчатский); e-mail: as2021@mail.ru.

© Горюшкин А. П., 2016

93

множеством.

В конечно порождённой группе содержится лишь конечное число подгрупп для каждого данного конечного индекса. Поэтому если в группе О разрешимы проблема вхождения и проблема индекса, то, получив информацию, что индекс подгруппы Н в О конечен, простым перебором подгрупп конечного индекса можно в конечное число шагов этот индекс вычислить точно (детальное описание такого алгоритма см., например, в [1], глава I, § 8, стр. 47—49).

Отметим, что если группа О является конечным расширением группы с неразрешимой проблемой индекса, то и в О проблема индекса также будет неразрешима. То же самое относится и к проблеме вхождения.

Для бесконечной циклической группы обе эти задачи сводятся к отысканию наибольшего общего делителя конечного числа целых чисел и проверки делимости двух чисел. Точнее, если Н - подгруппа бесконечной циклической группы Гг = < а > и Н = гр( а™, а™2,..., а™1) и т =ап, где Ш1, Шз, ..., т , п е Ъ, то да е Н тогда и только тогда, когда и делится на число в = НОД(ш1, Шз, ..., т). Заметим, что в этом случае индекс -Н\ равен числу е. Таким образом, для группы Гг алгоритм, решающий проблему вхождения в подгруппу Н, одновременно даёт ответ и об индексе этой подгруппы в группе Гг.

Свободный порождающий элемент для подгруппы Н в этом примере можно найти с помощью преобразования исходного порождающего множества.

В любой группе порождающее множество подгруппы можно изменить с помощью преобразований (аналогичных элементарным преобразованиям порождающего множества подпространства векторного пространства):

(1) замена э лемента .г на х

(2) замена э лемента Л' на элемент .г у, где л' ф у,

(3) удаление единичного элемента.

Если в результате таких преобразований появится единичный элемент, то его из порождающего множества можно удалить.

Бесконечная циклическая группа < а > = Гг — это свободная группа ранга один. Однако для свободной группы Гг любого ранга г и проблема вхождения, и проблема индекса имеют алгоритмическое решение. Пусть Н = гр(Нг, Нъ, ... , Нт) — конечно порождённая подгруппа свободной группы Гп. С помощью преобразований порождающего множества в конечное число шагов можно получить свободные порождающие для подгруппы Н и, таким образом, найти ранг Н. Такой способ получения свободных порождающих подгруппы свободной принято называть методом Я. Нильсена (см., например, [2], глава 1, п. 2, стр. 16—21).

О. Шрейер, оперируя не только порождающими элементами подгруппы, но и представителями смежных классов, установил связь между

94

индексом подгруппы свободной группы, рангом этой подгруппы и рангом исходной свободной группы (см. [2], стр. глава 1, п. 3, стр. 33 — 34). Если подгруппа Н ранга к имеет конечный индекс в свободной нециклической группе ранга г, то этот индекс равен

к-1 г-Г

С помощью формулы Шрейера проблема индекса подгруппы свободной группы сводится к вычислению ранга подгруппы, который можно найти с помощью метода Нильсена.

Таким образом, проблема индекса для свободной группы алгоритмически разрешима. С помощью метода Нильсена в конечное число шагов можно выяснить, входит или не входит элемент свободной группы в данную конечную порождённую подгруппу, т. е. проблема вхождения для свободных групп тоже алгоритмически разрешима.

Каждый элемент из прямого произведения АхВ имеет представление в виде произведения аЬ, где а е А и Ъ еВ. Элемент аЪ равен единице тогда и только тогда, когда а и Ь — оба единичные. Это значит, что если в группах А, В алгоритмически разрешима проблема равенства, то эта проблема разрешима и в прямом произведении АхВ. Иначе говоря, разрешимость проблемы равенства наследуется прямым произведением. Разрешимость проблемы индекса в такой конструкции может и не наследоваться.

Будем называть группу О почти свободной, если она содержит в качестве подгруппы конечного индекса свободную нециклическую группу Р. Если конечно определённая группа О почти свободна, то её свободная подгруппа Р имеет конечный ранг; кроме того, можно считать, что Р — нормальна в О.

В почти свободной группе разрешима и проблема индекса, и проблема вхождения.

Теорема. В прямом произведении двух изоморфных почти свободных групп проблема индекса алгоритмически неразрешима.

Доказательство. Пусть группы А и В — две изоморфные почти свободные группы. Группа А содержит в качестве нормальной подгруппы конечного индекса свободную подгруппу А1 ранга т; и элементы а1, а2, ..., ат являются свободными порождающими для А1. Аналогично в группе В содержится нормальная подгруппа В1, причём В1 свободная ранга т и Ъ\, 2, ..., Ът — её свободные порождающие. Кроме того, [Л:А\=[В-.В,\

Если группа С = АхВ является прямым произведением групп А и В, то её подгруппа О1, порождённая подгруппами А1 и В1, образует прямое пр оизве дение:

С1=А1хВ1.

95

Индекс С и С равен [л : Д ] • [в: В,], и поэтому он конечен.

Рассмотрим теперь произвольную конечно определённую группу R, заданную представлением

R = <Г1, ГЪ, ..., Га; т^, ..., тп(г)>,

где гг, гъ, ..., Гк - порождающие элементы, а т1(г,), ..., тп(г) — определяющие соотношения. Напомним, что определяющее соотношение — это слова в алфавите п, г2, ..., п, г21. ..., гк '.

В группе A1 выберем подгруппу P такого индекса 8, чтобы выполнялось неравенство

А--1

-.

т -1

Тогда по формуле О. Шрейера ранг подгруппы P равен s(m - 1) + 1, и это число не меньше к. Если ранг подгруппы P окажется строго больше к, то представление группы R дополним ещё s - к порождающими элементами и приравняем эти элементы к единице. Без ограничения общности можно считать, что это уже сделано, т. е. s = к.

Пусть элементы р1г р2, ..., рк свободно порождают подгруппу Р.

Аналогичным образом в группе В1 выберем подгруппу Q ранга к, индекса s в В и со свободными порождающими Ц1, Цъ, Цк.

Рассмотрим теперь два нормальных делителя, один в группе Р, а другой — в Q. В группе Р нормальный делитель Ы1, порождённый элементами т1(г0, ..., тп(гi), а в группе Q нормальный делитель Ы2, порождённый элементами т1(ц) ..., тп(ц) Точнее,

N1 = <т1(г) ..., тп(г)>Р;

N2 = <т1(ц), тп(ц)^.

В группе возьмем две подгруппы:

Н1= гр(ml(цi), ..., тп(ц), Р1Ц1,..., риЦк);

Нъ = гр(ж>1(р0, ..., тп(рг), Р1Ц1, ..., ркЦк).

Элементы г^ ц лежат в различных прямых сомножителях группы О1г поэтому они перестановочны:

П Ц = Ц Ги

Это значит, что для любого слова ф выполняется равенство

ф(М<) = Ф(Р') ф(<7<)-

Сопряжение элемента т(рi) с помощью элемента из Н равно соответствующему сопряжению с помощью элемента из подгруппы А. Отсюда следует, что подгруппа Н содержит N-1. Аналогично Н2 включает N2.

Кроме того, и сами подгруппы Н и Н2 совпадают. Пусть Н= Н = Н2, тогда:

96

Нг\Р = Ni; Hr^Q = N2.

Если подгруппа Н имеет конечный индекс в прямом произведении А х В, то индекс Н в подгруппе Ai х Bi тоже конечен, а значит, конечны индексы N1 и N2 в подгруппах P и Q соответственно. Это означает, что группа R — конечна. Наоборот, если R конечна, то индексы N1 и N2 в подгруппах Р и Q конечны, по Р и Q подгруппы конечного индекса в прямых множителях, и, следовательно, индекс [G : н\ и соответственно конечен.

Иначе говоря, проблема индекса в группе G эквивалентна проблеме конечности в классе всех конечно опредёленных групп.

Проблема конечности алгоритмически неразрешима (см., например, С. Адян [3]), а это значит, что и проблема индекса для конечно определенной группы тоже алгоритмически неразрешима.

Утверждение доказано.

Заметим, что в доказательстве используется лишь изоморфизм свободных подгрупп A1 и B1, т. е. группы A и B в этой серии групп с неразрешимой проблемой индекса можно было взягь и не изоморфными; достаточно лишь конечности индексов [л : Д ] и [в: fij.

Алгоритмическая неразрешимость проблемы означает, что машинного решения такой задачи не существует. Например, никакая техника никогда не сможет по единой программе отвечать на вопрос, конечен или бесконечен индекс произвольно выбранной конечно порождённой подгруппы в группе Р2 х F2, заданной представлением

< a, b, c, d; aca-1c-1, ada~1d~1, bcb-1c-1, bdb-1d-1 >.

Отметим, что в некоторых случаях вычисление индекса конечно порождённой подгруппы в конечно определённой группе можно доверить технике. Правда, результат можно получить, как правило, лишь в случае конечного (и сравнительно небольшого) индекса подгруппы. Например, при использовании математического пакета символьных вычислений Maple 18 индекс подгруппы должен не превышать 128 000.

Машинные вычисления такого рода, связанные с решением конкретных задач в теории групп, представлены в работах [4] — [7].

Для прямого произведения двух свободных групп второго ранга неразрешима и проблема вхождения (С. Михайлова, [8]). Доказательство этого утверждения в [8], проведённое лишь для одной группы F2 х р2, легко переносится и на более общий случай прямого произведения двух почти свободных групп.

Таким образом, возникает бесконечная серия конечно определённых групп, для которых проблема вхождения и проблема индекса оказались эквивалентными (обе неразрешимы).

97

С другой стороны, в почти свободной группе обе проблемы: и проблема вхождения, и проблема индекса — алгоритмически разрешимы. Возможно, что эта связь между двумя алгоритмическими проблемами выполняется для всех конечно определённых групп.

Иначе говоря, возникает естественный вопрос: верно ли, что в классе конечно определённых групп проблема вхождения алгоритмически эквивалентна проблеме индекса?

Список литературы

1. Горюшкин А. П. Амальгамированные свободные произведения групп. Владивосток: Издательский дом Дальневост. федерал. ун-та, 2012. 158 с.

2. Линдон Р., Шупп П. Комбинаторная теория групп. М.: Мир, 1980. 448 с.

3. Адян С. И. Алгоритмическая неразрешимость проблем распознавания некоторых свойств групп // Докл. АН СССР. 1955. T. 103. № 4. C. 533—535.

4. Горюшкин А. П. Особенности машинного исследования дискретных групп / / Вестник КРАУНЦ, Сер. физ.-мат. науки. 2013. № 1 (6). C. 43 — 55.

5. Горюшкин А. П. Машинное решение задач дискретной математики // Вестник КРАУНЦ, Сер. физ.-мат. науки. 2011. № 2 (3). C. 58—68.

6. Горюшкин А. П. О группах с представлением < a, b; an = 1, ab = b3a3 > // Вестник КРАУНЦ, Серия. Физико-математические науки. 2010. № 1. C. 8 — 11.

7. Горюшкин А.П., Горюшкин В. А. Элементы абстрактной и компьютерной алгебры: учебное пособие. 2-е изд., испр. и доп. Петропавловск-Камчатский: КамГУ им. Витуса Беринга, 2011. 518 с.

8. Михайлова С. А. Проблема вхождения для прямых произведений групп / /

Математический сборник. 1966. T. 70. № 2. C. 241—251.

* * *

Goryushkin Alexander P.

ON ALGORITHM FOR CALCULATION OF INDEX OF A SUBGROUP IN A DIRECT PRODUCT OF THE DECOMPOSABLE GROUP

(Vitus Bering Kamchatka State University, Petropavlovsk Kamchatskiy)

In this paper the author proves that for a certain infinite series of direct product of the decomposable groups there is not any algorithm for calculation of index finitely generated subgroups.

Keywords: group, subgroup, direct product, set of generators, algorithmic problem, decidability, occurrence problem, equality problem, index problem.

References

1. Goryushkin A. P. Amalgamirovannye svobodnye proizvedeniya grupp (Amalgamated free products of groups), Vladivostok, DFU Publ., 2012. 158 p.

2. Lindon R. C., Schupp P. E. Combinatornaya teoriya grupp (Combinatorial group theory), Moscow, 1980. 448 p.

3. Adyan S. I. Algotitmicheskaya nerazreshimost problem razpoznavaniya nekotorych svoystv grupp (Algorithmic undecidability of problems of recognition some properties of groups), Doklady AN SSSR, 1955, vol. 103, no. 4, pp. 533—535.

98

4. Goryushkin A. P. Osobennosti mashinnogo issledovaniya diskretbych grupp (Features of machine study of discrete groups), Vestnik KRAUNC, Series. Fiziko-matematicheskie nauki, 2013, no. 1(6), pp. 43—55.

5. Goryushkin A. P. Mashinnoe reshenie zadach diskretnoy matematiki (Machine solutions of discrete mathematics problems), Vestnik KRAUNC, Series. Fiziko-matematicheskie nauki, 2011, no. 2(3), pp. 58—68.

6. Goryushkin A. P. O gruppach s predstavleniem < a, b; an = 1, ab = b3a3 > (On groups with representation < a, b; an = 1, ab = b3a3 >), Vestnik KRAUNC, Series. Fiziko-matematicheskie nauki, 2010, no. 1, pp. 8—11.

7. Goryushkin A. P., Goryushkin V. A. Elementy abstractnoy i comp'yuternoy algebry (Elements of abstract and computer algebra), Petropavlovsk-Kamchatskiy, KamGU im. Vitusa Beringa Publ., 2011. 518 p.

8. Mihaylova S. A. Problema vchogdeniya dlya pryamych proizvedehiy grupp (The occurrence problem for direct products of groups), Matematicheskiy sbornik, 1966, vol. 70, no. 2, pp. 241 — 251.

•Jc -Jc -Jc

99