О ГЕНЕРИЧЕСКОЙ СЛОЖНОСТИ ПРОБЛЕМЫ ВХОЖДЕНИЯ ДЛЯ ПОЛУГРУПП ЦЕЛОЧИСЛЕННЫХ МАТРИЦ Текст научной статьи по специальности «Математика»

2022 Математические основы информатики и программирования № 55

МАТЕМАТИЧЕСКИЕ ОСНОВЫ ИНФОРМАТИКИ И ПРОГРАММИРОВАНИЯ

УДК 510.52 DOI 10.17223/20710410/55/7

О ГЕНЕРИЧЕСКОЙ СЛОЖНОСТИ ПРОБЛЕМЫ ВХОЖДЕНИЯ ДЛЯ ПОЛУГРУПП ЦЕЛОЧИСЛЕННЫХ МАТРИЦ1

А. Н. Рыбалов

Институт математики им. С. Л. Соболева СО РАН, г. Новосибирск, Россия E-mail: alexander.rybalov@gmail.com

Проблема вхождения в конечно порождённую подгруппу (подполугруппу) для групп (полугрупп) является классической алгоритмической проблемой в алгебре, активно изучаемой многие десятилетия. Уже для достаточно простых групп и полугрупп эта проблема становится неразрешимой. Например, К. А. Михайлова в 1966 г. доказала неразрешимость проблемы вхождения в конечно порождённые подгруппы и, следовательно, подполугруппы для прямого произведения F2 х F2 двух свободных групп ранга 2. Так как по известной теореме Санова группа F2 имеет точное представление целочисленными матрицами порядка 2, группа F2xF2 является подгруппой группы GL4(Z) целочисленных матриц порядка 4. Отсюда легко следует неразрешимость рассматриваемой проблемы для группы GL&(Z) при k ^ 4. Неразрешимость проблемы вхождения в подполугруппы полугрупп целочисленных матриц порядка ^ 3 следует из результата М. Патерсона 1970 г. В данной работе предлагается сильно генерический алгоритм, решающий проблему вхождения в подполугруппы полугрупп целочисленных матриц произвольного порядка для подмножества входов, последовательность относительных плотностей которого при увеличении размера экспоненциально быстро сходится к 1.

Ключевые слова: генерическая сложность, проблема вхождения, полугруппа целочисленных матриц.

GENERIC COMPLEXITY OF THE MEMBERSHIP PROBLEM FOR SEMIGROUPS OF INTEGER MATRICES

A. N. Rybalov

Sobolev Institute of Mathematics, Novosibirsk, Russia

The membership problem for finitely generated subgroups (subsemigroups) of groups (semigroups) is a classical algorithmic problem, actively studied for many decades. Already for sufficiently simple groups and semigroups, this problem becomes undeci-dable. For example, K. A. Mikhailova in 1966 proved the undecidability of the membership problem for finitely generated subgroups (hence and for subsemigroups) of a direct product F2 x F2 of two free groups of rank 2. Since, by the well-known Sanov theorem, the group F2 has an exact representation by integer matrices of order 2,

1 Работа выполнена в рамках государственного задания ИМ СО РАН, проект FWNF-2022-0003.

the group F2 х F2 is a subgroup of the group GL4(Z) of integer matrices of order 4. It easily implies the undecidability of this problem for the group GLk(Z) for k ^ 4. Undecidability of the membership problem for finitely generated subsemigroups of semigroups of integer matrices of order ^ 3 follows from Paterson's result proved in 1970. In this paper, we propose a strongly generic algorithm deciding the membership problem for semigroups of integer matrices of arbitrary order for inputs from a subset whose sequence of frequencies exponentially fast converges to 1 with increasing size.

Keywords: generic complexity, membership problem, semigroups of integer matrices.

Введение

Проблема вхождения в конечно порождённую подгруппу (подполугруппу) для групп (полугрупп) является классической алгоритмической проблемой в алгебре, особенно активно изучаемой с момента появления формализации понятия алгоритма. Как оказалось, уже для достаточно простых групп и полугрупп эта проблема становится неразрешимой. Например, К. А. Михайлова [1] доказала неразрешимость проблемы вхождения в конечно порождённые подгруппы и, следовательно, подполугруппы для прямого произведения F2 х F2 двух свободных групп ранга 2. Так как по известной теореме Санова группа F2 имеет точное представление целочисленными матрицами порядка 2, группа F2 х F2 является подгруппой группы GL4(Z) целочисленных матриц порядка 4. Отсюда легко следует неразрешимость рассматриваемой проблемы для группы GLfc (Z) при k ^ 4. Неразрешимость проблемы вхождения в подполугруппы полугрупп целочисленных матриц порядка ^ 3 следует из результата М. Патерсона [2] о неразрешимости более узкой проблемы проверки принадлежности нулевой матрицы заданной подполугруппе. В литературе эта проблема называется проблемой умирающих матриц [3]. Отметим, что для полугруппы целочисленных матриц порядка 2 разрешимость проблемы умирающих матриц и проблемы вхождения в подполугруппы до сих пор не установлена [3]. Также открыт вопрос о разрешимости проблемы вхождения в конечно порождённые подгруппы группы целочисленных матриц GL3(Z).

Генерический подход [4] — это один из подходов к изучению алгоритмических проблем для «почти всех» входов. Исследования вычислительной сложности для «почти всех» входов началось в 1970-1980-х гг., после того как был выделен огромный пласт трудноразрешимых алгоритмических проблем — NP-полных проблем, для которых не удалось найти эффективных алгоритмов, работающих за полиномиальное время для всех входов. Оказалось, что если немного ослабить требование эффективности — рассматривать не все входы, а «почти все» или случайные входы, то иногда можно быстро решать задачу для таких типичных входов. Этот подход имеет практический смысл, когда алгоритм должен решать быстро задачу для случайных входных данных: если вероятность «наткнуться» на «плохой» вход пренебрежимо мала, то алгоритм будет быстро работать практически всегда. Ярким примером такого алгоритма является симплекс-метод: этот алгоритм имеет экспоненциальную сложность в худшем случае, но за полиномиальное время решает задачу линейного программирования для почти всех входных данных. Ещё можно упомянуть алгоритм Бабаи, Эрдеша и Селкова [5], решающий за полиномиальное время знаменитую проблему изоморфизма графов для почти всех пар конечных графов. Отметим также алгоритмы Гимади, Глебова, Перепелицы [6] и Селиверстова [7] для некоторых проблем дискретной оптимизации. В теории сложности вычислений поведение алгоритмов на множестве «почти всех» входов тра-

диционно изучается в рамках подхода к сложности в среднем [8, 9], при этом время работы алгоритма усредняется по всему множеству входных данных. В отличие от сложности в среднем, генерический подход является более универсальным, так как может оказаться, что на множестве «плохих» входов даже усреднённое время работы алгоритма неполиномиально. Генерический же алгоритм просто игнорирует эти входы. Более того, генерический подход применим и к алгоритмически неразрешимым проблемам. Таким образом, может оказаться, что проблема трудноразрешима или вообще неразрешима в классическом смысле, но легкоразрешима в генерическом смысле.

В работе [10] доказано, что проблема вхождения в конечно порождённые подполугруппы полугрупп целочисленных матриц произвольного порядка генерически разрешима. В данной работе этот результат усиливается: предлагается сильно генерический алгоритм, решающий проблему для входов из подмножества, последовательность относительных плотностей которого при увеличении размера экспоненциально быстро сходится к 1.

1. Генерические алгоритмы

Пусть I — некоторое множество входов. Для подмножества S С I определим последовательность

Pn(S) = ^, n = 1, 2, 3,...,

| J-n |

где In — множество входов размера n; Sn = S П In — множество входов из S размера n. Заметим, что pn(S) —это вероятность попасть в S при случайной и равновероятной генерации входов из In. Асимптотической плотностью S назовём предел (если он существует)

p(S) = lim pn(S).

n—y^o

Множество S называется генерическим, если p(S) = 1, и пренебрежимым, если p(S) = 0. Очевидно, что S генерическое тогда и только тогда, когда его дополнение I \ S пренебрежимо. Назовём множество S сильно пренебрежимым, если последовательность pn(S) экспоненциально быстро сходится к 0, т.е. существуют константы а, 0 < а < 1, и C > 0, такие, что для любого n

Pn(S) < Can

Множество S называется сильно генерическим, если его дополнение S сильно пренебрежимо.

Алгоритм A с множеством входов I называется (сильно) генерическим, если множество {x Е I : A(x) |} (сильно) генерическое. Здесь через A(x) | обозначается тот факт, что алгоритм A останавливается на входе x. (Сильно) генерический алгоритм A вычисляет функцию f : I ^ J, если

Vx е I A(x) I ^ f (x) = A(x).

(Сильно) генерический алгоритм A работает за полиномиальное время, если существует полином p(n), такой, что

Vx Е I A(x) | ^ ¿a(x) < p(size(x)).

Такие алгоритмы будем называть полиномиальными генерическими.

С практической точки зрения, когда требуется построить алгоритм, решающий конкретную алгоритмическую проблему для почти всех входов, удобнее рассматривать алгоритмы следующего типа: алгоритм останавливается на всех входах, на входах из некоторого генерического множества выдаёт правильный ответ, а на пренебрежи-мом множестве остальных входов выдает специальный ответ «?» — «Не знаю». Определение такой эффективной генерической вычислимости можно найти в обзоре [11] и в гораздо более ранней работе [12].

Алгоритм А с множеством входов I и множеством выходов 3 и {?} (? € 3) называется эффективно (сильно) генерическим, если

1) А останавливается на всех входах из I;

2) множество {х € I : А(х) = ?} (сильно) пренебрежимо.

Эффективно (сильно) генерический алгоритм А вычисляет функцию f : I ^ 3, если

Ух € I А(х) = ? ^ f (х) = А(х).

Множество 5 С I и соответствующая проблема распознавания (Б, I) (эффективно) (сильно) генерически разрешимы, если существует (эффективно) (сильно) генерический алгоритм, вычисляющий характеристическую функцию Б.

Легко видеть, что из эффективной генерической разрешимости следует генериче-ская разрешимость. Действительно, любой эффективно генерический алгоритм можно переделать в генерический, заменив выдачу ответа «?» на бесконечное зацикливание. В обратную сторону это неверно — см., например, теорему 2.22 и следствие 2.24 в [13]. Однако для полиномиальной (экспоненциальной) сложности верно и обратное: из полиномиальной (экспоненциальной) генерической разрешимости следует полиномиальная (экспоненциальная) эффективная генерическая разрешимость. Действительно, если имеется полиномиальная оценка р(п) на время работы генерического алгоритма, когда он останавливается, то можно завести счётчик Т числа шагов и в случае, если Т > р(п), можно обрывать вычисление и выдавать ответ «?»—алгоритм уже не остановится. Таким образом получается эффективно генерический полиномиальный алгоритм, решающий ту же проблему. То же верно и для сильно генерических алгоритмов.

С учётом сказанного в дальнейшем при доказательстве существования (сильно) генерического алгоритма будем строить эффективно (сильно) генерические алгоритмы. Из существования эффективного (сильно) генерического алгоритма будет следовать существование (сильно) генерического алгоритма.

2. Вспомогательный результат

Пусть М& —полугруппа целочисленных матриц порядка к по стандартному умножению матриц. Элементы М& будем представлять матрицами из целых чисел. Размер целого числа а, обозначаемый з1ге(а), — это длина двоичной записи его модуля. Таким образом, з1ге(а) = п , если 2п-1 ^ |а| < 2п. Отдельно положим з1ге(0) = 0. Под размером матрицы М = || ау || будем понимать

з1ге(М) = шах^ге^у) : г,] = 1,... , к}.

Таким образом, если матрица М имеет размер п, то каждый её элемент лежит в отрезке [—2п + 1, 2п — 1] и для него возможны 2п+1 — 1 вариантов выбора.

Обозначим через М^подмножество матриц в М&с определителем, равным г.

Лемма 1. Пусть г равно 0, 1 или -1. Тогда для любого достаточно большого п имеет место оценка

|М^)<п| < 2п'

Доказательство. Напомним лемму Шварца — Зиппеля [14-16]. Она утверждает, что если Р(х, х2,... , хп) — ненулевой многочлен степени d над полем К, Б — конечное подмножество К и элементы Г1, г2,... , Гп выбраны из Б равномерно и независимо друг от друга, то

d

Р[Р (Г1,Г2,...,Гга) = 0] < щ.

Заметим, что если положить

Р (х1;..., хп2) =

( Х1

хп+1

Х2

хп+2

\хп2- п+1 хп2- п+2

х2п

хп2/

— Г,

то будет иметь место

<п1

М (Z)

Р[Р (Г1,Г2,...,Гп2 ) =0],

< п|

где элементы г1, ... , Гп2 равновероятно и независимо друг от друга выбраны из множества Б = {—2п + 1,..., 2п — 1}. Учитывая, что степень многочлена Р (х1,... , хп2) по любой переменной равна 1, по лемме Шварца — Зиппеля получаем

|М^)

<п 1

М (z)<n |

1 _ 1 1

< Щ = 2п+1 — 1 < 2™.

Лемма 1 доказана.

3. Основной результат

Проблема вхождения для полугруппы Мд (Z) формулируется следующим образом. По произвольным заданным матрицам М1,...,Мп,М из Мдтаким, что з1ге(М1),..., 81ге(Мп), з1ге(М) < п, определить, принадлежит ли матрица М подполугруппе, порождённой матрицами М1,...,Мп. Другими словами, представима ли матрица М в виде некоторого произведения матриц из набора М1 , . . . , Мп, возможно, с повторами? Размером входа здесь является число п.

Теорема 1. Проблема вхождения для Мд сильно генерически разрешима.

Доказательство. Эффективный сильно генерический алгоритм для проблемы вхождения работает на входе (М1,..., Мп, М) размера п следующим образом:

1. Вычисляет определители ёе1(М1),..., ёе1(Мп), ёе^М).

2. Если среди ёе1(М1),..., ёе1(Мп), ёе^М) найдётся определитель, равный 0, 1 или —1, выдаёт ответ «?».

3. Иначе перебирает всевозможные наборы матриц М^,..., М^, такие, что {г1,..., гк} С {1,..., п} и ёе^М^)... ёе^М^) = ёе^М), и проверяет, выполнено ли равенство М^ ... М^ = М. Если равенство получилось, выдаёт ответ «ДА», иначе — ответ «НЕТ».

Заметим, что этот алгоритм всегда останавливается, так как число матриц в тестируемых наборах ограничено числом целых делителей ёе^М), отличных от 1 и —1.

Для доказательства эффективной сильной генеричности алгоритма нужно показать, что множество входов Б, на котором алгоритм выдаёт ответ, отличный от «?», является сильно генерическим. Заметим, что

5п = {(М1,... , Мп, М) : в1ге(М*) ^ п, 81ге(М) ^ п, ёе^М*) = 0,1, —1, г = 1,... , п} =

п

М*; ^ \ (Мк^ и Мк^ и М-1 (^) х М*;(Z)^п.

Пусть I — множество всех входов. Тогда ^ = (М&^)^п)п+1. Поэтому

|Бп| (М(^ \ (М°(^п и Мк(^ и М-1 (^п|-

Рп(Б) = - '

|1n| V |M° (Z)<ra|

|M°(Z)<n| |Mk(Z)<„| |Mfc-1(Z)^| )n

1 -

|M°(Z)<ra| |M° (Z)<ra| |M° (Z)<ra| По лемме 1 можно оценить

/ \ n/2n

> (1 - )n = ((1 - 2Пf) — > 1 - Щ

для достаточно больших п. Последнее выражение экспоненциально быстро стремится к 1 при стремлении п к бесконечности, следовательно, множество S сильно генериче-ское. ■

Автор выражает благодарность рецензенту за полезные замечания и предложения по улучшению текста статьи.

ЛИТЕРАТУРА

1. Михайлова К. А. Проблема вхождения для прямых произведений групп // Математический сборник. 1966. Т. 112. №2. С.241-251.

2. Paterson M. S. Unsolvability in 3 х 3 matrices // Studies Appl. Math. 1970. V.49. No. 1. P. 105-107.

3. Halava V. and Harju T. Mortality in matrix semigroups // Amer. Math. Monthly. 2001. V. 108. No. 7. P. 649-653.

4. KapovichI., Miasnikov A, Schupp P., and Shpilrain V. Generic-case complexity, decision problems in group theory and random walks //J. Algebra. 2003. V. 264. No. 2. P. 665-694.

5. Babai L., Erdos P, and Selkow S. Random graph isomorphism // SIAM J. Computing. 1980. V. 9. No. 3. P. 628-635.

6. Гимади Э. X., Глебов Н. И., Перепелица В. А. Алгоритмы с оценками для задач дискретной оптимизации // Проблемы кибернетики. 1975. Т. 31. С. 35-42.

7. Селиверстов А.В. Двоичные решения для больших систем линейных уравнений // Прикладная дискретная математика. 2021. №52. C.5-15.

8. Gurevich Y. Average case completeness //J. Computer System Sci. 1991. V. 42. P. 346-398.

9. Levin L. Average case complete problems // SIAM J. Computing. 1987. V. 15. P. 285-286.

10. Рыбалов А. Генерический алгоритм для проблемы вхождения в полугруппах целочисленных матриц // Вестник Омского университета. 2020. Т. 25. №3. С. 8-12.

11. Hirschfeldt D. Some questions in computable mathematics // Computability and Complexity. 2017. P. 22-55.

12. Meyer A. An open problem on creative sets // Recursive Function Theory Newsletter. 1973. V.4. P. 15-16.

13. Jockusch C. and Schupp P. Generic computability, Turing degrees, and asymptotic density // J. London Math. Soc. 2012. V.85. No. 2. P. 472-490.

14. Schwartz J. Fast probabilistic algorithms for verification of polynomial identities //J. ACM. 1980. V. 27. No. 4. P. 701-717.

15. Zippel R. Probabilistic algorithms for sparse polynomials // Symbolic Algebraic Computation.

1979. V. 72. P. 216-226.

16. DeMillo R. and Lipton R. A probabilistic remark on algebraic program testing // Inform. Processing Lett. 1978. V. 7. P. 193-195.

REFERENCES

1. Mikhaylova K. A. Problema vkhozhdeniya dlya pryamykh proizvedeniy grupp [Membership problem for direct products of groups]. Matematicheskiy Sbornik, 1966, vol.112, no.2, pp. 241-251. (in Russian)

2. Paterson M.S. Unsolvability in 3 x 3 matrices. Studies Appl. Math., 1970, vol.49, no. 1, pp. 105-107.

3. Halava V. and Harju T. Mortality in matrix semigroups. Amer. Math. Monthly, 2001, vol. 108, no. 7, pp.649-653.

4. KapovichI., Miasnikov A, Schupp P., and Shpilrain V. Generic-case complexity, decision problems in group theory and random walks. J. Algebra, 2003, vol.264, no.2, pp. 665-694.

5. Babai L., Erdos P, and Selkow S. Random graph isomorphism. SIAM J. Computing, 1980, vol.9, no.3, pp. 628-635.

6. Gimadi E. X., Glebov N. I., and Perepelitsa V. A. Algoritmy s otsenkami dlya zadach diskretnoy optimizatsii [Algorithms with bounds for problems of discrete optimization]. Problemy Kibernetiki, 1975, vol.31, pp. 35-42. (in Russian)

7. Seliverstov A.V. Dvoichnye resheniya dlya bol'shikh sistem lineynykh uravneniy [Binary solutions to large systems of linear equations]. Prikladnaya Diskretnaya Matematika, 2021, no. 52, pp. 5-15. (in Russian)

8. Gurevich Y. Average case completeness. J. Computer System Sci., 1991, vol.42, pp.346-398.

9. Levin L. Average case complete problems. SIAM J. Computing, 1987, vol. 15, pp. 285-286.

10. Rybalov A. Genericheskii algoritm dlya problemy vhozhdeniya v polugruppah celochislennyh matrits [A generic algorithm for the membership problem in semigroups of integer matrices] // Vestnik Omskogo universiteta. 2020. V. 25. №3. P. 8-12.

11. Hirschfeldt D. Some questions in computable mathematics. Computability and Complexity, 2017, pp.22-55.

12. Meyer A. An open problem on creative sets. Recursive Function Theory Newsletter, 1973, vol. 4, pp. 15-16.

13. Jockusch C. and Schupp P. Generic computability, Turing degrees, and asymptotic density. J. London Math. Soc., 2012, vol.85, no.2, pp. 472-490.

14. Schwartz J. Fast probabilistic algorithms for verification of polynomial identities. J. ACM,

1980, vol.27, no. 4, pp. 701-717.

15. Zippel R. Probabilistic algorithms for sparse polynomials. Symbolic Algebraic Computation, 1979, vol.72, pp. 216-226.

16. DeMillo R. and Lipton R. A probabilistic remark on algebraic program testing. Inform. Processing Lett., 1978, vol. 7, pp. 193-195.