ГЕНЕРИЧЕСКИЙ АЛГОРИТМ ДЛЯ ПРОБЛЕМЫ ВХОЖДЕНИЯ В ПОЛУГРУППАХ ЦЕЛОЧИСЛЕННЫХ МАТРИЦ Текст научной статьи по специальности «Математика»

УДК 510.51

DOI 10.24147/1812-3996.2020.25(3).8-12

ГЕНЕРИЧЕСКИИ АЛГОРИТМ ДЛЯ ПРОБЛЕМЫ ВХОЖДЕНИЯ В ПОЛУГРУППАХ ЦЕЛОЧИСЛЕННЫХ МАТРИЦ

А. Н. Рыбалов

Институт математики им. С. Л. Соболева СО РАН, Омский филиал, г. Омск, Россия

Информация о статье

Дата поступления 20.07.2020

Дата принятия в печать 08.09.2020

Дата онлайн-размещения 28.12.2020

Аннотация. В 2003 г. И. Капович, А. Мясников, В. Шпильрайн и П. Шупп предложили генерический подход к теории вычислимости и вычислительной сложности. В рамках этого подхода алгоритмическая проблема рассматривается не на всем множестве входов, а на некотором подмножестве почти всех входов. В данной статье доказывается генерическая разрешимость проблемы вхождения и проблемы умирающих матриц для полугрупп целочисленных матриц произвольного порядка.

Ключевые слова

Генерическая сложность, полугруппа матриц, проблема вхождения

Финансирование

Работа поддержана программой фундаментальных научных исследований СО РАН 1.1.1.4, проект 0314-2019-0004

A GENERIC ALGORITHM FOR THE MEMBERSHIP PROBLEM IN THE SEMIGROUPS OF INTEGER MATRICES

A. N. Rybalov

Sobolev Institute of Mathematics SB RAS, Omsk Branch, Omsk, Russia

Abstract. Generic-case approach to algorithmic problems was suggested by A. Miasnikov, I. Kapovich, P. Schupp and V. Shpilrain in 2003. This approach studies behavior of an algorithm on typical (almost all) inputs and ignores the rest of inputs. In this paper we prove generic decidability of the membership problem and the mortality problem for semigroups of integer matrices of arbitrary order.

Available online 28.12.2020

Keywords

Generic computability, matrix semigroups, membership problem

Article info

Received 20.07.2020

Accepted 08.09.2020

Acknowledgements

This research was Supported by the program of basic scientific researches SB RAS I.1.1.4, project 0314-2019-0004

1. Введение

Проблема вхождения в конечно порожденную подгруппу (подполугруппу) для групп (полугрупп) является классической алгоритмической проблемой в алгебре, особенно активно изучаемой с момента появления формализации понятия алгоритма. Как оказалось, уже для достаточно простых групп и полугрупп эта проблема становится неразрешимой. Например, Михайлова [1] доказала неразрешимость для прямого произведения двух свободных групп ранга >2. Отсюда легко следует неразрешимость рассматриваемой проблемы для групп целочисленных матриц GL(k,Z) порядка k>4. Для полугрупп целочисленных матриц порядка k>3 неразрешимость была доказана Патерсоном [2]. На самом деле он доказал неразрешимость даже более узкой проблемы проверки принадлежности нулевой матрицы заданной подполугруппе. В литературе эта проблема называется проблемой умирающих матриц

[3]. Для полугруппы целочисленных матриц порядка 2 разрешимость проблемы умирающих матриц и проблемы вхождения до сих пор не установлена.

Генерический подход был предложен в 2003 г. Каповичем, Мясниковым, Шпильрайном и Шуппом в

[4]. В рамках этого подхода изучается поведение алгоритмов на множестве «почти всех» входов (это множество называется генерическим), игнорируя поведение алгоритма на остальных входах, на которых алгоритм может работать медленно или вообще не останавливаться. Такой подход имеет приложения в криптографии, где требуется, чтобы алгоритмические проблемы были трудными для «почти всех» входов. Понятие «почти все» формализуется введением асимптотической плотности на множестве входных данных. С точки зрения практики алгоритмы, решающие быстро проблему на генериче-ском множестве, так же хороши, как и быстрые алгоритмы для всех входов. Генерический подход применим также и к алгоритмически неразрешимым проблемам: может оказаться, что проблема трудноразрешима или вообще неразрешима в классическом смысле, но легкоразрешима в генерическом смысле.

В данной статье доказывается генерическая разрешимость проблемы вхождения и проблемы умирающих матриц для полугрупп целочисленных матриц произвольного порядка.

2. Генерические алгоритмы

Пусть I есть множество всех входов для некоторой алгоритмической проблемы, а S - некоторое его подмножество. Рассмотрим последовательность

где In - множество всех входов проблемы размера п . Обозначим также через Iän множество всех входов размера не больше n . Определим асимптотическую плотность множества S как предел (если он существует)

p(S) = limPn(S).

п^да

Если предела не существует, то считаем, что асимптотическая плотность не определена. Множество входов S с I называется генерическим, если p(S) = 1, и пренебрежимым, если p(S) = 0 . Непосредственно из определения следует, что S является генерическим тогда и только тогда, когда I\S пренебрежимо. Понятие генерического множества формализует интуитивное понятие множества «почти всех» входов в том смысле, что при увеличении размера входа вероятность того, что случайно сгенерированный вход попадет в генерическое множество, стремится к 1.

Алгоритм A с множеством входов I и множеством выходов Jи{?} (? £ J) называется генерическим, если

1. A останавливается на всех входах из I,

2. Множество {х е I: A(x) = ?} пренебрежимо.

Генерический алгоритм A вычисляет функцию f: I ^ J , если для всех х е/ из A(x) = y е J следует f(х) = y. Ситуация A(x) = ? означает, что A не может вычислить функцию f для аргумента х. Но условие 2 гарантирует то, что A корректно вычисляет f на почти всех входах (входах из генерического множества). Проблема распознавания множества S с I ге-нерически разрешима, если существует генериче-ский алгоритм, вычисляющий характеристическую функцию множества S .

3. Проблема вхождения в полугруппах матриц

Пусть Mat(k,Z) - полугруппа целочисленных

матриц порядка k по стандартному умножению матриц. Элементы Mat(k,Z) будем представлять матрицами из целых чисел. Размер целого числа a, обозначаемый size(a), - это длина двоичной записи его модуля. Таким образом, size(a) = п, если 2"1 < Ц <2п. Отдельно положим size(0) = 0 . Под размером матрицы M = ||a.|| будем понимать size(M) = max{s/ze(a(i),i,j = 1,...,k}. Таким образом, если матрица M имеет размер п, то каждый ее эле- 9

мент лежит в отрезке ^-2" +1,2" -1]. Получается,

что для каждого ее элемента возможны 2 "+1 -1 вариантов выбора.

Проблема вхождения для ММ(к,I) формулируется следующим образом. По произвольным заданным матрицам (М1 ,...,Мп,М) из М^(к,I) таким, что з'ив(М1),...,з'ив(Мп),з'чв(М) <" , определить, принадлежит ли матрица М подполугруппе, порожденной матрицами Мг,..,Мп. Другими словами, представима ли матрица М в виде некоторого произведения матриц из набора Мг,..,Мп возможно с повторами?

Проблема умирающих матриц - частный случай проблемы вхождения, когда нужно определить принадлежность нулевой матрицы подполугруппе, порожденной матрицами (М1 ,...,Мп).

4. Основной результат

Обозначим через Ма^(к,I) подмножество матриц в Mat(k,I) с определителем, равным г .

Лемма 1. Пусть г есть 0, 1 или -1. Тогда для любого достаточно большого " имеет место оценка \Ма^ (к, 1

\МаЩ,Г)"\ < "9(")' где 6(") есть некоторая фиксированная монотонно возрастающая функция.

Доказательство. Зафиксируем размер матриц " . Выберем простое число р, являющееся делителем 2"+1 -1. Рассмотрим множество Mat(k,GF(p)) квадратных матриц порядка к с элементами из поля GF(p), где р - простое число. Очевидно, что \Ма^к^(р))\ = рк . Пусть Фр: [-2" +1,2" -1] ^ GF(p) - отображение, определяемое для любого а е[-2" +1,2" -1] как Ф (а) = а(тос1 р). Соответствующее индуцированное отображение для матриц тоже будем обозначать Ф . Заметим, что прообраз каждого элемента из

->"+1 _ 1

GF(p) при отображении ф состоит ровно из

Р

чисел из отрезка ^-2" +1,2" -^. Поэтому для любого множества матриц 5сMat(k,GF(p)) имеет место

kS =

( 2"+1 —

Откуда следует

k ( s )s

S

(1)

\Mat(k,Z) J \Mat(k,GF(p)\' Рассмотрим теперь множество Mat0(k,Z). Обозначим через Mat0(k,GF(p)) множество матриц из Mat(k,GF(p)) с определителем 0. Очевидно, что

Mat0 (k, Z) с фр"1 (Mat0 (k,GF(p)). (2)

Найдем сначала среди всех матриц из Mat(k,GF(p)) долю обратимых матриц, у которых определитель отличен от нуля в GF(p). Такие матрицы образуют группу GL(k,GF(p)). Известно (см., напр.: [5]), что

k

\GL(k,GF(p))\ = ;Q(pk -p.

Откуда искомая доля равна

k

\GL(k,GF(p))\ П(pk - ^ 'Г 1

\Mat(k,GF(p)\ pk П[ p J p

a =

Тогда

Mat0(k,GF(p))\ = 1 -a < 1 -f 1 -1 )= 1 \Mat(k,GF(p))\ { p

Теперь, учитывая (1) и (2), имеем

\Mat0(k, Z)\ 1

\Mat(k,Z)\ p '

(3)

Докажем аналогичную оценку для множества Ма^(к,I). Для этого рассмотрим группу SL(k,GF(p)) матриц порядка к над GF(p) с определителем 1. Известно (см.: [5]), что

1 к

\5Цк^(р))\ =-— П(рк -Р-1). р 1 1=1

Легко видеть, что

Ма^(к,I) сфр1 (SL(k,GF(p)). Тогда (1) дает оценку

\Ма^(к,р^Ц Щк^(р))\ _ \Ма^к,г)"\ ~ \Ма^к^(р))\

\<- 1

п 1 - л

р -1 !=i'

р -1

(4)

Для множества (к,I) получается точно такая же оценка, так как отображение ц(М) = -М задает биекцию между (к,I) и Ма^(к,I), а потому \Ма^(к, ^ = \МаЦк, г)<„\.

S .

k

Наконец, для того чтобы получить утверждение леммы, используем результат Стюарта из [6], являющийся усилением классической теоремы Жигмонди о примитивных простых делителях последовательностей вида |о" -bn,n = 1,2,...} . В частности, он утверждает, что для достаточно большого n у числа 2n -1 имеется простой делитель p такой, что

log n

p > ne 104 log log n

Таким образом, учитывая оценки (3) и (4), в качестве монотонно возрастающей функции 6(n)

log n

можно выбрать функцию 9(n) = e104loglogn. Лемма доказана.

Теорема 1. Проблема вхождения для Mat(k,Z) генерически разрешима.

Доказательство. Генерический алгоритм для проблемы вхождения работает на входе (M,...,M,M) размера n следующим образом.

1. Вычисляет определители det(M1), ..., det(M ),det(M).

2. Если среди det(M1),..., det(Mn) найдется определитель, равный 0, 1 или -1, выдает ответ «?».

3. Иначе перебирает всевозможные наборы матриц M...M такие, что ,...,¡k}е{1, ...,n} и det(M )...det(M) = det(M), и проверяет, выполнено ли равенство M ...M!t = M. Если равенство получилось, выдает ответ «ДА», иначе выдает ответ «НЕТ».

Заметим, что этот алгоритм всегда останавливается, так как число матриц в тестируемых наборах ограничено числом целых делителей det(M), отличных от 1 и -1.

Для доказательства генеричности алгоритма нужно показать, что множество входов S , на котором алгоритм выдает ответ, отличный от «?», является генерическим. Заметим, что

СПИСОК ЛИТЕРА ТУРЫ

1. Михайлова К. А. Проблема вхождения для прямых произведений групп // Матем. сб. 1966. Т. 70 (112), № 2. С. 241-251.

2. Paterson M. S. Unsolvability in 3 х 3 Matrices // Studies in Applied Mathematics. 1970. Vol. 49, № 1. P. 105107.

3. Halava V., Harju T. Mortality in Matrix Semigroups // The American Mathematical Monthly. 2001. Vol. 108, № 7. P. 649-653.

4. Kapovich I., Myasnikov A. G., Schupp P., Shpilrain V. Generic-case complexity, decision problems in group theory and random walks // J. Algebra. 2003. Vol. 264, № 2. P. 665-694.

5. Каргаполов М.И., Мерзляков Ю.И. Основы теории групп. М. : Наука, 1982. 288 с.

- 11

Herald of Omsk University 2020, vol. 25, no. 3, pp. 8-12

^ = {(Мх ,...,М„ ,М): size(M¡) < п, size(M) < п,

) Ф 0,1,-1,/ = 1,...п} = = (МсЛ(к, г)^ \ (МаО ^ и МсЛ! г)^ и

^ Мсл^к, г) <„))" х мсл(к, г) <„.

Пусть теперь I - множество всех входов алгоритма. Тогда 1п = (Mat(k, г)£л )"+1. Поэтому

I

Рп(5) = Уу = ((IMat(k,г)<„ \ (Ма^(к,г) ^ и

и Ма^(к, г)< п и Ма^(к, г)<п ^|маt(k, г) <п |)п =

^ |Ма^(к, г)<п| |Ма^(к,г)<„| |Ма^(к, г)Й^п У |Ма^к, \Ма«к,г1п\ |Mat(k, гу

По лемме 1 можно оценить

\п П \пв(п)

3 ^ „, , Г 3 V )

Pn (S) >|1 I =e(ííjl -

n9(n) J ^ n9(n) )

Последнее выражение стремится к 1 при стремлении n к бесконечности, откуда множество S генерическое. Теорема доказана.

Теорема 2. Проблема умирающих матриц для Mat(k, Z) генерически разрешима.

Доказательство. Здесь генерический алгоритм работает на входе (Мг,—,Mn) следующим образом.

1. Вычисляет определители det(M ),—,det(Mn ).

2. Если хотя бы один из них равен 0, выдает ответ «?».

3. Если все определители отличны от нуля, выдает ответ «НЕТ».

Генеричность этого алгоритма доказывается, как в доказательстве теоремы 1.

6. Stewart C. On divisors of Lucas and Lehmer numbers // Acta Mathematica. 2013. Vol. 211, № 2. P. 291-314.

ИНФОРМАЦИЯ ОБ АВТОРЕ

Рыбалов Александр Николаевич - кандидат физико-математических наук, старший научный сотрудник лаборатории комбинаторных и вычислительных методов алгебры и логики, Институт математики им. С.Л. Соболева СО РАН, Омский филиал, 644099, Россия, г. Омск, ул. Певцова 13; e-mail: alexander.rybalov@gmail.com.

ДЛЯ ЦИТИРОВАНИЯ

Рыбалов А. Н. Генерический алгоритм для проблемы вхождения в полугруппах целочисленных матриц // Вестн. Ом. ун-та. 2020. Т. 25, № 3. С. 8-12. DOI: 10.24147/1812-3996.2020.25(3).8-12.

INFORMATION ABOUT THE AUTHOR

Rybalov Alexander Nikolaevich - Candidate of Psysical and Mathematical Sciences, Senior Researcher, Laboratory of Combinatorial and Computational Methods of Algebra and Logic, Sobolev Institute of Mathematics SB RAS, Omsk Branch, 13, ul. Pevtsova, Omsk, 644099, Russia; e-mail: alexander.rybalov@gmail.com.

FOR QTATIONS

Rybalov A. N. A generic algorithm for the membership problem in the semigroups of integer matrices. Vestnik Omskogo universiteta = Herald of Omsk University, 2020, vol. 25, no. 3, pp. 8-12. DOI: 10.24147/1812-3996.2020.25(3).8-12. (in Russ.).