О ГЕНЕРИЧЕСКОЙ СЛОЖНОСТИ ПРОБЛЕМЫ О СУММЕ ПОДМНОЖЕСТВ В МОНОИДАХ И ГРУППАХ ЦЕЛОЧИСЛЕННЫХ МАТРИЦ ВТОРОГО ПОРЯДКА Текст научной статьи по специальности «Математика»

УДК 510.51

DOI 10.24147/1812-3996.2020.25(4).10-15

О ГЕНЕРИЧЕСКОИ СЛОЖНОСТИ ПРОБЛЕМЫ О СУММЕ ПОДМНОЖЕСТВ В МОНОИДАХ И ГРУППАХ ЦЕЛОЧИСЛЕННЫХ МАТРИЦ ВТОРОГО ПОРЯДКА

А. Н. Рыбалов

Институт математики им. С. Л. Соболева СО РАН, Омский филиал, г. Омск, Россия

Информация о статье

Дата поступления 06.08.2020

Дата принятия в печать 21.12.2020

Дата онлайн-размещения 28.12.2020

Аннотация. В 2003 г. И. Капович, А.Г. Мясников, В. Шпильрайн и П. Шупп предложили генерический подход к теории вычислимости и вычислительной сложности. В рамках этого подхода алгоритмическая проблема рассматривается не на всем множестве входов, а на некотором подмножестве почти всех входов. В данной работе доказывается, что проблемы о сумме подмножеств для моноида целочисленных положительных унимодулярных матриц второго порядка, специальной линейной группы второго порядка и модулярной группы генерически разрешимы за полиномиальное время.

Ключевые слова

Генерическая сложность, проблема о сумме подмножеств, матрицы

Финансирование

Работа поддержана программой фундаментальных научных исследований СО РАН 1.1.1.4, проект 0314-2019-0004

ON GENERIC COMPLEXITY OF THE SUBSET SUM PROBLEM IN MONOIDS AND GROUPS OF INTEGER MATRIX OF ORDER TWO

A. N. Rybalov

Sobolev Institute of Mathematics SB RAS, Omsk Branch, Omsk, Russia

Article info

Received 06.08.2020

Accepted 21.12.2020

Available online 28.12.2020

Abstract. Generic-case approach to algorithmic problems was suggested by A. Miasnikov, I. Kapovich, P. Schupp and V. Shpilrain in 2003. This approach studies behavior of an algorithm on typical (almost all) inputs and ignores the rest of inputs. In this paper, we prove that the subset sum problems for the monoid of integer positive unimodular matrices of the second order, the special linear group of the second order, and the modular group are ge-nerically solvable in polynomial time.

Keywords

Generic complexity, subset sum problem, matrices

Acknowledgements

This research was supported by the program of basic scientific researches SB RAS I.1.1.4, project 0314-2019-0004

Введение. Проблема о сумме подмножеств является классической комбинаторной проблемой,

изучаемой многие десятилетия. Большую популярность проблема о сумме подмножеств приобрела в

ISSN 1812-3996-

криптографии, где неоднократно предлагались криптосистемы, основанные на ней. Мясников, Николаев и Ушаков [1] ввели аналоги проблем о рюкзаке и о сумме подмножеств для произвольных групп (полугрупп) и изучили вычислительную сложность этих проблем для различных групп: доказали полиномиальную разрешимость для гиперболических групп, NP-полноту для групп Баумслага-Соли-тера. Также ими была отмечена связь с классической проблемой о вхождении в подгруппу. Сложность в среднем ограниченной проблемы вхождения для группы SL2(Z) унимодулярных целочисленных 2x2 матриц изучалась Гуревичем и Блассом [2]. Используя идеи Гуревича из [3], Каи, Фукс, Козен и Лиу [4] предложили полиномиальный в среднем алгоритм для ограниченной проблемы вхождения в модулярной группе PSL, (Z).

В 2003 г. Каповичем, Мясниковым, Шуппом и Шпильрайном [5] была предложена теория генери-ческой вычислимости и сложности вычислений. В рамках этого подхода алгоритмическая проблема рассматривается не на всем множестве входов, а на некотором подмножестве «почти всех» входов. Такие входы образуют так называемое генерическое множество. Понятие «почти все» формализуется введением естественной меры на множестве входных данных. С точки зрения практики, алгоритмы, решающие быстро проблему на генерическом множестве, так же хороши, как и быстрые алгоритмы для всех входов. Более того, может так оказаться, что проблема трудноразрешима или вообще неразрешима в классическом смысле, но легкоразрешима на генерическом множестве.

В данной работе изучается генерическая сложность проблем о сумме подмножеств для моноида целочисленных положительных унимодулярных матриц второго порядка SL, (ю), специальной линейной группы SL2(Z) и модулярной группы PSL2(Z). В классическом смысле эти проблемы являются NP-полными, а потому для них, при условии P # NP, нет полиномиальных алгоритмов. В статье доказывается, что данные проблемы генерически разрешимы за полиномиальное время.

Генерические алгоритмы. Пусть I есть множество всех входов для некоторой алгоритмической проблемы, а S - некоторое его подмножество. Рассмотрим последовательность

|5П/„|

где I - множество всех входов проблемы размера n . Обозначим также через Iän множество всех входов размера не больше n . Определим асимптотическую плотность множества S как предел (если он существует)

p(S) = limPn(S).

Если предела не существует, то считаем, что асимптотическая плотность не определена. Множество входов S с I называется генерическим, если p(S) = 1, и пренебрежимым, если p(S) = 0 . Непосредственно из определения следует, что S является генерическим тогда и только тогда, когда I \ S пренебрежимо. Понятие генерического множества формализует интуитивное понятие множества «почти всех» входов в том смысле, что при увеличении размера входа вероятность того, что случайно сгенерированный вход попадет в генерическое множество, стремится к 1.

Алгоритм A с множеством входов I и множеством выходов Jи {?} (? g J) называется генерическим, если

1. A останавливается на всех входах из I,

2. Множество {х еI: A(x) = ?} пренебрежимо.

Генерический алгоритм A вычисляет функцию f: I ^ J, если для всех х е/ из A(x) = y е J следует f (х) = y. Ситуация A(x) = ? означает, что A не может вычислить функцию f для аргумента x . Но условие 2 гарантирует то, что A корректно вычисляет f на почти всех входах (входах из генерического множества). Проблема распознавания множества S с I генерически полиномиально разрешима, если существует генерический полиномиальный алгоритм, вычисляющий характеристическую функцию множества S.

Моноид SL (ю). Под моноидом целочисленных положительных унимодулярных матриц второго порядка SL (ю) понимается множество 2x2 матриц с целыми неотрицательными целыми элементами, определитель которых равен 1, с обычной операцией умножения матриц. Элементы SL,(ю) будем представлять матрицами, а под размером матрицы

(

M =

b } d

Pn (S) = J

будем понимать максимум из размеров натуральных чисел а, Ь, с, б, записанных в двоичной форме.

Kl

■ ISSN 1812-3996

Лемма 1. Существуют константы К2 > Кг > 0 такие, что для любого достаточно большого п имеет место

К122п <|БЦю)£„\<К222п. Доказательство. Пусть М е Б^ (ю) . Тогда

M =

fa ^ b d

, где a,b,c,d < 2" и det(M) = ad - bc = 1.

Отсюда следует, что НОД^Ь) = 1 и НОД= 1. До, од -1

пустим, что о > с . Тогда из равенства Ь =- сле-

с

дует, что Ь >Ь . Теперь докажем, что при фиксиро-

ванном первом столбце

v b у

, второй столбец

v d у

определяется однозначно. Действительно, пусть

имеются два различных таких столбца

(c ^ di

для которых с ,с2 - о, ^ - Ь и выполнено

Го^ - Ьсг = 1,

Vd2

оЬ2 - Ьс2 = 1.

Вычитая из первого равенства второе, получаем равенство о(Ь1 - ) = Ь(с - с), которое противоречит взаимной простоте чисел о и Ь. Аналогично рассматривается случай, когда с> о и Ь>Ь . Таким образом, матрица из Б^ (ю) задается либо первым столбцом, либо вторым. Причем числа в этих столбцах выбираются произвольными взаимно простыми, меньшими 2п. Значит

|БА»-п| = 2|{(о,Ь): о,Ь <2п,НОД(о,Ь) = 1}|.

По классической теореме Чезаро (см. [6])

|{(о,Ь): о,Ь < 2п'НОД(О'Ь) = 1} 6 Ит ^--1 -

12

Поэтому если положить К =~-0,001 и

п

12

К = — + 0,001, то для достаточно больших п будет

п

выполнено

К122п <|(ю)й„| < К222п. Лемма доказана.

Нильсен в [7] доказал, что моноид Б^ (ю) является свободным моноидом с двумя порождающими

A =

1 1 0 1

B =

1 0

1 1

v у

Таким образом, любая матрица из БЦ(ю) единственным образом представляется в виде произведения матриц А и В . Будем называть такое произведение нормальной формой элемента из Б^ (ю).

Опишем алгоритм ¥ приведения матриц из БЦ (ю) к нормальной форме. Этот алгоритм работает на матрице

M =

a b} c d

= Mo =

v c0

'0 у

размера п следующим образом.

1. Вначале число раундов к = 0.

2. Вначале выходная строка щ пустая.

3. Если М = Е, выдаем ответ щ. Через Мк обозначается матрица, а через щ - выходная строка на текущем раунде.

4. Если число раундов к = п4 выдаем ответ «?».

(г

5. Пусть матрица Mk =

унде.

Если

Mk+1 = BT'Mk =

(если

Mk+1 = A-xMk =|ak ck

ak ^ ck,

dk - bk у то

bk - dk

bk ^

-k у то

на данном ра-

полагаем

и W+i = Bwk. Иначе

полагаем

и W+1 = Awk.

счетчик числа раундов

6. Увеличиваем к: = к +1.

7. Возвращаемся на шаг 3.

Лемма 2. Алгоритм ¥ является полиномиальным и генерическим. Более того, пусть Б = {М е БЦ (ю): ¥(М) = ?}. Тогда существует константа С > 0 такая, что для любого п выполнено

S.

S/-2«

- <-

с

(1)

Доказательство. То, что алгоритм полиномиальный следует из ограниченности числа раундов величиной п3 и того, что на каждом раунде операции с элементами матрицы выполняются за полиномиальное от размера п число шагов.

Для доказательства генеричности алгоритма заметим, что преобразования матриц на шаге 5 алгоритма соответствуют «урезанному» алгоритму Евклида нахождения наибольшего общего делителя для пар чисел во втором столбце. «Урезанность» алгоритма Евклида означает, что допускается производить вычитание вместо деления с остатком. Если

a

2

n

ISSN 1812-3996 "

полноценный алгоритм Евклида является полиномиальным от двоичных размеров чисел на входе, то «урезанный» алгоритм может работать за экспоненциальное время. Однако, как было показано Кнутом и Яо [8], среднее время работы «урезанного» алгоритма остается полиномиальным. Более точно, пусть ■(а,Ь) - число шагов алгоритма Евклида, основанного на вычитании, на входе (а,Ь). Тогда

£ф,Ь) = 4 Ь(1о8 Ь)2 + 0(Ысв Ь(!оё!ов Ь)2).

а<Ь Л

Из этого равенства следует, что £ф,Ь) < С^Оов Ь)2

а<Ь

для некоторой универсальной константы С2 > 0. Теперь просуммируем по всем парам (а,Ь) таким, что а, Ь < 2":

2" 2" 2"

<С£Ь(!овь)2 < С12"п2= С1п222". (2)

Ь=1 а<Ь Ь=1 Ь=1

Пусть - алгоритм ¥ без шага 4, то есть без ограничения на число раундов. Этот алгоритм всегда выдает нормальную форму, никогда не выдает ответ «?», но может работать экспоненциальное время. Из доказательства леммы 1 следует, что величиной (2) ограничено сверху суммарное число раундов Т алгоритма на всех матрицах из БЦ2(ю)<„:

Т < С" 22". (3)

Будем доказывать оценку (1) индукцией по п . Для п = 1 константа С > 0 при которой выполняется оценка (1), очевидно, существует. Пусть теперь (1) выполняется для всех размеров, меньших п . Докажем ее для п . Пусть это не так, то есть пусть

S.

с

SL»s

или

SJ >

CSL»<

S<n = S<n-i ^ Sn

Так как индукции, верна оценка

(4)

и, по предположению

S.

откуда

SL2(a) <„_J (n -1)2

c|sl2(®) < n-il

S<n-1 <

(п -1)2 Теперь перепишем (4)

Б |=|Б | + |Б |>

Б<п Б<п-1+ > 2 ...... п

Откуда, учитывая (5)

(5)

К >

c|SLN<

L- ls<n-J >

C|Si>) <1 C|Si»<

п п2 (п -1)2

Используя оценки из леммы 1, получаем

, , 'к, 22" К,22" ^ 22 Б > С| |---^-- 1> С

п2 4(п -1)2 для некоторой константы С2 > 0 .

Так как на каждом входе из множества Бп алгоритм делает больше п4 раундов, то суммарное число раундов Т алгоритма на всех матрицах из БЦ2 (ю) ограничено снизу

-}2п

Т > п5 Б I > п5С2 — = С2п322п. п

А это при достаточно больших п противоречит оценке сверху (3). Лемма доказана.

Проблема о сумме подмножеств для моноида Б^ (ю). Сформулируем теперь проблему о сумме подмножеств для моноида Б^(ю). Даны матрицы М,...,М из Б^(ю), каждая размером не более п , и матрица М из БЦ (ю) размера не более п2. Определить, существуют ли степени ,...,еп е{0,1} такие, что имеет место равенство

М б1..м„ ^ = м.

Лемма 3. Проблема о сумме подмножеств для БЦ, (ю) МР-полна.

Доказательство. Докажем, что к ней полиномиально сводится классическая проблема о сумме подмножеств для натуральных чисел. Определим отображение Г:ю^БЦ (ю) следующим образом.

Для любого a ею положим F (о) =

0 1

. Тогда со-

ответствующая сводимость сопоставляет входу (а,...,а„,а) классической проблемы о сумме подмножеств следующий вход проблемы о сумме подмножеств для БЦ, (ю) : ),...,Г(а„),Г(а)) . Легко видеть, что для любого набора чисел ,...,еп е{0,1} равенство

а1£1 + ... + ап8п = а

выполняется тогда и только тогда, когда Г«1...^ Г = Г(а).

Лемма доказана.

Теорема 1. Проблема о сумме подмножеств в моноиде Б^ (ю) генерически полиномиально разрешима.

>

2

n

2

n

C

Доказательство. Генерический полиномиальный алгоритм £ будет работать на входе (М ,...,М 'M) в два этапа.

Сначала с помощью алгоритма ¥ все матрицы М1 '..VMП 'M приводятся к нормальной форме в виде слов (щ'...,щщ) над алфавитом {А,В} как элементы свободного моноида. Если при этом алгоритм ¥ хотя бы раз выдал ответ «?», то и алгоритм £ выдает ответ «?». Иначе слова (щ,—№пщ) передаются на второй этап. Заметим, что множество входов б, на котором алгоритм £ не выдает ответ «?», является генерическим. Действительно б = {(М'..., М, М): ¥(Щ) * ?'..., ¥(М„) * ?, ¥(М) * ?} Откуда по лемме 2

(G| К1 - 7 (1 - П4

1 - 7

. \1/п

1 - 7

и значит Мтр„(б) = 1.

На втором этапе решается проблема о сумме подмножеств в свободном моноиде {А,В}*. Имеются слова (щ,—№пщ) над алфавитом {А,В}, причем их длины ограничены полиномиально от п - это следует из описания алгоритма ¥. Нужно выяснить, существуют ли индексы ¡г </2 <... <¡к -п такие, что щ ...щ = ш. Для этого применим следующий алгоритм О. Для удобства описания алгоритма будем считать, что при пустом слове щ проблема разрешима (ответ ДА).

1. Если слово щ пустое, останавливается (и останавливает все запущенные рекурсивные вызовы) и выдает ответ «ДА».

2. Среди слов щищем все слова

щ , которые являются префиксами слова щ.

>\ >к

Если таких слов нет, то останавливает текущий рекурсивный вызов и выдает ответ «Нет решения на данной подзадаче».

3. Запускает рекурсивно алгоритм О для всех входов (щ ...,,,...,щщ щ), т = 1,...,к таких,

> т+ ^ > т+ 2 п > т

для которых алгоритм О не был запущен ранее. Здесь через щ щ обозначено слово щ без начального куска щ .

4. Если все запущенные рекурсивные вызовы в какой-то момент остановились и выдали ответ «Нет решения на данной подзадаче», выдает ответ «НЕТ».

Для того, чтобы доказать полиномиальность алгоритма О, заметим, что число возможных рекур-

-ISSN 1812-3996

сивных вызовов Q не превосходит числа возможных подзадач вида (wm ,wm+1,...,wn,w'), где w' -слово w без некоторого начального куска. Число таких подзадач не превосходит n|w| - ограничено полиномиально от n . Теорема доказана.

Проблема о сумме подмножеств для групп SL,(Z) и PSL2(Z). Специальная линейная группа SL, (Z) - это группа целочисленных унимодулярных матриц второго порядка с операциями умножения и обращения матриц. Модулярная группа PSL2 (Z) -это фактор группа группы SL, (Z) по ее центру {E, —E}. Другими словами группа PSL,(Z) - это группа SL, (Z), в которой отождествляются матрицы M и —M. Под размером матрицы 'a bN

M =

с d

будем понимать максимум из размеров модулей целых чисел a, Ь, c, d, записанных в двоичной форме.

Известно (см. [9]), что группы Б^(г) и РБ^(г) порождаются двумя матрицами

Б "Р 4 *"Р -1

С 10 ) ^ 11

и имеют представления

РБЦ2 (г) = (Б,Я: Б2 = 1'Я3 = 1), (6)

БЦ, (г) = (Б,Я: Б4 = 1'Я6 = 1,Б2 = Я3) . (7)

С другой стороны, эти группы, как и моноид Б^ (ю) порождаются матрицами

А 'С' Ч- В -С1 0

С 0 1) ^11

Поэтому для того, чтобы для матрицы М из БЦ, (г) найти ее представление в виде слова от порождающих 5 и R можно использовать аналог алгоритма ¥ для моноида БЦ (ю) с тем отличием, что нужно действовать на матрицу М как матрицами А,В, так и их обратными , уменьшая модули чисел в столб-

цах. При этом моделируется "урезанный" алгоритм Евклида для модули чисел в столбцах. Аналогично лемме 2 доказывается, что этот алгоритм генерический и для почти всех матриц он находит полиномиально ограниченное представление матрицы М в виде слова от порождающих А,В и их обратных. Затем нужно переписать это слово через порождающие 5 и R, используя выражения А = Б гЯ и В = БЯ-1. При этом длина слов увеличивается не более, чем в два раза.

Вестник Омского университета 2020. Т. 25, № 4. С. 10-15

ISSN 1812-3996-

Проблема о сумме подмножеств для групп БЦ2(I) и РБЦ2(I) формулируется также как и для моноида БЦ(ю). Из леммы 3 следует, что эта проблема для данных групп тоже является 1МР-полной.

Теорема 2. Проблема о сумме подмножеств в группах БЦ2(I) и РБЦ2(I) генерически полиномиально разрешима.

Доказательство. Генерический полиномиальный алгоритм сначала по каждой матрице из входа

строит ее представление через порождающие Б и R не более, чем полиномиального размера (это так для генерического множества входов). Затем можно использовать полиномиальный алгоритм для решения проблемы о сумме подмножеств в гиперболических группах из [1], так как группы БЦ2(I) и РБЦ2(I) в представлениях (6) и (7) являются гиперболическими.

СПИСОК ЛИТЕРА ТУРЫ

1. Miasnikov A., NikolaevA., UshakovA. Knapsack problems in groups // Mathematics of Computation. 2015. Vol. 84. P. 987-1016.

2. Blass A., Gurevich Yu. Matrix Transformation is Complete for the Average Case // SIAM Journal on Computing. 1995. Vol. 24, № 1. P. 24-39.

3. Gurevich Yu. Matrix decomposition problem is complete for the average case // Proceedings of 31st Annual Symposium on Foundations of Computer Science. 1990. P. 802-811.

4. Cai J., Fuchs W., Kozen D., Liu Z. Efficient average-case algorithms for the modular group // Proceedings of the 35th Annual Symposium on Foundations of Computer Science. 1994. P. 143-152.

5. Kapovich I., Myasnikov A.G., Schupp P., Shpilrain V. Generic-case complexity, decision problems in group theory and random walks // J. Algebra. 2003. Vol. 264, № 2. P. 665-694.

6. Hardy G.H., Wright E.M. An Introduction to the Theory of Numbers. Oxford University Press. 421 p.

7. Nielsen J. Die Gruppe der dreidimensionalen Gittertransformationen // Kgl. Danske Vid. Selsk., Math.-fys. Medd. 1924. 5 № 12, P. 3-29.

8. Knuth D., Yao A. Analysis of the subtractive algorithm for greatest common divisors // Proc. Nat. Acad. Sci. USA. 1975. Vol. 72, № 12. P. 4720-4722.

9. Магнус В., Каррас А., Солитэр Д. Комбинаторная теория групп: Представление групп в терминах образующих и соотношений. 1974. 456 с.

ИНФОРМАЦИЯ ОБ АВТОРЕ

Рыбалов Александр Николаевич - кандидат физико-математических наук, старший научный сотрудник лаборатории комбинаторных и вычислительных методов алгебры и логики, Институт математики им. С. Л. Соболева СО РАН, Омский филиал, 644099, Россия, г. Омск, ул. Певцова, 13; e-mail: alexander.rybalov@gmail.com.

ДЛЯ ЦИТИРОВАНИЯ

Рыбалов А. Н. О генерической сложности проблемы о сумме подмножеств в моноидах и группах целочисленных матриц второго порядка // Вестн. Ом. унта. 2020. Т. 25, № 4. С. 10-15. DOI: 10.24147/1812-3996.2020.25(4).10-15.

INFORMATION ABOUT THE AUTHOR

Rybalov Alexander Nikolaevich - Candidate of Psysical and Mathematical Sciences, Senior Researcher of the Laboratory of Combinatorial and Computational Methods of Algebra and Logic, Sobolev Institute of Mathematics SB RAS, Omsk Branch, 13, ul. Pevtsova, Omsk, 644099, Russia; e-mail: alexander.rybalov@gmail.com.

FOR QTATIONS

Rybalov A.N. On generic complexity of the subset sum problem in monoids and groups of integer matrix of order two. Vestnik Omskogo universiteta = Herald of Omsk University, 2020, vol. 25, no. 4, pp. 10-15. DOI: 10.24147/1812-3996.2020.25(4).10-15. (in Russ.).