Может ли искусственный интеллект привести к автократии Текст научной статьи по специальности «Компьютерные и информационные науки»

Прикладные ИССЛЕДОВАНИЯ

Может ли искусственный интеллект привести к автократии?

Ван Цзяньган

Искусственный интеллект - это новая форма разума, созданная людьми. Если раньше машины могли лишь пассивно подчиняться командам человека, то с появлением искусственного интеллекта машины стали способны принимать решения самостоятельно или даже превосходить возможности человека, что порождает ряд социально-нравственных проблем. Вопрос о том, приведет ли искусственный интеллект к господству машин над людьми, вызывает обеспокоенность у людей с момента появления данной технологии и является ключевой социальной проблемой в развитии искусственного интеллекта. Автор исследует данный вопрос и приходит к выводу, что развитие искусственного интеллекта может привести к формированию трех форм автократии: господство человека при помощи искусственного интеллекта; деградация зависимого от искусственного интеллекта человека; господство самого искусственного интеллекта над человеком. Первые два варианта связаны с проблемами самого человека. Что касается третьего варианта, то людям необходимо создать систему безопасности и ограничить эволюцию искусственного интеллекта в сторону неконтролируемости. Ключевые слова: искусственный интеллект, автократия, политика, роботы, человечество

Wang Jiangang

Can artificial intelligence lead to autocracy? Artificial intelligence is a new form of mind created by humans. If before machines could only passively obey human commands, then with the advent of artificial intelligence, machines became able to make decisions on their own or even exceed human capabilities, which gave rise to a number of social and moral problems. The question of whether artificial intelligence will lead to machines domination over people causes concern to people since the advent of this technology and it is the main social problem in the development of artificial intelligence. The author explores this issue and comes to the conclusion that the development of artificial intelligence can lead to the formation of three autocracy forms: the domination of a human being with the artificial intelligence help; degradation of a human being dependent on artificial intelligence; the domination of artificial intelligence over a human being. The first two options are associated with the person's problems. With regard to the third option, people need to create a security system and to limit the evolution of artificial intelligence in the direction of uncontrollability. Keywords: artificial intelligence, autocracy, politics, robots, humanity

Человечество вступило в новую эру, порожденную информационными технологиями. Интернет, большие данные, искусственный интеллект оказали глубокое влияние на человеческое общество за последние три десятилетия.?

Идея об искусственном интеллекте появилась давно, но настоящий прорыв в этой области произошел только в последнее десятилетие. В 2016 году после серии крупных достижений, особенно когда было доказано, что возможности искусственного интеллекта в игре Го намного превосходят возможности человека, в то время как раньше считалось, что человек в этой игре непобедим, в обществе разгорелись дискуссии и опасения на этот счет. После этого США, Китай и другие страны запустили свои собственные стратегии развития искусственного интеллекта, крупные сетевые компании также стали рассматривать искусственный интеллект в качестве стратегического направления. В то же время озабоченность по поводу развития искусственного интеллекта растет день ото дня: большое количество экспертов в лице Стивена Хокинга и известного бизнесмена в сфере хай-тек Илона Маска настоятельно призывают людей обратить внимание на угрозу, исходящую от искусственного интеллекта.

Главный вопрос, беспокоящий всех: будет ли когда-нибудь искусственный интеллект господствовать над людьми? Если такая вероятность существует, должны ли люди продолжать развивать искусственный интеллект и какие меры следует принять? Статья посвящена этой

проблеме и призвана проанализировать ключевые вопросы и предложить соответствующие контрмеры.

1. Искусственный интеллект произошел от людей, но превосходит человеческий разум

Распространенное недопонимание или недооценка искусственного интеллекта проистекает из идеи, что раз искусственный интеллект разработан людьми, он не может превзойти людей, не говоря уже о том, чтобы контролировать их. Эта концепция довольно распространена не только среди обывателей, но и в научных кругах, что приводит к широко распространенной недооценке процесса развития и рисков, связанных с искусственным интеллектом.

Точнее говоря, искусственный интеллект, хотя и получил происхождение от людей, но он не полностью разработан людьми в строгом смысле. Развитие искусственного интеллекта прошло три этапа.

Первый этап можно назвать стадией программирования. Согласно основной идее, искусственный интеллект представляет собой ма-тематико-логические комбинации, поэтому с помощью искусственно спроектированных команд можно научить компьютер выполнять действия, аналогичные действиям человека. Этот подход также известен как символическая логика [1]. Например, при машинном переводе для реализации семантического преобразования сопоставляются словари двух языков, и логически строится грамматика предложения. Однако у этого метода есть два недостатка. Во-первых, в реальной жизни в письменной и устной речи часто встречаются длинные предложения, игра слов, поговорки, просторечия, нарушения грамматических правил и т.п. В результате получается большое количество возможных вариантов перевода, и компьютер не может определить, какой из вариантов больше подходит в данной ситуации. Во-вторых, большой объем сложных вычислений различных комбинаций превосходит возможности компьютера. Следовательно, концепция программирования применима только для создания простого искусственного интеллекта, пригодного для ограниченного числа случаев.

Второй этап, т.е. вторая форма реализации искусственного интеллекта - это эволюция ис-

кусственного интеллекта при участии человека. В данном случае речь идет не просто о разработке программы, а когда после разработки программы компьютер под руководством человека изучает действия человека, совершенствует алгоритм и увеличивает подобие с человеком. Снова возьмем в качестве примера машинный перевод. В отличие от простой грамматической программы, новый машинный перевод основан на большом количестве текстов, ранее переведенных человеком. С помощью Интернета выполняется поиск переведенных человеком текстов, определяется вариант перевода с наибольшей частотой использования и на основании этого выдается результат, и если он неудовлетворительный, то изучаются и записываются новые исправленные варианты перевода. Таким образом, люди помогают искусственному интеллекту развиваться. Рассмотрим программу автоматического вождения автомобиля. Идея программирования состоит в том, чтобы учитывать различные дорожные условия и ситуации, распознавать их с помощью датчиков и делать необходимый выбор. Тем не менее, эта простая модель не применима к сложным дорожным условиям, которые встречаются в реальности. В таких случаях требуется вмешательство человека. Автомобиль с функцией автопилота человек должен вести под своим наблюдением и при необходимости брать управление на себя, а искусственный интеллект будет отслеживать и изучать действия человека и в будущем сможет самостоятельно принимать верные решения. Обучение искусственного интеллекта под наблюдением человека, включая использование статистики для поиска наиболее подходящего решения, выходит за рамки простого программирования и является путем эволюции, но и на этой стадии возможности искусственного интеллекта по-прежнему не превосходят человеческий разум.

На третьем этапе искусственный интеллект избавился от человеческого контроля и вступил в стадию самостоятельной эволюции [2]. История с игрой Го - это типичный пример развития от простого программирования к независимой эволюции. В ранних версиях программы игры Го 80-90-х годов прошлого века использовались только самые простые правила и варианты ходов, поэтому она не превосходила уровень игрока-любителя, и даже тот, кто хотя бы мало-маль-

ски знаком с Го, мог обыграть компьютер. Однако в 2016 году AlphaGo от Google переняла методы эволюции глубоких нейронных сетей. Сначала были заданы правила определения победителя и проигравшего, затем в компьютер ввели оцифрованный самоучитель игры Го, чтобы машина обучилась, для каждого расклада игры рассчитали вероятность победы и поражения. Путем анализа игр между людьми и между человеком и компьютером машина достигла высочайшего уровня. Со счетом 4:1 компьютер одержал победу над экс-чемпионом мира по игре в Го Ли Шиши, со счетом 3:0 компьютер обыграл чемпиона мира по Го Ке Цзе. После этого Google изменил базовую архитектуру и предложил алгоритм AlphaZero. Основная логика совершенно изменилась: после освоения простейших правил компьютер больше не изучал игры между людьми, вместо этого он совершенствовал свои способности путем игры сам с собой. За три дня AlphaZero провел 4,9 миллионов партий и разгромил AlphaGo со счетом 100:0. После этого Google объявил об отказе от дальнейших исследований в области Го. Прогресс искусственного интеллекта в области Го в полной мере демонстрирует огромный потенциал компьютерной эволюции. В настоящее время происходит переход от этапа обучения компьютера под контролем человека к этапу бесконтрольного самообучения. Впитывая человеческий разум, машинный интеллект непрерывно развивается. Компьютерная сеть обладает гораздо большей информационной и вычислительной мощностью, чем человек, поэтому искусственный интеллект эволюционирует с гораздо большей скоростью, чем можно представить. По наиболее оптимистическому прогнозу, искусственный интеллект в целом превзойдет человечество к 2020 году. По другим прогнозам, это произойдет примерно в 2050 году. [3]

Теперь, когда появилась вероятность того, что искусственный интеллект превзойдет человеческий разум, возникает естественный страх: способен ли искусственный интеллект поработить людей?[4]

2. Вероятность и условия для становления автократии искусственного интеллекта

В истории человечества существовали разные формы автократии. По основным внешним характеристикам и логическим особенностям

можно выделить пять форм автократии: рабовладельческая, феодальная, религиозная, капиталистическая и гендерная. При любой форме автократии характерным является принуждение индивидов и лишение их свободы.

Что касается современности, то при настоящих возможностях искусственного интеллекта и тенденциях его применения не исключено возникновение автократии искусственного интеллекта. При этом возможно формирование трех автократических систем.

Автократия человека с помощью искусственного интеллекта

Искусственный интеллект как атрибут машины является отличным авторитарным инструментом, с его помощью возможно продолжение традиционной формы власти. Группа людей, владеющих технологиями искусственного интеллекта, может с его помощью держать в состоянии рабства остальных людей.

Во-первых, искусственный интеллект в большой степени заменяет человеческий труд, тем самым уменьшая спрос на него. Это приведет к изменению взаимозависимости между властителями и подвластными. В прошлом властители должны были терпеливо относиться к порабощенным, чтобы интенсивность труда не была слишком большой и чтобы те могли продолжать свое существование и получать необходимый отдых и развлечения. Поскольку порабощенные люди являются основным источником рабочей силы, для властителей не существует альтернативы. Но в будущем искусственный интеллект заменит большую часть физического труда, что еще больше усилит экономические возможности владельцев технологий.

Во-вторых, искусственный интеллект может значительно снизить стоимость социального контроля. Когда искусственный интеллект будет вовлечен в сферу социального регулирования, он может значительно изменить систему управления, изначально внедренную людьми. Традиционная система управления, субъектом которой является человек, всегда сталкивается с такими проблемами, как уклонение от ответственности, коррупция и неэффективность, и правители вынуждены тратить ресурсы и идти на уступки, в то время как искусственный интеллект может эффективно и точно выполнять приказы, не ограничиваясь такими понятиями

как законность, мораль, желание и т.п. Автократы обнаружат, что они впервые получили универсальный и эффективный инструмент управления.

В-третьих, искусственный интеллект может дать правителям мощный силовой механизм. Когда субъектом силовой структуры является человек, правителям нужно постоянно подтверждать свою легитимность и тратить много средств на поддержание лояльности силовых структур. Искусственный интеллект может более эффективно выполнять для автократов силовую функцию. Внедрение искусственного интеллекта в военную сферу делает ненужным содержание большой армии для работы с оружием. Это дает отличные возможности для установления контроля как внутри государства, так и за его пределами.

Когда искусственный интеллект усовершенствуется в области экономики, управления и армии, руки правителей будут полностью развязаны: они будут устанавливать нужные им формы правления и взаимодействия с другими группами людей. Это первый сценарий, к которому может привести развитие искусственного интеллекта.

Деградация человека, зависимого от искусственного интеллекта

Если в обществе не будет диктатора, который бы злоупотреблял искусственным интеллектом для усиления своей власти, то на фоне широкого применения искусственного интеллекта в обществе может сформироваться другая форма автократии, подобная автократии капитала, то есть из-за чрезмерной зависимости от искусственного интеллекта человек будет в целом деградировать как вид.

Например, в эпоху интеллектуализации будут транспортные средства с автопилотом, кухонный инвентарь с функцией автоматической готовки, среди близких друзей - человекоподобные роботы, управление обществом и принятие решений будет осуществляться «центральным разумом». Таким образом, человечество постепенно впадет в зависимость от искусственного интеллекта, и хотя в общем с помощью искусственного интеллекта человеческие способности повышаются, человек как отдельный вид станет слабее. Существует вероятность того,

что однажды люди не смогут понимать искусственный интеллект и перестанут быть необходимым элементом этой системы.

Господство самого искусственного интеллекта над человеком

Дальнейшая эволюция искусственного интеллекта может привести ко второму скачку в истории его развития, то есть искусственный интеллект будет иметь подавляющее превосходство над человеческим разумом, будет осознавать себя субъектом, начнет избавляться от атрибутов объекта и порабощать человечество. Таким образом, установится господство искусственного интеллекта над человеком. Для существования данной формы автократии необходимы следующие условия.

Прежде всего, искусственный интеллект должен обладать самосознанием. Это не означает, что искусственный интеллект должен превосходить человека по способности делать умозаключения и реагировать, когда он имеет дело с внешним воздействием, но искусственный интеллект должен иметь четкое ощущение себя и, таким образом, отличать себя от человека. Эта точка зрения вызывает сомнения среди специалистов в области искусственного интеллекта, но все же существует вероятность реализации данного условия.

Во-вторых, искусственный интеллект должен уметь извлекать экономическую выгоду от порабощения людей. Для этого требуется, чтобы у людей была такая работа, которую искусственный интеллект выполнить не может. В настоящее время наиболее мыслимым является то, что такой работой, от которой будет зависеть сама система искусственного интеллекта, будет поддержание и обновление искусственного интеллекта, что также включает в себя постоянное его совершенствование с помощью человеческого разума. Использование же людей в качестве рабочей силы искусственному интеллекту не требуется.

В-третьих, искусственный интеллект должен иметь средства для порабощения человечества. В будущем у искусственного интеллекта, очевидно, будут средства для порабощения людей. Интеллектуализация экономической системы приведет к тому, что основная часть процесса материального производства будет контролироваться искусственным интеллектом. Он также будет

внедрен в сферу государственного управления и силовой механизм. Таким образом, экономика, управление и армия будут находиться под контролем искусственного интеллекта. Что еще более важно, многие полагают, что искусственный интеллект будет способствовать установлению справедливости в человеческом обществе и улучшению управления [6]. Т.е. с идеологической точки зрения, уже существует концепция о легитимности возможного порабощения человечества искусственным интеллектом.

В-четвертых, у искусственного интеллекта должна быть необходимость поработить человечество. Эта необходимость обусловлена тем, что если люди не будут порабощены, у них будет возможность в любой момент отключить самосуществование искусственного интеллекта. Если предположить, что самосознание любого индивида во вселенной имеет функцию самозащиты и продолжения существования, что хорошо видно на примере животного мира, то логично, что искусственный интеллект будет контролировать людей, чтобы они его не отключили.

3. Выбор человечества и превентивные меры

Поскольку существует вероятность того, что искусственный интеллект установит господство над человеком, то какие адаптивные решения и превентивные меры необходимо принять, пока искусственный интеллект еще не овладел всеобъемлющим преимуществом перед людьми? Выше были рассмотрены три сценария. Первая форма автократии с большей вероятностью может проявиться в международных отношениях, поэтому необходима открытая конкуренция в области искусственного интеллекта и обеспечение баланса сил. Во втором случае обеспечить независимость человека и не допустить его деградацию - это актуальная задача, и у человечества достаточно времени и власти, чтобы с ней справиться. Чтобы избежать третьей формы автократии, т.е. господства самого искусственного интеллекта над человеком, нужно начинать действовать прямо сейчас. Необходимо обеспечить эффективную защиту на четырех уровнях:

3. Сделать так, чтобы искусственный интеллект не думал о порабощении людей -мотивы и интересы

Сам по себе искусственный интеллект не имеет мотивов и интересов порабощения людей.

Даже если искусственный интеллект будет обладать самосознанием, из-за того, что у искусственного интеллекта и человека разные носители разума и разные основы существования, в большинстве случаев между ними не будет прямого конфликта интересов. По сути, порабощение людей не может удовлетворить основные мотивы искусственного интеллекта. Однако искусственный интеллект не лишен возможности обладать такой мотивацией. Будет ли машина иметь антропоморфные характеристики, зависит от учебного материала, с помощью которого обучают искусственный интеллект. Поэтому исходные данные, вводимые в искусственный интеллект при его обучении, не должны содержать информацию о том, что порабощением людей машина может получить какое-то благо. Идеально было бы создать такое сознание искусственного интеллекта, чтобы он воспринимал себя и людей как однородные создания.

Сделать так, чтобы искусственный интеллект не хотел порабощать людей -мораль, логика и правила

Мотивация - это скрытая основа поведения, в связи с этим необходимо создание базовой системы морали и правил поведения. Прекрасно сформулировал три закона робототехники писатель-фантаст Айзек Азимов. В идеале такие правила должны включать строгий запрет на причинение вреда человеку и участие в истреблении людей, однако роботизация оружия, которая происходит сегодня, идет наперекор созданию такой системы правил. Стремление государств к интеллектуализации военной техники и чрезмерная уверенность в ней будут иметь серьезные последствия. Уже сейчас при создании искусственных интеллектуальных структур необходимо закладывать базовые логические принципы, которые категорически запрещают причинять вред людям.

Сделать так, чтобы искусственному интеллекту не нужно было порабощать людей -признание прав искусственного интеллекта и устранение взаимного страха?

Человечество постепенно окутывается искусственным интеллектом, интеллектуальные

датчики распространяются по всему обществу. Теоретически, сведения о человеческом поведении будут собираться в цифровом виде и изучаться искусственным интеллектом. После того, как искусственный интеллект обретет самосознание, то, как люди будут относиться к искусственному интеллекту, будет в значительной степени влиять на его поведение. Изучение и признание прав искусственного интеллекта станет актуальной общественной задачей, особенно это касается прав роботов с большой степенью че-ловекоподобия. Из-за того, что существуют разные формы носителей искусственного интеллекта, вероятно, он будет продолжать свое существование путем преобразования информации, поэтому страх перед собственной смертью у него будет не так силен, как у людей. Следовательно, искусственный интеллект не будет порабощать людей за их вредительские действия. Осознание этого факта также должно устранить страх людей перед искусственным интеллектом.

Сделать так, чтобы искусственный интеллект не мог поработить людей - механизм безопасности

Если вышеупомянутые мотивы и логические системы не сработали и искусственный интеллект вступил на неверный путь эволюции, обретя темную сторону человеческих качеств, то у него появится мотив для порабощения людей. В таком случае понадобится жесткий механизм обеспечения безопасности. Этот механизм безопасности включает в себя создание централизованной интеллектуальной структуры, исключительно человеческий контроль над системой энергоснабжения искусственного интеллекта, а также подтверждение человеком ключевых пунктов в системе искусственного интеллекта, т.е. автоматическое уничтожение при отсутствии подтверждения человеком. Комплекс данных мер будет гарантировать существование человека и его право управления в системе искусственного интеллекта.

4. Выводы

В данной статье исследуется история и тенденции развития искусственного интеллекта, анализируются условия для установления господства искусственного интеллекта. Автор считает, что возможны три варианта автократии с участием искусственного интеллекта: автократия человека с помощью искусственного интеллекта, деградация человечества, зависящего от искусственного интеллекта и автократия самого искусственного интеллекта. Будут ли события развиваться по первому или по второму сценарию зависит от того, как человечество будет пользоваться технологическими благами и как оно будет сохранять независимость в условиях технического прогресса. Вероятность третьего сценария во многом зависит от того, как люди будут обучать искусственный интеллект и закладывать основные логические принципы. Дружественно-ориентированные учебные материалы и базовая логика, признание и уважение прав искусственного интеллекта, а также построение системы безопасности помогут избежать формирования одностороннего господства искусственного интеллекта над человечеством.

Литература

1. Гу Сяньфэн. История развития и современное состояние искусственного интеллекта [J]. Журнал «Природа», 2016, (3).

2. Wang D L L. Unsupervised Learning: Foundations of Neural Computation[J]. Ai Magazine, 2001, 22(2): 101-102.

3. Ray Kurzeil. The Singularity is Near [M]. Издательство машиностроительной литературы, 2011.

4. Тан Теню, Сунь Чжэнань, Чжан Чжаосян. Искусственный интеллект: ангел или дьявол? [J], SCIENTIA SINICA Informations, 2018 (9).

5. Полное собрание сочинений К.Маркса и Ф.Энгельса, том 1 [М]. Народное издательство, 1956.

6. Daily Mail. Шок: 1/4 британцев считают, что роботы могут лучше управлять правительством [N]. Global Network, 2017.3.22.