CC BY
47ГОСУДАРСТВЕННО-ПРАВОВЫЕ НАУКИ
УДК 340
ИНФОРМАЦИОННО-КОММУНИКАЦИОННЫЕ ТЕХНОЛОГИИ: ПРАВОВЫЕ И ЭТИЧЕСКИЕ АСПЕКТЫ
Верхозина О. А., Зарубаева Е. Ю.
Восточно-Сибирский филиал Российского государственного университета правосудия, г. Иркутск, Россия
Аннотация. Рассматриваются правовые и этические вопросы внедрения и применения информационно -коммуникационных технологий. Широкое использование искусственного интеллекта во всех сферах государственной и общественной жизни может иметь как положительные, так и отрицательные последствия. Отмечается, что, с одной стороны, цифровые технологии приводят к развитию общества, государства, права, а с другой стороны, могут привести к отрицательным проявлениям, таким как дестабилизация развития государства и деморализация общества. Создание и действие механизма правового регулирования на уровне государственных отношений позволит решить проблемы, связанные с определением правового статуса информационных систем, информационно-правовым статусом гражданина, правовым положением киберфизиче-ских систем, порядком урегулирования споров между субъектами информационных отношений и др. Современная ситуация, связанная с определенным этапом научно-технического развития, обнажает проблему социального взаимодействия естественного (человеческого) и искусственного интеллекта, его правовой регламентации. Основы правовой системы, учитывающие существование искусственного интеллекта, нужно начинать строить с определения парадигмы взаимодействия выстраивания правовых и нравственно-этических основ взаимодействия между искусственным и естественным интеллектами и только после этого создавать обновленную нормативно-правовую базу. Формулирование принципов правового и этического регулирования двух интеллектов является сегодня первоочередной задачей.
Ключевые слова: информационно-коммуникационные технологии, искусственный интеллект, правовое регулирование, этика, этические принципы.
INFORMATION AND COMMUNICATION TECHNOLOGIES: LEGAL AND ETHICAL ASPECTS
Verkhozina O. A., Zarubaeva E. Y.
East Siberian Branch of the Russian State University of Justice, Irkutsk, Russian Federation
Abstract. The article discusses the legal and ethical issues of the introduction and application of information and communication technologies. The widespread use of artificial intelligence in all spheres of state and public life can have both positive and negative consequences. It is noted that on the one hand, digital technologies lead to the development of society, the state, and law, and on the other hand, they can lead to negative manifestations, such as de-stabilization of the development of the state and demoralization of society. The creation and operation of a mechanism of legal regulation at the level of state relations will allow solving problems related to determining the legal status of information systems, the information and legal status of a citizen, the legal status of cyber-physical systems, the procedure for settling disputes between subjects of information relations, etc. The current situation associated with a certain stage of scientific and technological development exposes the problem of social interaction.
Keywords: information and communication technologies, artificial intelligence, legal regulation, ethics, ethical principles.
Государство и общество в современное время связаны с развитием цифровых технологий. Информационно-коммуникационные технологии присутствуют практически в каждой сфере современного общества. Формируются новая цифровая (кибернетическая) цивилизация, цифровое общество, появляются новые цифровые
глагол Ъ правосудия
институты — электронное правительство, электронное правосудие, электронное образование и т. п. Все нововведения требуют качественной правовой и этической основы.
Широкое использование информационно-коммуникационных технологий во всех сферах государственной и общественной жиз-
ни может иметь как положительные, так и отрицательные последствия. С одной стороны, цифровые технологии приводят к развитию общества, государства, права, а с другой — могут привести к отрицательным проявлениям, таким как дестабилизация развития государства и деморализация общества. Информация и передающие ее компьютерные системы стали не только мощным производственным фактором, но и методом и средством социального регулирования [3].
Происходит постепенное изменение сущности информационно-коммуникационных технологий — от полезного дополнения до ключевых элементов, без которых будут невозможны современная индустрия общества, развитие всех его секторов, всех видов деятельности человека [9].
Формирование цифрового общества может приводить к возникновению диссонанса, неопределенности в правовом регулировании, когда речь идет, прежде всего, об информационно-коммуникационной сфере. Информационные риски могут повлечь за собой необратимые последствия, связанные с нарушениями информационной безопасности государства и личности.
Правовая регламентация правовых и этических принципов взаимодействия человека, общества и государства в лице государственных органов является гарантией конституционных норм, прав человека и гражданина как высшей ценности России. Решая задачи государственного и муниципального управления на основе больших данных, с помощью искусственного интеллекта общество и государство открывают новую сферу общественных отношений, которая должна подчиняться этическим нормам, связанным со взаимодействием с искусственным интеллектом.
Создание и действие механизма правового регулирования на уровне государственных отношений позволят решить проблемы, связанные с определением правового статуса информационных систем, информационно-правовым статусом гражданина, правовым положением киберфизических систем, порядком урегулирования споров между субъектами информационных отношений и др. Право, регулируя возникшие информационно-коммуникационные отношения, в новом социальном предназначении выступает универсальным ре-
гулятором, способным адаптироваться к изменениям [6].
Современная ситуация, связанная с определенным этапом научно-технического развития, обнажает проблему социального взаимодействия естественного (человеческого) и искусственного интеллекта, его правовой регламентации. Негативные проявления, связанные с активным внедрением информационно-коммуникационных технологий, предопределяют необходимость «подстройки» правового поля под существующую реальность, его развития для обеспечения соответствия между развитием нового экономического уклада цифрового общества и социальными отношениями в целом и правовыми в частности1.
Принцип правового регулирования цифрового общества должен строиться вокруг незыблемости прав и свобод человека, их высшей ценности по отношению к другим (всем), менее значимым категориям. Этот подход был связан с исключительностью человеческого сознания (естественного интеллекта), его превосходством над всеми явлениями, объективно существующими в реальном мире.
Сегодня существует мнение ученых и практиков, что искусственный интеллект может превзойти человеческий потенциал, в связи с чем возникают вопросы, связанные с контролем искусственного интеллекта. Однако невозможно спрогнозировать все возможные последствия включения искусственного интеллекта в правовое поле общественной жизни, уровень, какого достигнет развитие искусственного интеллекта в будущем; на текущий момент его совершенствование ограничено техническими возможностями по обеспечению софтом, в случае же решения этой проблемы его развитие, по мнению ученых, не будет ограничено уже ничем.
Российская законодательная система долгие годы работала вслед за событием. Появлялось новшество — переделывалось законодательство. В связи с развитием искусственного интеллекта, по мнению В. Ф. Ужова, необхо-
1 О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» : федер. закон от 24 апр. 2020 г. № 123-ФЗ. URL: http:// http://www.consultant.ru (дата обращения: 01.09.2022).
глаголъ
правосудия
димо создавать нормы до появления того, что они будут регулировать, чтобы в случае необходимости доработать и модифицировать уже готовую базу, а не в срочном порядке создавать ее с нуля, что неизбежно скажется на качестве и универсальности этой системы [10].
Основы правовой системы, учитывающие существование искусственного интеллекта, нужно начинать строить с определения парадигмы взаимодействия выстраивания правовых и нравственно-этических основ взаимодействия между искусственным и естественным интеллектами и только после этого создавать обновленную нормативно-правовую базу. Формулирование принципов правового и этического регулирования двух интеллектов является сегодня первоочередной задачей [10]. Можно выделить следующие принципы:
1) недопустимости причинения вреда человеку. Принцип был сформулирован еще А. Азимовым [1]. Законы как аналог нравственных ценностей должны быть заложены в программу искусственного интеллекта;
2) уважения человеческого достоинства и конфиденциальности. От применения искусственного интеллекта может пострадать достоинство человека в связи с использованием «подделок» для дискредитации граждан;
3) презумпции невиновности человека при решении искусственным интеллектом, киберфи-зической системой, нейронной системой вопросов, связанных с правомерным поведением человека;
4) раскрытия информации о разработке, производстве и использовании роботов и искусственного интеллекта. Особенно важным является этот принцип для защиты прав и свобод физических лиц в случае принятия решения искусственным интеллектом на основе нейронных сетей, киберфизических систем или использования ими персональных данных;
5) автономности воли. Он должен иметь отношение не только к гражданам, имеющим гарантированное право принимать решение об условиях взаимодействия с искусственным интеллектом, но и к разработчикам искусственного интеллекта и его владельцам [7];
6) информированного согласия, или презумпции несогласия. Тесно связан с предыдущим принципом, охватывает все возможные преимущества и последствия взаимодействия с искусственным интеллектом, начиная от медицины, образования и заканчивая сферой развлече-
ний, применением геймификации при обучении и др.;
7) справедливости. Он связан с понятиями «благо человека», «благо социума». Этот принцип предусматривает справедливое распределение преимуществ, связанных с использованием искусственного интеллекта, робототехники и доступностью роботов. Правовое регулирование должно оцениваться с точки зрения того, способствуют ли они демократическому развитию и справедливому распределению благ или концентрируют власть и выгоды в определенных кругах [6].
Совокупность этических принципов следует продвигать как системное и взаимосвязанное явление, в котором один принцип этики уравновешивает другой. Перечень этических принципов должен быть включен в алгоритмы, инструкции; правила — в базу системы искусственного интеллекта или робота, которыми бы эта система могла руководствоваться при принятии решений. Г. Г. Камалова выделяет проблему обучаемости и обучения искусственного интеллекта нормам морали и этики и включения их в процессы функционирования при условии, что морально-этические и нравственные ценности связаны как с областью разума, так и с эмоциональной сферой человека [5].
Задача по созданию свода этических правил взаимодействия человека и искусственного интеллекта была поставлена Президентом РФ В. В. Путиным на конференции по искусственному интеллекту А1 Joume (ноябрь 2019 г.)1.
Этика искусственного интеллекта связана с проблемой его этичного поведения, безопасного применения, когда решения касаются людей. То есть насколько эти решения соответствуют этическим нормам, принятым в обществе, и насколько они безвредны для человека.
Профессиональная этика разработчиков систем искусственного интеллекта включает в себя: защиту прав человека, уважение культурного разнообразия, предотвращение угрозы безопасности человека, уважение частной жизни, справедливость, социальную ответственность и пр.
Что же касается этики взаимодействия человека и искусственного интеллекта, этики со-
1 Путин В. В. РФ способна стать одним из глобальных лидеров в сфере искусственного интеллекта. URL: https://tass.ru/ekonomika/ 7096728 (дата обращения: 01.06.2022).
Глагол Ъ
правосудия
здателей программного обеспечения, то, по мнению И. Шестакова [11], они связаны с анализом и предотвращением этических коллизий, возникающих в процессе применения, таких как нарушение приватности, дискриминация, социальное расслоение, проблемы трудоустройства и т. д. Следовательно, вопрос состоит в том, каким образом правильно, с точки зрения нравственных ценностей, создать программное обеспечение.
Необходимо особо подчеркнуть, что, когда речь идет об этических принципах взаимодействия человека и искусственного интеллекта, следует иметь в виду общие системы жизненных программ, основанные на определенных источниках и системах координат, преимущественно в дихотомии добро — зло, а если о моральных — то систему конкретных принципов отдельного человека или общества на конкретном временном этапе его развития [4].
26 октября 2021 г. состоялся первый международный форум «Этика искусственного интеллекта», на котором частью организаций был подписан Национальный кодекс этики в сфере искусственного интеллекта, подготовленный совместно Аналитическим центром при Правительстве РФ, Министерством экономики и развития РФ и Альянсом в сфере искусственного интеллекта (в него входят «Яндекс», МТС, Mail.ru Group, Сбербанк, Газпром и Российский фонд прямых инвестиций), при участии представителей государства и научного сообщества. В этом кодексе авторы представили следующий список принципов этики искусственного интеллекта: защита интересов людей как основной приоритет; осознание ответственности при создании и эксплуатации; ответственность за последствия лежит на человеке; принесение пользы людям; интересы совершенствования технологий выше интересов конкуренции; прозрачность и правдивость; принципы этики развиваются по мере развития технологий.
Определяя предмет правового регулирования, можно рассматривать его со стороны [8]:
— этики принятия решения и действий самого искусственного интеллекта;
— этики программистов, создающих алгоритмы, по которым действуют и самообучаются эти системы;
— этики взаимодействия человека и ки-берфизических и когнитивных систем.
Работа институтов ответственности должна зависеть от степени общественной опасности искусственного интеллекта, его способности к обучению. Не всегда будет возможным восстановить фактические обстоятельства причинения вреда. Одна и та же ситуация может получить разное решение с точки зрения конкретной юрисдикции. Также национальные особенности конкретной правовой системы часто не позволяют учитывать существующий опыт других стран1.
Можно рассматривать варианты установления административной и уголовной ответственности. Административная ответственность может быть установлена за создание и использование систем искусственного интеллекта, не отвечающих необходимым требованиям качества и безопасности, не прошедших сертификацию и не поставленных на учет в соответствующем реестре [4]. В области уголовного права требуется тщательная проработка вопросов, связанных с объективной и субъективной сторонами преступления, эмоциональной сферой (учет эмоций при принятии решений), особенно в части факультативных признаков преступления. Для случаев создания и использования искусственного интеллекта с целью причинения смерти или иного общественно опасного вреда, а также неправомерного вмешательства в деятельность систем искусственного интеллекта, повлекшего причинение общественно опасного вреда, предлагается в УК РФ закрепить составы преступлений, предусматривающие уголовную ответственность.
Список литературы
1. Азимов А. Я, робот. М. : ЭКСМО, 2019. 320 с.
2. Апостолова Н. Н. Искусственный интеллект в судопроизводстве // Северо-Кавказский юридический вестник. 2019. № 3. С. 135-141. https://doi.org/10.22394/2074-7306-2019-1-3-135-141
3. Бабина Е. А. Информация как системообразующий фактор в современном глобальном обществе // Юридическая мысль. 2014. № 3. С. 5-6.
4. Зубец О. Н. Моральная философия и этика: взгляд через различения начала и причины // Гуманитарные ведомости ТПГУ им. Л. Н. Толстого. 2019. № 2 (30). С. 148-158. https://doi.org/10.22405/2304-4772-2019-1-2-148-158
1 Этика и «цифра»: этические проблемы цифровых технологий. Аналитический доклад. URL: // http://ethics. cdto.center/ (дата обращения: 01.06.2022).
Глагол Ъ правосудия
5. Камалова Г. Г. Правовые и этические принципы регулирования искусственного интеллекта и робототехники // Право и государство: теория и практика. 2021. № 10. С. 181-184.
6. Теоретико-правовая парадигма существования кибернетической (информационной) цивилизации : монография / под ред. С. А. Комарова. М. : Изд-во МАТГиП, 2022. 320 с.
7. Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79-102.
8. Попова А. В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. 2020. № 3. С. 34-43.
9. Степаненко Д. А., Коломинов В. В. Цифровая реальность и криминалистика // Глагол Правосудия. 2018. № 3 (17). С. 38-43.
10. Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. С. 357-360.
11. Шестаков И. Моральный код: почему общество не может научить компьютер морали. URL: https://iz.ru/ (дата обращения: 01.06.2022).
Верхозина Ольга Александровна - кандидат психологических наук, доцент кафедры общетеоретических и уголовно-правовых дисциплин, Восточно-Сибирский филиал Российского государственного университета правосудия (Россия, г. Иркутск), e-mail: familyolga@mail.ru
Verkhozina Olga Aleksandrovna - Candidate of Psychological Sciences, Associate Professor of the Department of General Theoretical and Criminal Law Disciplines, East Siberian Branch of the Russian State University of Justice (Irkutsk, Russian Federation), e-mail: familyolga@mail.ru
Зарубаева Евгения Юрьевна - кандидат юридических наук, и. о. заведующего кафедры общетеоретических и уголовно-правовых дисциплин, Восточно-Сибирский филиал Российского государственного университета правосудия (Россия, г. Иркутск), e-mail: zarubaeva19@gmail.com
Zarubaeva Evgeniya Yurievna - Candidate of Juridical Sciences, Acting Head of the Department of General Theoretical and Criminal Law Disciplines, East Siberian Branch Russian State University of Justice (Irkutsk, Russian Federation), e-mail: zarubaeva19@gmail.com
глагол Ъ правосудия
