CC BY
144
МАРИНА СЕРГЕЕВНА ЛИЗИКОВА
Институт государства и права Российской академии наук 119019, Российская Федерация, Москва, ул. Знаменка, д. 10 E-mail: lizikova_m@mail.ru SPIN-код: 7033-5240
DOI: 10.35427/2073-4522-2022-17-1-lizikova
ЭТИЧЕСКИЕ И ПРАВОВЫЕ ВОПРОСЫ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Аннотация. В статье на основе истории развития этического регулирования искусственного интеллекта освещены проблемы, возникшие при ее формировании. Рассмотрены положения «Рекомендации по этике искусственного интеллекта» ЮНЕСКО — соглашения, определяющего общие ценности и принципы, необходимые для обеспечения развития искусственного интеллекта. Сделан вывод, что данным документом предусмотрены ключевые элементы системы этического регулирования искусственного интеллекта, и в случае их надлежащего практического воплощения он может стать универсальной этической основой искусственного интеллекта.
Также автором выявлены современные подходы к правовому регулированию искусственного интеллекта и тенденции его развития. Отмечен переход от этического регулирования к нормативно-правовому, при котором основным инструментом становится стандартизация и сертификация, что позволяет создать надежную и гибкую правовую основу, способную своевременно изменяться по мере развития технологий.
Ключевые слова: искусственный интеллект, этические принципы, этическое регулирование, этика, правовое регулирование, этический кодекс, робототехника
MARINA S. LIZIKOVA
Institute of state and law of the Russian Academy of Sciences 10, Znamenka str., Moscow, 119019, Russian Federation E-mail: lizikova_m@mail.ru SPIN-Kog: 7033-5240
ETHICAL AND LEGAL ISSUES OF ARTIFICIAL INTELLIGENCE DEVELOPMENT
Annotation. Based on the history of the development of ethical regulation of artificial intelligence, the article highlights the problems that arose during its formation. The provisions of the "Recommendations on the Ethics of Artificial Intelligence" of UNESCO, an agreement that defines the general values and principles necessary to ensure the development of artificial intelligence, are considered. It is concluded that this document provides for the key elements of the system of ethical regulation of artificial intelligence, and in case of their proper practical implementation, it can become a universal ethical basis for artificial intelligence.
The author also identified modern approaches to the legal regulation of artificial intelligence and trends in its development. The transition from ethical to regulatory regulation is noted, in which standardization and certification become the main tool, which makes it possible to create a reliable and flexible legal framework that can change in a timely manner as technologies develop.
Keywords: artificial intelligence, ethical principles, ethical regulation, ethics, legal regulation, code of ethics, robotics
Стремительное развитие технологии искусственного интеллекта оказывает глубокое воздействие на все сферы человеческой жизни и деятельности: образование, науку, культуру, судебную систему и юридическую практику, медицину, промышленность и транспорт, предпринимательскую деятельность, коммуникацию и информацию и т.д. Свойства данной технологии — ее автономность, «разумность», способность оказывать влияние на человека — вызывают озабоченность по поводу этических и правовых вопросов ее развития и порождают научные дискуссии1.
Какие принципы и ценности должны определять создание и использование искусственного интеллекта? Возможно ли определить набор правил для использования данных, необходимых для его работы? Где границы допустимости вмешательства искусственного интеллекта в нашу жизнь? Является ли искусственный интеллект технологией или субъектом права? Кто несет ответственность за его ненадлежащие действия? Это далеко не полный перечень вопросов, который требует научного осмысления.
Совсем недавно технологии искусственного интеллекта развивались в условиях практически полного отсутствия этического, нормативного правового и технического регулирования. Первой ласточкой
1 См., например: Siau K., Wang W Artificial Intelligence (AI) Ethics: Ethics of AI and Ethical AI // Journal of Database Management 31(2):74-87; Sun W Artificial Intelligence and Ethical Principles // Reconstructing Our Orders: Artificial Intelligence and Human Society / Ed. by D. Jin. Singapore: Springer, 2018. P. 29-59. DOI: 10.1007/978-981-13-2209-9_2
стало принятие в январе 2017 г. Азиломарских принципов искусственного интеллекта, что заложило начало ответственного подхода человечества к разработке искусственного интеллекта и робототехники. Буквально за три последующих года практически во всех государствах были разработаны этические принципы искусственного интеллекта: Рекомендации по беспилотным автомобилям в Германии, Декларация об ответственном развитии искусственного интеллекта в Канаде, Этические руководящие принципы для Японского общества искусственного интеллекта, Руководство по этике для надежного искусственного интеллекта в Европе, Модельная конвенция робототехники и искусственного интеллекта в России; Этические принципы для работы искусственного интеллекта в Ватикане, Этические принципы для искусственного интеллекта в США и др., а также государственные стратегии развития искусственного интеллекта.
Таким образом, к 2000 г. значительно увеличилось количество выработанных международными организациями, государствами, исследовательскими институтами и частными компаниями этических принципов искусственного интеллекта, стандартов и рекомендаций, что послужило основой для их научного осмысления.
Анализ «глобального ландшафта» этических принципов искусственного интеллекта, проведенный группой зарубежных исследова-телей2, охвативший 84 документа, принятых к этому времени, показал сближение заинтересованных сторон в продвижении отдельных принципов. В частности: принципов прозрачности, справедливости, непричинения вреда, ответственности и конфиденциальности.
Этот тезис нашел подтверждение и в других исследованиях. Например, К. Бурле и Д. Кортис, проанализировав инициативы Европейской комиссии, Министерства обороны США, Организации экономического сотрудничества и развития, Пекинской академии искусственного интеллекта, Google и Microsoft в рассматриваемой области, выделили в качестве общих принципы справедливости, надежности и безопасности и подотчетности, дополнив этот перечень принципами социального воздействия и прозрачности3.
2 См.: Jobin А., Ienca M., Vayena Е. Artificial Intelligence: The Global Landscape of Ethics Guidelines (June, 2019). URL: https://www.researchgate.net/publication/ 334082218_Artiflcial_Intelligence_the_global_landscape_of_ethics_guidelines (дата обращения: 12.11.2021).
3 См.: Burle C., CortizD. Mapping Principles of Artificial Intelligence [Livro Eletronico]. Sao Paulo: Núcleo de Informagao eCoordenagao do Ponto BR, 2020.
В свою очередь, М. Луенго-Орос, указывая на сближение позиций в отношении ряда принципов, указал на практически полную непредставленность принципа солидарности в числе проанализированных им этических руководств по искусственному интеллекту4.
Результатом всесторонней оценки выпущенных к 2020 г. этических принципов искусственного интеллекта, проведенной Т. Хаген-дорфом, явилось выявление широкого круга этических аспектов, связанных с искусственным интеллектом, которые редко упоминаются или не упоминаются в руководящих принципах вовсе, а также обнаружение совпадений в части принципов подотчетности, защиты конфиденциальности, антидискриминации, безопасности или объяс-нимости5.
Подобные исследования проводились и отечественными учеными. Так, А.В. Попова выявила «ключевые» этические принципы, в числе которых: безопасность, надежность, прозрачность, инклюзивность, защита прав человека, беспристрастность, справедливость, контролируемость, конфиденциальность, ответственность и др.6 А А.В. Мин-балеев, в свою очередь, отметил, что в настоящее время «формируется практически единая система принципов этического регулирования искусственного интеллекта»7.
Однако нельзя не отметить, что кроме сближения позиций вокруг отдельных принципов, складывающейся системы этического регулирования искусственного интеллекта, предстоит преодолеть ряд про-блем8. В их числе:
- неравномерность географического распределения этических рекомендаций, а, соответственно, риск игнорирования культурного плюрализма и глобальной справедливости, отсутствие этического принципа, который был бы общим для всех рассмотренных документов;
4 См.: Luengo-Oroz M. Solidarity Should be a Core Ethical Principle of AI // Nature Machine Intelligence. 2019. Vol. 1. DOI: Https://Doi.Org/10.1038/S42256-019-0115-3
5 См.: HagendorffT. The Ethics of AI Ethics: An Evaluation of Guidelines // Minds
& Machines. 2020. No. 30. Р. 99-120.
6 См.: Попова А.В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. 2020. № 3 (61). С. 34-43.
7 Минбалеев А.В. Формирование этического регулирования искусственного интеллекта в мире // Третьи Бачиловские чтения. Цифровая трансформация: вызовы праву и векторы научных исследований. M., 2020. С. 176-184.
8 См.: Jobin А., Ienca M., Vayena Е. Op. cit.; HagendorffT. Op. cit.
- пробелы в формулировках принципов, порождающие расхождения в их интерпретации и, соответственно, конфликты между ними; неохарактеризованность некоторых принципов;
- отсутствие установления соответствия между принципами и практическими требованиями;
- неопределенность в отношении применения этических принципов и рекомендаций;
- отсутствие механизма подкрепления;
- несоответствие целей, для которых разрабатываются и применяются системы искусственного интеллекта, общественным ценностям или основным правам, таким как благодеяние, непричинение вреда, справедливость и объяснимость и др.
Вышесказанное, на наш взгляд, указывает на то, что уже разработанные и разрабатываемые отдельными заинтересованными сторонами этические принципы искусственного интеллекта все же не могут обеспечить общую этическую основу. Тем более что говорить о межнациональной гармонизации этических принципов в условиях неравномерной представленности отдельных географических регионов до недавнего времени также не представлялось возможным. В первую очередь это касается Африки, Южной и Центральной Америки, Центральной Азии9. К числу государств с малым относительно иных экономически развитых стран количеством документов в области этики искусственного интеллекта относилась и Россия, где до 2019 г. не было разработанной стратегии искусственного интеллекта.
А ведь вопрос этического регулирования искусственного интеллекта актуален для последней, так как она нацелена на достижение лидирующих позиций в мире в данной области. Он нашел отражение в Национальной стратегии развития искусственного интеллекта на период до 2030 года10, в которой, наряду с адаптацией нормативного регулирования в части, касающейся взаимодействия человека с искусственным интеллектом, отмечена и необходимость выработки соответствующих этических норм.
«Подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом»11 в ноябре 2019 г.
9 См.: Jobin А., Ienca M, Vayena Е. Op. cit.
10 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 14.10.2019. № 41. Ст. 5700.
11 Путин предложил разработать этические нормы взаимодействия человека с искусственным интеллектом. URL: https://tass.ru/ekonomika/7096728 (дата обращения: 12.11.2021).
на международной онлайн-конференции Artificial Intelligence Journey впервые предложил профессиональному сообществу Президент РФ В. Путин, а в декабре 2020 г. прозвучал его призыв к выработке «морально-нравственного кодекса работы» искусственного интеллекта12.
Одной из первых откликнувшихся компаний стал ПАО «Сбербанк России», утвердивший в марте 2021 г. внутренние принципы этики при разработке проектов в области искусственного интеллекта в ответ на возможные вызовы данных технологий13. Разработанная им этика искусственного интеллекта включает в себя такие принципы, как контролируемость и управляемость систем искусственного интеллекта, прозрачность и предсказуемость функционирования технологий искусственного интеллекта, стабильность и надежность систем искусственного интеллекта, ответственное применение искусственного интеллекта, непредвзятый искусственный интеллект14.
Уже 26 октября 2021 г. в России в рамках I Международного форума «Этика искусственного интеллекта: начало доверия» ведущими компаниями («Яндекс», «Мэйл.Ру», МТС, «Сбербанк», «Газпром нефть», «Росатом» и др.), фондами и вузами (ИСП РАН, МГИМО, НИУ ВШЭ, МФТИ и др.) был подписан Национальный кодекс этики в сфере искусственного интеллекта, который станет частью федерального проекта «Искусственный интеллект» и Стратегии развития информационного общества на 2017-2030 гг.15 Данный документ, закрепив прозрачность, правдивость, надежность, инклюзивность, беспристрастность, безопасность работы с данными и информационную безопасность, конфиденциальность, недискриминацию, ответственность за последствия применения искусственного интеллекта, провозгласил человеко-ориентированный и гуманистический подход в качестве основного этического принципа.
12 Эволюция права: контроль за искусственным интеллектом потребует перевода всех этических и юридических норм человечества на понятный машинам язык. URL: https://rg.ru/2020/10/08/evoliuciia-prava.html (дата обращения: 12.11.2021)
13 «Сбер» одним из первых в России утвердил принципы этики искусственного интеллекта. URL: https://tass.ru/ekonomika/10802757 (дата обращения: 12.11.2021).
14 Принципы этики искусственного интеллекта Сбера. URL: https://www. sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics (дата обращения: 15.12.2021).
15 См.: ЧернышенкоД.: Кодекс этики ИИ повысит доверие общества к новым технологиям. URL: http://government.ru/news/43647/ (дата обращения: 12.11.2021).
Возвращаясь к тезису о единой системе принципов этического регулирования искусственного интеллекта, следует отметить, что, вопрос об их гармонизации по-прежнему сохраняет свою актуальность. При этом необходимо учитывать, что целью здесь является не только определение перечня общих принципов и выработка единого подхода к их пониманию, но создание на их основе целостной системы этического регулирования, предусматривающей разработку и внедрение механизмов их реализации и контроля.
В качестве подтверждения сказанному нужно отметить инициативу Генерального секретаря ООН о разработке Глобального цифрового договора16, а в качестве важного шага к созданию универсальной этической основы регулирования искусственного интеллекта — принятие 25 июня 2021 г. государствами — членами ЮНЕСКО «Рекомендации по этике искусственного интеллекта»17 — соглашения, определяющего общие ценности и принципы, необходимые для обеспечения развития искусственного интеллекта.
Данное соглашение направлено на создание основы работы системы искусственного интеллекта на благо человечества, отдельных лиц, обществ, окружающей среды и экосистем, на предотвращение вреда, на стимулирование мирного использования систем искусственного интеллекта, а также на создание общепризнанного нормативного инструмента с упором на включение вопросов гендерного равенства и защиты окружающей среды и экосистем и, как следует из текста, является дополнением к существующим этическим основам в отношении искусственного интеллекта во всем мире.
Цель соглашения состоит в обеспечении универсальных рамок ценностей, принципов и действий, которыми государства могли бы руководствоваться при формулировании своего законодательства, политики или других инструментов, касающихся искусственного интеллекта. В то же время в силу сложности этических вопросов, связанных с искусственным интеллектом, в соглашении подчеркивается необходимость глобального и межкультурного диалога, а также совместная ответственность заинтересованных сторон.
16 См.: Чернышенко Д. О гармонизации международного законодательства и сотрудничестве в ИТ-сфере на 16-м Форуме ООН по управлению Интернетом. URL: https://global.foreignaffairs.co.nz/2021/12/08/mil-osi-news-in-russian-дмитрий-чернышенко-о-гармонизац/ (дата обращения: 12.11.2021).
17 Draft Text of the Recommendation on the Ethics of Artificial Intelligence. SHS/ IGM-AIETHICS/2021/JUN/3Rev.2. URL: https://unesdoc.unesco.org/ark/48223/ pf0000377897 (дата обращения: 10.01.2022).
«Решения о жизни и смерти не должны делегироваться машинам» — важнейший постулат, на котором выстраивается система отраженных в соглашении ценностей и принципов. Более того, по мнению отдельных исследователей, это зарождающийся принцип международного права18.
В числе ценностей, необходимых для обеспечения здорового развития искусственного интеллекта, в рассматриваемом документе прописаны: уважение, защита и поощрение прав человека и основных свобод и человеческого достоинства; процветание окружающей среды и экосистем; обеспечение разнообразия и инклюзивности; жизнь в мирных, справедливых и взаимосвязанных обществах. В качестве принципов определены: соразмерность и непричинение вреда; безопасность и охрана; справедливость и недискриминация; устойчивость; право на неприкосновенность частной жизни и защиту данных; человеческий контроль и решимость; прозрачность и объяснимость; ответственность и подотчетность; осведомленность и грамотность; многостороннее и адаптивное управление и сотрудничество.
При этом соглашение фокусируется не только на формулировании ценностей и принципов, но делает особый упор на их практической реализации и предлагает конкретные рекомендации государствам-членам в таких сферах, как этическая оценка воздействия, этическое управление, политика данных, развитие и международное сотрудничество, окружающая среда и экосистемы, гендер, культура, образование и исследования, коммуникация и информация, экономика и труд, здоровье и социальное благополучие.
Отразить все рекомендации, содержащиеся в соглашении, в рамках статьи не представляется возможным, потому приведем лишь некоторые:
- принятие эффективных мер в сфере искусственного интеллекта, таких как выработка политических рамок или механизмов, и обеспечение их соблюдения другими заинтересованными сторонами;
- внедрение рамок для оценки этического воздействия, выявления и оценки преимуществ, проблем и рисков систем искусственного интеллекта, а также надлежащих мер по предотвращению, снижению и мониторингу рисков;
18 Garcia E. UNESCO's Recommendation on the Ethics of AI: why it matters and what to expect from it. URL: https://www.researchgate.net/publication/357074719_ UNESCO%27s_Recommendation_on_the_Ethics_of_AI_why_it_matters_and_what_ to_expect_from_it? (дата обращения: 10.01.2022).
- разработка механизмов должной осмотрительности и надзора для выявления, предотвращения, смягчения и учета влияния систем искусственного интеллекта на соблюдение прав человека, верховенство закона и инклюзивные общества;
- обеспечение введения в действие строгих правоприменительных механизмов и мер по расследованию и по исправлению положения для устранения вреда, причиненного системами искусственного интеллекта;
- разработка национальных и региональных стратегий искусственного интеллекта и форм мягкого управления (механизм сертификации систем искусственного интеллекта, взаимное признание их сертификации и др.);
- проведение прозрачной самооценки существующих и предлагаемых систем искусственного интеллекта на предмет оценки целесообразности внедрения искусственного интеллекта и определения, подходящего для этого метода;
- создание механизмов для обеспечения активного участия всех государств-членов в международных дискуссиях, касающихся управления искусственным интеллектом;
- принятие или введение в действие законодательных рамок, обеспечивающих надлежащую защиту в соответствии с международным правом для защиты права на неприкосновенность частной жизни, а также для обеспечения полной безопасности личных данных и конфиденциальных данных, раскрытие которых может нанести исключительный ущерб;
- пересмотр политики и нормативно-правовой базы, чтобы отразить конкретные требования искусственного интеллекта и механизмы продвижения;
- обеспечение посредством международных организаций платформ для международного сотрудничества в области искусственного интеллекта, а также содействие международному сотрудничеству в области исследований и инноваций в области искусственного интеллекта;
- создание механизмов для предотвращения злоупотребления доминирующим положением на рынке и соблюдения этических стандартов в отношении искусственного интеллекта при экспорте этих продуктов, разработке или применении своих систем искусственного интеллекта в странах, где такие стандарты могут отсутствовать и др.
Последняя из приведенных рекомендаций примечательна тем, что направлена на защиту развивающихся стран от превращения в испытательные площадки, и в переговорах по ее обсуждению они прини-
мали активное участие. Также она соответствует программе ЮНЕСКО «Использование НТИ и знаний для устойчивого социально-экономического развития Африки»19, направленной на усиление поддержки обмена знаниями, установления стандартов, политического диалога, наращивания потенциала и развития сетей, связанных с искусственным интеллектом в Африке в целях преодоления неравномерного распределения по регионам мира потенциальных преимуществ и рисков технологии искусственного интеллекта.
В целях осуществления оценки воздействия систем искусственного интеллекта, а также оценки политики, программ и механизмов, связанных с этикой искусственного интеллекта, соглашением предусматривается систематическое проведение мониторинга. В качестве его возможных механизмов в соглашении предлагаются такие, как комиссия по этике, обсерватория по этике искусственного интеллекта, репози-торий, охватывающий разработку систем искусственного интеллекта в соответствии с правами человека и этикой, механизм обмена опытом, регулятивные песочницы в области искусственного интеллекта и руководство по оценке для всех субъектов искусственного интеллекта, позволяющее оценить их соблюдение политических рекомендаций.
Как было отмечено выше, реализация данных рекомендаций и ответственность за нее возложены на государства-члены. В свою очередь, ЮНЕСКО предлагается поддержать государства-члены в решении этих задач путем разработки: методологии оценки этического воздействия, основанной на тщательном научном исследовании и на международном праве в области прав человека; методологии для оценки эффективности и действенности политики этики и стимулирования искусственного интеллекта; сбора и распространения достижений, инноваций, отчетов об исследованиях, научных публикаций, данных и статистических данных, касающихся политики этики искусственного интеллекта и др.
Таким образом, положениями рассматриваемого документа предусмотрены ключевые элементы системы этического регулирования искусственного интеллекта, и в случае их надлежащего практического воплощения он может стать универсальной этической основой искусственного интеллекта.
Положения соглашения ЮНЕСКО носят рекомендательный характер и подлежат применению государствами-членами на доброволь-
19 См.: Science, Technology and Innovation for a Sustainable Socio-Economic Development of Africa. URL: https://en.unesco.org/paitnerships/partnering/sti-sustainable-socio-economic-development-africa?language=en (дата обращения: 10.01.2022).
ной основе. Однако есть ли гарантия, что заинтересованные стороны будут придерживаться этических принципов?
На практике этика искусственного интеллекта часто рассматривается как ни к чему не обязывающие рамки, и приверженность этическим принципам и ценностям легко перевешивается экономическими стимулами20. Потому многие юристы сходятся во мнении, что этическое регулирование искусственного интеллекта должно дополняться правовым21, что позволит создать безопасную среду развития искусственного интеллекта и минимизировать возможные риски. Иными словами, этические принципы должны служить «ориентиром для позитивного использования искусственного интеллекта»22, в то время как право — предотвращать, пресекать и санкционировать его негативное использование.
Соответственно, правовое регулирование искусственного интеллекта должно основываться на согласованных международным сообществом этических принципах и формироваться прежде всего на международном уровне с учетом специфических свойств технологий искусственного интеллекта и уроков, извлеченных из глобального управления в других областях, а также быть универсальным и гибким.
В настоящее время для международного регулирования искусственного интеллекта применяется мягкое право, которое во многом сходно с морально-нравственными нормами, однако оно не просто фиксирует правила-рекомендации, но предоставляет инструменты для регулирующего и гражданского надзора, что позволяет ввести в дей-
20 См.: HagendorffT. Op. cit.
21 См., например: Hoffmann-Riem W Artificial Intelligence as a Challenge for Law and Regulation // Regulating Artificial Intelligence. DOI: 10.1007/978-3-030-32361-5_1; Constantinescu M. AI, moral externalities, and soft regulation. URL: https://www. researchgate.net/publication/356612427_AI_moral_externalities_and_soft_regulation (дата обращения: 10.01.2022); Wang J., Yu X., Jie Li, Jin X. Artificial Intelligence and International Norms // Reconstructing Our Orders. DOI: 10.1007/978-981-13-2209-9_7; Камалова Г.Г. Правовые и этические принципы регулирования искусственного интеллекта и робототехники // Право и государство: теория и практика. 2021. № 10 (202). С. 181—184; Цифровая экономика: концептуальные основы правового регулирования бизнеса в России: Монография / Отв. ред. В.А. Лаптев, О.А. Тарасенко. М., 2022. DOI: 10.31085/9785392328604-2020-488; Холодная Е.В. Об этических стандартах как принципах использования технологии искусственного интеллекта в условиях пандемии // Роль и значение права в условиях пандемии: Монография по итогам Международного онлайн-симпозиума. М., 2021. С. 160—169.
22 Carrillo M.R. Artificial intelligence: From ethics to law //Telecommunications Policy. 2020. Vol. 44. Issue 6. 101937. URL: https://doi.org/10.1016/j.telpol.2020.1019370308-5961
ствие этические принципы искусственного интеллекта и сделать их «измеримыми». В научной литературе высказывается гипотеза, что решающую роль, в регулировании будущих систем искусственного интеллекта на международном уровне будет играть стандартизация23. В качестве примера можно привести пакет 1ЕЕЕ-Р7000 и программы сертификации, а также стандарты КО/МЭК 20546: 2019 Информационные технологии. Большие данные, 18О/МЭК 20547-3: 2020 Информационные технологии. Эталонная архитектура больших данных. Часть 3. Эталонная архитектура и др.
Наряду с международным, продолжается процесс формирования регионального и национального правового регулирования в сфере искусственного интеллекта, где также наметился переход от этического регулирования к нормативно-правовому, а основным инструментом становится стандартизация и сертификация. Такой подход, позволяет создать надежную и гибкую правовую основу, которая может своевременно изменяться по мере развития технологий. Однако отдельные ученые полагают, что мягкое право является особенностью регулирования технологии искусственного интеллекта на начальном или переходном этапе, а впоследствии этические принципы будут включаться в текст закона, который также может содержать в себе элементы первого24.
Так, например, Гармонизированные правила ЕС об искусственном интеллекте25, принятые в апреле 2021 г., устанавливают общие
23 См.: Stix C. Foundations for the Future: Institution building for the purpose of Artificial Intelligence governance. URL: https://www.researchgate.net/publication/ 355391480_Foundations_for_the_Future_Institution_building_for_the_purpose_of_ Artificial_Intelligence_governance (дата обращения: 10.01.2022); Савина В.С. Этика и искусственный интеллект: правовые подходы // Национальные концепции качества: техническое регулирование и стандартизация в развитии цифровой экономики: Сборник материалов и докладов Национальной научно-практической конференции с международным участием / Под ред. В.В. Окрепилова, Е.А. Горбашко. СПб., 2021. С. 206-214; Лизикова М.С. Искусственный интеллект в атомной энергетике: применение и регулирование // Право и бизнес: правовое пространство для развития бизнеса в России: Монография: В 4 т. / Отв. ред. С.Д. Могилевский [и др.]. М., 2020. Т. 3.С. 131-139.
24 См.: ПоповаА.В. Мягкое право как структурная часть комплексной отрасли российского законодательства в сфере правовой регламентации искусственного интеллекта // Вестник Московского городского педагогического университета. Серия: Юридические науки. 2021. № 4 (44). С. 86-93. DOI: 10.25688/ 2076-9113.2021.44.4.09
25 Proposal for a Regulation of The European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final. URL: https://eur-lex. europa.eu/legal-content/EN/ALL/?uri=CELEX:52021PC0206
обязательные требования, применимые к проектированию и разработке определенных систем искусственного интеллекта, прежде чем они будут размещены на рынке, которые будут введены в действие с помощью согласованных технических стандартов.
Сотрудничество в разработке подходящих стандартов для искусственного интеллекта является одним из направлений деятельности Совета по технологиям и торговле, созданного летом 2021 г., для координации подходов к ключевым глобальным торговым, экономическим и технологическим вопросам, а также для углубления трансатлантических торгово-экономических отношений между США и ЕС26.
Что касается национального регулирования, то, например, российская Стратегия развития искусственного интеллекта на период до 2030 года предусматривает разработку и функционирование к 2030 г. в стране гибкой системы нормативно-правового регулирования в данной области. Упоминавшийся выше Кодекс этики искусственного интеллекта представляет собой инструмент «мягкой силы», который предусматривает добровольное саморегулирование и социальную ответственность компаний, осуществляющих деятельность, связанную с искусственным интеллектом. На сегодняшний день в стране приняты 9 из 217 предусмотренных перспективной программой стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021—2024 годы27 государственных стандартов, связанных с искусственным интеллектом. По пути мягкого регулирования искусственного интеллекта идут и другие государства.
Таким образом, этические и правовые вопросы развития искусственного интеллекта по-прежнему сохраняют свою актуальность и в условиях формирования на данном этапе универсальной этической основы искусственного интеллекта и процесса создания его международного, регионального и национального правового регулирования требуют от научного сообщества пристального внимания для своевременного выявления возникающих проблем и поиска путей их преодоления. Это обеспечит развитие технологии искусственного интеллекта во благо человечества в рамках безопасности.
26 EU-US launch Trade and Technology Council to lead values-based Global Digital Transformation. URL: https://ec.europa.eu/commission/presscorner/detail/en/ IP_21_2990 (дата обращения: 10.01.2022).
27 Перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021—2024 годы. URL: https://www.economy. gov.ru/material/news/v_rossii_poyavyatsya_standarty_v_oblasti_iskusstvennogo_ intellekta.html (дата обращения: 10.01.2022).
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
Камалова Г.Г. Правовые и этические принципы регулирования искусственного интеллекта и робототехники // Право и государство: теория и практика. 2021. № 10 (202). С. 181-184. DOI: 10.47643/1815-1337_2021_10_181
Лизикова М.С. Искусственный интеллект в атомной энергетике: применение и регулирование // Право и бизнес: правовое пространство для развития бизнеса в России: Монография: В 4 т. / Отв. редактор С.Д. Могилевский [и др.]. М.: Проспект, 2020. Т. 3. С. 131-139.
Минбалеев А.В. Формирование этического регулирования искусственного интеллекта в мире // Третьи Бачиловские чтения. Цифровая трансформация: вызовы праву и векторы научных исследований. M.: Проспект, 2020. С. 176-184.
Попова А.В. Мягкое право как структурная часть комплексной отрасли российского законодательства в сфере правовой регламентации искусственного интеллекта // Вестник Московского городского педагогического университета. Серия: Юридические науки. 2021. № 4 (44). С. 86-93. DOI: 10.25688/2076-9113.2021.44.4.09
Попова А.В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. 2020. № 3 (61). С. 34-43.
Принципы этики искусственного интеллекта Сбера. URL: https://www.sberbank. com/ru/sustainability/principles-of-artificial-intelligence-ethics (дата обращения: 15.12.2021).
Путин предложил разработать этические нормы взаимодействия человека с искусственным интеллектом, 9 ноября 2019. URL: https://tass.ru/ekonomika/ 7096728 (дата обращения: 12.11.2021).
Савина В.С. Этика и искусственный интеллект: правовые подходы // Национальные концепции качества: техническое регулирование и стандартизация в развитии цифровой экономики: Сборник материалов и докладов Национальной научно-практической конференции с международным участием / Под ред. В.В. Окрепилова, Е.А. Горбашко. СПб.: Санкт-Петербургский государственный экономический университет, 2021. С. 206-214.
«Сбер» одним из первых в России утвердил принципы этики искусственного интеллекта, 1 марта 2021. URL: https://tass.ru/ekonomika/10802757 (дата обращения: 12.11.2021).
Холодная Е.В. Об этических стандартах как принципах использования технологии искусственного интеллекта в условиях пандемии // Роль и значение права в условиях пандемии: Монография по итогам Международного онлайн-симпозиу-ма. М.: Проспект, 2021. С. 160-167.
Цифровая экономика: концептуальные основы правового регулирования бизнеса в России: Монография / Отв. ред. В.А. Лаптев, О.А. Тарасенко. М.: Проспект, 2022. DOI: 10.31085/9785392328604-2020-488
Чернышенко Д. Кодекс этики ИИ повысит доверие общества к новым технологиям, 26 октября 2021. URL: http://government.ru/news/43647/ (дата обращения: 12.11.2021).
Чернышенко Д. О гармонизации международного законодательства и сотрудничестве в ИТ-сфере на 16-м Форуме ООН по управлению Интернетом. URL: https:// global.foreignaffairs.co.nz/2021/12/08/mil-osi-news-in-russian-дмитрий-чернышенко-о-гармонизац/ (дата обращения: 12.11.2021).
Эволюция права: контроль за искусственным интеллектом потребует перевода всех этических и юридических норм человечества на понятный машинам язык, 8 октября 2020. URL: https://rg.ru/2020/10/08/evoliuciia-prava.html (дата обращения: 12.11.2021).
Burle C., Cortiz D. Mapping Principles of Artificial Intelligence [Livro Eletronico]. Sao Paulo: Núcleo de Informagao eCoordenagao do Ponto BR, 2020.
Carrillo M.R. Artificial intelligence: From ethics to law // Telecommunications policy. 2020. Vol. 44. Issue 6. 101937. URL: https://doi.org/10.1016/j.telpol.2020.101937
Constantinescu M. AI, moral externalities, and soft regulation. URL: https://www. researchgate.net/publication/356612427_AI_moral_externalities_and_soft_regulation (дата обращения: 10.01.2022).
Jobin А., lenca M., Vayena Е. Artificial Intelligence: The Global Landscape of Ethics Guidelines (June, 2019). URL: https://www.researchgate.net/publication/334082218_ Artificial_Intelligence_the_global_landscape_of_ethics_guidelines (дата обращения: 12.11.2021).
HagendorffT. The Ethics of AI Ethics: An Evaluation of Guidelines // Minds & Machines. 2020. No. 30. Р. 99-120. DOI: 10.1007/s11023-020-09517-8.
Hoffmann—Riem W Artificial Intelligence as a Challenge for Law and Regulation // Regulating Artificial Intelligence / Eds. By T. Wischmeyer, T. Rademacher. Springer, Cham. P. 1-29. DOI: 10.1007/978-3-030-32361-5_1
Garcia E. UNESCO's Recommendation on the Ethics of AI: why it matters and what to expect from it. URL: https://www.researchgate.net/publication/357074719_ UNESCO%27s_Recommendation_on_the_Ethics_of_AI_why_it_matters_and_what_ to_expect_from_it? (дата обращения: 10.01.2022)
Luengo-Oroz M. Solidarity should be a core ethical principle of AI // Nature Machine Intelligence. 2019. Vol. 1. P. 494. DOI: Https://Doi.Org/10.1038/S42256-019-0115-3 Siau K., Wang W Artificial Intelligence (AI) Ethics: Ethics of AI and Ethical AI // Journal of Database Management 31(2): 74-87. DOI: 10.4018/JDM.2020040105
Stix C. Foundations for the Future: Institution building for the purpose of Artificial Intelligence governance. URL: https://www.researchgate.net/publication/355391480_ Foundations_for_the_Future_Institution_building_for_the_purpose_of_Artificial_ Intelligence_governance (дата обращения: 10.01.2022).
Sun W Artificial Intelligence and Ethical Principles // Reconstructing Our Orders: Artificial Intelligence and Human Society / Ed. by D. Jin. Singapore: Springer, 2018. P. 29-59. DOI: 10.1007/978-981-13-2209-9_2
Wang J., Yu X., Jie Li, Jin X. Artificial Intelligence and International Norms // Reconstructing Our Orders: Artificial Intelligence and Human Society / Ed. by D. Jin. Singapore: Springer, 2018. P. 195-229. DOI: 10.1007/978-981-13-2209-9_7
REFERENCES
Burle, C. and Cortiz, D. (2020). Mapping Principles of Artificial Intelligence [Livro Eletronico]. Sao Paulo: Núcleo de Informagao eCoordenagao do Ponto BR. (in Eng.).
Carrillo, M.R. (2020). Artificial intelligence: From ethics to law. Telecommunications policy, 44 ( 6), 101937. https://doi.org/10.10167j.telpol.2020.101937 (in Eng.).
Chernyshenko, D. (2021). Kodeks etiki II povysit doverie obshchestva k novym tekh-nologiyam [AI Code of Ethics will Increase Public Confidence in New Technologies] [online]. Available at: http://government.ru/news/43647/ (Accessed: 12.11.2021). (in Russ.).
Chernyshenko, D. (2021). Ogarmonizatsii mezhdunarodnogo zakonodatel'stva i sotrud-nichestve v IT—sfere na 16—m Forume OON po upravleniyu internetom [On the Harmonization of International Legislation and Governance in the IT Sector at the 16th United Nations Internet Governance Forum.]. Available at: https://global.foreignaffairs. co.nz/2021/12/08/mil-osi-news-in-russian-,a;MHTpHH-HepHLimeHK0-0-rapM0HH3a^ (Accessed: 12.11.2021). (in Russ.).
Constantinescu M. AI, moral externalities, and soft regulation. Available at: https:// www.researchgate.net/publication/356612427_AI_moral_externalities_and_soft_ regulation (Accessed: 10.01.2022). (in Eng.).
(2020). Evolyutsiya prava: kontrol' za iskusstvennym intellektom potrebuet perevoda vsekh eticheskikh i yuridicheskikh norm chelovechestva na ponyatnyi mashinam yazyk [Evolution of Law: Control of Artificial Intelligence will Require the Translation of All Ethical and Legal Norms of Humanity into a Language Understandable to Machines] URL: https://rg.ru/2020/10/08/evoliuciia-prava.html (Accessed: 12.11.2021). (in Russ.).
Hagendorff, T. The Ethics of AI Ethics: An Evaluation of Guidelines. Minds & Machines 30, 99-120 (2020). https://doi.org/10.1007/s11023-020-09517-8 (in Eng.).
Hoffmann-Riem W. (2020) Artificial Intelligence as a Challenge for Law and Regulation. In: Wischmeyer T., Rademacher T. (eds). Regulating Artificial Intelligence. Springer, Cham, pp. 1-29. DOI: 10.1007/978-3-030-32361-5_1 (in Eng.).
Garcia E. UNESCO's Recommendation on the Ethics of AI: why it matters and what to expect from it. [online]. Available at: https://www.researchgate.net/publication/357074719_ UNESCO%27s_Recommendation_on_the_Ethics_of_AI_why_it_matters_and_what_ to_expect_from_it? (Accessed: 10.01.2022). (in Eng.).
Jobin, A., Ienca, M. and Vayena, E. Artificial Intelligence: The Global Landscape of Ethics Guidelines (June, 2019) [online]. Available at: https://www.researchgate. net/publication/334082218_Artificial_Intelligence_the_global_landscape_of_ethics_ guidelines (Accessed: 12.11.2021). (in Eng.).
Kamalova, G.G. (2021). Pravovye i eticheskie printsipy regulirovaniya iskusstven-nogo intellekta i robototekhniki [Legal and Ethical Principles of Regulation of Artificial Intelligence and Robotics]. Pravo igosudarstvo: teoriya ipraktika [Law and State: Theory and Practice], 10 (202), pp. 181-184. DOI: 10.47643/1815-1337_2021_10_181 (in Russ.).
Kholodnaya, E.V. (2021). Ob eticheskikh standartakh kak printsipakh ispol'zovaniya tekhnologii iskusstvennogo intellekta v usloviyakh pandemii [On ethical standards as principles for the use of artificial intelligence technology in a pandemic]. In: Rol' i znachenie prava v usloviyakh pandemii: Monografiya po itogam Mezhdunarodnogo onlain—simpoziuma
[The role and importance of law in a pandemic: Monograph based on the results of the International Online Symposium]. Moscow: Prospect, pp. 160-167. (in Eng.).
Laptev, V.A. and Tarasenko, O.A. eds. (2022). Tsifrovaya ekonomika: kontseptual'nye osnovy pravovogo regulirovaniya biznesa v Rossii. Monografiya [Digital Economy: Conceptual Foundations of Legal Regulation of Business in Russia. Monograph.]. Moscow: Prospect. DOI: 10.31085/9785392328604-2020-488 (in Russ.).
Lizikova, M.S. (2020). Iskusstvennyi intellekt v atomnoi energetike: primenenie i regulirovanie [Artificial Intelligence in Nuclear Energy: Application and Regulation]. In: Mogilevskii, S.D. eds. Pravo i biznes:pravovoeprostranstvo dlya razvitiya biznesa v Rossii: monografiya. V4—kh tomakh. T. 3 [Law and Business: Legal Space for Business Development in Russia: Monograph. In 4 vols. Vol. 3.]. Moscow: Prospect, pp. 131-139. (in Russ.).
Luengo-Oroz, M. (2019). Solidarity should be a core ethical principle of AI. Nature Machine Intelligence, 1, pp. 494. DOI: Https://Doi.Org/10.1038/S42256-019-0115-3 (in Eng.).
Minbaleev, A.V. (2020). Formirovanie eticheskogo regulirovaniya iskusstvennogo in-tellekta v mire [Formation of Ethical Artificial Regulation of Intelligence in the World]. In: Tret'i Bachilovskie chteniya. Tsifrovaya transformatsiya: vyzovypravu i vektory nauchnykh issledovanii [hird Bachilov Readings. Digital Transformation: Challenges to Law and Research]. Moscow: Prospect, pp. 176-184. (in Russ.).
Popova, A.V. (2020). Eticheskie printsipy vzaimodeistviya s iskusstvennym intellek-tom kak osnova pravovogo regulirovaniya [Ethical Principles of Interaction with Artificial Intelligence as the Basis of Legal Regulation]. Pravovoegosudarstvo: teoriya ipraktika [Legal State: Theory and Practice], 3 (61), pp. 34-43. (in Russ.).
Popova, A.V. (2021). Myagkoe pravo kak strukturnaya chast' kompleksnoi otrasli ros-siiskogo zakonodatel'stva v sfere pravovoi reglamentatsii iskusstvennogo intellekta [Soft Law as a Structural Part of the Complex Branch of Russian Legislation in the field of Legal Regulation of Artificial Intelligence]. VestnikMoskovskogo Gorodskogo Pedagogichesko-go Universiteta. Seriya: Yuridicheskie nauki [Bulletin of the Moscow City Pedagogical University. Series: Legal Sciences], 4 (44), pp. 86-93. DOI: 10.25688/2076-9113.2021.44.4.09 (in Russ.).
(2021). Printsipy etiki iskusstvennogo intellekta Sbera [Principles of ethics of artificial intelligence of Sber]. [online]. Available at: https://www.sberbank.com/ru/sustainability/ principles-of-artificial-intelligence-ethics (Accessed:15.12.2021) (in Russ.).
(2019). Putin predlozhil razrabotat' eticheskie normy vzaimodeistviya cheloveka s iskusstvennym intellektom [Putin Proposed to Develop Ethical Standards for Human Interaction with Artificial Intelligence]. [online]. Available at: https://tass.ru/ekonomika/70 96728 (Accessed: 12.11.2021). (in Russ.).
Savina, V.S. (2021). Etika i iskusstvennyi intellekt: pravovye podkhody [Ethics and Artificial Intelligence: Legal Approaches]. In: Okrepilova, V.V. and Gorbashko, E.A. eds. Natsional'nye kontseptsii kachestva: tekhnicheskoe regulirovanie i standartizatsiya v razvitii tsifrovoi ekonomiki: Sbornik materialov i dokladov Natsional'noi nauchno—prakticheskoi kon -ferentsii s mezhdunarodnym uchastiem [National Concepts of Quality: Technical Regulation and Standardization in the Development of the Digital Economy: Collection of Ma-
terials and Reports of the National Scientific and Practical Conference with International Participation]. St. Petersburg: St. Petersburg State University of Economics, pp. 206-214. (in Russ.).
(2021). «Sber» odnim izpervykh v Rossii utverdilprintsipy etiki iskusstvennogo intel-lekta ["Sber" from the First Russian Reviews of the Ethics of Artificial Intelligence] [online]. Available at: https://tass.ru/ekonomika/10802757 (Accessed: 12.11.2021). (in Russ.).
Siau, K. and Wang, W. (2020). Artificial Intelligence (AI) Ethics: Ethics of AI and Ethical AI. Journal of Database Management, 31(2):74-87. DOI: 10.4018/JDM. 2020040105 (in Eng.)
Stix C. Foundations for the Future: Institution building for the purpose of Artificial Intelligence governance. [online]. Available at: https://www.researchgate.net/publication/ 355391480_Foundations_for_the_Future_Institution_building_for_the_purpose_of_ Artificial_Intelligence_governance (Accessed: 10.01.2022). (in Eng.).
Sun, W. Artificial Intelligence and Ethical Principles. In: Jin D. ed. Reconstructing Our Orders: Artificial Intelligence and Human Society. Singapore: Springer, pp. 29-59. DOI: 10.1007/978-981-13-2209-9_2 (in Eng.).
Wang J., Yu X., Jie Li, Jin X. Artificial Intelligence and International Norms In: Jin D. ed. Reconstructing Our Orders: Artificial Intelligence and Human Society. Singapore: Springer, pp. 195-229. DOI: 10.1007/978-981-13-2209-9_7
СВЕДЕНИЯ ОБ АВТОРЕ:
Лизикова Марина Сергеевна — старший научный сотрудник сектора гражданского и предпринимательского права Института государства и права РАН, кандидат юридических наук.
AUTHOR'S INFO:
Marina S. Lizikova — Candidate of Law, Senior Research Fellow of the Civil and Business Law Department, Institute of State and Law, Russian Academy of Sciences.
ДЛЯ ЦИТИРОВАНИЯ:
Лизикова М.С. Этические и правовые вопросы развития искусственного интеллекта в предпринимательской и иной экономической деятельности // Труды Института государства и права РАН / Proceedings of the Institute of State and Law of the RAS. 2022. Т. 17. № 1. С. 177-194. DOI: 10.35427/2073-4522-2022-17-1-lizikova
FOR CITATION:
Lizikova, M.S. (2022) Ethical and Legal Issues of Artificial Intelligence Development in Business and Other Economic Activities. Trudy Instituta gosudarstva i prava RAN — Proceedings of the Institute of State and Law of the RAS, 17(1), pp. 177-194. DOI: 10.35427/2073-4522-2022-17-1-lizikova
