CC BY
46УДК 34.096
правовые аспекты искусственного интеллекта
Иткина яна яковлевна1,
e-mail: [email protected], 1Московский университет имени С.Ю. Витте, г. Москва, Россия
Рассматриваются особенности искусственного интеллекта, его место в современном научном пространстве, разрешаются споры о перспективах и рисках его более широкого применения. Стремительное развитие искусственного интеллекта обусловило острую необходимость расширения границ правового регулирования и определения путей разрешения проблем авторских прав на произведения, созданные при помощи него. В этой связи актуальным представляется изучение понятия искусственного интеллекта, а также правовых рисков его использования и путей их преодоления. Россия сегодня имеет заметные конкурентные преимущества в сфере цифровых технологий и легального распространения искусственного интеллекта, в том числе благодаря сильной естественнонаучной школе страны, наличию базового физико-математического образования и компетенциям в сфере программирования. Перед отечественной юриспруденцией стоит задача способствовать своевременному нормативному обеспечению, надлежащему и легальному оформлению AI-технологий. Практическая значимость исследования заключается в поиске оптимального правового регулирования искусственного интеллекта, что будет способствовать беспрепятственному внедрению новейших технологий, способных совершать независимые от человека юридически значимые действия.
Ключевые слова: искусственный интеллект, искусственная когнитивная система, юнит, искусственный разум, правосубъектность, правовое регулирование искусственного интеллекта
legal aspects of artificial intelligence
Itkina Ya.Ya.1,
e-mail: [email protected], 1Moscow Witte University, Moscow, Russia
The article is devoted to consideration features of artificial intelligence, its place in modern scientific sphere, resolution of disputes about the prospects and risks of its wider application. The rapid development of artificial intelligence has led to the urgent need to expand the boundaries of legal regulation and identify ways to resolve copyright issues for works created by artificial intelligence. In this regard, it is relevant to explore the definition of artificial intelligence, as well as the legal risks of its use and ways to overcome them. Today Russia has significant competitive advantages in the field of digital technologies and the legal dissemination of artificial intelligence, including due to the strong natural science school of the country, the availability of basic physical and mathematical education and competencies in the field of programming. The task of the domestic jurisprudence is to promote timely regulatory support, proper and legal registration of AI-technologies. The practical significance of the research lies in the search for optimal legal regulation of artificial intelligence, which will facilitate the unhindered introduction of the latest technologies capable ofperforming legally significant actions independent of a human.
Keywords: artificial intelligence, artificial cognitive system, unit, artificial mind, legal personality, legal regulation of artificial intelligence
DOI 10.21777/2587-9472-2022-2.1-39-43
Понятие «искусственный интеллект» прочно вошло в нашу повседневную жизнь. Если в прошлом веке об этом явлении можно было прочитать только на страницах научно-фантастических книг, то сегодня в мире происходит ускоренное внедрение технологических решений, разработанных на основе искусственного интеллекта, в различные отрасли экономики и сферы общественных отношений. Согласно оценкам экспертов, ожидается, что благодаря внедрению таких решений рост мировой экономики в 2024 г. составит не менее 1 трлн долл. США1.
Плоды искусственного интеллекта общество уже использует в значительной мере, а его потенциал и возможности дальнейшего развития в человеческой среде вызывают среди ученых неоднозначные оценки. Способность комплексов искусственного интеллекта развиваться эволюционным путем, самосовершенствоваться вплоть до автономности, принимая решения без вмешательства и контроля со стороны человека - ученого-создателя или IT-специалиста, может иметь далеко идущие последствия, причем как в областях человеческой деятельности (замена людей роботами, доминирование искусственных систем на рынке труда), так и в юридической сфере (несанкционированный доступ к личным данным, нелегальное использование криптовалюты и подобных ей финансовых систем, повышение опасности и усложнение структуры киберпреступности).
В целях оптимального правового регулирования использования искусственного интеллекта разработчики, исследователи и лица, финансирующие исследования в сфере искусственного интеллекта, а также в смежных областях, должны исходить из презумпции опасности искусственного интеллекта, подразумевая, что созданная или создаваемая технология искусственного интеллекта является опасной для человека до тех пор, пока не доказано иное [1].
Человечество уже создало достаточно средств для своего уничтожения (биологическое оружие, атомная и водородная бомбы). Бесконтрольное развитие искусственного интеллекта не должно быть допущено совместными действиями юристов и ученых. Исходя из этого, данная проблема должна регулироваться правом.
Одним из основоположников искусственного интеллекта является Джон Маккарти (1927-2011) -американский ученый-компьютерщик и когнитивист, соавтор документа, который ввел термин «искусственный интеллект» в предложения для знаменитой Дартмутской конференции, состоявшейся летом 1956 г. Эта конференция положила начало искусственному интеллекту как направлению в области информационных технологий2.
Термин «искусственный интеллект» рассматривался и изучался и в отечественной юридической науке, где корифеем в этой области является П.М. Морхат. Дефиниция понятия «искусственный интеллект» в его авторской концепции - это полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе биокибернетическая (bio-cybernetic), система (юнит), наделенная/обладающая определенными способностями и возможностями [2].
правовое совершенствование не успевает за экспоненциальным ростом информационных технологий, что является одной из основных причин недостаточного правового регулирования данной области.
В российском праве определение искусственного интеллекта содержится в Национальной стратегии развития искусственного интеллекта на период до 2030 г., утвержденной Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»3. В настоящее время в науке широко применяется его синоним - искусственная когнитивная система [3].
В дальнейшем искусственная когнитивная система обретет способность к самосознанию, у нее появятся качества, подобные человеческим личности и воле. Такой искусственный интеллект будет стремиться к независимости от кого бы то ни было, автономности в принятии решений и совершении действий. При этом он сохранит доступ к бесконечному массиву информации и будет иметь в своем
1 О развитии искусственного интеллекта в Российской Федерации: указ Президента Российской Федерации: [утв. 10 октября 2019 г. № 490]. - Ст. 11, разд. 2. - URL: http://www.consultant.ru (дата обращения: 12.03.2022). - Текст: электронный.
2 Джон Маккарти (ученый-компьютерщик). - URL: http://www.ru.abcdef.wiki/wiki/John_McCarthy_(computer scientist) (дата обращения: 12.08.2022). - Текст: электронный.
3 О развитии искусственного интеллекта в Российской Федерации: указ Президента Российской Федерации: [от 10 октября 2019 г. № 490]. - П. а, ст. 5, разд. 1.
распоряжении несопоставимые с сегодняшним днем вычислительные мощности. Возникнет необходимость рассмотреть проблему правосубъектности такой системы.
Под правосубъектностью общепринято понимать предусмотренное нормами права свойство быть участником правоотношений4. Данное понятие включает два момента: интеллектуальный, когда субъект правоотношения понимает свои действия и их последствия, и волевой, т.е. он способен осознавать свои действия и руководить ими. Впоследствии, когда оба эти моменты будут ему присущи, возникнет вопрос о правовом регулировании искусственного интеллекта.
Заслуживает внимания положение об «электронном лице», под которым понимается «технико-юридический образ (обладающий некоторыми признаками юридической фикции по аналогии с юридическим лицом), отражающий и воплощающий конвенционально (условно) специфическую правосубъектность юнита искусственного интеллекта, гетерогенную в зависимости от функционально-целевого назначения и возможностей такого юнита и в силу этого аппроксимированную к конкретному целепо-лаганию производства и задействования такого юнита» [4, с. 282].
Функционирование искусственного интеллекта как самостоятельного агента социально-экономической системы потребует признания на уровне гражданского законодательства факта появления нового субъекта правоотношений - «электронного лица» - с наделением его правами и обязанностями. при этом в отличие от действий юридического лица, за интересами которого стоят конкретные индивиды, в данном случае ответственность предлагается возложить только на компанию-разработчика.
понятие «электронное лицо», рекомендуемое для определения полномочий искусственного интеллекта как субъекта, является качественно новым и в настоящее время не урегулировано правом. Джоанна Брайсон, Михалис Диамантис и Томас Грант полагают, что введение термина «электронное лицо» указывает на ясное намерение придать некоторым человекоподобным артефактам (в том числе и юниту искусственного интеллекта) статус личности, соответственно, наделить соответствующей правосубъектностью. предоставление статуса юридического лица чисто синтетическим образованиям -вполне реальная юридическая возможность, которая в настоящее время рассматривается Европейским союзом. Авторы пришли к выводу, что трудности с привлечением к ответственности «электронных лиц», когда они нарушают права других, перевешивают весьма ненадежные моральные интересы, которые может защищать юридическое лицо искусственного интеллекта [5].
В своей «жизнедеятельности» с учетом развития технологий носитель искусственного интеллекта может и не контролироваться человеком, иметь возможность умело копировать и воспроизводить отдельные аналогичные человеку процессы. Однако юнит не проходит социализацию, у него отсутствуют нравственность, интуиция, характер и прочие составляющие физического лица, которые связаны с его осознанием себя, влияют на морально-нравственный багаж и лежат в основе его деятельности и принятия решений. Этот аспект является крайне важным при установлении прав, обязанностей и пределов ответственности, которые объективно должны соответствовать возможностям и способностям искусственного интеллекта [6].
Статус электронного лица будет предметом дальнейших исследований. Вместе с тем следует отметить, что такой статус не ограничивает дальнейшее развитие искусственного интеллекта по мере решения связанных с ним правовых проблем [7].
Как пишет «Коммерсант», для закрепления новых норм в Государственной Думе Совета Федерации РФ предложили внести в Гражданский кодекс РФ (далее - ГК РФ) соответствующие поправки. Документ подготовил депутат политической партии «Единая Россия» Алексей Кобилев, и он был направлен на согласование в Министерство экономики России еще 21 октября 2020 г. Подготовленный депутатом проект поправок включает перечень видов интеллектуальной собственности, которой искусственный интеллект не сможет владеть в случае их принятия. Это аудио- и видеоконтент, изображения, текст и различная аналитика. Право на результат интеллектуальной деятельности, созданный искусственным интеллектом, предлагается закрепить за правообладателем программы, с помощью которой этот результат сформирован, как следует из проекта поправок к ч. 4 ГК РФ5.
4 ПереваловВ.Д. Теория государства и права: учебник и практикум. - 5-е изд., перераб. и доп. - Москва: Юрайт, 2020. - 341 с.
5 Власти России хотят отобрать у искусственного интеллекта авторские права. - URL: http: //www .cnews.ru /news/top/2020-11-n_vlasti_zadumaH_otobrat (дата обращения: 23.08.2022). - Текст: электронный.
Принадлежность авторских прав на квази-произведения, созданные искусственным интеллектом в будущем, обязательно придется устанавливать. Предлагается два варианта разрешения проблемы.
1. Закрепление исключительных прав на такие произведения за создателем или правообладателем искусственного интеллекта. Физическое лицо или лица являются правообладателями искусственной когнитивной системы, а результаты их деятельности принадлежат им. Целесообразно в данном случае предусмотреть регистрацию авторских прав, чтобы избежать сложностей, когда произведения одного искусственного интеллекта будут принадлежать разным правообладателям при переходе права на нейросеть.
2. Наделение искусственного интеллекта правосубъектностью, с передачей ему исключительных прав на созданные квази-произведения, не совмещая с самими исключительными правами владельцев искусственного интеллекта. Это аналогично институту юридических лиц. После регистрации юридического лица в Едином государственном реестре юридических лиц оно обладает правосубъектностью, в том числе может владеть исключительными правами на произведения науки, искусства и литературы. Так, исключительные права на процессоры Intel принадлежат одноименной компании Integrated Electronics, а не Роберту Нойсу и еще 7 учредителям.
Такое признание будет способствовать дальнейшему развитию искусственного интеллекта, позволяя создавать артистичные, доведенные до совершенства произведения культуры, т.к. они будут охраняться авторским правом. Регулирование этой отрасли назрело, но на практике авторство будет сложно разделить между человеком и машиной.
В последние годы происходит неуклонное внедрение технологических решений, разработанных на основе искусственного интеллекта, в различные сферы экономики и общественных отношений.
Пандемия коронавирусной инфекции COVID-19 ускорила приведенные процессы, что требует активизации внедрения технологии искусственного интеллекта, поскольку наблюдается увеличение запросов по разработке механизмов регулирования складывающихся отношений. Сфера государственного управления все больше нуждается не в простом внедрении технологий искусственного интеллекта, а в обоснованном, с учетом повышенных рисков для различных видов безопасности, в первую очередь информационной.
Пандемия увеличивает значение искусственного интеллекта, поскольку его технологии используются в противодействии ее распространению и прогнозируют иные возможные способы борьбы с ее последствиями [8].
Эволюция искусственного интеллекта продолжается. В этом направлении работают как ученые, так и созданный ими искусственный интеллект, в который заложена способность к саморазвитию. Остановка данной тенденции невозможна, поскольку современная цивилизация уже определила искусственный интеллект в качестве своей неотъемлемой части. Так, люди не откажутся от смартфонов и приложений-помощников. Созданные технологические продукты уже не просто помогают человеку, а действуют самостоятельно, полностью заменяя его, например беспилотные автомобили, которые из закрытых территорий перемещаются на дороги общего пользования. Это позволяет допустить, что обсуждение вопроса о правосубъектности в дальнейшем может переместиться к признанию за искусственным интеллектом статуса субъекта права6.
Таким образом, нами рассмотрены отдельные проблемы использования искусственного интеллекта, оказывающие влияние на правовые институты.
Было обозначено место искусственного интеллекта среди элементов состава правоотношения. Проанализированы возможности наделения искусственного интеллекта признаками субъекта права. Обоснованы пути правового регулирования искусственного интеллекта, как объекта права, которое должно быть сосредоточено на нормах вещного и авторского права.
исследование правового регулирования искусственного интеллекта проведено с учетом перспективы дальнейшего развития научных достижений.
Учитывая слабую разработанность перспективных границ и путей эволюции искусственного интеллекта, представляется невозможным полное исключение человеческого участия в сферах его применения. К таковой следует отнести и юридическую деятельность.
6 Филипова И.А. Правовое регулирование искусственного интеллекта: учеб. пособие. - Нижний Новгород: Типография Нижегородского госуниверситета им. Н.И. Лобачевского, 2020. - С. 66.
Повсеместное распространение технологий будущего стирает границы между результатами интеллектуальных достижений человека и искусственных когнитивных систем, а также между физическим миром и виртуальной реальностью.
Соответственно, неординарность самого искусственного интеллекта обуславливает задачи в определении его правового статуса. В дальнейшем предполагаются лавинообразное развитие технологии искусственного интеллекта, расширение областей применения, следовательно, и интенсификация внятного определения его правового статуса, регламентирование его взаимодействия с человеком. Наиболее вероятной представляется трансформация искусственного интеллекта в специфичного участника правоотношений, так называемое «электронное лицо», которое будет включать оптимальный набор прав и обязанностей, а также возможностей несения юридической ответственности в зависимости от уровня развития и автономности искусственных когнитивных систем.
Список литературы
1. Васильев А., Печатнова Ю. Искусственный интеллект и право: проблемы, перспективы // Российско-азиатский правовой журнал. - 2020. - № 2. - С. 14-18.
2. Морхат П.М. Искусственный интеллект: правовой взгляд: монография. - Москва: Буки Веди, 2017. -258 с.
3. Писаренко М.С. К вопросу об искусственном интеллекте и его сущности // Вопросы российской юстиции. - 2020. - № 10. - С. 44-54.
4. Морхат П.М. Правосубъектность юнита искусственного интеллекта // Вестник Костромского государственного университета. - 2018. - Т. 24, № 3. - С. 280-283.
5. Bryson J.J., Diamantis M.E., Grant T.D. Of, for and by the people: the legal lacuna of synthetic persons // Law Research Paper. - 2018. - No. 5.
6. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. - 2019. - № 2. - С. 79-102.
7. Тютчева Е.С. Правосубъектность «электронного лица»: теоретический анализ // Теоретическая и прикладная юриспруденция. - 2022. - № 2. - С. 50-58.
8. ЕгороваМ.А., Минбалеев А.В., Кожевина О.В., Дюфло А. Основные направления правового регулирования использования искусственного интеллекта в условиях пандемии // Вестник Санкт-Петербургского университета. Право. - 2021. - Т. 12, № 2. - С. 250-262.
References
1. Vasil'ev A., Pechatnova Yu. Iskusstvennyj intellekt i pravo: problemy, perspektivy // Rossijsko-aziatskij pravovoj zhurnal. - 2020. - № 2. - S. 14-18.
2. MorhatP.M. Iskusstvennyj intellekt: pravovoj vzglyad: monografiya. - Moskva: Buki Vedi, 2017. - 258 s.
3. Pisarenko M.S. K voprosu ob iskusstvennom intellekte i ego sushchnosti // Voprosy rossijskoj yusticii. -2020. - № 10. - S. 44-54.
4. MorhatP.M. Pravosub"ektnost' yunita iskusstvennogo intellekta // Vestnik Kostromskogo gosudarstvennogo universiteta. - 2018. - T. 24, № 3. - S. 280-283.
5. Bryson J.J., Diamantis M.E., Grant T.D. Of, for and by the people: the legal lacuna of synthetic persons // Law Research Paper. - 2018. - No. 5.
6. Laptev V.A. Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost' za ego rabotu // Pravo. Zhurnal Vysshej shkoly ekonomiki. - 2019. - № 2. - S. 79-102.
7. Tyutcheva E.S. Pravosub"ektnost' "elektronnogo lica": teoreticheskij analiz // Teoreticheskaya i prikladnaya yurisprudenciya. - 2022. - № 2. - S. 50-58.
8. Egorova M.A., Minbaleev A.V., Kozhevina O.V., Dyuflo A. Osnovnye napravleniya pravovogo regulirovaniya ispol'zovaniya iskusstvennogo intellekta v usloviyah pandemii // Vestnik Sankt-Peterburgskogo universiteta. Pravo. - 2021. - T. 12, № 2. - S. 250-262.
