CC BY
80JURIDICAL SCIENCES
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ОТВЕТСТВЕННОСТЬ ПРИ ЕГО ПРИМЕНЕНИИ
Трофимова А.Х.
кандидат юридических наук, преподаватель кафедры философии и социального управления
ФГБОУВО «МГТУ «СТАНКИН»
ARTIFICIAL INTELLIGENCE AND RESPONSIBILITY IN ITS USE
Trofimova A.
PhD in Law, lecturer, Department of Philosophy and Social Management of
MSUT «STANKIN» DOI: 10.5281/zenodo.6809708
АННОТАЦИЯ
В статье «Искусственный интеллект и ответственность при его применении» раскрывается тема защиты интеллектуальной собственности и ответственности при применении искусственного интеллекта.
ABSTRACT
The article «Artificial Intelligence and Responsibility in its Application» reveals the topic of intellectual property protection and liability in the application of artificial intelligence.
Ключевые слова: интеллектуальная собственность, результаты интеллектуальной деятельности, искусственный интеллект, ответственность при применении искусственного интеллекта.
Keywords: intellectual property, results of intellectual activity, artificial intelligence, responsibility in the use of artificial intelligence.
Искусственный интеллект (ИИ; англ. artificial intelligence, AI) - свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека1.
Национальная стратегия развития искусственного интеллекта на период до 2030 года, утвержденная Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», определяет цели, основные задачи развития искусственного интеллекта в Российской Федерации, и меры, направленные на его использование в целях обеспечения национальных интересов и реализации стратегических национальных приоритетов, в том числе в области научно-технологического развития2.
В Национальной стратегии развития искусственного интеллекта на период до 2030 года раскрывается понятие искусственного интеллекта:
Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности че-
ловека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений3.
К технологиям искусственного интеллекта относятся технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта.
Автором термина «искусственный интеллект» (artificial intelligence) является Джон Маккарти, основоположник функционального программирования, который говорил: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире»4. С одной стороны, это заставляет задуматься о возможности по-
1 Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. С.5
2 Цифровая революция в сфере финансов: правила безопасного поведения потребителя. Москва, 2019. С.12
3 Указ Президента РФ от 10.10.2019 № 490 "О развитии
искусственного интеллекта в Российской Федерации"
(вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года")// СЗ РФ. 2019. N 41. Ст. 5700.
4 McCarthy J. What is Artificial Intelligence? Computer Science Department. Stanford University. November 12, 2007. Available at: http://www-formal.stan-
ford.edu/jmc/whatisai/whatisai.html.
лучения оригинального результата в рамках применения искусственного интеллекта. С другой стороны, технология искусственного интеллекта воспринимается как программное обеспечение, приводящее к созданию результатов - интеллектуальной деятельности либо иного характера, позволяющее на основании определенных обобщенных данных принимать решения. В целом технология искусственного интеллекта позволяет выполнять действия, основанные на расчетах, в том числе получать и анализировать информацию, обучаться за счет новых данных5.
Важным является вопрос оформления и учета исключительных прав на результаты интеллектуальной деятельности, полученные с использованием искусственного интеллекта. К примеру, в 2020 году суд Шэньчжэня (КНР) постановил, что статьи, написанные искусственным интеллектом, защищаются авторским правом. Компания скопировала текст, написанный искусственным интеллектом, указав, что контент не имеет автора, поскольку он был создан в автоматическом режиме. Однако суд обязал компанию удалить текст со своих официальных источников и выплатить компенсацию владельцу искусственного интеллекта как правообладателю. Суд признал, что «сгенерированный контент отвечает критериям литературного произведения, обладает признаками осознанного подбора информации, анализа, логики и ори-гинальности»6. Напротив, Европейское патентное ведомство признало, что изобретателем может быть только физическое лицо при рассмотрении патентной заявки было указано, что искусственный интеллект не может считаться автором изобретения. Машины не имеют правосубъектности, а потому не могут иметь никаких прав7. Многие авторы считают дискуссионными вопросы о возможности предоставления правовой охраны результатам деятельности искусственного интеллекта, созданным алгоритмом без творческого участия человека, о субъекте ответственности, в ситуации, когда алгоритм создал контент, нарушающий исключительные права третьих лиц, и др.
Поскольку согласно п. 1 ст. 1228 ГК РФ8 результаты интеллектуальной деятельности (произведения, изобретения и т.п.) представляют собой плоды творческой созидательной деятельности человека (автора), то важно учитывать результаты, созданные искусственным интеллектом, в качестве результата творческой деятельности людей, создавших программу и поставивших перед искусственным интеллектом задачу для исследования.
5Ю.С. Харитонова, В.С. Савина «Технология искусственного интеллекта и право: вызовы современности»//Вест-ник Пермского университета. Юридические науки, 2020, N 3.С.5-6
6 Polydor S., Czapska M., Roberts K. Chinese Dreamwriter Decision: a Dream Come True for Al-generated Works? URL: https://www.connectontech.com/2020/04/20/chinese-dreamwriter-decision-a-dream-come-true-for-ai-generated-works.
7
Результат, созданный искусственным интеллектом, необходимо отнести наравне с результатом интеллектуальной собственности, созданным человеком, к объектам интеллектуальной собственности для использования в исследованиях и разработках технологий искусственного интеллекта, что в интересах цифровой трансформации будет способствовать охраноспособности результатов интеллектуальной деятельности. При отнесении созданного искусственным интеллектом результата к объектам интеллектуальной собственности правообладатель алгоритма и организатор создания результата интеллектуальной деятельности должны иметь возможность предусмотреть в лицензионном договоре условие, согласно которому если лицензиат использует алгоритм (искусственный интеллект) для создания нового результата интеллектуальной деятельности, то исключительное право на этот результат будет принадлежать лицензиату и лицензи-
ару9.
В промышленном производстве искусственный интеллект представляет собой технологию создания интеллектуальных машин, интеллектуальных компьютерных программ, свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Искусственный интеллект в промышленности применяется на следующих уровнях: на уровне производства для совершенствования бизнес-процессов и координации (оркестрации) различных производственных систем. Использование интеллектуальных помощников помогает снизить количество ошибок персонала, упростить процесс производства и уменьшить время простоев при перестроении технологических процессов. Функции распознавания изображений могут анализировать перемещения сотрудников и подвижного оборудования, повышая тем самым уровень безопасности на предприятии, а также используются для контроля качества и анализа состояния оборудования. На уровне логистики для улучшения планирования маршрутов транспортировки, уменьшения сроков доставки сырья и обеспечения их прогнозируемо-сти, а также отслеживания отправлений и процесса доставки на всех этапах. С помощью искусственного интеллекта можно предсказывать колебания объемов отгрузок до того, как они произойдут, интерактивное общение помогает выстраивать взаимодействие с клиентами и поставщиками. На уровне продвижения искусственный интеллект может быть использован для прогнозирования объемов услуг поддержки и обслуживания, управления
8 Гражданский кодекс Российской Федерации (часть IV) от 18 декабря 2006 г. N 230-Ф3 (ред. от 18.07.2019) // СЗ РФ. 2006. N 52. Ч. 1. Ст. 5496.
9 Н.В. Козлова, Н.В. Суханова, А.С. Ворожевич, И.А. Алешковский «Цифровая трансформация в контексте приоритетов государственной научно-технической политики и вопросы совершенствования правового регулирования цифровой экономики в Российской Федера-ции»//Предпринимательское право, 2020, С.9.
https://register.epo.org/application?documentId=E4B63SD6 2191498&number=EP18275163&lng=en&npl=false.
ценообразованием и анализа удовлетворенности клиентов качеством продукции10.
Тема ответственности при применении искусственного интеллекта связана с наличием проблем регулирования ответственности за причинение вреда с использованием систем искусственного интеллекта и робототехники.
Поскольку в настоящее время в мире отсутствуют единые подходы к регулированию технологий искусственного интеллекта и робототехники, то существует ряд проблем, не имеющих однозначного решения.
В Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденной распоряжением Правительства РФ от 19.08.2020 № 2129-р11, согласно которой имеются концептуальные проблемные направления для правового регулирования при применении искусственного интеллекта, такие как:
- соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта;
- определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники;
- идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его информирование о взаимодействии с такой системой;
- правовое «делегирование» решений системам искусственного интеллекта и робототехники;
- ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники;
- правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта;
- использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта).
Такие направления регулирования и указанные в пункте 49 Национальной стратегии основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта, должны стать основными ориентирами при создании комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта и робототехники.
10 Использование искусственного интеллекта - неотвратимое будущее промышленности, 2019. https://softline.ru/about/blog/ispolzovanie-iskusstvennogo-
intellekta-neotvratimoe-buduschee-promyishlennosti
С учетом экономической и социальной значимости применения технологий искусственного интеллекта и робототехники в различных сферах их разработка и эксплуатация не должны ограничиваться регуляторными мерами, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан. Также не допускается применение технологий искусственного интеллекта и робототехники, представляющих явную угрозу обороне страны и безопасности государства.
Для выработки конкретных регуляторных решений требуется использовать риск-ориентированный подход, основанный на оценке размера потенциального вреда указанным ценностям с учетом вероятности его наступления по сравнению с потенциальным положительным эффектом от внедрения технологий искусственного интеллекта и робототехники, необходимости принятия мер по минимизации соответствующих рисков. Сам факт использования систем искусственного интеллекта и робототехники не должен являться основанием для установления регуляторных ограничений.
Следует поддерживать развитие регулирования, вырабатываемого и приводимого в исполнение силами участников рынка (саморегулирование), включая принятие и использование документов национальной системы стандартизации, кодексов (сводов) этических правил и иных документов саморегулируемых организаций, а также иных инструментов.
Учитывая принципиальную сложность регулируемой сферы правоотношений, для выработки режима регулирования технологий искусственного интеллекта и робототехники требуется активное вовлечение представителей компаний - разработчиков систем искусственного интеллекта и робототехники, научно-исследовательских организаций в процесс экспертной проработки соответствующих нормативных правовых актов. И, кроме того, в дальнейшем может также потребоваться уточнение отдельных норм законодательства в целях нормативного правового регулирования новых видов правоотношений.
Литература
1. Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. С.5.
2. Цифровая революция в сфере финансов: правила безопасного поведения потребителя. Москва, 2019. С.12.
3. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»)// СЗ РФ. 2019. № 41. Ст. 5700.
4. McCarthy J. What is Artificial Intelligence? Computer Science Department. Stanford University.
11 Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденная распоряжением Правительства РФ от 19.08.2020 N 2129-р. Собрание законодательства РФ, 31.08.2020, N 35, ст. 5593
November 12, 2007. URL: http://www-formal.stan-ford.edu/jmc/whatisai/whatisai.html.
5. Ю.С. Харитонова, В.С. Савина «Технология искусственного интеллекта и право: вызовы совре-менности»//Вестник Пермского университета. Юридические науки, 2020, N 3.С.5-6.
6. Polydor S., Czapska M., Roberts K. Chinese Dreamwriter Decision: a Dream Come True for AI-generated Works? URL: https://www.connectontech.com/2020/04/20/chinese-dreamwriter-decision-a-dream-come-true-for-ai-generated-works. URL: https://register.epo.org/application?documentId=E4B6 3 SD62191498&number=EP18275163&lng=en&npl=f alse.
7. Гражданский кодекс Российской Федерации (часть IV) от 18 декабря 2006 г. N 230-Ф3 (ред. от 18.07.2019) // СЗ РФ. 2006. N 52. Ч. 1. Ст. 5496.
8. Н.В. Козлова, Н.В. Суханова, А.С. Вороже-вич, И.А. Алешковский «Цифровая трансформация в контексте приоритетов государственной научно-технической политики и вопросы совершенствования правового регулирования цифровой экономики в Российской Федерации»//Предпринимательское право, 2020, С.9.
9. Использование искусственного интеллекта -неотвратимое будущее промышленности, 2019. URL: https://softline.ru/about/blog/ispolzovanie-iskusstvennogo-intellekta-neotvratimoe-buduschee-promyishlennosti.
10. Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, утвержденная распоряжением Правительства РФ от 19.08.2020 N 2129-р. Собрание законодательства РФ, 31.08.2020, N 35, ст. 5593.
