CC BY
20
НАУЧНЫЙ ОТДЕЛ
ФИЛОСОФИЯ
Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2023. Т. 23, вып. 2. С. 124-128
Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2023, vol. 23, iss. 2, pp. 124-128 https://phpp.sgu.ru https://doi.org/10.18500/1819-7671-2023-23-2-124-128
EDN: OPXCNI
Научная статья УДК 141.338+141.8
Мифология технологий в российском правовом дискурсе: аналитика нормативного регулирования в сфере искусственного интеллекта
И.В.Батурина
Южно-Уральский государственный университет (Национальный исследовательский университет), Россия, 454080, г. Челябинск, проспект Ленина, д. 76
Батурина Ирина Валерьевна, кандидат исторических наук, старший преподаватель кафедры философии, [email protected], https://orcid.org/0000-0002-4159-797Х
Аннотация. Введение. Интенсификация технологического прогресса в современном мире обусловила возникновение различных дискурсов, связанных с возможностями систем искусственного интеллекта. Этот процесс сопровождался созданием технологического мифа, который продолжает укореняться в цифровом пространстве и в настоящее время. Теоретический анализ. Технологический миф раскрывает культурный контекст, из которого он формируется, показывает вторичные смыслы и значения (Р. Барт), выполняет прогностическую функцию. Методология исследования основывается на контент-анализе нормативно-правовой базы РФ в области искусственного интеллекта. Эмпирический анализ. Рассмотрение проблемы позволило выявить частотность обращения российского законодателя к мысли о «балансе» в отношении пессимистических и оптимистических тенденций в технологическом дискурсе. Технопрогрессивиские маркеры проявились в виде стремления к распространению систем искусственного интеллекта на мировом рынке, а технопессимистические - в установлении принципов «поднадзор-ности» и «прозрачности». Заключение. Поиск баланса и решение противоречий законодатель видит в проникновении этических основ в разработку систем искусственного интеллекта, в формулировании и установлении фундаментальных морально-правовых принципов в сфере использования технологий. Ключевым моментом в изучении данного вопроса является рефлексия и использование методов конструктивно-критического подхода к техномифологии.
Ключевые слова: технологический миф, право, искусственный интеллект, нормативное закрепление, технопрогрессивизм, технопессимизм, этические принципы
Для цитирования: Батурина И. В. Мифология технологий в российском правовом дискурсе: аналитика нормативного регулирования в сфере искусственного интеллекта // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2023. Т. 23, вып. 2. С. 124-128. https://doi.org/10.18500/1819-7671-2023-23-2-124-128, EDN: OPXCNI
Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0)
© Батурина И. В., 2023
И. В. Батурина. Мифология технологий в российском правовом дискурсе
Article
The mythology of technologies in Russian legal discourse: Analytics of normative regulation in the field of artificial intelligence
I. V. Baturina
South Ural State University (National Research University), 76 Lenin prospekt, Chelyabinsk 454080, Russia Irina V. Baturina, [email protected], https://orcid.org/0000-0002-4159-797X
Abstract. Introduction. The intensification of technological progress in the modern world has led to the emergence of various discourses related to the capabilities of artificial intelligence systems. This process was accompanied by the creation of a technological myth that continues to take root in the digital space at the present time. Theoretical analysis. Technological myth reveals the cultural context from which it is formed, shows secondary meanings and connotations (R. Barth), performs a predictive function. The research methodology is based on a content analysis of the regulatory framework of the Russian Federation in the field of artificial intelligence. Empirical analysis. Consideration of the problem allowed us to identify the frequency of a Russian legislator's appeal to the idea of "balance" in relation to pessimistic and optimistic trends in technological discourse. Technoprogressive markers manifested themselves in the form of a desire to spread artificial intelligence systems on the world market, and technopessimistic ones - in establishing the principles of "supervision" and "transparency". Conclusion. A legislator sees the search for balance and the solution of contradictions in the penetration of ethical foundations into the development of artificial intelligence systems, in the formulation and establishment of fundamental moral and legal principles in the field of technology use. The key point in studying this issue is reflection and the use of methods of a constructive and critical approach to technomythology.
Keywords: technological myth, law, artificial intelligence, normative consolidation, technoprogressivism, technopessimism, ethical principles For citation: Baturina I. V. The mythology of technologies in Russian legal discourse: Analytics of normative regulation in the field of artificial intelligence. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 2023, vol. 23, iss. 2, pp. 124-128 (in Russian). https://doi. org/10.18500/1819-7671-2023-23-2-124-128, EDN: OPXCNI
This is an open access article distributed under the terms of Creative Commons Attribution 4.0 International License (CC-BY 4.0)
Введение
История инфотехнологий показывает, что дискурс, связанный с интеллектуальными машинами, искусственным интеллектом и кибернетикой, всегда сопровождался наличием публичного поля, в котором продуцировался широкий спектр страхов и надежд, скептицизма и ожиданий.
Создание «разумной» машины, моделирующей мозг человека, разработка роботов, автоматизирующие процессы на производстве; распространение обслуживающих роботов-уборщиков, поваров, хирургов, чат-ботов («юристов», «психотерапевтов», «философов» и пр.) в современном мире привели к формированию многочисленных дискурсов, выражающих различные представления об интеллектуальных машинах и их возможностях.
Неудивительно, что создание искусственного интеллекта вызывает противоречивые отклики. «Разумная» машина, воспроизводящая когнитивные способности человеческого мозга, породила во многом критическое отношение и привлекла внимание не только ученых и 1Т-специалистов, но и общественных деятелей. Декларирование искусственного интеллекта сопровождалось созданием уникального культурного технологического мифа. Он развивался в дебатах журналистов, инфлюенсеров, научного сообщества, в обывательских кругах и порождал диалог, в котором участвовали как его сторонни-
ки, так и критики. Дискуссии, возникающие вокруг этой темы, являются неотъемлемой частью мифа, поскольку способствуют его постоянной активности, циркуляции в медиапространстве, способности привлекать внимание. В настоящее время технологический миф продолжает конституироваться, глубоко влиять на современное цифровое пространство и формировать его. Социальная реальность репрезентуется в том числе и политическим дискурсом, где техномиф в правовом контексте выступает как индикатор общеполитических ценностей и идеалов. Зачастую доминанты политической системы общества определяют и детерминируют «главные магистрали» техномифотворчества. Данное исследование представляет собой попытку анализа техномифа в легальных конструкциях нормативных и нормативно-правовых актов РФ с целью установления превалирующих закономерностей в построении мифа об искусственном интеллекте, а также определения тенденций общеполитического влияния на его конституирование.
Теоретический анализ
Понятие «миф» рассматривается во многих европейских научных исследованиях культуры и медиа. Концепция мифа, в частности, представлена в известном интеллектуальном наследии Р. Барта. По мнению мыслителя, миф - это сообщение и способ означивания, находящийся в
коммуникативной среде. Он имеет свой социальный контекст, исторические условия употребления и является вторичной семиологической системой, в которой сообщение формируется из некоторого материала, уже обработанного для целей определенной коммуникации [1]. Технология - это историко-социальный проект, находящийся в диалектической взаимосвязи с обществом и развивающийся в ответ на уже существующую социальную реальность. Миф об искусственном интеллекте раскрывает культурный дискурс, из которого он возникает, и служит показателем того, как инновации вписываются в современный мир.
Таким образом, технология существует как носитель вторичных смыслов и значений. Причем вторичные смыслы порождаются не только публицистическими или паранаучными дискурсами, но и теми, которые характеризуются строгостью формулировок и избегают метафорического языка. Следует оговориться, что в своем последнем монографическом исследовании С. В. Тихонова и Д. С. Артамонов, развивая семиотическую интерпретацию Ю. М. Лотмана и Я. Ассмана, связали мифы и метафорику [2, с. 180].
Методология исследования конституируется контент-анализом нормативно-правовой базы РФ в области искусственного интеллекта [3-5]. Юридические акты устанавливают цели и задачи, связанные с технологическим развитием России, определяют режимы использования роботов и автоматических систем с учетом национальных интересов. Кодекс этики носит добровольный характер, распространяется на гражданские разработки и представляет собой единую систему рекомендательных правил и принципов, предназначенных для создания среды развития технологий в Российской Федерации.
Эмпирический анализ
Аналитические материалы свидетельствуют о том, что законодатель пытается найти «баланс» в отношении пессимистических и оптимистических тенденций. По всем нормативно-право -вым актам показатель варьируется в рамках от 10 до 14 упоминаний, которые выражаются в следующих формулировках: «баланс интересов человека, общества, государства», «регулятор-ное воздействие», «надежность, достоверность, безопасность решений», «использование самых гибких инструментов».
Технопрогрессивизм (более 10 упоминаний) как конструкт проявляется в источниковой базе в виде стабильно декларируемой позиции законодателя, выражающейся в стремлении к распро-
странению российских систем искусственного интеллекта на мировом рынке, в международном лидерстве в отношении развития технологий, в потребности формирования сообщества 1Т-специалистов. Государство заявляет об обеспечении приоритетной поддержки фундаментальных и прикладных научных исследований в данной сфере, активном использовании программ повышения цифровой грамотности.
Технопессимистические маркеры частотно присутствуют в Кодексе этики в виде установления необходимости разработки методики, связанной с прогнозированием возможных потенциально-негативных социально-экономических последствий и рисков, приводящих к трансформациям в культурной сфере и изменениям в ценностной парадигме общества, где национальным приоритетам должно отводиться лидирующее место. Также делается акцент на контроле рекурсивного самосовершенствования технологий. В российском законодательстве довольно четко и последовательно обозначается дефиниция об ответственности, связанной с результатами применения искусственного интеллекта. Юридическую ответственность за последствия применения технологий несет человек. Принцип «поднадзорности» и «прозрачности» выходят на первый план и транслируются в данном акте несколько раз.
Пристальное внимание к « поднадзорности» и «прозрачности» связано с тем, что данный Кодекс составлялся не только представителями государственных структур. В «Альянс в сфере искусственного интеллекта» входят специалисты, непосредственно изучающие технологии и работающие с ними, представители гражданского общества, ученые, бизнес-организации и предприниматели. Данные категории специалистов практически используют системы интеллектуальных машин. В своей деятельности они сталкиваются с « побочными технологическими эффектами»: вредоносным программным обеспечением, кибертерроризмом, массовым сбором личной информации для социальных манипуляций, сокращением рабочих мест и др. Очевидно, наличие прецедентов, касающихся правоприменения в сфере разработок и использования искусственного интеллекта, привело акторов к необходимости аксиологического осмысления данного феномена, что и вызвало к жизни составление Кодекса этики.
Идея «прозрачности» не нова. Она была выражена еще в работах М. Фуко, в которых обосновывалось положение о том, что человек начинает контролировать свои действия, так как у него есть осознание постоянного внешнего над-
И. В. Батурина. Мифология технологий в российском правовом дискурсе
зора за ним. Система внутреннего регулирования личности инициирована контролем сверху. Так поведение индивида становится прозрачным [6]. В законах и Кодексе этики звучат формулировки «риск-ориентированный», «междисциплинарный подход», «подконтрольность человеку», «использование самых гибких инструментов» и др. Акцент делается на утилитарном и целевом характере технологий.
Д. Брин в «Прозрачном обществе» описал идею о том, что для социума будет благом, если полномочия государства по контролю будут разделены с гражданами. Это породит так называемый «надзор снизу» и позволит общественности «наблюдать за наблюдателями» [7]. В сфере развития интеллектуальных систем России это находит свое отражение в предложении в ряде нормативных актов о совместном прогнозировании социальных и этических аспектов использования искусственного интеллекта. В Кодексе этики также находим положение о создании спектра практик решения возникающих этических вопросов в жизненном цикле искусственного интеллекта, отбираемых по критериям, установленным профессиональным сообществом. В нем же подчеркивается наличие мер по обеспечению публичного доступа к данному своду практик.
Стоит отметить, что законодатель не является ярко выраженным «технооптимистом». Инновационизм в области развития интеллектуальных систем подвергается им разносторонней оценке. В нормативных актах содержится указание на препятствия и риски в отношении безопасности страны, жизни и здоровья человека (показатель варьируется в пределах от 3 до 6). Также акцентируется внимание на одной из причин недоверия работе искусственного интеллекта, выражающейся в отсутствии понимания гражданином Российской Федерации механизма получения результата в области использования 1Т.
Исследование маркировки «антропомор-физации» (4 маркера) и «технологизации» (5 маркеров) интеллектуальной машины в источ-никовой базе показало наличие незначительного количества упоминаний. Законодатель в этом смысле придерживается научно-инженерных формулировок.
Основываясь на анализе нормативно-правовых актов РФ, мы определили 3 доминирующих закономерности в построении мифа об искусственном интеллекте в российском правовом дискурсе: 1) технопрогрессивизм как конструкт системно и стабильно декларируется в источни-ковой базе, обозначая перспективы и будущие достижения, направленные на благо государства,
общества и человека; 2) технопессимистиче-ские маркеры преимущественно содержатся в Кодексе этики. Подчеркивается необходимость разработки методики, связанной с прогнозированием возможных потенциально-негативных последствий; 3) мысль законодателя сводится к минимизации и смягчении опасности путем проникновения этических основ в разработку и внедрение технологий. Именно с них начинается поиск баланса и решение противоречий.
Заключение
Информационно-коммуникативные технологии искажают чувство личной идентичности, предлагая человеку цифровой взгляд, позволяющий воспринимать себя с позиции «ограниченной окружающей природной среды», формируя искаженный образ самости. Одним из путей решения данного вопроса является обращение взгляда публичности на применение и внедрение этики для достижения положительных изменений в данной области.
Таким образом, разработка норм этики может быть лучшим способом решения проблем быстро развивающегося технологического ландшафта. Включение данного сектора в процессы регулирования и законодательного закрепления представляется результативным методом оказания влияния на будущую интенсификацию научного прогресса. Эта тенденция целенаправленно транслируется во всех правовых актах РФ, касающихся сферы развития интеллектуальных систем. Все изученные источники предлагают и разъясняют этические правила, которые выражаются в виде установления принципов регулирования. Основываясь на положениях трех законов робототехники А. Азимова, исходя из идеи человеко-ориентированного подхода, в актах системно проводится положение о безопасности, прозрачности, идентификации искусственного интеллекта во взаимодействии с человеком.
Принцип «человеко-ориентированности» фундирует все этические начала данных актов как в смысле утилитарного применения искусственного интеллекта, так и норм ответственности. Все последствия, связанные с технологическими ошибками и сбоями, сосредоточены на фигуре человека. Использование искусственного интеллекта преследует определенную цель: человек в этом смысле должен оценивать направление, в котором он движется. Уровень устойчивости развития технологий будет зависеть от его цифровой адаптированности, грамотности и этической готовности.
Технопрогрессистские взгляды в нормативно-правовой базе РФ транслируют мысль о том, что технологическое развитие является локомотивной силой благополучия социума и человека. Устойчивое развитие инноваций оптимизирует многие процессы в сельском хозяйстве, промышленности, транспорте, строительстве, медицине, охране окружающей среды, в сфере безопасности. Технопессимистические тенденции в законодательстве России об искусственном интеллекте сводятся к установлению принципов «поднадзорности» и «прозрачности».
Распознавание этих особенностей дает полезные подсказки для изучения возникновения не только конкретных технологических мифов в правовой среде российской юридической и политической систем, но и мифов об искусственном интеллекте, созданных в других контекстах, например в медиа, обывательских представлениях, и др. Ключевым моментом изучения данных закономерностей является рефлексия над мифами. Сосредоточие усилий на наиболее эффективных средствах осмысления феномена, использование методов философской рефлексии, конструктивно-критического подхода к техномифологии способствуют формированию способности человека разносторонне оценить риски и перспективы развития интеллектуальных машин.
Таким образом, в современном российском законодательстве идет процесс поиска фундаментальных основ, векторов развития аксиологического понимания в сфере технологического развития. Законодатель пытается найти «баланс» в отношении технопессимистических и техно-оптимистических тенденций в виде инициатив в области этики, разработки фундаментальных принципов в сфере использования и развития систем искусственного интеллекта.
Список литературы
1. Барт Р. Миф сегодня // Избранные работы: Семиотика. Поэтика. М. : Прогресс, Универс, 1994. С. 72-130.
2. Артамонов Д. С., Тихонова С. В. Петр I в медиапа-мяти. Саратов : Саратовский источник, 2022. 180 с.
3. Национальная стратегия развития искусственного интеллекта на период до 2030 г.: указ Президента РФ от 10 октября 2019 г. № 490. URL:http://publication. pravo.gov.ru/Document/View/0001201910110003?inde x=0&rangeSize=1 (дата обращения: 10.01.2023).
4. Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г.: распоряжение Правительства РФ от 19 августа 2020 г., № 2129-р // Собр. законодательства Рос. Федерации. 2020. № 35, ст. 5593.
5. Кодекс этики в сфере искусственного интеллекта. URL: https://ethics.a-ai.ru/ (дата обращения: 10.01.2023).
6. Фуко M. Надзирать и наказывать. Рождение тюрьмы / пер. с фр. В. Наумова ; под ред. И. Борисовой. M. : Ad Marginem, 1999. 480 с.
7. Brin D. Transparent society. New York : Perseus Books, 1998. 384 p.
References
1. Bart R. A myth today. In: Izbrannye raboty: Semiotika. Poetika [Selected Works: Semiotics. Poetics]. Moscow, Progress, Univers Publ., 1994, pp. 72-130 (in Russian).
2. Artamonov D. S., Tikhonova S. V. Petr I v mediapamyati [Peter I in Media Memory]. Saratov, Saratovskiy isto-chnik Publ., 2022. 180 p. (in Russian).
3. National Strategy for the development of artificial intelligence for the period up to 2030. Decree of the President of the Russian Federation of October 10, 2019 no. 490. Available at: http://publication.pravo.gov.ru/Document/ View/0001201910110003?index=5&range Size=1 (accessed 10 January 2023) (in Russian).
4. The concept of development of regulation of relations in the field of artificial intelligence and robotics technologies until 2024. Decree of the Government of the Russian Federation of August 19, 2020 no. 2129-R. Sobranie zakonadatel'stva RF [Collection of Laws of the Russian Federation], 2020, no. 35, art. 5593 (in Russian).
5. Code of Ethics in the field of Artificial Intelligence. Available at: https://ethics.a-ai.ru / (accessed 10 January 2023) (in Russian).
6. Fuko M. Nadzirat i nakazyvat. Rozhdenie tyurmy [Fuko M. To supervise and Punish. The Birth of the Prison]. Moscow, Ad Marginem Publ., 1999. 480 p. (in Russian).
7. Brin D. Transparent society. New York, Perseus Books, 1998. 384 p.
Поступила в редакцию 21.02.2023; одобрена после рецензирования 23.03.2023; принята к публикации 27.03.2023 The article was submitted 21.02.2023; approved after reviewing 23.03.2023; accepted for publication 27.03.2023
