CC BY
0
Научная статья УДК 346.62
АННА ЕВГЕНЬЕВНА КАМЫШАНОВА
Кандидат юридических наук, доцент, профессор кафедры гражданского права и процесса, ЧОУ ВО «Таганрогский институт управления и экономики», г. Таганрог e-mail: a.kamyshanova@tmei.ru
ВОЗМОЖНОСТИ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ДЕЯТЕЛЬНОСТИ ЮРИСТОВ
Аннотация. 13 марта 2024 года Европарламентом принят закон об искусственном интеллекте. Закон запрещает использование технологий, нарушающих права граждан, и вводит четыре категории риска использования систем ИИ - низкую, среднюю, высокую и неприемлемую. Так, например, запрещены технологии ИИ, манипулирующие поведением человека или использующие уязвимость людей. В Российской Федерации существуют Национальная стратегия развития искусственного интеллекта на период до 2030 года (принятая в 2019 году), Концепция развития отношений в сфере технологий искусственного интеллекта и робототехники 2020 года, в 2021 году был принят Кодекс этики в сфере искусственного интеллекта, который является правовой основой для создания и использования технологий ИИ до принятия соответствующего законодательства. При пилотном законодательстве нет окончательного подхода к определению искусственного интеллекта и границам его использования, что порождает множество проблем на практике. При этом отдельные технологии ИИ активно используются в различных отраслях деятельности, демонстрируя свою эффективность. Особое внимание при использовании технологий ИИ уделяется в деятельности юристов, так как отдельные элементы его внедрения в практическую юридическую деятельность уже имеют место. При этом существуют и новые возможности использования технологий ИИ в деятельности юристов, которые анализируются в данной работе.
Ключевые слова: деятельность юристов, искусственный интеллект, правосудие с искусственным интеллектом, технологии ИИ
Тематический рубрикатор e-Library: 10.19.25
ANNA EV. KAMYSHANOVA
PhD in Law, Associate Professor, Professor of the Department of Civil Law and Procedure, Taganrog Institute of Management and Economics, Taganrog
POSSIBILITIES OF USING ARTIFICIAL INTELLIGENCE IN THE ACTIVITIES OF LAWYERS
Abstract. On March 13, 2024, the European Parliament adopted a law on artificial intelligence. The law prohibits the use of technologies that violate the rights of citizens and introduces four risk categories for the use of AI systems -low, medium, high and unacceptable. For example, AI technologies that manipulate human behavior or exploit human vulnerabilities are prohibited. In the Russian Federation, there is a National Strategy for the Development of Artificial Intelligence for the period up to 2030 (adopted in 2019), a Concept for the Development of Relations in the Field of Artificial Intelligence and Robotics Technologies in 2020, and in 2021 a Code of Ethics in the Field of Artificial Intelligence was adopted, which is the legal basis for the creation and use of AI technologies before the adoption of relevant legislation. With pilot legislation, there is no. final approach to defining artificial intelligence and the boundaries of its use, which gives rise to many problems in practice. At the same time, certain AI technologies are actively used in various industries, demonstrating their effectiveness. When using AI technologies, special attention is paid to the activities of lawyers, since certain elements of its implementation in practical legal activities are already taking place. At the same time, there are new opportunities for using AI technologies in the activities of lawyers, which are analyzed in this work.
Keywords: activities of lawyers, artificial intelligence, justice with artificial intelligence, AI technologies
Одним из современных направлений развития техники в XXI веке стало создание и использование искусственного интеллекта (artificial intelligence - AI). Впервые понимание возможности вычислительных машин самостоятельно, отдельно от заданной программы мыслить пришло в середине XX века. Известный математик, разработчик ЭВМ Алан Тьюринг в своей статье «Вычислительные машины и
разум» (журнал «Mind», 1950) ставил целью выяснить, может ли машина мыслить [1, с.435].
13 марта 2024 года на выставке-форуме «Россия» крупнейшими отечественными разработчиками искусственного интеллекта, представителями образовательных организаций высшего образования, научных организаций была подписана Декларация об ответственной разработке и использовании сервисов на
© А.Е. Камышанова, 2024
основе генеративного искусственного интеллекта. Также на данном мероприятии в рамках «Дня искусственного интеллекта» ПАО «Сбербанк» представил умного юридического помощника на основе искусственного интеллекта GigalLegal. Данная программа делает возможными ускоренное составление договоров, анализ правоприменительной практики и может упростить работу риелторов, юристов, банковских работников, бухгалтеров, которые работают с документами, клиентами [2].
Особое внимание развитию технологий искусственного интеллекта было уделено в Послании Президента Федеральному Собранию 29 февраля 2024 г. Президент РФ указал, что одним из направлений развития экономики является повышение производительности труда, одной из основ которого должно стать внедрение цифровых технологий в управление и производство. И для реализации данных целей необходимо использование искусственного интеллекта [3].
При этом в научной технической и юридической литературе нет однозначного мнения о понятии искусственного интеллекта, нет основных правил его использования и в части сферы применения не до конца изучены возможности применения AI в различных отраслях профессиональной деятельности, в том числе, в деятельности юристов.
Первые определения искусственного интеллекта носили исключительно технический характер. Впервые такое понятие дал американский учёный Джон Маккарти: искусственный интеллект определялся им как свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Также под категорией искусственного интеллекта понимали технологию создания интеллектуальных машин, интеллектуальных компьютерных программ [4, с.180]. Важно отметить, что одним из признаков AI является возможность к обучаемости - на основе информационной сети Internet, датчиков, вводимых данных. Применение понятия искусственного интеллекта распространяется как на программное обеспечение, так и на устройства (роботы), которые его используют.
По мнению И.В. Понкина, А.И. Редькиной, «...искусственный интеллект представляет собой искусственную сложную кибернетическую компьютерно-программно-аппаратную систему (электронную, в том числе виртуальную, электронно-механическую, биоэлектронно-механическую или гибридную) с когнитивно-функциональной архитектурой и собственными или релевантно-доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия» [5, с.94].
Данная система обладает рядом признаков: 1) способна самостоятельно проводить анализ данных об окружающей среде; 2) обладает автономией; 3) имеет самостоятельную возможность обучаться в процессе жизненного цикла.
Важнейшую роль в технологиях AI играют программные компьютерные технологии.
Фактические отношения в связи с созданием искусственного интеллекта начали активно развиваться в 1990-е годы, однако правовое регулирование данных отношений отсутствовало. В настоящее
время назрела острая потребность в адекватном правовом регулировании, так как искусственный интеллект охватывает всё больше жизненных сфер.
В России начало отсчёта правового регулирования Л1 можно вести с 2017 года, так как он упоминается в Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг. [6].
Указом Президента от 10 октября 2019 года «О развитии искусственного интеллекта в Российской Федерации» были внесены изменения в национальную программу «Цифровая экономика Российской Федерации» и была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года. Данная стратегия содержит определение искусственного интеллекта: искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений [7]. При этом надо понимать, что Стратегия содержит ряд важных программных положений, но собственно правовое регулирование не осуществляет. При этом одним из направлений развития в сфере искусственного интеллекта в Концепции обозначено создание комплексной системы нормативно-правового регулирования общественных отношений, связанных с развитием и использованием технологий искусственного интеллекта, обеспечение безопасности применения таких технологий.
На основе Указа Президента в 2020 году Правительством РФ была утверждена Концепция развития отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г. Целями Концепции являются: 1) определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства; 2) создание предпосылок для формирования основ правового регулирования новых отношений, складывающихся в связи с разработкой и применением технологий Л1 и робототехники и систем на их основе; 3) определение правовых барьеров, препятствующих разработке и применению систем Л1 [8].
В 2020 году для реализации концептуальных установок государства в сфере развития искусственного интеллекта и обеспечения интересов страны на глобальном рынке была создана некоммерческая организация - Ассоциация «Альянс в сфере искусственного интеллекта». Его площадка сегодня является центром развития искусственного интеллекта в России.
На основании Указа Президента РФ от 10.10.2019 был принят Кодекс этики в сфере искусственного
интеллекта. Кодекс был разработан Ассоциацией «Альянс в сфере искусственного интеллекта» совместно с Аналитическим центром при Правительстве РФ при активном участии представителей научного и бизнес-сообщества и принят 26 октября 2021 года акторами в сфере искусственного интеллекта. Он регулирует этическую сторону создания и использования продукта на основе технологий Л1. На начало 2024 года к Кодексу этики присоединились 43 федеральных органа исполнительной власти, 17 органов власти субъектов РФ, 330 российских и 23 иностранных организации. Действие Кодекса распространяется на отношения в части этических аспектов при проектировании, внедрении и использовании технологий Л1, не урегулированные законодательством, при этом отношения, подпадающие под действие Кодекса, носят сугубо гражданский (не военный) характер. Нормы Кодекса в большинстве своём закрепляют принципы разработки и внедрения технологий искусственного интеллекта (ИИ), устанавливают общие рамки поведения, но конкретных правовых режимов не содержат [9].
В зарубежных правовых системах также предпринимаются попытки законодательно урегулировать отношения в сфере ИИ. В 2024 году, 13 марта, Европарламентом принят закон об искусственном интеллекте. Закон запрещает использование технологий, нарушающих права граждан, и вводит четыре категории риска использования систем ИИ - низкую, среднюю, высокую и неприемлемую. Так, например, запрещены технологии ИИ, манипулирующие поведением человека или использующие уязвимость людей. Правоохранительные органы не могут проводить биометрическую идентификацию людей, кроме поиска пропавшего человека или предотвращения террористической атаки. Согласно закону, системы ИИ высокого риска должны быть прозрачными и контролироваться человеком, к ним относятся «... критически важные инфраструктуры, образование и профессиональная подготовка, частные и государственные услуги, например, здравоохранение, банковское дело, определенные системы правоохранительных органов, миграция и управление границами, правосудие и демократические процессы». Закон также обязывает всех участников отношений соблюдать авторские права, осуществлять охрану личных изображений, предусматривает возможность обжалования деятельности систем ИИ [2].
Очевидно, что и отечественное, и зарубежное законодательство предполагают широчайший круг правоотношений с использованием ИИ. Одной из сфер деятельности, в которых уже используются технологии ИИ, является юридическая деятельность. В последние годы были высказаны разные мнения о возможностях использовать технологии ИИ в юридической профессии. Так, А.А. Васильев и О.В. Васильева считают, что при внедрении ИИ в деятельность юристов выявятся как плюсы, так и минусы. При этом авторы полагают, что применение технологий ИИ позволит свести к минимуму фактор правовой неопределённости и повлечёт трансформацию «человеческого права» в роботизированный алгоритм, основанный на формальной логике. По мнению
авторов, места человеку в этой системе не останется, поскольку все юридически значимые действия будут определяться цифровым кодом [10, с.11]. Однако не уточняется, о каких видах юридической деятельности идёт речь.
Ряд исследователей предостерегают от использования ИИ в деятельности юристов. В частности, А.П. Иванова полагает, что «.современные технологии ИИ, как правило, лучше всего подходят для тех видов деятельности, где есть базовые паттерны и правила, формализованные однозначные ответы. Однако в концептуальных, абстрактных областях, где преобладает ценностный подход и необходима интуиция, технологии искусственного интеллекта малоприменимы» [11, с.94].
В настоящее время существует несколько уже действующих в правоприменительной деятельности или планируемых к внедрению технологий ИИ. Однако также можно выделить наиболее положительные перспективные возможности, которые позволят, с одной стороны, сделать юридическую помощь более доступной, а с другой - облегчат труд профессиональных юристов.
Одной из перспективных сфер применения технологий ИИ является его использование с целью деэскалации споров. Важным является создание онлайн-сервисов подачи исковых и прочих заявлений гражданами самостоятельно. Данный сервис должен быть интуитивно понятным и позволить гражданину самостоятельно заполнить исковое заявление (или иное обращение). При этом в зависимости от категории спора должна быть разработана модель его оптимального урегулирования. Трек технологии ИИ должен позволить структурировать процесс, осуществить расчёт всех потенциальных судебных расходов, проанализировать наличные доказательства и исходя из анализа массива данных (имеющихся судебных решений по аналогичным спорам) спрогнозировать результат. При этом технология ИИ позволит людям, не имеющим специального образования, оценить целесообразность обращения в суд, экономическую сторону вопроса, даст рекомендации по кругу необходимых доказательств. Данный процесс позволит снизить нагрузку на судебные органы вследствие отсечения наименее обоснованных споров.
Также в рамках профилактики судебных споров (особенно между субъектами предпринимательской деятельности) позволит снизить их количество технология СуЪегеейк. Это принцип урегулирований споров, при котором стороны обмениваются требованиями и предложениями относительно спора через специальную программу, которая анализирует условия и при их пересечении составляет проект мирового соглашения, утверждаемого самой системой или сторонами спора. В США данная технология действует с 1998 г., с её помощью были заключены сделки (мировые соглашения) на общую сумму 1,9 млрд долларов США, самая большая сумма заключённого таким образом мирового соглашения достигла 12,5 млн долларов США [12].
Разумеется, внедрение таких сервисов потребует серьёзных материальных и организационных вложе-
ний, однако эффективность профилактических паттернов несомненна.
Важным направлением применения технологий ИИ в судопроизводстве является оптимизация непосредственно судебных процедур. Сегодня существуют упрощённые процедуры в гражданском и арбитражном процессах - приказное производство и упрощённое производство. Технологии искусственного интеллекта позволят при загрузке соответствующих данных самостоятельно проанализировать условия применения упрощённых форм судопроизводства и сформировать соответствующее процессуальное решение (определение, судебный приказ, решение или только его резолютивная часть). Данный алгоритм позволит интенсифицировать рассмотрение дел в упрощённом порядке и освободит судей и аппарат суда от рутинной механической работы. Можно предположить, что при рассмотрении так называемых «бесспорных» дел судопроизводство может быть автоматизировано до полного исключения судей из процесса вынесения решения.
В уголовном судопроизводстве технологии искусственного интеллекта могут использоваться при создании проектов приговоров на основе анализа
представленных доказательств, личности подсудимого, судебной практики по аналогичным делам. ИИ может создавать текст проекта приговора как основу для его вынесения судом. Важно, что в этих случаях технологии ИИ не подменяют судей, а лишь оказывают им помощь в поиске, анализе и обобщении информации.
Используя указанные возможности технологий ИИ, необходимо понимать, что целью их разработки и внедрения является повышение эффективности судопроизводства, освобождение юристов от монотонной рутинной работы, обеспечение доступности правосудия. Однако при создании технологий ИИ большое внимание должно быть уделено их информационной безопасности, защите прав и свобод личности, недопустимости утечки информации. При соблюдении всех правил, отражённых в Кодексе этики в сфере искусственного интеллекта, внедрение технологий ИИ будет эффективным и безопасным, однако необходима разработка специального законодательства, которое более детально регулировало бы отношения, возникающие в связи с созданием и использованием технологий ИИ в России.
// Mind.- Oxford: Oxford
СПИСОК ИСТО ЧНИКОВ
1. Turing A. Computing machinery and intelligence. - Текст : непосредственный University Press, 1950. - № 59. - P. 433-460.
2. Еркнапешян М. Первый в мире закон о регулировании ИИ принят Европарламентом / М. Еркнапешян. -Текст: электронный// Электронное периодическое издание «Научная Россия». - 2024. -URL:https://scientificrussia.ru/articles/pervyj-v-mire-zakon-o-regulirovanii-ii-prinat-evroparlamentom (дата обращения: 06.04.2024).
3. Послание Президента Российской Федерации Федеральному Собранию от 29 февраля 2024 года. - Текст: электронный : официальный сайт Президента РФ. - 2024. - URL:kremlin.ru (дата обращения: 06.04.2024).
4. Аверкин А.Н. Толковый словарь по искусственному интеллекту / А.Н. Аверкин, М.Г. Гаазе-Рапопорт, Д.А. Поспелов. - Москва: Радио и связь, 1992. - 256с. - ISBN 5-256-00605-3. - Текст: непосредственный.
5. Понкин И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина. - Текст: непосредственный // Вестник Российского университета дружбы народов. Серия: Юридические науки. -2018. - №1. - С. 94-95.
6. О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы: Указ Президента Российской Федерации от 9 мая 2017 г. №203. - Текст: электронный // Официальный интернет-портал правовой информации: официальный сайт. - 2024. - URL:http://pravo.gov.ru/ (дата обращения: 06.03.2024).
7. О развитии искусственного интеллекта в Российской Федерации: Указ Президента РФ от 10 октября 2019 г. № 490, с изм. и доп. на 15 февраля 2024г. - Текст: электронный // Официальный интернет-портал правовой информации: официальный сайт. - 2024. - URL:http://pravo.gov.ru/ (дата обращения: 06.04.2024).
8. Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.: Распоряжение Правительства РФ от 19 августа 2020 г. №2129-р. - Текст: электронный // Официальный интернет-портал правовой информации: официальный сайт (26 августа 2020 г. №0001202008260005). - 2024. - URL:http://pravo.gov.ru/ (дата обращения: 06.04.2024).
9. Кодекс этики в сфере искусственного интеллекта (от 26 октября 2021 г.) - Текст: электронный // Ассоциация «Альянс в сфере искусственного интеллекта» : официальный сайт. - 2024. - URL:https://a-ai.ru/ (дата обращения: 06.04.2024).
10. Васильев А.А. Искусственный интеллект: этические и правовые аспекты / А.А. Васильев. - Текст: непосредственный // Правовая мысль в образовании, науке и практике. - 2018. - № 4(8). - С. 9-12. - EDN EPBDPK.
11. Иванова А.П. Искусственный интеллект в сфере права и юридической практике: основные проблемы и перспективы развития / А.П. Иванова. - Текст: непосредственный // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Серия 4: Государство и право. - 2021. - № 1. - С. 90-98. - DOI 10.31249/rgpravo/2021.01.09. - EDN ZEJZKU.
12. Авдыев М.А. Сервисы разрешения споров онлайн: избранные кейсы / М.А. Авдыев. - Текст : электронный // Современные технологии управления. - 2015. - №8 (56). - URL:https://sovman.ru/article/5601/ (дата обращения: 06.04.2024).
REFERENCES
1. Turing A. Computing machinery and intelligence // Mind, Oxford: Oxford University Press, 1950, no. 59, pp. 433460.
2. Erknapeshjan M. Pervyj v mire zakon o regulirovanii II prinjat Evroparlamentom [The world's first AI regulation law has been passed by the European Parliament]. Jelektronnoe periodicheskoe izdanie «Nauchnaja Rossija» = Electronic periodical «Scientific Russia», 2024. Available at: https://scientificrussia.ru/articles/pervyj-v-mire-zakon-o-regulirovanii-ii-prinat-evroparlamentom (accessed 06.04.2024). (In Russ.)
3. Poslanie Prezidenta Rossijskoj Federacii Federal'nomu Sobraniju [Address of the President of the Russian Federation to the Federal Assembly] ot 29 fevralja 2024 goda. Oficial'nyj sajt Prezidenta RF = Official website of the President of the Russian Federation, 2024. Available at: kremlin.ru (accessed 06.04.2024). (In Russ.)
4. Averkin A.N., Gaaze-Rapoport M.G., Pospelov D.A. Tolkovyj slovar' po iskusstvennomu intellektu [Explanatory dictionary on artificial intelligence]. Moscow : Radio i svjaz', 1992, 256 p. ISBN 5-256-00605-3 (In Russ.)
5. Ponkin I.V., Red'kina A.I. Iskusstvennyj intellekt s tochki zrenija prava [Artificial intelligence from a legal perspective]. Vestnik Rossijskogo universiteta druzhby narodov. Serija: Juridicheskie nauki = Bulletin of the Peoples' Friendship University of Russia. Series: Legal sciences, 2018, no. 1, pp. 94-95 (In Russ.)
6. O Strategii razvitija informacionnogo obshhestva v Rossijskoj Federacii na 2017 - 2030 gody: Ukaz Prezidenta Rossijskoj Federacii ot 9 maja 2017 g. №203 [On the Strategy for the Development of the Information Society in the Russian Federation for 2017 - 2030: Decree of the President of the Russian Federation of May 9, 2017, no.203]. Oficial'nyj internet-portal pravovoj informacii: oficial'nyj sajt = Official Internet portal of legal information: official website, 2024. Available at: http://pravo.gov.ru/ (accessed 06.03.2024). (In Russ.)
7. O razvitii iskusstvennogo intellekta v Rossijskoj Federacii: Ukaz Prezidenta RF ot 10 oktjabrja 2019 g. №490 s izm. i dop. na 15 fevralja 2024g. [On the development of artificial intelligence in the Russian Federation: Decree of the President of the Russian Federation of October 10, 2019, no. 490 with change and additional on February 15, 2024]. Oficial'nyj internet-portal pravovoj informacii: oficial'nyj sajt = Official Internet portal of legal information: official website, 2024. Available at: http://pravo.gov.ru/ (accessed 06.03.2024). (In Russ.)
8. Ob utverzhdenii Koncepcii razvitija regulirovanija otnoshenij v sfere tehnologij iskusstvennogo intellekta i robototehniki na period do 2024 g.: Rasporjazhenie Pravitel'stva RF ot 19 avgusta 2020g. №2129 -r [On approval of the Concept for the development of regulation of relations in the field of artificial intelligence and robotics technologies for the period until 2024: Order of the Government of the Russian Federation of August 19, 2020, no. 2129-r]. Oficial'nyj internet-portal pravovoj informacii: oficial'nyj sajt = Official Internet portal of legal information: official website, 2024. Available at: http://pravo.gov.ru/ (accessed 06.03.2024). (In Russ.)
9. Kodeks jetiki v sfere iskusstvennogo intellekta (ot 26 oktjabrja 2021 g.) [Code of Ethics in the Field of Artificial Intelligence, dated October 26, 2021]. Oficial'nyj sajt Associacii «Aljans v sfere iskusstvennogo intellekta» = Official website of the Association «Alliance in Artificial Intelligence», 2024. Available at: https://a-ai.ru/ (accessed 06.04.2024). (In Russ.)
10. Vasil'ev A.A. Iskusstvennyj intellekt: jeticheskie i pravovye aspekty [Artificial Intelligence: Ethical and Legal Aspects]. Pravovaja mysl' v obrazovanii, nauke i praktike = Legal thought in education, science and practice, 2018, no. 4(8), pp. 9-12. EDN EPBDPK. (In Russ.)
11. Ivanova A.P. Iskusstvennyj intellekt v sfere prava i juridicheskoj praktike: Osnovnye problemy i perspektivy razvitija [Artificial intelligence in the field of law and legal practice: Main problems and development prospects]. Social'nye i gumanitarnye nauki. Otechestvennaja i zarubezhnaja literatura. Serija 4: Gosudarstvo i parvo = Social and human sciences. Domestic and foreign literature. Episode 4: State and Law, 2021, no. 1, pp. 90-98. DOI 10.31249/rgpravo/2021.01.09. EDN ZEJZKU. (In Russ.)
12. Avdyev M.A. Servisy razreshenija sporov onlajn: izbrannye kejsy [Online dispute resolution services: selected cases]. Sovremennye tehnologii upravlenija = Modern control technologies, 2015, no. 8 (56). Available at: https://sovman.ru/article/5601/ (accessed 06.04.2024). (In Russ.)
Статья поступила в редакцию 15.04.2024; одобрена после рецензирования 21.04.2024; принята к публикации 14.06.2024. The
article was submitted 15.04.2024; approved after reviewing 21.04.2024; accepted for publication 14.06.2024.
