CC BY
92
УДК 316
DOI 10.23672/r6560-2546-5630-f
Марченко Анна Юрьевна
аспирантка,
Московский государственный институт международных отношений (университет) Министерства иностранных дел Российской Федерации anna.yur.marchenko@gmail.com
Anna Yu. Marchenko
Graduate Student, Moscow State Institute of International Relations (University) of the Ministry of Foreign Affairs of the Russian Federation anna.yur.marchenko@gmail.com
Проблема определения понятия
«искусственный интеллект»: подход европейского союза
The problem of definition
of artificial intelligence: the european union approach
Аннотация. На сегодняшний день технологии искусственного интеллекта (далее-ИИ) демонстрируют стремительные темпы развития. Мы наблюдаем его повсеместное внедрение во все сферы общественной жизни. Тем не менее, его применение, с одной стороны открывает широчайшие возможности, а с другой, несет значительные вызовы и угрозы, обозначая важность выработки эффективной нормативно-правовой основы для их сдерживания. Статья посвящена одной из первоочередных проблем, возникающих в рамках разработки нормативно-правового регулирования ИИ. Так, на сегодняшний день не выработано единого подхода к определению понятия ИИ. При этом, четко сформулированные дефиниции являются необходимым элементом для понимания и применения правовой основы. Статья рассматривает существующие виды и признаки искусственного интеллекта. Также. автор обращается к опыту Европейского союза в области разработки определения для цели эффективного регулирования, анализирует дефиниции, виды, признаки в праве ЕС, что позволило выявить особенности, достижения и пробелы европейского подхода в контексте разработки определения понятия ИИ.
Ключевые слова: Европейский союз, искусственный интеллект, системы ИИ, правовое регулирование ИИ.
Annotation. Artificial intelligence technologies (AI) demonstrate extremely rapid development and widespread implementation in all spheres of public life. Nevertheless, its application, on the one hand, opens up tremendous opportunities, and on the other hand, carries significant challenges and threats, indicating the importance of developing an effective regulatory framework to contain them. The article is devoted to one of the priority problems arising in the framework of the development of legal regulation of AI. Nowadays there is a lack of a clear definition of AI. Nevertheless, it is obvious that clearly formulated definitions are key elements to understand and apply legal framework. The article examines the existing types and features of AI. The author also refers to the experience of the European Union in the development of a definition for the purpose of effective regulation, analyzes definitions, types of AI in the EU's law, which made it possible to identify the features, achievements and gaps of the European approach in the context of developing a definition of AI.
Keywords: European Union, Artificial Intelligence, AI systems, AI legal regulation.
На данном этапе развития общества стоит очень серьезная задача по сбалансированному внедрению технологий во все сферы общественной жизни таким образом, чтобы одновременно обеспечивалось дальнейшее развитие инноваций и не нарушались основные права и свободы граждан. Так как искусственный интеллект обладает рядом специфических особенностей, таких как автономность, способность к самоорганизации и самообучению, крайне важно обеспечить и закрепить гарантии того, что ИИ будет применяться на пользу человечества, а не во вред ему. Очень важно, чтобы будущее регулирование не затормаживало развитие инноваций и обеспечивало сохранение человеческих ценностей и гражданских прав.
Как направление научных исследований, «искусственный интеллект» появляется в середине прошлого века. Еще в 1930-х годах появляются работы Алана Тьюринга, где обсуждается идея создания программируемых устройств, которые смогут решать определенные задачи. В 1950-м году оп публикует работу «Вычислительные машины и разум», где предлагает тест, названный в дальнейшем «Тест Тьюринга», обобщенная идея которого заключается в том, что машина будет считаться разумной, когда человек, взаимодействующий с одной машиной и с одним человеком, не сможет понять, в каком случае он взаимодействует с машиной.
Сам термин «искусственный интеллект» был впервые обозначен в 1956 году - его ввел
информатик Джон Маккарти в рамках конференции в Дартмутском колледже.
Исследования в сфере ИИ ведутся уже более полвека. ИИ успел пережить и «золотые годы» и две, так называемые, «зимы искусственного интеллекта», в середине 1970-х и в конце 1980-х годов, когда завышенные ожидания не оправдались, что привело к сокращению финансирования и падению интереса к ИИ в целом [3]. Тем не менее, весь мир наблюдал и яркие победы ИИ:
- в 1997 году компьютер Deep Blue побеждает чемпиона по шахматам Гарри Каспарова;
- в 2011 году Watson - суперкомпьютер компании IBM обыгрывает чемпиона мира в вопросах на общую эрудицию в телевикторине;
- в 2016 программа AlphaGo победила профессионального игрока высшего ранга из Южной Кореи в игре в Го.
Благодаря активному развитию глубокого обучения (deep learning), начиная с 2015 года ИИ снова переживает свой «золотой век». В 2018 году Премию Тьюринга (англ. Turing Award) получили ученые Йошуа Бенджи, Джеффри Хинтон и Ян Лекун, которых называют «отцами основателями» области глубокого обучения. Метод, который они предложили, обозначил продвижение в таких направлениях, как компьютерное зрение и распознавание речи. Большинство новейших технологий ИИ от беспилотного транспорта до медицинского оборудования с элементами ИИ, имеют в своей основе именно глубокое обучение.
Исследователи в сфере технологий ИИ выделяют несколько типов иИ [6]:
- Слабый ИИ (ИИ узкого спектра) - системы, которые могут выполнять одну или несколько узкоспециализированных задач. Такой ИИ ограничен задачей или задачами, для выполнения которых он обучен. При этом, слабый ИИ, несмотря на свое название, при выполнении своих конкретных задач может превосходить человека в интеллектуальных способностях. Поэтому использование формулировки «слабый» здесь актуально именно в контексте сравнения таких систем с «сильными», нежели для характеристики их как таковых.
Сегодня человечество освоило исключительно ИИ узкого спектра.
- Общий ИИ (ИИ широкого применения). Такой ИИ является истинным ИИ, изначальной целью разработки ИИ. ИИ широкого применения будет способен решать огромное количество задач и проблем разными способами, без какого-либо человеческого вмешательства. На сегодняшний день такого ИИ не существует. Подобные технологии остаются неразработанными. При этом некоторые ученые говорят о том, что такой ИИ вообще никогда не будет создан.
Иногда выделяют также «суперинтеллект», который сможет превзойти любого человека за счет увеличения мощностей и крайне быстрого
самосовершенствования машины - «рекурсивного улучшения» [4]. Однако большинство исследователей, исходя из текущего состояния дел, считают подобные сценарии нереалистичными.
Исследования в области искусственного интеллекта ведутся с прошлого века, но до сих пор не выработано общепринятого универсального определения самого понятия «искусственный интеллект». Такое положение возникает в силу отсутствие общепринятого правового подхода к формулированию его содержательных характеристик [7].
Отсутствие единого подхода к определению ИИ является одной из первоочередных проблем в рамках разработки регулирования и признается исследователями фактором, который сдерживает решение юридических вопросов.
На данном этапе существует огромное разнообразие дефиниций Ии, хотя все они, конечно похожи в некоторых своих частях. Появлению большого количества дефиниций способствует сложность и многообразие самих технологий ИИ, их функций, сфер применения, специфических особенностей. Более того, ИИ находится на стыке различных дисциплин и отличается междисциплинарным характером, что, в свою очередь, определяет различия в определениях в зависимости от областей деятельности, в рамках которых они даются. Значительным образом различаются и цели, которые ставятся экспертами и учеными при выработке определения. Отметим также сложность и неоднозначность в понимании и определении интеллекта естественного.
Можно обозначить и ряд критериев, которым должно удовлетворять определение ИИ, сформулированное для цели эффективного регулирования. В частности, в отчете Специального комитета Совета Европы по ИИ (САНА1) указано, что оно должно обеспечивать собственную актуальность с дальнейшим развитием технологий, допускать включение новых систем и гарантировать охват широкого спектра рисков и видов ущерба, вызываемых новыми технологиями. Определение не должно чрезмерно сужать сферу применения регулирования. Более того, важно, чтобы формулировка позволяла применять регулирование на практике в реальных ситуациях [10].
Европейский союз уделяет значительное внимание вопросу выработки определения, которое бы предусматривало бы все технические аспекты и основные элементы ИИ. Союз неоднократно представляет варианты определений с разной степенью подробности в отношении функционала, технических способностей и особенностей ИИ.
В докладе Объединенного исследовательского центра (ЛЯС) Еврокомиссии «Искусственный интеллект. Европейская перспектива» [9], разработанного в виде независимых научных рекомендаций, ИИ определяется как собирательное понятие, через формулирование свойств и способностей, обозначающее «любую машину или алгоритм, способную исследовать свою среду и
обучаться, и основываясь на накопленных знаниях и опыте, осуществлять разумные действия и предлагать решения». Среди методов выделяется класс методов машинного обучения.
Одним из наиболее качественных и проработанных, является определение, предложенное группой экспертов высокого уровня ИЬБО А1, созданной под эгидой Комиссии. Группа разработала несколько основополагающих документов в области ИИ. Среди них и документ «Определение ИИ: основные возможности и дисциплины» [8], где определение стало заметно шире и подробнее в технических аспектах. Помимо этого, документ также называет технологию уже не просто Ии, а системами ИИ.
Предложена следующая дефиниция: «ИИ-системами являются программные (или аппаратные) системы, которые разработаны людьми и которые функционируют в физическом или цифровом измерении, способные воспринимать среду, осуществляя сбор данных, анализировать собранные структурированные или неструктурированные данные, формировать логические выводы, основываясь на знаниях и информации из обработанных данных, и принимать решение о наилучших действиях в контексте достижения поставленной цели. Такие системы могут применять символьные правила или числовые модели, а также, адаптировать свое поведение, анализируя влияние на среду своих предыдущих действий».
Документ отмечает, что само понятие «искусственный интеллект», очевидно, связано с понятием «интеллект». Документ отмечает возможность применения понятия «разумности», которое в данном контексте означает способность выбирать наилучшее действие для решения поставленной задачи. Это определение является отличным образцом четкой, но при этом достаточно подробной формулировки с перечислением основных свойств и способностей Ии. В частности, оно упоминается в отчете САНА1 в качестве примера [10].
Новейший документ Союза - Проект регламента по регулированию ИИ, опубликованный 21 апреля 2021 года Европейской комиссией (Акт об ИИ) [2], дает дефиниции многих понятий. В том числе и новейшее определение ИИ.
Так, под системой искусственного интеллекта понимается «программное обеспечение,
Литература:
1. Annexes to the Proposal for a Regulation laying down harmonised rules on artificial intelligence. URL : https://ec.europa.eu/newsroom/dae/redirection/ document/75789 (date of application 20.05.2021).
2. Proposal for a Regulation laying down harmonised rules on artificial intelligence. URL : https:// ec.europa.eu/newsroom/dae/redirection/document/ 75788 (date of application 20.05.2021).
разработанное с использованием одного или нескольких методов и подходов, закрепленных в Приложении [1], и способное для заданного человеком набора целей производить выходные данные, такие, как контент, прогнозы, рекомендации или решения, влияющие на среду, с которой они взаимодействуют».
Приложение 1 дополняет статью 3 Акта и перечисляет методы и подходы, применяемые при разработке систем ИИ. В Акте указано, что Приложение I будет дополняться с развитием технологий и изменением рыночных и технологических условий, что обеспечивает его актуальность с дальнейшим развитием технологий.
Учитывая развитие регулирования ИИ в ЕС в дальнейшем, наиболее вероятным нам видится добавление в определение других возможных форм существования ИИ: аппаратных и иных, пока не предполагаемых. Также, необходимым нам представляется обозначение в определении свойства автономности систем.
Что примечательно, в своих последних формулировках, Союз отходит от общепринятого антропоморфизма в описании систем ИИ, не проводя аналогий с человеком или человеческим интеллектом, что представляется крайне целесообразным, учитывая неоднозначность в понимании интеллекта, а также и то, что ИИ, все же, не воссоздает когнитивные способности человека, а, как максимум, имитирует их.
Подводя итог, необходимо отметить, что в настоящее время не выработано единой правовой интерпретации понятия «искусственный интеллект», что затрудняет понимание и применение правовой основы. В различных документах и научных трудах предложено огромное количество дефиниций ИИ, которые хоть и похожи между собой, но, тем не менее, не являются идентичными. ЕС уделяет значительное внимание данному вопросу и в своем новейшем документе -Акте об ИИ предлагает новое определение ИИ. ЕС отходит от общепринятого антропоморфизма в описании систем ИИ. Данное определение способно обеспечить собственную актуальность с дальнейшим развитием ИИ и с некоторыми дополнениями, которые вероятно будут отражены в итоговой редакции Акта, вполне может выступить в качестве основы в рамках выработки универсального определения.
Literature:
1. Annexes to the Proposal for a Regulation laying down harmonised rules on artificial intelligence. URL : https://ec.europa.eu/newsroom/dae/redirection/ document/75789 (date of application 20.05.2021).
2. Proposal for a Regulation laying down harmonised rules on artificial intelligence. URL : https:// ec.europa.eu/newsroom/dae/redirection/document/ 75788 (date of application 20.05.2021).
3. Альманах Искусственный интеллект. Анализ действующей нормативно-правовой базы // Центр компетенций НТИ на базе МФТИ по направлению «Искусственный интеллект» № 6. Ноябрь 2020. Сайт Альманаха: URL : http://www.aiReport.ru
4. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Ник Бостром; Пер. с англ. С. Филина. М. : Манн, Иванов и Фербер, 2016.
5. Форд М. Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей. Издат. Питер, 2019.
6. Шевченко А.И. К вопросу о создании искусственного интеллекта / А.И. Шевченко // Искусственный интеллект. 2016. № 2. C. 7-15.
7. Шестак В.А. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России / В.А. Шестак, А.Г. Волеводз // Всероссийский криминологический журнал. 2019. Т. 13. № 2. C. 197-206.
8. A definition of Artificial Intelligence: main capabilities and scientific disciplines. URL : https://ec.eu-ropa.eu/newsroom/dae/document.cfm?doc_id=563 41 (дата обращения 26.03.2021)
9. Annoni A. Artificial Intelligence: A European Perspective, Craglia, M. editor(s), EUR 29425 EN / Annoni A., Benczur, P., Bertoldi, P., Delipetrev, B., De Prato, G., Feijoo, C., Fernandez Macias, E., Gomez Gutierrez, E., Iglesias Portela, M., Junklewitz, H., Lopez Cobo, M., Martens, B., Figueiredo Do Nasci-mento, S., Nativi, S., Polvora, A., Sanchez Martin, J., Tolan, S., Tuomi, I. and Vesnic Alujevic, L. Publications Office of the European Union, Luxembourg, 2018.
10. CAHAI. Draft analysis of the Multi-Stakeholder Consultation. URL : https://rm.coe.int/cahai-cog-2021 -01 -draft-report-msc-2763-7501 -0051 -v-1/1680 a2e2d5 (date of application 18.07.2021).
3. Almanac Artificial Intelligence. Analysis of the current regulatory framework // NTI Competence Center on the basis of MIPT in the direction of «Artificial Intelligence» № 6. November 2020. Almanac website: URL : http://www.aiReport.ru
4. Bostrom N. Artificial intelligence. Stages. Threats. Strategies / Nick Bostrom; Translation from english
5. Filina. M. : Mann, Ivanov and Ferber, 2016.
5. Ford M. Architects of Intellect. The Whole Truth About Artificial Intelligence From Its Creators / Martin Ford. Publisher. Peter. 2019.
6. Shevchenko A.I. On the question of creating artificial intelligence / A.I. Shevchenko // Artificial intelligence. 2016. № 2. P. 7-15.
7. Shestak V.A. Modern needs of the legal support of artificial intelligence: a view from Russia / V.A. Shestak, A.G. Volevodz // All-Russian criminological journal. 2019. Vol. 13. № 2. P. 197-206.
8. A definition of Artificial Intelligence: main capabilities and scientific disciplines. URL : https://ec.eu-ropa.eu/newsroom/dae/document.cfm?doc_id=563 41 (дата обращения 26.03.2021)
9. Annoni A. Artificial Intelligence: A European Perspective, Craglia, M. editor(s), EUR 29425 EN / Annoni A., Benczur, P., Bertoldi, P., Delipetrev, B., De Prato, G., Feijoo, C., Fernandez Macias, E., Gomez Gutierrez, E., Iglesias Portela, M., Junklewitz, H., Lopez Cobo, M., Martens, B., Figueiredo Do Nasci-mento, S., Nativi, S., Polvora, A., Sanchez Martin, J., Tolan, S., Tuomi, I. and Vesnic Alujevic, L. Publications Office of the European Union, Luxembourg, 2018.
10. CAHAI. Draft analysis of the Multi-Stakeholder Consultation. URL : https://rm.coe.int/cahai-cog-2021 -01 -draft-report-msc-2763-7501 -0051 -v-1/1680 a2e2d5 (date of application 18.07.2021).
