CC BY
94
УДК / UDC 346 DOI: 10.34076/22196838_2021_3_72
ИСПОЛЬЗОВАНИЕ ПРОГРАММ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ НАЙМЕ РАБОТНИКОВ
Щербакова Олеся Васильевна
Старший преподаватель кафедры трудового права Уральского государственного юридического университета (Екатеринбург), кандидат юридических наук, ORCID: 0000-0002-3111-257X, e-mail: [email protected].
Рассматриваются возможности применения программ искусственного интеллекта при найме работников: приводятся примеры таких программ, объясняется принцип их работы, обозначаются риски, которые несут соискатели при их использовании. Отмечается, что в нашей стране пока отсутствует правовое регулирование использования искусственного интеллекта при трудоустройстве, в связи с чем на работодателей не возлагаются обязанности разрабатывать и применять только те программы, которые исключали бы возможность ущемления или ограничения прав соискателей. Вместе с тем в Европейском союзе и США законодатель уже делает первые попытки упорядочить использование программ искусственного интеллекта при найме сотрудников.
Ключевые слова: трудоустройство, работодатель, искусственный интеллект, дискриминация, преимущество
Для цитирования: Щербакова О. В. Использование программ искусственного интеллекта при найме работников // Электронное приложение к «Российскому юридическому журналу». 2021. № 3. С. 72-76. DOI: http://doi.org/10.34076/22196838_2021_3_72.
THE USE OF ARTIFICIAL INTELLIGENCE PROGRAMS WHEN RECRUITING EMPLOYEES
Shcherbakova Olesya
Senior lecturer, Ural State Law University (Yekaterinburg), candidate of legal sciences, ORCID 0000-0002-3111-257X, e-mail: [email protected].
The article discusses the possibilities of using artificial intelligence programs when hiring employees: gives some examples of such programs, explains the principle of their work, reveals the risks that applicants bear when using such programs. Since the legal regulation of the use of artificial intelligence when recruiting employees has not developed in Russia yet, employers are not obliged to develop and apply only those programs that would exclude the possibility of infringing or restricting the rights of job seekers. However, in the European Union and in the United States, the legislator has already made the first attempts to streamline the use of artificial intelligence programs when recruiting employees.
Key words: employment, employer, artificial intelligence, discrimination, advantage
For citation: Shcherbakova O. (2021) The use of artificial intelligence programs when recruiting employees. In Elektronnoe prilozhenie k «Rossiiskomu yuridicheskomu zhurnalu», no. 3, pp. 7276, DOI: http://doi.org/10.34076/22196838_2021_3_72.
Перед законодателем сейчас стоит сложная задача. С одной стороны, в соответствии с Указом Президента РФ от 21 июля 2020 г. № 474 «О национальных целях развития Российской Федерации на период до 2030 года» одной из национальных целей развития России выступает цифровая трансформация общества, т. е. достижение «цифровой зрелости» в ключевых отраслях экономики и социальной сфере. С одной
стороны, требуется обеспечить условия практического применения новейших научных разработок, в том числе в сфере трудовых отношений. С другой стороны, нельзя допустить дискриминацию соискателей и работников при использовании таких разработок, обесценивания роли норм морали и нравственности как социальных регуляторов трудовых отношений1.
Одним из направлений внедрения цифровых технологий в сфере трудового права является использование систем искусственного интеллекта при собеседовании с потенциальными работниками. Российские работодатели вслед за европейскими и американскими коллегами стали чаще прибегать к автоматизации найма сотрудников. Раньше живой рекрутер слушал кандидата и анализировал его профессиональные и социальные навыки. Теперь же соискатель может записывать на камеру смартфона или ноутбука видео, в котором отвечает на вопросы и пытается убедить потенциального работодателя в своих способностях; в это время искусственный интеллект анализирует выражение лица соискателя, изменения голоса, грамматические конструкции, информацию в ответах; в результате работодатель получает сведения не только о профессиональных навыках и компетенциях соискателя, но и о том, насколько он коммуникабелен, эмпатичен и подходит для занятия соответствующей должности. Такие услуги предлагают, например, американский стартап Yobs2 и компания HireVue3. Среди российских разработок можно выделить такой сервис, как ро-бот-рекрутер Вера4.
Использование подобных программ имеет и плюсы, и минусы. С одной стороны, они автоматизируют однотипные действия, сокращают временные затраты и стирают пространственные границы между соискателем и работодателем, создавая условия для развития дистанционных отношений по трудоустройству у данного работодателя5. С другой стороны, возникают вопросы об адекватности оценки искусственным интеллектом навыков соискателя, о том, на каких данных и фактах основывается его вывод и, наконец, может ли он в процессе выбора кандидата соблюсти те гарантии и запреты, которые установлены трудовым законодательством. Так, в соответствии со ст. 64 ТК РФ запрещается прямое или косвенное ограничение прав или установление прямых или косвенных преимуществ при заключении трудового договора.
С проблемой дискриминации при использовании искусственного интеллекта в найме уже столкнулись зарубежные работодатели. Так, в 2018 г. компания Amazon отказалась от рекрутингового алгоритма, который разрабатывала несколько лет, потому что по результатам мониторинга данных использования искусственного интеллекта вынуждена была признать факт дискриминации соискателей-женщин6.
Во избежание обесценивания интересов человека необходимо адекватное правовое регулирование внедрения цифровых технологий в социальную сферу. Представляется, что критериями такого регулирования должны стать, с одной стороны, эффективность и результативность такого внедрения; с другой - безопасность социума и отдельного индивида, т. е. снижение психосоциальных и физических рисков.
Принципы и правила правового регулирования внедрения цифровых технологий уже долгие годы являются предметом обсуждения как на законодательном, так и на доктринальном уровне7. Ученые спорят о перспективах и опасностях использования
1 Щербакова О. В. Влияние моральных норм и нравственных принципов на правовое регулирование трудовых отношений: дис. ... канд. юрид. наук. Екатеринбург, 2017. С. 45.
2 Video-based talent development powered by AI and experts. URL: https://www.yobstech.com/ (дата обращения: 21.04.2021).
3 Центр поддержки кандидатов. URL: https://hirevuesupport.zendesk.com/hc/ru/articles/360028139692 (дата обращения: 14.04.2021).
4 Робот Вера найдет для Вас сотрудников. URL: https://robotvera.com/static/newrobot/index.html (дата обращения: 14.04.2021).
5 Серова А. В. Внедрение цифровых технологий в практику взаимодействия субъектов отношений по трудоустройству у данного работодателя // Электронное приложение к «Российскому юридическому журналу». 2019. № 5. С. 67. DOI: 10.34076/2219-6838-2019-5-65-71.
6 Хабибрахимов А. Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин // Vc.ru. Карьера. 2018. 10 окт. URL: https://vc.ru/hr/47756-reuters-amazon-razrabotala-ii-dlya-poiska-sotrudnikov-i-otkazalas-ot-nego-iz-za-diskriminacii-zhenshchin (дата обращения: 21.04.2021).
7 Философия права: учеб. пособие / отв. ред. Н. Н. Черногор, О. Ю. Рыбаков. М.: Статут, 2018. С. 32.
искусственного интеллекта, в том числе в трудовых отношениях1. П. П. Баранов высказал мнение о том, что одним из главных принципов правового регулирования должен быть несомненный приоритет прав человека и их защиты в сфере использования роботов и искусственного интеллекта2.
В настоящее время в России отсутствует правовое регулирование использования программ искусственного интеллекта при трудоустройстве, а вопрос о внедрении цифровых технологий в трудовые отношения почти в полной мере отдан на усмотрение работодателей. При этом принятие решений искусственным интеллектом не подлежит какой-либо проверке и оценке с точки зрения обеспечения прав граждан на запрет дискриминации при приеме на работу. Работодатели не обязаны сообщать соискателям о факте использования программ искусственного интеллекта, о критериях принятия им решения или о том, как лучше себя вести на собеседовании. В одном из интервью основатель HR-сервиса VCV Арик Ахвердян дал совет соискателям, использующим его сервис: «Самое крутое на собеседовании - это оставаться собой, не пытаться чрезмерно понравиться, не придумывать и не преувеличивать информацию»3.
Вместе с тем Европейский союз и США делают первые шаги в направлении правового регулирования разработки программ искусственного интеллекта. На территории Европейского союза подобные нормы пока носят рекомендательный характер и применяются в тестовом режиме, а на территории США они действуют только в ряде штатов.
В Европейском союзе уже в течение нескольких лет активно разрабатываются общие правила и критерии внедрения цифровых технологий. В июне 2018 г. Европейская комиссия создала независимую группу экспертов высокого уровня в области искусственного интеллекта. В апреле 2019 г. группа представила документ «Принципы этики для надежного искусственного интеллекта»4, а в июле 2020 г. подготовила список показателей для оценки надежности искусственного интеллекта (ALTAI)5.
ALTAI признает, что любой искусственный интеллект может потенциально дискриминировать человека. Предупреждением этого риска должна стать система тестирования и мониторинга. В ALTAI установлено семь ключевых требований, которым должны следовать компании, разрабатывающие программы искусственного интеллекта, чтобы он мог считаться надежным. К ним относятся: осуществление надзора со стороны людей; техническая безопасность; конфиденциальность и обеспечение безопасности данных; прозрачность; разнообразие, недискриминация и справедливость; социальное и экологическое благополучие; подотчетность.
Выполнение требования прозрачности включает три элемента: надлежащее документирование всех процессов разработки ИИ; объяснимость; извещение об ограничениях системы ИИ. Объяснимость работы ИИ предполагает, что разработчик должен раскрыть технические процессы, лежащие в основе системы ИИ, и основания принятия ИИ решений или разработки прогнозов. До сведения пользователя должны быть доведены: 1) возможности и ограничения системы; 2) информация о том, что он взаимодействует с программой ИИ; 3) потенциальные риски системы; 4) правила пользования программой ИИ.
Требование обеспечения прозрачности для компаний, использующих ИИ, закреплено и в законах отдельных штатов США. Так, с 1 января 2020 г. в штате Иллинойс вступил в силу закон, в соответствии с которым работодатель обязан предупредить
1 См., например: Stern S. Introduction: Artificial Intelligence, technology, and the law // University of Toronto Law Journal. 2018. Vol. 68. P. 1.
2 Баранов П. П. Правовое регулирование робототехники и искусственного интеллекта в России: некоторые подходы к решению проблемы // Северо-Кавказский юридический вестник. 2018. № 1. С. 42.
3 Кушнир Д. «Ты можешь потратить всего 15 минут». Как российский стартап VCV сокращает собеседования и внедряет ИИ в найм // Цех. 2020. 11 февр. URL: https://zeh.media/zhizn/intervyu/568471-dazhe-ilon-mask-ponimayet-chto-iskusstvenny-intellekt-mozhet-byt-opasen-arik-akhverdyan-vcv--ob-ii-v (дата обращения: 28.04.2021).
4 Ethics Guidelines for Trustworthy AI. URL: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (дата обращения: 21.10.2021).
5 The Assessment List for Trustworthy Artificial Intelligence (ALTAI). URL: https://digital-strategy.ec.europa.eu/ en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment (дата обращения: 21.10.2021).
работника об использовании программ ИИ при собеседовании, о том, как работает данная программа и по каким критериям будет оценивать кандидата1.
Для выполнения требования ALTAI о недискриминации и справедливости компания-разработчик должна предусмотреть в программе ИИ в качестве исходного правила разнообразие способностей и потребностей людей. Программа должна учитывать особые потребности отдельных групп лиц. Разработчики программ ИИ должны поддерживать постоянную обратную связь с конечными пользователями, особенно теми, чьи интересы могут быть затронуты при использовании программы, для оценки риска возможной дискриминации и несправедливости.
В приведенном выше примере с компанией Amazon разработчики признали, что при создании программы ИИ не было предусмотрено разнообразие способностей и потребностей людей. Основательница компании Pymetrics Фрида Полли отметила, что «алгоритм машинного обучения похож на трехлетнего ребенка - он будет учиться у того, что его окружает». А для недопущения дискриминации необходима разнообразная среда для обучения искусственного интеллекта2.
Список литературы
Баранов П. П. Правовое регулирование робототехники и искусственного интеллекта в России: некоторые подходы к решению проблемы // Северо-Кавказский юридический вестник. 2018. № 1. С. 41-48.
Кушнир Д. «Ты можешь потратить всего 15 минут». Как российский стартап VCV сокращает собеседования и внедряет ИИ в найм // Цех. 2020. 11 февр. URL: https://zeh.media/zhizn/ intervyu/568471-dazhe-ilon-mask-ponimayet-chto-iskusstvenny-intellekt-mozhet-byt-opasen-arik-akhverdyan-vcv--ob-ii-v (дата обращения 28.04.2021).
Листвина Е. В. Социокультурные риски цифровизации современного общества // Актуальные проблемы гуманитарных и социально-экономических наук. 2019. № 13. С. 78-82.
Серова А. В. Внедрение цифровых технологий в практику взаимодействия субъектов отношений по трудоустройству у данного работодателя // Электронное приложение к «Российскому юридическому журналу». 2019. № 5. С. 65-71. DOI: 10.34076/2219-6838-2019-5-65-71.
Философия права: учеб. пособие / отв. ред. Н. Н. Черногор, О. Ю. Рыбаков. М.: Статут, 2018. 224 с.
Хабибрахимов А. Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин // Vc.ru. Карьера. 2018. 10 окт. URL: https://vc.ru/hr/47756-reuters-amazon-razrabotala-ii-dlya-poiska-sotrudnikov-i-otkazalas-ot-nego-iz-za-diskriminacii-zhenshchin (дата обращения: 21.04.2021).
Щербакова О. В. Влияние моральных норм и нравственных принципов на правовое регулирование трудовых отношений: дис. ... канд. юрид. наук. Екатеринбург. 2017. 201 с.
Aspan M. A I. is transforming the job interview - and everything after // Fortune. 2020. 20 Jan. URL: https://fortune.com/longform/hr-technology-ai-hiring-recruitment/ (дата обращения 28.04.2021).
Heilweil R. Illinois says you should know if AI is grading your online job interviews // Vox. 2020. 1 Jan. URL: https://www.vox.com/recode/2020/1/1/21043000/artificial-intelligence-job-applications-illi-nios-video-interivew-act (дата обращения 28.04.2021).
Stern S. Introduction: Artificial Intelligence, technology, and the law // University of Toronto Law Journal. 2018. Vol. 68. P. 1-11.
References
Aspan M. (2020) A. I. is transforming the job interview - and everything after. In Fortune, 20 Jan., available at: https://fortune.com/longform/hr-technology-ai-hiring-recruitment/ (accessed: 28.04.2021).
Baranov P. P. (2018) Pravovoe regulirovanie robototekhniki i iskusstvennogo intellekta v Rossii: nekotorye podkhody k resheniyu problemy [Legal regulation of robotics and artificial intelligence in Russia: some approaches to solving the problem]. In Severo-Kavkazskiiyuridicheskii vestnik, no. 1, pp. 41-48.
Chernogor N. N., Rybakov O. Yu. (Ed.) (2018) Filosofiya prava [Philosophy of law]. Moscow, Statut, 224 p.
Kushnir D. «Ty mozhesh' potratit' vsego 15 minut». Kak rossiiskii startap VCV sokrashchaet sobese-dovaniya i vnedryaet II v naim (2020) [«You can only spend 15 minutes». How the Russian startup
Heilweil R. Illinois says you should know if AI is grading your online job interviews // Vox. 2020. 1 Jan. URL: https://www.vox.com/recode/2020/1/1/21043000/artificial-intelligence-job-applications-illinios-video-interivew-act (дата обращения 28.04.2021).
2 Aspan M. A. I. is transforming the job interview-and everything after // Fortune. 2020. 20 Jan. URL: https:// fortune.com/longform/hr-technology-ai-hiring-recruitment/ (дата обращения 28.04.2021).
VCV reduces interviews and implements AI in hiring]. In Tsekh, 11 Feb., available at: https://zeh.media/ zhizn/intervyu/568471-dazhe-ilon-mask-ponimayet-chto-iskusstvenny-intellekt-mozhet-byt-opasen-arik-akhverdyan-vcv--ob-ii-v (accessed: 28.04.2021).
Heilweil R. (2020) Illinois says you should know if AI is grading your online job interviews. In Vox, 1 Jan., available at: https://www.vox.comAecode/2020/1/1/21043000/artificial-intelligence-job-applica-tions-illinios-video-interivew-act (accessed: 28.04.2021).
Khabibrakhimov A. (2018) Amazon razrabotala II dlya poiska sotrudnikov i otkazalas' ot nego iz-za diskriminatsii zhenshchin [Amazon developed AI to search for employees and abandoned it because of discrimination against women]. In Vc.ru. Kar'era, 10 Oct., available at: https://vc.ru/hr/47756-reuters-amazon-razrabotala-ii-dlya-poiska-sotrudnikov-i-otkazalas-ot-nego-iz-za-diskriminacii-zhen-shchin (accessed: 21.04.2021).
Listvina E. V. (2019) Sotsiokul'turnye riski tsifrovizatsii sovremennogo obshchestva [Socio-cultural risks of digitalization of modern society]. In Aktual'nye problemy gumanitarnykh i sotsial'no-eko-nomicheskikh nauk, no. 13, pp. 78-82.
Serova A. V. (2019) Vnedrenie tsifrovykh tekhnologii v praktiku vzaimodeistviya sub"ektov ot-noshenii po trudoustroistvu u dannogo rabotodatelya [Introduction of digital technologies in the interaction of subjects of employment relations with a given employer]. In Elektronnoe prilozhenie k «Rossiiskomu yuridicheskomu zhurnalu», no. 5, pp. 65-71, DOI: 10.34076/2219-6838-2019-5-65-71.
Shcherbakova O. V. (2017) Vliyanie moral'nykh norm i nravstvennykh printsipov na pravovoe reg-ulirovanie trudovykh otnoshenii: dis. ... kand. yurid. nauk [The influence of moral norms and moral principles on the legal regulation of labour relations: a candidate of legal sciences thesis]. Yekaterinburg, 201 p.
Stern S. (2018) Introduction: Artificial Intelligence, technology, and the law. In University of Toronto Law Journal, vol. 68, pp. 1-11.
