CC BY
40РАЗВИТИЕ И РИСКИ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В HR
DEVELOPMENT AND RISKS OF TECHNOLOGIES OF ARTIFICIAL INTELLIGENCE IN HR
ПОЛУЧЕНО 08.08.2019 ОДОБРЕНО 10.08.2019 ОПУБЛИКОВАНО 30.12.2019 DOI 10.12737/2305-7807-2020-5-8
ЧУЛАНОВА О.Л.
Д-р экон. наук, доцент, профессор кафедры государственного и муниципального управления и управления персоналом, БУ ВО «Сургутский государственный университет», г. Сургут
CHULANOVA O.L.
Doctor of Economic Sciences, Associate Professor, Professor of the Department of State and Municipal Management and Personnel Management, Surgut State University, Surgut
e-mail: chol9207@mail.ru
Аннотация
В статье рассмотрены возможности искусственного интеллекта, тренды применения искусственного интеллекта, развитие и риски применения технологий искусственного интеллекта в HR. Представлены тренды расширения применения искусственного интеллекта в бизнесе в Европе (Google, IBM, Facebook,Accenture, BCG, Deloitte и др.) и продвижение систем искусственного интеллекта в Великобритании и США. Рассмотрен и российский опыт. Сделан акцент на том, что в России особое внимание уделяется вопросам безопасности развития систем искусственного интеллекта.
Ключевые слова: искусственный интеллект, российский и зарубежный опыт применения искусственного интеллекта, искусственный интеллект в HR, риски применения искусственного интеллекта.
Abstract
The article discusses the capabilities of artificial intelligence, trends in the use of artificial intelligence, the use of artificial intelligence in HR. The trends in expanding the use of artificial intelligence in business in Europe (Google, IBM, Facebook, Accenture, BCG, Deloitte, etc.) and the promotion of artificial intelligence systems in the UK and the USA are presented. Russian experience is considered. The emphasis is placed on the fact that in Russia special attention is paid to the security issues of the development of artificial intelligence systems.
Keywords: artificial intelligence, Russian and foreign experience in the use of artificial intelligence, artificial intelligence in HR, the risks of using artificial intelligence.
Искусственный интеллект, наряду с обработкой больших объемов данных, робототехникой и биотехнологиями, информационной безопасностью, интернетом вещей и индустриальным интернетом признан основным направлением развития российских информационных и коммуникационных технологий в «Стратегии развития информационного общества в Российской Федерации на 2017—2030 гг.»1.
Все эти технологии, а искусственный интеллект в первую очередь, признаны «подрывными» в профессиональной литературе, то есть такими, внедрение которых влечет изменение бизнес-модели, если дело касается человеческой деятельности и технической модели функционирования объекта, который перестраивается на автономный автоматический режим работы.
На данный момент можно выделить 3 категории искусственного интеллекта (рис. 1).
Специализированный Искусственный Интеллект (СИИ). Называют слабым искусственным интеллектом. Это тот искусственный интеллект, который специализируется в одной области. Например этот искусственный интеллект сможет победить чемпиона по шахматам, совершить расчеты быстрее самого быстрого человека и т.п
Общий Искусственный Интеллект (ОИИ). Иногда называют сильным искусственным интеллектом или интеллек-
1 Указ президента Российской Федерации от 09 мая 2017 года № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг.».
Суперинтеллект
Специализированный Искусственный Интеллект (СИИ)
\ /
Общий ^ IW
Общий Искусственный Интеллект (ОИИ)
Рис. 1. Категории искусственного интеллекта [1]
том человеческого уровня. Это такой интеллект, который может составить конкуренцию человеку во всех областях. Создание ОИИ — задача гораздо более сложная, чем создание СИИ, и нам еще предстоит это сделать.
Супер-интеллект. Оксфордский профессор и ведущий эксперт по искусственному интеллекту Ник Бостром определяет Супер-интеллект как «интеллект, который превосходит лучшие человеческие умы во всех областях, включая научную креативность, «общечеловеческую» мудрость и социальный интеллект». Понятие «Супер-интеллект» включает как компьютер, немного превосходящий разум человека, так и машину, которая в триллион раз умнее абсолютно по всем показателям [1].
На сегодняшний день человечество смогло совладать с первым уровнем искусственным интеллектом — Специализированным Искусственным Интеллектом. Он стал реальностью во многих областях, существуя фактически повсюду.
И.А. Соколов, В.И. Дрожжинов, А.Н. Райков, В.П. Куп-рияновский, Д.Е Намиот, В.А. Сухомлин представили результаты своего исследования, в котором убедительно доказывают, что в настоящее время во всем мире формируются достаточно четкие тренды применения искусственного интеллекта. Например, виден тренд расширения применения искусственного интеллекта в бизнесе в Европе, есть также данные об активном участии глобальных технологических компаний (Google, IBM, Facebook, Accenture, BCG, Deloitte и др.) в продвижении систем искусственного интеллекта в Великобритании и США [2].
Илон Маск и Стивен Хоккинг сформулировали ряд принципов безопасного развития искусственного интеллекта и поддержали свод законов для искусственного интеллекта под названием «Асиломарские принципы ИИ». Авторами документа выступили эксперты из Института будущего жизни (Future of Life Institute). Кодекс описывает основные правила изучения и внедрения ИИ, в частности автономного вооружения и самовоспроизводящихся интеллектуальных систем. Кодекс делится на три части: исследования, этические вопросы и долгосрочная перспектива. В каждой из частей описаны принципы развития искусственного интеллекта с пользой для общества [3; 4].
Проектировщики Sony считают, что концепция робототехники обогатит жизнь людей и общество. «Когда роботы будут столь совершенны, что мы почувствуем, что они живые, тогда люди начнут чувствовать особую близость с ними» [5]. Согласно Sony, существует пять разновидностей искусственного интеллекта (рис. 2).
В отчете Gartner о десяти самых актуальных технологических трендах 2017 года искусственному интеллекту было отведено три пункта. Аналитики заявляют, что машинное обучение достигло той точки, после которой оно будет дополнять любой сервис, вещь или приложение. В 2020 году конкурентная борьба между вендорами будет происходить на рынке систем, которые не просто исполняют код, но способны обучаться, адаптироваться и действовать автономно. Первый из десяти трендов — «продвинутое» машинное обучение, которое включает нейронные сети, deep learning (глубинное обучение) и обработку естественного языка (NLP, natural-language processing).
Эксперты отмечают, что такие технологии, к примеру, могут использоваться в банковском бизнесе для моделирования транзакций в реальном времени и предиктивного анализа, что позволяет выявить признаки мошеннических операций мгновенно. Передовые компании видят, что искусственный интеллект может напрямую влиять на прибыль и помогать сократить потери [6].
Все более распространяющееся внедрение технологий на основе искусственного интеллекта — от чат-ботов до автономных роботов-автомобилей — трансформирует индустрию и общество, неся с собой такие выгоды, как повышение эффективности, появление новых продуктов и уменьшение количества повторяющихся задач. Ожидается, что к 2035 году технологии на основе искусственного интеллекта увеличат производительность корпораций в 16 отраслях в 12 странах в среднем на 38%2.
Увеличение новых технологических возможностей во всех областях вызвано возросшей силой «компьютерного интеллекта». Подсчитано, что мощность компьютеров в период с 1975 по 2015 г. ежегодно увеличивалась примерно вдвое. К концу 2019 года ожидается взрыв в области искусственного интеллекта, поскольку суперкомпьютер выполняет новые задачи гораздо быстрее и точнее человека. Процессы продолжат автоматизироваться, роботов будет все больше и они станут еще умнее3.
Возможности применения искусственного интеллекта в HR огромны. Но при этом существует и ряд проблем. Уже сегодня с помощью программ на основе искусственного интеллекта рекрутеры осуществляют подборку кандидатов по предварительно заданным параметрам (требованиям к должности), руководители анализируют уровень удовлетворенности работой сотрудников на основе их переписки по электронной почте, имея возможность выявлять лиц, которые с большой вероятностью могут покинуть компанию. Кроме того, растет спрос на системы, отслеживающие передвижение сотрудников по офису [7; 8].
По данным ТАСС, объем финансирования проектов по развитию цифровых технологий в России в 2019 году
2 Взлет искусственного интеллекта. URL: //https://allianz.ru/ru/stuff/ %D0%92%D0%B7%D0%BB%D0%B5%D1%82%20%D0%B8%D1%81%D0%B A%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD %D0%BE%D0%B3%D0%BE%20%D0%B8%D0%BD%D1%82%D0%B5%D0 %BB%D0%BB%D0%B5%D0%BA%D1%82%D0%B0.pdf (дата обращения 16.05.2019)
3 Технологии в 2019: 10 главных трендов. URL: http://www.interior.ru/design/ trend/6045-tsvet-v-2021-5-glavnykh-ottenkov-vesny-leta.html (дата обращения 15.04.2019)
Рис. 2. Разновидности искусственного интеллекта (согласно Sony) [5]
составит более 20 млрд рублей — в эту сумму входят средства как из бюджета, так и из внебюджетных источников4.
В России особое внимание уделяется вопросам безопасности развития систем искусственного интеллекта, например, изучаются проблемы возможных рисков и появления своеобразных ловушек на пути развития систем искусственного интеллекта в XXI в., предлагаются подходы и методы их преодоления [9].
Искусственный интеллект в управлении персоналом — это нечто уникальное и пока очень дорогостоящее. Как отмечает Смирнов В., рекрутер может составить описание вакансии, а программа соберет и проанализирует множество данных из разных источников и предложит ему кандидатов, обладающих оптимальным набором качеств [10].
Таким образом, мы понимаем, что искусственный интеллект создается для замены человеческого труда, тем самым вытесняя человека из трудового общества. Использование для повышения эффективности, производительности труда, для качественного подбора и отбора персонала — это только малая часть, где искусственный интеллект может не только сравниться с человеческим разумом, но и превзойти его. Уже сейчас мы можем прогнозировать, чего мы сможем ожидать в будущем. И самый популярный вопрос: каким образом отразится это новшество на количестве безработных [11].
Тем не менее по ряду причин искусственный интеллект несет с собой не только выгоду, но и далеко идущие последствия для экономики, политики, мобильности, здравоохранения, безопасности и охраны окружающей среды. Он внесет сумятицу на рынок труда, изменив природу давно устоявшихся ролей, и может быть использован для влияния на политическое мышление и мнения. Риски и преимущества проявятся в краткосрочной или долгосрочной перспективе, в зависимости от того, сколько времени потребуется для внедрения технологий на основе «сильного» искусственного интеллекта в реальном мире. Темпы их принятия зависят от уровня инвестиций в научно-исследовательскую работу в каждой области применения. Для компаний потенциальные угрозы могут легко уравновесить колоссальные преимущества столь революционных технологий. Согласно исследованию «Барометр рисков Allianz» 2018 года, влияние искусственного интеллекта и других новых технологий уже сейчас оценивается как седьмой, самый главный риск для бизнеса и стоит в рейтинге выше, чем политические риски и изменения климата5.
Потребуются стратегии активного управления рисками, чтобы максимизировать чистые преимущества полного внедрения искусственного интеллекта в общество. Чтобы противодействовать долгосрочным рискам, связанным с внедрением продвинутых технологий на основе искусственного интеллекта, необходимо сконцентрироваться на пяти проблемных областях: доступность программного обеспечения, безопасность, подконтрольность, ответственность и этика. При принятии мер в каждой из этих областей ответственное развитие и внедрение искусственного интеллекта наносят меньший вред обществу.
Развитие технологий искусственного интеллекта можно ожидать в областях обучения и развития, управления и лидерства. Велики возможности искусственного интеллекта в сфере предотвращения мошенничества, командой Talent Management было установлено, что сотрудники, которые совершают преступления (воровство), являются «заразными»
4 ТАСС. Инвестиции в развитие сквозных цифровых технологий в РФ в 2019 году превысят 20 млрд руб. 31 янв. 2019. URL: https://tass.ru/ekonomika/ 6064387 (дата обращения 15.04.2019)
5 Проект Talent Management. [Электронный ресурс]. URL: https://www.talent-
management.com.ua (дата обращения 15.04.2019)
для своих коллег (перенимание вредных привычек). Искусственный интеллект способен выявлять зоны риска и передавать информацию HR-специалисту. В области благосостояния и вовлеченности искусственный интеллект способен определять поведение, ведущее к низкой эффективности. Новое поколение инструментов для опросов может выявлять модели стресса и плохого поведения. В случае самообслуживания сотрудников и управления кандидатами новые виды интеллектуальных чатов могут сделать взаимодействия разумными и легкими.
При наличии широкого спектра алгоритмов, средств роботизированного обучения, растущих ожиданий от применения искусственного интеллекта важно понимать, что существует ряд рисков. При разработке программ следует учитывать, что искусственный интеллект работает на основе «настроек» предыдущих событий, ему необходимы «тренировочные» данные. Таким образом, системы могут закреплять ошибки и предвзятость. Поэтому «настройки» искусственного интеллекта должны быть максимально прозрачны, чтобы мы могли понимать, что алгоритм совершает «правильные» действия. Также существует риск незащищенности данных и непреднамеренного неправильного использования. Например, используя общие шаблоны поведения людей, программа передала сведения HR-специалисту о возможном скором увольнении того или иного сотрудника, в ответ на полученную информацию есть риск непредвиденной реакции HR и неправильного поведения. Важно научиться правильно понимать поведенческую экономику и осознавать, что на сегодняшний день любая программа искусственного интеллекта это инструмент для успешной работы, а не самостоятельная система принятия решений6.
Если нынешние тенденции в области производительности и коммерциализации сохранятся, то мы можем ожидать, что применение цифровых технологий расширится, а распространение будет расти [12; 13]. Чрезвычайно важное значение приобретает формирование компетенций конкурентоспособного персонала в цифровой экономике [14], позволяющее мобильно реагировать на изменение требований и трендов со стороны рынка труда в условиях цифровой экономики и внедрения искусственного интеллекта [15].
ЛИТЕРАТУРА
1. Пистсов И. Революция искусственного интеллекта — путь к Супер компьютеру. URL: https://habr.com/ru/post/ 293156/ (дата обращения: 11.04.2019).
2. Соколов И.А. Искусственный интеллект как стратегический инструмент экономическрго развития страны и совершенствования ее государственного управления / И.А. Соколов, В.И. Дрожжинов, А.Н. Райков, В.П. Куп-рияновский, Д.Е. Намиот, В.А. Сухомлин // International Journal of Open information Technologies. 2017. Т 5. № 10. URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-strategicheskiy-instrument-ekonomicheskogo-razvitiya-strany-i-sovershenstvovaniya-ee-gosudarstvennogo (дата обращения 15.04.2019)
3. Илон Маск, Стивен Хоккинг поддержали новый кодекс ИИ. URL: https://hightech.fm/2017/02/02/23_principles (дата обращения 15.04.2019)
4. Илон Маск, Стивен Хокинг и сотни других экспертов подписали список из 23 принципов развития ИИ, 3 февраля 2017. URL: https://tproger.ru/articles/hawking-musk-endorsed-23-ai-principles/ (дата обращения 15.04.2019)
6 Искусственный интеллект в HR// HR-портал, сообщество и публикации. [Электронный ресурс]. URL: https://hr-portal.ru/article/iskusstvennyy-intellekt-v-hr (дата обращения 15.04.2019)
5. Роботы и искусственный интеллект на выставке Sony. URL: https://www.interior.ru/design/event/6061-roboty-i-iskusstvennyj-intellekt-na-vystavke-sony.html (дата обращения 15.04.2019)
6. Рагимова С. Искуственный интеллект в менеджменте. URL: http://hrm.ru/iskustvennyjj-intellekt-v-menedzhmente (дата обращения 22.06.2019)
7. Искуственный интеллект меняет сферу управления персоналом / пер. Н. Беличенко // Ведомости. URL: https:// www.vedomosti.ru/management/articles/2017/03/21/ 682005-iskusstvennii-intellekt-personalom (дата обращения: 14.04.2019)
8. Окашин Р. Искусственный интеллект становится новым боссом в офисе // Хайтек, 14.03.2017. URL: https://hightech. fm/2017/03/14/ai_boss (дата обращения: 15.04.2019)
9. Райков А.Н. Ловушки для искусственного интеллекта // Экономические стратегии. 2016. № 6.
10. Смирнов В. Искусственный интеллект меняет сферу управления персоналом // Ежедневная деловая газета. 2017. URL: https://www.vedomosti.ru/management/articles/ 2017/03/21/682005-iskusstvennii-intellekt-personalom (дата обращения: 25.05.2019).
11. Клековкин Н. Восстание машин. Какие риски искусственный интеллект создает для экономики. URL: //https:// www.forbes.ru/finansy-i-investicii/363499-vosstanie-mashin-kakie-riski-iskusstvennyy-intellekt-sozdaet-dlya (дата обращения 17.04.2019)
12. Чуланова О.Л., Фомина Е.В. Применение игровых технологий и искусственного интеллекта в обучении производственного персонала на предприятиях энергокомплекса // Вестник Евразийской науки. 2019. № 1.
13. Чуланова О.Л., Фомина Е.В. Реализация проекта обучения производственного персонала на предприятиях энергокомплекса с применением teacher-симулятора // Управление персоналом и интеллектуальными ресурсами в России. 2019. №. 2. С. 41-48. DOI: https://doi.org/10.12737/ article_5cb70c0e38d770.70870960
14. Чуланова О.Л. Компетенции персонала в цифровой экономике: операционализация soft skills персонала организации с учетом ортобиотических навыков и навыков well-being // Вестник Евразийской науки. 2019. № 2.
15. Чуланова О.Л. Вызовы и тренды на рынке труда: синергия цифровизации и soft skills // Управление персоналом и интеллектуальными ресурсами в России. 2018. Т 7. № 3. С. 66-72/ DOI: 10.12737/article_5b509cc15ef214.39898999
REFERENCES
1. Pistsov I. Revolyuciya iskusstvennogo intellekta — put' k Super komp'yuteru [The revolution of artificial intelligence — the path to a super computer]. Available at: https://habr.com/ru/ post/293156/ (accessed 11 April 2019).
2. Sokolov I.A. Iskusstvennyj intellekt kakstrategicheskij instrument ekonomicheskrgo razvitiya strany i sovershenstvovaniya ee gos-udarstvennogo upravleniya [Artificial intelligence as a strategic tool for the economic development of a country and improvement of its public administration]. International Journal of Open information Technologies. 2017, V. 5, I. 10. Available at: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-strategicheskiy-instrument-ekonomicheskogo-razvitiya-strany-i-sovershenstvovaniya-ee-gosudarstvennogo (accessed 15 April 2019).
3. Ilon Mask, Stiven Hokking podderzhali novyj kodeks II [Elon Musk, Stephen Hawking supported the new AI code]. Available at: https://hightech.fm/2017/02/02/23_principles (accessed 15 April 2019).
4. Ilon Mask, Stiven Hoking i sotni drugih ekspertovpodpisali spisok iz 23principov razvitiya II, 3 fevralya 2017 [Elon Musk, Stephen
Hawking and hundreds of other experts signed a list of 23 principles of AI development, February 3, 2017]. Available at: https:// tproger.ru/articles/hawking-musk-endorsed-23-ai-principles/ (accessed 15 April 2019).
5. Roboty i iskusstvennyj intellekt na vystavke Sony [Robots and artificial intelligence at Sony]. Available at: https://www. interior.ru/design/event/6061-roboty-i-iskusstvennyj-intellekt-na-vystavke-sony.html (accessed 15 April 2019).
6. Ragimova S. Iskustvennyj intellekt v menedzhmente [Artificial intelligence in management]. Available at: http://hrm.ru/ iskustvennyjj-intellekt-v-menedzhmente (accessed 22 June 2019).
7. Iskustvennyj intellekt menyaet sferu upravleniya personalom [Artificial intelligence changes the scope of personnel management]. Vedomosti [Vedomosti]. Available at: https://www. vedomosti.ru/management/articles/2017/03/21/682005-iskusstvennii-intellekt-personalom (accessed 14 April 2019).
8. Okashin R. Iskusstvennyj intellekt stanovitsya novym bossom v ofise [Artificial intelligence becomes the new boss in the office]. Hajtek, 14.03.2017 [High Tech, 03/14/2017]. Available at: https://hightech.fm/2017/03/14/ai_boss (accessed 15 April 2019).
9. Rajkov A.N. Lovushki dlya iskusstvennogo intellekta [Traps for Artificial Intelligence]. Ekonomicheskiestrategii [Economic Strategies]. 2016, I. 6.
10. Smirnov V. Iskusstvennyj intellekt menyaet sferu upravleniya personalom [Artificial Intelligence Changes the Sphere of Personnel Management]. Ezhednevnaya delovaya gazeta [Daily Business Newspaper]. 2017. Available at: https://www.vedomosti. ru / management/articles/2017/03/21/682005 - iskusstvennii-intellekt-personalom (accessed 25 May 2019).
11. Klekovkin N. Vosstanie mashin. Kakie riski iskusstvennyj intellekt sozdaet dlya ekonomiki [Rise of the machines. What risks does artificial intelligence pose for the economy]. Available at: //https://www.forbes.ru/finansy-i-investicii/363499-vosstanie-mashin-kakie-riski-iskusstvennyy-intellekt-sozdaet-dlya (accessed 17 April 2019).
12. Chulanova O.L., Fomina E.V. Primenenie igrovyh tekhnologij i iskusstvennogo intellekta v obuchenii proizvodstvennogo per-sonala na predpriyatiyah energokompleksa [The use of gaming technologies and artificial intelligence in the training of production personnel at the enterprises of the energy complex]. Vestnik Evrazijskoj nauki [Herald of the Eurasian Science]. 2019, I. 1.
13. Chulanova O.L., Fomina E.V. Realizaciya proekta obucheniya proizvodstvennogo personala na predpriyatiyah energokomp-leksa s primeneniem teacher-simulyatora [Implementation of a project for training production personnel at enterprises of the energy complex using a teacher-simulator]. Upravlenie personalom i intellektual'nymi resursami v Rossii [Human Resources and Intellectual Resources Management in Russia]. 2019, I. 2, pp. 41-48. Available at: https://doi.org/10.12737/ article_5cb70c0e38d770.70870960
14. Chulanova O.L. Kompetencii personala v cifrovoj ekonomike: operacionalizaciya soft skills personala organizacii s uchetom ortobioticheskih navykov i navykov well-being [Personnel competencies in the digital economy: operationalization of soft skills of the organization's personnel taking into account ortho-biotic and well-being skills]. Vestnik Evrazijskoj nauki [Herald of the Eurasian Science]. 2019, I. 2.
15. Chulanova O.L. Vyzovy i trendy na rynke truda: sinergiya cifro-vizacii i soft skills [Challenges and trends in the labor market: the synergy of digitalization and soft skills]. Upravlenie personalom i intellektual'nymi resursami v Rossii [Human Resources and Intellectual Resources Management in Russia]. 2018, V. 7, I. 3, pp. 66-72. DOI: 10.12737/article_5b509cc15ef214. 39898999
