CC BY
152С.И. НЕИЗВЕСТНЫЙ1
1 Финансовый университет при Правительстве Российской Федерации.
125993, Москва, Ленинградский просп., д. 49.
СОЦИАЛЬНЫЕ ПРОБЛЕМЫ ПРИНЯТИЯ РЕШЕНИЙ ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ В ЦИФРОВОМ ОБЩЕСТВЕ
Аннотация. В последние десятилетия практически во всех областях деятельности человека происходят бурная цифровизация и внедрение искусственного интеллекта, принципиально влияющие на социальные отношения внутри общества. Кроме очевидных выгод от применения человекоподобного интеллекта в современном цифровом мире, могут быть и негативные последствия, связанные прежде всего с процессом принятия важных, масштабных управленческих решений киберменеджментом цифрового общества. Проблема влияния на социальную безопасность принятия решений искусственным интеллектом в цифровом обществе недостаточно изучена. В статье рассмотрены основные социальные аспекты проблем, связанных с последствиями принятия решений искусственным интеллектом. Главное внимание уделено влиянию решений, принимаемых киберменеджерами, на социальную стабильность цифрового общества. Рассмотрены некоторые особенности формирующихся социальных отношений «человек — искусственный интеллект», «управляющий — киберменеджер». На основе анализа влияния последствий принятия решений искусственным интеллектом на социальные отношения предлагается ряд изменений в системе подготовки кадров для процессов цифровизации, формулируются требования к компетентности специалистов в области разработки и эксплуатации человекоподобного интеллекта. На основе практических требований современного ИТ-бизнеса автором разработаны и внедрены в образовательный процесс ряд циклов междисциплинарных лекций и практических семинарских занятий для будущих ИТ-специалистов цифрового общества. Предложен ряд решений педагогических проблем, связанных с развитием аналитических и креативных способностей будущих специалистов, архитекторов и разработчиков киберсистем принятия управленческих решений.
Ключевые слова: искусственный интеллект; социальные отношения; системы принятия решений; цифровое общество; безопасность; киберменеджмент.
Для цитирования: Неизвестный С.И. Социальные проблемы принятия решений искусственным интеллектом в цифровом обществе // Социологический журнал. 2021. Том 27. № 2. С. 90-108. Б01: 10.19181/ 8офиг.2021.27.2.8088
Введение
Переход к цифровому обществу1 — один из путей улучшения качества жизни человека. Это связано прежде всего со снижением доли тяжелого, рутинного физического труда, с механизацией и автоматизацией деятельности человека. Цифровая трансформация может перевести многие достижения технологических революций в равновозможное пользование всеми членами общества [36]. Качество и количество труда на единицу трудовых ресурсов при переходе к цифровому обществу возрастает. Цифровизация может быть особенно продуктивной в становлении качественных интеллектуальных систем принятия решений. Эти системы быстро развиваются в сегменте не только оперативных онлайн-решений, но и стратегического управления. В сложных многофакторных внешних и внутренних условиях выполнения комплексных проектов, программ принятие оптимального решения связано с оперированием большим количеством данных. В отсутствие цифровиза-ции эти данные имеют разнородный, трудно анализируемый, порой несовместимый вид. Применение современных цифровых технологий — таких как безбумажный документооборот, автоматизированные информационные системы, big data, бифуркационный анализ, конвергентные технологии, fuzzy-логика, искусственный интеллект (ИИ) и др. — позволяет создать высокопродуктивные кибернетические системы принятия решений [16]. Институтом проблем управления РАН разработан новый подход в системах поддержки принятия решений (СППР), в котором окончательное решение принимает не человек, а ИИ [2], новая разработка по сути является центральным элементом киберменеджмента2. Новые системы «Умное производство» используют элементы киберменеджмента на основе киберфизических систем [11]. В последнее время активно создаются системы киберменеджмента в проектном управлении на основе ИИ, среди которых можно отметить ИКСУП РКС следующие: интеллектуальная космическая система для управления проектами, Baseline PMO Dashboard — управленческая панель проектного офиса, Aitheon Project Manager — гибридная (ИИ + человек) система управления проектами и процессами, Lucy AI — интеллектуальная система управления знаниями, DoodleBot — интеллектуальный координатор-организатор управления совещаниями и коммуникациями, Infosys Nia Contracrs — интеллектуальная система
1 Цифровым называют общество, в котором практически во всех видах деятельности коммуникативный обмен и работа с информацией происходят с использованием информационных цифровых средств и технологий.
2 Киберменеджмент — процесс управления, реализуемый искусственным интеллектом.
управления контрактами и поставками, Лр1а£еЯВёТоо1 — ИИ система управления рисками в а^е-проектах и др. [1].
У современных разработчиков киберсистем ИИ, способный самостоятельно принимать решения, относят к «сильному» ИИ. Именно о таком ИИ, способном рассуждать и принимать решения без вмешательства человека, в основном идет речь в настоящей статье.
Цифровизация дает новое качество жизни и новые возможности. Однако другая ее сторона связана с гипертрофированным развитием потребления, гедонизма и неравенства. Если создатели ИИ находятся под влиянием мейнстрима потребления, гедонизма, то разрабатываемые цифровые системы принятия решений в значительной степени будут удовлетворять «заказы» тех социальных слоев общества, которые способны много потреблять, то есть решения будут приняты в пользу обеспеченных людей. Развитие кибернетических систем принятия решений в этом направлении усилит социальное неравенство, индекс Джини3 продолжит рост [27], возрастет социальная нестабильность [22]. Если производственные роботы и «умные» вещи вытесняют «синих» воротничков, то кибернетические машины принятия решений вытесняют другой социальный слой — «белых» воротничков [25].
Отрицательные последствия принятия решений искусственным интеллектом могут привести к росту движения луддитов и нарушить социальную стабильность общества. Принятие решений ИИ может приводить к нарушению/ограничению прав защиты персональной информации. Как отмечается в Европейской конвенции 108, особое значение имеет обеспечение защиты персональных данных и свобод человека, когда приложения искусственного интеллекта используются в процессах принятия решений [28]. Технологии искусственного интеллекта не только представляют потенциальную угрозу для неприкосновенности частной жизни, но и часто сознательно проектируются для профилирования людей4.
Польза передачи многих функций в принятии решений искусственному интеллекту очевидна. В данной статье остановимся на некоторых важных проблемах, связанных с социальными аспектами последствий принятия решений искусственным интеллектом в цифровом обществе. Не претендуя на глубокий социологический анализ, автор хочет привлечь внимание специалистов к весьма актуальным проблемам в цифровом обществе.
ИИ и проблемы трансформации трудовых ресурсов
в цифровом обществе
3 Индекс, отражающий соотношение доходов 10% наиболее и 10% наименее обеспеченного населения.
4 Оценка и прогнозирование поведения людей.
Одна из глобальных проблем цифровизации — рост безработицы [24; 26], обострение процессов утилизации и трансформации трудовых ресурсов. В то же время переход к цифровому обществу создает потребность в новых рабочих местах в связи с появлением новых профессий путем переобучения трудоспособного населения [35], что в значительной степени снижает социальную напряженность, вызванную процессом замещения человека искусственным интеллектом. Однако социальная напряженность все же сохраняется, поскольку при цифровизации темпы создания новых рабочих мест, как правило, ниже темпов высвобождения трудовых ресурсов в связи с заменой их автоматизированными системами и роботами.
В процессе цифровизации, трансформирующей тяжелый физический труд в работу механизмов и роботов, ограничивается импорт социальных слоев низкоквалифицированных мигрантов, изменяются структура трудовых ресурсов и характер работы человека [39]. На уровне низкоквалифицированных видов работ происходит интеллектуализация — например, в сервисной индустрии [40].
В цифровом обществе ИИ, вытесняя значительную долю трудовых ресурсов, не может заменить человека в процессах принятия решений. Именно этот аспект является одним из драйверов создания новых рабочих мест. Современный человекоподобный ИИ не способен полностью заменить человека в тех сферах деятельности, где принятие решений затрагивает жизненно важные стороны цифрового общества на уровне как отдельного человека, так и организационных структур разного масштаба вплоть до масштаба всего общества.
В цифровом обществе с расширением ИИ происходит поляризация рынка труда: профессии, ориентированные на выполнение стандартных задач, постепенно исчезают, доля работников со средней зарплатой сокращается [12]. Это одно из следствий вытеснения рабочих роботами и устройствами с ИИ. В цифровом обществе элементы ИИ присутствуют в различных устройствах — начиная от умного утюга до человекоподобного ИИ, выполняющего сложные функции хирурга, преподавателя, научно-исследовательского космического аппарата. Активное замещение интеллектуальных способностей человека различными умными машинами [5] постепенно приводит к тому, что человек передает принятие решений киберустройствам и искусственному интеллекту, что способствует умственной деградации в среднем по популяции.
В условиях цифровизации уменьшается непосредственно межличностное прямое общение, которое вытесняется «цифровым» общением на расстоянии. Никакое общение по телефону, видеосредствам, даже с применением голографических и других технологий, передающих запахи и тактильную информацию [13], не заменит в общении живой контакт; вербальные каналы передачи информации никогда
не заменят весь комплекс невербальной информации. В человеческом обществе топ-менеджеры часто принимают сверхответственные решения на интуитивном уровне. В большинстве случаев профессиональный управленец принимает интуитивное решение за считанные секунды, и оно оказывается верным и эффективным. В современном цифровом обществе пока нет ИИ, способного полностью самостоятельно принимать ответственные управленческие решения на уровне предприятия, коллектива. Сравнительно успешно развиваются лишь системы поддержки принятия решений на базе ИИ, которые помогают управленцу. Опытные управленцы принимают решения, используя большой комплекс инструментов — от интуиции, менеджерской просветленности, природных способностей, заложенных на генетическом уровне [3], до полномасштабного анализа разного рода информации, включая получаемую посредством невербальных, эмпатических каналов. Несмотря на стремление разработчиков наделить ИИ эмоциями, человеческими способностями сопереживать, прогнозировать социальное поведение окружающих [22], современные киберменеджеры далеки от полнофункционального замещения человека в процессах принятия решений.
Социальная безопасность и принятие решений ИИ
в цифровом обществе
Переход к цифровому обществу с повсеместным использованием ИИ приводит к принципиально новому взаимопроникновению социальных, технических и природных систем. Процесс этого взаимопроникновения плохо контролируем и практически необратим [7]. Таким образом, возникают серьезные системные риски. В цифровом обществе всепроникающий ИИ (умные сети снабжения ресурсами, умные интернет-вещи, гибридизация человека и ИИ5, чипирование движимого/недвижимого, живого/неживого, нанобиогенетика и т. д.) трудно поддается прогнозированию. По оценкам некоторых экспертов, вероятность самоуничтожения человечества от цифровизации выше, чем от ядерных войн [32].
Могут ли человекоподобные ИИ объединяться в сообщества? И могут ли эти сообщества из категории стада перейти в категорию коллектива с управляемой структурой, способной самостоятельно, без вмешательства человека принимать управленческие решения? Как утверждают некоторые специалисты, замещение человека кибе-рустройствами является угрозой психосоматическому здоровью человека, порождает процессы трансформации и деградации личности [5].
Бурное развитие технологий смещает приоритет мирового научного сообщества в сторону изучения социокибернетических и социо-
5 Киборг (кибернетический организм) — биологический организм, содержащий механические или электронные компоненты.
биотехнических систем. Доля этих систем в критических государственных инфраструктурах неуклонно возрастает, причем наиболее значимо — в системах принятия решений. Проблема безопасности в цифровом обществе тесно связана с процессами передачи функции принятия решений «умным» устройствам, искусственному интеллекту и ложится прежде всего на разработчиков этих устройств. Таким образом, устанавливаются новые требования к компетентности в области информационной безопасности специалистов — разработчиков ИИ.
Проблема безопасности принятия решений в киберменеджменте обостряется в связи со стремительной глобализацией бизнеса и информационных систем, вызванной четвертой промышленной революцией. Информационные ресурсы отдельного государства вынуждены взаимодействовать, обмениваться разного рода информационными потоками с глобальными мировыми системами, это относится и к критическим инфраструктурам, обеспечивающим жизнедеятельность общества. Особенно значимой становится защита автоматизированных информационных систем центров принятия решений в военно-оборонной сфере. Искусственный интеллект подвержен ошибкам в принятии решений. Какие последствия могла бы иметь роковая ошибка, когда советская система предупреждения о ракетном напа-дении6 26 сентября 1983 г. выдала ложный сигнал о запуске сразу пяти МБР «Минитмен» с территории США? Ошибки принятия решений искусственным интеллектом обусловливаются не только внешними факторами (сбои подсистем связи с окружающим миром, неверифици-рованная, фейковая входная информация, блэкауты систем питания, хакерские атаки и т. д.), но и внутренними, вызванными просчетами разработчиков, недостатком технических, технологических, интеллектуальных ресурсов. Опытные разработчики киберменеджеров, сводя к минимуму внутренние риски управленческих ошибок ИИ, стараются упредить и предотвратить негативное влияние внешних факторов. В современном переходе к цифровому обществу наблюдается процесс автоматизации социальной инженерии [17]. Преступления, совершенные с использованием технологий искусственного интеллекта, отличает высокая степень анонимности, а иногда, как в случае с ботами, практически выводится личность правонарушителя из процесса преступных взаимодействий.
Специалисты в области социологии отмечают снижение социальной активности населения [33] с развитием цифровизации и, в частности, с передачей значительных функций принятия решений искусственному интеллекту. Одними из причин этого являются замещение реальной жизни гаджетами, «разгадыванием кроссвордов», малоподвижный образ жизни и, как следствие, развитие преждевременного
6 Система «Око» построена на элементах ИИ [18].
старения мозга, деменции, снижение креативных способностей человека.
Социально-юридические проблемы последствий принятия решений
в киберменеджменте
В цифровом обществе менеджеру, выполняющему творческие задачи управления, окруженному непрерывными потоками информации в быстроменяющихся условиях, сложно глубоко погрузиться в решаемую проблему, сохранить однозначное направление мысли и, следовательно, принять верное решение. Медицина, космическая, авиа-, автомобильная навигация, диспетчеризация жизненно важных государственных инфраструктур — примеры сфер деятельности с большим количеством данных, в которых точность, скорость обработки являются наиболее критичными факторами. На помощь приходит ИИ, обрабатывающий и подготавливающий информацию для принятия решения. В последнее время в связи с развитием человекоподобного ИИ в некоторых видах деятельности киберменеджеру отдано самостоятельное принятие решения. Так, например, ИИ в хирургии, стоматологии, онкологии может принимать решение не хуже врача-профессионала [4; 8; 30], киберпилот справляется с принятием решений лучше летчика [31]. Однако до сих пор нет четкого понимания того, кто несет ответственность за смерть пациента в результате операции, совершенной киберхирургом. В каких ситуациях применим «электрический стул» для киберменеджеров?
Мышление человека социально [14; 23], эффективно принимать решение в социальном обществе может только человек. В задачах принятия решения ИИ должен быть функционально ограничен, по крайней мере, на современном этапе его развития. Тем не менее он может быть эффективным помощником в системах поддержки принятия решения во многих сферах деятельности [2].
В цифровом обществе трансформируется криминальная среда, в которую активно входит киберменеджмент [40], происходит диверсификация культурных ценностей, морали, традиций. Например, беспилотные бомбардировщики под управлением ИИ «освобождают» разработчиков, операторов от ответственности за убийство и позволяют не испытывать мук совести по отношению к жертвам [20]. Цифровизация ведет к изменению кодекса этики общества. Человеческая эмпатия, сострадание начинают замещаться рациоэм-патией, жестким бизнес-расчетом [9]. Становится актуальным вопрос юридической правомерности «альтруистических» решений киберме-неджера, принимаемых в интересах разработчика и/или владельца ИИ. Подготовка релевантных законов, регулирующих весь спектр социальных отношений в цифровом обществе, — один из системных вызовов переходного периода.
Особняком стоит проблема недекларированных возможностей ИИ. Разработчик осознанно (а может, и неосознанно) закладывает в ИИ скрытую способность изменить принятие решения в определенных ситуациях или по определенной команде, или по истечении какого-то времени инициируя программу принятия решения, о которой окружающие не информированы.
Один из признаков цифрового общества — наличие в обществе цифровой информации о человеке, в том числе цифрового паспорта. Однако юристы предупреждают о значительных проблемах перехода на цифровые паспорта, решение которых требует перевода юридического законодательства на другой процессуально-правовой уровень, обеспечения прав граждан на свободу выбора, прав защиты персональных данных7. В цифровом обществе необходим перевод процессов управления доступом к персональной информации на совершенно другой качественный уровень безопасности и борьбы с киберпреступлениями.
Системы киберфизических устройств позволяют эффективно управлять не только инфраструктурой отдельных домов, но и жизнью целых кварталов, микрорайонов, городов и мегаполисов [38]. Как выделить зоны ответственности ИИ в последствиях принятия решений, касающихся жизни целого мегаполиса?
Современная жизнь диктует необходимость решения задач социального взаимодействия внутри развивающихся потребностей при создании сообществ ИИ — например, сообщества киберсиделок; искусственных пчел (крайне востребовано в современном агрокультурном бизнесе); сообщества искусственных беспилотных автомобильных, железнодорожных, морских, летательных аппаратов.
Цифровизация дает толчок развитию высокоинтеллектуальных когнитивных технологий управления, и, как следствие, в управлении сложными системами искусственным интеллектом должно произойти кардинальное изменение. Прежде всего это изменение приведет к передаче части управления сложными системами искусственному интеллекту в случае обработки больших массивов неструктурированных данных.
Этические проблемы, связанные с принятием решений
искусственным интеллектом
Примеры перехода к цифровому обществу в масштабе города показывают обострение этических проблем, связанных с вмешательством искусственного интеллекта в личную жизнь, личное пространство человека [30]. В «умном» южнокорейском городе Сангдо шагу
7 Боголюбов А.А. Юридическое обоснование недопустимости перехода на электронные паспорта // Юридическая социальная сеть. 21 июля 2019 г. [электронный ресурс]. Дата обращения 08.02.2020. URL: https://www.9111. ru/questions/777777777741469/
нельзя сделать без отслеживания автоматизированными системами, видеокамерами, которыми напичканы все дома, учреждения, каждые столб, дерево. Мозг «умного» города знает о жителях все — вплоть до того, какой корм у какой кошки, какие гигиенические средства у какой женщины и т. д. Этот городской кибермозг принимает решения, когда, кому и какие привезти товары, заполнить холодильники, почистить аквариум и накормить его обитателей, выпить лекарства, сделать прививки и т. д. Даже в такой «законопослушной» южнокорейской среде принятие решений искусственным интеллектом сталкивается с большими этическими проблемами. Экстраполяция подобных ситуаций в российское общество создает почву для значительных негативных прогнозов на пути всеобъемлющей цифровизации жизни.
С усовершенствованием ИИ, приближением его к человеческому разуму киберсистемы начнут «заходить» на сугубо человеческие поля действий, а также вытеснять и замещать человека, трансформируя само понятие «человеческое общество» [29].
Несколько в стороне стоит социально-этическая проблема, связанная с ИИ в цифровом обществе: одна из целей цифровизации — перевод производства свободного времени человека на новый, высокий уровень. Человек получает в свое распоряжение большой объем свободного времени, что актуализирует проблему утилизации этого ресурса и влияет на социальные отношения в обществе [10]. Проблема имеет глобальный масштаб, и ее решение, в принципе, определяет направление развития человека, да и стратегию выживания человечества в целом.
Очевидно, что этические проблемы могут быть хотя бы частично решены в совокупности с решением юридических проблем, проблем безопасности, аспектов здравоохранения, других проблем, связанных с принятием решений искусственным интеллектом.
Проблемы подготовки кадров для цифрового общества.
Примеры дисциплин, востребованных цифровизацией
Переход к цифровому обществу генерирует социальные подвижки через потребность переквалификации большого числа трудоспособного населения и необходимость перестройки системы образования, которая в нынешнем варианте ориентирована на формирование знаний сегодняшнего и вчерашнего и практически мало формирует знания завтрашнего дня. В Распоряжении Правительства РФ № 16328 и в программе «Цифровая экономика Российской Федерации»9 под-
8 Программа «Цифровая экономика Российской Федерации».
Распоряжение от 28.07.2017 № 1632-р. [электронный ресурс]. Дата обращения 06.11.2019. URL: http://government.ru/docs/28653/
9 Паспорт национальной программы «Цифровая экономика Российской
Федерации». Протокол № 16 от 24.12.2018 Совета при Президенте РФ по
черкивается, что цифровизация нуждается в большом количестве высококвалифицированных, профессионально подготовленных выпускников вузов. При переходе на цифровую экономику особое внимание уделяется привлечению высокоодаренных детей. Система образования должна активно вовлекать эту специфическую социальную группу в процесс подготовки компетенций для цифровой экономики.
В связи с расширением применения искусственного интеллекта возрастает уровень ответственности тех, кто применяет в реальной жизни этот ИИ, и тех, кто его разрабатывает, развивает, сопровождает. Это накладывает особые требования к компетенциям специалистов цифровизации и особенно к архитекторам, разработчикам ИИ.
Развитие автоматизации и роботизации приводит к изменению перечня профессий, а также их функций и должностных инструкций10. Наряду с появлением новых профессий [19; 37] старые претерпевают компетентностную трансформацию [34].
При переходе к цифровому обществу новые запросы бизнеса, запросы студентов начинают генерировать изменения в системе высшего образования [10]. Автор данной статьи, работая в сфере образования и имея практическое погружение в ИТ-бизнес, при подготовке специалистов цифровизации внес изменения как в предметы, так и в процесс обучения. Акцент был смещен на развитие у обучающихся компетенций творческого, креативного начала, необходимого для разработки новых технологий роботизации, информационно-телекоммуникационных технологий. При этом в формировании таких специалистов, как архитекторы и разработчики человекоподобного интеллекта, большое внимание уделялось развитию компетенций в способности самооценки (включая оценку врожденной личностной предрасположенности к креативному менеджменту), междисциплинарному холистическому подходу, социальной адаптации.
Перестройка системы образования в цифровом обществе принципиально не только меняет социализацию личности в отношениях «человек — человек», «человек — общество», но и формирует новую социализацию отношений «человек — искусственный интеллект», «управляющий — киберменеджер». Отдельно стоит проблема социализации гибридов-киборгов в человеческое общество и социализации человека в общество киборгов [22]. Хотя очевидно, что нынешнему ИИ еще далеко до решения проблем социальной адаптации в человеческое
стратегическому развитию и национальным проектам [электронный ресурс]. Дата обращения 23.12.2020. URL: http://static.government.ru/media/ files/urKHm0gTPPnzJlaKw3M5cNLo6gczMkPF.pdf
10 Атлас новых профессий. Агентство стратегических инициатив. Сколково, 2014 [электронный ресурс]. Дата обращения 28.12.2019. URL: http://asi.ru/ upload/iblock/d69/Atlas.pdf
общество, «при существующих технологиях невозможно создать искусственный интеллект, укорененный в человеческом обществе» [14].
В процессе подготовки кадров для цифрового общества возрастает потребность в междисциплинарном обучении. Основная масса студентов готовится в вузах на факультетах, связанных с информационными технологиями, информатикой, автоматизацией. При детальном анализе потребностей в компетенциях новых профессий цифрового общества становится очевидной организация межфакультетских лекций. Так, в 2017—2019 гг. автором данной статьи на факультете информационных технологий Российского государственного социального университета (РГСУ) читались междисциплинарные лекции по проблематике влияния ИИ на социальные отношения в цифровом обществе. В РГСУ межфакультетские лекции по проблемам цифрови-зации для факультетов психологии, социологии, управления читались автором этой статьи, а также преподавателями и учеными из других вузов и институтов РАН.
В рамках реализации программы «Цифровая экономика Российской Федерации» при подготовке ИТ-специалистов с учетом практических требований современных процессов цифровизации автором читались следующие циклы лекций с семинарскими занятиями: «Введение в цифровизацию: системы перевода процессов в робастный вид»; «Защита персональных данных в цифровой экономике и безопасность критических инфраструктур цифрового общества»; «Введение в искусственный интеллект»; «Основы таксономии»; «Введение в онтологии ИТ»; «От "умного" чайника до "умного" города»; «Плюсы и минусы стандартизации управления проектами и процессами»; «Формирование компетентности самооценки, эмпатии и медиации»; «Аккомодация и ассимиляция трудовых ресурсов в цифровой экономике»; «Введение в социологию управления регионом в цифровой экономике»; «Введение в психологию социофобий в цифровой экономике»; «Психология гибридизации управленца и киберменеджера»; «Основы психологической адаптации человека к работе в цифровой экономике»; «Введение в психологию самооценки специалистов цифровой экономики»; «Социальная адаптация молодежи в цифровой экономике»; «Особенности принятия управленческих решений в ИСС11».
Заключение
Прямое сопоставление ИИ и компьютера неправомерно, поскольку современный ИИ выходит за рамки типичных компьютерных вычислений и аналитических алгоритмов. Работая с облачными инструментами, нейросетями, big data, распознаванием паттернов и т. д., ИИ постепенно начинает заходить на территорию межчеловеческих, социальных отношений. Возможно, недалеко то время, когда к ИИ
11 ИСС — измененное состояние сознания.
можно будет применять критерии личности, то есть как к биотехнической системе, способной к самоотождествлению и сопереживанию, саморазвитию, самостоятельному принятию решений, умению их реализации и несению ответственности за последствия принятия этих решений.
Некоторые антропологи-когнитивисты считают, что промышленные революции ускоряют процесс умственной и физической деградации человека как популяции12 [15]. Однако в цифровом обществе растет число людей с высокими креативными умственными способностями, а также численность высокопрофессиональных кадров, способных разрабатывать ИИ, самостоятельно и эффективно принимающих р ешения.
Актуальными становятся не только коррекция существующих обучающих дисциплин социальной и информационной безопасности, востребованы также принципиально иные компетенции, новые обучающие курсы и учебные материалы. Цифровое общество должно перестроить систему образования с приоритета бизнес-ориентации на человеко-ориентированный приоритет. Процесс цифровизации, реализуемый в отношении к человеку не как к шестеренке механизмов предприятий, корпораций, государства в целом, а как к личности, создает благоприятный ландшафт для построения эффективного цифрового общества. Еще не до конца осознается, что система образования в процессе перехода к цифровому обществу, по существу, является основной критической инфраструктурой государства с отложенным результатом — критической с точки зрения эффективности и безопасности системного построения цифрового общества.
Цифровизация может привести к юридическим коллизиям, связанным с определением авторства принятого решения, установлением границ ответственности между человеком и киберменеджером [31].
Люди в интеллектуальной гонке проигрывают машинам и ИИ [12], им становится сложнее организовывать социальную жизнь, появляются новые проблемы взаимоотношений [6] «человек — искусственный интеллект», «человек — общество». В то же время трудно не признать пользу от широкого применения ИИ, включая системы принятия решений.
Система образования должна помочь обучающемуся не столько обрести новые знания, сколько научить обучаться и вырабатывать самооценки, целеполагания в процессе учения и формирования новых компетенций, необходимых специалисту в цифровой экономике.
В целом анализ проблемы возможного влияния последствий принятия решений ИИ на личность, социальную группу, общество при-
12 Бояринцев В.И. Деградация человека [электронный ресурс]. Дата обращения 16.04.2020. URL: https://public.wikireading.ru/117701
водит к поляризованному результату — от явного неприятия достижений в применении ИИ при принятии решений до панегирического приятия.
На современном этапе развития человекоподобного ИИ существуют большие социальные риски отдать окончательное решение в важных масштабных управленческих задачах этому ИИ. Недостаточная надежность ИИ в системах принятия решений активизирует процесс гибридизации человека-управляющего и киберменеджера. Гибрид человека и киберменеджера в цифровом обществе может свести к минимуму отрицательные последствия принятия решений. При этом в гибридной «системе» ИИ обеспечивает быстрый сбор и обработку больших массивов данных, их верификацию, расчет рисковых сценариев, точек бифуркации и другие рутинные операции, в то время как человек в диалоге с ИИ использует свои профессиональные навыки, чувственный опыт, интуицию, аналитические возможности ИСС, невербальные источники информации. В подобных гибридных системах ИИ выступает как актуальная «персональная» база знаний с мощной аналитикой best practices, анализом извлеченных уроков, рисковых сценариев, уберегает от совершенных когда-либо и где-либо ошибок в аналогичных и смежных решаемых проблемах. Гибридизация может привести к принципиально новому, нестандартному и эффективному принятию решения.
ЛИТЕРАТУРА
1. Артонкина Р. Каталог ИИ-инструментов для управления проектами // Управление проектами и программами. 2020. № 4 (64). С. 318-320.
2. Бурков В.Н., Буркова И.В. Цифровая экономика и умные механизмы управления // Управление проектами и программами. 2018. № 2 (54). С. 118-125.
3. Бушуев С.Д., Бурков В.Н., Неизвестный С.И. Роль генетического инварианта активных систем в управлении проектами с высокой неопределенностью // Управление проектами и программами. 2014. № 2. С. 130-144.
4. Ганцев Ш.Х., Франц М.В. Искусственный интеллект как инструмент поддержки в принятии решений по диагностике онкологических заболеваний // Медицинский вестник Башкортостана. 2018. Т. 13. № 4 (76). С. 67-71.
5. Емелин В.А. Киборгизация и инвалидизация технологически расширенного человека // Национальный психологический журнал. 2013. № 1 (9). С. 62-70.
6. Емелин В.А. От неолуддизма к трансгуманизму: сингулярность и вертикальный прогресс или утрата идентичности? // Философия науки и техники. 2018. Т. 23. № 1. С. 103-115. DOI: 10.21146/2413-9084-2018-231-103-115
7. Ефременко Д.В. Искусственный интеллект и технологии цифровой реальности: социальные и политические вызовы безопасности государств большой Евразии // Большая Евразия: развитие, безопасность, сотрудничество. Ежегодник. Вып. 2. Ч. 2 / РАН. ИНИОН. Отд. науч. сотрудничества; Отв. ред. В.И. Герасимов. М.: ИНИОН РАН, 2018. С. 123-125.
8. Ивановский Б.Г. Социально-экономические последствия цифровой революции // Социальные и гуманитарные науки: Отечественная и зарубежная литература. Сер. 2. Экономика: Реферативный журнал. 2020. № 1. С. 127-134.
9. Москвин Л.Б. Социальная защищенность граждан в эпоху цифровизации как политическая проблема // Социально-гуманитарные знания. 2020. № 2. С. 58-76. DOI: 10.34823/SGZ.2020.1.51328
10. Неизвестный С.И. Социально-психологические проблемы перехода к цифровой экономике // Ученые записки Российского государственного социального университета. 2018. Т. 17. № 2 (147). С. 5-14. DOI: 10.17922/2071-5323-2018-17-2-5-13
11. Панкратов А.Ю. Современное управление производственными и сервисными системами // Journal of Economy and Business. 2020. Vol. 4-2 (62). P. 181-183. DOI: 10.24411/2411-0450-2020-10322
12. Пауэлл Д. Современные проблемы влияния развития научно-технического прогресса на занятость населения // МИР (Модернизация. Инновации. Развитие). 2015. № 2 (22). С. 173-178.
13. Прохоров А. О возможности воздействовать на органы чувств человека по Интернету // КомпьютерПресс. 2004. № 2 [электронный ресурс]. Дата обращения 19.12.2020. URL: https://compress.ru/article.aspx?id=9883
14. Резаев А.В., Трегубова Н.Д. Искусственный интеллект как проблема современной социальной аналитики // Вестник Российского университета дружбы народов. Серия: Социология. 2019. Т. 3. С. 581-586. DOI: 10.22363/2313-2272-2019-19-3-581-586
15. Савельев С.В. Возникновение мозга. М.: Веди, 2010. — 310 с.
16. Смирнов А.В., Левашова Т.В. Модели поддержки принятия решений в социокиберфизических системах // Информационно-управляющие системы. 2019. № 3. С. 55-70. DOI: 10.31799/1684-8853-2019-3-55-70
17. Суходолов А.П., Бычкова А.М. Искусственный интеллект в противодействии преступности, ее прогнозировании, предупреждении и эволюции // Всероссийский криминологический журнал. 2018. Т. 12. № 6. C. 753-766. DOI: 10.17150/2500-4255.2018.12(6).753-766
18. Тихонов С.Г. Оборонные предприятия СССР и России: в 2-х т. Т. 2. М.: ТОМ, 2010. С. 557-558.
19. Armstrong P. Which one of these will be your job title in 2037? // Fortune Blog. 21.09.2017 [online]. Accessed 30.04.2020. URL: https://www.forbes.com/ sites/paularmstrongtech/2017/09/21/which-one-of-these-will-be-your-job-title-in-2037/#64eade9549f8
20. Benjamin M. Drone Warfare: Killing by Remote Control. London: Verso Books, 2013. — 241 p.
21. Boden M.A. AI: Its Nature and Future. Oxford: Oxford University Press, 2016 [online]. Accessed 27.01.2020. URL: https://onlineprogrammes.sbs.ox.ac.uk/ presentations/lp/oxford-artificial-intelligence-programme/
22. Bussemer T., Krell C., Meyer H. Social democratic values in the digital society. Challenges of the Fourth Industrial Revolution // Occasion Paper. No. 10. London: Social Europe, 2016. — 19 p.
23. Collins H. Artifictional Intelligence: Against Humanity's Surrender to Computers. Cambridge: Polity Press, 2018. — 232 p. DOI: 10.4000/ communication.12333
24. Crook C. Full Employment // Bloomberg. 06.07.2018 [online]. Accessed 25.01.2020. URL: https://www.bloomberg.com/quicktake/full-employment
25. Degryse C. Digitalisation of the Economy and its Impact on Labor Markets. Brussels: European trade union institute, 2016. — 76 p.
26. Friedman G. Workers without employers: Shadow corporations and the rise of the gig economy // Review of Keynesian Economics. 2014. Vol. 2. No. 2. P. 171-188. DOI: 10.4337/roke.2014.02.03
27. GINI index (World Bank estimate). 2018 [online]. Accessed 09.02.2020. URL: https://data.worldbank.org/indicator/SI.POV.GINI
28. Guidelines on artificial intelligence and data protection. Consultative committee of the Convention for the protection of individuals with regard to automatic processing of personal data. Convention 108. Council of Europe. Strasbourg, 25 January 2019 [online]. Accessed 25.01.2020. DOI: 10.21552/edpl/2017/1/11
29. Hawkins J., Blakeslee S. On Intelligence. New York: Times Books, 2004. — 272 p.
30. Kupriyanovsky V., Dunaev O., Fedorova N., Namiot D., Kupriyanovsky Yu. On intelligent mobility in the digital economy // International Journal of Open Information Technologies. 2017. Vol. 5. No. 2. P. 46-63.
31. Kupriyanovsky V., Sotnikov A., Soloviev A., Drozhzhinov V., Namiot D., Mamaev V., Kupriyanovsky P. Aadhaar — identification of the person in the digital economy // International Journal of Open Information Technologies. 2017. Vol. 5. No. 2. P. 34-45.
32. Lee T.-W. Military Technologies of the World. Westport, Conn.: Praeger Security International, 2009. — 382 p.
33. Moret-Tatay C., Murphy M. Aging in the Digital Era // Frontiers in Psycholjgy. 07 August 2019 [online]. Accessed 13.04.2020. URL: https://www.frontiersin. org/articles/10.3389/fpsyg.2019.01815/full
34. Prince K., Saveri A., Swanson J. The future of learning: Redefining readiness from the inside out. Cincinnati: Knowledge Works, 2017. — 57 p.
35. Reese B. AI will create millions more jobs than it will destroy. Here's how // Singularity Hub. 01.01.2019 [online]. Accessed 18.04.2020. DOI: 10.1142/ s2661339519500021
36. Rifkin J. The zero marginal cost society: The internet of things, the collaborative commons, and the eclipse of capitalism. New York: St. Martin's Press. 2014. — 280 p.
37. SlayterM.E. 11 really cool jobs that don't exist today, but will soon // Monster Blog. 2019 [online]. Accessed 18.04.2020. URL: https://www.monster.com/ career-advice/article/cool-future-jobs
38. Songdo — Smart City. International Business District // INCIDER [online]. Accessed 14.01.2020. URL: http://www.businessinsider.com/songdo-south-korea-design-2017-11/#fifteen-miles-of-bike-lanes-go-through-the-district-connecting-to-a-larger-90-mile-network-in-songdo-city-4
39. World Bank World development report 2019: The changing nature of work. Washington, D.C.: World Bank, 2019. — 151 p. DOI: 10.1596/978-1-46481328-3
40. Yoon Chung Kim. Technology Assessment of Artificial Intelligence — Impact of Artificial Intelligence on society [online]. Accessed 18.04.2020. URL:
https://opennet.or.kr/wp-content/uploads/2018/05/ehH*[S_Technology-
Assessment-of-AI_^^^ .pdf СВЕДЕНИЯ ОБ АВТОРЕ
Неизвестный Сергей Иванович — доктор технических наук, профессор, кафедра «Бизнес-информатика», Финансовый университет при Правительстве Российской Федерации.
Телефон: +7 (903) 742-86-04. Электронная почта: [email protected]
Дата поступления: 26.06.2020.
Sotsiologicheskiy Zhurnal = Sociological Journal. 2021. Vol. 27. No. 2. P. 90-108. DOI: 10.19181/socjour.2021.27.2.8088
Sergey I. NeizvestnY
1 Financial University under the Government of the Russian Federation. bl. 49, Leningradsky Avenue, 125993, Moscow, Russian Federation.
Social Aspects of the Consequences of Artificial Intelligence Decision Making in a Digital Society
Abstract. In recent decades, almost all areas of human activity are undergoing rapid digitalization and the introduction of artificial intelligence, which fundamentally affect social relations within society. In addition to the obvious benefits of using human-like intelligence in the modern digital world, there may also be negative consequences associated, first of all, with the processes of making important, large-scale management decisions by the cyber-management of a digital society. The problem of the impact on social security of decision-making by artificial intelligence in a digital society has not been sufficiently studied. The article considers the main social aspects of the problems related to the consequences of artificial intelligence making decisions. The main focus is the impact of decisions made by cyber managers on the social stability of a digital society. Some features of the emerging social relations "human - artificial intelligence", "Manager - Cyber-manager" are considered. Based on analyzing the impact of the consequences ofdecision-making by artificial intelligence on social relations, a number of changes in the training system for digitalization processes are proposed, and requirements for the competence of specialists in developing and operating human-like intelligence are formulated. Based on the practical requirements of the modern IT sphere, the author has developed and introduced into the educational process a number of cycles
of interdisciplinary lectures and practical seminars for future IT specialists in a digital society. A number of solutions to pedagogical problems related to the development of the analytical and creative abilities of future specialists, of architects and developers of cyber-systems and of managerial decision-making are proposed.
Keywords: artificial intelligence; social relations; decision-making systems; digital society; security; cyber management.
For citation: Neizvestny, S.I. Social Aspects ofthe Consequences ofArtificial Intelligence Decision Making in a Digital Society. Sotsiologicheskiy Zhurnal = Sociological Journal. 2021. Vol. 27. No. 2. P. 90-108. DOI: 10.19181/socjour.2021.27.2.8088
REFERENCES
1. Artonkina R. Catalog of AI-tools for project management. Upravlenie proektami iprogrammami. 2020. No. 4 (64). P. 318-320. (In Russ.)
2. Burkov V.N., Burkova I.V. Digital economy and smart control mechanisms. Upravlenie proektami iprogrammami. 2018. No. 2 (54). P. 118-125. (In Russ.)
3. Bushuev S.D., Burkov V.N., Neizvestnyi S.I. The role of the genetic invariant of active systems in project management with high uncertainty. Upravlenie proektami i programmami. 2014. No. 2. P. 130-144. (In Russ.)
4. Gantsev Sh.Kh., Frants M.V. Artificial intelligence as a tool for decision-making support in the diagnostics of oncological diseases. Meditsinskii vestnik Bashkortostana. 2018. Vol. 13. No. 4 (76). P. 67-71. (In Russ.)
5. Emelin V.A. Cyborgization and disability of a technologically advanced person. Natsional'nyipsikhologicheskiizhurnal. 2013. No. 1 (9). P. 62-70. (In Russ.)
6. Emelin V.A. From neo-luddism to transhumanism: Singularity and vertical progress or identity loss? Filosofiya nauki i tekhniki. 2018. Vol. 23. No. 1. P. 103-115. DOI: 10.21146/2413-9084-2018-23-1-103-115 (In Russ.)
7. Efremenko D.V. Artificial Intelligence and Digital Reality Technologies: Social and Political Security Challenges for the States of Greater Eurasia. Bol'shaya Evraziya: raz-vitie, bezopasnost', sotrudnichestvo. Ezhegodnik. [Greater Eurasia: Development, Security, Cooperation. Yearbook.] Iss. 2. Ch. 2. Ed. by V.I. Gerasimov. Moscow: INION RAN publ., 2018. P. 123-125. (In Russ.)
8. Ivanovskii B.G. Socio-economic consequences of the digital revolution. Sotsial'nye i gumanitarnye nauki: Otechestvennaya i zarubezhnaya literatura. Seriya 2: Ekonomika. Referativnyizhurnal. 2020. No. 1. P. 127-134. (In Russ.)
9. Moskvin L.B. Social security of citizens in the age of digitalization as a political problem. Sotsial'no-gumanitarnye znaniya. 2020. No. 2. P. 58-76. DOI: 10.34823/ SGZ.2020.1.51328 (In Russ.)
10. Neizvestnyi S.I. Social and Psychological Problems of Transition to Digital Economy. Uchenye zapiski Rossiiskogo gosudarstvennogo sotsial'nogo universiteta. 2018. Vol. 17. No. 2 (147). P. 5-14. DOI: 10.17922/2071-5323-2018-17-2-5-13 (In Russ.)
11. Pankratov A.Yu. Modern management of production and service systems. Journal of Economy and Business. 2020. Vol. 4-2 (62). P. 181-183. DOI: 10.24411/2411-04502020-10322 (In Russ.)
12. Pauell D. Modern problems of the influence of the development of scientific and technological progress on the employment of the population. MIR (Modernizatsiya. Innovatsii. Razvitie). 2015. No. 2 (22). P. 173-178. (In Russ.)
13. Prokhorov A. On the possibility of influencing the human senses via the Internet. Komp'yuterPress. 2004. No. 2. Accessed19.12.2020. URL: https://compress.ru/article. aspx?id=9883 (In Russ.)
14. Rezaev A.V., Tregubova N.D. Artificial intelligence as a challenge for the contemporary social analysis. Vestnik Rossiiskogo universiteta druzhby narodov. Seriya: Sotsiologiya. 2019. Vol. 3. P. 581-586. DOI: 10.22363/2313-2272-2019-19-3-581-586 (In Russ.)
15. Savel'ev S.V. Vozniknovenie mozga. [The emergence of the brain.] Moscow: Vedi publ., 2010. 310 p. (In Russ.)
16. Smirnov A.V., Levashova T.V. Models of decision support in socio-cyber-physical systems. Informatsionno-upravlyayushchie sistemy. 2019. No. 3. P. 55-70. DOI: 10.31799/1684-8853-2019-3-55-70 (In Russ.)
17. Sukhodolov A.P., Bychkova A.M. Artificial intelligence in crime counteraction, prediction, prevention and evolution. Vserossiiskii kriminologicheskii zhurnal. 2018. Vol. 12. No. 6. P. 753-766. DOI: 10.17150/2500-4255.2018.12(6).753-766 (In Russ.)
18. Tikhonov S.G. Oboronnyepredpriyatiya SSSR iRossii. [Defense enterprises of the USSR and Russia.] In 2 Vls. Vol. 2. Moscow: TOM publ., 2010. P. 557-558. (In Russ.)
19. Armstrong P. Which one of these will be your job title in 2037? Fortune Blog. 21.09.2017. Accessed 30.04.2020. URL: https://www.forbes.com/sites/ paularmstrongtech/2017/09/21/which-one-of-these-will-be-your-job-title-in-2037/#64eade9549f8
20. Benjamin M. Drone Warfare: Killing by Remote Control. L.: Verso Books, 2013. 241 p.
21. Boden M.A. AI: Its Nature and Future. Oxford: Oxford University Press, 2016. Accessed 27.01.2020. URL: https://onlineprogrammes.sbs.ox.ac.uk/presentations/lp/oxford-ar-tificial-intelligence-programme/
22. Bussemer T., Krell C., Meyer H. Social democratic values in the digital society. Challenges of the Fourth Industrial Revolution. Occasion Paper. No. 10. L.: Social Europe, 2016. 19 p.
23. Collins H. Artifictional Intelligence: Against Humanity's Surrender to Computers. Cambridge: Polity Press, 2018. 232 p. DOI: 10.4000/communication.12333
24. Crook C. Full Employment. Bloomberg. 06.07.2018. Accessed 25.01.2020. URL: https:// www.bloomberg.com/quicktake/full-employment
25. Degryse C. Digitalisation of the Economy and its Impact on Labor Markets. Brussels: European trade union institute, 2016. 76 p.
26. Friedman G. Workers without employers: Shadow corporations and the rise of the gig economy. Review ofKeynesian Economics. 2014. Vol. 2. No. 2. P. 171-188. DOI: 10.4337/ roke.2014.02.03
27. GINIindex (World Bank estimate). 2018. Accessed 09.02.2020. URL: https://data. worldbank.org/indicator/SI.POV.GINI
28. Guidelines on artificial intelligence and data protection. Consultative committee of the Convention for the protection of individuals with regard to automatic processing of personal data. Convention 108. Council of Europe. Strasbourg, 25 January 2019. Accessed 25.01.2020. URL: https://rm.coe.int/guidelines-on-artificial-intelligence-and-data-pro-tection/168091f9d8 DOI: 10.21552/edpl/2017/1/11
29. Hawkins J., Blakeslee S. On Intelligence. New York: Times Books, 2004. 272 p.
30. Kupriyanovsky V., Dunaev O., Fedorova N., Namiot D., Kupriyanovsky Yu. On intelligent mobility in the digital economy. International Journal of Open Information Technologies. 2017. Vol. 5. No. 2. P. 46-63.
31. Kupriyanovsky V., Sotnikov A., Soloviev A., Drozhzhinov V., Namiot D., Mamaev V., Kupriyanovsky P. Aadhaar — identification of the person in the digital economy. International Journal of Open Information Technologies. 2017. Vol. 5. No. 2. P. 34-45.
32. Lee T.-W. Military Technologies of the World. Westport, Conn.: Praeger Security International, 2009. 382 p.
33. Moret-Tatay C., Murphy M. Aging in the Digital Era. Frontiers in Psycholjgy. 07 August 2019. Accessed 13.04.2020. URL: https://www.frontiersin.org/articles/10.3389/ fpsyg.2019.01815/full
34. Prince K., Saveri A., Swanson J. Thefuture oflearning: Redefining readiness from the inside out. Cincinnati: Knowledge Works, 2017. 57 p.
35. Reese B. AI will create millions more jobs than it will destroy. Here's how. Singularity Hub. 01.01.2019. Accessed 18.04.2020. DOI: 10.1142/s2661339519500021
36. Rifkin J. The zero marginal cost society: The internet of things, the collaborative commons, and the eclipse of capitalism. N.Y.: St. Martin's Press. 2014. 280 p.
37. Slayter M.E. 11 really cool jobs that don't exist today, but will soon. Monster Blog. 2019 [online]. Accessed 18.04.2020. URL: https://www.monster.com/ career-advice/article/ cool-future-jobs
38. Songdo — Smart City. International Business District. INCIDER. Accessed 14.01.2020. URL: http://www.businessinsider.com/songdo-south-korea-design-2017-11/#fifteen-miles-of-bike-lanes-go-through-the-district-connecting-to-a-larger-90-mile-network-in-songdo-city-4
39. World Bank World development report 2019: The changing nature of work. Washington, D.C.: World Bank, 2019. 151 p. DOI: 10.1596/978-1-4648-1328-3
40. Yoon Chung Kim. Technology Assessment of Artificial Intelligence — Impact of Artificial Intelligence on society. Accessed 18.04.2020. URL: https://opennet.or.kr/wp-content/ uploads/2018/05/^HX[S_Technology-Assessment-of-AI_S£§ .pdf
Information about the author
Sergey I. Neizvestny — Doctor of Technical Sciences, Professor, Department of Business Informatics, Financial University under the Government of the Russian Federation. Phone: +7 (903) 742-86-04. Email: [email protected]
Received: 26.06.2020.
