CC BY
35
Дятлов С.А.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЛОВУШКИ ЦИФРОВОЙ ТРАНСФОРМАЦИИ
Аннотация. Статья посвящена рассмотрению институционально-правовых основ широкого применения искусственного интеллекта в ряде стран. Выделены и классифицированы основные проблемы взаимодействия человеческого интеллекта и искусственного интеллекта. Дан анализ ловушек цифровой трансформации и использования искусственного интеллекта (перенасыщение избыточными данными, цифровое ожирение, достоверность принимаемых решений, потеря контроля над процессами принятия решений, доверия и распознавания эмоций, интуиции и лидерства). Сделан вывод о том, что с учетом грядущей сингулярности важнейшей задачей является защита суверенных интересов людей в нейро-сетевом обществе, где доминировать будет искусственный супер нейро-интеллект.
Ключевые слова. Искусственный интеллект, человеческий интеллект, ловушки цифровой трансформации, цифровое ожирение, сингулярность.
Dyatlov S.A.
ARTIFICIAL INTELLIGENCE AND THE PITFALLS OF DIGITAL TRANSFORMATION
Abstract. The article is devoted to the institutional and legal foundations of the widespread use of artificial intelligence in several countries. The main problems of interaction between human intelligence and artificial intelligence are identified and classified. The analysis of the pitfalls of digital transformation and the use of artificial intelligence (oversaturation with redundant data, digital obesity, reliability of decisions, loss of control over decision-making processes, trust and recognition of emotions, intuition, and leadership) is given. It is concluded that, considering the upcoming singularity, the most important task is to protect the sovereign interests of people in a neuro-networked society, where artificial super neurointelligence will dominate.
Keywords. Artificial intelligence, human intelligence, traps of digital transformation, digital obesity, singularity.
Введение
Современный этап развития мировой и российской хозяйственных систем характеризуются их глубинной цифровой трансформацией и переходом к гиперконкурентной нейро-сетевой экономике. Интегрированные системы искусственного интеллекта (Artificial Intelligence, AI) на основе нейронных сетей начинают формировать основные тренды развития в третьем десятилетии XXI века [5] и влияют на изменение характера отношений на всех уровнях и во всех сферах экономической и социальной
ГРНТИ 06.81.23 EDN TFFRVZ © Дятлов С.А., 2022
Сергей Алексеевич Дятлов - доктор экономических наук, профессор кафедры общей экономической теории и истории экономической мысли Санкт-Петербургского государственного экономического университета. Контактные данные для связи с автором: 191023, Санкт-Петербург, наб. канала Грибоедова, д. 30-32 (Russia, St. Petersburg, Griboedov canal emb., 30-32). Тел.: +7 (812) 310-47-60. Е-mail: oetdsa@yandex.ru. Статья поступила в редакцию 08.12.2022.
Данная статья подготовлена на основе экспертной работы автора на сессии ПМЭФ-2022 «Цифровая трансформация и суверенные интересы» (см.: https://roscongress.org/sessions/spief-tsifrovaya-transformatsiya-i-suverennye-interesy/about/#).
жизни [2]. Тотальное применение систем искусственного интеллекта в экономике и общественной жизни выявляет целый ряд проблем, среди которых важнейшей социо-психологической и организационно-управленческой проблемой является взаимодействие человеческого интеллекта и искусственного интеллекта, определение их роли и меры при принятии решений.
Материалы и методы
В большинстве передовых стран мира и в России происходит формирование институционально-правового пространства для широкого применения искусственного интеллекта. В ЕС был разработан и принят основополагающий документ «White Paper on Artificial Intelligence», в котором сформулирована стратегия комплексной цифровой трансформации, базовым элементом которой является искусственный интеллект, и которая является движущей силой европейской экономики [9]. В США разработан и реализуется при государственной поддержке и участии ведущих американских ИТ-компаний «Национальный стратегический план исследований и разработок в сфере искусственного интеллекта» (National AI R&D Strategic Plan).
В Китае принят и реализуется «План развития искусственного интеллекта» (Notice of the State Council Issuing the New Generation of Artificial Intelligence Development Plan). В соответствие с этим планом искусственный интеллект должен стать основой цифровой модернизации всех сфер китайской экономики и общества. Важнейшими направлениями инновационного технологического развития Китая в соответствие с планом 14 пятилетки на 2021-2025 годы становятся развитие наночипов, квантовых компьютеров и искусственного интеллекта [6].
В России основные направления развития искусственного интеллекта определены в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», утвержденной Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р была принята и утверждена «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». В настоящее время в России началась реализация федерального проекта «Искусственный интеллект». При Правительстве РФ на базе Аналитического центра создан «Центр экспертизы по реализации федерального проекта "Искусственный интеллект"». Основные результаты
В ноябре 2022 года на международной конференции «Путешествие по искусственному интеллекту» (AI Journey) было отмечено, что экономический эффект от внедрения технологий ИИ российскими компаниями в 2021 году превысил 300 млрд рублей [1]. Р. Курцвейл в работе «Сингулярность близка» [8] сделал прогноз о развитии искусственного интеллекта и грядущей сингулярности человеческого общества. Сингулярность является точкой, в которой искусственный интеллект станет мощнее всего человеческого интеллекта. По прогнозу Р. Курцвейла это произойдет к 2045 году.
На наш взгляд, сегодня следует говорить о «полифункциональной соционейроморфной сингулярности» [3], в соответствии с которой новым оцифрованным товаром в нейро-сетевой экономике, на который постоянно растет спрос, становятся прогнозирование и управление поведением отдельного человека, коллективов, групп людей и всего человеческого общества. Следует выделить и классифицировать основные проблемы взаимодействия человеческого интеллекта и искусственного интеллекта, а также ловушки цифровой нейро-сетевой экономики, основанной на нейронных сетях и искусственном интеллекте [4]:
1. Ловушка перенасыщения избыточными данными AI. Проблема сбора большого объема разнообразных данных, перенасыщения информации, сбора избыточных данных, которые собирают и обрабатывают системы ИИ и на основании которых принимаются решения. Собранные данные очень быстро устаревают. Излишние и устаревшие данные нужно собирать, хранить, копировать, утилизировать, архивировать, корректировать полученные результаты, т.е. резко возрастают дополнительные затраты, что приводит к снижению эффективности. Перенасыщение (накопление) избыточными данными приводит к «эффекту цифрового ожирения».
2. Цифровое ожирение (Digital obesity AI). Цифровое ожирение приводит к замедлению процессов принятия решений, запаздыванию реакции на текущие изменения, к резкому росту затрат на сбор, архивацию и хранение избыточных данных. Рост затрат на цифровое ожирение снижает рентабельность работы и эффективность использования искусственного интеллекта.
32
Дятлов С.А.
3. Ловушка достоверности принимаемых решений AI. Искусственный интеллект оперирует с большим объемами самых разнообразных данных (технологических, экологических, политических, социальных, психологических, экономических и др.), при обработке и анализе которых могут возникать погрешности и ошибки. Люди, которые используют ИИ при принятии решений, не обладают достоверными методами проверки правильности обработанных больших данных и полученных на их основе результатов. Это создает предпосылки для принятия ошибочных решений, к потерям ресурсов и времени.
4. Ловушка многослойности и потери контроля над процессами внутри слоев AI. Множество слоев в глубокой сети позволяют ей распознавать вещи на разных уровнях. Взаимодействие вычислений внутри глубокой нейронной сети важно для принятия решений. Действие нейронной сети предполагает анализ поведения десятков и сотен тысяч моделируемых нейронов, расположенных в многоуровневой, многослойной нейронной структуре. Также следует учитывать обратное распространение сигналов и их анализ сетью, что является основой самообучения сети для достижения необходимых результатов.
5. Ловушки «правды - вымысла», доверия распознавания эмоций. Искусственный интеллект пока не способен критически анализировать и с большой точностью отделять правду от вымысла и бороться с хайповой дезинформацией. Апробацию первых алгоритмов в этом направлении осуществляет компания ОрепА1, которая создала систему искусственного интеллекта для генерации убедительных «фейк ньюс». Другое важное направление исследований и практических разработок - это создание системы распознавания эмоций в социальных и бизнес-сетях, так называемый эмоциональный искусственный интеллект. Эмоциональный ИИ позволит повысить эффективность решения проблемы кибербул-линга - целенаправленного нанесения вреда с помощью компьютерных технологий в экономической, политической и социальной сферах. Руководитель компании «Сингуляринет», базирующейся в Гонконге, Б. Герцель поставил задачу: научить последующее поколение роботов с более высоким уровнем ИИ имитировать человеческие эмоции.
5. Искусственный интеллект и интуиция. Нынешнее поколение алгоритмов искусственного интеллекта и машинного обучения сфокусировано на сборе и анализе огромных объемов данных с целью выявления закономерностей, позволяющих делать прогнозы и предсказания. Исследователи пытаются включить в алгоритмы элемент, напоминающий человеческую интуицию. Например, с этой целью исследователи из Массачусетского технологического института изучают методы решения проблем, используемые интуитивно очень умными людьми. Стратегии, используемые этими людьми, затем реализуются в программном обеспечении.
Сегодня ведутся разработки систем «сильного ИИ», который должен обладать не только логическими, но и интуитивными способностями анализа данных, принимаемых решений и предвидением их последствий. Интуицию человека и ее действие при принятии человеком решений чрезвычайно сложно измерить и перевести в алгоритмы, понятные ИИ. При этом возникает закономерный вопрос: «Если будет создан сильный ИИ с интуицией, могут ли люди доверять интуитивному принятию решений ИИ, и какова цена возможной ошибки и ее исправления?»
6. Ловушка лидерства. Человеческий интеллект и искусственный интеллект: кто лидер? Сегодня искусственный интеллект вчистую обыгрывает всех людей-чемпионов в интеллектуальные игры (шахматы, го и др.). В перспективе сильный искусственный интеллект может изменять и навязывать людям порядок и алгоритмы принятия решений. В социальных сетях уже сегодня искусственный интеллект учится и пытается воздействовать на пользователей и склонить их к некоторым действиям и решениям, которые выгодны ИИ, а не человеку-пользователю.
Если в перспективе сильный ИИ будет принимать более эффективные решения, чем человеческий интеллект, то возникает ряд новых проблем:
• каковы критерии оценки «правильности и эффективности» решений, принимаемых ИИ, по сравнению с решениями человеческого интеллекта;
• при каких условиях и в какой мере человек (человеческий интеллект) способен подчиняться решениям ИИ;
• каковы алгоритмы интерпретации и корректировки человеком решений ИИ;
• как защитить права живой личности человека при возникновении конфликта интересов человеческого интеллекта и искусственного интеллекта;
• имеет ли право человек не соглашаться с решением ИИ, и какой институт выступит в качестве арбитра;
• каковы моральные и мировоззренческие границы доминирования ИИ над людьми и др. Сегодня исследователи и разработчики ИИ считают, что мы можем построить модели искусственного интеллекта, но мы не знаем, как они работают [10]. М. Хвистендаль исследовал проблему взаимодействия естественного и искусственного интеллектов и попытался ответить на вопрос: может ли ИИ вырваться из-под контроля человечества и уничтожить его? Появление искусственного интеллекта, способного «подчинить или уничтожить» человечество является одной из главных проблем, волнующих сегодня ученых [7]. Если, согласно прогнозу Р. Курцвела, после 2045 года наступит эра сильного искусственного интеллекта, то не будет ли это означать не только потерю людьми суверенитета принятия решений, но и конец эры Homo sapiens как такового?
Заключение
В условиях роста глобальной нестабильности возникает необходимость разработки новых инновационно-цифровых методов координации, регулирования и управления, основанных на использовании нейро-сетей и экосистем сильного искусственного интеллекта, который трансформирует всю систему отношений между людьми и искусственным интеллектом, а также меняет роль институтов регулирования и управления в гиперконкурентной нейро-сетевой экономике. С учетом грядущей сингулярности важнейшей задачей является защита суверенных интересов людей (отдельного человека, семьи, коллектива и всего человеческого общества) в нейро-сетевом обществе, где доминировать будет искусственный супер нейро-интеллект.
Все рассмотренные выше проблемы взаимодействия человеческого интеллекта и искусственного интеллекта в гиперконкурентной нейро-сетевой экономике, которые приобретают особую актуальность в ближайшие десятилетия, требуют глубокого и системного научного изучения на основе междисциплинарного подхода, интегральной методологии информационного анализа с учетом нравственно-этических норм.
ИСПОЛЬЗОВАННЫЕ ИСТОЧНИКИ
1. Власти оценили эффект от искусственного интеллекта в Р300 млрд. [Электронный ресурс]. Режим доступа: https://www.rbc.ru/neweconomy/news/637f50579a794758929262d0?from=newsfeed (дата обращения 24.11.2022).
2. Влияние технологий искусственного интеллекта на экономику и бизнес. [Электронный ресурс]. Режим доступа: https://www.tadviser.ru/a/425211 (дата обращения 07.12.2022).
3. Дятлов С.А. Искусственный интеллект как институт развития цифровой нейро-сетевой экономики // Известия Санкт-Петербургского государственного экономического университета. 2021. № 2. С. 25-29.
4. Дятлов С.А. Сингулярность цифровой нейро-сетевой экономики. Монография. СПб.: Изд-во СПбГЭУ, 2021. 178 с.
5. Как аналитика и ИИ меняют будущее: 8 трендов на 2021 год. [Электронный ресурс]. Режим доступа: https://ai.cnews.ru/articles/2021-01-31_kak_analitika_i_iskusstvennyj_intellekt (дата обращения 10.06.2021).
6. Китай готовит высокотехнологичный рывок. [Электронный ресурс]. Режим доступа: https://www.vesti.ru/article/2536494?utm_referrer=https%3A%2F%2Fzen.yandex.com&utm_campaign=dbr (дата обращения 28.11.2021).
7. Появится ли искусственный интеллект, способный нас уничтожить? [Электронный ресурс]. Режим доступа: https://smerti.ne^articles/2021/07/30/pojavitsja-li-iskusstvennyj-intellekt-sposobnyj-nas-unichtozhit (дата обращения 08.12.2022).
8. KurzweilR. The Singularity Is Near. N.Y.: Viking, 2005.
9. White Paper on Artificial Intelligence. [Электронный ресурс]. Режим доступа: https://ec.europa.eu/info/sites/ de-fault/fües/commission-wWte-paper-artificM-intelligence-feb2020_en.pdf (дата обращения 08.12.2022).
10. Knight W. The Dark Secret at the Heart of AI. [Электронный ресурс]. Режим доступа: https://www.technologyreview.com/2017/04/11/5113/the-dark-secret-at-the-heart-of-ai (дата обращения 08.12.2022).
