Научная статья на тему 'Искусственный интеллект: драйвер экономического развития или генератор проблем и угроз?'

Искусственный интеллект: драйвер экономического развития или генератор проблем и угроз? Текст научной статьи по специальности «Экономика и бизнес»

CC BY
121
25
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Beneficium
ВАК
Область наук
Ключевые слова
искусственный интеллект / определения и виды AI / технологии искусственного интеллекта / угрозы AI / artificial intelligence / definitions and types of AI / artificial intelligence technologies / AI threats

Аннотация научной статьи по экономике и бизнесу, автор научной работы — Махалина О. М., Махалин В. Н.

В статье рассматриваются проблемы развития искусственного интеллекта (ИИ) на современном этапе и подчеркивается необходимость в проведении научных исследований во всех областях интеллекта: человеческого, биологического и искусственного. Цель исследования сводится к определению основных проблем и ограничений современного уровня развития искусственного интеллекта. Актуальность рассматриваемой проблемы заключается в том, что в работе анализируется комплекс проблем, определяющих факторы разработки и использования искусственного интеллекта, поскольку представление об искусственном интеллекте возникло у людей относительно недавно, и это понимание стремительно развивается. Термин «искусственный интеллект» предложил Джон Маккарти в 1956 году в Дортмундском колледже на конференции о «механизации интеллекта». Преобразования, которые несет применение искусственного интеллекта, зачастую коренным образом изменяют нашу повседневную жизнь и взаимоотношения. В происходящих изменениях заложены как несомненные существенные положительные эффекты, значительно облегчающие решение всевозможных проблем, так и подводные камни, проявляющиеся в различных сторонах: как в несовершенстве применяемых технических решений, так и в этических и социальных областях, следствием которых оказываются не только текущие технические, технологические и социальные проблемы, но и потенциально более значимые угрозы, представляющие опасность самого существования человека. В статье показано, что существует необходимость уточнения некоторых понятий AI, определения направлений развития AI. Исследования показали, что разработки ведутся в основном в области "слабого" искусственного интеллекта, которые ориентированы на коммерциализацию и скорейшее внедрение практических результатов. В этой связи авторы отмечают необходимость в усилении фундаментальных и поисковых исследований свойств интеллекта и создании научных заделов для практической реализации систем «сильного» AI. В перспективе у AI как инструмента оптимизации и ускорения различных процессов будущее, обещающее его максимально возможное использование и развитие в попытках достичь, а в итоге и постараться превзойти человеческий интеллект. В этой связи необходимо предусмотреть возможные положительные и негативные последствия, определить границы и направления использования искусственного интеллекта, чтобы люди не стали жертвами неудачных разработок, а человечество могло извлечь выгоду из этого изобретения.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Artificial Intelligence: a Driver of Economic Development or a Generator of Problems and Threats?

The article examines the problems of the development of artificial intelligence at the present stage and emphasizes the need to develop scientific research in all areas of intelligence: human, biological and artificial. The purpose of the study is to identify the main problems and limitations of the current level of artificial intelligence development. The relevance of the problem under consideration lies in the fact that the work analyzes a set of problems that determine the factors of the development and use of artificial intelligence, since the idea of artificial intelligence arose among people relatively recently and this understanding is rapidly developing. The term “artificial intelligence” was proposed by John McCarthy in 1956 at Dortmund College at a conference on the “mechanization of intelligence”. Changes in society related to the development of AI have been happening and are happening constantly and, judging by the basis on which AI is developing, will never stop, since its development is completely based on the capabilities of the human mind, and we cannot determine its potential even approximately. Currently, AI is penetrating almost all areas of human activity and will dominate them. The future of AI is limitless and depends only on its creators and users. The transformations that the use of artificial intelligence brings often radically change our daily lives and relationships. The ongoing changes contain both undoubted significant positive effects that greatly facilitate the solution of various problems, as well as pitfalls that manifest themselves in various aspects: starting from imperfections of applied technical solutions and ending in ethical and social areas, which result not only in current technical, technological, and social problems, but also potentially significant threats that pose the danger of human existence itself. The article shows that there is a need to clarify some concepts of AI, to determine the direction of AI development. Research in the work has shown that developments are conducted mainly in the field of “weak” artificial intelligence. They are mainly focused on commercialization and early implementation of practical results. In this regard, the authors note the need to strengthen fundamental and exploratory research on the properties of intelligence and the creation of scientific foundations for the practical implementation of “strong” AI systems. In the long run, AI, as a tool for optimizing and accelerating various processes, has a future that promises its maximum possible use and development in attempts to achieve, and eventually try to surpass human intelligence. In this regard, it is necessary to provide for possible positive and negative consequences, to determine the boundaries and direction of the use of artificial intelligence so that people do not become victims of unsuccessful developments, and humanity can benefit from this invention.

Текст научной работы на тему «Искусственный интеллект: драйвер экономического развития или генератор проблем и угроз?»

DOI: 10.34680/BENEFICIUM.2024.1(50).14-21 УДК 330.341.424 JEL O14, О33

ОРИГИНАЛЬНАЯ СТАТЬЯ

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ДРАЙВЕР ЭКОНОМИЧЕСКОГО РАЗВИТИЯ ИЛИ ГЕНЕРАТОР ПРОБЛЕМ И УГРОЗ?

О.М. Махалина, Государственный университет управления, Москва, Россия В.Н. Махалин, Государственный университет управления, Москва, Россия

Аннотация. В статье рассматриваются проблемы развития искусственного интеллекта (ИИ) на современном этапе и подчеркивается необходимость в проведении научных исследований во всех областях интеллекта: человеческого, биологического и искусственного. Цель исследования сводится к определению основных проблем и ограничений современного уровня развития искусственного интеллекта. Актуальность рассматриваемой проблемы заключается в том, что в работе анализируется комплекс проблем, определяющих факторы разработки и использования искусственного интеллекта, поскольку представление об искусственном интеллекте возникло у людей относительно недавно, и это понимание стремительно развивается. Термин «искусственный интеллект» предложил Джон Маккарти в 1956 году в Дортмундском колледже на конференции о «механизации интеллекта». Преобразования, которые несет применение искусственного интеллекта, зачастую коренным образом изменяют нашу повседневную жизнь и взаимоотношения. В происходящих изменениях заложены как несомненные существенные положительные эффекты, значительно облегчающие решение всевозможных проблем, так и подводные камни, проявляющиеся в различных сторонах: как в несовершенстве применяемых технических решений, так и в этических и социальных областях, следствием которых оказываются не только текущие технические, технологические и социальные проблемы, но и потенциально более значимые угрозы, представляющие опасность самого существования человека. В статье показано, что существует необходимость уточнения некоторых понятий А1, определения направлений развития А1. Исследования показали, что разработки ведутся в основном в области "слабого" искусственного интеллекта, которые ориентированы на коммерциализацию и скорейшее внедрение практических результатов. В этой связи авторы отмечают необходимость в усилении фундаментальных и поисковых исследований свойств интеллекта и создании научных заделов для практической реализации систем «сильного» А1. В перспективе у А1 как инструмента оптимизации и ускорения различных процессов будущее, обещающее его максимально возможное использование и развитие в попытках достичь, а в итоге и постараться превзойти человеческий интеллект. В этой связи необходимо предусмотреть возможные положительные и негативные последствия, определить границы и направления использования искусственного интеллекта, чтобы люди не стали жертвами неудачных разработок, а человечество могло извлечь выгоду из этого изобретения. Ключевые слова: искусственный интеллект, определения и виды А1, технологии искусственного интеллекта, угрозы А1

Для цитирования: Махалина О.М., Махалин В.Н. Искусственный интеллект: драйвер экономического развития или генератор проблем и угроз? // ВЕЫЕРТСШМ. 2024. № 1(50). С. 14-21. DOI: 10.34680/BENEFICIUM.2024.1(50).14-21

ORIGINAL PAPER

ARTIFICIAL INTELLIGENCE: A DRIVER OF ECONOMIC DEVELOPMENT OR A GENERATOR OF PROBLEMS AND THREATS?

O.M. Makhalina, State University of Management, Moscow, Russia V.N. Makhalin, State University of Management, Moscow, Russia

Abstract. The article examines the problems of the development of artificial intelligence at the present stage and emphasizes the need to develop scientific research in all areas of intelligence: human, biological and artificial. The purpose of the study is to identify the main problems and Limitations of the current level of artificial intelligence development. The relevance of the problem under consideration lies in the fact that the work analyzes a set of problems that determine the factors of the development and use of artificial intelligence, since the idea of artificial intelligence arose among people relatively recently and this understanding is rapidly developing. The term "artificial intelligence" was proposed by John McCarthy in 1956 at Dortmund College at a conference on the "mechanization of intelligence". Changes in society related to the development of AI have been happening and are happening constantly and, judging by the basis on which AI is developing, will never stop, since its development is completely based on the capabilities of the human mind, and we cannot determine its potential even approximately. Currently, AI is penetrating almost all areas of human

activity and will dominate them. The future of AI is limitless and depends only on its creators and users. The transformations that the use of artificial intelligence brings often radically change our daily lives and relationships. The ongoing changes contain both undoubted significant positive effects that greatly facilitate the solution of various problems, as well as pitfalls that manifest themselves in various aspects: starting from imperfections of applied technical solutions and ending in ethical and social areas, which result not only in current technical, technological, and social problems, but also potentially significant threats that pose the danger of human existence itself. The article shows that there is a need to clarify some concepts of AI, to determine the direction of AI development. Research in the work has shown that developments are conducted mainly in the field of "weak" artificial intelligence. They are mainly focused on commercialization and early implementation of practical results. In this regard, the authors note the need to strengthen fundamental and exploratory research on the properties of intelligence and the creation of scientific foundations for the practical implementation of "strong" AI systems. In the long run, AI, as a tool for optimizing and accelerating various processes, has a future that promises its maximum possible use and development in attempts to achieve, and eventually try to surpass human intelligence. In this regard, it is necessary to provide for possible positive and negative consequences, to determine the boundaries and direction of the use of artificial intelligence so that people do not become victims of unsuccessful developments, and humanity can benefit from this invention.

Keywords: artificial intelligence, definitions and types of AI, artificial intelligence technologies, AI threats

For citation: Makhalina O.M., Makhalin V.N. Artificial Intelligence: a Driver of Economic Development or a Generator of

Problems and Threats? // Beneficium. 2024. Vol. 1(50). Pp. 14-21. (In Russ.). DOI: 10.34680/BENEFICIUM.2024.1(50).14-21

Введение

Что такое искусственный интеллект? Термин "искусственный интеллект" до сих пор не имеет всеми признаваемой и согласованной трактовки, поскольку его содержание отражало цели и задачи определенного уровня экономического и технологического развития общества. Поставленные цели и задачи определяли подходы к понимаю и определению сущности А1, но под влиянием скорости технологических изменений, трансформировалось и расширялось или, наоборот, сужалось представление об А1.

Многообразие и разница в подходах к формулировке и раскрытию понятия искусственного интеллекта нашло свое отражение в широком диапазоне названий А1. В зависимости от того, что вкладывается в понятие А1, разделение проходит по нескольким основным направлениям [1]:

1) чисто терминологическое различие в названиях, имеющих очень размытые границы: "сильный", "слабый", "общий", "генеративный", "семантический" и т.д.;

2) подход к А1 как к некоему автоматическому устройству, превосходящему человека в интеллектуальной деятельности;

3) представление А1 в виде совокупности технологий, позволяющих копировать (воспроизводить) базовые человеческие функции;

4) видение А1 как области исследований и разработок, позволяющих не только воспроизводить, но и усиливать когнитивные возможности человека [2].

Наличие всей этой палитры определений, в основном, обусловлено рядом факторов:

• сферой применения А1;

• целями и задачами;

• используемыми технологиями или их совокупностью.

Подходы к пониманию и содержанию А1 и попытки сформировать единство мнений

эволюционировали от представления искусственного интеллекта в виде устройств, превосходящих человека в интеллектуальной деятельности, до ныне закрепленного в нормативных документах "..комплекса технологических решений, позволяющего имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека" [3], и, судя по всему, это не последние варианты.

Изменения в обществе, связанные с развитием А1, происходили и происходят постоянно и, судя по основе, на которой развивается А1, не прекратятся никогда, поскольку полностью его развитие базируется на возможностях человеческого разума, а его потенциал мы не можем определить даже приблизительно. В настоящее время А1 присутствует и продолжает интегрирование во все области человеческой деятельности и, со временем, будет доминировать в них. Будущее искусственного интеллекта не имеет границ, а скорость и уровень развития будет зависеть только от его создателей и пользователей. Представляется, что наиболее вероятным развитие А1 будет реализовано в виде его сегментирования по различным направлениям и усложнения, опять же в зависимости от решаемых задач, то есть в своей основе это будут различные компьютерные программы, объединенные общим термином искусственный интеллект, но предназначенные для выполнения конкретных задач различного уровня сложности -от голосовых помощников до машинного обучения.

Методологией исследования А1 являются: макроэкономический и структурный анализ, теория технологических укладов, методы таксономии, разработка алгоритмов и комплексных методик,

факторный и регрессивный анализ. Частично использованы следующие методы прогнозирования: экспертных оценок, экстраполяции, моделирования, нормативный и целевой.

Результаты и их обсуждение

В настоящее время активно проходит объединение усилий человека и AI. Искусственный интеллект используется в качестве дополнения к человеческому интеллекту или партнера для работников, но вовсе не обязательно для их замены [4]. Наибольшие изменения в связи с использованием AI ожидают такие сферы экономики и общества, как производство, образование, здравоохранение, финансы, транспорт, сервисное обслуживание клиентов, спорт. В различных отраслях экономики, социальных коммуникациях и управлении используются всевозможные системы AI единично или в комплексе. Наиболее часто мы сталкиваемся со следующими системами AI:

1) опосредующими социальные коммуникации: гиды, ответы на стандартные вопросы, управляющие различными устройствами -голосовые помощники (Алиса, Маруся, Siri и т.д.);

2) предназначенными для анализа предпочтений пользователей и рекомендации товаров - рекламодательные системы;

3) позволяющими выполнять функцию автоматического распознавания лиц и объектов -технологии распознавания образов;

4) применяемыми в авиации и автомобильной промышленности в качестве автопилотов, различных систем безопасности (помощников вождения) и автономных транспортных систем;

5) предлагающими финансовую аналитику и варианты решений для оказания помощи при работе на финансовом рынке;

6) применяемыми в качестве автоматических языковых переводчиков;

7) созданными для помощи врачам и используемыми для анализа и описания рентгеновских снимков или снимков МРТ, предварительной диагностики заболеваний и принятия решений о лечении;

8) способными к обучению и копирующими (имитирующими) работу человеческого мозга в области не только анализа входящей информации, но и использовании информации уже имеющейся в памяти машины - нейронные сети (ChatGPT, YandexGPT, Hypotenuse AI, Rytr и др.).

По мере развития и расширения сфер применения искусственного интеллекта возникают противоречия [5], связанные с возможностями AI принимать хотя и запрограммированные, но близкие к самостоятельным решения, и при этом отвечать за них, брать на себя риски и т.п. [6]. Возникающие вопросы напрямую затрагивают этическую сферу, и здесь, во всяком случае в настоящее время, невозможно однозначно ответить на вопрос: может

ли машина, даже способная к самообучению, обладать этикой, соответствующей человеческому ее пониманию как науки о морали (нравственности) [7]? Вероятно, стоит говорить уже об ответственности разработчиков А1 и их собственном соответствии этическим нормам, а продолжение обсуждения неизбежно приведет к понимаю введения различных ограничений А1 как в части развития, что будет вступать в противоречие со стремлением человечества к познанию, так и по применению. Уже сейчас практика тестирования и применения нейросетей имеет примеры сформулированных А1 выводов, следствием которых стали некорректные диагнозы, неправильные приговоры [7] и даже дискриминация [8]. Эти решения являются результатом некорректного обучения нейросети, иначе - ошибок разработчиков, будем считать, что пока непреднамеренных.

Осознавая необходимость выработки общих этических подходов к ИИ и принимая во внимание, что его интенсивное и бесконтрольное развитие, применение и распространение технологий искусственного интеллекта приведет к росту количества подобных ошибок, государство, с одной стороны, определилось с направлениями и задачами по регулированию А1 [9].

Направления регулирования А1:

• разработка стандартов общего назначения, на транспорте, в здравоохранении и т.д.;

• отработка требований и рекомендаций по применению А1 по различным направлениям.

Задачи по регулированию А1:

1) создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер;

2) определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы;

3) формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.

И в рамках этих направлений и задач определен ряд поручений Правительству РФ, например, таких как [9]:

• увеличение выделяемого объема финансирования из федерального бюджета на исследования и разработки в области генеративного А1;

• согласование прогнозов экономического развития с потребностями отраслей экономики в специалистах, обладающих соответствующими навыками и компетенциями;

• реализация мероприятий по наращиванию вычислительных мощностей суперкомпьютеров, находящихся в Российской

Федерации;

• а также других мероприятий, направленных на выполнение Национальной стратегии развития А1.

С другой стороны, непосредственные разработчики, органы государственной власти и другие, даже зарубежные организации, задействованные в сфере А1, также участвуют в отработке этических вопросов внутри корпоративной среды. Например, принятый и подписанный на начало 2024 г. 354 участниками, оперирующими в сфере А1, Кодекс в сфере этики искусственного интеллекта "...устанавливает общие этические принципы и стандарты поведения, которыми следует руководствоваться участникам отношений в сфере искусственного интеллекта" [10]. Отдельного внимания заслуживает положение Кодекса о том, что разрабатываемые технологии А1 должны ".не препятствовать реализации всех потенциальных возможностей человека для достижения гармонии в социальной, экономической, духовной сфере и наивысшего расцвета личности, учитывать ключевые ценности, такие как: сохранение и развитие когнитивных способностей человека и его творческого потенциала; сохранение нравственных, духовных и культурных ценностей" [10].

Задекларированные подходы и принципы носят рекомендательный характер, их распространение ограничено гражданскими разработками и принимаются участниками-подписантами добровольно. Кроме того, ряд положений Кодекса носит спорный характер, например, положение о том, что ответственность за последствия деятельности А1 всегда несет человек: разработчик, давший разрешение на использование, пользователь и т.д.

Поэтому реализация благих намерений возможна только при наличии действенной системы контроля и ответственности, а здесь на первый план опять выходит государство, являющееся модератором общественных социальных взаимоотношений [11].

Цифровизация позволяет организациям, сделавшим ставку на массированное применение А1, снижать операционные расходы и получать значительные конкурентные преимущества. И это касается не только организаций, функционирующих в области искусственного интеллекта, не только стартапов, но и крупных организаций, занимающихся традиционными видами деятельности. Осознавая важность развития и применения технологий искусственного интеллекта для поддержания лидерства и конкурентности на мировых рынках, правительства развитых стран предпринимают усилия по наращиванию темпов и объемов финансирования работ по искусственному интеллекту, параллельно разрабатывая нормативно-правовую базу его использования. К 2030 году ожидается, что мировой вклад в валовой внутренний продукт (ВВП) будет порядка 817 трлн. долл. [12].

В настоящее время актуальными становятся программы исследований, изучающих возможности взаимодействия человеческого мозга и

нейро-когнитивных технологий. Здесь выделяется Китайская Народная Республика, являющаяся лидером в азиатско-тихоокеанском регионе и одним из мировых лидеров в исследованиях по разработке искусственного интеллекта и нейросетей. В силу объективных причин, в Китае имеется возможность сбора гигантского объема разнообразных данных, которые интегрированы в общенациональную систему мониторинга и анализа на основе искусственного интеллекта и нейронных сетей. Утвержденные планы на 20212025 гг. и цели развития КНР до 2035 года предусматривают увеличение расходов на фундаментальные исследования более чем на 7% каждый год в течение пяти лет, а объемы финансирования НИОКР вырастут в 17.5 раз по сравнению с предыдущим периодом [13], вместе с тем, озвучена задача по превращению Китая к 2035 году в мирового технологического лидера. Особое внимание в определении приоритетов развития А1 руководство страны уделяет роли государства, которое является основным инвестором и заказчиком проводимых исследований, а также подготовки специалистов.

Что касается нашей страны, то в РФ осуществляется разработка нормативно-правовой базы для внедрения и использования систем А1 в экономике, обществе и системе государственного управления. В рамках этой деятельности принята «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» и «Национальная стратегия развития искусственного интеллекта на период до 2030 года», реализуется федеральный проект «Искусственный интеллект РФ», осуществляется структурная перестройка и информационная поддержка развития А1. При Правительстве РФ создан экспертно-аналитический институт «Центр экспертизы по реализации федерального проекта «Искусственный интеллект», основан Национальный портал в сфере Искусственного интеллекта (А1) и применения нейросетей в России, аккумулирующий лучшие практики и результаты внедрения А1.

По различным оценкам и расчетам, рост спроса экономики на искусственный интеллект до 2024 гг. может составить 253 млрд. рублей [14]. Подобный рост предполагает изменение ориентации организаций на трансформацию традиционных механизмов управления и переход на цифровые платформы с использованием технологий искусственного интеллекта, что должно сопровождаться изменением компетенций сотрудников.

Учитывая это, Министерство науки и высшего образования РФ разработало модуль «Системы искусственного интеллекта», который включен в программы обучения в российских вузах, а по словам вице премьера РФ Д. Чернышенко, все выпускники вузов к 2030 году должны быть ознакомлены с А1 и сдать по этой теме экзамен.

Объем рынка искусственного интеллекта

России составляет примерно 58.3 млрд. долл., а его доля в мировом рынке составляет примерно 0.5%. И, по прогнозам экспертов, вклад технологий А1 в увеличение роста ВВП России к 2025 году может составить до 34% [15].

Технологии искусственного интеллекта будут одновременно выступать фундаментом и драйвером стратегического развития российской экономики и социальных взаимоотношений. Новым циклом развития А1 является массовое внедрение продуктов и технологий, связанных с А1, в госуправлении, в отраслях промышленности и бюджетной сфере, поскольку по различным оценкам разработка и последующее освоение и применение технологий А1 в ближайшей и среднесрочной перспективе обеспечит от 60 до 80% прогнозных показателей экономического роста [12].

Применение искусственного интеллекта во многих сферах, включая производство, образование, финансы, медицину, экологию и многие другие, будет радикально воздействовать на характер и темпы развития общества. Попытаемся сформулировать общезначимые и наиболее существенные преимущества искусственного интеллекта [16].

Общезначимые:

• искусственный интеллект может дать человечеству всеобъемлющее развитие всех сфер жизни общества;

• создание искусственного интеллекта обеспечит неизбежное развитие науки, которое позволит проводить всеохватывающие исследования по изучению жизни общества, всего живого на планете Земля и Вселенной;

• функционирующий искусственный интеллект сможет создать грамотную организацию жизни человечества, которая будет компетентно распоряжаться доступными ресурсами и благами между людьми в зависимости от их потребностей.

Наиболее существенные:

• искусственный интеллект открывает много возможностей для трудоустройства за счет смены типа работы с традиционного на футуристический;

• благодаря наличию сверхмощных вычислительных и аналитических возможностей, искусственный интеллект имеет неоспоримое преимущество перед человеком при выполнении расчетов, анализа данных и составлении прогнозов;

• искусственный интеллект не требуют перерывов на отдых, за исключением регламентного обслуживания;

• запрограммированное А1-устройство может исключить необходимость использовать человеческий труд на рабочих местах, оптимизировать использование оборудования, и при этом достигается сокращение производственных затрат;

• искусственный интеллект автоматизирует

выполнение рутинных задач и выполняет роль виртуального А1-помощника;

• А1-модель, разработанная для обслуживания клиента, представляет им поддержку в режиме 24/7 без вмешательства человека. Кроме этого, при применении самообучаемого искусственного интеллекта существует возможность получения услуг с учетом индивидуальных запросов и требований.

Что касается минусов, то у искусственного интеллекта, как и у любого другого явления, они тоже присутствуют. Основной минус - зависимость будущего развития человечества от технологий искусственного интеллекта. Наиболее близкой областью, где эта зависимость достаточно остро проявляется, оказывается сфера занятости, где А1, с одной стороны, выступает в качестве помощника, существенно повышающего производительность труда, а с другой - конкурентом, подменяющим и вытесняющим персонал.

Следующий его недостаток - стоимость. Возрастание расходов на разработку искусственного интеллекта, вызывает резонные вопросы о целесообразности трат. На настоящий момент, различные проблемы и недостатки использования технологий искусственного интеллекта можно представить таким, далеко не полным, перечнем:

• создание безработицы;

• предвзятость искусственного интеллекта;

• провоцирование людей на лень и безделье;

• бесчувственность;

• непрозрачное воздействие на окружающую среду;

• отсутствие четко прописанных правил;

• проблемы безопасности;

• огромная потребность в данных;

• риск обогнать человечество в интеллекте.

• отсутствие творчества;

• доминирование больших технологий.

Потенциал искусственного интеллекта сделать

мир лучше - огромен, он обладает сверхспособностями, которые могут либо решить любые сложности, которые есть сейчас у общества, либо с которыми мы столкнемся в будущем или, наоборот, создать такие серьезные проблемы, которые мы не могли когда-либо себе представить [16].

В перспективе, помимо наличия преодолеваемых текущих недостатков и проблем, искусственный интеллект может представлять и серьезные потенциальные угрозы в своем развитии. Эти угрозы, исходящие от А1, можно идентифицировать следующим образом:

1) использование А1 злоумышленниками, которые могут применять его в своих целях, что может проявляться:

• в адекватности и безопасности данных внутри самого А1;

• в компьютерных атаках с использованием А1 [17];

• в зашумлении информационного пространства;

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

• в подмене пользовательской информации;

• в имитации реального человека.

2) угрозы, которые исходит от самого AI:

• возникающие ошибки, преднамеренные и непреднамеренные, в обучении модели;

• недостаточная прозрачность используемых обучающих алгоритмов;

• AI может начать действовать в своих интересах и ставить собственные цели;

• преднамеренное искажение информации;

• низкое качество встроенных механизмов защиты;

• потеря управления технологическими или социальными системами;

• угроза занятости и дискриминация;

• отказ или "распыление" ответственности;

• расслоение общества и социальное неравенство как последствия применения AI;

• возможная деградация человека и (или) общества и др. угрозы.

Два патриарха американской политики 100-летний Генри Киссинджер и 83-летний Грэг Аллисон выступили в журнале Foreign Affair со статьей «Путь к ограничению военного применения AI» [13], в которой констатировали, что попытки ограничивать и контролировать развитие AI с помощью создания некоего наднационального органа управления являются нереальными, поскольку это связано с передачей части национального суверенитета, что является неприемлемым для любого государства. Тем не менее, возникшая и нарастающая "вилка" в виде преимуществ использования AI как основы экономического развития, лидерства и конкурентоспособности государств [18] и нарастающими проблемами его применения ставит перед странами неотложные задачи по организации процедур разработки, сертификации и защиты интеллектуальной собственности технологий AI.

Правила необходимо вырабатывать заранее, до того момента, когда машины начнут ставить собственные цели. Но вводимые внутристрано-вые ограничения неизбежно будут затрагивать сферу национальной безопасности, и здесь не обойтись без выработки универсальных международных процедур, а это, в свою очередь, потребует нового уровня международных и межгосударственных взаимоотношений.

Заключение

На основе проанализированных научных источников, обзора материалов специализированных и периодических изданий, существующей практики применения и определения перспектив развития AI органами государственного управления в исследовании были определены и выделены основные факторы и противоречия в

подходах к пониманию сущности AI и направлений его дальнейшего развития, сформулируем основные выводы:

• предложена система процедур, предлагаемых к использованию при разработке и применении систем искусственного интеллекта с учетом его преимуществ и выявленных недостатков;

• обоснована актуальность проблемы необходимости совершенствования технологий AI на основе дальнейшего изучения возможностей человеческого мозга и развития нейро-когнитивных технологий;

• подчеркнута целесообразность учета возможных проблем и угроз при разработке и использовании систем AI.

Полученные результаты исследования могут быть использованы разработчиками в процессе организации работ по совершенствованию AI и пользователями при постановке и формулировке задач и при последующем применении AI.

Вклад авторов

Вклад ОМ. Mахалиной состоит в предложении темы исследования, консультировании, написании части текста статьи и руководстве в процессе проведения исследования. Вклад В.Н. Mахалина состоит в сборе и обработке данных, написании текста статьи и редакторских правках рукописи статьи.

Библиография

[1] Забежайло M.K, Борисов В.В. Об интерпретациях понятия «искусственный интеллект» // Речевые технологии. 2022. № 1. С. 5-18. DOI: 10.58633/2305-8129_2022_1_5

[2] Забежайло M.K, Борисов В.В. Искусственный интеллект как особая область исследований и разработок // Системы компьютерной математики и их приложения. 2022. № 23. С. 109-116.

[3] Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Mоскве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» (2020). Консуль-тантПлюс. URL: https://www.consuLtant.ru/document/cons_doc_LAW_ 351127/ (дата обращения: 30.01.2024).

[4] Кувалдина Е.А. Возможность замены преподавателя искусственным интеллектом // Экономика и бизнес: теория и практика. 2021. Том 4. №1(74). С. 203-207 DOI: 10.24412/2411-0450-2021-4-1-203-207

[5] Леушина В.В., Карпов В.Э. Этика искусственного интеллекта // Философия и общество. 2022. № 3. С. 124-140. DOI: 10.30884/jfio/2022.03.07

[6] Разин А.В. Этика искусственного интеллекта // Философия и общество. 2019. Том 1. № 90. С. 57-73. DOI: 10.30884/jfio/2019.01.04

[7] Волобуев А.В. Этика искусственного интеллекта, дискриминация и неравенство // Век глобализации. 2023. Том 3. № 47. С. 48-62. DOI: 10.30884/vg Lob/2023.03.04

[8] Freitas dos Santos T., Osman N., Schorlemmer M. Is this a violation? Learning and understanding norm violations in online communities // Artificial Intelligence.

2024. Vol. 327. Pp. 104058. (На англ.). DOI: 10.1016/j.artint.2023.104058

[9] Регуляторика (2023). Искусственный интеллект Российской Федерации. URL: https://ai.gov.ru/ai/reguLatory/ (дата обращения: 30.01.2024).

[10] Кодекс в сфере этики искусственного интеллекта (2023). Искусственный интеллект Российской Федерации. URL: https://ai.gov.ru/ (дата обращения: 30.01.2024).

[11] DigiLina O.B., TesLenko I.B., NaLbandyan A.A. The artificial intelligence: Prospects for development and problems of humanization // RUDN Journal of Economics.

2023. Vol. 31(1). Pp. 170-183. (На англ.). DOI: 10.22363/2313-2329-2023-31-1-170-183

[12] Ивановский Б.Г. Экономические эффекты от внедрения технологий «искусственного интеллекта» // Социальные новации и социальные науки. 2021. Том 4. № 2. С. 8-25. DOI: 10.31249/snsn/2021.02.01

[13] Дятлов С.А., Чжоу Вейди Институты развития экосистем искусственного интеллекта в России и Китае// Известия Санкт-Петербургского государственного экономического университета. 2023. Том 1. № 139. С. 19-24.

[14] Фомина А.Н. Проблемы и перспективы развития рынка искусственного интеллекта в России // Вопросы инновационной экономики. 2022. Том 12. № 2. С. 1051-1068. DOI: 10.18334/vinec. 12.2.1146

[15] Ахматова Д.Р. Экономический потенциал искусственного интеллекта: мировой опыт, российская практика и перспективы стран ЕАЭС // Экономика и управление инновациями. 2023. Том 26. № 3. С. 1524. DOI: 10.26730/2587-5574-2023-3-15-24

[16] Масюк Н.Н., Кирьянов А.Е., Бушуева М.А., Шакуев Д.А. Искусственный интеллект как ключевой элемент цифровой трансформации экономики // Фундаментальные исследования. 2021. № 10. С. 49-54.

[17] Ilicab N., DasiCac D., Vuceticac M., Makarov A., Petrovic R. Distributed web hacking by adaptive consensus-based reinforcement learning // Artificial Intelligence.

2024. Vol. 326. Pp. 104032. (На англ.). DOI: 10.1016/j.artint.2023.104032

[18] Носова С.С., Норкина А.Н., Морозов Н.В. Искусственный интеллект и будущее современной экономики // Инновации и инвестиции. 2023. №1. С. 240-245. (На англ.).

References

[1] Zabezhaylo M.I., Borisov V.V. Neural Networks for Speech Synthesis of Voice Assistants and Singing Machines // Speech Technology. 2022. Vol. 1. Pp. 5-18. (In Russ.). DOI: 10.58633/2305-8129_2022_1_5

[2] Zabezhailo M.I., Borisov V.V. Artificial Intelligence as a Special Field of Research and Development // Systems computer mathematics and their applications. 2022. Vol. 23. Pp. 109-116. (In Russ.).

[3] Federal Law of April 24 2020 No. 123-FL "O provedenii eksperimenta po ustanovLeniyu speciaL'nogo reguLiro-vaniya v celyah sozdaniya neobhodimyh uslovij dlya razrabotki i vnedreniya tekhnoLogij iskusstvennogo in-teLLekta v sub"ekte Rossijskoj Federacii - gorode fed-eral'nogo znacheniya Moskve i vnesenii izmenenij v stat'i 6 i 10 Federal'nogo zakona "O personal'nyh dannyh" ["On conducting an experiment to estabLish speciaL reguLation for the purpose of creating the necessary conditions for the deveLopment and impLementation of artificial intelligence technologies in the constituent entity of the Russian Federation - the city

of federal significance Moscow and amending Articles 6 and 10 of the Federal Law 'On Personal Data'"] (2020). ConsultantPlus. (In Russ.). URL: https://www.consult-ant.ru/document/cons_doc_LAW_351127/ (accessed on 30.01.2024).

[4] Kuvaldina E.A. The Possibility of Replacing the Teacher with Artificial Intelligence // Economy and business: theory and practice. 2021. Vol. 4(1-74). Pp. 203-207. (In Russ.). DOI: 10.24412/2411-0450-2021-4-1-203-207

[5] Leushina V.V., Karpov V.E. Ethics of Artificial Intelligence in Standards and Recommendations // Philosophy and Society. 2022. Vol. 3. Pp. 124-140. (In Russ.). DOI: 10.30884/jfio/2022.03.07

[6] Razin A.V. Etika iskusstvennogo intellekta [The ethics of artificial intelligence] // Philosophy and Society. 2019. Vol. 1(90). Pp. 57-73. (In Russ.). DOI: 10.30884/jfio/2019.01.04

[7] Volobuyev A.V. Ethics of Artificial Intelligence, Discrimination and Inequality // Vek globalizatsii. 2023. Vol. 3(47). Pp. 48-62. (In Russ.). DOI: 10.30884/vglob/2023.03.04

[8] Freitas dos Santos T., Osman N., Schorlemmer M. Is this a violation? Learning and understanding norm violations in online communities // Artificial Intelligence. 2024. Vol. 327. Pp. 104058. DOI: 10.1016/j.artint.2023.104058

[9] Regulatory (2023). Artificial Intelligence of the Russian Federation. (In Russ.). URL: https://ai.gov.ru/ai/regula-tory/ (accessed on 30.01.2024).

[10] Code of Ethics for Artificial Intelligence (2023). Artificial Intelligence of the Russian Federation. (In Russ.). URL: https://ai.gov.ru/ (accessed on 30.01.2024).

[11] Digilina O.B., Teslenko I.B., Nalbandyan A.A. The artificial intelligence: Prospects for development and problems of humanization // RUDN Journal of Economics.

2023. Vol. 31(1). Pp. 170-183. DOI: 10.22363/2313-23292023-31-1-170-183

[12] Ivanovskiy B.G. Economic Effects of the Implementation of "Artificial Intelligence" Technologies // Social Novelties and Social Sciences. 2021. Vol. 4(2). Pp. 8-25. (In Russ.). DOI: 10.31249/sn/2021.02.01

[13] Dyatlov S.A., Zhou Weidi Institutes for the Development of Artificial Intelligence Systems in Russia and China // Izvestiya Sankt-Peterburgskogo gosudar-stvennogo ekonomicheskogo universiteta. 2023. Vol. 1(139). Pp. 19-24. (In Russ.).

[14] Fomina A.N. Challenges and development trends of the artificial intelligence market in Russia // Russian Journal of Innovation Economics. 2022. Vol. 12(2). Pp. 1051-1068. (In Russ.). DOI: 10.18334/vinec. 12.2.1146

[15] Akhmatova D.R. Economic Potential of Artificial Intelligence: Global Experience, Russian Practice, and Prospects of the EAEU Countries // Economics and Innovation Management. 2023. Vol. 26(3). Pp. 15-24. (In Russ.). DOI: 10.26730/2587-5574-2023-3-15-24

[16] Masyuk N.N., Kiryanov A.E., Bushueva M.A., Shakuev D.A. Artificial Intelligence as a Key Element of the Digital Transformation of the Economy // Fundamental Research. 2021. Vol. 10. (In Russ.). Pp. 49-54.

[17] Ilicab N., Dasicac D., Vuceticac M., Makarov A., Petrovic R. Distributed web hacking by adaptive consensus-based reinforcement learning // Artificial Intelligence.

2024. Vol. 326. Pp. 104032. DOI: 10.1016/j.artint.2023.104032

[18] Nosova S.S., Norkina A.N., Morozov N.V. Artificial intelligence and the future of the modern economy // Innovations and Investments. 2023. Vol. 1. Pp. 240-245.

Информация об авторах / About the Authors

Оксана Михайловна Махалина - д-р экон. наук, профессор; профессор, Государственный университет управления, Mосква, Россия / Oksana M. Makhalina - Dr. Sci. (Economics), Professor; Professor, State University of Management, Moscow, Russia

E-mail: [email protected] SPIN РИНЦ 7459-8891 ORCID 0000-0002-1234-8499 ResearcherID: C-9261-2019

Виктор Николаевич Махалин - канд. экон. наук, доцент; доцент, Государственный университет управления, Mосква, Россия / Viktor N. Makhalin - Cand. Sci. (Economics), Docent; Associate Professor, State University of Management, Moscow, Russia

E-mail: [email protected] SPIN РИНЦ 3557-6833 ORCID 0000-0001-5294-5856 ResearcherID: C-9255-2019

Дата поступления статьи: 07 февраля 2024 Принято решение о публикации: 15 марта 2024

Received: February 07, 2024 Accepted: March 15, 2024

i Надоели баннеры? Вы всегда можете отключить рекламу.