CC BY
45ИНФОРМАЦИОННЫЕ СИСТЕМЫ И ТЕХНОЛОГИИ. ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ
DOI: 10.6060/ivecofin.2023573.656 УДК: 338.45
ОСНОВНЫЕ АСПЕКТЫ ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Л.Э. Мамедова, Л.Н. Иванова, Е.С. Алтаев
Лейла Эльдар гызы Мамедова* (ORCID ID 0000-0002-9176-6831), Лариса Николаевна Иванова, Евгений Сергеевич Алтаев
Санкт-Петербургский государственный морской технический университет» (СПбГМТУ), ул. Лоцманская, 3, Санкт-Петербург, 190121, Россия,
Е-mail: maleyla@yandex.ru*, iln2014@yandex.ru, eugenealtaev@yandex.ru
Данная научная статья посвящена основным аспектам технологии искусственного интеллекта (в дальнейшем - ИИ), а также рассматривает определение понятия "искусственный интеллект" и его отличие от естественного интеллекта, конкретизируются принципы создания ИИ, включая принцип "чёрного ящика" и принципы нейрокибернетики. В данном исследовании используются статистические данные по применению ИИ в различных сферах человеческой жизнедеятельности. Статья описывает два философских подхода к понятию ИИ и задачи, которые может выполнять ИИ, уделяет внимание рискам, связанным с использованием ИИ, а также преимуществам и недостаткам ИИ. В заключительной части статьи указывается на необходимость формирования этического кодекса разработчиков ИИ, который должен содействовать обеспечению универсальности при создании и использовании искусственного интеллекта в виде ценностных установок, принципов деятельности и механизмов, которыми государства руководствовались бы при разработке своих законов, стратегий и других документов, касающихся ИИ, в соответствии с нормами международного права.
Ключевые слова: искусственный интеллект, ИИ, инновации, принципы управления, нейронные сети, системный подход, риски, черный ящик.
THE MAIN ASPECTS OF ARTIFICIAL INTELLIGENCE TECHNOLOGY
L.E. Mamedova, L.N. Ivanova, E.S. Altaev
Leyla E. Mamedova* (ORCID ID 0000-0002-9176-6831), Larisa N. Ivanova, Evgeniy S. Altaev Shipbuilding Saint-Petersburg State Marine Technical University (SMTU University), St.Lotsmanskaya, 3, Petersburg, 190121, Russia
Е-mail: maleyla@yandex.ru*, iln2014@yandex.ru, eugenealtaev@yandex.ru
This research paper focuses on the main aspects of Artificial Intelligence (hereinafter referred to as AI) technology, examines the definition of Artificial Intelligence and its difference from natural intelligence, specifies the principles of AI creation, including the "black box" principle and the principles of neurocybernetics. This study uses statistical data on the use of AI in various areas of human life. The article describes two philosophical approaches to the concept of AI and the tasks that AI can perform, focuses on the risks associated with the use of AI, as well as the advantages and disadvantages of AI. The article concludes by pointing to the need for an ethical code for AI developers, which should promote universality in the creation and use of artificial intelligence in the form of values, operating principles and mechanisms that would guide states in developing their laws, policies and other documents related to AI, in accordance with international law.
Keywords: artificial intelligence, AI, innovation, management principles, neural networks, systems approach, risks, black box.
Для цитирования:
Мамедова Л.Э., Иванова Л.Н., Алтаев Е.С. Основные аспекты технологии искусственного интеллекта. Известия высших учебных заведений. Серия «Экономика, финансы и управление производством» [Ивэкофин]. 2023. №03(57). С.78-88. DOI: 10.6060/ivecofin.2023573. 656 For citation:
Mamedova L.E., Ivanova L.N., Altaev E.S. The main aspects of artificial intelligence technology. Ivecofin. 2023. N 03(57). С.78-88. DOI: 10.6060/iveco-fin.2023573. 656 (in Russian)
ВВЕДЕНИЕ
В настоящее время искусственный интеллект (ИИ) - одна из самых перспективных и активно развивающихся областей информационных технологий. Искусственный интеллект занимается исследованием и разработкой технологий, позволяющих компьютерам эмулировать некоторые свойства человеческого интеллекта.
За понятием искусственный интеллект стоит значимое научное направление. Оно не стоит на месте и постоянно развивается, следовательно, дать точное научное понятие не так просто. На сегодняшний день искусственный интеллект - это технология, а если сказать точнее, то область исследований в современной науке, которая изучает возможности обучить компьютер, роботизированную технику, разумно мыслить, как человек.
И прежде, чем мы перейдем к обсуждению проблемы ИИ, постараемся ответить на вопросы: что такое интеллект и что такое искусственность? Есть много формулировок термина Интеллект, но единого, признанного всем научным сообществом, определения на сегодняшний момент нет [2]. Мы приведем понравившееся нам определение.
Интеллект - это свойство ума, которое включает в себя способность адаптироваться к новым ситуациям, умение учиться и запоминать
Целью данной статьи является рассмотреть теоретико-философские вопросы создания ИИ, перспективы разработок ИИ, угрозы для человека, связанные с использованием ИИ, возможности предотвратить негативные последствия в различных сферах деятельности человека. Интеллект. Искусственный интеллект. Определение. Общее и различие.
С течением времени искусственный интеллект становится все более распространенным и влиятельным во многих областях жизни, включая бизнес, науку, медицину и технологии [1] (рис.1). С развитием технологий, которые поддерживают ИИ, возникает все большее количество вопросов о том, как он взаимодействует с людьми, и какие будут последствия этого взаимодействия.
41
40 50
, %
опыт, понимать и использовать абстрактные концепции, а также способность применять полученные знания для управления окружающей средой. [3] То есть - это общая способность решать проблемы и познавать окружающий мир, используя ощущение, восприятие, память, представление, мышление и воображение.
Интеллект характеризуется: 1. Эрудицией - совокупностью знаний из различных областей жизнедеятельности [4].
S Е
к S X
сЗ И
о
сп Л
п с к
о К
к
н о ей
.5 о
Исследование и разработка Работа с клиентами Обслуживание клиентов Прогнозная аналитика Клиентские инсайты Накопление знаний Управление операциями в реальном времени Управление и анализ рисков Управление кадрами Другое
Выявление случаев мошенничества Цепочка поставок, закупки, оптимизация логистики Повышение социальной активности Финансы, бухгалтерия Ценообразование и продвижение Юридические функции (поиск, составление контрактов)
■ 32 31
28
■ 20 ■ 20 ■ 20 ' 19 18
- 15 ' 14 13
О 10 20 % 30
Рисунок 1. Области использования ИИ в российских компаниях Figure 1. Areas of AI use in Russian companies, %
Источник: https://www.tadviser.ru/index.php Source: https://www. tadviser. ru/index.php
2. Способностью ставить цели на различных этапах жизни, оценивать риски, умением отвечать перед самим собой и обществом (этические моменты) за реализацию поставленных задач по достижению своих целей (способность социальной ответственности).
3. Способностью к системному и творческому осмыслению, - анализу, синтезу, абстрагированию.
4. Способностью к логическому построению мысли, умению выстраивать причинно-следственные связи, повышать у человека собственную значимость (в конкретных условиях) [5].
5. Способностью информативной наблюдательности, умением создавать и селективно пользоваться памятью.
6. Способностью развиваться, обучаться, накапливая опыт, память и знания, что позволяет человеку адаптироваться к меняющейся внешней среде.
По сути, интеллект - это информационная система, которая принимает информацию из внешней среды (восприятие), обрабатывает ее (анализ), хранит внутри себя (память), передает информацию между различными компонентами (коммуникация между мозговыми областями) и использует ее для решения задач и принятия решений (когнитивные процессы).
Стоит обратить внимание, что определение Интеллекта впервые дают психологи, не математики, не физики, не химики, то есть не материалисты, а ученые-философы, относящиеся к области философско-этической морали. Психология - это наука о сознании и поведении, это академическая дисциплина огромного масштаба, пересекающая границы между естественными и социальными науками (в корне слова - понятие "псюхе", что значит - душа, то есть психолог изучает душу человека).
Обобщая характеристики интеллекта, психология отмечает три основные функции интеллекта, которые она относит и к человеческому интеллекту, и мы можем соотнести их с понятием искусственного интеллекта. Они звучат очень обобщенно: способность к обучению, способность оперировать символами, способность к активному использованию законов и закономерностей окружающей среды.
Очевидно, эти функции присущи и человеку с его интеллектом, и ИИ. Если более детально рассмотреть характеристики интеллекта, то можно увидеть, что некоторые аспекты совпадают, однако всегда есть нюансы, на которые стоит обращать внимание.
И вопрос, который возникает после прочтения вышеперечисленного звучит следующим образом: что же объединяет интеллект человека и ИИ? Вот некоторые совпадения:
• Человек, благодаря интеллекту, способен к системному и творческому осмыслению, -анализу, синтезу, абстрагированию. Самое интересное, что ИИ тоже это может, ведь ИИ может быть обучен анализировать большие объемы данных и искать в них паттерны (повторяющиеся структуры, образцы или модели, которые могут быть замечены или выделены из наблюдаемых данных, явлений), тренды или связи, которые могут быть незаметны человеку. ИИ также может быть способен синтезировать информацию из разных источников, чтобы создать новые знания или пр едположения [6].
• Абстрагирование, то есть способность выделять общие черты из разных примеров или ситуаций, также может быть включено в алгоритмы ИИ, что позволяет ему формировать абстрактные представления на основе конкретных данных.
И тут же возникает противоположный вопрос: Что же разъединяет эти понятия?
Способности ИИ в системном и творческом осмыслении могут ограничиваться его алгоритмами и тренировочными данными, и они могут отличаться от способностей человека в этих областях.
В этом и заключается весь нюанс отличия: ИИ лишь на основе кодов "единиц и нулей" формально перебирает все возможные варианты и выдаёт человеку результат, однако, он сам не обладает свойствами эмпатии, т.е. он не понимает, что такое, например, «идеал» в нашем представлении, у него нет разграничения между прекрасным и ужасным, ведь для него это всего лишь набор символов. Конечно, он может имитировать тот или иной запрос, однако это неправдивые чувства. ИИ не понимает, что думает и чувствует человек. Иногда человек может выбрать совершенно неожиданный результат, который в данный момент ему больше" подходит" по каким-то только ему понятным причинам.
Когда дело доходит до творческого осмысления, такого как искусство, литература или музыка, ИИ может создавать материалы на основе обучающих данных, но ему может не хватать оригинальности, индивидуальности и глубины в творческом процессе, которые могут быть присущи человеку.
Более того, ИИ также может быть ограничен в своей способности к абстрагированию и контекстному пониманию, так как его алгоритмы могут основываться на статистических паттернах, а не на истинном (основополагающем) понимании смысла и контекста информации. Причем, истинность может принципиально отличаться у разных
народов, в разные периоды времени, разными поколениями. Например, понятие истинности может различаться у разных народов в контексте религиозных верований. В одной культуре определенные религиозные догмы могут считаться истинными, в то время как в другой культуре эти же догмы могут быть отвергнуты или считаться ложными.
Вернёмся к ответу на поставленные в названии параграфа вопросы: искусственность означает, что есть сложная система, которая является продуктом человеческой деятельности и не возникает естественным образом. Это означает, что объекты, созданные искусственно, не являются частью природы и могут быть созданы только благодаря преднамеренной деятельности человека.
И если объединить эти два понятия, то мы получим термин «искусственный интеллект». Искусственный интеллект - это способность компьютера (технической сложной системы) имитировать и воспроизводить человеческий интеллект и его поведение. И исходя из этого можно сказать, что ИИ лишь формально копирует поведение людей, но не обладает собственными чувствами или эмоциями и более того, не может воспроизвести чувства и эмоции. Принципы создания ИИ
Направления создания искусственного интеллекта базируются на принципах кибернетики "черного ящика" и принципах нейрокибер-нетики [7] (рис. 2).
Рисунок 3. Модель черного ящика Figure 3. Black box model
Этот подход широко используется в создании искусственного интеллекта, где модели машинного обучения, такие как нейронные сети, могут быть обучены на основе данных, не требуя явного определения всех правил или логики, а просто на основе наблюдения за взаимодействием модели с окружающей средой. Это делает создание ИИ более гибким и способствует автоматическому извлечению сложных закономерностей из данных.
Принципы нейрокибернетики: Нейроки-бернетика - это наука, изучающая принципы функционирования нервной системы и применение этих принципов в создании искусственных систем, включая ИИ. Принципы нейрокибернетики могут быть использованы для создания биологических алгоритмов и моделей, которые имитируют работу мозга, его структуры и функций. Это может включать создание нейронных сетей, которые имитируют нейроны и связи между ними, или алгоритмов, основанных на принципах обучения с подкреплением, где модель "обучается" на основе наград (поощрений) и обратной связи, как это происходит в нервной системе. Нейрокибернетика базируется на аппаратном моделировании головного мозга человека, основой которого является большое число (около 14 миллиардов) связанных и взаимодействующих нервных клеток - нейронов, создающих нейросети (рис.4).
Рисунок 2. Моделирование искусственного интеллекта Figure 2. Artificial intelligence modeling
Принцип "черного ящика" в кибернетике заключается в том, что система (или устройство) может быть изучена и понята, даже если мы не знаем всех ее внутренних деталей или механизмов работы. Принцип подразумевает, что мы можем изучать и анализировать входы и выходы системы, а также ее поведение, без необходимости полного понимания ее внутренней структуры или функционирования. Это позволяет создавать модели и алгоритмы на основе наблюдений за внешним поведением системы (рис. 3).
Рисунок 4. Макет нейронной сети Figure 4. Neural network layout
При создании нейросетей присутствует формализованный алгоритмический подход, точность, конечность и результативность в задаче. Основная идея направления нейрокибернетики: единственный объект, способный мыслить - это человеческий мозг, поэтому любое "мыслящее" устройство должно каким-то образом воспроизводить его
структуру. Следовательно, нейрокибернетика ориентирована на программно-аппаратное моделирование структур, подобных структуре мозга.
Вывод, который напрашивается - концепция моделирования ИИ соединяет в себе два противоположных подхода. В основу концепции Черного ящика положен принцип абстрактности и неопределенности. В нейрокибернетике лежит принцип моделирования, определенности, точности, дающий конкретный результат. Оба этих принципа являются важными основами для разработки искусственного интеллекта. Они позволяют создавать сложные, автономные системы, которые могут обучаться и адаптироваться к изменяющимся условиям, а также находить решения на основе больших объемов данных. Термин «искусственный интеллект»
Термин "искусственный интеллект" впервые появился в 1956 г. на конференции Дартмут-ского колледжа [8]. С тех пор технологии, связанные с "искусственным интеллектом", продолжают развиваться, и сейчас они играют все более важную роль в нашей жизни, включая автоматизацию производственных процессов, управление транспортом, медицинскую диагностику, перевод языков, рекомендательные системы и многое другое.
Однако, в последнее время стали возникать вопросы к термину "искусственный интеллект" [9]. Один из таких вопросов связан с тем, что термин может вызывать ложные представления у общества о том, насколько компьютеры на самом деле могут "думать" и "понимать" как люди. В некоторых случаях это может приводить к неправильным ожиданиям, которые могут вредить принятию решений, основанных на данных, полученных с помощью этих технологий.
Кроме того, термин "искусственный интеллект" может быть слишком узко определенным и не учитывать все разнообразие технологий, которые включают в себя технологии, связанные с машинным обучением, нейронными сетями, обработкой естественного языка и другими. Некоторые ученые считают, что этот термин может ограничивать развитие и применение этих технологий, поскольку он может звучать недостаточно широко, чтобы включать в себя все их возможности.
Поэтому некоторые ученые предлагают использовать более точный и универсальный термин, например, "когнитивные технологии" или "автоматический интеллект". Термин "когнитивные технологии" учитывает широкий спектр технологий, которые используются для восприятия, понимания и решения задач, а термин "автоматический интеллект" подчеркивает тот факт, что эти технологии позволяют компьютерам выполнять задачи, которые раньше были доступны только людям.
Однако, переход на новый термин может быть не так прост, как кажется. Термин "искусственный интеллект" уже устоялся в научном и техническом сообществе, а также в сознании общества, и его замена новым термином может вызвать путаницу и неоднозначность в общении. Кроме того, некоторые ученые считают, что проблемы, связанные с названием, не являются самыми существенными в развитии технологий, и что улучшение технологий само по себе более важно, чем изменение названия.
Таким образом, вопрос о замене термина "искусственный интеллект" остается открытым и требует дальнейших дискуссий и исследований. Возможно, в будущем появится более точный и универсальный термин, который будет отражать все возможности и ограничения технологий, связанных с "искусственным интеллектом". Два философских подхода к понятию ИИ
Философские дебаты вокруг ИИ все еще оживлены и споры разворачиваются вокруг того, что является существом ИИ. Существуют два основных философских подхода к этому вопросу: сильный и слабый ИИ [10].
Сильный ИИ - это подход, который говорит, что ИИ может иметь сознание и мышление, аналогичное человеку. Сильный ИИ может самостоятельно принимать решения и иметь свои собственные убеждения и ценности, которые он может использовать для принятия решений. Сильный ИИ может также обладать эмоциями, такими как радость, грусть и страх [11].
Слабый ИИ - это подход, который утверждает, что ИИ не обладает сознанием или мышлением, аналогичным человеку. Слабый ИИ не может принимать решения самостоятельно и не обладает своими собственными убеждениями и ценностями. Вместо этого, он предназначен для выполнения конкретных задач и может использовать предустановленные правила и алгоритмы для принятия решений Один из наиболее известных сторонников сильного ИИ - это Рэй Курцвейл, который предсказывает, что ИИ, способный имитировать человеческое мышление, появится уже в ближайшее время [12]. Слабый ИИ, с другой стороны, является наиболее распространенным типом ИИ в настоящее время, и его применение в коммерческом и промышленном секторах растет с каждым годом.
Оба подхода имеют свои преимущества и недостатки, и существует много дискуссий о том, какой из них более правильный. Некоторые философы и исследователи утверждают, что сильный ИИ является более привлекательным, так как он может предоставить человечеству большую вы-
числительную мощность и автономность, которые могут быть полезны в различных сферах, таких как медицина, наука, технологии и т.д. Сильный ИИ также может стать ключевым инструментом для решения сложных задач, которые трудны для человека.
С другой стороны, некоторые люди опасаются, что сильный ИИ может стать угрозой для человечества, если ИИ сможет самостоятельно принимать решения, воспроизводить и использовать свои собственные ценности и убеждения. Это может привести к потенциально опасной ситуации, если ИИ примет решения, которые противоречат интересам и потребностям, морали и этики человечества.
Слабый ИИ, с другой стороны, считается более безопасным, так как он не обладает самостоятельностью и не может принимать решения, которые противоречат программированным правилам. Однако, он также имеет свои недостатки, так как его способности ограничены, и он не может выполнить задачи, которые требуют высокой степени интеллекта и эмоционального понимания.
В целом, выбор между понятиями слабого и сильного ИИ зависит от конкретной задачи, которую нужно решить, и от того, какой подход будет наиболее эффективным в данной ситуации. В любом случае, важно продолжать исследования и обсуждения на эту тему, чтобы обеспечить безопасное и продуктивное использование ИИ в будущем.
В связи с этим обращает на себя внимание, что все мировые страны расходуют значительные средства на исследования в области ИИ (рис. 5). В этом плане особо выделяются Китай и США, так как они являются сверх технологическими державами, которые задают тренды всему миру. Задачи ИИ
Сегодня ИИ применяется в самых различных областях, от медицины и финансов до транспорта и промышленности. Одной из главных задач ИИ является автоматизация рутинных задач. Это может включать в себя автоматизацию процессов в производстве, таких как манипуляция и обработка материалов, контроль качества и т.д. [13]. Также ИИ может применяться для автоматизации рутинных задач в офисе, например, обработка почты, классификация документов и т.д.
Еще одной важной задачей ИИ является обучение на основе данных. Для этого используются алгоритмы машинного обучения, которые могут анализировать большие объемы данных и на их основе формировать предсказания и прогнозы. Это может быть полезно, например, в медицине, где ИИ может использоваться для диагностики и лечения заболеваний. Например, модель машинного обучения «случайный лес» (далее - Random forest, RF) делает построение точного прогноза на год вперёд по ежемесячным данным любого объема и может учитывать неограниченной количество факторов [14].
$млрд.
Рисунок 5. Расходы на исследования и разработки ИИ, $млрд. Figure 5. AI research and development expenditures, $billion
Источник: https://www.kommersant.ru/amp/4033343 Source: https://www.kommersant.ru/amp/4033343
Самообучение и самопереход от одной операции к другой - это способы, с помощью которых ИИ может улучшать свои способности и повышать свою эффективность. Самообучение позволяет ИИ изучать данные и оптимизировать свои алгоритмы для более точных прогнозов и решений. Самопереход, в свою очередь, означает, что ИИ может самостоятельно принимать решения о том, как и когда его алгоритмы должны быть изменены и улучшены (гибкое управление).
Работа в режиме реального времени - это еще одна важная задача ИИ. Она подразумевает возможность использования ИИ для обработки данных и принятия решений в режиме реального времени. Тому примеры «цифровизации государственного и муниципального управления в нашей стране, такие как создание Единого портала государственных услуг (ЕПГУ), Единой системы межведомственного электронного взаимодействия
(СМЭВ), Единой системы идентификации и аутентификации и т.д.» [15, с. 7]. Также, ИИ может применяться для обработки видео в режиме реального времени, что может быть полезно для наблюдения за транспортом (Автодор) или мониторинга безопасности на производстве.
ИИ также может применяться для создания искусственных голосовых ассистентов, которые могут отвечать на вопросы и помогать в выполнении задач. Это может быть полезно для клиентского сервиса или для использования в медицине, где ИИ может помогать пациентам с ограниченными возможностями движения.
Еще одной важной задачей является обеспечение безопасности в работе информационно-коммуникационных систем. Это включает в себя защиту от атак хакеров, защиту конфиденциальности данных и обеспечение этичности использования ИИ. В связи с этим становится все более актуальным вопрос разработки систем ИИ, которые будут отвечать высоким требованиям по безопасности и этики.
Наконец, ИИ может использоваться для создания симуляций и виртуальных миров. Это может быть полезно для развития игровой индустрии, обучения виртуальным средам или создания компьютерных моделей для анализа поведения и принятия решений.
В целом, задачи перед ИИ на сегодняшний день очень разнообразны и продолжают разви-
ваться вместе с развитием технологии. Использование ИИ может повысить эффективность работы в различных областях и помочь людям решать сложные задачи, которые ранее были недоступны для автоматизации и, естественно должно приносить доход. Только за период с 2016-2023 гг. доход в отрасли технологий ИИ вырос почти в 22 раза (рис. 6). Риски, сопровождающие использование ИИ
Как было сказано выше ИИ демонстрирует способность к самообучению, широкий спектр применений и создание новых возможностей.
Анализ использования ИИ во времени показывает экспоненциальный рост (рис. 7), это означает, что все предположения о темпах развития нейросетей и ИИ не оправдываются. Разработки новейших информационных алгоритмов и технологий появляются неожиданно быстро. Если 10 лет назад об ИИ знали лишь программисты, то уже в 2017-2018 гг. он начал набирать популярность и у других профессий. Так, только за период с 2016-2023 гг. рост мирового рынка технологий ИИ вырос почти в 16 раз.
Искусственный интеллект даже в существующем сегодня виде может представлять потенциальную опасность. В связи с этим необходимо учитывать риски, связанные с использованием ИИ, такие как угроза конфиденциальности, безопасности данных, а также потенциальные негативные социальные последствия для пользователей новых технологий.
Рисунок 6. Доход отрасли технологий ИИ, $млн Figure 6. Revenue of the AI technology industry, $million
Источник: https://elitetrader.ru/index.php?newsid=348100 Source: https://elitetrader.ru/index.php?newsid=348100
Рисунок 7. Рост мирового рынка технологий ИИ, $млн Figure 7. Growth of the global AI technology market, $million
Источник: https://www.tadviser.ru/index.php Source: https://www. tadviser. ru/index.php
Существует четыре класса риска, создаваемого искусственным интеллектом:
1. Программная враждебность. Этот класс риска может использоваться конкурентами, когда ИИ создается как средство оружия, способное обходить системы защиты, и находить слабые, уязвимые места в компьютерных системах конкурентов, влияя на результирующий эффект [16]. Также ИИ сам может создавать и использовать автономные оружейные комплексы, которые могут самостоятельно принимать решения о воздействии на врага, определяя его местонахождение и время уничтожения. Кроме того, возможно создание таких ИИ, которые будут настроены на использование негативных этических и моральных ценностей в определенном обществе, что может привести к разрушительным последствиям.
2. Пассивный риск. Этот класс риска связан с несовершенством имеющихся на сегодняшний день систем ИИ, из-за ограниченности и слабо выявленных связях элементов информационной базы ИИ, недостаточно проработанных алгоритмах решения управленческих задач, вследствие чего задача не будет корректно решена, или может даже привести к аварийным ситуациям. Это особенно критично в использовании ИИ в управлении транспортным средством, когда выбор зависит от мгновенной реакции и возможности потерять "собственное лицо", ИИ примет решение, которое будет противоречить интересам и желаниям человека.
3. Случайный риск. Этот класс риска связан с тем, что ИИ может допустить ошибки, которые не были предусмотрены в программе. Например, ИИ, управляющий летательным аппаратом, может сбить его, не заметив препятствие в виде
птиц, или не рассчитанный на встречу с грозовыми облаками. Другой пример - ИИ, разрабатывающий бионические протезы, может создать стеб настройки его на индивидуальные особенности человека, например, музыканта - пианиста или скрипача. Этот риск возникает в случаях, когда информационная база ИИ не имеет достаточного количества данных или, когда ИИ использует ошибочные данные.
4. Риск непостижимости. Этот класс риска может появиться в сложных ситуациях, когда ИИ начнет самостоятельно формировать альтернативы и делать автоматически выбор, связанный с политическими, этническими и социальными особенностями в обществе. Выбор ИИ может стать неожиданным и непонятным людям для исполнения. В этом случае надо иметь возможность быстрой реакции управленческого аппарата и адаптации к возникшим вопросам. А искусственный интеллект без чувств, эмоций, этики и души свободен от всяческих предрассудков и неизвестно, как он себя поведёт, если откажется от логики человека.
Одной из возможных угроз, связанных с использованием ИИ, являются социальные манипуляции для распространения ложной информации или создания фейковых новостей (что наблюдается зачастую и сейчас). Такие манипуляции могут привести к серьезным социальным последствиям, включая усиление напряженности в обществе и дезинформацию.
В связи со сказанным мы должны понимать, что имеем дело с высокоразвитым интеллектом, который изначально создается человеком, и нам предстоит его совершенствовать, работать с ним и контролировать. С другой стороны, возможно, ИИ будет сам развиваться опережающими темпами. В
нашей власти искать средства, способные предотвратить негативные последствия для общества.
Для того чтобы минимизировать угрозы, связанные с использованием ИИ, необходимо уделять должное внимание разработке этических и юридических норм, регулирующих использование ИИ. В целом, решение проблем, связанных с использованием ИИ, должно быть основано на совместных усилиях со стороны научного сообщества, представителей бизнеса и государства. ИИ предоставляет большие возможности, но должен использоваться с осторожностью и внимательностью к потенциальным негативным последствиям. Преимущества и недостатки ИИ
Как и у всего в нашем мире ИИ обладает своими недостатками и преимуществами. Преимущества ИИ:
1) Быстрота и эффективность. Скорость обработки информации и точность результата чрезвычайно высоки, «сокращается время принятия управленческих решений и повышает степень их объективности, позволяя при принятии решений наряду с экономическими показателями учитывать слабо формализуемые рыночные, политические и социальные факторы» [17, 18].
2) Точность. ИИ работает без ошибок, что делает его особенно полезным в задачах, где требуется высокая точность. Если были допущены ошибки при создании ИИ, это с неизбежностью приведет к неадекватному результату.
3) Гибкость. ИИ может автоматически настраиваться на быстро меняющиеся условия внешней среды.
4) Непрерывность работы. ИИ может работать без перерыва на отдых, что делает его особенно полезным в сферах, где требуется непрерывная работа. Недостатки ИИ:
1) Ограниченность. ИИ может выполнять только те задачи, для которых он был программирован (по крайней мере, так считается в настоящее время).
2) Ошибки в программировании. ИИ полностью зависит от принятой системы программных средств.
3) Обучаемость на использовании больших объемов данных, что может быть проблематично для их получения.
4) Высокая стоимость разработки ИИ. Этический кодекс разработчиков ИИ. Необходимость его создания
Разработка и использование искусственного интеллекта имеет все более широкое распространение во всем мире. ИИ используется в таких отраслях, как медицина, финансы, образование, транспорт, производство и многие другие. Однако, так как ИИ имеет возможность вмешиваться в человеческие жизни и принимать решения, возникает необходимость установления этических норм и правил поведения для разработчиков ИИ.
Этический кодекс разработчиков ИИ должен содержать ряд основных положений, которые охватывают все аспекты разработки, внедрения и использования ИИ. [19]. Не ставя перед собой цель подробного рассмотрения принципов и задач создания этического кодекса ввиду сложности и многогранности вопроса, опишем только некоторые вопросы, обсуждаемые в научных кругах по разработке ИИ и этического кодекса.
Разработчики ИИ должны придерживаться ценностей и принципов, которые уважают права и свободы человека, защищают конфиденциальность и предотвращают дискриминацию. Важно, чтобы ИИ не был причиной ущерба для людей и окружающей среды.
Разработчики ИИ должны также учитывать влияние ИИ на общество в целом и на различные группы населения. Они должны предотвращать дискриминацию по расовым, социальным, половым и другим признакам. Важно, чтобы ИИ не усиливал существующие неравенства, а наоборот, содействовал развитию равенства и справедливости в обществе.
ЗАКЛЮЧЕНИЕ
В заключение можно сказать, что искусственный интеллект - это быстро развивающаяся область технологий, которая применяется во многих сферах нашей жизни, от медицины до транспорта. ИИ имеет свои особенности, преимущества и недостатки, которые нужно учитывать при его использовании.
Одной из главных особенностей ИИ является его способность обрабатывать и анализировать большие объемы данных в режиме реального времени. Это позволяет быстро принимать решения на основе анализа информации, что очень полезно для бизнеса, научных исследований и других сфер деятельности.
Однако, как и любая другая технология, ИИ имеет свои недостатки и риски. Например, алгоритмы ИИ могут содержать ошибки, что может привести к неправильным решениям. Кроме того, использование ИИ может создавать угрозу приватности данных, так как большое количество информации собирается и анализируется без согласия владельцев этих данных.
Этические аспекты также играют важную роль при разработке и использовании ИИ. Разработчики ИИ должны следовать этическому кодексу, который устанавливал бы правила использования ИИ с учетом общественных ценностей и уважения к правам человека. Этический кодекс разработчиков ИИ может включать в себя требования по прозрачности алгоритмов, уважению к конфиденциальности данных, принципам справедливости и ответственности.
Человек всегда пытался создать средства, повышающие его производительность и улучшающие комфортность жизнедеятельности и в целом, ИИ имеет огромный потенциал для улучшения жизни людей, но его использование должно быть осуществлено с учетом этических принципов и ценностей. Развитие ИИ должно быть нацелено на создание социальной пользы, а не на получение экономической выгоды за счет нарушения прав и свобод людей.
И если обобщить всё, о чем было сказано, то можно сделать следующие выводы:
ЛИТЕРАТУРА
1. Kiporenko S.S., Yurchuk N.P. Artificial intelligence in business: threats, benefits, trends. Colloquium-journal. 2021. N 17 (104). Р. 83-91. https://cyberleninka.ru/article/n/artificial-intel-ligence-in-business-threats-benefits-trends.
2. Бирюкова А. Интеллект как основа развития личности: понятия и определения интеллекта. Аналитика культурологии. 2009. №14. https://cyberleninka.ru/article/n/intel-lekt-kak-osnova-razvitiya-lichnosti-ponyatiya-i-opredele-niya-intellekta.
3. Интеллект. https://ru.wikipedia.org/wiki/Интеллект.
4. Reznitskaya A., Anderson R.C., Kuo L.J. The interactive processes of comprehension. In K. Pugh & A. G. Reynolds. Understanding Comprehension: Theories, Research, and Practice. Routledge. 2019. P. 229-248.
5. Vosniadou S., Ortony A. The development of scientific thinking. In P. Zelazo. The Oxford Handbook of Developmental Psychology. Oxford University Press. 2019. Vol. 2. P. 437-470.
6. Гусаков В. Искусственный и человеческий интеллект: что лучше? Наука и инновации. 2021. №5 (219). https://cyberleninka.ru/article/n/iskusstvennyy-i-chelovech-eskiy-intellekt-chto-luchshe.
7. Шохина К.С., Иванова М.Н. Искусственный интеллект как "черный ящик" и нейрокибернетика. https://scienceforum.ru/2016/article/ 2016027251.
8. Дворянкин О. А. Искусственный интеллект - будущая новейшая информационная технология интернета. EESJ. 2021. №10(74) С. 23-31. https://cyberleninka.ru/ar-ticle/n/iskusstvennyy-intellekt-buduschaya-noveyshaya-in-formatsionnaya-tehnologiya-interneta.
9. Писаренко М. С. К вопросу об искусственном интеллекте и его сущности. Вопросы российской юстиции. 2020. №10. С. 44-53. https://cyberleninka.ru/article/n7k-vo-prosu-ob-iskusstvennom-intellekte-i-ego-suschnosti.
10. Пройдаков Э.М. Современное состояние искусственного интеллекта. https://cyberleninka.ru/article/n/sov-remennoe-sostoyanie-iskusstvennogo-intellekta.
11. Flowers J. C. Strong and Weak AI: Deweyan Considerations. In AAAI spring symposium: Towards conscious AI systems. 2019. Vol. 2287. N 7.
12. Костина А. В. О корректности постановки вопроса "может ли машина мыслить?", или какие особенности человеческого мышления способен воспроизводить искусственный интеллект? Знание. Понимание. Умение. 2020. №3. https://cyberleninka.ru/article/n/o-korrektnosti-postanovki-vo-prosa-mozhet-li-mashina-myslit-ili-kakie-osobennosti-che-lovecheskogo-myshleniya-sposoben-vosproizvodit/viewer.
13. Карелин В.П. Интеллектуальные технологии и системы искусственного интеллекта для поддержки принятия решений. https://cyberleninka.ru/article/n/intellektualnye-tehnologii-i-sistemy-iskusstvennogo-intellekta-dlya-pod-derzhki-prinyatiya-resheniy.
1. ИИ - актуальная, новая для нашего времени, для глобальной экономики тема.
2. Невозможно (пока) оценить последствия от создания ИИ для отдельного человека и для общества.
3. Недостаточное понимание целей и задач ИИ всеми заинтересованными сторонами для настоящего и будущего.
Авторы заявляют об отсутствии конфликта интересов.
The authors declare no conflict of interest.
REFERENCES
1. Kiporenko S.S., Yurchuk N.P. Artificial intelligence in business: threats, benefits, trends. Colloquium-journal. 2021. N17 (104). Р. 83-91. https://cyberleninka.ru/artide/n7artificial-in-telligence-in-business-threats-benefits-trends.
2. Biryukova A. Intellect as a basis for the development of humanity: the concept and definition of intellect. Cultural Studies Analytics. 2009. N 14. https://cyberleninka.ru/arti-cle/n/intellekt-kak-osnova-razvitiya-lichnosti-ponyatiya-i-opredeleniya-intellekta. (in Russian).
3. Intelligence. https://ru.wikipedia.org/wiki/Intellect. (in Russian).
4. Reznitskaya A., Anderson R.C., Kuo L.J. The interactive processes of comprehension. In K. Pugh & A. G. Reynolds, Understanding Comprehension: Theories, Research, and Practice. Routledge. 2019. P. 229-248.
5. Vosniadou S., Ortony A. The development of scientific thinking. In P. Zelazo. The Oxford Handbook of Developmental Psychology. Oxford University Press. 2019. Vol. 2. P. 437-470.
6. Gusakov Vladimir. Artificial and human intelligence: which is better? Science and innovation. 2021. N 5 (219). https://cyberleninka.ru/article/n/iskusstvennyy-i-chelovech-eskiy-intellekt-chto-luchshe. (in Russian).
7. Shokhina K.S., Ivanova M.N. Artificial intelligence as a black box and neurocybernetics. https://sciencefo-rum.ru/2016/article/ 2016027251. (in Russian).
8. Dvoryankin O.A. Artificial intelligence is the future latest information technology of the internet. EESJ. 2021. N10(74). P. 23-31. https:// cyberleninka. ru/article/n/i s-kusstvennyy-intellekt-buduschaya-noveyshaya-infor-matsionnaya-tehnologiya-interneta. (in Russian).
9. Pisarenko M.S. On the question of artificial intelligence and its essence. Issues of Russian justice. 2020. N 10. Р. 44-53. https://cyberleninka.ru/article/n/k-voprosu-ob-iskusstven-nom-intellekte-i-ego-suschnosti. (in Russian).
10. Projdakov E.M. The current state of artificial intelligence. https://cyberleninka.ru/article/n/sovremennoe-sostoyanie-iskusstvennogo-intellekta. (in Russian).
11. Flowers J. C. Strong and Weak AI: Deweyan Considerations. In AAAI spring symposium: Towards conscious AI systems. 2019. Vol. 2287. N 7.
12. Kostina A.V. On the validity of the question "can a machine think?", or what features of human thinking can artificial intelligence reproduce? Knowledge. Understanding. Skill. 2020. N 3. https://cyberleninka.ru/article/n/o-korrektnosti-postanovki-voprosa-mozhet-li-mashina-myslit-ili-kakie-osobennosti-chelovecheskogo-myshleniya-sposoben-vos-proizvodit/viewer. (in Russian).
13. Karelin V. Intelligent technologies and artificial intelligence systems for decision support. https://cyber-leninka.ru/article/n/intellektualnye-tehnologii-i-sistemy-is-kusstvennogo-intellekta-dlya-podderzhki-prinyatiya-resh-eniy. (in Russian)
14. Астраханцева И.А., Герасимов А.С., Астраханцев Р.Г.
Прогнозирование региональной инфляции с помощью алгоритмов машинного обучения. Известия высших учебных заведений. Серия «Экономика, финансы и управление производством» [Ивэкофин]. 2022. №04(54). С.6-13. Ш1: 10.6060/геесойп.2022544.620.
15. Берендеева А.Б., Елизарова А.А. Цифровизация управления: региональный и муниципальный уровни. Современные Наукоемкие Технологии. Региональное Приложение. 2022. Т. 71. № 3 С.6-17. ГО1: 10.6060/ snt.20227103.0001.
16. Является ли искусственный интеллект опасным? Обзор возможных угроз. https://aquaplant63.ru/technologies/ proverka-tp-naskolko-vy-privlekatelny-po-mneшu-iskus-stvennogo-intellekta.html
17. Ермолаев М.Б., Хомякова А.А., Белова А.Д., Серкова Ю.А. Разработка алгоритма интеллектуальной поддержки принятия решений на базе системного подхода. Известия высших учебных заведений. Серия «Экономика, финансы и управление производством» [Ивэкофин]. 2022. № 01(51). С.138-146. Ш1: 10.6060/геесойп.2022511.594.
18. Лепихин С. Преимущества и недостатки искусственного интеллекта. https://net27.ru/preimuschestva-i-nedostatki-iskusstvennogo-intellekta.html.
19. Кодекс этики в сфере ИИ. Альянс в сфере искусственного интеллекта. https://ethics.a-ai.ru/.
14. Astrakhantseva I.A., Gerasimov A.S., Astrakhantsev R.G. Forecasting regional inflation by machine learning algorithms. Ivecofin. 2022. N 04(54). P .6-13. DOI: 10.6060/ivecofin.2022544.620. (in Russian)
15. Berendeeva A.B., Elizarova A.A. Digitalization of management: regional and municipal levels. Modern High Technologies. Regional Application. 2022. Vol. 71. N 3. P.6-17. DOI: 10.6060/snt.20227103.0001. (in Russian).
16. Is artificial intelligence dangerous? Overview of possible threats. https://aquaplant63.ru/technologies/proverka-tp-naskolko-vy-privlekatelny-po-mneniu-iskusstvennogo-in-tellekta.html. (in Russian).
17. Ermolaev M.B., Khomyakova A.A., Belova A.D., Serkova Ju.A. Development of an algorithm for intelligent decision support based on a systematic approach. Ivecofin. 2022. N 01(51). P.138-146. DOI: 10.6060/iveco-fin.2022511.594. (in Russian).
18. Lepikhin S. Advantages and disadvantages of artificial intelligence. https://net27.ru/preimuschestva-i-nedostatki-is-kusstvennogo-intellekta.html.
19. Code of Ethics in the field of AI. Alliance in the field of artificial intelligence. https://ethics.a-ai.ru. (in Russian).
Поступила в редакцию 31.05.2023 Принята к опубликованию 13.06.2023
Received 31.05.2023 Accepted 13.06.2023
