CC BY
240МЕХАТРОНИКА И РОБОТОТЕХНИКА
УДК 004.8
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В СОВРЕМЕННОМ МИРЕ: НАДЕЖДЫ И ОПАСНОСТИ СОЗДАНИЯ И ИСПОЛЬЗОВАНИЯ
В. И. Евсеев
Балтийский государственный технический университет «ВОЕНМЕХ» им. Д. Ф. Устинова, Санкт-Петербург, Российская Федерация
Аннотация. Приведены основные научные взгляды, положения и определения, связанные с местом и ролью искусственного интеллекта в современном обществе, науке и технике. Отмечено, что искусственный интеллект имеет важное значение в научно-техническом и социальном развитии современного мира. Однако бессистемное его создание и применение может привести к опасным последствиям в руках агрессивных кругов, имеющих целью доминирование и диктат своей воли другим странам и народам в процессе глобализации, а также представителей недобросовестного бизнеса, преследующего цель коммерческого успеха любыми средствами. Отмечена гуманистическая направленность деятельности и ответственность ученых, инженеров, руководителей и политиков в недопущении разрушительных последствий применения искусственного интеллекта для мирового сообщества.
Ключевые слова: естественный интеллект, искусственный интеллект, интеллектуальная информационная система, управление, поддержка принятия решения, алгоритмическое и программное обеспечение, взаимодействие человека и машины, гуманистическая направленность, робототехника, нейрон, нейронная сеть, трудноформализуемые задачи, распознавание, обучение искусственного интеллекта.
Для цитирования: Евсеев В. И. Искусственный интеллект в современном мире: надежды и опасности создания и использования // Аэрокосмическая техника и технологии. 2023. Т. 1. № 1. С. 16-34.
ARTIFICIAL INTELLIGENCE IN THE MODERN WORLD: HOPES AND DANGERS OF CREATION AND USE
V. I. Evseev
Baltic State Technical University "VOENMEH", Saint Petersburg, Russian Federation
Abstract. Key scientific views, statements and definitions associated with the place and role of artificial intelligence in modern society, science and technology are presented. It is noted that artificial intelligence has an important role in scientific, technical and social development of the modern
© Евсеев В. И., 2023
world. However, its unsystematic creation and application may lead to hazardous consequences in the hands of aggressive circles, aiming at domination and dictate their will to other countries and nations during globalization, as well as representatives of dishonest business, striving to commercial success by any means. The humanistic orientation of activity and responsibility of scientists, engineers, managers and politicians in preventing the destructive effects of artificial intelligence for the world community was noted.
Keywords: natural intelligence, artificial intelligence, intelligent information system, management, decision support, algorithmic and software, human-machine interaction, humanistic orientation, robotics, neuron, neural network, difficult to formulate tasks, recognition, artificial intelligence training.
For citation: Evseev V. I. Artificial intelligence in the modern world: hopes and dangers of creation and use. Aerospace Engineering and Technology. 2023. Vol. 1. No. 1, pp. 16-34.
Введение
В свете происходящих в современном мире событий можно утверждать, что общая тенденция развития всех процессов, явлений, проектов и разработок систем различного назначения состоит в применении компьютерной техники и цифровых технологий для анализа, исследования, управления, прогнозирования, проектирования и эксплуатации самых разнообразных объектов. Это касается геополитического, социального, научно-технического, промышленного, образовательного, военного направлений их функционирования и развития. Темпы развития и скорость изменений подобных процессов существенно увеличились в XXI веке в связи с бурным развитием фундаментальной и прикладной науки, материаловедения, вычислительных мощностей, с разработкой программно-алгоритмических комплексов, с автоматизацией средств управления сложными организационно-техническими системами.
С появлением кибернетики возможности и потребности в создании эффективных систем управления стали обеспечиваться путем использования законов этой науки для автоматизации процессов управления, а затем для реализации автоматического его характера. Появились основания для создания эффективных систем управления, обеспечивающих его высокое качество, в том числе за счет механизмов адаптации к изменениям условий деятельности практически любых сложных организационно-технических систем.
Увеличение объема, расширение круга решаемых человеком задач и их существенное усложнение с использованием возможностей вычислительной техники и информационных технологий привело к возникновению проблем в различных элементах (интерфейс, языки и т. д.) и на стадиях (анализ, проектирование и т. д.) общения человека с ЭВМ. При этом человек выступает, с одной стороны, как
разработчик программно-алгоритмических комплексов и оператор, с другой -как лицо, управляющее и принимающее решения.
Однако следует четко разграничивать роль и место человека и машины (компьютера, робота) в реализации их функций, установить и принять для себя, что компьютер или робот - инструмент, позволяющий предложить более быстрое, глубокое, точное решение практически любой задачи. В предлагаемой модели машина не вытесняет человека из процесса анализа ситуации, подготовки и принятия решения, синтеза вариантов любой системы, устройства или производства продукции. За компьютером закреплена главным образом рутинная часть проведения исследования, связанная с огромным объемом вычислений, рассмотрением и сравнением разнообразных вариантов и предложением их на решение человека (оператора, руководителя, заказчика). За человеком остается интеллектуальная часть проблемы и самое главное - принятие окончательного решения.
Именно в такой принимаемой человеком модели следует рассматривать развитие современных компьютерных технологий. Это касается в том числе интеллектуальных информационных систем (ИИС) и элементов искусственного интеллекта (ИИ), как одного из самых перспективных направлений развития науки и всех практических ее приложений, связанных с управлением сложными организационными, техническими и социальными системами [1, 2].
Представленный подход является принципиальной позицией автора, определяющей характер его деятельности как научного работника, преподавателя и гражданина. Рассмотрению ряда проблемных вопросов взаимодействия человека и машины (робота) на современном этапе развития науки, техники, социальных и прочих структур, влияющих на стабильное и безопасное развитие человеческой цивилизации с учетом существующих морально-нравственных ее основ, посвящена данная работа.
Человек и робот: вопросы взаимодействия
1. Интеллектуальная информационная система - основа взаимодействия естественного и искусственного интеллекта
Рассмотрим основные положения теории и практики ИИС и ИИ, необходимые для понимания происходящих процессов и выработки возможных единых подходов к построению системы взаимоотношений человек - машина с позиций гуманистического развития систем и результатов их использования. Отметим, что подобная позиция, по мнению автора, уже стала императивом современности, начиная от мировых геополитических и заканчивая производством любых организационно-технических систем, с безусловным требованием обеспечения безопасности их функционирования.
Введем некоторые основные определения, необходимые для восприятия и понимания последующего материала.
Интеллект - мыслительная способность человека, которой наделила его природа в ходе длительного эволюционного процесса.
Интеллектуалъная информационная система - автоматизированная информационная система, основанная на знаниях, или комплекс программных, лингвистических и логико-математических средств в процессе реализации основной задачи - осуществления поддержки деятельности человека, принятия им решения и поиска информации в режиме продвинутого диалога на естественном языке [3].
Многие современные ИИС, кроме чисто вычислительных задач или решения задач с использованием перебора возможных допустимых решений, успешно осуществляют логическую обработку информации с интеллектуальной поддержкой, которая преобладает над вычислительной функцией. Подобное развитие ИИС говорит о приближении их возможностей к реализации ряда функций, присущих элементам искусственного интеллекта.
Исследователи функций и возможностей человеческого мозга (естественного интеллекта) пытаются после десятилетий углубленного его изучения установить всеобщие знания принципов работы, разветвленных связей при организации и передаче информации и управляющих воздействий на поведение человека, в том числе на его эмоциональную сторону. Системный подход в решении этой проблемы приводит к необходимости разработки алгоритмического и программного обеспечения для трудноформализуемых или вовсе не формализуемых в настоящее время задач. При этом уровень программ для компьютеров (ИИ) должен быть близким или превосходить интеллект человека для решения широкого круга задач. К ним относятся: понимание и возможность обмениваться данными на естественном или другом понятном для человека и машины языке; обучение сложному взаимодействию; анализ и синтез сложных систем; формулирование и доказательство новых теоретических положений и гипотез; распознавание и интерпретация изображений и др.
Приведем перечень возможных задач, которые возлагаются на ИИС, с раскрытием их основного существа.
1. Интерпретация данных - системный научный метод, определяющий правила, порядок установления (истолкования, объяснения) соответствия данных из одной системы их представления в другую для более доступного понимания смысла и построения альтернативных моделей как одной из важных задач для экспертных систем.
2. Диагностика. Технология (процедура) выявления, распознавания и оценки состояния системы для определения тенденций и путей ее развития с целью предсказания возможных нарушений и сбоев ее функционирования.
3. Мониторинг. Технология непрерывного наблюдения за поведением системы, сбор и обработка результатов, интерпретация полученных данных в реальном масштабе времени, сигнализация о состоянии системы и вынесение решения о необходимости принятия мер по обеспечению функционирования системы в соответствии с ее предназначением.
4. Проектирование. Тип деятельности человека, направленный на разработку необходимого пакета документов для создания системы, различных объектов в соответствии с заданными функциональными, технико-экономическими, экологическими и потребительскими свойствами на основе исходных требований, логического и структурного описания знаний о системе и объекте.
5. Прогнозирование. Является основой эффективной работы информационной и управляющей системы. Позволяет предсказывать последствия некоторых событий или явлений, в том числе принятия решений, на основании имеющейся модели и анализа собранных и систематизированных данных с вероятностными их оценками.
6. Планирование. Процесс создания обоснованной модели системы с определением стадий и порядка действий и управления ею для достижения поставленных целей на протяжении всего жизненного цикла системы. При планировании определяются предметная область, временные рамки, ограничения и допущения, критерии оценки эффективности функционирования системы и последствия планируемой деятельности.
7. Обучение. Заключается в изменении комплекса параметров модели системы в соответствии с обучающей выборкой знаний от внешнего источника путем их введения в память машины (робота). Эта выборка представляет собой комплекс знаний о состоянии, оценку порядка функционирования, диагностирования поведения и его корректировки с целью подготовки вариантов решения и осуществления эффективного управления системой.
8. Управление. Функция системы, обеспечивающая эффективное выполнение задач по своему предназначению путем поддержания установленной логики, алгоритма и программы ее деятельности.
9. Поддержка принятия решений. Комплекс информации и рекомендаций как результат работы ИИС, призванный помочь руководителю принять эффективное решение различных задач анализа, синтеза и управления сложными организационно-техническими системами различного назначения. Это важнейшая задача эффективного управления любыми системами.
В науке и практике не существует единой классификации ИИС, поэтому приведем возможный вариант, характеризующий интеллектуальные информационные системы с точки зрения решаемой задачи (рис. 1), [1, 2].
Приведенные сведения позволяют перейти к изложению материала, определяющего существо вопросов, связанных с искусственным интеллектом.
Возможности развития науки в целом, теоретические достижения и прикладные аспекты многих научных дисциплин, в частности - связанных с созданием и применением искусственного интеллекта, привлекли к себе огромное количество крупных ученых, инженеров, создателей вычислительной техники, программистов и других специалистов в разных странах. Среди них мы видим физиков, кибернетиков, электронщиков, инженеров, изобретателей, разработчиков цифровых технологий, вычислительных машин, программного продукта, философов, социологов, биологов.
На последующую разработку научных основ и проблем практического применения элементов искусственного интеллекта были направлены творческие усилия специалистов из многих сфер деятельности, начиная от писателей-фантастов и заканчивая студентами и школьниками. Для развития ИИ специалистам и заинтересованным людям пришлось обращаться к представителям многих других научных дисциплин, а также использовать прикладные результаты их деятельности, на стыке которых происходит лавинообразный процесс получения и использования плодов их творчества.
Рис. 1. Вариант классификации интеллектуальных информационных систем
по решаемым задачам
Очень важным аспектом такого процесса надо признать гуманистическую направленность и познания, и использования полученных знаний. Человечество уже сталкивалось и, конечно, помнит о трагедиях двух мировых войн, унесших десятки миллионов жизней людей. Ученые-химики открыли отравляющие газы -политики и военные использовали их для уничтожения живой силы противника
на войне. Ученые-физики открыли явление радиоактивности, но политики, ученые и военные сделали атомную бомбу и применили ее дважды, сбросив в августе 1945 г. на мирные города Японии - Хиросиму и Нагасаки - без всякой необходимости. К сожалению, опасный процесс антигуманного развития и милитаризации научных достижений продолжается: агрессивные круги ряда стран придумывают все более мощные системы вооружений для обеспечения возможности доминирования в мире путем дестабилизации других государств, уничтожения их населения и разрушения инфраструктуры и экономического потенциала.
Рассмотрим основные моменты процесса возникновения и развития вопросов, связанных с темой ИИ, его существо, соотношение с естественным интеллектом человека. Очень важным аспектом развития ИИ представляются пути и возможности их бесконфликтного взаимодействия, а также имеющиеся в нем допущения и ограничения, необходимые для обеспечения безопасной и гуманистической направленности применения ИИ.
Приведем еще некоторые определения, в наибольшей степени актуальные для обсуждаемой темы и важные для любой сферы человеческой деятельности.
Интеллект - особая функция психической деятельности организмов с высокоразвитым и сложно дифференцированным мозгом; способность получать, хранить, преобразовывать и предоставлять информацию в понятном для пользователя виде, вырабатывать новые знания, принимать рационально обоснованные решения, формулировать цели и управлять деятельностью по их достижению, оценивать ситуации, возникающие в окружающем мире [4].
Американский психолог Джой Пол Гилфорд (1897-1987) в 1959 г. выделил 120 факторов, определяющих интеллект и выделяющих перечень его умственных операций со своим содержанием и результатами, к которым приводят эти операции (рис. 2).
Операции
Познавательные
Дивергентное мышление Конвергентное мышление
Результат
Содержание
Элементы
Классы
Отношения
Системы
Преобразов ания
Применения
Образное
Символическое Семантическое Поведенческое
Рис. 2. Структура интеллекта по Гилфорду
Поясним некоторые использованные термины, редко встречающиеся в обычной практике технических специалистов:
- дивергентное мышление — особый вид мышления, который предполагает, что на один и тот же вопрос может быть дано множество одинаково правильных и равноправных ответов, или дивергентное мышление (от лат. divergшm - точка разделения, расхождения) - мышление, способное охватывать и осмысливать все многообразие явлений действительности, их свойств и связей между ними;
- конвергентное мышление (от лат. cоnvergere - сходиться) - форма мышления, основанная на стратегии точного использования предварительно усвоенных алгоритмов решения определенной задачи.
Искусственный интеллект, его существо, развитие, возможности и ограничения, взаимодействие с естественным интеллектом человека - самые обсуждаемые и спорные темы этого направления исследований, программирования и построения роботизированных систем различного назначения. Несмотря на бурное развитие этого направления технологий и техники, аппаратно-программных комплексов, на сегодня нет общепринятого определения понятия «искусственный интеллект». Это происходит потому, что ИИ активно внедряется в различные виды деятельности человека, в которых перечень решаемых с помощью ИИ задач весьма разнообразен, значит и определения ИИ для таких задач могут нести в себе особенности и отличия.
Несмотря на сказанное, в науке и технике сегодня приняты базовые подходы к ИИ, характеризующие его существо, особенности построения и функционирования.
2. Пути взаимодействия и возможные опасности
Существует как минимум две точки зрения на идеологию развития и построения ИИ в зависимости от основ и порядка их взаимодействия с людьми - разработчиками и пользователями. Эти две точки зрения формулируются следующим образом: что разработчики ИИ положат в основу его функционирования - усиление возможностей человеческого интеллекта в его творческой и управляющей деятельности (скорость и сложность расчетов, разработка оптимальных логических схем для построения систем, выработка вариантов принятия решений в сложных и неопределенных задачах) или полную замену человека и полное его вытеснение из всех процессов, включая принятие решения?
В мире сложились и активно работают группы ученых, инженеров, программистов, которые стоят на этих двух разных позициях. Они работают и создают реальные средства, испытывают и внедряют их в различные сферы науки и техники, социальные структуры и далеко не всегда задумываются о последствиях принимаемых решений и практического их применения. К тому же имеются недобросовестные представители бизнеса, готовые на любые действия ради получения максимальной прибыли любыми средствами. Именно в этих положениях
заключаются большие сложности и опасности для человека, для различных профессиональных сообществ и для всей человеческой цивилизации.
Одна из опасностей массового внедрения ИИ и роботов в жизнь и деятельность человеческого сообщества заключается в угрозе масштабной безработицы, когда, как ожидается, большинство бухгалтеров, банковских служащих, юристов, экономистов, продавцов и даже водителей различных видов транспорта будут заменены на автоматизированные системы и роботы. Однако, как показывает опыт, такая катастрофа рынку труда не грозит, поскольку уже сейчас возникает множество не существовавших ранее специальностей и профессий, в которые происходит перетекание рабочей силы.
Сложность и опасность для человека при бездумном и ничем не ограниченном процессе разработки и бесконтрольной деятельности ИИ, воплощенного, например, в роботах, осознавали основоположники кибернетики и информатики, создатели первых программно-аппаратных средств. Они понимали, что неограниченная свобода в совершенствовании и целеполагании в использование программного продукта в памяти ЭВМ или робота может привести к возможности возникновения условий для воспроизводства и саморазвития программ ИИ до такого уровня, когда он сможет выйти из-под контроля человека - разработчика первичного комплекса программ. Предсказать, в какую сторону пойдет развитие такого ИИ, практически невозможно, а именно: в сторону сотрудничества с человеком, усиления его вычислительных и управляющих возможностей или в сторону агрессивного поведения, направленного против человека, вплоть до его уничтожения как ненужного соперника. А что будет, если помочь ИИ и направить его саморазвитие именно в сторону агрессии против человека? Среди специалистов существует такая точка зрения, катастрофическая по своей сути, что именно так и поступит ИИ с человеком и ничего с этим поделать невозможно. К сожалению, существенная часть ученых, специалистов (инженеров, заказчиков разработки и пользователей ИИ) сознательно или неосознанно не обращают внимания на морально-нравственные и этические проблемы, возникающие при создании и применении компьютерных технологий и ИИ.
Однако многие специалисты придерживаются другой точки зрения, которая говорит о том, что человек должен остаться и останется хозяином положения во взаимодействии с ИИ и роботами, что человек и машина будут жить и работать в согласии, дружеском полезном взаимодействии. Сегодня заказчики и разработчики еще не достигли того уровня ИИ, когда он может превратиться в реальную угрозу для человека. Но время идет, процесс развивается, что заставляет задуматься о ближайшем будущем.
Большие опасения относительно последствий полной и всесторонней автоматизации высказывал основоположник кибернетики Норберт Винер. Какими будут последствия решений, принятых сегодняшними исследователями в области ИИ и робототехники, которым становится не просто доступно, а даже легче выбирать между расширением (усилением) возможностей человека и заменой его в контуре управления создаваемых и работающих систем и различной техники?
При этом нельзя забывать о социальных последствиях, которые повлекут за собой работающие интеллектуальные системы во взаимодействии с человеком в повседневной жизни и профессиональной деятельности.
3. Выбор пути развития
Подобный ход событий привел к тому, что в компьютерном мире сложились два научно-технических сообщества со своими взглядами, ценностями, традициями, которые представляют упомянутые два идеологических направления. Именно эти сообщества определяют взаимоотношения человека и робота, вооруженного ИИ, а по сути дела принимают судьбоносные решения для всего человечества. Одно сообщество стремится к полной автоматизации различных сфер деятельности человека, другое продолжает развивать продуктивное и полезное человеко-машинное взаимодействие, видит будущее как симбиоз человека и машины (очень актуальное направление).
Однако и в этом направлении существует опасность, которая представляется реальной для человека. Дело в том, что активно развивается так называемое «чи-пирование» человека, т. е. вживление в организм (мозг) электронных устройств, которые могут управлять человеческим сознанием, а значит и его поведением. Возник специальный термин - киборг, т. е. симбиоз человека и машины. Но мысль специалистов идет дальше: должна возникнуть возможность и практическая применимость замены органов человека, например руки, ноги, на механические устройства, которыми будет управлять такой киборг. А где граница такого замещения?
Логика организации и проведения исследований в любом научно-техническом направлении говорит о том, что и в области ИИ наступит время, когда людям придется принимать решение, какими функциями будут обладать робототехни-ческие системы, как будет обеспечиваться взаимодействие человека и робота как автономного ИИ в повседневной жизни и профессиональной деятельности. Сегодня мы еще определяем и направляем этот процесс, но мы не можем сбросить с себя ответственность за последствия результатов своих разработок и их внедрения.
Благотворную роль могут сыграть прогрессивные политические и общественные деятели разных стран, если удастся организовать встречи и обсуждение на высоком международном уровне указанных проблем с принятием документов, регламентирующих деятельность по разработке, созданию и применению информационных и управляющих систем, а также разнообразной робототехники исключительно в мирных и гуманистических целях.
4. Позиции и мнения ученых и специалистов
Повышенный интерес к проблеме отражен в большом количестве научных, научно-фантастических, научно-популярных книг, в которых специалисты подробно и обстоятельно излагают свои доводы в пользу той или иной модели развития человеческой цивилизации, включающей в свой мир и социальные структуры, ИИ, реализованный в промышленных, военных, банковских, транспортных, домашних и прочих роботах. Практически все специалисты высказывают солидарную мысль, что выбор пути, по которому пойдет развитие ИИ сегодня, зависит от людей, а большая ответственность за этот выбор лежит на двух сообществах заказчиков, разработчиков и пользователей, придерживающихся противоположных взглядов на развитие ИИ [5].
Обратим внимание на некоторые наиболее интересные и содержательные книги, названия которых говорят сами за себя [6, 7]. Первым ученым и писателем, поднявшим проблему опасности применения роботов на основе ИИ, был американский ученый, историк и писатель-фантаст российского происхождения Айзек Азимов, который четко сформулировал три закона, по которым, как он считал, должно идти развитие робототехники [8]. Автор этой книги отнес создание законов и действие романа на 2058 г., однако роман написан в 1950 г., когда еще не было мощных компьютеров и никто в то время не думал о создании реальных роботов.
Перейдем от общих рассуждений и фактов к введению ряда определений терминов и понятий, которые уже неоднократно были использованы в статье.
Сказанное в начале статьи о наличии многочисленных определений естественного интеллекта можно отнести и к понятию ИИ, т. е. ИИ сегодня тоже имеет ряд определений применительно к различным сферам деятельности человека и использования ИИ. Приведем одно из них, которое сформулировано с более общих теоретических позиций.
Искусственный интеллект - научное направление, ставящее целью:
- моделирование процессов познания и мышления человека;
- использование применяемых человеком методов решения задач;
- разработка методов автоматизированного поиска решений интеллектуальных творческих (неформализуемых - на это обращаем особое внимание) задач;
- разработка диалоговых программно-аппаратных средств имитирования интеллекта - так называемых интеллектуальных систем.
Основная задача ИИ - обеспечить наиболее полное и адекватное моделирование работы человеческого мозга (естественного интеллекта).
Весьма интересен и полезен комплекс формулировок интеллекта вообще и искусственного в частности, который привел академик РАН Игорь Анатольевич Каляев (Южный федеральный университет РФ) в одном из своих докладов. Он дает ряд определений, основанных на утверждениях, что искусственный интеллект - это свойство автоматизированных систем выполнять функции и решать задачи, которые всегда относились к человеку, причем программные средства
должны обладать возможностью решать многие сложные задачи такими способами и с такими результатами, которые до сих пор способен применить и получить только человек.
Судя по научным взглядам и позиции академика И. А. Каляева, можно сделать заключение о том, что задача, для которой сформирован алгоритм решения, реализованный на компьютере, уже не может считаться интеллектуальной. Компьютерные программы, которые сегодня относят к классу интеллектуальных, никакого отношения к ИИ не имеют.
Представленный академиком И. А. Каляевым комплекс подходов и формулировок отличается практической направленностью, делает стоящие перед разработчиками задачи конкретными, а также отделяет программный продукт от ИИ.
Обсудим еще ряд особенностей, характеризующих отличие человеческого интеллекта от его искусственного «собрата» (или возможного «соперника»).
Специалисты задались вопросом: возможно ли смоделировать или сымитировать на машине чувственные возможности и многообразные проявления человека как представителя органического и социального мира?
Острые теоретические и практические вопросы, касающиеся взаимоотношений человека и компьютера, можно сформулировать так: в чем сходство и различие функций, осуществляемых компьютером и мозгом? Что даст сравнение результата работы ИИ с психическими и эмоциональными процессами в мозге человека и в его поведенческих реакциях? Чтобы ответить на них, целесообразно выделить три типа функций, связанных:
- с чувственными отображениями (ощущения, восприятия, представления);
- эмоциональными состояниями;
- когнитивными операциями (вычисления, анализ, систематизация, решение большого круга задач и т. д.) [9].
5. Возможности искусственного интеллекта
Достижения в области разработки ИИ говорят о том, что сегодня компьютер способен имитировать практически все основные чувственные проявления - от зрительных образов до обоняния. В последние годы компьютер далеко продвинулся в имитации осязания. Например, созданы специальные экраны для слепых.
Чувственные отображения человека осуществляются в форме явлений субъективной реальности - специфического и неотъемлемого качества сознания. Зрительное или слуховое ощущение вызывается действием определенных физических факторов, но само качество субъективного переживания генетически задано человеку устройством его нервного аппарата, кодирующего внешнее воздействие на рецептор и затем передающего информацию в головной мозг, на уровне которого и возникает нейродинамический акт, переживаемый человеком в виде ощущения. Подобные исследования проводятся в рамках науки нейрофизиологии, основным предметом которых выступает нейрон - специальная структурно-функциональная единица нервной системы человека.
Мозг живых существ обладает способностью организовывать связи между нейронами, чтобы они выполняли такие задачи, как распознавание образов, обработку сигналов от органов чувств, моторные функции и т. д. Причем мозг выполняет подобные задачи во много раз быстрее, чем самые современные компьютеры. При этом скорость распространения нервного импульса в аксоне равна приблизительно 100 м/с, что в миллион раз меньше, чем скорость передачи электрического сигнала. Однако за счет огромного количества соединений между нейронами, т. е. за счет параллельной обработки информации, человеческий мозг мгновенно справляется с задачами, для решения которых «обычным» компьютерам требуется несравнимо большее время [10].
Таким образом, мозг, наделенный интеллектом, является универсальным средством решения широкого круга задач (в том числе неформализованных), для которых нет стандартных, заранее известных методов решения [11].
Компьютер содержит информацию о предметах, процессах и явлениях, но он не обладает возможностью субъективно представлять эту информацию - воспринимать и осознавать. К компьютеру как технической системе также нельзя отнести эмоциональные состояния или чувство боли.
Вопрос о соотношении уровня и порядка взаимодействия ИИ и человека, о моделировании творческого мышления сегодня является одним из самых острых вопросов теории и практики создания вычислительных средств и их программно-алгоритмического обеспечения.
Мозгу человека присущи функции анализа, вероятностного прогнозирования и вероятностной оценки, эффективные способы различной компоновки и дифференциации информации, выборки нужного ее объема и содержания из памяти, эвристической выработки решений и многие другие операции, которые не свойственны машине. Поэтому сегодня на вопрос: может ли машина мыслить? - ответ пока таков: не может (по крайней мере - пока не может). Этот вывод эмпирически очевиден [12].
Теоретически возможно допустить создание искусственных самоорганизующихся систем типа ИИ, но дело в том, что лучшие ученые еще до конца не разобрались в сути работы мозга человека и человеческого сознания.
Кроме того, теоретически допустимо утверждение, что будущие компьютеры смогут научиться мыслить по-человечески. Это утверждение обусловлено моделью функционализма, лежащей в основе теоретических построений кибернетики, широкого круга научных дисциплин, предметом которых выступают самоорганизующиеся системы, компьютерные технологии, переработка информации.
Функционализм - методологический подход к исследованию сложных, системно организованных объектов, согласно которому такие объекты понимаются как целостные структуры, все элементы которых выполняют определенные взаимосогласованные функции; смысл этих функций определяется только по отношению к системе в целом.
Выдающийся английский математик, логик А. М. Тьюринг, оказавший существенное влияние на развитие информатики, обосновал принцип изофункциона-лизма систем. Суть этого понятия в том, что по существующей теоретической гипотезе возникновение биологической жизни было возможно из «минеральной» составляющей природы, т. е. из «камней». Этот процесс шел путем длительной эволюции, в течение которой объективно сложились условия, благоприятные для возникновения органической жизни.
При обсуждении проблем соотношения искусственного интеллекта и естественного разума человека широко используется тест Тьюринга, который многократно проверялся: испытуемому человеку предлагается провести разговор на естественном языке с несколькими собеседниками, среди которых есть люди и робот. Если человек не сможет распознать, что он разговаривал с роботом и отличить беседу от разговора с человеком, то компьютер можно считать «интеллектуальным» [13]. В тесте Тьюринга сознательно исключено непосредственное физическое взаимодействие экспериментатора и компьютера, поскольку для создания искусственного интеллекта не требуется физической имитации человека; так, например, «внешность» робота не обязательно должна соответствовать «образу и подобию человека».
В контексте излагаемого материала весьма показательно сравнение двух представителей субъективной реальности - человека и животного. Высшие животные обладают развитой и весьма сложной психикой, имеют не только ощущения, представления, эмоции, ярко выраженную индивидуальность, способность общаться с человеком, но и своего рода мышление.
Однако качество сознания стоит связывать именно с человеческой психикой. У животных характерные для сознания формы самоотображения отсутствуют, т. е. животное (например, домашняя собака или кошка) не осознает, что оно животное, и, взаимодействуя с более высокоорганизованным мыслящим существом - человеком, поддается его управлению с помощью дрессировки. Отметим также, что весьма наглядно проявляется и обратное продуктивное влияние домашнего животного на своего хозяина, однако со стороны человека этот процесс, в отличие от животного, идет сознательно и добровольно, в определенных пределах, регулируемых его волей и желанием.
6. Трудности создания искусственного интеллекта
В настоящее время на пути создания ИИ обнаружилось, что научные и технические поиски сопряжены с несоизмеримо более серьезными трудностями, чем представлялось первым энтузиастам. И все же ученые и специалисты продолжают активно работать над созданием ИИ. Например, в Национальном центре развития технологий и базовых элементов робототехники РФ основные поиски разработчиков ИИ ведутся в двух направлениях.
Первое связано с моделированием человеческих рассуждений с помощью ИИ, которые строятся следующим образом: при наличии имеющихся проверенных
и принятых утверждений делаются некоторые обоснованные выводы. В такой связке образуются новые знания в дополнение к существующим знаниям. Однако имеется проблема - если этот процесс реализуется хорошо, то обучение ИИ пока достигнуть не удается, поскольку из полученных наблюдений он не может сформировать новые знания. Как уже было отмечено, для этого в ИИ надо заложить огромное количество знаний, предшествовавших тем или иным утверждениям и накапливавшимся очень длительное время, что практически невозможно.
Именно в связи с таким положением дел развивается второе направление, связанное с машинным обучением, благодаря которому из полученной системы фактов можно было бы получить новые знания. Для решения этой грандиозной задачи используются искусственные нейронные сети, состоящие из нескольких слоев. Серьезное продвижение в обучении ИИ было достигнуто, когда появились многослойные и глубокие многослойные сети, способные имитировать работу естественных нейронных сетей, т. е. человеческого мозга. В результате ИИ уже может выполнять многие интеллектуальные задачи лучше человека, хотя далеко не все. На этом пути, как представляется, на ИИ или роботов можно будет возложить выполнение нужных человеку функций любой сложности, в том числе решение прикладных задач. Подобный ИИ назвали функциональным, его можно будет использовать в помощь человеку в различных сферах деятельности.
Однако существуют и убежденные скептики, к числу которых относится Хьюберт Дрейфус, профессор философии Калифорнийского университета в Беркли. По его мнению, истинный разум невозможно отделить от его человеческой основы, заключенной в человеческом организме. «Цифровой компьютер - не человек, - считает Дрейфус. - У компьютера нет ни тела, ни эмоций, ни потребностей. Он лишен социальной ориентации, которая приобретается жизнью в обществе, а именно она делает поведение разумным. Я не хочу сказать, что компьютеры не могут быть разумными. Но цифровые компьютеры, запрограммированные фактами и правилами из нашей, человеческой, жизни, действительно не могут стать разумными» [14].
Для реализации возможности создать разумный компьютер активно развивается (и уже на практике) перспективное направление, связанное с нейрокомпью-терными технологиями, созданием искусственных нейросетей и, как уже было сказано, симбиоза человека и вычислительной машины.
Центральная проблема создания ИИ, обладающего свойствами мозга, заключается в следующем. Для многих задач точные правила решения отсутствуют -иными словами, человеческий разум в настоящее время не обладает полным и исчерпывающим самопознанием. Человек оперирует звуковыми и зрительными образами, не зная, как они функционируют в его сознании, он принимает неожиданные творческие решения, не сознавая алгоритмов мозга при такой деятельности. Убедительное описание сути этих процессов на формальном и качественном уровне пока получить не удалось (несмотря на огромные затраченные усилия и средства). Поэтому сегодня широко распространено мнение, что человеческий мозг принципиально непознаваем.
Первые программы, претендующие быть представленными как ИИ, относились к классу игровых, среди которых важную роль сыграли шахматные программы. Однако шахматные программы работали по принципу перебора огромного количества вариантов очередного хода и оценки последствия его выбора.
Сейчас разработка интеллектуальных программ включает в себя широкую область деятельности человека, куда входят работы, возникающие при организации производства промышленных предприятий, и их моделирование (цифровые двойники), а также в робототехнике и при постановке сложных лабораторных исследований, натурных и модельных экспериментов. Большинство из этих программ относительно точно отражают полученные из опыта представления о характере процесса решения человеком тех или иных задач, при этом они постоянно совершенствуются и усложняются.
До недавнего времени производительности настольных компьютеров было явно недостаточно для решения таких задач, с которыми человек справляется с легкостью: распознавание речи, лиц, динамических образов и трехмерных сцен в реальном времени. Для нашего мозга подобные задачи распознавания являются приоритетными [15]. Однако развитие вычислительных средств идет бурными темпами и подобные ограничения довольно активно снимаются с повестки дня.
Кроме того, уже существуют суперкомпьютеры, которые в состоянии решать подобные и более сложные задачи. При этом реализация масштабных задач для ИИ, которые ставятся исследователями перед суперкомпьютерами, требует таких энергетических затрат, которые сопоставимы с мощностью крупных электростанций. В то время как напряженная работа человеческого мозга требует всего нескольких сотен ватт. Встает вопрос о целесообразности разработки и использования суперкомпьютеров для решения всеобъемлющих задач для ИИ, требующих несоразмерных с получаемым результатом ресурсных затрат. Представляется, что человечество рано или поздно найдет ответы на эти принципиальные вопросы и примет оптимальные решения столь значимых задач.
Выдающийся советский математик, академик А. Н. Колмогоров считал, что вряд ли можно создать автомат, способный писать хорошие стихи, если не промоделировать все развитие культурной жизни того общества, в котором живут поэты [16]. Продолжая эту мысль, можно заключить: нельзя создать техническую систему, имитирующую во всем объеме мышление человека, не промоделировав все процессы жизни человека в его исторической ретроспективе, развитие его способностей, всю историю его морально-нравственного и эмоционального общения с окружающим миром и человеческим обществом. Любое техническое создание, оснащенное ИИ, будет только приближаться к человеку, его сознанию и его интеллектуальным возможностям с определенным уровнем ограничений.
Заключение
Представлены основные философские, теоретические и технические положения, направления, морально-нравственные взгляды, оценки, приоритеты и реальные ограничения, связанные с практическим целесообразным развитием и анализом проблем создания и внедрения
искусственного интеллекта в человеческую практическую деятельность и повседневную жизнь.
Ученым, инженерам и разработчикам организационно-технических, интеллектуальных информационных и управляющих систем предстоит преодолеть много трудностей на пути решения самых амбициозных в истории науки и техники задач, связанных с достижением понимания и использования законов, принципов и механизмов работы как естественного биологического, так и искусственного интеллекта, а также установления правил безопасного взаимодействия человека и машинных комплексов, работающих на принципах ИИ с гуманистической направленностью.
На этом пути честные и ответственные ученые, инженеры, создатели вычислительной техники, программисты, руководители и политики в разных странах и международных организациях при координирующей роли Организации Объединенных Наций и ее структур обязаны принять все необходимые меры для недопущения разрушительной деятельности агрессивных кругов разных стран и деловых сообществ. Это положение касается практически всех сторон жизни государств в области кибербезопасности и направлено на предотвращение дестабилизации органов государственного и экономического управления, хаотизации международной обстановки при преследовании целей глобализации, установления доминирования и диктата со стороны транснациональных корпораций, политической и финансовой закулисы. Такой подход на протяжении многих десятилетий после Второй мировой войны наблюдается со стороны агрессивных кругов Запада и НАТО по отношению к большинству стран, желающих развиваться на основе равноправия и взаимного уважения, в том числе в сфере создания и гуманистических принципов использования ИИ для благородных целей образования, медицины, научно-технического прогресса и безопасной жизни народов всех стран.
Библиографический список
1. Евсеев В. И. Научно-производственный цикл радиоэлектронных средств: основы теории и практики: Учебное пособие. - СПб.: Арт. Экспресс, 2021. - 744 с.
2. Евсеев В. И. Информация, кибернетика, искусственный интеллект: история и современность: Учебное пособие. - СПб.: Арт. Экспресс, 2022. - 136 с.
3. Остроух А. В. Интеллектуальные информационные системы и технологии: Монография / А. В. Остроух, Н. Е. Суркова. - Красноярск: Научно-инновационный центр, 2015. - 370 с.
4. Кузнецова А. В. Искусственный интеллект и информационная безопасность общества / А. В. Кузнецова, С. И. Самыгин, М. В. Радионов. - М.: Русайнс, 2017. - 117 с. -
URL: https://bstudy.net/resume/652289/ekonomika/iskusstvennyy_intellekt_informatsionnaya_bez opasnost_obschestvo (дата обращения: 13.03.2023).
5. Маркофф Д. Homo Roboticus? Люди и машины в поисках взаимопонимания. - М.: Аль-пина нон-фикшн, 2016. - 406 с.
6. Форд М. Роботы наступают. Развитие технологий и будущее без работы. - М.: Альпина нон-фикш, 2016. - 430 с.
7. Минделл Д. Восстание машин отменяется! Мифы о роботизации. - М.: Альпина нон-фикшн, 2016. - 310 с.
8. Азимов А. Я, робот / А. Азимов; пер. с англ. Н. А. Сосновской, А. Д. Иорданского. - М.: Эксмо, 2020. - 320 с.
9. Шиповская Л. П. Концепции современного естествознания: Учебное пособие. - М.: Кно-рус, 2018. - 270 с. -
URL: https://bstudy.net/600533/estestvoznanie/mozg_soznanie_kompyuter (дата обращения: 14.03.2023).
10. Кузнецова А. В. Искусственный интеллект и информационная безопасность общества / А. В. Кузнецова, С. И. Самыгин, М. В. Радионов. - М.: Русайнс, 2017. - C. 45-56. -
URL: https://bstudy.net/652297/ekonomika/popytki_sozdaniya_universalnyh_myslyaschih_mashin (дата обращения: 13.03.2023).
11. Кузнецова А. В. От интеллекта естественного к интеллекту искусственному / А. В. Кузнецова, С. И. Самыгин, М. В. Радионов // Искусственный интеллект и информационная безопасность общества. - М.: Русайнс, 2017. - C. 7-17. -
URL: https://bstudy.net/652292/ekonomika/intellekta_estestvennogo_intellektu_iskusstvennomu (дата обращения: 13.03.2023).
12. Дубровский Д. И. Психические явления и мозг. Философский анализ проблемы в связи с некоторыми актуальными задачами нейрофизиологии, психологии и кибернетики. - М.: Наука, 1971. - С. 316-337.
13. Гаврилова Т. А. Базы знаний интеллектуальных систем: учебное пособие / Т. А. Гаври-лова, В. Ф. Хорошевский. - СПб.: Питер, 2000. - 384 с.
14. Дрейфус Х. Чего не могут вычислительные машины. Критика искусственного разума. -М.: Прогресс, 1978. - 336 с.
15. Кузнецова А. В. Искусственные интеллектуальные системы / А. В. Кузнецова, С. И. Са-мыгин, М. В. Радионов // Искусственный интеллект и информационная безопасность общества. - М.: Русайнс, 2017. - C. 57-76. -
URL: https://bstudy.net/652298/ekonomika/iskusstvennye_intellektualnye_sistemy (дата обращения: 13.03.2023).
16. Колмогоров А. Н. Жизнь и мышление с точки зрения кибернетики. - М.: Наука, 1962. -С. 6.
Дата поступления: 08.03.2023 Решение о публикации: 17.03.2023
Контактная информация:
ЕВСЕЕВ Владимир Иванович - д-р техн. наук, профессор, чл.-кор. РАЕН, лауреат премии Правительства Санкт-Петербурга «За гуманизацию образования», профессор (Балтийский государственный технический университет «ВОЕНМЕХ» им. Д. Ф. Устинова, Российская Федерация, 190005, Санкт-Петербург, 1-я Красноармейская ул., д. 1), v.evseev43@mail.ru
References
1. Evseev V. I. Nauchno-proizvodstvennyj tsikl radioelektronnyh sredstv: osnovy teorii i prak-tiki: Uchebnoe posobie [Radioelectronic devices research and production cycle: bases on theory and practice: Manual]. Saint Petersburg: Art Express, 2021, 744 p. (In Russian)
2. Evseev V. I. Informatsiya, kibernetika, iskusstvennyj intellekt: istoriya i sovremennost': Uchebnoe posobie [Data, Cybernetics, Artificial Intelligence: History and Modernity: Manual]. Saint Petersburg: Art. Express, 2022, 136 p. (In Russian)
3. Ostroux A. V., Surkova N. E. Intellektual'nye informacionnye sistemy i texnologii: Mono-grafiya [Intelligent Information Systems and Technologies: Monograph]. Krasnoyarsk: Scientific-Innovation Center, 2015, 370 p. (In Russian)
4. Kuzneczova A. V. Iskusstvennyj intellekt i informacionnaya bezopasnost' obshhestva [Artificial Intelligence and Society Information Security]. Moscow: Ru Stience, 2017, 117 p.
URL: https://bstudy.net/resume/652289/ekonomika/iskusstvennyy_intellekt_informatsionnaya_ bezopasnost_obschestvo (accessed: March 13, 2023). (In Russian)
5. Markoff D. Homo Roboticus? Lyudi i mashiny v poiskah vzaimoponimaniya [Homo Roboti-cus? Humans and machines in search of mutual understanding]. Moscow: Alpina non-fiction, 2016, 406 p. (In Russian)
mexatpohhka h poöototexhhka
6. Ford M. Roboty nastupayut. Razvitie texnologij i budushhee bez raboty [Robots are advancing. Technology development and future without work]. Moscow: Alpina non-fiction, 2016, 430 p. (In Russian)
7. Mindell D. Vosstanie mashin otmenyaetsya! Mify o robotizacii [Machine Rebellion Abolished! Myths of robotics]. Moscow: Alpina non-fiction, 2016, 310 p. (In Russian)
8. Azimov A. Ya, robot [I, Robot] / translated from English by N. A. Sosnovskaya, A. D. Jordan. Moscow: Eksmo, 2020, 320 p. (In Russian)
9. Shipovskaya L. P. Koncepcii sovremennogo estestvoznaniya: Uchebnoe posobie [The Concepts of Modern Natural Science: Manual]. Moscow: Knorus, 2018, 270 p.
URL: https://bstudy.net/600533/estestvoznanie/mozg_soznanie_kompyuter (accessed: March 14, 2023). (In Russian)
10. Kuzneczova A. V., Samygin S. I., Radionov M. V. Popytki sozdaniya universal'nyh myslya-shchih mashyn [Attempts to create universal thinking machines]. Iskusstvennyj intellekt i infor-macionnaya bezopasnost' obshhestva [Artificial Intelligence and Information Security of Society]. Moscow: Ru Science, 2017, pp. 45-56. URL: https://bstudy.net/652297/ekonomika/popytki_soz-daniya_universalnyh_myslyaschih_mashin (accessed: March 13, 2023). (In Russian)
11. Kuzneczova A. V., Samygin S. I., Radionov M. V. Ot intellekta estestvennogo k intellektu iskusstvennomu [From Natural Intelligence to Artificial Intelligence]. Iskusstvennyj intellekt i infor-macionnaya bezopasnost' obshhestva [Artificial Intelligence and Information Security of Society]. Moscow: Ru Science, 2017, pp. 7-17. URL: https://bstudy.net/652292/ekonomika/intellekta_ estestvennogo_intellektu_iskusstvennomu (accessed: March 13, 2023). (In Russian)
12. Dubrovskij D. I. Psihicheskie yavleniya i mozg. Filosofskij analiz problemy v svyazi s neko-torymi aktual'nymi zadachami nejrofiziologii, psihologii i kibernetiki [Mental phenomena and the brain. A Philosophical Analysis of the Problem in Perspective of Some Current Problems of Neurophysiology, Psychology and Cybernetics]. Moscow: Nauka, 1971, pp. 316-337. (In Russian)
13. Gavrilova T. A., Khoroshevskiy V. F. Bazy znanij intellektual'nyh sistem: Uchebnoe posobie [Smart systems database: Manual]. Saint Petersburg: Piter, 2000, 384 p.
14. Drejfus X. Chego ne mogut vychislitel'nye mashiny. Kritika iskusstvennogo razuma. [What computing machines cannot do. A critical examination of artificial intelligence]. Moscow: Progress, 1978, 336 p. (In Russian)
15. Kuzneczova A. V., Samygin S. I., Radionov M. V. Iskusstvennye intellektual'nye sistemy [Artificial Intelligent Systems]. Iskusstvennyj intellekt i informacionnaya bezopasnost' obshhestva [Artificial Intelligence and Information Security of Society]. Moscow: Ru Science, 2017, pp. 57-76. URL: https://bstudy.net/652298/ekonomika/iskusstvennye_intellektualnye_sistemy (accessed: March 13, 2023). (In Russian)
16. Kolmogorov A. N. Zhizn' i myshlenie s tochki zreniya kibernetiki [Life and thinking in terms of cybernetics]. Moscow: Nauka, 1962, P. 6. (In Russian)
Date of receipt: March 08, 2023 Publication decision: March 17, 2023
Contact information:
Vladimir I. EVSEEV - Doctor of Technical Sciences, Professor, Corresponding Member of the Russian Academy of Natural Sciences, Laureate of St. Petersburg Government Award "For Humaniza-tion of Education", Professor (Baltic State Technical University "VOENMEH", Russian Federation, 190005, Saint Petersburg, 1st Krasnoarmeyskaya ul., 1), v.evseev43@mail.ru
