CC BY
98
СОЦИАЛЬНАЯ ФИЛОСОФИЯ И ФИЛОСОФИЯ ИСТОРИИ
Л. Е. ГРИНИН, А. Л. ГРИНИН, И. Л. ГРИНИН
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: РАЗВИТИЕ И ТРЕВОГИ. ВЗГЛЯД В БУДУЩЕЕ
Статья первая. Информационные технологии и искусственный интеллект: прошлое, настоящее и некоторые прогнозы*
Работа посвящена истории развития информационно-коммуникационных технологий (ИКТ) и искусственного интеллекта (ИИ), их современным и вероятным будущим достижениям в связи с развитием этих технологий и их активным использованием в обществе. Острые проблемы, связанные с ИИ, видны уже сейчас, но в будущем они станут намного острее. Показываются тесная связь развития ИИ с когнитивной наукой, мощное внедрение ИКТ и ИИ в различные сферы, в частности сферу охраны здоровья, а также в очень итимные области, связанные с созданием цифровых копий умерших и посмертных контактов с ними. Значительное место в статье уделяется анализу понятия «искусственный интеллект», в том числе определениям общего и генеративного ИИ.
* Исследование выполнено при поддержке Российского научного фонда (проект № 23-11-00160 «Моделирование и прогнозирование развития стран БРИКС в XXI веке в контексте мировой динамики»).
Для цитирования: Гринин Л. Е., Гринин А. Л., Гринин И. Л. Искусственный интеллект: развитие и тревоги. Взгляд в будущее. Статья первая. Информационные технологии и искусственный интеллект: прошлое, настоящее и некоторые прогнозы // Философия и общество. 2023. № 3. С. 5-35. DOI: 10.30884/jfio/2023.03.01.
For citation: Grinin L. E., Grinin A. L., Grinin I. L. Artificial Intelligence: Development and Concerns. A Look into the Future. Article one. Information Technology and Artificial Intelligence: The Past, Present and Some Forecasts // Filosofiya i obshchestvo = Philosophy and Society. 2023. No. 3. Pp. 5-35. DOI: 10.30884/jfio/2023.03.01 (in Russian).
Философия и общество, № 3 2023 5-35 DOI: 10.30884/jfw/2023.03.01
Дается анализ последних достижений в области искусственного интеллекта, описываются базовые модели, в частности большие языковые модели (large linguistic models, LLM). Предлагаются прогнозы развития ИИ и опасностей, которые будут подстерегать нас в ближайшие десятилетия. Указывается, какие силы стоят за стремлением создать могущественный искусственный интеллект, все более приближающийся по своим возможностям к так называемому общему/универсальному ИИ, а также обсуждаются желательные действия по ограничению и канализации развития искусственного интеллекта. Подчеркивается, что угрозы и опасности развития ИКТ и ИИ особенно усиливаются в связи с монополизацией их развития со стороны государства, спецслужб, крупнейших корпораций и тех, кого нередко называют глобалистами. В статье даны прогнозы развития компьютеров, ИКТ и ИИ в ближайшие десятилетия, а также показаны изменения в обществе, которые будут с этим связаны.
Работа состоит из двух статей. В первой из них, представленной ниже, описана краткая история и дана характеристика текущей ситуации в области ИКТ и ИИ, анализируются понятия искусственного интеллекта, в том числе генеративного ИИ, изменений в понимании ИИ в связи с появлением так называемых больших языковых моделей и на их базе -новых типов ИИ (ChatGPT). В статье обсуждаются серьезные проблемы и опасности, связанные с быстрым и неконтролируемым развитием искусственного интеллекта.
Во второй статье, которая планируется к публикации в следующем номере журнала, описываются и комментируются современные оценки прорыва в области ИИ, анализируются различные прогнозы, авторы дают собственные оценки и прогнозы будущего развития. Особое внимание уделено проблемам и опасностям, связанным с быстрым и неконтролируемым развитием ИИ, с тем, что достижения в области ИИ становятся мощнейшим средством контроля над населением, навязывания идеологии и выбора, способом влиять на результаты выборов, орудием подрыва безопасности и геополитической борьбы.
Ключевые слова: информационно-компьютерные технологии, ИКТ, искусственный интеллект, ИИ, общий ИИ, узкий ИИ, генеративный ИИ, большие языковые модели, LLM, когнитивная наука, самоуправляемые системы, кибернетическая революция, технологический прогресс.
The article is devoted to the history of development of Information and Communication Technologies (ICT) and Artificial Intelligence (AI), their current and probable future achievements and the problems (which have already arisen, but will become even more acute in the future) associated with the development of these technologies and their active introduction in society. The close connection between the development of AI and cognitive science, the penetration of ICT and AI into various fields, in particular the field of health care,
is shown. A significant part of the article is devoted to the analysis of the concept of "artificial intelligence", including the definition of generative AI. There is performed the analysis of recent achievements in the field of Artificial Intelligence, and there are given descriptions of the basic models, in particular Large Linguistic Models (LLM), and forecasts of the development of AI and the dangers that will await us in the coming decades. We identify the forces behind the aspiration to create artificial intelligence, which is increasingly approaching the capabilities of the so-called general/universal AI, and also suggest desirable measures to limit and channel the development of artificial intelligence. The authors emphasize that the threats and dangers of the development of ICT and AI are partuclarly aggrevated by the monopolization of their development by the state, intelligence services, major corporations and those often referred to as globalists. The article forecasts the development of computers, ICT and AI in the coming decades, and also shows the changes in society that will be associated with them.
The study consists of two articles. The first, presented below, provides a brief historical overview and characterizes the current situation in the field of ICT and AI, it also analyzes the concepts of artificial intelligence, including generative AI, changes in the understanding of AI in connection with the emergence of the so-called large language models and related new types of AI programs (ChatGPT). The article discusses the serious problems and dangers associated with the rapid and uncontrolled development of artificial intelligence.
The second article, to be published in the next issue of the journal, describes and comments on current assessments of breakthroughs in the field of AI, analyzes various forecasts, and the authors give their own assessments and forecasts of future developments. Particular attention is given to the problems and dangers associated with the rapid and uncontrolled development of AI, the fact that achievements in the field of AI are becoming a powerful means of control over the population, imposing ideology and choice, influencing the results of elections, and a weapon for undermining security and geopolitical struggle.
Keywords: information and computer technologies, ICT, artificial intelligence, AI, large language models, LLM, cognitive science, self-managing systems, the Cybernetic Revolution, inforg, technological progress.
1. Развитие информационно-компьютерных технологий
Проблема ИИ в науке возникла не сегодня и даже не в 1950-е гг. Эта тема стала развиваться с конца XIX в. [см.: Романов 2012]. Однако в настоящей статье мы не ставим перед собой задачу описывать историю идей и первых шагов в этом направлении, хотя они и очень важны. Мы также не планируем представить историю развития ИКТ и ИИ. Главное внимание будет уделено их развитию в XXI в., особенно в последнее десятилетие, и на этой базе сделаны
некоторые важные выводы и прогнозы. Тем не менее очень кратко сказать о некоторых этапах развития ИКТ в XX столетии все же необходимо [подробнее см.: Гринин Л. Е. 2021а; 20216; Гринин Л. Е., Гринин А. Л. 20156].
1.1. Развитие ИКТ в ХХ столетии
Работа над прототипами компьютеров велась в годы Второй мировой войны в разных странах (Германии, Великобритании, США). Как известно, первый в США компьютер «Марк-1» появился (после трех лет доводок и испытаний) в 1944 г. и был расположен в стенах Гарвардского университета. Однако он работал на релейном принципе, то есть еще не был электронной машиной, как и изобретение К. Цузе1. Первой электронно-вычислительной машиной стала ЕМАС, созданная в 1946 г. под руководством конструкторов Дж. Маучли и Дж. Эккерта на основе электронных ламп. По сравнению с компьютером «Марк-1» ЕМАС работала более чем в тысячу раз быстрее. Работой отдельных блоков последней управлял задающий генератор, который распределял последовательность тактовых или синхронизирующих импульсов, «открывающих» и «закрывающих» соответствующие электронные блоки машины [Гуттер, Полунов 1981]. Работать над ним стали еще в годы войны, и именно военные потребности обеспечили возможность финансирования столь масштабного проекта. В 1940-1950-е гг. интенсивное усовершенствование ЭВМ происходило в США, Англии, СССР и других странах, что было по-прежнему связано с военными и другими государственными заказами, в том числе космическими. В 1960-е гг. ЭВМ стали повсеместным явлением, продолжая вызывать удивление общества. Но главный прорыв в виде массовой компьютеризации произошел несколько позже.
Одновременно с развитием компьютерной техники шла разработка программирования в разных странах. В 1950-1960-е гг. произошло значительное продвижение в области программирования, создания новых языков и уменьшения размеров ЭВМ. В конце 1960-х гг. появился даже прообраз Интернета, а именно: в 1969 г. была создана АИРАКЕТ - первая территориальная компьютерная
1 Считается, что первый в мире электромеханический компьютер был создан немцем Конрадом Цузе в 1940 г., он назывался 72. Позже Цузе пытался создать и некий прообраз электронного программированного компьютера. Релейные машины некоторое время в течение 1950-х гг. даже конкурировали (иногда не без успеха) с электронными [см., например: Апокин, Майстров 1990: 237].
информационная сеть, которая первоначально состояла из четырех компьютеров и объединяла Калифорнийский университет в Лос-Анджелесе, Калифорнийский университет в Санта-Барбаре, Стэн-фордский исследовательский центр и Университет Солт-Лейк-Сити в штате Юта. Именно данная концепция объединения сетей в дальнейшем переросла в Интернет. Но реально прообраз мировой сети был создан позже - в 1980-е гг. В частности, годом рождения сети Интернет считается 1982 г. (а иногда 1986 г., когда возникла К8БКЕТ - первая высокоскоростная компьютерная информационная сеть, на основе которой впоследствии был создан глобальный международный Интернет).
Таким образом начался переход к технологиям, в которых работа с информацией играет одну из главных ролей. Хотя такой переход стартовал еще в XIX - начале XX в., когда появились технологии, передающие информацию в чистом виде (такие как телеграф, телефон, радио, аудиоаппаратура, телевидение), это не была ведущая в смысле создания объемов производства техника. С появлением информации в чистом виде, которая смогла отделиться от своей прежде неразрывной связи с материалом (то есть появилась на небумажных носителях, а значит, возникла возможность запасать и хранить огромные объемы информации), и мощным развитием ИКТ сектор информационных услуг стал играть все более важную роль - особенно в пятом технологическом укладе, который продолжается и в настоящее время [Гринин 2021 б].
Основы нового технологического уклада готовятся в рамках старого, пока не сложатся в первичную систему, которая постепенно начинает служить основой производства. Компьютеры (а точнее, ЭВМ, именно вычислительные машины) были достаточно развиты в четвертом укладе, в самом его конце появились и персональные компьютеры [см.: Его же 2021а]. Однако именно ПК стали важнейшей частью пятого технологического уклада . С их появлением компьютер стал одним из самых массовых устройств, а их численность достигла нескольких миллиардов. Соответственно, эта массовая база явилась основой для развития всех остальных
2 Основой четвертого технологического уклада (1940-е-1970-е гг.) стали новая химия (химия искусственных материалов), автомобилестроение и некомпьютерная/неинтерактивная электроника (радио-, телетранзисторы и пр.), которая соединилась с автоматикой. Пятый технологический уклад (1980-е - 2020-е гг.) связан в первую очередь с развитием информационно-компьютерных, коммуникационных, финансовых, управляющих и дистанционных технологий.
направлений информационных технологий. В 1980-х гг. появился первый персональный компьютер, а затем и первый ноутбук. Это направление стало развиваться исключительно быстро, а число проданных ПК росло едва ли не в геометрической прогрессии.
В 1990-е гг. Интернет уже стал мощной системой. На базе его развития и прокладки коммуникаций для него возникло немало фирм, часть из которых оказалась похороненной в результате кризиса доткомов в 2001 г. Но Интернет распространялся с невиданной скоростью, а вместе с ним менялось очень многое, в том числе и формат торговли - как на биржевых рынках, так и в отношении товаров для населения.
Следующим мощным этапом в развитии интернет-технологий стало появление современного типа социальных сетей (само это понятие было разработано еще в 1950-е гг.). Прообразы таких сетей появились в 1990-е гг., а их бурное развитие произошло в 2000-е и 2010-е гг. Это позволило вовлечь в новые способы общения сотни миллионов людей, которые постепенно стали для многих операций заменять компьютеры другими гаджетами, особенно мобильными телефонами. Мобильный телефон (точнее, смартфон) и социальные сети сделали ряды пользователей массовыми с помощью новых видов коммуникаций, что позволило использовать данные этих людей для бизнеса, политических и специальных целей, включая разведывательные.
1.2. Развитие ИКТ в XXI столетии
Миниатюризация как важнейший тренд технологического прогресса. В начале 2010-х гг. произошло формирование нового «ядра» информационных технологий на основе перехода от микроэлектроники к наноэлектронике. Речь идет о стремительном уменьшении размера чипов для процессоров. Быстрота сокращения размеров в техпроцессе видна из следующих данных: 1970-е гг. -3 мкм (3000 нм; Zilog и Intel); 1980-е - начало 1990-х гг. - 0,8 мкм (800 нм; Intel и IBM); конец 1990-х - начало 2000-х гг. - 180- 130 нм (ряд компаний); начало 2010-х - техпроцесс в 45, 32, 28 нм (Intel и др.). В 2019 г. Intel выпустил процессоры на базе 10-нм техпроцесса (компания никак не могла наладить производство 7-нм чипов), а TSMC - чипсеты для мобильных девайсов на базе 7-нм техпроцесса (Apple A12, Kirin 980 и Snapdragon 855). При этом технологии производства у них заметно отличаются: Intel со своими 10 нм может размещать на одном квадратном миллиметре площади
до 100 млн транзисторов, а TSMC с 7 нм - лишь 66 млн. Соответственно, описанные процессы миниатюризации и увеличение мощности вычислительной техники, скорости электронной коммуникации привели к широчайшему распространению информационно-компьютерных технологий.
Затем компания AMD объявила о скором создании 5-нм процессоров. В сентябре 2022 г. был представлен мобильный процессор Apple A16, выпущенный по 4 нм. В последнее время анонсируют создание 3- и даже 2-нм чипов. В сентябре 2023 г. вышел iPhone 15 Pro с 3-нм техразмером. Идут разговоры о скором качественном прорыве в области процессоров. Однако возникает вопрос: можно ли благодаря такому снижению размерности добиться создания принципиально нового поколения компьютеров? Многие специалисты считают, что едва ли это произойдет. Дело в том, что, даже по оптимистическим предположениям, такие процессы будут обладать ненамного большей производительностью (до 15 %), особенно с учетом того, что дефицит чипов может серьезно затруднить развитие данных технологий3. Узкое «бутылочное горлышко», в которое пытаются проникнуть данные, перемещающиеся между накопителем и центральным процессором, потребляет большое количество энергии и вырабатывает много тепла, ограничивая дальнейшие усовершенствования [Хель 2015]. Становится понятно, что таким путем вряд ли удастся создать принципиально новое поколение компьютеров. Отсюда все больше информации о продвижении в области квантовых компьютеров, которые, если и появятся, то не так скоро.
Достаточно давно возникла идея хранить данные с помощью определенной среды (например, магнитной, электрической или оптической), а с появлением нанотехнологий становится возможным хранить информацию, например, путем замены кремния, который сегодня является основой при производстве полупроводниковых приборов, на другой материал, или с помощью углеродных нано-трубок4. В этом случае бит информации может храниться в виде
3 В сфере производства чипов, которое в последнее время оказалось в эпицентре геополитических интересов, могут возникнуть и другие проблемы, не говоря уже о чисто технологических, например дефиците пресной воды для производства, которое является крайне водозатратным. К примеру, в Тайване идет борьба производителей чипов и фермеров за воду.
4 В настоящее время в микроэлектронике идет переход от карбида кремния к нитриду галлия, но для описанного проекта этого явно будет недостаточно.
какого-то количества атомов. Это позволило бы на порядок уменьшить размеры процессоров и существенно увеличить скорость их работы. В настоящее время количество транзисторов в процессоре достигло десятков миллиардов, и существуют планы создать процессор с триллионами транзисторов [Moore 2021]. Однако есть сомнения в том, что эта технология сможет полностью заменить традиционные транзисторы.
Особым путем шло развитие отечественных процессоров «Эльбрус». Родившаяся в 1970-е гг. в Институте проблем информатики идея показала первые результаты уже в 1978 г. в виде суперкомпьютера «Эльбрус-1». Устройство вышло очень удачным, способность работать с миллионами операций в секунду потрясала воображение и намного превосходила западные аналоги. В 1991 г. из-за ухода из компании ведущего разработчика Владимира Пентковского производство и разработка технологий остановились. Однако спустя некоторое время компания МЦСТ, ставшая правопреемницей Института проблем информатики, продолжила создание отечественной микроэлектроники. Процессор сумел преодолеть путь с техпроцесса в 90 нм до 25 нм.
«Эльбрус» получил собственную оригинальную архитектуру, для полноценной работы с которой требуются тщательная подготовка и высокая специализация. Из-за этого, а также из-за нехватки финансирования развитие технологий существенно замедляется, однако «Эльбрусы» уже активно устанавливают в сервера отечественных компаний, также они являются инструментом контроля цифровой безопасности государственных и военных учреждений.
В 2012 г. была основана другая отечественная компания «Байкал Электроникс», выпускающая процессоры «Байкал». И хотя, в отличие от «Эльбруса», он не имеет собственной архитектуры, а использует уже существующую, разработчки смогли получить техпроцесс в 16 нм и даже недавно заявили о выпуске специальных процессоров для разработок искусственного интеллекта. К сожалению, из-за недостаточного внимания к этому направлению и недостаточного финансирования в настоящий момент оно развивается далеко не так интенсивно, как следовало бы.
Скорость развития. Еще в 1960-х гг. был сформулирован так называемый закон Мура, названного по имени сооснователя «Интела» Гордона Мура. Но его правильнее охарактеризовать как эм-
пирическое наблюдение, согласно которому мощность процессоров удваивается приблизительно каждые два года. Это эмпирическое наблюдение получило очень широкую популяризацию и формировало идею, что необходимо вписываться в данную тенденцию вычислительной индустрии, а для этого требовалось обеспечить приоритет нового полупроводникового узла в указанные временные рамки [Campbell 2021; Цветков 2017]. Это ускорило компьютерную гонку. Так или иначе, мощности компьютеров росли в геометрической прогрессии, приобретая удивительные возможности. Однако примерно с 2007-2010 гг. закон Мура уже не работает, так как тенденции где-то отстают от него, но где-то могут даже опережать [Zhang 2022; Kish 2002].
Если первый закон Мура говорит о непрерывном усложнении микросхем в течение определенного короткого времени (два года), то «второй закон Мура» Юджина Мейерана, сформулированный в 1998 г., утверждает, что стоимость фабрик по производству микросхем экспоненциально возрастает с усложнением производимых микросхем. И мы сегодня наблюдаем это в чудовищной монополизации производства чипов, что привело сначала к глубокому кризису, а затем и к «чиповой войне». В целом такой рост мощности и производительности привел к тому, что уровень ИКТ приблизился к границам, за которыми уже вырисовывается новый качественный рывок. Относительно того, когда он случится и в чем будет выражаться, существуют разные точки зрения. Появилось много новых информационных технологий, о которых мы еще поговорим ниже.
1.3. Идеи о компьютерах нового типа
Варианты новых подходов. Итак, развитие информационных технологий сейчас находится в преддверии создания нового типа компьютеров, принципиально превосходящих нынешние. Существуют разные идеи об основе таких прорывных технологий компьютеров будущего. Наиболее известны прогнозы о будущем квантовых компьютеров5. Если говорить очень упрощенно, то принципиальное отличие квантовых компьютеров от обычных состоит в технологии обработки информации. Обычные процессоры воспринимают информацию в двоичной системе, то есть данные принимают
5 Созданы уже десятки таких компьютеров, но существуют очень серьезные проблемы с ошибками в вычислениях. Впрочем, есть информация о продвижении в этом направлении [Ставицкий 2021].
значения в виде либо единицы, либо нуля. Квантовые машины производят вычисления, при которых информация может иметь значение одновременно и в виде единицы, и в виде нуля, вычисления идут не в обычных битах, а в так называемых кубитах. При этом кубиты, в отличие от битов, могут принимать различные значения одновременно, а в результате выполнять вычисления, которые обычный компьютер не способен совершить по своей природе [Байа е1 а1. 2005; УеМЬопЛ еГ а1. 2015].
Также были сообщения о попытках создать фотонный компьютер [Ученые... 2015]. Продолжает жить идея о нанокомпьютерах. Так, согласно Эрику Дрекслеру, их базой может стать именно на-номеханика, а не наноэлектроника. Он разработал механические конструкции для основных компонентов нанокомпьютера. Его главные компоненты могут выдвигаться из ядра и задвигаться назад, взаимозависимо фиксируя движения друг друга [Бгех1ег 1987; 1992; 2013; Балабанов 2010]. Есть информация о создании так называемого одноатомного компьютера, который, правда, работает при температуре, близкой к абсолютному нулю, но является значимым шагом на пути к созданию квантового компьютера6.
Перспективы. Предугадать, какой тип компьютера в будущем станет прорывным и ведущим, разумеется, крайне сложно. Но рано или поздно такой прорыв осуществится. Однако мы полагаем, что он осуществится не так скоро, как ожидают некоторые. Попробуем объяснить, почему. В настоящий момент для такого нового типа компьютера не находится массового рынка, к которому привыкли цифровые гиганты. Уровень развития наиболее массовых компьютеров вполне устраивает пользователей (если кого-то не устраивает персонально, то только потому, что эти люди не обновили свои мо-
6 Впервые удалось создать рабочий транзистор на базе одного атома. Для одноатомного транзистора, чтобы он мог использоваться в реальных устройствах, требуется расположение одного атома точно на кремниевом чипе. По данным журнала о нанотехнологиях «Nature Nanotechnology» [Fuechsle et al. 2012], именно этого и удалось достичь исследователям. Они использовали сканирующий туннельный микроскоп (устройство, которое позволяет исследователям видеть атомы и обеспечить точность манипуляций с ними) и проделали узкий канал в кремниевой базе. Затем был применен газ фосфин, с помощью которого отдельный атом фосфора поместили между двумя электродами в нужной области. Когда электрический ток проходит через такое устройство, оно усиливает и передает электрический сигнал, что и является основным принципом работы любого транзистора [Закон... 2015]. Но со времени приведенных публикаций не было данных о каких-либо новых продвижениях в этом направлении.
дели). Поэтому заменить их в своей массе на некие намного более производительные не представляется возможным каким-то иным способом, кроме как принудительно, но для этого нужно еще создать соответствующую инфраструктуру. Это тем более сложно с учетом того, что все большая часть людей предпочитает пользоваться мобильными телефонами. Последние еще имеют перспективы усиления мощности, а массово заменить их тоже можно только принудительно. Ведь новые аппараты будут явно намного (может быть, на порядок) дороже нынешних, и без того не слишком дешевых. Однако даже усилия государств по замене бензиновых автомобилей на электромобили пока не дают полноценного результата. Иными словами, остается только рынок государства и очень крупных корпораций, которые были бы рады заменить дорогостоящие суперкомпьютеры. Но это ограниченный рынок. Даже если бы компьютеры нового типа появились в течение десятилетия, их развитие было бы весьма ограниченным из-за узкого рынка, то есть они бы только готовили почву для того, чтобы когда-то стать основой нового технологического уклада. Но, с учетом того, что потребность в них даже у военных и в космической отрасли не сверхвысокая, их технологическое появление может задерживаться из-за недостаточного финансирования. Однако если гонка в области ИИ ускорится, усилия государств непосредственно или через прокси-фирмы (в том числе ведущих цифровых гигантов) могут ускорить разработку сверхбыстрых компьютеров нового типа. В этом случае опасности неконтролируемого использования ИИ возрастут в экспоненциальном масштабе.
Модели в рамках существующих технологий. Нейроморф-ные процессоры. Отметим интересные направления в рамках существующих технологий. Это, в частности, нейроморфные процессоры, создаваемые на стыке биологии, физики, математики, информатики и полупроводникового производства, которые строятся из привычных транзисторов, но с иной организацией архитектуры, подобной строению нейронов биологического мозга. По аналогии с биологическим образцом искусственный нейрон имеет один выход (аксон), сигнал с которого может поступать на большое количество входов других нейронов и тем самым изменять их состояние. Энтузиасты считают, что нейроморфные процессоры представляют собой одну из самых перспективных разработок в области вычислительной техники. Сегодня они лишь формируют новую модель программируемых вычислений, однако предполагается, что уже в бли-
жайшем будущем они не только значительно ускорят выполнение трудоемких вычислительных задач с минимальным энергопотреблением, но и откроют человечеству новые гармоничные аспекты цифрового образа жизни, подсмотренные в живой природе. Нейро-морфные процессоры имеют все шансы со временем расширить и дополнить возможности современных процессоров с помощью новых технологий, которые позволят компьютерам будущего функционировать, адаптироваться и обучаться с помощью алгоритмов, напоминающих образ мышления человека [ТЬакиг е1 а1. 2018; Сандомир-ская 2021]. Мы совершенно не исключаем, что такое блестящее будущее возможно, хотя есть существенные сомнения, что нейро-морфные процессоры смогут стать столь же массовыми, как нынешние, поскольку они все же предназначены для относительно ограниченного круга пользователей.
Как бы то ни было, развитие принципиально новых типов процессоров идет, и можно предполагать, что в более или менее обозримом будущем они появятся. Но на такой мощной базе опасности злоупотребления ИИ многократно возрастут, поэтому необходимо заранее подумать об ограничениях и канализации таких технологий.
2. Искусственный интеллект: общие характеристики
Таким образом, за последние несколько лет информационно-коммуникационные технологии явно перешли на более высокий уровень, который условно можно назвать уровнем искусственного интеллекта. Хотя это понятие достаточно расплывчато, а ИИ используется уже давно, в настоящее время его возможности значительно расширились благодаря различным новым технологиям (нейронные сети, удаленный контакт, лингвистические системы, системы распознавания лиц, контроль движения, определение индивидуальных предпочтений, машинное обучение, глубинное обучение и т. д.). Более того, в последнее время (в том числе во время локдауна в разгар эпидемии СОУГО-19 и в связи с ним) искусственный интеллект все чаще использовался, чтобы воздействовать на социальные, контрольно-надзорные и даже административные отношения [Ойшп et а1. 2021].
Считается, что мы живем в эпоху третьей волны интереса к ИИ. До этого отмечались две волны: первая (1950-1960 гг.) связана с работами по машинному переводу и игровым программам, вторая (1980-е гг.) - с развитием экспертных систем. Третья (с конца
1990-х гг.) обусловлена не только возросшей производительностью компьютеров, но и существенным продвижением по многим направлениям в области ИИ [Пройдаков 2016: 121]. Вероятно, с 2023 г. можно уже говорить о четвертой волне интереса к ИИ.
В начале 2010-х гг. была сформулирована концепция четырех основных движущих сил на рынке ИКТ: социальные сети, мобильные решения, «облачные вычисления» и средства обработки больших объемов информации [Белоусов 2016: 22]. Соответственно, с этого времени интерес к ИИ значительно возрос. Приобрела вполне материальную реальность идея: кто владеет искусственным интеллектом, тот владеет миром. В связи с новыми типами ИИ (такими как ChatGPT) это все более обретает судьбоносный для мира смысл. Гонка в области ИИ ускоряется. Сфера влияния искусственного интеллекта быстро расширяется. Вот один из перечней интеллектуальных областей, или отраслей ИИ (скорее областей мышления): логический ИИ; поиск; распознавание образов; представление; умозаключение; знания и рассуждения на основе здравого смысла; обучение через опыт; планирование; эпистемология; онтология; эвристика; генетическое программирование [McCarthy 2007; см. также: Idem 1990; 2000; Mitchell 1997; Shanahan 1997; Thomason 2003].
Однако этот перечень, неполный и на момент его составления, быстро дополняется за счет общих областей деятельности (даже если они еще не выделились в направления): ведение диалогов и переписка на самые разные темы; подражание искусству (живопись, композиторство, поэзия и пр.); компиляция различных текстов; подборка необходимых материалов; составление прогнозов и др.
Искусственный интеллект иногда кратко определяется как способность машин решать мыслительные, творческие задачи, которые прежде считались прерогативой людей, как их обладание характеристиками, которые мы связываем с интеллектом в поведении человека - понимание языка, обучение, рассуждения, решение проблем и т. д. [The Handbook... 1981: 3]. Однако определений ИИ довольно много7. Считается, что есть три направления в его опре-
7 Помимо определений, в которых ИИ рассматривается как теория или область исследования. Последняя была основана в качестве академической дисциплины в 1956 г. [Сгеу1ег 1993]. В этом случае ИИ выступает как особая теория машин, точнее, как теория умных машин. В определении, введенном в начале
делениях: 1) подчеркивающее похожесть ИИ на человеческий интеллект по результатам действий (в частности возможность ведения ИИ диалога, что мы сегодня наблюдаем во многих программах и в ботах); 2) упор на то, что программы ИИ способны к обучению и саморазвитию (нейронные сети, глубокое обучение и т. п.); 3) определение ИИ как программно-аппаратного комплекса, в той или иной степени способного к решению задач и принятию решений (чаще к оказанию помощи в их принятии), а также к овладению другими интеллектуальными функциями.
ИИ рассматривают в двух аспектах: широком и узком. Искусственный интеллект как работающая программа, заменяющая человека в тех или иных направлениях, - это ИИ в узком смысле. Потому обычный ИИ, которым мы пользуемся, называют слабым или узким. Но есть и понятие ИИ в широком смысле, которым обозначается общий искусственный интеллект. Последний в традиции философии искусственного интеллекта также называют сильным, широким или универсальным8. Это различие возникло в теории много десятилетий назад. Общий ИИ - это система (машина, см. ниже), способная понимать окружающую среду и мир в целом так же, как человек, и обладающая таким же потенциалом, чтобы научиться выполнять широкий спектр работ. Одно из определений общего искусственного интеллекта (а их много) - это гипотетический разумный агент, способный понять или научиться любой интеллектуальной задаче, которую могут понять/выполнить люди или животные. Более точное, на наш взгляд, определение: он способен выполнять большинство задач, на которые способен человек [Шу-михин 2021; Тьюринг 2018].
Важно иметь в виду, что общего искусственного интеллекта еще не существует, это гипотеза. В компьютерной теории и индустрии идут активные дебаты о том, как его создать и возможно ли это вообще [Gates 2023]. Несмотря на алармистские, порой ис-
1980-х гг. специалистами в области теории вычислительных систем Авроном Барром и Эдвардом Фейгенбаумом, технология/наука достаточно четко отделяется от систем, использующих эту технологию: «Искусственный интеллект (ИИ) - это часть компьютерной науки, занимающаяся проектированием интеллектуальных компьютерных систем, то есть систем, обладающих характеристиками, которые мы связываем с интеллектом в поведении человека - понимание языка, обучение, рассуждения, решение проблем и т. д.» [The Handbook. 1981: 3].
8 В английской терминологии узкий ИИ - Artificial Narrow Intelligence, ANI, Narrow AI; общий ИИ - Artificial General Intelligence, AGI, Strong AI.
теричные или сделанные явно с целью шокирования, эпатажа публики высказывания и прогнозы, до создания такого общего ИИ еще далеко.
Стоит привести характеристики общего ИИ. Он взяты из [Что такое... 2023] с некоторыми нашими комментариями. В систему общего искусственного интеллекта должны быть включены: а) абстрактное рассуждение; б) предвидение; в) практическая мудрость; г) причинно-следственная связь; д) трансфертное обучение9. Встретить человека, который умеет абстрактно рассуждать, предвидеть, иметь практическую мудрость, очень непросто, и тем сложнее будет наделить этим ИИ. Другие ключевые черты будут включать:
Геопространственное восприятие и навигацию. Современная глобальная система определения местонахождения (GPS) способна определять географические местоположения. Когда общий ИИ полностью созреет, он будет превосходить существующие системы в прогнозировании движения в физических областях. Отметим, что в области геолокации сегодня достигнуты большие успехи, следовательно, можно говорить о практическом наличии этой черты.
Понимание трехмерных изображений и цвета. Общий ИИ добьется успеха в субъективной форме восприятия, то есть в распознавании цвета. Он также сможет различать размер и глубину двухмерных изображений.
Обучение и творчество. Теоретически система общего ИИ сможет читать и интерпретировать созданный человеком код и дополнять его. Это значит, что по мере развития ИИ спрос на услуги программистов в отношении не слишком сложного кода и задач будет падать.
Контекстное понимание языка. Понимание человеческого языка в значительной степени зависит от контекста. Системы AGI будут наделены интуицией, необходимой для понимания естественных языков. Развить интуицию, очевидно, будет крайне сложно.
Двигательные навыки. Например, для извлечения ключей из кармана, что требует творческого восприятия. Иными словами, общим ИИ в итоге должен обладать робот. То есть общий ИИ - это не только система, но и машина.
9 Трансфертное обучение позволяет использовать знания, полученные при решении одной проблемы, и применять их к специальной, но связанной с ней проблеме.
Принятие решений. Общий искусственный интеллект действительно будет способен создавать заданные структуры для всех задач, понимать системы ценностей и использовать разные виды данных всевозможными способами. Это, конечно, наиболее сложное направление в его развитии.
Современные формы искусственного интеллекта часто называют генеративным ИИ (Generative artificial intelligence)10. Это такой тип искусственного интеллекта, который может создавать (генерировать, отсюда и генеративный) новое содержание, формулировать идеи, вести диалоги, создавать произведения, истории, изображения, видео и музыку, а также редактировать фото, видео и пр. Любой искусственный интеллект основан на моделях машинного обучения, предварительно обученных на больших объемах данных и обычно называемых базовыми моделями (foundation models, FM).
Базовые модели современных ИИ, такие как модели GPT, обычно называют большими языковыми моделями (large linguistic models, LLM). Они специально ориентированы на выполнение языковых задач, включая создание (генерацию) текстов, информации, блогов, диалогов, извлечение информации. Очевидно, что большие языковые модели могут выполнять гораздо больше задач, поскольку содержат огромное количество параметров, которые позволяют им изучать сложные концепции. Это и неудивительно - ведь их «тренирует» на суперкомпьютерах стоимостью в миллиард долларов или более многочисленная команда высококлассных программистов и других специалистов, включая психологов и социологов. Большие языковые модели учатся применять свои знания в самых разных контекстах. Для их обучения используют неимоверные объемы информации в самых разных областях. Нередко понятия ИИ (особенно генеративного), нейросети и большой языковой модели употребляются как синонимы.
Как уже было сказано выше, относительно достижения уровня общего, или универсального, искусственного интеллекта пока принципиально не ясно, реальность это или лишь абстракция. Но с появлением самых современных больших языковых моделей и основанных на них ИИ типа ChatGPT оказалось, что неожиданно для очень многих специалистов (не говоря уже о простых людях) мы подошли к рубежу создания универсального ИИ гораздо ближе,
10 GPT в названии ChatGPT означает Generative pre-trained transformer.
чем казалось возможным еще недавно [см., например: Шумихин 2021]. Правда, нужно иметь в виду, что такое ускорение происходит во многом потому, что в это направление инвестируются гигантские средства (и оно всемерно поощряется правительственными и силовыми структурами). Повторим: скорость развития новых чатов во многом связана с тем, что программисты «тренируют» искусственный интеллект с помощью суперкомпьютеров и огромной команды, которая обучает большие языковые модели. Например, компания Tesla намерена потратить более 1 млрд долларов на суперкомпьютер Dojo для обучения ИИ на беспилотных автомобилях.
Является ли скачок в развитии ИИ наиболее значимым прорывом в технологии после графического интерфейса пользователя, как считает Билл Гейтс [Gates 2023], или он все же менее важен, покажет время. Но уже сейчас можно сказать, что это серьезное изменение, все риски которого надо не просто указывать, но и довольно быстро создать систему, уменьшающую и нивелирующую их.
Однако вместо делового подхода многие философствующие исследователи искусственного интеллекта стали разрабатывать идеи, близкие к научной (или ненаучной) фантастике. Один из пионеров в области ИИ Терри Сейновски в своем выступлении «ChatGPT и говорящая собака» на YouTube [Chat... 2023] суммирует новейшие подходы к ИИ современного уровня следующим образом.
Что такое ИИ больших языковых моделей:
1. Ничего не понимающий стохастический попугай, имитирующий человеческий интеллект, перебирая и комбинируя осколки осмысленных текстов людей?
2. Соперник человеческого разума, способный его превзойти?
3. «Интеллект инопланетянина» с иными (нечеловеческими) механизмами мышления и понимания, позволяющими решать интеллектуальные задачи, не имея картины мира, исключительно за счет обладания гигантской информационной емкостью и вычислительной производительностью?
Сейновски дает собственный довольно развернутый ответ, исходя из того, что сама постановка вопроса об интеллекте некой самостоятельной сущности (LLM или человека) неверна11. Но в на-
11 При создании этой статьи нам очень помогла информация авторского теле-грам-канала Сергея Карелова [Малоизвестное...].
стоящей статье не имеет смысла подробно разбирать его философию. Отметим, что в области развития ИИ было и есть очень много выдающихся людей. Говорить о них подробно в рамках данной работы нет возможности, но все же дадим краткую справку о некоторых из многих.
1. Фрэнк Розенблатт (США, 1928-1971) - ученый, создавший первую рабочую нейросеть. Он был человеком редкого склада ума, что позволило ему стать специалистом сразу в нескольких отраслях, таких как нейрофизиология и технические науки (но не только). Ф. Розенблатт посвящал время изучению поведения мозга и попыткам воссоздать похожие возможности у компьютера. В 1957 г. им была создана первая нейронная сеть перцептрон, а спустя три года - построенный на принципах ее работы первый нейрокомпьютер. Способности компьютера использовались, например, для предсказаний прогноза погоды. Однако позже его труды подверглись резкой критике со стороны видных коллег. В связи с трагической смертью Розенблатта она так и не была опровергнута, и исследования в данном направлении прекратились на долгое время.
2. Джон Хопфилд (США, род. 1933) - ученый-физик; среди его многих заслуг создание в 1982 г. математической модели так называемой сети Хопфилда, которая в связи с ее относительной простотой является наиболее распространенной в технических науках. Сеть Хопфилда представляет собой математическое представление человеческой памяти и, соответственно, является частью систем компьютерной памяти. Ученый продолжает развивать ее: так, в 2016 г. были произведены значительные изменения, а с 2020 г. начали работать модели с большим количеством памяти, впоследствии названные «современными сетями Хопфилда».
3. Ян Лекун (Франция, род. 1960) считается одним из трех «крестных отцов искусственного интеллекта» (наряду с Йошуа Бенжио и Джеффри Хинтоном, см. ниже), это человек, сделавший очень много для машинного обучения. Является создателем одного из основных типов нейронных сетей -сверточных. Среди главных заслуг ученого - разработка «компьютерного зрения», способности машин воспринимать и понимать изображения. Так, например, с его помощью был создан аппарат, распознающий чеки, которое долгое время был востребован в США.
4. Йошуа Бенжио (Канада, род. 1964) - второй из тройки «крестных отцов искусственного интеллекта», один из самых цитируемых ученых в области компьютерных наук. Известен своими работами по глубинному обучению и искусственным сетям, на основе которых строятся многие современные концепции и технологии.
5. Джеффри Хинтон (Великобритания, род. 1947) - последний из тройки «крестных отцов искусственного интеллекта», человек, популяризировавший алгоритмы для обучения многослойных нейронных сетей. Также является одним из создателей машины Больцмана - сети, являющейся вариантом сети Хопфилда и первой нейронной сетью, способной решать сложные комбинаторные задачи. Помимо прочего, Хинтон - один из разработчиков нейронной сети А1ех№1, оказавшей огромное влияние на разработку алгоритмов «компьютерного зрения» и машинного обучения в целом.
Способность к решениям. Исследователи [см., например: Згу-ровский, Зайченко 2013] отмечают следующие возможности ИИ (по сравнению с ИКТ предшествующих уровней):
1) наличие цели или группы целей функционирования;
2) способность планирования своих действий и поиск решений задач;
3) способность к обучению и адаптации поведения в процессе работы;
4) способность работать в плохо формализованной среде, в условиях неопределенности, с нечеткими инструкциями;
5) способность к самоорганизации и саморазвитию;
6) способность понимать тексты на естественном языке;
7) способность к обобщению и абстрагированию накопленной информации.
Таким образом, ИИ действительно способен принимать решения. И существует целый ряд сфер, где человек фактически уже доверил ИКТ и их алгоритмам принимать за себя не рекомендательные, а фактически окончательные решения (это алгоритмическая торговля на финансовых рынках; сбор некоторых юридических доказательств с использованием видео- и инфракрасных камер, чьи данные принимаются судом; распознавание содержимого багажа и даже лиц на пограничном контроле; принятие решений о предоставлении кредита в соответствии с алгоритмической оценкой кредитоспособности по косвенным признакам и др.). Это прежде всего области, в которых объем информации и необходи-
мая скорость ее обработки слишком велики для человека. И число таких сфер, разумеется, будет расти. Но все же в большинстве случаев не только сегодня, но и в дальнейшем, надеемся, ИИ будет главным образом помогать в принятии решений либо являться частью комплекса для принятия решений, встроенного в различные более сложные и технологически интегрирующие области. В противном случае, если полностью передоверить принятие решений ИИ, в обществе возникнут большие проблемы, которые уже сегодня просматриваются, например, во взаимоотношениях клиентов с банками.
Таким образом, в целом информационные технологии и искусственный интеллект стали вездесущими, фактически они присутствуют в большинстве сфер. И по мере развития ИИ ситуация стремительно движется к тому, что, фигурально говоря, искусственный интеллект станет обязательным блоком многих систем. Тогда этот блок ИИ можно будет интегрировать в той или иной комплектации (от примитивной до очень сложной) в более или менее сложные схемы в зависимости от особенностей технических и иных задач. Примерно так, как, скажем, сегодня мы можем нарастить нужный объем памяти в компьютере или усилить видеокарту (подробнее см.: Гринин Л. Е., Гринин А. Л. 2021).
В этой связи полезно определить место ИИ в мире само-
12
управляемых систем , в котором мы уже живем и в котором нам предстоит жить дальше (в процессе того, что мы называем кибернетической революцией [см.: Гринин Л. Е., Гринин А. Л. 2015а; 2015б]). Мы бы определили искусственный интеллект в этом плане так: это особая универсальная технология (и практическая область реализации теории), которая является (почти) неотъемлемой частью самоуправляемых систем, как электродвигатель в электрических машинах или двигатель внутреннего сгорания (ДВС) в автомобилях, тракторах и других машинах. Сотни и тысячи различных машин основаны на ИИ. Но так же, как двигатель внутреннего сгорания или электродвигатель определяет принцип работы не всех машин, так
12 Самоуправляемые системы - это системы разной природы (чисто технические, как роботы, самоуправляемые автомобили; био- и нанотехнические, в том числе самоочистительные, физиологические - вроде искусственных органов, генетические, запускающие/блокирующие те или иные программы организма), способные функционировать, принимая порой сложные решения, в основном без вмешательства человека. Сегодня уже немало примеров таких систем, но в будущем они станут доминирующими.
и ИИ определяет функции и принцип работы не всех саморегулируемых систем, а только значительной их части (есть самоуправляемые медицинские, физиологические, биотехнологические, генетические и прочие системы).
Ограничения. Бурное развитие технологий ИИ, безусловно, требует различных ограничительных мер, которые, к сожалению, сильно запаздывают. Тем не менее кое-что все же делается. Например, в 2021 г. ЮНЕСКО после нескольких лет подготовки приняла рекомендации об этических аспектах искусственного интеллекта [ЮНЕСКО 2021]. В целом это полезный документ, который гласит, что необходимо обеспечить универсальную рамочную основу в виде ценностных установок, принципов деятельности и механизмов, которыми государства руководствовались бы при разработке своих законов, стратегий и других документов, касающихся ИИ, в соответствии с нормами международного права. При этом права человека и основные свободы должны уважаться, защищаться и поощряться на всем протяжении жизненного цикла систем на основе ИИ. Но, разумеется, этот документ остается чистой декларацией, соблюдать которую никто не собирается.
7 октября 2022 г. Управление по научно-технической политике (OSTP) Белого дома выпустило пять положений, которыми следует руководствоваться при разработке, использовании и внедрении автоматизированных систем. «Билль о правах искусственного интеллекта» представляет собой набор из пяти принципов и связанных с ними практик, призванных помочь в разработке, использовании и внедрении автоматизированных систем для защиты прав американской общественности в эпоху искусственного интеллекта [The White House 2022]. Но этого, разумеется, крайне недостаточно, особенно с учетом того, что правительственные структуры (включая разведки) сами активно нарушают и продолжат нарушать эти принципы.
В конце июля 2023 г., вскоре после появления ChatGPT и других подобных генеративных ИИ, Совет Безопасности ООН провел заседание на тему «Искусственный интеллект: возможности и риски для международного мира и безопасности». На нем Генеральный секретарь ООН поддержал призывы ряда стран-членов к созданию в рамках всемирной организации нового органа по вопросам ИИ, который бы способствовал устранению будущих угроз, а также установлению и реализации выработанных на международном уровне механизмов мониторинга и контроля. Конечно, такой орган будет полезен. Но с учетом того, что наиболее сильные
государства стремятся максимально использовать генеративный ИИ для контроля, разведки и военных целей, его возможности на фоне секретности и возрастающей конкуренции государств в плане максимально быстрого создания все новых и более мощных ИИ, очевидно, будут невелики. О том, что разные страны стремятся использовать рост могущества ИИ в политических целях, свидетельствует, в частности, заявление главы британского МИД об искусственном интеллекте, который должен поддерживать свободу и демократию (что на практике означает - использоваться в борьбе против геополитических соперников). В рамках Совбеза ООН также было объявлено о первом глобальном саммите, посвященном безопасности и регулированию технологии искусственного интеллекта. Он должен пройти в Великобритании осенью 2023 г. И это также показывает, что Большая семерка (G-7) стремится объединить свои усилия в плане контроля над растущим генеративным ИИ.
В то же время существуют могущественные силы, которые хотели бы использовать ИИ не просто для поддержания своих выгод, но для того, чтобы радикально переформатировать общество, поставить его под полный контроль и подорвать возможность всякой оппозиции. Недаром гуру высоких технологий и «пророки» Силиконовой долины создают новый универсальный нарратив, который узаконивает власть алгоритмов и Big Data. В результате они смогут наделить властью «Большого брата», предоставив алгоритмам право принимать самые важные решения в жизни людей. Эта цель -отобрать у человека право принимать самые важные (и не только) решения в своей жизни и передать его искусственному интеллекту (см. философское эссе с описанием и апологетикой такой идеологии: [Harari 2016]) - и является мечтой глобалистов, политиков и финансовых воротил. Но «передать это право ИИ» в реальности означает, что данная группа сверхмогущественных людей стремится узурпировать право навязывать человечеству свои цели.
3. Искусственный интеллект и виртуальная реальность
Несмотря на большие успехи в развитии ИКТ и ИИ, нельзя не отметить, что рынок для их развития стал расти значительно медленнее, чем раньше (что, кстати, дополнительно объясняет поворот цифровых гигантов в направлении развития генеративного ИИ). Причины замедления развития рынка вполне понятны, поскольку в настоящее время и компьютерами, и телефонами, и Интернетом охвачена огромная, пожалуй, даже большая часть человечества. С одной стороны, как мы видели, новые технологии ИИ активно поддерживают и финансируют государства и их структуры, кото-
рые становятся едва ли не главными заказчиками, и здесь создаются гигантские по масштабам и вовлеченным ресурсам проекты. Но с другой - каких-то прорывных направлений, которые бы сравнились с массовым развитием технологий в предшествующий период, нет13. Идея с Интернетом вещей не оправдалась в нужном объеме, развитие самоуправляемых автомобилей значительно замедлилось и т. д. В целом это вполне укладывается в нашу концепцию, что в период модернизационной фазы кибернетической революции, в конце которой мы сейчас находимся, происходит мощное распространение значительно улучшенных базовых технологий, основы которых были созданы ранее, а вновь появившиеся технологии уже не выглядят столь прорывными. В то же время эти улучшенные и существенно изменившиеся технологии охватывают уже все общество и пытаются полностью его перестроить. Также на этой фазе начинают чувствоваться ограничения, кризисные моменты и готовятся основы для нового технологического рывка (подробнее см.: Гринин Л. Е., Гринин А. Л. 2015а; 2015б).
В этой связи цифровые гиганты стремятся внедриться в самые разные сферы (в том числе в медицину, см. об этом ниже), а кроме того, создать новые направления. Измененная и дополненная реальность относится к этим направлениям. Наиболее акцентированной попыткой повернуть в направлении искусственной реальности было преобразование Facebook в Meta14. Проходила информация о довольно масштабных сделках в рамках искусственной реальности, в частности о «земельном аукционе» и продаже цифровых картин, подлинники которых художник обязался уничтожить15. Высказанная несколько лет назад идея о том, что мы стоим на пороге новой технологической революции, когда бизнес будет мигрировать из физического мира в виртуальный, пока зримо не проявила себя, но тем не менее такая тенденция постепенно намечается. Насколько масштабной она будет, пока сказать трудно. Но возможности для изменения многого, включая облик человека, который
13 Вполне вероятно, что чаты нового типа будут прорывным направлением, но стать продаваемым товаром для широкого круга покупателей они вряд ли смогут. Недаром по крайней мере часть услуг ChatGPT и ему подобных оказывается бесплатно.
14 Компания признана экстремистской в России, ее деятельность на территории страны запрещена.
15 Но в целом эта технология пока не имеет особого успеха. Как пишет «The Nation», Meta-вселенная потерпела крах: при инвестициях в несколько миллиардов долларов их рекордный суточный онлайн не превышал 40 человек, а заработать за все это время удалось лишь около 500 долларов [Wagner 2023].
в информационном пространстве имеет сейчас возможность менять не только прическу, макияж и внешний вид, но также и голос, постоянно растут. Не случайно в одном из недавних прогнозов Gartner говорится: развитие ИИ в направлении создания гиперреалистичной реальности ведет к тому, что люди перестанут верить собственным глазам, начинается переход к миру нулевого доверия (это также касается возможностей вышеупомянутого ChatGPT и ему подобных). Никому и ничему в этом мире нельзя будет доверять, не увидев подтверждение в виде криптографической цифровой подписи. Не исключено и даже вполне вероятно, что к людям-мошенникам добавятся боты-мошенники16. Существует масса возможностей для выгодного использования технологий обмана. В частности, если чаты будут давать советы по инвестициям (а уже сейчас трейдеры начинают их запрашивать), то легко представить, как можно будет манипулировать настроениями инвесторов.
Усложнить ситуацию могут и IT-клоны умерших или реальных людей. Южнокорейская компания DeepBrain AI предлагает свою программу «Память» (Rememory) для создания IT-клонов. Это может быть цифровая копия человека при жизни, которая создается в результате длительного контакта (для чего нужно общение с клиентом до семи часов), чтобы нейросеть могла изучить его привычки, характер, зафиксировать внешние данные, манеру общения и голос. Либо уже после смерти создается цифровая копия на основе фото и видео, а также небольшого интервью с родственниками человека. После этого близкие умершего могут иметь с ним своего рода IT-спиритический сеанс. Но стоимость процедуры высокая. Электронная копия будет стоить от 12 до 24 тыс. долларов; каждая беседа -порядка 1200 долларов [Coupeau 2023].
Таким образом, искусственный интеллект может заметно поменять отношение людей к жизни и смерти, поскольку ушедшие люди будут иметь возможность продолжать «жить» среди нас и общаться посредством своей копии. Их образы за счет ИИ смогут даже обучаться, узнавать новые факты и новости, что усилит иллюзию присутствия живого человека. Вероятно, для многих сам факт потери близких станет менее трагическим. Но это способно привести к дополнительным проблемам расстройства сознания у особо
16 С некоторого времени начали разрабатывать бот-переговорщик, который умеет врать и торговаться с людьми. Как пишет Quartz, в ходе обучения система использовала более 5,8 тыс. реальных человеческих диалогов в ходе переговоров, собранных при помощи краудсорсинговой онлайн-платформы Amazon Mechanical Turk [Корнев 2017].
впечатлительных людей и новым психологическим и социальным проблемам. Распространенность цифровых копий будет возрастать, хотя и не стремительно.
На наш взгляд, едва ли развитие технологий искусственной реальности станет столь же прорывным направлением, как мобильные телефоны, позволившие вести разговор из любой точки мира, или полностью перевернувшие понимание людей о возможностях технологий смартфоны, с помощью которых из любой точки мира можно делать буквально что угодно. Но феномен искусственной реальности в плане экономики слишком слаб по сравнению с телефонами, поскольку ее потребительские свойства весьма специфичны и предназначены только для богатых бездельников. Но в целом такое движение, конечно же, может существенно изменить некоторые отношения и вещи. Не исключено, что искусственную реальность будут активно развивать (если уже не развивают) тайные и военные ведомства с целью дезинформации противника.
Более серьезным направлением становятся криптоденьги; в этот сектор государства также стали активно инвестировать и внедряться. Но это особая тема [подробнее см.: Гринин 2021в]. Смена вида денег и финансов, а вместе с этим коренные изменения в финансовой сфере, включая вымывание или даже уничтожение современных финансовых агентов (в том числе банков), изменение взаимоотношений между финансовыми властями и населением - все это может привести к непредсказуемым последствиям. В том числе и в плане подрыва гегемонии доллара, когда и если криптовалюты смогут когда-нибудь стать мировым эквивалентом драгоценных металлов, одинаково принимаемых во все уголках Земли.
4. ИИ и сфера здоровья
Как уже было сказано выше, цифровые компании активно проникают в различные сферы, и одним из самых важных направлений является сфера здоровья. Речь пойдет о медицине не только в узком смысле слова как области, где лечат и реабилитируют, но и в целом как о сфере контроля и самоконтроля здоровья, образа жизни и процесса жизнедеятельности, мониторинге состояния, прогнозировании, диагностике и проч. Создаются разнообразные устройства, часы, браслеты и т. п., которые отслеживают пульс и различные биоритмы, активность человека (например, какое расстояние, с какой скоростью, по какой траектории он прошел) и многое другое.
Более того, предпринимаются все более активные попытки отслеживать и контролировать местонахождение человека, звонки,
сообщения, контакты, активность, сон, вождение и т. п. Идет работа в направлении отслеживания эмоций человека и стремления ограничивать их проявления. Сама технология напоминает знаменитый детектор лжи, так как ИИ, определяя эмоции, ориентируется на дыхание и сердцебиение человека. Но теперь вместо датчиков на теле используются обычные радиоволны, а может применяться и сигнал Wi-Fi. Это значит, что в обозримом будущем не только будет невозможно скрыть свои чувства от невидимого соглядатая, спрятавшегося в беспроводной сети, но искусственный интеллект начнет учить нас, как себя вести. Прообразы уже создаются. «Хозяин, не горячись, возьми себя в руки», - сообщает новый носимый девайс, вибрируя или сжимая запястье. Разработка призвана помочь людям, которым трудно контролировать свои эмоции [Глянцев 2019; 2021].
Такого рода вещи на первый взгляд кажутся вполне разумными и способными облегчить жизнь, помочь в сохранении здоровья. В самом деле, что можно возразить против предложения определять эмоциональное выгорание по ритму сердца с помощью программного обеспечения? Эмоциональное выгорание - реальный психологический синдром, вызванный постоянным стрессом, бич XXI века, считают авторы разработки. Ранняя его диагностика позволяет предотвратить переутомление, стресс, депрессию, нервозность, агрессию. Исследователи отмечают, что этот метод также можно применять при комплексном лечении психических нарушений и головной боли [Мурая 2022]. Разумеется, это действительно может стать хорошим способом контролировать себя, если останется на уровне добровольного применения, а данные не будут использованы третьими лицами или «слиты» для навязывания разного рода товаров и услуг. Сейчас, конечно, всякого рода девайсы и умные вещи являются добровольным выбором, но все мы видели, как добровольность оказывается сначала добровольно-обязательной, а потом и принудительной. Сегодня без мобильного телефона человек абсолютно бесправен и порой чувствует себя хуже, чем без паспорта: не может даже разблокировать счет в банке, зайти на свой акка-унт и т. п. Мы уже практически не можем жить без Wi-Fi. Однако мало кто знает, что уже довольно долго посредством этих волн развивается технология пассивной визуализации, то есть получения изображения помещений и людей. Недавно удалось добиться весьма высокого разрешения изображений при использовании коммерческих сигналов Wi-Fi с помощью формирования луча [MR. E 2023].
Изображение похоже на сделанное с помощью инфракрасных лучей. Все передвижения человека в комнате вполне различимы. То есть теперь за нами могут постоянно следить через Wi-Fi.
Итак, сегодня наблюдается явный сдвиг в области применения ИИ в медицине и в целом в сфере образа жизни и жизнедеятельности человека, его здоровья и качества биологической жизни. И данный тренд будет усиливаться17. Таким образом, создаются ранние предпосылки того, что мы называем системой техно-медико-биологического окружения, призванной создать своего рода искусственную среду постоянного мониторинга состояния людей, которая в полной мере заработает, как мы предполагаем, через несколько десятилетий. Наконец, крайне важно, чтобы этот тренд как можно меньше ограничивал права и свободы человека (см. об этом: Гринин и др. 2023; Grinin etal. 2023).
Литература
Апокин И. А., Майстров Л. Е. История вычислительной техники. От простейших счетных приспособлений до сложных релейных систем. М. : Наука, 1990.
Баграев Н. Т. Перспективы развития квантовых вычислений. Доклад на Втором международном семинаре «Базисные технологии первой половины XXI века (структурно-циклический анализ). 1-2 октября. СПб. : СПбПУ им. Петра Великого, 2015.
Балабанов В. И. Нанотехнологии: правда и вымысел. M. : Эксмо, 2010.
Белоусов Д. Смена технологического уклада: новые форматы бизнеса, государства и общества // Вызов 2035 / сост. В. В. Буров. М. : Олимп-Бизнес, 2016. С. 17-41.
Глянцев А. Новый браслет считывает эмоции владельца. 2019 [Электронный ресурс]. URL: https://smotrim.ru/article/1216271 (дата обращения: 30.08.2023).
Глянцев А. Большой брат: наши эмоции будут отслеживать с помощью Wi-Fi. 2021 [Электронный ресурс]. URL: https://smotrim.ru/article/ 2519509 (дата обращения: 30.08.2023).
17 Характерно, что даже такая вероятная технология будущего, как квантовый компьютер, который будет способен на порядки превосходить по быстродействию современные компьютеры, в своем назначении, по мнению футурологов, во многом будет ориентироваться на возможность совершать расчеты различных процессов в человеческом организме, в том числе в мозге, и, как предполагается, именно медицина станет одной из главных сфер его применения [см.: Баграев 2015].
Гринин Л. Е. Четвертый технологический уклад (конец 1940-х - начало 1980-х гг.): расцвет и закат промышленного капитализма // Кондратьевские волны: технологические и экономические аспекты / отв. ред. Л. Е. Гринин, А. В. Коротаев. Волгоград : Учитель, 2021а. С. 171-187.
Гринин Л. Е. Пятый технологический уклад (1980-е гг. - настоящее время) // Кондратьевские волны: технологические и экономические аспекты / отв. ред. Л. Е. Гринин, А. В. Коротаев. Волгоград : Учитель, 2021б. С. 187-193.
Гринин Л. Е. Отрицательные ставки и другие новейшие финансовые технологии // Общество и экономика. 2021в. № 2. С. 18-30. DOI: 10.31857/ S020736760013634-6.
Гринин Л. Е., Гринин А. Л. Кибернетическая революция и шестой технологический уклад // Историческая психология и социология истории. 2015а. № 8(1). С. 172-197.
Гринин Л. Е., Гринин А. Л. От рубил до нанороботов. Мир на пути к эпохе самоуправляемых систем (история технологий и описание их будущего). М. : Моск. ред. изд-ва «Учитель», 2015б.
Гринин Л. Е., Гринин А. Л. Шестой технологический уклад (прогноз) // Кондратьевские волны: технологические и экономические аспекты: ежегодник / отв. ред. Л. Е. Гринин, А. В. Коротаев. Волгоград : Учитель, 2021. С. 200-216.
Гринин Л. Е., Гринин А. Л., Коротаев А. В. Глобальное старение как интегральная проблема будущего // Социологический журнал. 2023. Т. 29. № 2. С. 25-41. DOI: 10.19181/socjour.2023.29.2.6.
Гуттер Р. С., Полунов Ю. Л. От абака до компьютера. М. : Знание, 1981.
Закон Мура [Электронный ресурс] : Tadviser. 2015. 26 февраля. URL: https://www.tadviser.ru/index.php/%D0%A1%D1%82%D0%B0%D1%82%D1 %8C%D1%8F:%D0%97%D0%B0%D0%BA%D0%BE%D0%BD_%D0%9C% D1%83%D1%80%D0%B0 (дата обращения: 30.08.2023).
Згуровский М. З., Зайченко Ю. П. Основы вычислительного интеллекта. Киев : Наукова думка, 2013.
Корнев А. Искусственный интеллект Facebook научился врать и торговаться [Электронный ресурс] : C-News. 2017. 15 июня. URL: https:// www.cnews.ru/news/top/2017-06-15_iskusstvennyj_intellekt_facebook_nauch ilsya_vrat (дата обращения: 31.08.2023).
Малоизвестное интересное. Авторский канал Сергея Карелова [Электронный ресурс]. URL: https://tlgrm.ru/channels/@theworldisnoteasy.
Мурая О. Российское приложение определит выгорание по ритму сердца. 2022 [Электронный ресурс]. URL: https://smotrim.ru/article/2812453 (дата обращения: 29.08.2023).
Пройдаков Е. Робототехника через двадцать лет // Вызов 2035 / сост.
B. В. Буров. М. : Олимп-Бизнес, 2016. С. 114-131.
Романов Р. В. Классические концепции решения проблем искусственного интеллекта (философский аспект) // Философские науки. 2012. № 3.
C. 241-247.
Сандомирская Ю. Искусственный интеллект и нейроморфные вычисления: второе дыхание [Электронный ресурс] : Коммерсант Наука. 2021. 30 ноября. URL: https://www.kommersant.ru/doc/5089550 (дата обращения: 30.08.2023).
Ставицкий А. 2021. Ученые впервые создали устойчивый к ошибкам квантовый компьютер. Как новая технология изменит науку и экономику? [Электронный ресурс] : Лента.ру. 2021. 14 октября. URL: https://lenta.ru/brief/ 2021/10/14/quant/ (дата обращения: 27.08.2023).
Тьюринг А. Вычислительные машины и разум. М. : АСТ, 2018.
Ученые из США создали первый фотонный процессор [Электронный ресурс] : Вести. 2015. 24 декабря. URL: http://www.vestifinance.ru/articles/ 65861 (дата обращения: 23.08.2023).
Хель И. 2015. 10 технологий, которыми должен запомниться 2015 год [Электронный ресурс]. URL: http://hi-news.ru/technology/10-texnologij-koto rymi-dolzhen-zapomnitsya-2015-god.html (дата обращения: 28.08.2023).
Цветков В. Я. Закон Мура и другие [Электронный ресурс] : Международный журнал прикладных и фундаментальных исследований. 2017. № 1-2. С. 370. URL: https://applied-research.ru/ru/article/view?id=11205 (дата обращения: 28.08.2023).
Что такое общий искусственный интеллект (AGI): 6 характеристик // Business World. 2023. 2 июня.
Шумихин С. Artificial General Intelligence - поиски Святого Грааля искусственного интеллекта. 2021 [Электронный ресурс]. URL: https://habr.com/ ru/users/Landgar/ (дата обращения: 29.08.2023).
ЮНЕСКО. Рекомендации об этических аспектах искусственного интеллекта. 2021 [Электронный ресурс]. URL: https://unesdoc.unesco.org/ark:/ 48223/pf0000380455_rus (дата обращения: 30.08.2023).
Campbell C. Inside the Taiwan Firm That Makes the World's Tech Run [Электронный ресурс] : Time. 2021. October 1. URL: https://time.com/61028 79/semiconductor-chip-shortage-tsmc/ (дата обращения: 28.08.2023).
Chat GPT and the Talking Dog with Dr. Terry Sejnowski. 2023 [Электронный ресурс]. URL: https://www.youtube.com/watch?v=dZOEXNIrZLI (дата обращения: 30.08.2023).
Coupeau N. Rememory, The AI that Helps Us Talk to the Dead [Электронный ресурс] : Greek Reporter. 2023. February 1. URL: https://greekrepor
ter.com/2023/02/01/rememory-the-artificial-intelligence-that-helps-us-talk-to-the-dead/ (дата обращения: 29.08.2023).
Crevier D. 1993. AI: The Tumultuous Search for Artificial Intelligence. New York : BasicBooks.
Datta A., Flammia S. T., Caves C. M. Entanglement and the Power of One Qubit [Электронный ресурс] : Physical Review A. 2005. Vol. 72. No. 4 (October 18). 042316. DOI: 10.1103/PhysRevA.72.042316 (дата обращения: 30.08.2023).
Drexler K. E. Engines of Creation: The Coming Era of Nano techno logy. New York : Anchor Press/Doubleday, 1987.
Drexler K. E. Nano-Systems: Molecular Machinery, Manufacturing, and Computation. New York : John Wiley & Sons, 1992.
Drexler K. E. Radical Abundance: How a Revolution in Nanotechnology will Change Civilization. New York : Public Affairs, 2013.
Fuechsle M., Miwa J. A., Mahapatra S., Ryu Hoon, Lee Sunhee, Warsch-kow O., Hollenberg L. C. L., Klimeck G., Simmons M. Y. A Single-Atom Transistor // Nature Nanotechnology. 2012. Vol. 7. No. 4 (April). Pp. 242-246. DOI: 10.1038/nnano.2012.21.
Gates B. The Age of AI has Begun: Artificial Intelligence is as Revolutionary as Mobile Phones and the Internet. 2023 [Электронный ресурс]. URL: https://www.gatesnotes.com/The-Age-of-AI-Has-Begun (дата обращения: 28.08. 2023).
Grinin L., Grinin A., Korotayev A. Does COVID-19 Accelerate the Cybernetic Revolution and Transition from E-government to E-state? // Kondratieff Waves: Processes, Cycles, Triggers, and Technological Paradigms / ed. by L. E. Grinin, A. V. Korotayev. Volgograd: Uchitel, 2021. Pp. 95-125.
Grinin L., Grinin A., Korotayev A. Global Aging and Our Futures // World Futures. 2023. Vol. 79(5). Pp. 536-556. DOI: 10.1080/02604027.2023.2204791.
Harari Y. N. Yuval Noah Harari on Big Data, Google and the End of Free Will [Электронный ресурс] : Financial Times. 2016. August 26. URL: https:// www.ft.com/content/50bb4830-6a4c-11e6-ae5b-a7cc5dd5a28c (дата обращения: 29.08.2023).
Kish L. B. End of Moore's Law: Thermal (Noise) Death of Integration in Micro and Nano Electronics // Physics Letters, Section A: General, Atomic and Solid State Physics. 2002. Vol. 305. No. 3-4. Pp. 144-149. DOI: 10.1016/S0 375-9601(02)01365-8.
McCarthy J. Artificial Intelligence, Logic and Formalizing Common Sense. 1990 [Электронный ресурс]. URL: http://www-formal.stanford.edu/ jmc/ailogic.pdf (дата обращения: 29.08.2023).
McCarthy J. Concepts of Logical AI. 2000 [Электронный ресурс]. URL: http://www-formal.stanford.edu/jmc/concepts-ai.pdf (дата обращения: 29.08.2023).
McCarthy J. What is Artificial Intelligence? [Электронный ресурс] : Computer Science Department. Stanford University. 2007. November 12. URL: http://www-formal.stanford.edu/jmc/whatisai/whatisai.html (дата обращения: 29.08.2023).
Mitchell T. Machine Learning. New York : McGraw-Hill, 1997.
Moore S. K. Cerebras' New Monster AI Chip Adds 1.4 Trillion Transistors Shift to 7-nanometer Process Boosts the Second-generation Chip's Transistor Count to a Mind Boggling 2.6-trillion [Электронный ресурс] : IEEE Spectrum. 2021. April 20. URL: https://spectrum.ieee.org/cerebras-giant-ai-chip-now-has-a-trillions-more-transistors (дата обращения: 28.08.2023).
MR. E. Your WiFi Can See You. 2023 [Электронный ресурс]. URL: https://bombthrower.com/your-wifi-can-see-you/.
Shanahan M. Solving the Frame Problem, a Mathematical Investigation of the Common Sense Law of Inertia. New York : M.I.T. Press, 1997.
Thakur, Ch. S., Lottier Molin J., Cauwenberghs G., Indiveri G., Kumar K., Qiao Ning, Schemmel J., Wang Runchun, Chicca E., Olson Hasler J., Jae-sun Seo, Shimeng Yu, Yu Cao, van Schaik A., Etienne-Cummings R. Large-Scale Neuromorphic Spiking Array Processors: A Quest to Mimic the Brain // Frontiers in Neuroscience. 2018. Vol. 12. DOI: 10.3389/fnins.2018.00891.
The Handbook of Artificial Intelligence: in 2 vols. / ed. by A. Barr, E. A. Feigenbaum. Stanford, CA; Los Altos, CA : HeurisTech Press, William Kaufmann, Inc., 1981.
The White House. What is the Blueprint for an AI Bill of Rights? 2022 [Электронный ресурс]. URL: https://www.whitehouse.gov/ostp/ai-bill-of-rights/ what-is-the-blueprint-for-an-ai-bill-of-rights/ (дата обращения: 31.08.2023).
Thomason R. Logic and Artificial Intelligence [Электронный ресурс] : The Stanford Encyclopedia of Philosophy / ed. by E. N. Zalta. Stanford, CA : The Metaphysics Research Lab, 2003. URL: http://plato.stanford.edu/entries/ logic-ai/ (дата обращения: 29.08.2023).
Veldhorst M., Yang C. H., Hwang J. C. C., Huang W., Dehollain J. P., Muhonen J. T., Simmons S. et al. A Two-Qubit Logic Gate in Silicon // Nature. 2015. Vol. 526. No. 7573 (October). Pp. 410-414. DOI: 10.1038/nature15263.
Wagner K. Lessons From the Catastrophic Failure of the Metaverse [Электронный ресурс] : The Nation. 2023. July 3. URL: https://www.thenation.com/ article/culture/metaverse-zuckerberg-pr-hype/ (дата обращения: 31.08.2023).
Zhang N. Moore's Law is Dead, Long Live Moore's Law! 2022. ArXiv Preprint ArXiv:2205.15011.
