CC BY
0
Вестник Томского государственного университета. Философия. Социология. Политология. 2024.
№ 81. С. 48-55.
Tomsk State University Journal of Philosophy, Sociology and Political Science. 2024. 81. pp. 48-55.
Научная статья УДК 140.8
doi: 10.17223/1998863Х/81/5
КОНЦЕПЦИИ БУДУЩЕГО В ФИЛОСОФИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ДИСТОПИЯ, УТОПИЯ, ПРОТОПИЯ
Полина Сергеевна Спрукуль
Томский научный центр СО РАН, Томск, Россия, [email protected]
Аннтотация. В статье проводится анализ и сравнение концепций дистопии, утопии и протопии в философии искусственного интеллекта, рассмативаются их основные аспекты, преимущества и недостатки. Предпринимается попытка определить наиболее вероятный сценарий развития событий на основе анализа текущего уровня развития искусственного интеллекта.
Ключевые слова: философия искусственного интеллекта, информационные технологии, сильный искусственный интеллект, слабый искусственный интеллект
Благодарности: исследование выполнено за счет гранта Российского научного фонда № 23-18-00019, https://rscf.ru/project/23-18-00019/
Для цитирования: Спрукуль П.С. Концепции будущего в философии искусственного интеллекта: дистопия, утопия, протопия // Вестник Томского государственного университета. Философия. Социология. Политология. 2024. № 81. С. 48-55. doi: 10.17223/1998863Х/81/5
Original article
CONCEPTS OF THE FUTURE IN THE PHILOSOPHY OF ARTIFICIAL INTELLIGENCE: DYSTOPIA, UTOPIA AND PROTOPIA
Polina S. Sprukul'
Tomsk Scientific Center, Siberian Branch of the Russian Academy of Sciences, Tomsk, Russian Federation, [email protected]
Abstract. The article presents an analysis and comparison of three concepts of the future in the philosophy of artificial intelligence: dystopia, utopia and protopia. The author describes each of these concepts in detail, highlighting their key aspects, advantages and disadvantages. Artificial intelligence is considered in its weak version as a system designed to perform specific tasks and functions. As an example, the language model of OpenAI company - ChatGPT - is given, which is widely available and demonstrates a very high speed of development. The author considers five levels of technology development to achieve the level of AGI (Artificial General Intelligence) - a strong version of artificial intelligence, which will be comparable in power to human intelligence or even surpass it. The current level of ChatGPT development is defined as the first one, but according to OpenAI employees, it can reach the second level in the foreseeable future. This indicates significant progress in the field of artificial intelligence and raises important questions about its future impact on society. Based on the analysis of the current level of AI development, as well as some facts and events taking place at present (such as legal regulation or user experience), the author attempts to determine the most probable concept of the future. Utopia
© П.С. Спрукуль, 2024
and dystopia are assessed as extremely positive and negative scenarios, and therefore the least likely ones. The current state of things suggests that the concept of protopia, which includes features of the other two, is closest to reality. Protopia assumes that AI development should be aimed at the benefit of all humanity and be carried out under the control of society and the state. This will help avoid negative consequences and ensure sustainable development of society in the future. The author emphasizes that all three concepts are hypothetical, but they help us think about the possible consequences of developing artificial intelligence and take measures for its safe and effective use. The author concludes that only a balanced and responsible approach to the development and implementation of artificial intelligence can ensure its positive impact on society and prevent possible negative scenarios.
Keywords: philosophy of artificial intelligence, digital technology, strong artificial intelligence, weak artificial intelligence
Acknowledgements: The study is supported by the Russian Science Foundation, Project No. 23-18-00019, https://rscf.ru/project/23-18-00019/
For citation: Sprukul', P.S. (2024) Concepts of the future in the philosophy of artificial intelligence: dystopia, utopia and protopia. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya - Tomsk State University Journal of Philosophy, Sociology and Political Science. 81. pp. 48-55. (In Russian). doi: 10.17223/1998863Х/81/5
Сегодня искусственный интеллект стал частью повседневной жизни обычного человека. Мы используем его для решения различных задач: от написания текстов и кода до создания музыки и поиска информации. ИИ помогает нам автоматизировать рутинные процессы, ускорять работу и повышать ее эффективность. Есть мнение, что человечество входит в предсингу-лярную эпоху, поэтому вопросы о том, какое будущее нас ждет, становятся все острее и актуальнее. Несмотря на все плюсы использования ИИ, у человека еще остается много вопросов и опасений.
В рамках дискуссии об искусственном интеллекте принято подразделять его на слабый и сильный, данная классификация была предложена еще в 1980 г. Джоном Серлом [1]. Эти определения могут варьироваться в зависимости от специфики дискурса, поэтому далее обозначим наше понимание в рамках текущей статьи. Слабый ИИ - это система, предназначенная для выполнения конкретных задач и функций, используется в таких областях, как распознавание речи, обработка естественного языка, компьютерное зрение и др. Сильный ИИ (в современном дискурсе чаще обозначается как AGI - artificial general intelligence) является гипотетической формой искусственного интеллекта, которая по мощности будет сравнима с человеческим разумом или превзойдет его. AGI должен обладать способностью к обучению, адаптации и самосовершенствованию, что позволит ему эффективно взаимодействовать с людьми и окружающей средой, а также самостоятельно обучаться и развиваться. На сегодняшний день не существует технологии, способной достичь уровня AGI, поэтому далее под ИИ мы будем понимать именно слабую версию, несмотря на то, что мы уже можем приписать ей некоторые черты сильной.
Если перейти к конкретным моделям, то в наши дни первое, что приходит в голову большинству пользователей при упоминании искусственного интеллекта, - это разработанный компанией OpenAI ChatGPT - большая языковая модель, обученная на огромном наборе данных текстовых пар «вопрос-ответ». Она способна генерировать тексты, похожие на написанные челове-
ком, и может использоваться для различных задач, таких как перевод, генерация кода, написание статей и т.д. Популярность данной модели обусловлена ее доступностью для широкого круга пользователей и скоростью развития. Основные этапы развития ChatGPT:
1. ChatGPT (ноябрь 2022 г.) - первая версия модели. Обладала базовыми возможностями генерации текста и ответов на вопросы.
2. GPT-4 (март 2023 г.) - обновленная модель с улучшенной производительностью и способностью к обучению на больших объемах данных. Также данная модель может генерировать более длинные и подробные тексты. Появилась поддержка всех языков.
3. GPT-4 Turbo (август 2023 г.) - улучшенная версия GPT-4 с повышенной скоростью работы и доступностью для большего числа пользователей. Может выходить в интернет, появилась возможность подключать внешние плагины. Модель может запускать внутри себя код.
4. GPT-4 2.0 (ноябрь 2023 г.) - последнее обновление на данный момент, которое включает улучшения в работе с длинными текстами, более точные ответы на сложные вопросы и возможность создания более персонализированных диалогов.
Таким образом, можно сказать, что модель получала качественное новое развитие примерно каждые 3 месяца, что является очень высокой скоростью. Кроме того, поражает скорость распространения продукта среди пользователей - от 0 до 100 млн пользователей за 2 месяца, несмотря на то, что модель является не развлекательным приложением, а скорее прикладным инструментом. На данный момент это рекордная скорость, предыдущим рекордсменом был TikTok с промежутком в 8 месяцев.
Феномен ChatGPT позволил посмотреть на ИИ и его развитие как на супертехнологии, которые могут быть на службе у людей, а не только как на перспективу создания AGI или сверхразума, который может решить все проблемы человечества или уничтожить его. Генеральный директор компании OpenAI1 Сэм Альтман описал 5 уровней достижения AGI [2]:
Уровень 1: Выполнение задач, требующих понимания языка. На этом уровне ИИ может понимать и генерировать текст, отвечать на вопросы, переводить языки и т.д. Это уровень, на котором находятся современные чат-боты, такие как ChatGPT.
Уровень 2: Решение проблем с помощью языка. ИИ на этом уровне может решать задачи, требующие логического мышления и рассуждений. Он может анализировать данные, делать выводы и давать рекомендации.
Уровень 3 : Обучение сложным навыкам без учителя. ИИ на этом уровне способен самостоятельно учиться новым навыкам, используя только данные без заранее заданных инструкций. Это позволит ему адаптироваться к новым ситуациям и задачам.
Уровень 4: Решение сложных реальных проблем. ИИ на этом уровне сможет решать сложные проблемы реального мира, такие как разработка новых лекарств или создание новых технологий.
Уровень 5 : Изобретение нового знания. ИИ на этом уровне будет способен создавать новое знание, которое не было доступно человечеству ранее.
1 Компания, которая создала языковую модель ChatGPT.
Это может привести к появлению новых научных открытий, изобретений и произведений искусства.
Каждый последующий уровень включает в себя все возможности предыдущего уровня и добавляет новые способности. Таким образом, общий искусственный интеллект будет представлять собой систему, способную решать любые интеллектуальные задачи, доступные человеку. ChatGPT в настоящее время находится на первом уровне, но, по словам сотрудников OpenAI, в обозримом будущем может выйти на второй.
Очень много разговоров ведется о неком будущем, в котором у нас будет ИИ, и как это повлияет на общество. Но по факту ИИ уже существует и благодаря новым моделям, вроде ChatGPT, активно используется повсеместно. Если раньше он применялся по большей части в науке и прикладной отрасли (медицина, строительство), то сейчас его постоянно растущий потенциал и открытость позволяет внедрять ИИ в рабочие процессы разных компаний, обучение и даже в будничные задачи обычного человека. Теперь ИИ доступен любому через цифровой дисплей и подключение к интернету. Проникновение ИИ во все сферы общества - это неизбежное и очень важное явление, которое мы наблюдаем прямо сейчас. Это все повышает интерес и потребность общества представить картину нашего будущего. Нужно задаться вопросами о том, каким будет ИИ? К какому миру мы хотим прийти? Такого рода вопросы должна ставить современная философия, реагируя на трансформации общества, вызванные развитием технологий. Далее в данной работе мы бы хотели рассмотреть 3 варианта концепции будущего с точки зрения развития ИИ и выделить из них наиболее вероятную, на наш взгляд.
Когда мы говорим об устройстве общества, чаще всего речь идет об одном из двух сценариев - утопия или дистопия (антиутопия). Рассмотрим дистопию как такую концепцию, в которой развитие ИИ приводит к негативным последствиям для человечества. ИИ может стать угрозой для свободы и безопасности людей, а также привести к потере рабочих мест и усилению социального неравенства (такой сценарий очень любят демонстрировать в массовой культуре - «Матрица» \ «Терминатор»2). Если рассматривать ИИ не как AGI, а как супертехнологию, облегчающую жизнь людей, то в дистопии эта супертехнология монопольно контролируется каким-то ограниченным кругом лиц - крупной компанией, тоталитарным государственным лидером, спецслужбами. Доступ к ней есть только у этого ограниченного круга лиц, и общество ничего не может с этим сделать. Последствия такого сценария: потеря контроля над технологиями, усиление социального неравенства, рост безработицы, нарушение прав человека, утрата конфиденциальности данных, появление новых видов преступлений.
Утопия же - полная противоположность. Рассмотрим ее как такую концепцию, в которой ИИ используется для улучшения качества жизни людей и решения глобальных проблем. В такой концепции ИИ становится мощным инструментом, который помогает людям достигать своих целей и реализовы-вать свои мечты. Некоторые общественные институты в виде сложных систем могут оказаться не нужны, все люди живут в дружественной среде. В этой концепции все проблемы общества уже как бы заранее решены, это
1 Серия фильмов дуэта Вачовски.
2 Серия фильмов Д. Кэмерона.
некая стагнирующая действительность, которая замерла в своем развитии -нет проблем, которые нужно решать, значит, нет возможностей для развития. Классические черты такой концепции: эффективное здравоохранение, повышение уровня образования, улучшение условий труда, решение экологических проблем, создание более справедливого общества.
Дистопия и утопия кажутся маловероятными, так как представляют собой резко негативный или резко позитивный сценарий. Кевин Келли [3. С. 23] ввел новую концепцию, которая кажется более реалистичной - прото-пия. Протопия описывает будущее, в котором технологии будут использоваться для создания более справедливого, устойчивого и гармоничного общества, это состояние трансформации, а не финальная точка. Процесс, в котором положение дел сегодня лучше, чем вчера, пусть не на много. Это попытка придумать более реалистичную версию утопии, о которой можно думать, планировать и делать реальные шаги. Мир в этой концепции постоянно сталкивается с новыми проблемами и вызовами, которые можно решать с помощью технологий. От технологий получают пользу все члены общества, а не только узкий круг. Свободы, возможности для реализации увеличиваются, люди могут стать более творческими.
Концепция протопии основывается на следующих принципах:
• Сотрудничество: люди будут сотрудничать друг с другом для достижения общих целей.
• Децентрализация: власть и ресурсы будут распределены более равномерно.
• Устойчивость: общество будет стремиться к использованию возобновляемых источников энергии и снижению потребления ресурсов.
• Гармония: люди будут стремиться к гармонии с природой.
На наш взгляд, концепция протопии соединяет в себе черты дистопии и утопии, за счет чего кажется более реалистичной. В ее рамках человечество использует технологии для того, чтобы сделать жизнь лучше, но при этом просчитывает риски и старается их минимизировать. Доступ большого числа людей к супертехнологии несет в себе большое благо, но еще и много вопросов.
Развитие ИИ демократизирует доступ к интеллекту и образованию любому человеку в любом месте с любым количеством денег. Условно каждый может иметь у себя в кармане базу знаний всего человечества в форме учителя, способного помочь разобраться в любом вопросе. Кроме того, ИИ демократизирует доступ к эмпатическому терапевтическому общению: становятся доступнее доброта, внимание и сопереживание. Таким образом, чем больше людей будет иметь доступ к супертехнологии и напрямую ее использовать, повышать свою производительность и креативность, развивать эмоциональный интеллект, тем больше вероятность позитивного сценария будущего. На наш взгляд, доступность супертехнологии является одним из ключевых факторов того, в какой сценарий будущего мы попадем.
Актуальные вопросы, которые человеку стоит задать себе: Какие сигналы могут помочь нам понять, на пути к какому сценарию мы находимся сегодня? Как человек может своими действиями вкладываться в один из этих сценариев? Например, по нашему мнению, европейские законы по регулированию ИИ [4] могут быть рассмотрены в том числе и как сигналы приближе-
ния к дистопии - они могут ограничить доступ к технологии или сделать ее очень сложной. Но итог один, технология окажется в руках ограниченного круга лиц. Изначально эти законы имеют своей целью контролировать развитие ИИ, чтобы защитить человечество от негативных сценариев будущего, но в любой момент могут быть использованы и против доступности супертехнологии для большинства.
Общество уже далеко не первое десятилетие задается вопросами о моральной и этической составляющей ИИ. Из недавнего, в мае 2023 г. ОрепА1 запустила грант [5] в размере ста тысяч долларов на разработку демократических методов для принятия решений о правилах поведения ChatGPT. Речь идет о том, чтобы сделать решения о ценностных фильтрах, через которые ИИ общается с пользователем, прозрачными и инклюзивными, подобно тому, как принимаются законы в демократическом обществе. Большой плюс такого подхода в том, что в развитии технологии принимает участие не только привилегированный круг лиц вроде компании-владельца или глав государств, но и рядовые пользователи. Это можно рассмотреть в качестве сигнала, что мы на пути к протопии.
Еще одним сигналом можно назвать использование текущих языковых моделей вроде ChatGPT в качестве сокриейторов или соинтеллекта. ИИ все в большей и большей степени становится для человека партнером, коллегой, сотрудником, учителем, коучем и даже другом. Дмитрий Мацкевич, генеральный директор и сооснователь компании Dbrain, сформулировал 3 метастратегии взаимодействия ИИ и человека по итогам конференции Gconf [6]:
1. Равный партнер. ИИ как друг, партнер, с которым вы вместе думаете и создаете. Это не всезнающий Оракул, который ответит на все вопросы во вселенной. Но и не слуга, который будет делать за человека все задачи.
2. Говори и уточняй. Человек может взаимодействовать с ИИ через голосовые команды или вопросы. Такая стратегия позволяет упростить взаимодействие и сделать его более естественным. Эта стратегия помогает человеку лучше понять, как работает ИИ, и научиться формулировать вопросы таким образом, чтобы получать наиболее точные и полезные ответы.
3. Выстраивать отношения как с другим существом из состояния благодарности и любопытства. Состояние, из которого человек выстраивает отношения с ИИ, сильно влияет на результат и дальнейшее желание взаимодействовать. Выстраивание отношений из благодарности и любопытства помогает создать более эффективное и продуктивное взаимодействие между человеком и ИИ.
Это все указывает на то, что уже сегодня мы можем видеть, как использование ИИ расширяет возможности человека, а его актуальная версия в целом является доступной для большинства. Хочется верить, что все эти сигналы действительно указывают на то, что мы на пути к протопии.
Интересно, что массовая культура и размышления философов, футурологов и др. дали нам огромное количество моделей и образов негативного сценария (например, матрица [7] или сверхразум [8. С. 48]). Однако, на наш взгляд, человеку было бы полезно конструировать для себя лучшее будущее и фокусироваться на позитивном, ведь будущее, к которому мы стремимся, представляет собой результат того процесса трансформации, который мы
способны наблюдать сегодня. Наше рассуждение показало, что многие сегодняшние события и результаты можно распознать в качестве сигналов того, что человечество способно избежать негативного сценария - сегодня мы более близки к Джарвис1 или Саманте2, чем к Матрице. Важно говорить не только о негативных сценариях, но и о позитивных, ведь когда мы представляем варианты будущего, мы начинаем двигаться в их сторону.
Список источников
1. Searle J. R. Minds, brains, and programs // Behavioral and brain sciences. 1980. Т. 3, № 3. Р. 417-424.
2. Metz R. OpenAI Scale Ranks Progress Toward 'Human-Level' Problem Solving. Bloomberg. URL: https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligent-ai (дата обращения: 01.08.2024).
3. Келли К. Неизбежно: 12 технологических трендов, которые определяют наше будущее. Манн, Иванов и Фербер, 2017.
4. European Union. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX: 52021PC0206 (дата обращения: 01.08.2024).
5. Open A.I. Democratic inputs to AI. URL: https://openai.com/index/democratic-inputs-to-ai/ (дата обращения: 01.08.2024).
6. Мацкевич Д. Matskevich - brains, love and robots. URL: https://t.me/Matskevich/251 (дата обращения: 01.08.2024).
7. Chalmers D.J. The Matrix as metaphysics. 2005. URL: http://consc.net/papers/matrix.pdf (дата обращения: 07.06.2024).
8. Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. Манн, Иванов и Фербер, 2015.
References
1. Searle, J.R. (1980) Minds, brains, and programs. Behavioral and Brain Sciences. 3(3). pp. 417-424.
2. Metz, R. (2024) OpenAI Scale Ranks Progress Toward 'Human-Level' Problem Solving. Bloomberg. [Online] Available from: https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligent-ai (Accessed: 1st August 2024).
3. Kelly, K. (2017) Neizbezhno: 12 tekhnologicheskikh trendov, kotorye opredelyayut nashe bu-dushchee [Inevitable: 12 technology trends that will shape our future]. Mann, Ivanov i Ferber.
4. European Union. [Online] Available from: https://eur-lex.europa.eu/legal-content/EN/TXT/ ?uri=CELEX: 52021PC0206 (Accessed: 1st August 2024).
5. OpenAI. (n.d.) Democratic inputs to AI. [Online] Available from: https://openai.com/in-dex/democratic-inputs-to-ai/ (Accessed: 1st August 2024).
6. Matskevich, D. (n.d.) Brains, love and robots. [Online] Available from: https://t.me/Mats-kevich/251 (Accessed: 1st August 2024).
7. Chalmers, D.J. (2005) The Matrix as metaphysics. [Online] Available from: http://consc.net/papers/matrix.pdf (Accessed: 7th June 2024).
8. Bostrom, N. (2015) Iskusstvennyy intellekt: Etapy. Ugrozy. Strategii [Artificial Intelligence: Stages. Threats. Strategies]. Mann, Ivanov i Ferber.
Сведения об авторе:
Спрукуль П.С. - магистр, техник лаборатории логико-философских исследований Томского научного центра Сибирского отделения Российской академии наук (Томск, Россия). E-mail: [email protected]
Автор заявляет об отсутствии конфликта интересов.
1 Искусственный интеллект из серии комиксов и фильмов «Железный человек».
2 Искусственный интеллект из фильма Спайка Джонса «Она».
Information about the author:
Sprukul P.S. - Master, technician at the Laboratory of Logical and Philosophical Research of the Tomsk Scientific Center of the Siberian Branch of the Russian Academy of Sciences (Tomsk, Russian Federation). E-mail: [email protected]
The author declares no conflicts of interests.
Статья поступила в редакцию 09.07.2024; одобрена после рецензирования 23.09.2024; принята к публикации 21.10.2024
The article was submitted 09.07.2024; approved after reviewing 23.09.2024; accepted for publication 21.10.2024
