CC BY
79
Е.А. ДАГАЕВА
Кандидат социологических наук Доцент кафедры управления ЧОУ ВО ТИУиЭ, г. Таганрог
Т.Д. КЛИМАЧЕВ
Студент экономического факультета ЧОУ ВО ТИУиЭ, г. Таганрог
СОЦИАЛЬНО-ЭТИЧЕСКИЕ ПРОБЛЕМЫ КИБЕРНИЗАЦИИ СОВРЕМЕННОГО ОБЩЕСТВА
Данная статья посвящена поиску и анализу социально-этических проблем кибернизации общества XXI века. Киберэтика и робоэтика рассматриваются авторами как новейшие философские направления этики. В статье осуществлен анализ социальных последствий технологической безработицы, вызванной роботизацией. Дана эти-
Кибернизация, киберэтика, компьютерная этика,;
Тематический рубрикатор е-ЫЬгагу: 04.21.51.
В современном мире проблема влияния научно-технологического прогресса на общество приобрела острый характер. НТП привел к появлению новых вызовов для человечества. Так, следствиями начавшейся в середине прошлого века третьей промышленной революции стали появление компьютеров и беспрецедентная автоматизация производства. Начало четвертой промышленной революции ознаменовалось повсеместным внедрением киберфи-зических систем в экономику, бурным развитием робототехники, нанотехнологий, нейросетей и т.п. Начало масштабной кибернизации общества обусловило формирование новых разделов этики, рассматривающих социальные и этические вопросы отношений человека и компьютеризированных систем.
Формирование цифрового общества, в котором человек будет тесно взаимодействовать с кибернетизированными системами, обладающими высокоразвитым искусственным интеллектом (далее - ИИ), актуализирует проблему социально-этических последствий влияния бурного внедрения передовых 1Т-технологий на все сферы деятельности человека.
По определению А.Т. Тонконогова «кибернетическое общество - это новый тип ноосферного социального образования, управленческий механизм которого сосредоточен в основном в виртуальной среде информационного пространства» [1, с.742]. Оно характеризуется активным и постоянным взаимодействием общества с ИИ на государственном и индивидуальном уровне. Формируется кибернетическое сознание, которое заключается во взаимодействии разума и психики человека с искусственным интеллектом в кибернетическом пространстве с возможностью саморазвития в мировом социуме. Предполагается массовое внедрение ИИ и киберфизических систем во все сферы общественной жизни, которое окажет кардинальное влияние на сознание человека.
В данных условиях закономерен вопрос об этических и социальных проблемах взаимодействия
ческая оценка философской концепции трансгуманизма. На основе проведенного исследования обоснованы выводы о неизбежности кибернизации человеческой цивилизации и возможных способах решения ее фундаментальных социально-этических проблем.
ка ИИ, робоэтика, трансгуманизм, киборг.
человека и ИИ в информационном пространстве. Актуализируется необходимость создания новой этики, регулирующей отношения человека и ИИ, рассматривающей вопросы морали и нравственности в условиях внедрения компьютеризированных техно -логий и роботов в повседневную жизнь человека. Все это вкупе обусловило формирование новейших разделов этики - киберэтики и робоэтики.
Киберэтика - это раздел прикладной этики, который связан с развитием компьютеров и информационных технологий и касается подотчетности общества в киберпространстве, задачей которой является раскрытие принципов морали, которые могут лежать в основе человеческих действий, чтобы люди могли создать устойчивое глобальное информационное общество, основанное на широком участии.
Ввиду значительного круга вопросов, связанных с цифровизацией общественной жизни, киберэтика подразделяется на компьютерную, информационную и этику ИИ. Сущность данных разделов, их сходство и различия вкратце представлены в таблице.
Как видно из таблицы, проблемы единого цифрового пространства сближают компьютерную, информационную и этику ИИ, однако между компьютерной и этикой ИИ имеется различие в их сосредоточенности на определенной технологии или артефакте, то есть компьютерах или ИИ. Еще одно существенное различие между компьютерной этикой и этикой искусственного интеллекта заключается в том, что в последней гораздо больше внимания уделяется правовым вопросам. Так, к примеру, многие из тем, обсуждаемых в этике ИИ, являются устоявшимися вопросами прав человека, например, неприкосновенности частной жизни или недопущения дискриминации и физического вреда. Исходя из этого, главными различиями между ИИ и компьютерной этикой можно считать исследуемый объект и степень затрагиваемых фундаментальных прав человека.
Сравнительный анализ разделов киберэтики и их специфика [2]
Разделы киберэтики Определение
Информационная этика Этика, относящаяся к компьютерной этике, которая занимается исследованием поведения людей, как профессионалов, так и обычных пользователей, чья работа связана с использованием компьютерных технологий
Компьютерная этика Компьютерная этика - это область прикладной этики, которая устанавливает стандарты использования компьютеров в компьютерном мире, такие как запрет на нарушение авторских прав, внедрение вирусов и вторжение в частную жизнь, а также распространение нежелательных материалов и шпионаж
Этика ИИ Это набор ценностей, принципов и технологий, которые используют общепринятые стандарты правильного и неправильного для руководства моральным поведением при разработке и использовании технологий ИИ
Общие этические проблемы разделов киберэтики (цифровой этики)
Проблемы информационных войн и кибератак; проблемы достоверности информации; проблемы приватности; проблемы первичности источника информации; проблемы цифрового образования; проблемы культурного поведения в цифровом пространстве; проблемы взаимодействия человека и ИИ; проблемы виртуальной реальности и виртуального бессмертия [2]
Эксперты отмечают, что в силу быстрого совершенствования нейросетей в будущем роботы могут стать разумными. Поэтому «есть опасения, что растущее влияние ИИ в человеческих делах может в конечном итоге бросить вызов самой концепции человеческого бытия и правам, которые зависят от этого статуса».
Следует отметить, что с дальнейшим усложнением информационных систем киберэтика будет играть все большую роль в регулировании взаимодействий между людьми и ИИ в кибернетическом пространстве и в моральной оценке кибернарушений. Так, «расширение информационного пространства в сочетании с отсутствием моральных ограничений будет способствовать масштабному увеличению фактов анонимных краж, краж кредитных карт и других преступных деяний». Экономическая безопасность находится под постоянной угрозой преступных действий в информационной среде. Погружение человечества в виртуальную реальность увеличивает риск деформации психики и плохо контролируемых последствий деструктивных изменений личности. Следует отметить негативное влияние на личность в информационном пространстве через массовое погружение в игровую форму зависимости. Отечественными и зарубежными исследователями отмечаются негативные аспекты влияния цифрового пространства на сознание индивида. Все это вкупе актуализирует необходимость создания законодательной базы для нивелирования этих негативных последствий и регулирования вопросов этики в информационном пространстве.
На наш взгляд, минимизации негативного воздействия цифрового мира на общественное сознание будет способствовать закрепление в законодательстве стран нормативно-правовых актов в сфере киберэтики для повышения цифровой грамотности общества и предупреждения киберпреступлений. Целесообразным представляется создание специальных служб по контролю за соблюдением этических норм в сети, которые будут действовать в рамках «этических программ, при помощи которых будут
производиться этическая оценка и этический контроль в цифровом пространстве; однако разработка этих программ должна вестись совместными усилиями широких групп экспертов и специалистов: правоведов, правозащитников, социологов, конфликтологов, инженеров по электротехнике/механике/вычислительной технике, инженеров по управлению/робототехнике/автоматизации, психологов, когнитивистов, ученых в области искусственного интеллекта, философов/специалистов по этике и т.д.» [2]. При этом данные органы должны соблюдать информационные права граждан на защиту персональных данных, интеллектуальной собственности, тайны переписки во избежание цифровой диктатуры.
Наряду с киберэтикой в последние годы получила развитие робоэтика. Робоэтика - это современная междисциплинарная область исследований, лежащая на стыке прикладной этики и робототехники, которая изучает и пытается понять и регулировать этические последствия применения технологий робототехники, в особенности интеллектуальных/автономных роботов. Основная цель робоэтики - мотивировать моральное проектирование, разработку и использование роботов на благо человечества. Таким образом, робо-этика изучает моральные и социальные проблемы взаимоотношений между человеком и роботом (ИИ). Данный раздел этики занимается поиском ответов на следующие актуальные вопросы современности. Насколько оправдано с точки зрения этики создание искусственных моральных агентов и этичных роботов? Этично ли создавать роботов, обладающих способностями к этическому мышлению? Как правильно людям обращаться с роботами и как роботы должны относиться к людям? Должны ли роботы иметь права? Должны ли морально-этические роботы иметь новый правовой статус?
В решении данных этических проблем, с нашей точки зрения, следует отталкиваться от того, что робот - это всего лишь запрограммированная машина, которая призвана максимально упростить жизнь человека. Следовательно, любые действия робота, даже если они были совершены на основании авто-
номной работы нейросетей, будут зависеть от программного кода, заданного создателем. Исходя из этого, должны быть разработаны законы в области робототехники, регулирующие ответственность программистов и инженеров за «поведение роботов». В свете постоянной угрозы кибертерроризма следует закрепить в законодательстве запрет на использование роботов и ИИ в военных целях.
Стоит отметить, что «любое предложение о распространении прав на машины должно учитывать роль машины, ее уровень автономии и интеллекта, а также то, в какой степени права человека будут защищены этим правом машины». Должны быть юридически закреплены основные принципы обеспечения инженерами общественной безопасности в сфере робототехники. Например, «инженеры обязуются: предоставлять услуги только в соответствии с их юрисдикцией; опубликовывать выражения только объективно и точно, добросовестно действуя в отношении каждого работодателя или клиента; избегать обманных действий; быть честным, ответственным, этичным и законным. При разработке алгоритмов искусственного интеллекта в концепции робоэтики роботы, взаимодействующие с людьми, должны быть более осторожными, общество всегда должно обращать внимание на их преимущества и мирное назначение». Таким образом, на создателей роботов ложится прямая моральная и правовая ответственность за последствия использования роботов в общественной жизни. Социальная ответственность разработчиков роботов за мирное назначение роботов и имидж робототехники в целом неоспорима.
Говоря о роботе как о компаньоне, следует выделить еще одну социально-этическую проблему -проблему одушевления людьми роботов и развития эмпатии к ним. Некоторые эксперты отмечают, что появление компаньона-робота вместо партнера-человека в перспективе не только снизит естественную рождаемость, но и может подавить само желание создать семью. Это вполне может привести к разрушению института семьи. Широкое применение роботов в социальной сфере (услуги няни, уход за людьми с ОВЗ, больными и пр.) также влечет этические проблемы возникновения суррогатных отношений, подмены человеческого сочувствия его симулякром и все большей зависимости человека от роботов. Таким образом, возникает угроза обесценивания человека и отчуждения его от себе подобных [3]. Дальнейшее массовое внедрение роботов и ИИ в общественную жизнь может привести к необратимым последствиям для человеческой цивилизации, связанным с социальным разложением общества и его дегуманизацией.
На наш взгляд, выходом из данной ситуации может служить введение ограничений на использование роботов. Так, к широко известным положительным последствиям роботизации относится избавление человека от рутинных, повторяющихся операций, связанных с выдачей и приемом денег в банкомате, кассовых операциях в магазинах и т.д. Также роботов необходимо использовать при выполнениии вредных и опасных для жизни человека операций, для анализа больших данных, автоматизации [2]. В таком случае
роботы выступают незаменимыми помощниками, а не «могильщиками» человечества.
Помимо вышеперечисленных аспектов роботизация, как развитие автоматизации производства на основе промышленных роботов [4], влечет за собой проблему потери рабочих мест вследствие удешевления труда. Речь идет о проблеме технологической безработицы, которая представляет собой автоматизацию предприятием рабочих мест с помощью передовых технологий, в основном из области ИИ и робототехники. Главная роль здесь отводится внедрению киберфизических систем в производство (кибер-низация производства). Данные технологии позволяют максимально автоматизировать производственные процессы на предприятии, заменить бумажную работу на электронную, физический труд на умственный. С другой стороны, миллионы работников, занятых физическим и монотонным трудом, потеряют работу. Таким образом, повсеместная роботизация вызовет социальный коллапс, производный от растущей технологической безработицы, ведущий к морально-нравственному упадку и разложению общества.
В рамках проблемы технологической безработицы В.В. Еремин выделяет следующие последствия долгосрочной роботизации:
1) часть общества столкнется с безработицей;
2) вмешательство правительства, которое ограничит роботизацию и введет налоги на труд роботов;
3) маловероятно - появление новых профессий, в которых человек и робот не будут конкурировать;
4) сокращение численности населения вследствие отказа людей от создания семьи по причине праздного образа жизни (введение БОД);
5) сокращение продолжительности рабочего дня по причине роботизации;
6) внедрение цифровой диктатуры;
7) мультипликативное падение спроса и возникновение масштабной кризисной ситуации [4]. Перечисленные выше последствия кибернизации
производства кардинально повлияют на социум. Быстрый рост безработицы неизбежно приведет к социальному расслоению и разложению. Потерявшие работу и перспективы работники преимущественно физического труда начнут массово совершать преступления и выражать недовольство по поводу роботизации. Это неминуемо вызовет угрозу социального взрыва. Поэтому с целью подавления массовых протестов государства и корпорации могут установить тотальный цифровой контроль за населением. В таких условиях произойдет утрата ценности жизни, прав и свобод человека. Наравне с этим обострятся и социально-экономические противоречия между рабочим классом и собственниками капитала. Данный конфликт спровоцирован заинтересованностью собственника капитала в роботизации для снижения издержек на труд с целью максимизации прибыли. В результате работник отчуждается от трудовой деятельности, что противоречит его интересам. Без политики перераспределения безработные потеряют покупательную способность, спрос сократится [5].
Стоит отметить, что нынешняя рыночная экономика не способна решить вопрос массовой технологической безработицы. Однако можно смягчить ее последствия с помощью следующих мер:
1) международное налоговое сотрудничество;
2) развитие новых секторов экономики: туризма и здравоохранения;
3) налоговая реформа: личное и корпоративное налогообложение;
4) ввод налога на использование роботов;
5) предоставление безусловного дохода, безусловных услуг или активов;
6) благотворительные пожертвования;
7) организация массовых общественных работ;
8) ориентация высшего образования на профессии умственного труда;
9) страхование работников от технологического вытеснения;
10) развитие профсоюзного движения;
11) активное финансирование программы переквалификации [5].
Всемерная социальная поддержка работников со стороны государства позволит снизить градус общественного напряжения. Помимо этого улучшить ситуацию способно использование высвобожденного от роботизации времени для саморазвития, творчества, научных исследований и прохождения курсов цифровой переквалификации. Также кибернизация общества создаст сотни новых профессий, связанных с обеспечением функционирования киберпространства.
Рассматривая социально-этические проблемы кибернизации современного общества, нельзя не затронуть тему трансгуманизма. Трансгуманизм - это активно развивающаяся форма современного мировоззрения, которая рассматривает в качестве главной задачи, стоящей перед человечеством, достижение индивидуального бессмертия при помощи замены тела человека механическими аналогами или переноса сознания с помощью компьютерных технологий в новую «оболочку» [6]. Высшей формой развития цивилизации здесь признается не человек, а кибернетический гибрид его с машиной. Данный симбиоз позволяет киборгу достичь бессмертия и многократно увеличить свои характеристики в силе, интеллекте, стойкости и т.д.
С одной стороны, трансгуманизм критикуется за форму антигуманизма, предполагающую не только обесценивание и отрицание человека, но его фактическое уничтожение. Так, некоторые эксперты предостерегают о том, что «попытки изменить сущность человека с помощью генной инженерии и чипизации содержат потенциал для разрушения, представляют опасность замены свойств личности и личности и угнетают человеческую природу».
Трансгуманисты же утверждают, что нет завершенной сущности человека и считают трансгуманизм высшей формой гуманизма, направленной на преодоление человеческих пороков и слабостей с помощью использования достижений генной инженерии, клеточной биологии, информационных технологий для модификации своего тела [6]. Сторонники трансгуманизма придерживаются мнения, что только слиянием робота и человека можно создать идеальный киберне-
тический организм, лишенный страданий и являющийся единым целым с другими киборгами. Стоит отметить, что передовые разработки в области биопротезов, генной инженерии, клонирования могут сильно облегчить и продлить жизнь человека, а это необходимо, к примеру, для дальнейшего исследования космоса. Что касается самой этики, то она, по их мнению, будет превращена в этику киборгов, трансчеловеческую этику и, наконец, постчеловеческую этику.
Сложно предугадать, какие моральные и нравственные аспекты будет включать этика будущего. Но, исходя из имеющихся тенденций и представлений трансгуманистов, можно сказать, что в итоге она будет связана с коллективным кибернетическим разумом и достижением неуязвимости и виртуального бессмертия. Не исключается и отказ киборга от физической оболочки (суперкомпьютера), в которой содержится разум кибернетического «постчеловека».
Кибернизация современного общества неизбежно приведет к кардинальным переменам в социуме и этике. Утратят свою силу создаваемые столетиями моральные устои, на смену старой этике придет совершенно новая. Данный закономерный процесс ввиду объективности постоянного НТП невозможно остановить. Не исключено, что для решения проблемы износа человеческого организма и повышения стойкости тела к внешним воздействиям человечеству придется объединить свои тела с роботами, создав общество киборгов. Таким образом, произойдет киборгинизация человека. Дальнейшие перспективы «постчеловека» будут связаны с созданием коллективного кибернетического сознания и достижения бессмертия с последующим лишением физической оболочки. Неизвестно, как на такой скачок в развитии технологий отреагирует человеческое сознание.
Очевидно, что научно-технический прогресс не остановить, но можно минимизировать его риски уже сегодня. Так, нами показано, что этические проблемы в киберпространстве можно решить с помощью создания правовой базы, регулирующей взаимодействие людей и ИИ в киберпространстве. Необходимо также создание профильными специалистами этических программ для киберслужб, регламентирующих правила контроля за цифровым пространством, и этической оценки поведения людей и ИИ в нем.
Социально-этические проблемы робоэтики решаются, в частности, отказом от использования роботов в военных целях, а также от наделенного человеческими качествами компаньона в социальной сфере и в повседневной жизни. Данные меры позволят сохранить духовно-культурную составляющую в человеке. Закрепление в правовой базе законов, регулирующих ответственность создателей роботов, еще больше сократит негативные этические аспекты роботизации. Социальные проблемы, вызванные технологической безработицей, могут быть сглажены активной социальной политикой государства и масштабной цифровой переквалификацией.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК 1. Александр В.Т. Кибернетическое общество как
реальность XXI века / В.Т. Александр. - Текст :
непосредственный // Закон и право. - 2018. - №9.
- С. 742-744.
2. Назарова Ю.В. Новая цифровая этика в виртуальном пространстве: дилеммы контроля и этической экспертизы / Ю.В. Назарова, О.С. Анищенко. -Текст : непосредственный // Гуманитарные ведомости ТГПУ им. Л. Н. Толстого. - 2019. - Т.1. -№4 (32). - С. 23-31.
3. Введенская Е.В. Актуальные проблемы робоэтики / Е.В. Введенская. - Текст : непосредственный // Науковедческие исследования. - 2019. - № 2019. - С. 88-101.
4. Еремин В.В. Роботизация и занятость: отложенная угроза / В. В. Еремин. - Текст : непосредст-
венный // Мир новой экономики. - 2019. - №1. -С. 25-35.
5. Берберов А.Б. Технологическая безработица: проблема конфликта экономических интересов / А.Б. Берберов. - Текст : непосредственный // Теоретическая экономика. - 2020. - №6 (66). -С85-95.
6. Иванов Е.М. Трансгуманизм и проблема бессмертия / Е.М. Иванов, О.В. Шимельфениг. - Текст : непосредственный // Идеи и идеалы. - 2020. -Т. 12. №1-1. - С. 104-122.
© Елена Александровна Дагаева, 2022 © Тимур Денисович Климачев, 2022 © Частное образовательное учреждение высшего образования «Таганрогский институт управления и экономики», 2022
