CC BY
17
ЭТИКА
УДК 17.031 DOI: 10.31249/rphil/2024.01.03
ЛЕТОВ О.В.* ЭТИЧЕСКИЕ АСПЕКТЫ В ОБЛАСТИ РАЗРАБОТКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА (Обзор)
Аннотация. Обзор посвящен актуальным этическим проблемам в области разработки искусственного интеллекта. Если традиционно в области этических исследований в центре стоял познающий субъект, или человек, то в настоящее время философы всерьез изучают возможные аспекты этических взаимоотношений с представителями искусственного разума. Остро встает вопрос о том, как эти технологии могут помочь сформировать общество будущего.
Ключевые слова: социальные роботы; искусственный интеллект; мультикультурные подходы; прокси-культура; доверие; алгоритмическая ответственность; непрозрачность алгоритмов; искусственное сознание; высокие технологии.
LETOV O.V. Ethical considerations in artificial intelligence development (Review)
Annotation. The review is devoted to current ethical issues in the field of artificial intelligence development. If traditionally in the field of ethical research the cognitive subject, or person, was at the center, now philosophers are seriously studying possible aspects of ethical relationships with representatives of artificial intelligence. The pressing
Летов Олег Владимирович - кандидат философских наук, старший научный сотрудник отдела философии Института научной информации по общественным наукам РАН; mramor59@mail.ru
34
question is how these technologies can help shape the society of the future.
Keywords: social robots; artificial intelligence; multicultural approaches; proxy culture; confidence; algorithmic responsibility; opacity of algorithms; artificial consciousness; high technology.
Для цитирования: Летов О.В. Этические аспекты в области разработки искусственного интеллекта (Обзор) // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 3: Философия. -2024. - № 1. - С. 34-44. - DOI: 10.31249/rphil/2024.01.03
Если традиционно в области этических исследований в центре стоял познающий субъект, или человек, то в настоящее время философы всерьез изучают возможные аспекты этических взаимоотношений с представителями искусственного разума.
С. Нихольм (университет Людвига-Максимиллиана, Мюнхен, Германия) и др. отмечают, что достижения в области искусственного интеллекта и (социальной) робототехники поднимают актуальные вопросы о том, как эти технологии могут помочь сформировать общество будущего. Необходимо рассмотреть социальные и концептуальные изменения, которые могут быть связаны с социальными роботами и, в частности, с гуманоидными социальными роботами. Ключевым понятием в этом контексте является идея антропоморфизма: человеческая тенденция приписывать человеческие качества не только своим собратьям, но также частям природы и технологиям.
Эта тенденция антропоморфизировать технологии, реагируя на них и взаимодействуя с ними так, как будто они обладают человеческими качествами, является одной из причин, почему социальные роботы (в частности, социальные роботы, спроектированные так, чтобы выглядеть и вести себя как люди) могут быть социально разрушительными. В то время как некоторые исследователи этики считают, что антропоморфизация - это ошибка, которая может привести к различным формам обмана, другие - в том числе как исследователи этики, так и специалисты по социальной робототехнике - полагают, что может быть полезно или уместно относиться к роботам антропоморфизирующим образом. Неизбежно возникает вопрос, могут ли социальные роботы быть моральными субъектами, т.е. имеет ли смысл относиться к ним с мо-
35
ральной точки зрения. «Позиция человека по этому вопросу будет зависеть либо от его взглядов на то, могут ли социальные роботы иметь, имитировать или представлять морально значимые свойства, либо от того, как люди относятся к социальным роботам в своем взаимодействии с ними» [3, с. 54].
Хотя выражение «искусственный интеллект» пришло из информатики, слово «робот» берет свое начало в научной фантастике. Это слово было придумано чешским драматургом Карелом Чапеком в его пьесе 1920 г. «Р.У.Р.: универсальные роботы Россума». Роботы в этой пьесе были похожи на тех, кого многие люди до сих пор представляют, когда слышат слово «робот»: серебристые / металлические искусственные существа с отдаленно гуманоидной формой, созданные, чтобы выполнять работу за людей. Роботы в этой пьесе работают на фабрике. Ближе к концу пьесы роботы хотят свободы и стремятся узнать, как создавать своих собственных детей-роботов, чтобы им больше не приходилось зависеть от своих создателей-людей. Слово «робот» происходит от чешского слова «робота», что примерно означает «принудительный труд». Выражение «искусственный интеллект» было введено в исследовательском предложении 1955 г. для летнего семинара, который проходил в Дартмутском колледже в Ганновере, штат Нью-Хэмпшир, в 1956 г., где исследователи предложили создать технологии, способные «моделировать» все аспекты человеческого обучения, которые можно точно описать.
Современные философы и другие люди, пишущие о роботах или участвующие в их создании, когда используют слово «робот», обычно не имеют в виду искусственных людей, работающих на фабриках, хотя это одна из идей научной фантастики, которая до сих пор актуальна. Фактически, предприниматель в области технологий Илон Маск предложил аналогичное видение в августе 2021 г., когда он представил свою идею «Tesla Bot» во время рекламного мероприятия Tesla. Он выдвинул идею робота гуманоидной формы, который будет работать на заводах Теслы, чтобы людям больше не нужно было выполнять подобную работу. Все это напоминает роботов в пьесе Чапека.
Когда ученые предлагают определения того, что они подразумевают под словом «робот», они обычно утверждают, что робо-
36
ты - это воплощенные машины с датчиками, с помощью которых они получают информацию об окружающей среде, и с особыми механизмами, благодаря которым они могут реагировать на воздействия окружающей среды, выполняя определенные задачи. Исследователи иногда говорят о парадигме «чувствовать, планировать, действовать» относительно того, как понять, что такое робот. Робот - это машина, которая может чувствовать окружающую среду, планировать, что она может сделать для достижения своей задачи, а затем действовать так, чтобы достичь своей цели. Социальный робот - это робот, который предназначен для межличностного взаимодействия с людьми. Например, социальный робот может реагировать на прикосновения реактивным / социальным образом, может иметь функцию чата или может иным образом реагировать на человеческое взаимодействие так, как можно ожидать от социального существа. Такой робот не обязательно должен выглядеть как образцовый робот из научной фантастики (например, как роботы в классическом фильме 1927 г. «Метрополис»), но может принимать разные формы.
Примечательно, что в будущем следует ожидать, что социальные роботы будут использоваться в еще более широком спектре сфер человеческой жизни. Это использование имеет последствия не только для технического дизайна (т.е. архитектуры и когнитивного дизайна), но и для социотехнических систем, которые лежат в основе различных потенциальных контекстов для социальных роботов, а также экосистем, в которых они будут развернуты. С технической стороны, вероятно, будет усиливаться конвергенция между социальной робототехникой и другими разработками в области ИИ, такими как генеративный ИИ, т.е. формы ИИ, которые могут генерировать новый контент из данных, на которых они обучались, например, технологии больших языковых моделей.
Ключевой этический вопрос в отношении потенциального внедрения социальных роботов во все больших масштабах заключается в том, существуют ли какие-либо контексты / домены, где использование социальных роботов более проблематично, чем в других, и где лучше избегать внедрения социальных роботов. В целом возникнет много новых этических вопросов о том, как
37
следует взаимодействовать с этими роботами в различных условиях, а также о распределении обязанностей по мере того, как роботы будут оснащаться более совершенными способностями и возможностями. Возможно, появятся новые гибридные интеллектуальные формы, что приведет к дальнейшим перспективам проектирования социотехнических систем в разных культурах (и поколениях).
В целом то, как роботы воспринимаются в обществе, принимаются ли они и как с ними обращаются, во многом зависит от культурных факторов, поэтому важны мультикультурные подходы к роботам. Религии и другие формы мировоззрения также играют важную роль как факторы культурного влияния, поскольку они формируют системы ценностей, понимание природы и творения, а также отношение к нечеловеческим существам и, таким образом, также влияют на отношение к технологиям. Есть существенные различия в отношении религий к технологиям, особенно между монотеистическими и немонотеистическими религиями. Последние исторически более открыты для разнообразного отношения к объектам и технологиям.
С. Нихольм и др. выдвигают дополнительные предложения о том, как ответственно, но дальновидно развивать исследования в области социальной робототехники. Например, можно было бы уделять больше внимания развитию для социальных роботов системы оповещения, которая бы предупреждала людей об особых возможностях каждого робота. Это позволило бы людям понять, как лучше всего подойти к роботу и обращаться с ним, без необходимости бороться с моральными проблемами в процессе взаимоотношений. Однако чтобы оценить этические нарушения, которые способны нанести людям социальные роботы, и определить значимые пути вперед, необходимо стимулировать трансдисциплинарные исследования. «Только таким путем можно плодотворно объединить междисциплинарные взгляды на социальных роботов представителей разных областей знания, таких как философия, антропология, социальные науки, психология, дизайн, информатика и робототехника, а также будущих индивидуальных пользователей, которые могут больше всего пострадать от внедрения социальных роботов в общественный процесс» [3, с. 74].
38
Т.Г. Лешкевич (доктор философских наук, профессор Южного федерального университета, Ростов-на-Дону) отмечает, что поскольку технологии искусственного интеллекта (ИИ) могут столкнуться с неполадками, основная проблема связана с анализом парадокса доверия к ИИ, включающего в себя как позицию доверительного отношения к онлайновым системам, серверам и программному обеспечению, так и факты сбоев, демонстрируемых искусственным интеллектом. Целью статьи Т.Г. Лешкевич является изучение парадокса доверия к системе ИИ с учетом сопоставления аргументов «pro & contra». Это предполагает, во-первых, выявление сути и спецификипрокси-культуры как культуры доверия. Во-вторых, рассмотрение непрозрачности ИИ, усиливающей потребность в алгоритмической ответственности.
В ситуации XXI в. на фоне четко артикулированной проблемы неконтролируемых последствий развития искусственного интеллекта (ИИ), именуемой как «Black Box Problem» («проблема выхода из-под контроля»), распространена альтернативная практика доверия интеллектуальным системам, онлайн-платформам и веб-сайтам, принимающим запросы и действующим от имени пользователя. Такой тип взаимодействий, инициированных от имени «кого-то», в англоязычных источниках назван прокси-куль-турой. «Устройства, становясь умными и "сверхумными", возлагают на себя функции быть референтом человеческих апелляций» [1, с. 35]. Но поскольку имеют место как позиция, свидетельствующая о безусловном доверии к ИИ, так и позиция, фиксирующая беспокойство по поводу неконтролируемого или даже злонамеренного использования ИИ, возникает парадокс доверия к ИИ.
Основная проблема связана со столкновением двух противоположных тенденций: с одной стороны, это субъекты, доверяющие онлайновым системам, серверам и программному обеспечению так, как они доверяли бы самим себе, с другой - сбой, который демонстрирует искусственный интеллект, свидетельствуя о своих неполадках. Анализ парадокса доверия к системе ИИ показывает, что данный тип доверия предполагает принятие работающего технологического принципа, включающего программный код, и не может быть отождествлен с доверием, основанным на межличностном общении. Вместе с тем основа идеи доверия, признанная
39
в том числе и в современном социо-гуманитарном дискурсе, связана с делегированием кому-либо тех или иных функций, или согласием и готовностью следовать тем или иным «правилам игры», решениям и регламентациям на добровольной основе. Феномен доверия выступает в статусе исходного метаотношения, выполняя универсальную регуляторную роль, т.е. индивид доверяет или не доверяет людям, институциям, организациям, техническим системами пр. Различные уровни доверия идентифицируются в связи с осознаниемуязвимости того или иного типа взаимодействий и их негарантированных исходов. «В современных условиях, когда цифровизация проникла во все сферы жизненного мира, обеспечение доверия к системам ИИ является ключевым фактором и главным требованием технологической эволюции» [1, с. 37].
При рассмотрении «прокси»-культуры следует отметить, что этимологически термин «прокси» (proxy) восходит к англоязычному понятию «procuracy» - «действовать по доверенности», и, по сути, представляет собой сокращение от этого термина. «Прокси», означая «законные действия, предпринятые от имени кого-то», обнаруживает себя в контексте общественно-политической сферы или юридической практики. В информационном обществе феномен «прокси» вызывает ассоциацию с онлайн-системами (вебсайтами, платформами и серверами), которые принимают запросы на некоторые услуги и передают их в другую систему (например, в Интернет). Тем самым идея доверия, разрешающая «действие от лица некоего субъекта», оказывается в основе такого взаимодействия. Прокси-сервер делает возможным и обеспечивает определенную операцию благодаря тому, что представляет некий искомый объект и включает в себя набор интеракций, обеспечивающих действия от имени субъекта. При этом физический контакт с реальным представителем становится ненужным.
В обществе взаимосвязанных данных важность алгоритмов становитсяочевидной. Прокси-серверы, обеспечивающие доступ к услугам, замещают физический акт приобретения, а иногда и владения товарами. При этом функция замещения отношений c объектами реального мира цифровыми транзакциями позволяет включить в сферу человеческого опыта ранее физически затруднительные или даже невозможные взаимодействия. Острота проблемы алгорит-
40
мической ответственности связана с тем, что лица, принимающие решения, полагаются на выводы автоматизированной системы при минимальном участии человека или вовсе без него. Решение основывается на принципе компьютерной алгоритмизации: алгоритмизированные системы принимают определенные входные данные и генерируют определенные выходные данные с помощью вычислительных средств. В общем виде алгоритм - это организованный специальным образом набор шагов для обработки данных в направлении достижения поставленной цели.
Т.Г. Лешкевич приходит к следующим выводам. Анализ парадокса доверия к ИИ с точки зрения функционального аспекта указывает на угрозы того, что ИИ, используя собственные преимущества, станет корректировать самого себя, выйдет из-под контроля и начнет действовать злонамеренно. Феномен доверия обусловлен потребностью в прозрачности и объяснимости работы ИИ, вместе с тем обеспечение доверия к ИИ тесно сопряжено с безопасностью его функционирования для жизни и деятельности человека. Возникает необходимость согласованности системы человеческих ценностей с программами развития и использования ИИ. И хотя оценки доверия к системам ИИ формулируются по-разному, в них должны учитываться соображения не только эффективности, но и справедливости. Важный этико-правовой фактор связан с потребностью перестройки отношений с информационными технологиями с целью подчинения их человеческой рефлексии и осознанности.
А.П. Любимов (доктор юридических наук, профессор, заместитель главного ученого секретаря президиума РАН), Г.А. Май-стренко (кандидат юридических наук, старший научный сотрудник, научно-исследовательский институт Федеральной службы исполнения наказаний России) подчеркивают, что вопрос о применении искусственного интеллекта в России и в мире является чрезвычайно актуальным в силу того значения, которое новейшие разработки приобрели в таких областях, как медицина, судебная система, военное дело. Развитие высоких технологий в настоящее время является одним из основных факторов, определяющих успех страны на международной арене. От новейших исследовательских технологических разработок сегодня зависит развитие всех сфер
41
жизнедеятельности общества - не только экономической и социальной, в которых высокие технологии получили довольно широкое применение, но также политической и культурной, в которые они активно включаются, позволяя оптимизировать традиционные подходы к организации деятельности в данных сферах.
На современном этапе в силу стремительного технологического развития появилась возможность имитировать при помощи специальных устройств (машин либо компьютеров) поведенческие особенности, свойственные исключительно человеку. «Эти устройства в результате усовершенствований последних лет могут успешно выполнять задачи, решения которых опираются на знания о разумном мышлении. Такие технологии получили название искусственного интеллекта» [2, с. 122]. Искусственный интеллект следует отличать от такого термина, как искусственное сознание или, как его еще называют, вычислительный интеллект. Применение искусственного интеллекта обусловлено, прежде всего, задачами определенной имитации творческих способностей человека, а также свойственных ему образцов поведения в определенных видах деятельности. В свою очередь, искусственное сознание, именуемое также машинным, либо синтетическим сознанием, представляет собой сферу, которая обладает тесной связью с искусственным интеллектом и когнитивной робототехникой. Как следствие, искусственное сознание является понятием более широким, нежели искусственный интеллект. Их фундаментальным отличием выступает присущая искусственному сознанию неограниченная возможность развития. Иными словами, искусственное сознание обладает потенциальной возможностью прогрессировать без участия человека.
Искусственный интеллект просто имитирует мыслительные процессы, свойственные человеку: они являются подконтрольными ему уже на стадии разработки подобных систем. Работа последних формируется на основе определенных алгоритмов, т.е. в пределах, ограниченных условиями, которые задаются программе ее разработчиком. Искусственный интеллект можно понимать как способность компьютера успешно решать задачи, с выполнением которых обычно справляются разумные существа. Поскольку человеческое сознание является результатом взаимодействия лично-
42
сти с окружающей действительностью, оно позволяет ей научиться реагировать на импульсы, посылаемые внешним миром, формирует ее поведение, действуя при этом как бы вне человека, выходя за границы его физического тела. В этом смысле оно действует по принципу искусственного интеллекта. Это также определяет связь последнего с сознанием искусственным, поскольку в основу его положены мыслительные процессы, свойственные человеку.
В современных условиях в передовых в технологическом отношении странах искусственный интеллект превратился фактически в целую индустрию, позволяющую эффективно решать проблемы и задачи повседневности. Искусственный интеллект, с точки зрения аналитиков, является одним из действенных путей преодоления страной кризисных экономических состояний. В связи с этим значение внедрения искусственного интеллекта в различные сферы жизнедеятельности все более возрастает. Достижения искусственного интеллекта в России активно применяются в самых различных сферах, в частности в финансовой, социальной и даже в тяжелой промышленности. Примером тому может служить использование искусственного интеллекта Сбербанком. В социальной сфере искусственный интеллект в России - это внедрение в общественные практики разработок кампании «Яндекс», в частности Yandex SpeechKit - специального сервиса, позволяющего не только распознавать речь, но также и синтезировать ее на нескольких языках. Данный сервис дает возможность общения с клиентами без помощи операторов. В числе основных причин, определяющих более низкие темпы развития российского рынка искусственного интеллекта, следует отметить невысокий спрос потребителей на данный вид технологий.
А.П. Любимов и Г.А. Майстренко делают вывод, что в Российской Федерации перспективы развития искусственного интеллекта не менее оптимистичные, нежели в западных и восточных странах. Однако осознание правительством страны необходимости дальнейших вложений в сферу высоких технологий должно сочетаться со стремлением населения, организаций и предприятий активно применять их в своей жизни. В этой ситуации необходимо большее количество отечественных гражданских продуктов и из-
43
делий, созданных с использованием возможностей, технологий и систем искусственного интеллекта. Наращивание числа таких продуктов поможет развить у населения устойчивое отношение к современным технологиям искусственного интеллекта.
Список литературы
1. Лешкевич Т.Г. Парадокс доверия к искусственному интеллекту и его обоснование // Философия науки и техники. - Москва, 2023. - Т. 28, № 1. - С. 34-47.
2. Любимов А.П., Майстренко Г.А. Перспективы искусственного интеллекта в России и за рубежом // Философия науки и техники. - Москва, 2023. - Т. 28, № 1. - С. 121-132.
3. Social robots and society / Nyholm S. [et al] ; Ibo van de Poel, Lily Frank, Julia Hermann, Jeroen Hopster, Dominic Lenzi, Sven Nyholm, Behnam Taebi, Elena Ziliotti (eds) // Ethics of socially disruptive technologies: An Introduction. -Cambridge, UK : Open Book Publishers, 2023. - P. 53-82.
44
