CC BY
48
ГУМАНИТАРНЫЕ АСПЕКТЫ ГЛОБАЛИСТИКИ
ЭТИКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, ДИСКРИМИНАЦИЯ И НЕРАВЕНСТВО
Волобуев А. В.*
Статья посвящена наиболее острым социально-этическим проблемам, связанным с разработкой и повсеместным внедрением развитого искусственного интеллекта в контексте глобальной цифровизации. Рассматриваются влияние искусственного интеллекта на экономический рост, производительность и рабочую силу; усугубление и консервация неравенства, вызванного внедрением технологий на основе искусственного интеллекта. В статье ставится под сомнение миф о том, что внедрение развитого искусственного интеллекта приведет к замещению рабочих мест, связанных с монотонным и повторяющимся трудом, оставив только «творческие» профессии; напротив, необходимость разработки, обучения и технического сопровождения искусственного интеллекта ведет к появлению огромного количества «призрачных» рабочих мест с однообразной работой, при этом безо всякого контракта и контроля трудовых отношений. Также анализируются связанная с ИИ дискриминация на рынке труда и другие последствия для человека и общества. В статье демонстрируется переплетение этических проблем и социальных последствий широкого внедрения продвинутого искусственного интеллекта.
Ключевые слова: искусственный интеллект, этика, цифровизация, глобализация, научно-техническая революция, социальная философия, неравенство, дискриминация.
ETHICS OF ARTIFICIAL INTELLIGENCE, DISCRIMINATION AND INEQUALITY
The article is devoted to the most acute socio-ethical problems associated with the development and widespread introduction of advanced artificial intelligence in the context of global digitalization. The author examines the impact of artificial intelligence on economic growth, productivity and the labour force; the worsening and persistence of inequalities caused by the adoption of AI-based technologies.
* Волобуев Алексей Викторович - к. ф. н., доцент Департамента гуманитарных наук Финансового университета при Правительстве РФ. E-mail: [email protected].
Alexey V. Volobuyev - Ph.D in Pholosophy, Assistant Professor at the Department of Humanities of Financial University under the Government of the Russian Federation. E-mail: [email protected].
Век глобализации 3/2023 48-62
DOI: 10.30884/vglob/2023.03.04
The article questions the myth that the introduction of advanced artificial intelligence will lead to replacement of jobs associated with monotonous and repetitive labor, leaving only "creative" professions; on the contrary, the need for development, training and technical support of artificial intelligence leads to the emergence of a huge number of "ghost" jobs with monotonous work, without any contract and control of labor relations. Al-related discrimination in the labour market and other implications for the individual and society are also analyzed. The article demonstrates the interweaving of ethical issues and the social implications of the widespread adoption of advanced artificial intelligence.
Keywords: artificial intelligence, ethics, digitalization, globalization, scientific and technical revolution, social philosophy, inequality, discrimination.
Что такое этика искусственного интеллекта?
Проблемы этики искусственного интеллекта в последние десятилетия превратились из предмета отвлеченных футурологических дискуссий в насущные вопросы, требующие немедленного ответа и действия. В контексте нашей статьи под этикой искусственного интеллекта мы понимаем моральные принципы в смысле ограничений в деятельности искусственного интеллекта, «в тех решениях, которые способна принимать машина, наделенная последним, робот, компьютер, встроенный в другую техническую систему» [Разин 2019: 58].
Философы обсуждали проблемы этики на протяжении многих веков, и существуют различные хорошо известные принципы; возможно, одним из самых известных является категорический императив Канта, который требует от нас действовать так, как мы хотели бы, чтобы все другие люди действовали по отношению к остальным: «Поступай так, чтобы максима твоей воли могла в то же время иметь силу принципа всеобщего законодательства» [Кант 1965: 347], или «Поступай так, как бы ты всегда относился к человечеству и в своем лице, и в лице всякого другого как к цели, и никогда - как к средству». Но насколько это применимо, когда речь идет о машине? Ведь мораль и нравственность - категории человеческие.
Этика искусственного интеллекта связана с важным вопросом о том, как должны вести себя разработчики, производители и операторы, чтобы минимизировать вред для человека и общества, который может возникнуть от действия или бездействия ИИ либо в результате сомнительной с нравственной точки зрения конструкции, ненадлежащего применения или неправильного использования. Сфера применения этики ИИ охватывает непосредственные, сиюминутные проблемы, связанные, например, с конфиденциальностью данных и предвзятостью в современных системах ИИ; краткосрочные и среднесрочные проблемы, связанные, к примеру, с воздействием ИИ и робототехники на рабочие места и рабочую среду; и долгосрочные проблемы, сопряженные с возможностью того, что системы ИИ превысят эквивалентные возможности человека (примером может служить так называемая суперразведка, то есть военная технология, позволяющая в реальном времени обнаруживать практически неограниченное количество точечных целей, таких как личный состав и военная техника, анализируя широкий спектр цифровых источников - от спутниковых снимков до уличных камер).
В ходе стремительной глобальной цифровизации этические вопросы, связанные с искусственным интеллектом, уже стали важной частью политической повестки и общественной дискуссии. Среднестатистический пользователь уже тратит 4,8 часа в день на смартфон [People... 2022], и эта цифра имеет тенденцию к росту. Всепроникающие смартфоны и приложения на основе ИИ, на которые многие из нас сегодня полагаются каждый день, тот факт, что ИИ все больше влияет на все секторы экономики и общественной жизни (включая промышленность, здравоохранение, полицию и судебную систему, транспорт, финансы и досуг), а также угрожающая перспектива гонки вооружений вызвала огромное число национальных и международных инициатив со стороны НПО, научных и промышленных группировок, профессиональных органов и правительств. Эти инициативы привели к публикации большого количества наборов этических принципов для робототехники и ИИ (с января 2017 г. было опубликовано не менее 22 различных сводов этических принципов). Регулярно появляются новые этические стандарты (в частности, от Британского института стандартов и Ассоциации стандартов института IEEE). Растет число стран и наднациональных объединений, которые публикуют стратегии развития ИИ (с крупными инвестициями) и создают национальные консультативные или политические органы.
Этот процесс питают и алармистские, и оптимистические оценки глобальной цифровизации. Люди веками, еще со времен мануфактур и первых фабрик, были обеспокоены вытеснением рабочих технологиями. Эту проблему массы рабочих осознавали еще во времена самой первой промышленной революции, пытаясь, как луддиты, бороться с самими машинами. Было предсказано, что механизация, а затем автоматизация, цифровизация, а также - в последнее время - ИИ и робототехника уничтожат многие рабочие места и нанесут необратимый ущерб рынку труда. В. Леонтьев [Leontief 1983], наблюдая за взрывным ростом вычислительной мощности компьютерных чипов, беспокоился, что людей заменят машинами, так же как лошадей и осликов вытеснили двигатели внутреннего сгорания. Однако в прошлом автоматизация часто заменяла человеческий труд в краткосрочной перспективе, но приводила к созданию рабочих мест в долгосрочной перспективе.
Тем не менее широко распространено опасение, что искусственный интеллект и связанные с ним технологии могут вызвать массовую безработицу в течение следующих двух десятилетий. К. Б. Фрей и М. А. Осборн обосновывают вывод о том, что новые информационные технологии поставят под угрозу «значительную долю занятости по широкому кругу профессий в ближайшем будущем» [Frey, Osborne 2013].
Различные формы искусственного интеллекта уже глубоко инкорпорированы в работу сферы финансов, исследований космоса, промышленности (причем не только автоматизированных систем управления), транспорта, развития энергетики и здравоохранения. Отдельного внимания заслуживают роботизация и цифровизация войны. Беспилотные автомобили и автономные беспилотники также выполняют функции, которые ранее требовали вмешательства человека, а нейросети оперативно обрабатывают нечеловеческий объем разведданных и выдают целеуказание. Мы уже видели влияние автоматизации на рабочие места «синих воротничков»; однако по мере того как компьютеры становятся все более изощренны-
ми, креативными и универсальными, все больше рабочих мест зависит от технологий и все больше должностей устаревает.
Искусственный интеллект и изменения в характере труда
Экономисты в целом с энтузиазмом относятся к перспективам ИИ по экономическому росту. В период с 1993 по 2007 г. робототехника увеличила ежегодный рост ВВП на 0,4 п. п. и производительность труда в 17 странах, что аналогично влиянию внедрения паровых двигателей на рост промышленного производства в Соединенном Королевстве викторианской эпохи [Graetz et al. 2015].
Трудно количественно оценить влияние роботов, ИИ и датчиков на рынок труда и условия труда, потому что мы находимся на ранних стадиях технологической революции. Экономисты также не пришли к единому мнению относительно воздействия ИИ и робототехники на рынок труда. В одном исследовании 1896 экспертам были заданы вопросы о влиянии новых технологий; 48 % считают, что роботы и цифровые агенты вытеснят значительное число «синих» и «белых» работников, при этом многие выражают обеспокоенность тем, что это приведет к значительному увеличению неравенства доходов, большому количеству безработных и нарушению социального порядка [Smith, Anderson 2014]. Однако другая половина экспертов, ответивших на этот опрос (52 %), ожидала, что интеллектуальная технология вытеснит не больше рабочих мест, чем она создаст к 2025 г. Эти эксперты считали, что, хотя многие работы, выполняемые в настоящее время людьми, будут в значительной степени освоены роботами или цифровыми агентами, человеческая изобретательность создаст новые рабочие места, отрасли и способы зарабатывать на жизнь.
Некоторые утверждают, что технология уже приводит к серьезным изменениям в рабочей силе: «Технический прогресс оставит позади некоторых людей, возможно, даже многих людей, поскольку он забегает вперед... никогда не было лучшего времени, чтобы быть работником с особыми навыками или правильным образованием, потому что эти люди могут использовать технологии для создания и получения ценности. Однако никогда не было худшего времени, чтобы быть работником, обладающим только "обычными" навыками и способностями, потому что компьютеры, роботы и другие цифровые технологии приобретают эти навыки и способности с необыкновенной скоростью» [Brynjolfsson, McAfee 2014].
Форд вносит столь же ясное предупреждение и утверждает, что «по мере ускорения технологии автоматизация машин может в конечном итоге проникнуть в экономику до такой степени, что заработная плата больше не обеспечит основной массе потребителей адекватный устойчивый доход и уверенность в будущем. Если этот вопрос не будет решен, результатом станет нисходящая экономическая спираль». Он предупреждает, что «в какой-то момент в будущем - это может быть много лет или десятилетий спустя - машины смогут выполнять работу большого процента» средних «людей в нашем населении, и эти люди не смогут найти новую работу» [Ford 2009].
Однако некоторые экономисты оспаривают данные утверждения, заявляя, что, хотя многие рабочие места будут потеряны за счет технологических улучше-
ний, станут создаваться новые. По мнению этих лиц, прибыль и потери на рабочих местах в долгосрочной перспективе будут сведены на нет.
«Может быть, станет меньше людей, сортирующих вещи на складе, потому что машины могут делать это лучше, чем люди. Но будут созданы рабочие места для анализа больших данных, информации о добыче полезных ископаемых и управления сетями обмена данными» [West 2018].
В том случае, если развитие искусственного интеллекта подстегнет экономический рост, это будет способствовать созданию рабочих мест во всей экономике, в том числе не связанных напрямую с технологией. Например, доля работников в секторах досуга и гостиничного бизнеса может увеличиться, если доходы домо-хозяйств возрастут, что позволит людям больше путешествовать и ходить в рестораны [Furman, Seamans 2018].
Автоматизация, несомненно, затронет целый ряд секторов рынка труда. К. Б. Фрей и М. А. Осборн [Frey, Osborne 2013] подсчитали: существует большая вероятность того, что 47 % американских работников в течение следующих 20 лет доживут до момента, когда их работа станет выполняться искусственным интеллектом. Согласно их аналитическому исследованию, эксперты по праву, швеи и портные, прикладные математики, страховщики, вахтенные ремонтники, грузовые агенты, налоговики, работники фотографических процессов, бухгалтеры, библиотечные техники и специалисты по вводу данных, а также широкий спектр работников маркетинга и ритейла могут быть с вероятностью 99 % заменены компьютерами в течение 20 лет. На другом конце спектра - специалисты по восстановительной терапии, механики-контролеры, антикризисные менеджеры и специалисты по управлению чрезвычайными ситуациями, социальные работники, психиатры, отоларингологи, психоаналитики, терапевты, стоматологи-хирурги, пожарные и диетологи, которые вряд ли будут заменены даже на 1 %.
Следующее исследование было, по существу, сбором экспертных оценок. Команда опросила 156 академических и отраслевых экспертов в области машинного обучения, робототехники и интеллектуальных систем и спросила их, какие задачи, по их мнению, в настоящее время могут быть автоматизированы [Duckworth et al. 2014]. Ответы были предсказуемыми: что работа, которая является канцелярской, повторяющейся, точной и перцептивной, может все чаще автоматизироваться, в то время как работа, которая является более творческой, динамичной и ориентированной на человека, имеет тенденцию быть менее «автоматизированной». Но как узнать, является ли профессия «творческой»?
Вызывает беспокойство то, что между «в основном» и «полностью» автоматизированной работой оказалось в восемь раз больше «работы», чем между «в основном не» и «совсем не» автоматизированной, при взвешивании по занятости. Деятельность, классифицированная как «обоснование и принятие решений» и «координация, разработка, управление и консультирование», является менее вероятной для автоматизации, чем другие виды деятельности, в то время как «управление», «обработка информации и данных» и «осуществление сложной и технической деятельности», скорее всего, будут более эффективными.
В целом модель предсказывала очень высокий потенциал автоматизации для офисных, административных и торговых профессий, в которых в общей сложно-
сти только в США заняты около 38 млн человек. Кроме того, высоким риском автоматизации характеризовались физические процессы, такие как производство, сельское хозяйство, рыболовство и лесное хозяйство, а также транспорт и перемещение материалов, в которых в общей сложности заняты около 20 млн человек. Напротив, сферы деятельности, которые едва ли могут быть подвергнуты автоматизации в ближайшие годы, - это образование, адвокатская деятельность, общественные работы, искусство и СМИ, и в меньшей степени - менеджмент, бизнес и финансовые профессии.
Неудивительно, что исследование показало: профессии с самой высокой зарплатой и уровнем образования, как правило, наименее поддаются автоматизации. Однако даже это не гарантирует, что деятельность, связанная с занятием, не может быть автоматизирована. Как отмечают авторы, авиадиспетчеры зарабатывают около 125 000 долларов США в год, однако считается, что их задачи в значительной степени можно автоматизировать. В отличие от этого дошкольные учителя и помощники преподавателей зарабатывают менее 30 000 долларов США в год, однако их функции, согласно общепризнанному мнению, не поддаются автоматизации. Поэтому в качестве «средней температуры по больнице» можно указать на рабочие места нижней части среднего класса как наиболее уязвимые для автоматизации. Почему не самые простые и низкооплачиваемые должности? Чаще всего оплата труда в них насколько низка, что автоматизация попросту невыгодна.
Необходимо отметить, что большая часть рассуждений, приведенных в данном параграфе, основана на экспертных заключениях, ибо речь идет о будущем, и фактических данных немного. Эксперты могут ошибаться. Например, очевидно, что ChatGPT изменит систему образования, фактически уничтожив эссе и сочинение как формы контроля успеваемости. Но как адаптируется к этому система?
Искусственный интеллект и дискриминация на рынке труда
Последствия этих значительных изменений, разумеется, по-разному отразятся на разных стратах и половозрастных группах. По мнению Комиссии по занятости и навыкам Соединенного Королевства (UK Commission for Employment and Skills), те работники, у которых мало технических навыков и компетенций, столкнутся с наибольшими трудностями (по данным за 2014 г.). Молодые люди, выходящие на рынок труда, также будут затронуты в непропорционально большой степени, поскольку они находятся в начале своей карьеры и станут первым поколением, работающим вместе с искусственным интеллектом и конкурирующим с ним [Biavaschi et al. 2013]. Несмотря на то что у многих молодых людей есть время, чтобы приобрести соответствующий опыт, немногие получают подготовку в области науки, техники, инженерии и математики (STEM), которая могла бы повысить их шансы на адаптацию к новым условиям рынка труда. По данным Министерства образования США, в период с 2010 по 2020 г. количество рабочих мест в STEM увеличилось на 14 %, но только 16 % американских старшеклассников владеют математикой и заинтересованы в карьере в STEM.
Женщины также могут быть затронуты изменениями на рынке труда в непропорционально большой степени, поскольку все большее количество из них работает на должностях по уходу за детьми, пожилыми людьми и т. п. - в одном из
секторов, которые, вероятно, будут освоены роботами. Также под ударом окажутся бедные, поскольку из-за дискриминации и ограниченного доступа к образованию они будут иметь большие проблемы с адаптацией к быстро меняющемуся рынку труда. Многие из этих лиц также не имеют доступа к высокоскоростному Интернету, что ограничивает их возможности доступа к образованию, профессиональной подготовке и занятости.
Специальный опрос «Евробарометра 460» выявил, что жители ЕС в значительной степени положительно реагируют на все более широкое использование цифровых технологий, считая это улучшением общества, экономики и качества их жизни, и что большинство также считают себя достаточно компетентными, чтобы использовать эту технологию в различных аспектах своей жизни и работы [European... 2017]. Однако крайне важно, что это отношение варьировалось в зависимости от возраста, местоположения и образовательного уровня. Данный вывод имеет центральное значение для вопроса о том, как ИИ будет влиять на различные демографические показатели и потенциальные проблемы, возникающие вокруг «цифрового разрыва».
Например, молодые люди с высоким уровнем образования с наибольшей вероятностью придерживаются позитивных взглядов на цифровизацию и использование роботов, а также с наибольшей вероятностью приняли ту или иную защитную меру, касающуюся их конфиденциальности и безопасности в Интернете (таким образом, они подвергаются меньшему риску в этой области). Такого рода социально-демографические модели очерчивают одну из ключевых областей, вызывающих озабоченность в связи со все более широким развитием и внедрением ИИ; ведь никто не должен оказаться в неблагоприятном положении или остаться в стороне [Ibid. ].
Когда мы говорим об «ИИ во благо», нам нужно определить, что значит «благо». В настоящее время ключевые показатели эффективности, на которые мы рассчитываем, формируются вокруг экономических агрегаторов вроде ВВП. Чаще всего в экспертных оценках здесь речь идет об измерении производительности и экспоненциальной прибыли, а не о моральном зле.
Возможно, что ИИ и роботизированные технологии могут усугубить существующие социально-экономические разногласия, поместив в зону риска многие профессии, ликвидируя многие рабочие места, вызывая массовую безработицу в тех секторах занятости, которые окажутся в значительной степени автоматизированными. Другой проблемой, которую новый этап научно-технической революции способен усилить, может оказаться социальная дискриминация, поскольку молодые люди могут подвергаться непропорционально сильному воздействию наряду с лицами, не имеющими высокой квалификации.
Современный этап научно-технической революции и социальное неравенство
Пожалуй, самая серьезная проблема, которая далеко не всегда включается в вопросы этики искусственного интеллекта, - усугубление неравенства в ходе четвертой промышленной революции.
Это социальная и этическая проблема, но она имеет ярко выраженную политическую направленность и может быть сформулирована иначе. «Кто извлекает выгоду из цифровизации?» - формулирует вопрос Дж. Стилго [Stilgoe, Winfield 2018].
Внедрение продвинутого искусственного интеллекта и роботизация, как ожидают, позволят компаниям оптимизировать свою деловую активность, делая их более эффективными и продуктивными. Однако некоторые утверждают, что это произойдет за счет их массовых сокращений, увольнений и перевода на менее высокооплачиваемые должности. Это означает, что доходы неизбежно будут разделены на меньшее количество людей, увеличивая социальное неравенство. Следовательно, люди, которые имеют собственность в управляемых AI компаниях, собираются извлечь выгоду непропорционально.
Изменения в занятости, связанные с автоматизацией и оцифровкой, выразятся не только и не столько в потере рабочих мест, поскольку ИИ, как ожидают эксперты, создаст много новых профессий и даже форм занятости [Hawksworth, Fertig 2018], но также и в качестве работы. А. Винфилд [Winfield 2019b] заявляет, что на новые рабочие места могут потребоваться высококвалифицированные рабочие; таким образом, будут созданы формально «беловоротничковые» предприятия с потогонной системой, наполненные наемными офисными работниками, выполняющими однообразные и повторяющиеся задачи, такие как маркировка и модерация контента. Следовательно, искусственный интеллект отнюдь не всегда создает «творческие» и «развивающие человеческий потенциал» [Idem 2019a] профессии. Автор хотел бы заметить, что в экспертных оценках «творческое» часто противопоставляется тому, что будет заменено ИИ. Но тут возникает дилемма. С одной стороны, «творческим» можно назвать все, что не алгоритми-зированно, тогда прогнозы многих экспертов, по сути, тавтологичны; с другой -современные нейросети успешно вытесняют художников-иллюстраторов - неужели это не была творческая профессия? Не слишком ли многое мы вкладываем в понятие «творчество»? Не слишком ли мы его превозносим?
Также необходимо учесть следующее соображение. Создание и обучение нейросети требует огромного количества формально высококвалифицированного, но повторяющегося труда. Он включает в себя фильтрацию и модерацию оскорбительного контента для его удаления, ручную отметку объектов в изображениях для создания баз данных для тренировки систем машинного обучения (например, чтобы накопить структурированный набор данных для обучения ИИ беспилотного автомобиля) и вопросы толкования текста или речи, которые искусственный интеллект не в состоянии понять. Вместе такие рабочие места иногда известны под термином «шахматный автомат» (англ. Mechanical Turk, названный так в честь механического фокуса XVIII в. Последний заключался в том, что человек играл в шахматы с неким диковинным шахматным автоматом, в котором на самом деле прятался игравший партию карлик). То есть, по сути, это просто обман. И в данном случае мираж продвинутого искусственного интеллекта прикрывает эксплуатацию бесправного труда.
На заре цифровизации, когда Интернет был молодым, такие задачи не считались достойными полноценного рабочего места: работодатели предлагали их как подработку в свободное время, либо же они вообще выполнялись волонтерами
(например, работа модератора до сих пор нередко является неоплачиваемой). Однако М. Л. Грэй и С. Сури [Gray, Suri 2019] предполагают, что 20 млн человек, выполняющих подобные работы по всему миру, теперь наняты как фрилансеры или вообще выполняют задания безо всякого трудового договора, работая вне поля трудового права. Рабочие места менеджеры проектов обычно планируют, разбивают по задачам, обеспечивают и оплачивают онлайн через интерфейсы прикладного программирования (API). Было проведено несколько журналистских расследований подобных проектов с организацией труда через API: Мэри Л. Грэй из Гарварда назвала их «призрачной работой» из-за скрытой природы цепочки создания ценности, обеспечивающей вычислительную мощность, на которой, собственно, продвинутый искусственный интеллект и базируется [Ibid.].
Среднестатистический пользователь технологии ИИ вряд ли может догадываться, что человек был частью процесса - цепочка создания системы непрозрачна, а зачастую совершенно непрозрачно и ее функционирование. Такая организация рабочего процесса порождает сперва острую социальную проблему: рабочие места высококвалифицированных специалистов замещаются десятками работающих в режиме удаленного доступа фрилансеров из стран третьего мира, которые не только не получают справедливого вознаграждения за свой труд, но и не являются, собственно, постоянными работниками и не имеют никаких перспектив не то что роста - даже постоянной занятости и уверенности в завтрашнем дне. Такая схема порождает вторую, уже технологическую проблему. На самом деле некоторые алгоритмы продвинутого искусственного интеллекта работают вовсе не в автоматическим режиме, а с поддержкой тех самых масс фрилансеров из стран третьего мира на «удаленке». Так было, например, с программой автоматического бухгалтерского учета на основе продвинутого искусственного интеллекта, которая, как оказалось, работала при активной помощи сотен низкоквалифицированных и низкооплачиваемых фрилансеров из стран третьего мира. В данном случае искусственный интеллект был не сутью, а лишь рекламной оболочкой весьма посредственного продукта. В самом деле, зачем тратить огромные деньги и рисковать, разрабатывая сложнейшие алгоритмы и обучая нейронные сети, когда можно выполнить работу с помощью новой формы эксплуатации труда работников по Интернету, даже толком не нанимая их и платя минимальное вознаграждение за монотонный и тяжелый труд. Сообщается, что в Кении и Китае, например, есть целые фабрики «маркировщиков данных». При использовании подобной схемы неожиданно возникает третья, на этот раз психологическая проблема с рабочими, от которых требуется находить и фильтровать оскорбительное содержание в социальных сетях, таких как Facebook и YouTube. Это фильтрация контента и поиск всего, что противоречит правилам форума или соцсети: от разжигания ненависти и вполне привычной дискриминации по расовому или национальному признаку до детской порнографии, жестокости и иногда убийства животных и людей. Представьте себе, что происходит с психикой человека, который на постоянной основе весь свой неограниченный рабочий день выискивает посты и комментарии с разжиганием ненависти, детской порнографией и расчлененкой, получая вознаграждение за найденный и удаленный контент. Эмоциональное выгорание и аналог ПТСР наступают довольно быстро [Chen 2017].
Эта скрытая армия формально не нанятых рабочих-фрилансеров берет на себя работу чрезвычайно однообразную, утомительную и низкооплачиваемую, которая в худшем случае еще и вредна для психического или физического здоровья. Исследование М. Л. Грея показывает, что работники в этой области все еще выражают желание вложить в работу нечто большее, чем просто минимально необходимые действия, чтобы закрыть единовременную транзакцию. Люди проводят за работой слишком значительную часть своей жизни, это слишком важно для человека, работа всегда является средством самовыражения. Необходимо сделать такие цепочки рабочих операций более прозрачными, а вклад работника-фрилан-сера в конечный продукт - более постоянным и ясным для него самого. Иначе углубления кризиса на рынке труда не избежать.
ИИ может принести обществу значительные и разнообразные выгоды, способствовать, среди прочего, повышению эффективности и производительности при более низких затратах. Институт будущего жизни (The Future of Life Institute) заявляет, что ИИ может быть способен решать ряд наиболее сложных глобальных проблем (бедность, болезни, конфликты) и таким образом улучшить жизнь бесчисленного множества людей.
В докладе США об ИИ, автоматизации и экономике за 2016 г. подчеркивается важность обеспечения того, чтобы потенциальные преимущества ИИ не оказались приватизированы небольшой группой или социальной стратой, а были доступны как можно большему числу людей. В докладе отвергается детерминированность социальных последствий внедрения развитого искусственного интеллекта и говорится, что инновации и технологические изменения «не происходят в вакууме»: будущее ИИ может определяться не технологическим потенциалом, а широким спектром нетехнических стимулов [The White House 2016]. Кроме того, изобретатель или разработчик ИИ имеет большой потенциал для определения его использования и охвата [Conn 2018], что предполагает необходимость того, чтобы создатели и владельцы патентов на продвинутый искусственный интеллект принимали во внимание более широкое потенциальное воздействие их творений.
Замене продвинутыми системами ИИ и автоматизации разные специальности, профессии и аспекты работы подвержены в совершенно разной степени [Duckworth et al. 2019], что ставит некоторых работников в невыгодное положение и потенциально увеличивает неравенство в заработной плате [Acemoglu, Restrepo 2018]. Задача любого бизнеса - прибыль, причем прибыль владельцев бизнеса, а не работников или кого бы то ни было еще: это прописная истина. Широкое внедрение ИИ или псевдоинтеллектуальных схем вроде описанной выше может принести пользу владельцу (владельцам) бизнеса и заинтересованным сторонам, но нанести большой вред наемным (или «призрачным») работникам и обществу в целом. Топ-менеджмент не склонен волноваться об этом, но общество не имеет права игнорировать данную угрозу.
М. Брандейдж и Дж. Брайсон [Brundage, Bryson 2018] упоминают историю открытия и внедрения электричества, которое, по их словам, иногда считается аналогичным ИИ. Хотя электричество сделало многие области более производительными, позволило устранить барьеры, принести пользу и предоставить возможности бесчисленным жизням, потребовалось много десятилетий, чтобы оно
достигло некоторых рынков, и «в действительности более миллиарда (людей. -А. В.) все еще не имеют к нему доступа» [Brundage, Bryson 2018].
Чтобы гарантировать, что преимущества ИИ распределяются справедливо, а также для предотвращения ситуации, в которой тот, кто разрабатывает и патентует критическую технологию в области ИИ первым, выигрывает все и мешает динамично развиваться другим из-за особенностей патентного права, стоит принять упреждающую декларацию о том, что ИИ не является частным благом и не может быть приватизирован, предлагает А. Конн [Conn 2018]. Такой подход потребует изменения культурных, правовых норм и политики для купирования негативных социальных и этических последствий широкого внедрения продвинутого ИИ [Min 2018]. Брандейдж и Брайсон согласны с этим призывом к государственной политике в отношении ИИ и государственному регулированию, заявляя, что недостаточно финансировать фундаментальные исследования и ожидать, что они будут широко и справедливо распространены в обществе частными субъектами [Brundage, Bryson 2018]. Однако сценарии политики в отношении ИИ не предопределены [Servoz 2019], они будут формироваться современными политиками и голосами избирателей.
Заключение
«Человек, имеющий цель и желание, изначально проигрывает контрагенту, не имеющему этих обязывающих и ограничивающих возможные варианты поведения качеств. Поэтому победа достанется человеку, безразличному ко всему», -предупреждает нас А. Г. Косиченко [2022: 62]. В самом деле, если процесс технологического развития в сфере ИИ, приватизации и милитаризации его плодов не будет предметом реально действующего общественного контроля, огромное обратное влияние ИИ и мира, «заточенного» под ИИ, вполне может привести к деперсонализации, цифровизации, фреймизации и паттернизации человека и процесса социального воспроизводства, превращению личности в пользователя, общества людей - в целевую или нецелевую аудиторию. Человек - это в первую очередь его решения, но даже принятие решений постепенно передается в руки ИИ. Что же было сделано и могло бы быть сделано?
Институт будущего жизни составил длинный список стратегических рекомендаций по широкому кругу проблем, которые с высокой вероятностью вызовет новый этап научно-технической революции, включающему экономическое воздействие, трудовые изменения, неравенство, технологическую безработицу, а также социальную и политическую напряженность, которая может сопровождать широкое внедрение ИИ в экономику. Вызванная автоматизацией потеря рабочих мест потребует новых программ переквалификации и социальной и финансовой поддержки потерявшим в результате нее работу; такие проблемы могут потребовать введения новых принципов экономической политики, таких как безусловный базовый доход и налогообложение роботов. Институт предлагает сосредоточиться на поддержке тех, кто, скорее всего, останется за бортом нового витка технологического развития, а также на предотвращении появления изначально «злонамеренных» систем, основанных на искусственном интеллекте, например таких, которые собирают персональные данные или основаны на дискриминации.
Российский Кодекс в сфере этики искусственного интеллекта, подписанный 153 организациями, включая «Сбер» и «Яндекс», провозглашает: «Разрабатываемые Акторами технологии ИИ должны способствовать или не препятствовать реализации всех потенциальных возможностей человека для достижения гармонии в социальной, экономической, духовной сфере и наивысшего расцвета личности, учитывать ключевые ценности, такие как: сохранение и развитие когнитивных способностей человека и его творческого потенциала; сохранение нравственных, духовных и культурных ценностей» [Кодекс... 2022]. Насколько реализуются эти устремления, зависит от механизмов контроля, которые в России находятся в рудиментарном и преимущественно декларативном состоянии.
Литература
Кант И. Соч.: в 6 т. Т. 4. Ч. 1. М. : Мысль, 1965.
Кодекс в сфере этики искусственного интеллекта [Электронный ресурс]. URL: https:// ethics.a-ai.ru (дата обращения: 25.12.2022).
Косиченко А. Г. Глобализация будущего // Век глобализации. 2022. № 3. С. 59-71.
Разин А. В. Этика искусственного интеллекта // Философия и общество. 2019. № 1(90). С. 57-73.
Acemoglu D., Restrepo P. Low-skill and High-skill Automation [Электронный ресурс] : Human Capital. 2018. Vol. 12. No. 2. URL: https://ia.italia.it/en/ (дата обращения: 05.12.2022).
Biavaschi C., Eichhorst W., Giulietti C., Kendzia M., Muravyev A., Pieters J., Rodriguez-Planas N., Schmidl R., Zimmermann K. World Development Report [Электронный ресурс] : Youth Unemployment and Vocational Training. 2012. No. 6890. URL: https:// docs.iza.org/dp6890.pdf (дата обращения: 15.09.2022).
Brundage M., Bryson J. Smart Policies for Artificial Intelligence. 2016 [Электронный ресурс]. URL: https://arxiv.org/ftp/arxiv/papers/1608/1608.08196.pdf (дата обращения: 11.09.2022).
Brynjolfsson E., McAfee, A. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. New York : W. W. Norton & Company, 2014.
Chen A. The Human Toll of Protecting the Internet from the Worst of Humanity. New York, 2017 [Электронный ресурс]. URL: https://www.newyorker.com/tech/annals-of-technology/the-human-toll-of-protecting-the-internet-from-the-worst-of-humanity (дата обращения: 04.10.2022).
Conn A. AI should Provide a Shared Benefit for as Many People as Possible [Электронный ресурс] : Future of Life Institute. 2018. URL: https://iutureoflife.org/2018/ 01/10/shared-benefitprinciple (дата обращения: 25.10.2022).
Duckworth P., Graham L., Osborne M. Inferring Work Task Automatability from AI Expert Evidence [Электронный ресурс] : Conference on Artificial Intelligence, Ethics and Society. 2017. URL: https://www.aies-conference.com/2019/wp-content/papers/main/AIES-19_ paper_166.pdf (дата обращения: 09.11.2022).
European Commission Special Eurobarometer 460: Attitudes towards the Impact of Digitisation and Automation on Daily Life. 2017 [Электронный ресурс]. URL: https://
ec.europa.eu/commfrontoffice/publicopinion/index.cfm/Survey/getSurveyDetail/instruments /SPECIAL/surveyKy/2160 (дата обращения: 15.09.2022).
Ford M. The Lights in the Tunnel: Automation, Accelerating Technology, and the Economy of the Future. N. p. : Acculant Publishing, 2009.
Frey C. B., Osborne M. A. The Future of Employment: How Susceptible are Jobs to Computerisation? [Электронный ресурс]: Oxford Martin Programme on the Impacts of Future Technology. 2013. URL: https://www.oxfordmartin.ox.ac.uk/downloads/academic/ The_Future_of_Employment.pdf (дата обращения: 17.08.2022).
Furman J., Seamans R. AI and the Economy. NBER working paper no. 24689. [Электронный ресурс]. 2018. URL: https://www.nber.org/system/files/working_papers/ w24689/w24689.pdf (дата обращения: 17.09.2023).
Graetz G., Michaels G., Michaels G. Robots at Work. IZA Discussion Paper No. 8938 [Электронный ресурс]. URL: https://ssrn.com/abstract=2589780 (дата обращения: 16.09. 2023).
Gray M. L., Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. N. p.: Houghton Mifflin Harcourt, 2019.
Hawksworth J., Fertig Y. What will be the Net Impact of AI and Related Technologies on Jobs in the UK? 2018 [Электронный ресурс]. URL: http://alanwinfield.blogspot.com/ 2019/06/energy-and-exploitation-ais-dirty.html (дата обращения: 23.08.2022).
Leontief W. Technological Advance, Economic Growth, and the Distribution of Income // Population and Development Review. 1983. Vol. 9. No. 3. Pp. 403-410.
Min W. Smart Policies for Harnessing AI [Электронный ресурс] : OECD-Forum. 2018. September 17. URL: https://www.oecd-forum.org/users/68225-wonki-min/posts/ 38898-harnessing-ai-for-smart-policies (дата обращения: 23.12.2022).
People Devote Third of Waking Time to Mobile Apps [Электронный ресурс] : BBC News. 2022. January 12. URL: https://www.bbc.com/news/technology-59952557 (дата обращения: 26.09.2022).
Servoz M. The Future of Work? Work of the Future! On How Artificial Intelligence, Robotics and Automation Are Transforming Jobs and the Economy in Europe. 2019 [Электронный ресурс]. URL: https://ec.europa.eu/epsc/publications/other-publications/future-work-work-future_en (дата обращения: 27.11.2022).
Stilgoe J., Winfield A. Self-driving Car Companies Should not be Allowed to Investigate Their Own Crashes [Электронный ресурс] : The Guardian. 2019. April 13. URL: https://www.theguardian.com/science/politicalscience/2018/apr/13/self-driving-car-compa nies-should-not-be-allowed-to-investigate-their-owncrashes (дата обращения: 10.11.2022).
Smith A., Anderson J. AI, Robotics, and the Future of Jobs [Электронный ресурс] : Pew Research Center. 2014. August. URL: http://www.pewinternet.org/2014/08/06/future-of-jobs/ (дата обращения: 16.09.2023).
West D. M. The Future of Work: Robots, AI, and Automation. Washington, DC : Brookings Institution Press, 2018.
The White House. Artificial Intelligence, Automation, and the Economy [Электронный ресурс]. URL: https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/ Artificial-IntelligenceAutomation-Economy.PDF (дата обращения: 10.11.2022).
Winfield A. Ethical Standards in Robotics and AI // Nature Electronics. 2019a. No. 2(2). Pp. 46-48.
Winfield A. Energy and Exploitation: AIs Dirty Secrets. 2019b [Электронный ресурс]. URL: https://alanwinfield.blogspot.com/2019/06/energy-and-exploitation-ais-dirty.html (дата обращения: 25.12.2022).
References
Kant I. Soch. [Works]: in 6 vols. Vol. 4. Part 1. Moscow : Mysl', 1965.
Kodeks v sfere etiki iskusstvennogo intellekta [Code in the Field of Ethics of Artificial Intelligence]. URL: https://ethics.a-ai.ru (accessed: 25.12.2022).
Kosichenko A. G. Globalizatsiya budushchego [Globalization of the Future] // Vek globalizatsii. 2022. No. 3. Pp. 59-71.
Razin A. V. Etika iskusstvennogo intellekta [Ethics of Artificial Intelligence] // Filoso-fiya i obshchestvo. 2019. No. 1(90). Pp. 57-73.
Acemoglu D., Restrepo P. Low-skill and High-skill Automation // Human Capital. 2018. Vol. 12. No. 2. URL: https://ia.italia.it/en/ (accessed: 05.12.2022).
Biavaschi C., Eichhorst W., Giulietti C., Kendzia M., Muravyev A., Pieters J., Rodriguez-Planas N., Schmidl R., Zimmermann K. World Development Report // Youth Unemployment and Vocational Training. 2012. No. 6890. URL: https://docs.iza.org/dp6890.pdf (accessed: 15.09.2022).
Brundage M., Bryson J. Smart Policies for Artificial Intelligence. 2016. URL: https:// arxiv.org/ftp/arxiv/papers/1608/1608.08196.pdf (accessed: 11.09. 2022).
Brynjolfsson E., McAfee, A. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. New York : W. W. Norton & Company, 2014.
Chen A. The Human Toll of Protecting the Internet from the Worst of Humanity. New York, 2017. URL: https://www.newyorker.com/tech/annals-of-technology/the-human-toll-of-protecting-the-internet-from-the-worst-of-humanity (accessed: 04.10.2022).
Conn A. AI should Provide a Shared Benefit for as Many People as Possible // Future of Life Institute. 2018. URL: https://futureoflife.org/2018/01/10/shared-benefitprinciple (accessed: 25.10.2022).
Duckworth P., Graham L., Osborne M. Inferring Work Task Automatability from AI Expert Evidence // Conference on Artificial Intelligence, Ethics and Society. 2017. URL: https://www.aies-conference.com/2019/wp-content/papers/main/AIES-19_paper_166.pdf (accessed: 09.11.2022).
European Commission Special Eurobarometer 460: Attitudes towards the Impact of Digitisation and Automation on Daily Life. 2017. URL: https://ec.europa.eu/commfront office/publicopinion/index.cfm/Survey/getSurveyDetail/instruments/SPECIAL/surveyKy/ 2160 (accessed: 15.09.2022).
Ford M. The Lights in the Tunnel: Automation, Accelerating Technology, and the Economy of the Future. N. p. : Acculant Publishing, 2009.
Frey C. B., Osborne M. A. The Future of Employment: How Susceptible are Jobs to Computerisation? // Oxford Martin Programme on the Impacts of Future Technology. 2013. URL: https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment. pdf (accessed: 17.08.2022).
Furman J., Seamans R. AI and the Economy. NBER working paper no. 24689. 2018. URL: https://www.nber.org/system/files/working_papers/w24689/w24689.pdf (accessed: 17.09.2023).
Graetz G., Michaels G., Michaels G. Robots at Work. IZA Discussion Paper No. 8938. URL: https://ssrn.com/abstract=2589780 (accessed: 16.09.2023).
Gray M. L., Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. N. p.: Houghton Mifflin Harcourt, 2019.
Hawksworth J., Fertig Y. What will be the Net Impact of AI and Related Technologies on Jobs in the UK? 2018. URL: http://alanwinfield.blogspot.com/2019/06/energy-and-exploitation-ais-dirty.html (accessed: 23.08.2022).
Leontief W. Technological Advance, Economic Growth, and the Distribution of Income // Population and Development Review. 1983. Vol. 9. No. 3. Pp. 403-410.
Min W. Smart Policies for Harnessing AI // OECD-Forum. 2018. September 17. URL: https://www.oecd-forum.org/users/68225-wonki-min/posts/38898-harnessing-ai-for-smart-policies (accessed: 23.12.2022).
People Devote Third of Waking Time to Mobile Apps // BBC News. 2022. January 12. URL: https://www.bbc.com/news/technology-59952557 (accessed: 26.09.2022).
Servoz M. The Future of Work? Work of the Future! On How Artificial Intelligence, Robotics and Automation Are Transforming Jobs and the Economy in Europe. 2019. URL: https://ec.europa.eu/epsc/publications/other-publications/future-work-work-future_en (accessed: 27.11.2022).
Stilgoe J., Winfield A. Self-driving Car Companies Should not be Allowed to Investigate Their Own Crashes // The Guardian. 2019. April 13. URL: https://www.theguardian.com/ science/politicalscience/2018/apr/13/self-driving-car-companies-should-not-be-allowed-to-investigate-their-owncrashes (accessed: 10.11.2022).
Smith A., Anderson J. AI, Robotics, and the Future of Jobs // Pew Research Center. 2014. August. URL: http://www.pewinternet.org/2014/08/06/future-of-jobs/ (accessed: 16.09.2023).
West D. M. The Future of Work: Robots, AI, and Automation. Washington, DC: Broo-kings Institution Press, 2018.
The White House. Artificial Intelligence, Automation, and the Economy. URL: https:// obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-IntelligenceAu-tomation-Economy.PDF (accessed: 10.11.2022).
Winfield A. Ethical Standards in Robotics and AI // Nature Electronics. 2019a. No. 2(2). Pp. 46-48.
Winfield A. Energy and Exploitation: AIs Dirty Secrets. 2019b. URL: https://alanwin field.blogspot.com/2019/06/energy-and-exploitation-ais-dirty.html (accessed: 25.12. 2022).
