CC BY
39
электронный научно-экономическии журнал
Пенсионная система как модель цифроуправляемого общества / Pension system as a model of a digitally managed society А.П. Колесник / A.P. Kolesnik
Том 10, № 10(2022) Business Strategies
стр 263
DOI: 10.17747/2311-7184-2022-10-263-267
Пенсионная система
как модель цифроуправляемого общества
А.П. Колесник, к.т.н., д.э.н., доцент [email protected]
Аннотация. В статье рассмотрены риски создания системы тотального контроля за людьми в ходе циф-ровизации и внедрения искусственного интеллекта (ИИ). Для иллюстрации возможных механизмов и технологии контроля взята пенсионная система государства с учетом принятых в последнее время нормативно-правовых актов. Рассмотрены также фильтры, которые, не препятствуя развитию ИИ, предотвратили бы его использование во вред гражданам.
Ключевые слова: цифровизация, искусственный интеллект, цифровой след, пенсионная система, индивидуальная образовательная траектория, беззаявительное назначение пенсий.
Pension system as a model of a digitally managed society
A.P. Kolesnik, cand. sci. (tech.), dr. sci. (econ.), associate professor [email protected]
Abstract. The author analyses risks of creation of a system of a total control of society as a result of digitalization and implementation of artificial intelligence. Possible mechanisms and technology of control are illustrated by an example of the governmental pension system considering recently adopted legislative acts. Also, the author shows filters, which could ensure against harmful use of artificial intelligence not preventing its development.
Keywords: digitalization, artificial intelligence, digital trace, pension system, personal educational trajectory, voluntary determination of pensions.
В настоящее время цифровизация и искусственный интеллект являются самыми популярными терминами, когда речь идет о технологиях будущего. Автор настоящей статьи достаточно подробно проанализировал в 2018 году истоки и промоутеров этого процесса, а также возможные результаты [4]. Цифровизация провозглашена транснациональными корпорациями и инициирована из США во всем мире под координацией Всемирного банка, а также госорганов и разведсообщества США.
Логика обстоятельств обусловила включение России в процесс цифровизации и использования искусственного интеллекта со всеми вытекающими из этого рисками.
О главном риске на Давосском форуме 2022 года заявил Ю. Харари: «Мы достигли точки, когда мы можем взломать как компьютеры, так и людей и другие организмы. Взламывая организмы, элиты получат возможность перестроить будущее жизни. И это будет величайшая революция в истории не просто человечества, а всего живого на Земле»1.
На активное развитие цифровизации и ИИ в настоящее время повлияли пандемия COVID-19, всеобщая вакцинация, «великая перезагрузка» - обнародованная Клаусом Швабом трансформация мироустройства, а также создание и внедрение цифровых валют, в чем лидирует Китай.
Ряд авторов интернет-СМИ2 анализирует процессы цифровизации и внедрения ИИ в ход управления обществом. Как правило, оценки весьма пессимистичны. Речь идет о том, что цифровизация и ИИ, если судить по СМИ, применяются не столько в производстве, сколько в гуманитарной сфере: образовании, медицине, коммуникациях с другими людьми, причем цифровизация и ИИ действуют без правового определения алгоритмов и границ их применения, как будто цифровизация - это только написание компьютерных программ, чисто технические решения. Тем более не указывается, кому могут быть предъявлены претензии при вредоносном воздействии цифровых технологий на людей, их групп и сообществ.
Стоит отметить, что, «по данным ЮНЕСКО, 72% граждан пяти стран (США, ФРГ, Австралии, Великобритании и Канады) не доверяют ИИ, а 65% граждан 26 стран полагают, что этические рамки - ключевой фактор доверия ИИ. Одна из относительно доверяющих искусственному интеллекту стран - Россия. 48% россиян, по данным ВЦИОМ, доверяют цифровым технологиям. Правда, Россия одной из первых в мире сформулировала пять рисков и угроз, которые сопровождают внедрение цифры в жизнь: дискриминация, потеря приватности, потеря контроля над ИИ, причинение вреда человеку ошибками алгоритма, применение в неприемлемых целях»3.
1 URL: https://lifedeeper.ru/post/844-vozmozhno-my-odno-iz-poslednih-pokolenij-homo-sapiens-juval-noj-harari/.
2 См., например, АнтиТьюринг - канал Игоря Шнуренко.
3 URL: https://rg.ru/2021/10/26/v-rossii-podpisan-kodeks-etiki-iskusstvennogo-intellekta.html.
Том 10, № 10(2022) Business Strategies
Пенсионная система как модель цифроуправляемого общества / Pension system as a model of a digitally managed society А.П. Колесник / A.P. Kolesnik
Опубликованы и серьезные исследования на тему угроз процесса цифровизации и развития искусственного интеллекта [1-3; 9], во множестве переведены и опубликованы книги апологетов цифровизации, например
Рассмотрим в качестве примера цифровизации и применения ИИ индивидуальные образовательные траектории (ИОТ). Соответствующая статья в Википедии сообщает: ИОТ - это персональный путь реализации личностного потенциала каждого ученика в образовании. ИОТ реализуются, «предоставляя ученику возможность осваивать то содержание образования и на том уровне, который в наибольшей степени отвечает его возможностям, потребностям и интересам». Красивые слова, предполагающие издавна применявшийся индивидуальный подход в образовании. Но кем определяются возможности, потребности и интересы ученика? Цифровой системой, использующей ИИ. Если раньше школа давала базовое образование, и результат индивидуального подхода формировался в самом ученике в виде знаний, умений и навыков, позволяющих ему ориентироваться в жизни, и использовался им вместе с родителями для выбора своего будущего и своего профессионального развития, для жизни по совести и вклада в общее благое дело своей семьи и своей страны, то нынче ИОТ формируется в виде электронного досье, в соответствии с которым некто (возможно, программа ИИ и ее разработчики) будет решать, кем «предназначено» стать данному ученику и чему следует его обучать, а без чего он обойдется. Близкая к этому формулировка содержится в ГОСТР 59895-2021 «Технологии искусственного интеллекта в образовании», согласно которому ИОТ - это последовательность учебных материалов, которая формируется исходя из анализа персональных характеристик обучающегося и целей обучения. Цели обучения заложены в соответствующую цифровую систему. Собственно, эти «решатели» претендуют на присвоение божественного права человека жить своей жизнью, а не той, в которую их кто-то хочет погрузить, выбирая нужную этому кому-то цель обучения конкретного ученика. При этом надо учесть, что усиленно продвигается обучение через компьютерные системы, а не живыми педагогами: «Совокупность описываемых технологий искусственного интеллекта может использоваться для автономного обучения без вмешательства педагогического работника посредством искусственного интеллекта-репетитора... и для автоматической генерации заданий с заданной психометрической сложностью»4, то есть такая система будет дозировать знания, передаваемые конкретному ученику, навязывая ему выбранную кем-то индивидуальную образовательную траекторию. При этом ИИ будет осуществлять постоянный контроль за учениками путем «распознавания в режиме реального времени видеоряда и оценки психоэмоционального состояния обучающихся в классе»5.
Можно сказать, что есть определенная граница в использовании цифровых компьютерных технологий в образовании: если эти технологии являются инструментом классного руководителя и школьного психолога, помогая им увидеть, каким детям и по каким вопросам требуется повышенное внимание педагогов (индивидуальный подход), а также предотвращают списывание на контрольных работах и экзаменах, эти технологии полезны и безопасны. Если же указанная граница пересечена и цифровые технологии, а не педагоги определяют, кого, как и чему учить, если они записывают в электронное досье мнение программы (ИИ) о поведении учеников и выводы из этой постоянной слежки ложатся в основу траектории обучения каждого ученика, то это является движением к производству «служебных» людей6, которых компьютерные системы будут отбирать и учить по заказу неких власть имущих и которые, будучи с детства управляемыми цифровыми системами, будут и в дальнейшей жизни действовать по указке компьютерных систем и тех, кто за ними стоит. По вышеприведенному списку рисков, связанных с цифровизацией и ИИ, это можно квалифицировать как «применение в неприемлемых целях».
Перейдем к пенсионной системе как модели, на которой можно рассмотреть варианты цифровизации. Пенсионная система подходит в качестве модели по той причине, что человек, становящийся пенсионером, не может избежать взаимодействия с ней, и все выплаты в пользу пенсионера находятся под контролем уполномоченных органов государства.
Для целей моделирования введем понятия цифровой пенсионной системы первого рода и цифровой пенсионной системы второго рода. Цифровой пенсионной системой первого рода будем считать пенсионную систему, в которой цифровые информационно-коммуникационные технологии автоматизируют процессы обработки информации и являются инструментом сотрудников пенсионной организации. Все существенные решения по отношению к пенсионерам могут быть подготовлены с использованием компьютерной системы, но эти решения должны быть согласованы с пенсионером (как минимум он должен быть с ними ознакомлен на этапе принятия и мог бы их опротестовать), должны приниматься и соответствующие документы, которые подписываются ответственными сотрудниками пенсионной организации7. Обычно при этом используется принцип четырех глаз.
Цифровой пенсионной системой второго рода будем называть пенсионную систему, в которой решения, касающиеся пенсионеров, готовятся и принимаются цифровой компьютерной системой с искусственным интеллектом, и пенсионер ставится в известность об уже принятых решениях. Возможны какие-то промежуточные состояния, когда часть существенных решений принимается по первому варианту, а часть по второму.
В качестве примера возможного влияния цифровизации на пенсионную систему рассмотрим Федеральный закон от 28.12.2013 № 400-ФЗ «О страховых пенсиях» с изменениями, внесенными, в частности, Федераль-
4 ГОСТР 59895-2021 Технологии искусственного интеллекта в образовании.
5 Там же.
6 Михаил Ковальчук: «Свойство популяции служебных людей очень простое: ограниченное самосознание. вторая вещь - управление размножением, и третья вещь - дешевый корм, это - генно-модифицированные продукты». иК1_: https://serfilatov.livejournal.com/2246443. Ь1т1?узс11Ь=13и98]191р.
7 Возможно подписание электронной подписью с соблюдением всех условий ее применения.
[5; 7; 8].
электронный научно-экономическии журнал
Пенсионная система как модель цифроуправляемого общества / Pension system as a model of a digitally managed society А.П. Колесник / A.P. Kolesnik
Том 1G, № 1G(2G22) Business Strategies
стр 265
ным законом от 26.05.2021 № 153-ФЗ, который при наступлении некоторых событий в жизни пенсионера позволяет принимать без заявления пенсионера решения, которые будут для него финансово выгодны, например решение об установлении пенсии или решения, которые будут увеличивать размер его пенсии8. Пенсионеру сообщается о принятом решении.
На практике для назначения и последующего получения пенсии гражданин подает два заявления. Одно - собственно о назначении пенсии9, а второе - о способе доставки пенсии (почтой или через какой-либо банк)10. То есть отмена заявления о назначении пенсии, к счастью, не означает, что это назначение производится без ведома и участия гражданина.
Аналогичные процессы происходят и с установлением социальной доплаты к пенсии, которая имеет место в случае, если назначаемая пенсия меньше регионального прожиточного минимума, а также при беззаявительном назначении пенсии по инвалидности (согласно данным сайта ПФР, за пять первых месяцев 2022 года без заявлений граждан назначено 83 000 пенсий по инвалидности).
Таким образом, по результатам реализации упомянутого закона можно считать, что пока пенсионная система Российской Федерации остается пенсионной системой первого рода. В то же время Федеральный закон № 153-ФЗ создает некоторые закладки для отчуждения граждан от пенсионной системы в будущем. Это сохранение в пенсионной системе (единой государственной информационной системе социального обеспечения - ЕГИССО) реквизитов счетов граждан, на которые будут переводиться пенсионные средства (статья 20 прим, пункт «е» Федерального закона № 400-ФЗ), а также назначение страховой пенсии по старости в автоматическом режиме (статья 22). Пока что это делается по заявлениям граждан, но может наступить время, когда счета (конечно же, для удобства пенсионеров) будут открываться автоматически в выбранном пенсионной системой или правительством банке, и пенсионеру будут сообщать только реквизиты счета. Еще проще это осуществить через единую систему платежных карт. Обратим внимание и на проект цифрового рубля, по которому в 2022 году в нашей стране идет тестирование технологии в 12 банках, и в принципе в этой технологии можно контролировать все расходы конкретного человека, в том числе блокировать приобретение им определенных видов товаров.
Стоит упомянуть и комплексный запрос на предоставление гражданину нескольких видов пенсионных услуг (статья 8 Федерального закона № 153-ФЗ). Комплексным запросом наиболее общего вида будет следующий: предоставить все услуги, которые определены законодательством. После этого станут возможны все автоматические действия цифровой системы.
Как мы видим, возможен процесс отчуждения граждан от решений и действий, предпринимаемых в пенсионной системе по отношению к ним. Промежуточным этапом может стать решение пенсионных вопросов, включая назначение пенсий, не в населенных пунктах, в которых живут пенсионеры и застрахованные лица, и даже не в региональных центрах, а централизованно - на уровне федеральных административных округов или на федеральном уровне. На пути к этому положению в 2020 году время приема граждан в клиентских службах ПФР было сокращено до 2 дней в неделю с передачей приема населения в остальные дни в МФЦ. Затем в 2021 году была проведена централизация функций органов ПФР. В районах остались только клиентские службы. «Концепцией цифровой и функциональной трансформации социальной сферы, относящейся к сфере деятельности Министерства труда и социальной защиты Российской Федерации, на период до 2025 года»11 намечается произвести «переориентацию центров клиентского обслуживания Пенсионного фонда Российской Федерации и Фонда социального страхования Российской Федерации с непосредственного предоставления услуг с использованием бумажных технологий на обучение граждан выполнению операций в электронной форме и помощь гражданам в получении цифровых услуг». Вероятнее всего, через некоторое время, по мере обучения пенсионеров и предпенсионеров получению услуг в цифровой форме, клиентские службы ПФР будут признаны излишними. Пенсионер будет выяснять возникающие у него вопросы только через уже созданный к настоящему времени единый контакт-центр, работающий круглосуточно. Непосредственный контакт пенсионера с сотрудниками пенсионной системы практически прекратится. Это грозит также и утратой компетенций в области пенсионного дела.
Рассмотрим гипотетические возможности автоматических действий пенсионной системы по отношению к гражданам. Важным здесь является способ информирования цифровой системой о принятых в отношении гражданина решениях. Пока что информирование осуществляется через единый портал государственных и муниципальных услуг (ЕПГУ) и через сайт ПФР. Однако обязанности пенсионера регулярно обращаться к ЕПГУ пока не существует, и он может пропустить важное решение, принятое пенсионной системой в отношении него. Для системы важно, чтобы пенсионер узнавал о принятых решениях как можно быстрее.
Можно предположить следующий гипотетический способ доведения информации до пенсионера и получения информации о нем. Во-первых, пенсионная система обеспечивает каждого пенсионера гаджетом для получения и отображения информации, например смартфоном, и обучает его основным манипуляциям. Деньги за оплату смартфона удерживаются из пенсии в течение определенного длительного периода, чтобы удерживаемая ежемесячно сумма была малосущественной. При включении указанного смартфона на нем отображается актуальная на данный момент информация для конкретного пенсионера или та информация,
8 Следует отметить, что некоторые услуги предоставлялись пенсионерам в беззаявительном порядке и ранее, до выхода названного Федерального закона, например ежегодная индексация страховых и социальных пенсий.
9 См. административные регламенты госуслуг ПФР: URL: https://pfr.gov.ru/order/adminreg/~4561.
10 Там же.
11 Концепция утверждена распоряжением Правительства РФ от 20 февраля 2021 года № 431-Р.
электронный научно-экономическии журнал
Пенсионная система как модель цифроуправляемого общества / Pension system as a model of a digitally managed society А.П. Колесник / A.P. Kolesnik
Том 1G, № 1G(2G22) Business Strategies
стр 266
на которую он не среагировал. Смартфон пенсионера подключается к системе геолокации, после чего местоположение пенсионера находится под контролем.
Следующий гипотетический шаг - установка в жилище пенсионера за его счет камеры и микрофона, с помощью которых будет формироваться видео- и аудиоряд, чтобы путем его цифровой обработки распознавать психоэмоциональное состояние и благонадежность пенсионера. Этому должна предшествовать биометрическая идентификация пенсионера. Сбер и другие банки существенно преуспели в разработке и внедрении технологии биометрической идентификации.
Такая нехитрая инфраструктура достаточна для тотального контроля за жизнью пенсионера. В окружающей его среде соответствующая цифровая инфраструктура уже существует. Десятки лет осуществлялось расширение доступа населения к интернету и повсеместное распространение мобильной связи, и все это «увенчалось успехом» на большей части территории страны. В Москве установлены тысячи видеокамер с системами распознавания лиц, и эта технология распространяется на другие города России. Это осуществляется в соответствии с Федеральным законом «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"»12. В результате цифровой обработки соответствующего видеоряда вся история жизни пенсионера, так же как все его расходы, может фиксироваться и помещаться в систему персонифицированного учета или в единый реестр населения.
Управлять жизнью пенсионера еще проще. Может быть составлен список нежелательных для пенсионера поступков. Жизненная траектория пенсионера ежедневно может анализироваться на предмет того, есть ли в ней «запрещенные» поступки. Если они есть, может быть назначен штраф, который будет удерживаться из пенсии, либо будут ограничены возможности получения этим пенсионером различного рода услуг (банковских, транспортных и т. п.)13.
Таким образом, цикл цифрового управления пенсионерами замыкается.
Возможно и применение положительных стимулов за желательные для цифровой системы поступки пенсионера. Например, за сообщение информации о других людях (то, что раньше называлось доносительством), за экономию энергии и т. п.
Гипотетически в описанный выше вид может быть преобразована вся пенсионная система для полного контроля над миллионами пенсионеров.
Нетрудно представить, как аналогичным же образом может быть оцифрована жизнь всех людей с целью превращения их в «служебных» (кроме тех, кто распоряжается цифровыми системами, и других, имеющих достаточные властные полномочия). Уже сейчас цифровой след человека используется для представления ему рекламы, а работодатели анализируют цифровой след, чтобы оценить желающих устроиться к ним на работу. Поскольку это несложно, грех было бы и спецслужбам не использовать цифровой след. Уже сейчас производится добровольная имплантация людям чипов для упрощения их идентификации цифровыми системами по месту работы14. Уже сейчас автомобили обеспечиваются устройствами идентификации их местоположения через спутники, причем владелец может об этом и не знать.
Государство может не допустить внедрения негативных вариантов технологий, которые могли бы использоваться для тотального контроля в нашем обществе, установив соответствующие фильтры для решений, принимаемых в ходе цифровизации и внедрения ИИ. Таким фильтром может служить Федеральный закон «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» от 31.07.2020 № 258-ФЗ. В статье 4 данного федерального закона первым из принципов экспериментального правового режима объявляется: «1) недопустимость ограничения конституционных прав и свобод граждан, нарушения единства экономического пространства на территории Российской Федерации или иного умаления гарантий защиты прав граждан и юридических лиц, предусмотренных Конституцией Российской Федерации, федеральными конституционными законами, федеральными законами, нормативными правовыми актами Президента Российской Федерации, нормативными правовыми актами Правительства Российской Федерации и принятыми в соответствии с ними иными нормативными правовыми актами Российской Федерации».
В 2021 году был принят «Кодекс этики в сфере искусственного интеллекта»15, которым должны руководствоваться разработчики и заказчики систем ИИ как участники саморегулируемого сообщества. Авторы кодекса - Альянс в сфере искусственного интеллекта РФ, Аналитический центр при Правительстве РФ и Минэкономразвития. Кодекс содержит положения, которые исключают рассмотренные выше на примере пенсионной системы негативные сценарии. Например: «при развитии технологий ИИ человек, его права и свободы должны рассматриваться как наивысшая ценность... Акторы ИИ должны принимать необходимые меры, направленные на сохранение автономии и свободы воли человека в принятии им решений, права выбора и в целом сохранения интеллектуальных способностей человека как самостоятельной ценности и системообразующего фактора современной цивилизации. Акторы ИИ должны на этапе создания систем ИИ прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку систем ИИ, которые целенаправленно вызывают такие последствия».
12 URL: http://publication.pravo.gov.ru/Document/Text/0001202004240030.
13Богатый опыт такого контроля уже имеется в Китае: https://news.rambler.ru/sociology/45560037-v-kitae-ofitsialno-uzakonili-sistemu-sotsialnogo-kredita/.
14 В 2018 поду число людей, имплантировавших себе чип, оценивалось как 80-100 тыс.: URL: https://habr.com/ru/company/parallels/blog/347220/.
15 URL: https://a-ai.ru/wp-content/uploads/2021/10/%D0%9A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA% D0%B8_%D0%B2_%D1%81%D1%84%D0%B5%D1%80%D0%B5_%D0%98%D0%98_%D1%84%D0%B8%D0%BD%D0%B0%D0%BB%D1%8C% D0%BD%D1%8B%D0%B9.pdf.
Том 1G, № 1G(2G22) Business Strategies
Пенсионная система как модель цифроуправляемого общества / Pension system as a model of a digitally managed society А.П. Колесник / A.P. Kolesnik
Использованные источники
1. Катасонов В.Ю. В начале было Слово, а в конце будет цифра. Статьи и очерки. М.: Кислород. 2019.
2. Катасонов В.Ю. Мир под гипнозом цифры, или Дорога в электронный концлагерь. М.: Библиотека РЭО им. С.Ф. Шарапова, 2018.
3. Катасонов В.Ю. Посткапитализм. От либеральной демократии к цифровому концлагерю. М.: Книжный мир, 2020.
4. Колесник А.П. Социальные системы в цифровой экономике // Стратегия бизнеса. 2018. № 1. URL: https:// www.strategybusiness.ru/jour/article/view/395.
5. Скиннер К. Человек цифровой. Четвертая революция в истории человечества, которая затронет каждого. М.: Манн, Иванов и Фарбер, 2019.
6. Слово Святейшего Патриарха Кирилла на открытии ХХ1 Всемирного русского народного собора. URL: http://www.patriarchia.ru/db/text/5052002.html.
7. Цифровизация. М.: Альпина Диджитал, 2018.
8. Шмидт Э, Коэн Д. Новый цифровой мир. Как технологии меняют жизнь людей, модели бизнеса и понятие государств. М.: Манн, Иванов и Фербер, 2013.
9. Шнуренко И., Аверьянов В. Трансгуманизм: цифровой левиафан и голем-цивилизация. М.: Книжный
мир, 2021.
