РЕЗУЛЬТАТЫ АНАЛИЗА ВОЗМОЖНЫХ НЕГАТИВНЫХ ПОСЛЕДСТВИЙ ПРОМЫШЛЕННОГО ВНЕДРЕНИЯ ИНДУСТРИАЛЬНЫХ НОВАЦИЙ И НОВЫХ ТЕХНОЛОГИЙ, ИМЕЮЩИХ МАССОВЫЙ ХАРАКТЕР, В ГОРИЗОНТЕ ДО 2030 ГОДА И ДАЛЕЕ Текст научной статьи по специальности «Компьютерные и информационные науки»

Научная статья Original article

УДК 338.28+614.8+330.131.7

РЕЗУЛЬТАТЫ АНАЛИЗА ВОЗМОЖНЫХ НЕГАТИВНЫХ ПОСЛЕДСТВИЙ ПРОМЫШЛЕННОГО ВНЕДРЕНИЯ ИНДУСТРИАЛЬНЫХ НОВАЦИЙ И НОВЫХ ТЕХНОЛОГИЙ, ИМЕЮЩИХ МАССОВЫЙ ХАРАКТЕР, В ГОРИЗОНТЕ ДО 2030

ГОДА И ДАЛЕЕ

RESULTS OF ANALYSIS OF POSSIBLE NEGATIVE CONSEQUENCES OF

INDUSTRIAL IMPLEMENTATION OF INNOVATIONS AND NEW TECHNOLOGIES, HAVING A MASSIVE CHARACTER, UNTIL 2030 AND

BEYOND

Артюхин Валерий Викторович, кандидат экономических наук, доцент, ведущий научный сотрудник 1 научно-исследовательского центра, ФГБУ ВНИИ ГОЧС (ФЦ) (121352, г. Москва, ул. Давыдковская, д. 7), тел. +7 (495) 287-73-05 (доб. 49-93, 40-01), ORCID: https://orcid.org/0000-0001-6215-103X, ikshot@mail.ru

Valeriy V. Artiukhin, candidate of economical science, associate professor, leading researcher of 1 research center, VNII GOChS (FC) (7 Davydkovskaya st., Moscow, 121352 Russia), тел. +7 (495) 287-73-05 (49-93, 40-01), ORCID: https://orcid.org/0000-0001-6215-103X, ikshot@mail.ru

Аннотация. Новизна и актуальность данной статьи состоит в анализе ключевых научно-технических направлений, которые могут оказать наиболее существенное влияние на развитие техносферы России в будущем с точки зрения массовых рисков, которые они могут нести. Выбор направлений осуществлен в соответствие с положениями Национальной технологической инициативы. Каждая технология имеет связанные с нею специфические риски и потенциальные негативные последствия. С целью снижения уровня абстракции и возможности дать представление о конкретных опасностях и последствиях внедрения тех или иных технологий, проведен анализ реально существующих проектов. По итогам анализа 578 научно-исследовательских и опытно-конструкторских проектов были сформулированы выводы, к главным из которых можно отнести следующие: даже новейшие технологии не создают принципиально новых последствий; развитие отраслей по определенным направлениям может привести к учащению ЧС и усложнению их обстоятельств; в большинстве случаев говорить о негативных последствиях внедрения того или иного набора технологий в рамках проекта или отрасли имеет смысл только в контексте, когда технологии и результаты реализации проектов будут работать не так, как это предполагалось разработчиками; управление любой из отраслей значительно усложняется или будет усложняться по мере внедрения новых технологий.

Abstract. The novelty and relevance of this article lies in the analysis of key scientific and technical areas that can have the most significant impact on the development of the Russian technosphere in the future from the point of view of the massive risks that they can bring. The choice of directions was carried out in accordance with the provisions of the National Technology Initiative. Each technology has specific risks and potential negative consequences associated with it. In order to reduce the level of abstraction and provide an opportunity to give an idea of the specific dangers and consequences of introducing certain technologies, an analysis of actually existing projects was carried out. Based on the results of the

analysis of 578 research and development projects, conclusions were formulated, the main ones of which include the following: even the latest technologies do not create fundamentally new consequences; the development of industries in certain areas can lead to an increase in emergency situations and aggravation of their circumstances; in most cases, talking about the negative consequences of introducing a particular set of technologies within a project or industry makes sense only in the context when the technologies and the results of project implementation will not work as intended by the developers; management of any industry is becoming significantly more complicated or will become more complicated as new technologies are introduced. Ключевые слова: Национальная технологическая инициатива, новые технологии, научно-исследовательские проекты, инновации, массовые риски, негативные последствия.

Keywords: National Technology Initiative, new technologies, research projects, innovations, massive risks, negative consequences.

Национальная технологическая инициатива (НТИ) - это объединение представителей бизнеса и экспертных сообществ для развития в России перспективных технологических рынков и отраслей, которые могут стать основой мировой экономики. НТИ включает новые глобальные высокотехнологичные рынки, борьба за лидерство на которых состоится на горизонте ближайших 20 лет в процессе цифровизации мировой экономики. Программа направлена на формирование в России реального научно-технического задела по направлениям НТИ [1].

В качестве ключевых научно-технических направлений, которые должны оказать наиболее существенное влияние на развитие рынков, НТИ определяет следующие:

- большие данные;

- искусственный интеллект;

- системы распределенного реестра;

- квантовые технологии;

- новые и портативные источники энергии;

- новые производственные технологии;

- сенсорика и компоненты робототехники;

- технологии беспроводной связи;

- технологии управления свойствами биологических объектов;

- нейротехнологии, технологии виртуальной и дополненной реальностей.

Каждая технология имеет связанные с нею специфические риски и потенциальные негативные последствия, примеры которых приводятся ниже (табл. 1).

Таблица 1. Примеры негативных последствий внедрения технологий

ключевых научно-технических направлений

Направление Риск / негативное последствие

большие данные Потеря доступа к данным их владельцем; злонамеренное или случайное искажение данных; получение нелегитимного доступа к данным третьими лицами.

искусственный интеллект Неверное решение задачи системой искусственного интеллекта; выход из строя оборудования, на котором функционирует система искусственного интеллекта; целенаправленные атаки на алгоритмы машинного обучения [2] (существуют международные проекты, имеющие целью выделить и структурировать специфические угрозы для моделей машинного обучения, например, MITRE ATLAS [3]).

системы распределенного реестра Фактическое отсутствие правового регулирования; в частности, экосистема Bitcoin расходует электричество, как целое государство, в связи с чем криптовалюту называют «экологической катастрофой»; специфические проблемы, связанные с установлением прав и правил в конкретной системе распределенного реестра [4].

квантовые технологии Взлом криптографических систем с открытым ключом (с использованием алгоритма Шора - квантового алгоритма разложения чисел на простые множители) [5].

новые и портативные источники энергии Выход из строя источника энергии, в том числе с возникновением пожара или взрыва; проблемы при складировании и утилизации отработавших свой срок источников энергии.

новые Строительство новых производственных мощностей, в том

производственные числе относимых к потенциально опасным объектам;

технологии возможности пожаров, взрывов, утечек химически опасных веществ; обрушения зданий и сооружений.

сенсорика и Выход из строя или искажение информации от сенсоров;

компоненты робототехники получение доступа к сенсорной информации третьими лицами; дисфункция промышленных роботов или получение доступа к их функциям третьими лицами.

технологии Отказ устройств беспроводной связи; перехват информации

беспроводной связи третьими лицами.

технологии Возможные последствия биолого-социального характера

управления (эпидемии, пандемии и т. д.).

свойствами

биологических

объектов

нейротехнологии, Нанесение травмы пациенту или пользователю вплоть до травм

технологии несовместимых с жизнью.

виртуальной и

дополненной

реальностей

Легко заметить, что за исключением некоторых направлений, подразумевающих непосредственное материальное воплощение некоторых объектов (например, новые и портативные источники энергии или новые производственные технологии), возможные негативные последствия носят крайне абстрактный характер. Действительно, последствия от внедрения технологии без рассмотрения конкретного проекта или как минимум отраслевой принадлежности внедрения (если в таком случае о некоем абстрактном внедрении вообще можно говорить) могут иметь только общий неконкретный характер. Риски, связанные с неправильным функционированием алгоритмов искусственного интеллекта, ответственных за рекомендацию пользователям товаров в интернет-магазине, существенно отличаются от рисков связанных с дисфункцией схожих алгоритмов на транспорте.

Чрезвычайная ситуация (ЧС) согласно Федеральному закону «О защите населения и территорий от чрезвычайных ситуаций природного и техногенного характера» от 21.12.1994 № 68-ФЗ представляет собой

обстановку на определенной территории, сложившуюся в результате аварии, опасного природного явления, катастрофы, распространения заболевания, представляющего опасность для окружающих, стихийного или иного бедствия, которые могут повлечь или повлекли за собой человеческие жертвы, ущерб здоровью людей или окружающей среде, значительные материальные потери и нарушение условий жизнедеятельности людей. Таким образом, ЧС складывается после воздействия источника ЧС и до возможных последствий. Чтобы снизить уровень абстракции и дать представление о конкретных опасностях и последствиях внедрения тех или иных технологий, проведем анализ реально существующих проектов.

Проект НТИ - это комплекс взаимосвязанных мероприятий, направленный на создание уникального продукта или услуги, необходимых для достижения целей проекта и дорожных карт НТИ, в условиях временных и ресурсных ограничений.

Ведение реестра проектов НТИ осуществляется проектным офисом НТИ согласно п. 6 постановления Правительства Российской Федерации «О реализации Национальной технологической инициативы» от 18 апреля 2016 г. № 317, в соответствии с изложенными в описании проектов сведениями. Реестр представлен на сайте НТИ [6].

Конкурс «Развитие НТИ» - это конкурс на грантовую поддержку проектов НТИ, реализуемый Фондом содействия инновациям. Цель конкурса -поддержка научно-исследовательских и опытно-конструкторских работ (НИОКР). Реестр соответствующих проектов также представлен на сайте НТИ

[7].

Поддержкой проектов в области внедрения новых технологий занимаются и другие организации и фонды РФ, например, Фонд «Сколково» и в целом государственная корпорация развития «ВЭБ.РФ». При этом поддержка должна осуществляться через механизм «проектов-маяков». Проекты-маяки -инструмент поддержки малых технологических бизнесов, активно

набирающий обороты в России, предоставляющий сервис «бесшовной» поддержки для компаний на разных этапах развития. Проекты-маяки должны отвечать двум критериям: максимальный рыночный потенциал и высокий вытягивающий эффект для развития отечественных технологий. К проектам-маякам, по мнению экспертов Фонда «Сколково», «ВЭБ.РФ» и потенциальных инвесторов, на сегодняшний день можно отнести:

- беспилотную доставку грузов;

- автономное судовождение;

- беспилотные логистические коридоры;

- электро- и водородный автомобиль;

- персональные медицинские помощники [8].

Соотношение отрасли экономики, ключевого научно-технического направления, возможных негативных последствий от его внедрения и примеры наименований проектов, где подобных последствий можно ожидать (в соответствии с реестрами проектов НТИ на 11 мая 2022 года) приводится ниже в табл. 2 (перечень не исчерпывающий).

Таблица 2. Примеры негативных последствий внедрения новых технологий в

зависимости от отрасли

Отрасли Технологические направления Последствия (и примеры проектов, при внедрении которых они теоретически могут возникнуть)

Авиация большие данные Нелегитимное получение информации («Беспилотный летательный измерительный комплекс метеорологической, экологической и геологической разведки»).

Авиация искусственный интеллект Угроза падения БПЛА из-за дисфункции программных средств («Комплекс аппаратно / программных средств автоматической системы точечной посадки БПЛА и создание беспилотного летательного аппарата корабельного базирования»).

Авиация искусственный интеллект Угроза столкновения БПЛА и других воздушных судов («3D-видеосистема предупреждения столкновения БЛА с препятствиями на основе математических

Отрасли Технологические направления Последствия (и примеры проектов, при внедрении которых они теоретически могут возникнуть)

алгоритмов распознавания и динамического анализа разностных изображений»).

Авиация новые и портативные источники энергии Потенциальные проблемы утилизации источника энергии («Беспилотное воздушное судно самолетного типа большой продолжительности полета на основе водородно-воздушного топливного элемента»).

Авиация новые и портативные источники энергии Угроза падения летательного аппарата из-за дисфункции источника энергии («Беспилотное воздушное судно самолетного типа большой продолжительности полета на основе водородно-воздушного топливного элемента»)

Авиация технологии беспроводной связи Потеря дистанционного управления и угроза падения (катастрофы) летательного аппарата из-за сбоев связи («Построение программно-аппаратной части беспилотного дистанционно-пилотируемого сельхозсамолета (БДПС) на базе МВ-500»).

Автотранспорт большие данные Утрата или искажение данных, приводящее к неправильной оценке ситуации в реальном времени («Геоинформационная система мониторинга состояния дорог, водителей и автомобилей»).

Автотранспорт искусственный интеллект ДТП различной тяжести, возможно с гибелью людей («Адаптивная система управления движением транспортного средства по трассам сложного рельефа, включая тяжелые климатические условия»).

Автотранспорт искусственный интеллект ДТП с участием автомобильного и железнодорожного транспорта («Система безопасности транспортных средств на железнодорожных переездах «ЗАГРАДИТЕЛЬ -Т» с использованием интеллектуальный анализа дорожная сцены на базе методов структурная адаптации моделей движения»).

Автотранспорт искусственный интеллект Инциденты и аварии на предприятиях при ошибках функционирования интеллектуальных систем («Программно-аппаратный комплекс интеллектуальной оптимизации и цифрового управления транспортно-логистическими процессами крупных производственных предприятиях»).

Автотранспорт нейротехнологии, технологии виртуальной и дополненной реальностей Возникновение ДТП из-за отвлечения водителя («Автомобильный дисплей на лобовом стекле с настраиваемыми элементами дополненной реальности и биологически адекватной подсветкой»).

Отрасли Технологические направления Последствия (и примеры проектов, при внедрении которых они теоретически могут возникнуть)

Автотранспорт новые производственные технологии Авария со взрывом или возгоранием опасных веществ при транспортировке («Прототип баллона металлокомпозитного, предназначенного для хранения и транспортирования сжатого природного газа»).

Автотранспорт сенсорика и компоненты робототехники Возникновение ДТП из-за дисфункции сенсоров («Лазерный радар фронтального обзора для системы управления автотранспортом без водителя»).

Автотранспорт технологии беспроводной связи Несвоевременная реакция на опасную ситуацию в силу дисфункции связи («Автоматизированный комплекс для определения и снижения уровня риска возникновения дорожно-транспортных происшествий с помощью мониторинга состояния здоровья водителей»).

Водный транспорт большие данные Неверные решения в отношении навигации из-за искажения, повреждения или утраты данных («Система автоматической навигации морских подвижных объектов на основе оперативного анализа судовых, спутниковых и береговых данных»)

Водный транспорт искусственный интеллект Выход параметров судна из под контроля с потенциальной катастрофой из-за неверной работы алгоритмов искусственного интеллекта («Автоматизированная система "умное судно" для мониторинга и контроля параметров корабля»).

Здравоохранение большие данные Разглашение персональных медицинских данных («Аппаратно-программной модуль идентификации пользователя по голосу с использованием нейросетевых технологий»).

Здравоохранение искусственный интеллект Постановка неверного диагноза («Аппаратно-программная платформа для диагностики психологических расстройств»).

Изучение океана и морского дна сенсорика и компоненты робототехники Ошибки в получении и трактовке изображений из-за дисфункции сенсорных элементов («Информационная система унифицированной обработки и 2D/3D отображения гидрографических данных в реальном времени»).

Изучение океана и морского дна технологии беспроводной связи Потеря объектов в силу сбоев связи («Сетецентрическая масштабируемая система подводной связи «Подводный интернет вещей»).

Отрасли Технологические направления Последствия (и примеры проектов, при внедрении которых они теоретически могут возникнуть)

Космонавтика новые производственные технологии Аварии и катастрофы космических летательных аппаратов («Линейка космических аппаратов-конструкторов типа кубсат, радикально сокращающих сроки и стоимость реализации космических миссий»).

Космонавтика технологии беспроводной связи Потеря связи с потенциальной катастрофой космического судна («Приемно-передающие устройства радиолинии передачи данных и сигналов управления между беспилотными воздушными и космическими судами и командным пунктом»).

Сельское хозяйство искусственный интеллект Гибель и заболевание растений в силу неверной работы алгоритма («Программный комплекс для ранней дистанционной диагностики болезней и оценки хозяйственно значимых состояний сельскохозяйственных культур на основе классификации полученных в БПЛА-мониторинге массивов данных мульти- и гиперспектральной съемки»).

Что касается проектов-маяков, то анализ по ним в значительной мере затруднен в силу масштабов этих проектов - они включают множество частей, стадий и подпроектов, используют весь или значительную часть спектра перспективных технологий. Для примера Беспилотная доставка грузов (или аэродоставка, что на самом деле, подразумевается), предполагает как минимум использование больших данных, искусственного интеллекта - для навигации, новых и портативных источников энергии - для питания беспилотников, новых производственных технологий - для производства аппаратов и технологий беспроводной связи - для управления. Итак, по итогам анализа краткой информации о 578 научно -исследовательских и опытно-конструкторских проектах, вводных и презентационных материалов о проектах-маяках, а также анализа материалов современных исследователей можно сделать определенные заключения:

- технологии из отдельных научно-технических направлений НТИ зачастую применяются перекрестно (по несколько видов совместно), так

что имеет смысл говорить об опасностях проектов, а не отдельных технологий;

- развитие отраслей по определенным направлениям может привести к учащению ЧС и усложнению их обстоятельств (беспилотные летательные аппараты могут использоваться для террористических атак; беспилотные автомобили могут провоцировать более сложные по структуре ДТП; перехват управления автоматизированных систем управления опасными объектами может приводить к техногенным авариям и т. д.);

- большинство случаев предлагаемого внедрения новых технологий из ключевых направлений не несет в себе очевидной угрозы возникновения принципиально новых последствий ЧС;

- не исключено, что принципиально новые ЧС могут возникнуть на стыках применения нескольких новых технологий, но такие ситуации плохо поддаются прогнозированию - мы не можем перебрать все возможные варианты использования технологий во всех их сочетаниях;

- в большинстве случаев говорить о негативных последствиях внедрения того или иного набора технологий в рамках проекта или отрасли имеет смысл только в контексте, когда технологии и результаты реализации проектов будут работать не так, как это предполагалось разработчиками;

- в этом случае в смысле рисков необходимо ориентироваться на содержание каждого отдельного проекта и представление разработчиков проекта в части купирования возможных рисков;

- в каждой отрасли имеются ключевые практические направления развития, куда и направлены усилия новаторов: для автотранспорта - это беспилотные автомобили, для авиации - беспилотные летательные аппараты и все, с ними связанное;

- на основании анализа можно утверждать, что, даже создавая принципиально новые проекты, их разработчики не создают

принципиально новые последствия - все последствия укладываются в известный сегодня набор (кораблекрушения, пожары и взрывы, экологические катастрофы и т. д.);

- одновременно с этим можно утверждать, что управление любой из отраслей значительно усложняется или будет усложняться по мере внедрения новых технологий, что само по себе может иметь далеко идущие последствия, причем с эффектом накопления (управление движение транспорта будет значительно усложняться по мере внедрения беспилотных автомобилей, а управление воздушным пространством будет усложняться, хотя бы в силу увеличения числа летательных аппаратов);

- существуют другие, алармистские точки зрения, предполагающие борьбу интеллектуальных роботов с человеком за ресурсы и самовоспроизведение наномеханизмов, приводящее к масштабным разрушениям [9, 10] в ближайшем будущем, и, хотя нельзя подтвердить такие возможности на основе имеющихся открытых данных, невозможно и целиком отмахнуться от них, если принимать во внимание обрывки информации о ведущихся секретных исследованиях (вспомнить хотя бы эпидемию COVID-19 и разнообразные версии относительно происхождения вируса). Тем не менее, такие точки зрения зачастую излагаются в рамках иронии или непрофессионализма.

Литература

1. Национальная технологическая инициатива. URL: https://nti2035.ru/nti/ (дата обращения: 08.09.2023).

2. ML под ударом: противодействие атакам на алгоритмы машинного обучения / @SantrY. URL: https://habr.com/ru/company/bastion/blog/666076/ (дата обращения: 08.09.2023).

3. The MITRE Corporation. URL: https://atlas.mitre.org/ (дата обращения: 08.09.2023).

4. Десять барьеров на пути распределенных реестров / Мейклджон Сара. URL: https://www.osp.ru/os/2018/03/13054407 (дата обращения: 08.09.2023).

5. Квантовый компьютер: зло или надежда? / Новиков Игорь. URL: https://www.it-world.ru/tech/technology/119805.html (дата обращения: 08.09.2023).

6. Реестр проектов НТИ, утвержденных по 317-му постановлению Правительства РФ (Фонд НТИ). URL: https://nti2035.ru/upload/project_register_01.02.2022.pdf (дата обращения: 08.09.2023).

7. Реестр проектов конкурса «Развитие НТИ» (Фонд содействия инновациям). URL: https://nti2035.ru/upload/FSI_project_register.pdf (дата обращения: 08.09.2023).

8. На Nobel Vision рассказали о проектах-маяках. URL: https://sk.ru/news/nobel-vision-proekty-mayaki/ (дата обращения: 08.09.2023).

9. Why the Future Doesn't Need Us / Joy, Bill. URL: https://www.wired.com/2000/04/joy-2/ (дата обращения: 08.09.2023).

10. Five ways AI might destroy the world: 'Everyone on Earth could fall over dead in the same second' / Yoshua Bengio. URL: https://www.theguardian.com/technology/2023/jul/07/five-ways-ai-might-destroy-the-world-everyone-on-earth-could-fall-over-dead-in-the-same-second (дата обращения: 11.09.2023).

References

1. National Technology Initiative. Available at: https://nti2035.ru/nti/ (accessed 8 September 2023).

2. ML under attack: countering attacks using machine learning algorithms / @SantrY. Available at: https://habr.com/ru/company/bastion/blog/666076/ (accessed 8 September 2023).

3. The MITRE Corporation. URL: https://atlas.mitre.org/ (accessed 8 September 2023).

4. Top Ten Obstacles along Distributed Ledgers' Path to Adoption / Мейклджон Сара. Available at: https://www.osp.ru/os/2018/03/13054407 (accessed 8 September 2023).

5. Quantum computer: evil or hope? / Novikov I. Available at: https://www.it-world.ru/tech/technology/119805.html (accessed 8 September 2023).

6. Register of NTI projects approved according to Resolution 317 of the Government of the Russian Federation. Available at: https://nti2035.ru/upload/project_register_01.02.2022.pdf (accessed 8 September 2023).

7. Register of projects of the competition "Development of NTI". Available a t: https://nti2035.ru/upload/FSI_project_register.pdf (accessed 8 September 2023).

8. Talks about main projects at Nobel Vision. Available at: https://sk.ru/news/nobel-vision-proekty-mayaki/ (accessed 8 September 2023).

9. Why the Future Doesn't Need Us / Joy, Bill. Available at: https://www.wired.com/2000/04/joy-2/ (accessed 8 September 2023).

10. Five ways AI might destroy the world: 'Everyone on Earth could fall over dead in the same second' / Yoshua Bengio. Available at: https://www.theguardian.com/technology/2023/jul/07/five-ways-ai-might-destroy-the-world-everyone-on-earth-could-fall-over-dead-in-the-same-second (accessed 11 September 2023).

© Артюхин В.В., 2023 Международный журнал прикладных наук и технологий Integral №5/2023.

Для цитирования: Артюхин В. В. РЕЗУЛЬТАТЫ АНАЛИЗА ВОЗМОЖНЫХ НЕГАТИВНЫХ

ПОСЛЕДСТВИЙ ПРОМЫШЛЕННОГО ВНЕДРЕНИЯ ИНДУСТРИАЛЬНЫХ НОВАЦИЙ И

НОВЫХ ТЕХНОЛОГИЙ, ИМЕЮЩИХ МАССОВЫЙ ХАРАКТЕР, В ГОРИЗОНТЕ ДО 2030 ГОДА

И ДАЛЕЕ // Международный журнал прикладных наук и технологий Integral №5/2023.