CC BY
274
Пра во
Вестник Нижегородского университета им. Н . И. Лобачевского, 2020, № 2, с. 175-186
175
УДК 342.914
АКТУАЛЬНЫЕ ВОПРОСЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ОСУЩЕСТВЛЕНИИ КОНТРОЛЬНО-НАДЗОРНОЙ ДЕЯТЕЛЬНОСТИ ОРГАНОВ ИСПОЛНИТЕЛЬНОЙ ВЛАСТИ
© 2020 г. А.В. Мартынов
Нижегородский государственный университет им. Н.И. Лобачевского, Н. Новгород
Постуоиле в ридекцию 15.02.2020
Статья посвящена актуальным вопросам применения искусственного интеллекта при осуществлении контрольно-надзорной деятельности органами исполнительной власти. Анализируется современное состояние перехода от традиционных форм и методов осуществления государственного контроля и надзора к цифровому государственному контролю и надзору. Рассмотрены концептуальные основы российского законодательства, создающие правовое поле для внедрения технологии искусственного интеллекта в контрольно-надзорную деятельность органов исполнительной власти. Определяются перспективные направления применения искусственного интеллекта в контрольно-надзорной деятельности органов исполнительной власти. Анализируются существующие реальные риски применения искусственного интеллекта в контрольно-надзорной деятельности, которые могут привести к негативным последствиям в государственном управлении. Автором даются предложения нормативно-правового характера по применению искусственного интеллекта при осуществлении контрольно-надзорной деятельности органов исполнительной власти.
Ключивыи слове: административное право, государственное управление, государственный контроль, государственный надзор, контрольно-надзорная деятельность, искусственный интеллект, цифровой государственный контроль, цифровые технологии, нейротехнологии в государственном управлении.
Исслидовемии выоолмимо ори фимемсовой ооддвржкв РФФИ в ремкех маучмого ороикте № 20-011-00584 «Ком-цеоцин оревового ригулировемин исоользовемин имформециоммых тихмологий в сфири госудерствиммого комтролн и медзоре в условиях «цифровой экомомики».
Современные информационные технологии все больше проникают в различные сферы жизнедеятельности. Практически во всех развитых государствах основные сферы производства, промышленности, оказания услуг не обходятся без использования современных информационных технологий. Современное государственное управление также все активнее использует различные информационные ресурсы в своей деятельности. Так, одной из важнейших прорывных современных информационных технологий в сфере государственного управления является единый портал предоставления государственных и муниципальных услуг в электронной форме. Эта информационная технология позволяет путем бесконтактного общения между гражданами и должностными лицами государственных и муниципальных органов власти получать различные виды государственных и муниципальных услуг (получать паспорт, водительское удостоверение, разрешение на оружие, оплачивать штрафы, получать необходимую информацию, записываться на прием к врачу и т.д.). Так, на конец 2019 года на портале «Госуслуги» было заказано более 152 млн услуг, проведено 61.5 млн платежей, общая сумма
оплат через портал составила 64.5 млрд руб., а общее число пользователей портала составило 103 млн человек [1].
Контрольно-надзорная деятельность органов исполнительной власти, являющейся важнейшей сферой и неотъемлемой частью современного государственного управления, может быть сферой, в которой также могут использоваться современные информационные технологии. К примеру, Федеральная служба по труду и занятости (Роструд) разработала портал «Онлайнин-спекция.рф», среди электронных сервисов которого функционирует «Электронный инспектор». Этот сервис позволяет произвести оценку соблюдения работодателями требований трудового законодательства. Электронный сервис был запущен в конце 2014 года и работает в пилотном режиме (информация на март 2020 года). Он позволяет провести самопроверку по 200 тематическим проверочным листам, охватывающим все правоотношения, регулируемые трудовым законодательством, в том числе вопросы охраны труда [2].
В настоящее время контрольно-надзорными органами активно внедряются и используются в своей деятельности федеральные государствен-
ные информационные системы: федеральная государственная информационная система «Федеральный реестр государственных и муниципальных услуг (функций)», федеральная государственная информационная система «Единый портал государственных и муниципальных услуг (функций)», государственная автоматизированная информационная система «Управление», ведомственные государственные информационные системы контрольно-надзорных органов. Они используются для информационно-аналитического обеспечения контрольно-надзорной деятельности и для обеспечения межведомственного взаимодействия при осуществлении контрольно-надзорной деятельности [3, с. 8-81].
Экспертами делается акцент на внедрении в контрольно-надзорную деятельность «цифрового государственного контроля». Он может иметь два значения. В широком смысле под цифровым контролем зачастую понимают любую практику использования информационных технологий при осуществлении государственного контроля. В таком понимании к цифровому контролю относят: а) осуществление ведомственного делопроизводства по вопросам планирования, проведения и оформления результатов контрольных мероприятий в электронном виде («электронный бэк-офис»); б) проведение сотрудниками органов контроля любых мероприятий по проверке соблюдения обязательных требований в сети Интернет (контроль в сети Интернет); в) дистанционный сбор данных о параметрах деятельности подконтрольных лиц, функционировании производственных объектов; г) автоматический анализ собранных данных о подконтрольных лицах, проверка на соответствие обязательным требованиям, выявление нарушений или сведений, свидетельствующих о возможных нарушениях [4, с. 95].
В узком смысле цифровой государственный контроль представляет собой инструменты, обеспечивающие с использованием информационных технологий дистанционный сбор данных о параметрах деятельности подконтрольных лиц, функционировании производственных объектов или автоматический анализ собранных данных, их проверку на соответствие обязательным требованиям, выявление нарушений или информации, свидетельствующей о возможных нарушениях [4, с. 96].
По мнению экспертов, подготовивших аналитический доклад о контрольно-надзорной деятельности по итогам 2018 года, цифровой контроль может осуществляться путем использования четырех основных технологий: 1) средства автоматизированной идентификации (штрих-коды, КЛГО-метки); 2) неавтоматизированные
устройства дистанционного контроля (видеонаблюдение, ДЗЗ); 3) автоматические устройства дистанционного контроля, в том числе персонализированные устройства (устройства мониторинга автотранспорта, судов, стационарного оборудования и т.д.) и неперсонализированные устройства (устройства фиксации нарушений на улич-но-дорожной сети); 4) ГИС, обеспечивающие автоматический анализ [4, с. 98].
Учеными констатируется, что «контроль становится цифровым и получает все более широкое распространение. Трансформируется функция контроля не только в правоохранительной сфере, в частности контроль за совершением административных правонарушений (штрафы за нарушение ПДД), но и контроль со стороны иных органов исполнительной власти, в частности внедрение системы «Платон» для взимания различных видов платежей (в частности, оплаты проезда грузовых автомобилей с массой выше 12 тонн)» [5, с. 47].
С точки зрения С.М. Зубарева и А.В. Сладко-вой, «цифровые технологии контроля в сфере государственного управления представляют собой информационно-технологические процессы, охватывающие контрольную деятельность уполномоченных государственных органов, институтов гражданского общества и граждан, направленную на обеспечение эффективности, законности и целесообразности функционирования субъектов исполнительной власти. Цифровые технологии контроля в сфере государственного управления основываются на широком применении Интернета, компьютеров, мобильных устройств, операционных систем и специальных программ, активном участии в информационном процессе пользователей, использовании режима реального времени при доступе пользователей к удаленным базам данных» [6].
Несмотря на повсеместное использование современных информационных технологий, они все так же продолжают «соседствовать» со старыми методами управленческой деятельности, применяемыми не только в XX веке, но и намного ранее - в XIX и XVIII веках. Особенно это касается контрольно-надзорной деятельности, основным методом которой является проведение проверки инспектором или иным уполномоченным должностным лицом обязательных к исполнению норм и правил (обязательные требования) как с привлечением экспертов, так и без привлечения таковых. В этом смысле произведение Н.В. Гоголя «Ревизор», написанное им в 1835 году, не утратило своей актуальности и вполне применимо к современной российской действительности, особенно при осуществлении контрольно-надзорной деятельности.
Современное мероприятие по контролю включает проверку, заключающуюся в личном присутствии проверяющего на каком-то конкретном подконтрольном (поднадзорном) объекте и его субъективной оценке соблюдения норм и правил в процессе производства, оказания услуг, функционирования объекта и т.п., а равно изучение подготовленной специально для проверки или уже имеющейся документации (технической, правовой, экономической). Оценка проверяемого объекта происходит на основе имеющихся у проверяющего лица конкретных познаний, его образования, профессионального опыта работы, знания нормативных и технических документов, поставленных перед ним целей и задач руководством при проведении проверки и т.д. Тем самым может быть поставлена под сомнение либо компетентность проверяющего лица, либо его объективность при проведении проверки, а равно как любой человек он может допустить неумышленную ошибку (например, пропустить из-за усталости, низкой квалификации или невнимательности какое-либо нарушение).
Очень часто, особенно в последнее время, проверяющих обвиняют в так называемом «обвинительном уклоне» при проведении проверок. То есть целью проведения проверок является не обеспечение безопасности или улучшение функционирования проверяемого объекта, а выискивание формальных нарушений, не влияющих на безопасность объекта, и привлечение субъекта хозяйственной деятельности к административной ответственности. Данная негативная тенденция в сфере контрольно-надзорной деятельности подтверждается словами Президента РФ В.В. Путина, зафиксированными в Послании Президента РФ Федеральному Собранию от 4 декабря 2014 года, а именно: «Мы не в первый раз говорим о необходимости новых подходов в работе надзорных, контрольных, правоохранительных органов. Но изменения происходят медленно. По-прежнему доминирует обвинительный уклон. Вместо того чтобы пресекать отдельные нарушения, закрывают дорогу, создают проблемы тысячам законопослушных, инициативных граждан» [7].
Этот простой и одновременно «действенный» современный метод активно используется и для решения каких-то политических или экономических целей, поставленных руководством страны, например сократить количество вузов и филиалов путем проведения внеплановых проверок их деятельности. Понятно, как это происходило не раз, что задача, стоящая перед проверяющими, по выявлению многочисленных нарушений и ликвидации субъектов экономиче-
ской деятельности будет с особым рвением и желанием выполнена. Не требует доказательств утверждение, что «созидать намного сложнее, чем крушить и уничтожать».
Использование новейших информационных технологий, и прежде всего технологии искусственного интеллекта, вполне могло бы решить часть застаревших проблем.
В России, так же как и во всем мире, уделяется большое внимание развитию областей применения искусственного интеллекта.
Согласно Указу Президента РФ от 9 мая 2017 г. № 203 «Об утверждении Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» [8] к основным направлениям развития российских информационных и коммуникационных технологий отнесен искусственный интеллект (подпункт «в» пункта 36).
4 июня 2019 года Советом при Президенте РФ по стратегическому развитию и национальным проектам был утвержден Паспорт национального проекта «Национальная программа «Цифровая экономика Российской Федерации» [9], в рамках которой планируется поэтапная автоматизация отдельных процессов нормотворчества и формирования правоприменительной практики, включая внедрение механизмов формирования и использования машиночитаемых норм и использования возможностей современных и перспективных технологий искусственного интеллекта, обработки больших данных, технологий распределенных реестров и других перспективных технологий (Федеральный проект «Нормативное регулирование цифровой среды»).
Кроме этого, должны быть разработаны, приняты, гармонизированы и реализованы стандарты обработки массивов больших данных, стандарты информационной безопасности в системах, реализующих облачные, туманные, квантовые технологии, в системах виртуальной и дополненной реальности, и технологии искусственного интеллекта. Утверждены новые межгосударственные стандарты и изменения в действующие стандарты в сфере информационной безопасности для стран ЕАЭС. Создана технология обработки инцидентов информационной безопасности с использованием искусственного интеллекта для повышения уровня автоматизации процессов принятия решений и уменьшения времени реакции на инциденты.
Национальная программа «Цифровая экономика РФ» включает в себя Федеральный проект «Цифровые технологии» (Раздел 4.5), в рамках которой была утверждена «Дорожная карта развития «сквозной» цифровой технологии «Нейро-технологии и искусственный интеллект» [10].
В данной «Дорожной карте» отмечается, что искусственный интеллект может применяться для реализации новых возможностей человека во всех сферах деятельности, в том числе для: а) освобождения человека от монотонной работы путем автоматического создания программного обеспечения; б) поддержки в принятии решений; в) автоматизации опасных видов работ; г) поддержки коммуникаций между людьми.
Одновременно с «Дорожной картой» издается Указ Президента РФ от 10 октября 2019 г. № 490, которым утверждается Национальная стратегия развития искусственного интеллекта на период до 2030 года [11].
В этом документе так же, как и в «Дорожной карте», впервые в России закрепляется легальное понятие искусственного интеллекта, под которым следует понимать комплекс технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.
Кроме данного важнейшего понятия, Национальная стратегия определяет ряд других важнейших понятий: «технологии искусственного интеллекта», «перспективные методы искусственного интеллекта», «смежные области использования искусственного интеллекта», «открытая библиотека искусственного интеллекта» и др.
Безусловно, важнейшей правовой основой использования искусственного интеллекта являются закрепленные Национальной стратегией базовые принципы развития и использования технологий искусственного интеллекта, соблюдение которых обязательно для всех субъектов, участвующих в применении искусственного интеллекта, а именно следующие принципы: а) защита прав и свобод человека; б) безопасность; в) прозрачность; г) технологический суверенитет; д) целостность инновационного цикла; е) разумная бережливость; ж) поддержка конкуренции (пункт 19 Национальной стратегии) [11].
Закрепление в российском законодательстве понятия «искусственный интеллект» и других с ним неразрывно связанных определений и базовых принципов является важным шагом к легальному использованию (применению) искус-
ственного интеллекта при осуществлении государственно-управленческой деятельности, в том числе в контрольно-надзорной деятельности.
Некоторыми учеными в области права предлагаются собственные определения искусственного интеллекта. Так, например, И.В. Понкин и А.И. Редькина предлагают следующее определение: «искусственный интеллект - это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе - виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия...» [12].
П.М. Морхат дает следующее понятие искусственного интеллекта: «это полностью или частично автономная самоорганизующаяся компьютерно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе биокибернетическая (bio-cybernetic), система (юнит), наделенная/обладающая способностями и возможностями.» [13].
Как отмечается некоторыми учеными, «искусственный интеллект включает в себя целый комплекс стремительно развивающихся технологий и процессов. Одним из первоочередных и активно развивающихся направлений искусственного интеллекта является машинное обучение (Machine learning), которое определяется как класс методов искусственного интеллекта, применяемых в областях больших данных (Big Data) и интернета вещей (IoT), изучающих и разрабатывающих алгоритмы автоматизированного распознавания образов и извлечения знаний из массивного объема данных, а также основанных на обучении аппаратных систем, на основе полученных данных, генерации прогнозных значений и рекомендаций» [14].
Следует также согласиться с Г.А. Грищенко, констатирующей, что «единого понимания термина «искусственный интеллект» до сих пор нет и он трактуется разными специалистами по-разному: биологи связывают данную категорию с процессами высшей нервной деятельности и возможностью ее воспроизводства; философы -с системой, способной к творчеству; специалисты в IT-сфере - с технологией обработки данных; юристы - с процедурными вопросами формирования логических связей при решении правовых проблем. В любом случае здесь уместно говорить об использовании модели нейронных сетей как одного из видов машинного обучения, способных выявить закономерности между входными и выходными данными и выдавать
верный результат даже для тех данных, которых не было в изначальной выборке» [15].
Существуют споры между учеными относительно перспектив дальнейшего развития сфер применения искусственного интеллекта.
По мнению одних, «искусственный интеллект (кремниевый) - смежная междисциплинарная область, занимающаяся проблемами воспроизводства искусственного мышления, проявляющаяся в способности синтетических (искусственно смоделированных конструкций) принимать решения без контроля оператора»; «Искусственный интеллект (кремниевый) станет конечной точкой развития компьютерных технологий и подтолкнет человечество к созданию биологического интеллекта, тем самым откроет новые пути развития для ряда естественно-гуманитарных наук, в том числе, биологических наук» [16].
С. Хокингом в интервью BBC 2 декабря 2014 года было отмечено: «Создание полноценного искусственного интеллекта может стать началом конца человеческой расы. Он [искусственный интеллект] будет существовать сам по себе и начнет изменяться с все возрастающей скоростью. Люди, которые лимитированы в этом плане медленной биологической эволюцией, не смогут конкурировать и будут заменены» [17].
Другие ученые утверждают, что «интуиция, понимание, озарение, творчество присуще только человеку. Человеческое поведение, в свою очередь, характеризуется непредсказуемостью, то есть оно спровоцировано внешним миром и страхами самого человека. Человеческий интеллект обладает качествами, которые еще нельзя выразить на языке программирования: любопытство, глубина ума, гибкость и подвижность ума, способность к интуитивному решению сложных проблем. И для научного сообщества раскрытие механизмов творческой деятельности, понимания, интуиции, озарения, на сегодняшний день, не представляется возможным. А значит, пока в человеческом разуме остается загадка, он еще в силе претендовать на исключительность. Таким образом, с точки зрения философии, перспективы создания универсального искусственного интеллекта неутешительны, до того момента пока сущность человека остается тайной. Иными словами, между машиной и человеком всегда существует различие» [18].
Генеральный директор компаний SpaceX и Tesla Элон Маск считает искусственный интеллект самым большим риском для существования всей человеческой цивилизации. Элон Маск на ежегодной встрече ассоциации губернаторов назвал искусственный интеллект самым боль-
шим риском, с которым мы сталкиваемся как цивилизация. «Искусственный интеллект - тот редкий случай, когда нам нужно быть активней в регулировании, а не реагировать. Потому что к тому времени, когда мы будем реагировать, станет уже слишком поздно», - заявил Маск [19].
Как нам представляется, в ближайшее время невозможно будет сформулировать единое понятие искусственного интеллекта. Тем более вряд ли можно назвать целесообразным включение в определение искусственного интеллекта всех его признаков и качественных характеристик, которых значительное число. В этом смысле формула определения искусственного интеллекта, закрепленная Указом Президента РФ от 10 октября 2019 г. № 490, является наиболее оптимальной.
Вместе с тем уже сейчас можно выделить сферы деятельности, в которых применяется искусственный интеллект: 1) при проведении научных исследований; 2) в финансово-экономической сфере, в том числе сквозных информационных технологиях в цифровой экономике; 3) в промышленности, в технологических процессах и производствах; 4) в медицинской деятельности; 5) в здравоохранении, при проведении высокотехнологичных операций, анализе развития и предупреждения массовых заболеваний; 6) для освоения космоса [20]; 7) для обеспечения обороны страны; 8) в юридической сфере (подготовка правовых документов (исков, жалоб), расследование и раскрытие преступлений); 9) для удовлетворения потребностей человека (развлечения, игры и т.п.); 10) при осуществлении государственного и муниципального управления (например, «умный» город, «умный» дом и т.п.).
В настоящее время можно встретить научные исследования, посвященные не только общим вопросам правового регулирования использования искусственного интеллекта, но и общим вопросам применения искусственного интеллекта в государственном и публичном управлении [15].
Так, П.М. Морхат отмечает, что «искусственный интеллект может использоваться и в публичном (государственном и муниципальном управлении), в межевании земельных участков, контроле землепользования, в обеспечении прозрачности и законности госзакупок и госконтрактов» [21]. С его точки зрения, можно обозначить следующие направления применения систем искусственного интеллекта для обеспечения функционирования системы государственных органов исполнительной власти, реализации государственного управления:
- многокритериальная и полилатеральная (многоаспектная) динамическая оценка эффективности и пертинентности государственного управления, релевантности управленческих действий; оценка эффективности реализации государственной власти и государственного управления в конкретных сферах;
- мониторинг и выявление ошибок и иных дефектов, а также дисфункций и дисбалансов в государственном управлении;
- мониторинг и выявление рисков, неопределенностей и факторов энтропии в государственном управлении;
- мониторинг и выявление конфликта интересов, иных предпосылок для коррупционных действий в системе государственной власти и государственного управления, в органах местного самоуправления;
- применение юнитов искусственного интеллекта в госуслугах, госконтрактах и госзакупках, распределение государственных ресурсов, обеспечение прозрачности и законности госзакупок и госконтрактов, выявление серых и коррупционных схем в этих сферах;
- создание и реализация типологии интеллектуальной обратной связи в государственном управлении;
- применение юнитов искусственного интеллекта в кадастровой деятельности, в межевании земельных участков, контроле землепользования;
- поиск площадок для проведения публичных мероприятий;
- заказ и оценка выполненных научно -исследовательских работ (НИР);
- реализация прогностического сценарного анализа в рамках планирования и программирования государственного управления [13].
По мнению Е.А. Савченко, «вектор законодательства должен быть направлен на то, чтобы управленческие решения нижнего уровня передать программным системам, работающим на основе искусственного интеллекта, так называемым интеллектуальным агентам, которые могут взять на себя всю алгоритмизируемую деятельность, а также обеспечить выполнение контрольно-надзорных функций, свободных от отрицательного влияния человеческого фактора» [22].
Е.А. Шорник и Д.Д. Зыков предлагают уделить внимание «усовершенствованию информационных технологий, оснащенных искусственным интеллектом, которые смогут заменить специалистов, использующих электронно-вычислительные машины для обработки потоков информации. Тем самым процесс обработки информации будет протекать намного быстрее, а значит, и отклик государства на социальный запрос будет предоставляться в кратчайшие
сроки. Также можно роботизировать правительство, дабы исключить человеческий фактор, тем самым и коррупцию, и прочие проблемы управленцев» [23].
П.Н. Беген и А.В. Чугунов указывают, что «в сфере государственного управления ИИ помогает снизить стоимость операций, увеличить скорость работы процессов, позволяет сосредоточить больше имеющихся ресурсов на приоритетные задачи, предоставить новые методы коммуникации между обществом и органами власти (например, создание и развитие электронных порталов) и т.п.» [14].
Г.А. Грищенко указывает, что «возможные сферы применения искусственного интеллекта в государственном управлении весьма разнообразны и могут быть сгруппированы по предметному принципу:
- в промышленности - автоматизация различных процессов, снижение издержек, повышение качества оказываемых услуг;
- в сфере финансов - предотвращение мошенничества, обслуживание клиентов, контроль правомерности деятельности субъектов экономической деятельности;
- в сфере транспорта - обеспечение безопасности движения транспортных средств, составление расписания транспорта, разгрузка дорожных «пробок»;
- в сфере образования - беспристрастная оценка уровня знаний, разработка индивидуальных программ обучения, реализация потенциала учащегося;
- в сфере здравоохранения - анализ медицинских изображений, поддержка здорового образа жизни, коммуникации с пациентами, рекомендации по тактике ведения пациентов и лечению;
- в сфере ЖКХ - предотвращение коммунальных аварий, помощь людям с ограниченными возможностями;
- в сфере сельского хозяйства - автоматизация процессов сбора урожая, поддержка необходимых условий возделывания сельскохозяйственных культур;
- в сфере правосудия - развитие системы электронного правосудия, генерация судебных решений, контроль судебной практики» [15].
Научные исследования, посвященные концептуальным вопросам применения искусственного интеллекта в контрольно-надзорной деятельности, практически отсутствуют. Можно встретить лишь несколько научных работ по отдельным видам контрольно-надзорной деятельности, в которых рассматривается возможность применения технологии искусственного интеллекта, например по применению искусственного интеллекта при осуществлении государственного контроля в сфере охраны здоровья
[24]; применение искусственного интеллекта при осуществлении таможенного контроля [25].
На наш взгляд, можно выделить нисколько вежмийших оозитивмых есоиктов рримининин искусствиммого имтилликте ори осущиствлимии контрольно-надзорной динтильмости:
1) искусственный интеллект позволяет получать наиболее точные данные при работе с большим массивом информации, цифр, сведений, производстве сложных вычислений;
2) искусственный интеллект позволяет определить более точно отклонения от нормального функционирования объекта путем разностороннего анализа его деятельности путем обработки большого массива данных;
3) искусственный интеллект позволяет создавать «цифровых двойников». Эта технология, например в промышленности, основана на реализации единой интегрированной постоянно обновляющейся шестислойной модели, включающей в себя: нормативно-справочную информацию, проектно-сметную документацию в электронном виде, графический слой представления объектов, инженерные данные, математические модели и онлайн-данные, получаемые от автоматизированных систем управления технологическими процессами [26];
4) искусственный интеллект позволяет значительно экономить время на поиск информации, в том числе информации для оценки деятельности объекта, подлежащего государственному контролю и надзору;
5) искусственный интеллект позволяет избежать технических ошибок при производстве вычислений или проведении оценки на основе объективных данных, то есть исключить так называемый человеческий фактор;
6) искусственный интеллект позволяет предоставлять от имени органов государственной власти значительное число консультаций и ответов на вопросы по контрольно-надзорной деятельности при минимальных затратах человеческих ресурсов (в финансовом секторе уже активно используются компьютерные программы, позволяющие отвечать на наиболее часто задаваемые вопросы у клиентов банка (программы - чат-боты));
7) искусственный интеллект позволяет добиться более независимой и объективной контрольно-надзорной деятельности, в том числе исключить коррупционные и другие преступные проявления;
8) искусственный интеллект можно использовать в качестве независимой оценки деятельности подконтрольного (поднадзорного) объекта, тем самым может быть произведена замена независимых экспертов;
9) искусственный интеллект позволит повысить качество принимаемых управленческих решений должностных лиц контрольно-надзорных органов, в том числе сократить сроки принятия таких решений;
10) искусственный интеллект позволит наконец-то уйти от так называемой «палочной» системы, то есть перейти от оценки деятельности контрольно-надзорных органов по количеству проведенных проверок, выявленных нарушений и привлеченных к ответственности лиц действительно к оценке предотвращенного вреда в результате нарушения обязательных для исполнения норм и правил.
При этом, как нам представляется, области применения искусственного интеллекта в государственном управлении во ммогом взеимосвнзе-мы с возможмостнми рримининин искусствиммого имтилликте в цифровой экомомики стремы.
В пункте 21 Национальной стратегии развития искусственного интеллекта указывается, что использование технологий искусственного интеллекта в отраслях экономики носит общий («сквозной») характер и способствует созданию условий для улучшения эффективности и формированию принципиально новых направлений деятельности хозяйствующих субъектов, в том числе за счет:
а) повышения эффективности процессов планирования, прогнозирования и принятия управленческих решений (включая прогнозирование отказов оборудования и его превентивное техническое обслуживание, оптимизацию планирования поставок, производственных процессов и принятия финансовых решений);
б) автоматизации рутинных (повторяющихся) производственных операций;
в) использования автономного интеллектуального оборудования и робототехнических комплексов, интеллектуальных систем управления логистикой;
г) повышения безопасности сотрудников при выполнении бизнес-процессов (включая прогнозирование рисков и неблагоприятных событий, снижения уровня непосредственного участия человека в процессах, связанных с повышенным риском для его жизни и здоровья);
д) повышения лояльности и удовлетворенности потребителей (в том числе направление им персонализированных предложений и рекомендаций, содержащих существенную информацию);
е) оптимизации процессов подбора и обучения кадров, составления оптимального графика работы с учетом различных факторов (пункт 19 Национальной стратегии) [11].
Действительно, многое из того, что приведено в Национальной стратегии в качестве пер-
спективных направлений использования искусственного интеллекта в экономике, вполне может быть реализовано при осуществлении контрольно-надзорной деятельности.
1. Применение искусственного интеллекта имеет огромный потенциал при планировании, прогнозировании и принятии управленческих решений при осуществлении контрольно-надзорной деятельности.
Планирование контрольно-надзорных мероприятий может происходить с помощью искусственного интеллекта, который позволит более точно и объективно определить потенциально опасные объекты, которые должны в первоочередном порядке подлежать проверке контрольно-надзорными органами.
Прогнозирование посредством применения искусственного интеллекта потенциально опасных ситуаций на объектах, подлежащих контролю и надзору, может быть использовано при осуществлении профилактической контрольно-надзорной деятельности. Действительно, компьютерное моделирование и прогнозирование аварий, инцидентов и отказов оборудования и последующее направление подконтрольному (поднадзорному) объекту предписаний о превентивном техническом обслуживании оборудования позволит избежать не столько нарушений норм и правил, сколько возможных последствий - аварий и инцидентов, повлекших причинение вреда жизни и здоровью людей, причинение ущерба окружающей среде, имуществу третьих лиц и т.д.
Например, М.С. Арабян и К.М. Гильманова указывают, что «благодаря искусственному интеллекту машины могут самостоятельно реагировать на сигналы из окружающего мира, то есть сигналы, которые программисты напрямую не контролируют и, следовательно, не могут предвосхитить. Искусственный интеллект успешно применяется в прогнозировании, контроле за качеством услуг, выработке рекомендаций и распознавании (лиц, эмоций, голоса и т.п.). Так, в Сингапуре и Южной Корее осуществляется оценка потенциала по использованию искусственного интеллекта для чтения (расшифровки) и анализа рентгеновских изображений контейнеров. Целью такой работы является выявление аномалий (нестандартных ситуаций) и формирование уведомлений таможенным органам, предупреждающих о необходимости задействовать человека для проведения досмотра подозрительных предметов» [25].
2. Применение искусственного интеллекта при рутинных (повторяющихся) операциях в сфере контрольно-надзорной деятельности может быть использовано при оценке соблюдения
лицензионных требований и условий, ранее выданных разрешений, проверке декларирования и страхования объектов и т.п. Кроме того, искусственный интеллект может быть использован для сравнения правовых и технических норм и правил на предмет их отмены, изменения и возможных противоречий.
3. Применение искусственного интеллекта при непосредственном проведении мероприятий по контролю позволит проводить более качественно и эффективно проверку подконтрольного (поднадзорного) объекта. Искусственный интеллект позволит проводить одновременно сразу несколько контрольно--надзорных мероприятий в отношении разных объектов.
Например, при проведении видеосъемки компьютерная программа, основанная на искусственном интеллекте, может распознавать различные технические устройства и детали, объекты, помещения, сооружения, приспособления, и т.д. Сопоставив указанные объекты с нормами и правилами (обязательные правила), выполнение которых подлежит проверке, можно выдать аналитический отчет о соблюдении либо несоблюдении этих обязательных требований. После чего выявленные нарушения могут быть предметом личной проверки уже должностного лица контрольно-надзорного органа, а в случае согласия собственника проверяемого объекта такая проверка может и не проводиться.
4. Применение искусственного интеллекта позволит обеспечить безопасность при проведении контрольно-надзорных мероприятий. Так, сотрудникам контрольно-надзорных органов при проведении проверочных мероприятий приходится лично проверять объекты, представляющие опасность для жизни и здоровья (шахты, подъемные сооружения, химические и радиационные объекты и т.п.). В ряде случаев такая проверка представляет опасность как для проверяющих, так и для проверяемых лиц. Кроме того, при проведении этих мероприятий могут проводиться технические испытания, которые представляют опасность для их участников. Применение современных технических устройств: дронов, квадрокоптеров, беспилотных аппаратов, роботов - и полученные с их помощью необходимые сведения могут быть проанализированы искусственным интеллектом. Результатом таких проверок станут рекомендации по безопасной эксплуатации оборудования и производств, совершение действий, направленных на соблюдение обязательных требований.
5. Применение искусственного интеллекта позволит исключить предвзятость и «обвинительный уклон» со стороны сотрудников контрольно-надзорных органов.
6. Применение искусственного интеллекта позволит повысить эффективность обучения сотрудников контрольно-надзорных органов, а равно работников организаций, в отношении которых осуществляются мероприятия по контролю (надзору).
7. Искусственный интеллект позволяет принимать должностным лицам контрольно-надзорных органов наиболее оптимальные и эффективные управленческие решения, сокращая при этом их административное усмотрение.
Несмотря на отмеченные выше различные достоинства и положительные аспекты применения искусственного интеллекта в контрольно -надзорной деятельности, следует отметить и существующие реальные риски применения искусственного интеллекта, которые могут привести к негативным последствиям. Данные риски можно условно разделить на две большие группы: технические и социальные.
В оирвую груооу рисков можно отнести следующие обстоятельства.
Во-оирвых, одним из самых вероятных рисков является вмешательство в работу компьютерной программы искусственного интеллекта. В компьютерную программу может быть запущен вирус или внесены изменения, делающие ее деятельность необъективной. Это может происходить со стороны злоумышленников, которые хотят установить препятствия для законной деятельности контрольно-надзорных органов, а равно иностранных государств, преследующих военные или политические цели.
Во-вторых, серьезным риском может являться технический сбой в работе искусственного интеллекта (то есть соответствующей компьютерной программы или компьютера). Можно в полной мере констатировать, что разработки программного обеспечения искусственного интеллекта находятся только на начальном этапе. Поэтому существует большая вероятность некорректной работы либо программного обеспечения, либо технических устройств, используемых для работы искусственного интеллекта.
Некоторыми учеными особо подчеркивается данная проблема: «как показала практика, искусственный интеллект подвержен риску не только хакерских атак, но и других сбоев, которые крайне сложно предугадать, а зачастую и невозможно предотвратить или затруднительно остановить, поскольку роботы за доли секунды могут принять неправильные решения, которые охватят своими негативными или даже опасными последствиями огромное количество людей, тогда как последствия неправильных решений живого человека редко бывают такими одномоментными и массовыми» [5, а 46].
В-третьих, по причине технических неисправностей или наличия уязвимости системы искусственного интеллекта возможна потеря важных сведений, информации, больших данных и т.д. Кроме этого, важным аспектом также является получение, обработка и распространение персональных данных, информации ограниченного доступа, секретной информации. Отсутствие контроля со стороны человека может привести к потере важной информации либо распространению персональной информации вопреки воле человека.
В-четвертых, для работы искусственного интеллекта необходима бесперебойная работа высокоскоростного Интернета (не менее 4G или 5G). Это является большой проблемой для нашей страны, на большей части которой нет высокоскоростного Интернета. В отсутствие высокоскоростного Интернета работа искусственного интеллекта, оперирующего большими данными, не представляется возможной.
В-пятых, разработчиками искусственного интеллекта являются крупные корпорации, такие как Google, Facebok, IBM, Amazon, Apple, AlBrain, Twitter, iCarbon, Entefy, Cloudminds (Top-10), которые являются крупными зарубежными компаниями (прежде всего США). В России разработкой искусственного интеллекта занимаются две крупные российские компании -«Яндекс» и Сбербанк. Передача технологии искусственного интеллекта на государственный уровень (не учитывая военных разработок) потребует значительного времени и материальных ресурсов, которые государство может и не иметь для этих целей.
Ко второй группе рисков можно отнести следующее.
Во-первых, учитывая риск, связанный с ошибкой в работе системы искусственного интеллекта, остро встает вопрос о перепроверке принятых искусственным интеллектом решений. Если искусственный интеллект принял неправильное решение, то какая в этом случае существует процедура проверки? В какой степени мы можем доверять решениям, принятым искусственным интеллектом?
В данном случае следует согласиться с учеными, отмечающими, что «юридически значимые решения, принятые искусственным интеллектом, практически невозможно опротестовать, что значительно снижает гарантии прав граждан и возможности по контролю за принятием решений государственными органами с помощью ИИ-технологий» [5, c. 47]. Исследователи приводят следующий пример такой гипотетической ситуации: «ИИ анализирует данные малообеспеченного инвалида и решает,
сколько часов бесплатного ухода в неделю ему полагается от государства. Если ИИ решил отказать или назначить меньше, чем раньше, больному просто некуда обратиться: ему говорят, что решение, принятое «черным ящиком», невозможно изменить. Более того, чиновники не могут даже объяснить принятое решение - примерно, как сотрудник банка может лишь гадать, почему система не выдала потребителю кредит» [27].
Во-вторых, в целом можно констатировать, что серьезной проблемой является отсутствие доверия при оказании разнообразных услуг человеку с применением искусственного интеллекта. Так, у многих вызывает недоверие, если медицинская операция проводится не врачом, а роботом; у человека возникает недоверие к автомобилю, управляемому искусственным интеллектом; человек опасается, если его личные денежные средства переходят под управление искусственного интеллекта; и т.п.
Следовательно, вопрос о полноценном применении искусственного интеллекта в государственном управлении связан не столько с технической возможностью (технологическим прогрессом), сколько с высоким уровнем общественного доверия к этим технологиям со стороны людей.
В-третьих, существует угроза социальных конфликтов при использовании искусственного интеллекта ввиду того, что при принятии управленческого решения на основе искусственного интеллекта практически сокращается или даже обнуляется возможность административного усмотрения. При таких обстоятельствах могут быть проигнорированы тяжелые жизненные ситуации, финансовое состояние, трагедии человека, социально-политические условия и др. Тем самым применение искусственного интеллекта - «бездушной машины» не позволит решить цели и задачи государственного управления, основанного в том числе на принципах целесообразности, справедливости и гуманизма.
В-четвертых, активное применение искусственного интеллекта может вызывать нигилизм, отторжение и желание противопоставить человека машине. Скоропалительная замена человеческого труда технологиями искусственного интеллекта и потеря большим числом людей своей работы приведет к активному противостоянию общества и работодателей, в том числе государства и крупных корпораций, применяющих в своей деятельности технологии искусственного интеллекта вместо использования человеческого труда. В связи с этим государство будет вынуждено сокращать сферы применения искусственного интеллекта, учитывая потребности и социальные запросы общества.
Таким образом, для дальнейшего внедрения в контрольно-надзорную деятельность технологии искусственного интеллекта необходима разработка соответствующей стратегии, в которой должны быть зафиксированы основные направления, формы и методы применения искусственного интеллекта в контрольно-надзорной деятельности, а также временные этапы его внедрения в практику и возможные риски.
Список литературы
1. Официальный портал «Госуслуги». URL: https://www.gosuslugi.ru/help/news/2019_12_30_results _of_the_year (дата обращения: 12.02.2020).
2. Официальный портал Роструда «Онлайнин-спекция.рф». URL: https://xn--80akibcicpdbetz7e2g.xn--plai/inspector (дата обращения: 12.02.2020).
3. Мартынов А.В. Обзор законодательства, устанавливающего основные направления и принципы внедрения новых информационных технологий в деятельность органов исполнительной власти, осуществляющих функции контроля и надзора // Актуальные вопросы контроля и надзора в социально значимых сферах деятельности общества и государства: Материалы IV Всероссийской научно-практической конференции, посвященной 90-летию профессора И.А. Склярова (Россия, Нижний Новгород, 12 апреля 2018 г.) / Отв. ред. докт. юрид. наук, профессор А.В. Мартынов. Н. Новгород: Изд-во Нижегородского госуд. ун-та им. Н.И. Лобачевского, 2018. (440 с.). С. 8-81.
4. Контрольно-надзорная и разрешительная деятельность в Российской Федерации. Аналитический доклад. 2018 г. / Кол. авт. С.М. Плаксин, И.А. Абузя-рова, А.В. Кнутов и др. М.: Национальный исследовательский университет «Высшая школа экономики», 2019. 148 с.
5. Юридическая концепция роботизации: Монография / Отв. ред. Ю.А. Тихомиров, С.Б. Нанба. М.: Проспект, 2019. 240 с.
6. Зубарев С.М., Сладкова А.В. О понятии и сущности цифровых технологий контроля в сфере государственного управления // Административное право и процесс. 2019. № 9. С. 53-59.
7. Послание Президента РФ Федеральному Собранию от 4 декабря 2014 г. «Послание Президента РФ Федеральному Собранию» // Российская газета. 2014. 5 декабря. № 278.
8. Указ Президента РФ от 9 мая 2017 г. № 203 «Об утверждении Стратегии развития информационного общества в Российской Федерации на 20172030 годы» // Собрание законодательства Российской Федерации. 2017. № 20. Ст. 2901.
9. Паспорт национальной программы «Цифровая экономика Российской Федерации», утвержден 4 июня 2019 года Советом при Президенте РФ по стратегическому развитию и национальным проектам. Документ опубликован не был. Режим доступа: СПС «КонсультантПлюс».
10. Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». Документ опубликован не был. Режим
доступа: СПС «КонсультантПлюс». Дата подписания 10 октября 2019 г. Дата опубликования: 14 октября 2019 г. URL: https://digital.gov.ru/ru/documents/6658/ (дата обращения: 16.02.2020).
11. Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700.
12. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91-109.
13. Морхат П.М. Возможности, особенности и условия применения искусственного интеллекта в юридической практике // Администратор суда. 2018. № 2. С. 8-12.
14. Беген П.Н., Чугунов А.В. Исследование возможностей применения искусственного интеллекта в сфере цифрового государственного управления // Альманах научных работ молодых ученых XLVIII научной и учебно-методической конференции Университета ИТМО. СПб.: Университет ИТМО. Т. 3. С. 202-206.
15. Грищенко Г.А. Искусственный интеллект в государственном управлении // Российский юридический журнал. 2018. № 6 (123). С. 27-31.
16. Таран В.В. Интернет - как самосовершенствующаяся система (промежуточный этап на пути к искусственному интеллекту) // Вестник Университета Российской академии образования. 2015. № 5. С. 58-66.
17. Канобу. Искусственный интеллект уже здесь [Электронный ресурс]. URL: http://kanobu.ru/artic les/iskusstvennyij -intellekt-uzhe-zdes-368851/ (дата обращения: 12.02.2020).
18. Минигулова И.Р. Конструктивная функция отрицания в искусственном интеллекте // В сб.: Информационные технологии интеллектуальной поддержки принятия решений / Proceedings of the 2nd International Conference «Information Technologies for Intelligent Decision Making Support» and the Intended
International Workshop «Robots and Robotic Systems». General Program Chair: Guzairov Murat (USATU, Ufa, Russia); General Chair Woman: Yusupova Nafisa (USATU, Ufa, Russia). 2014. С. 251-252.
19. Элон Маск назвал главную угрозу для человечества. URL: http://www.vestifinance.ru/articles/ 88234 (дата обращения: 12.02.2020).
20. Ан И. Эволюция и киборгизация, искусственный интеллект и космический человек будущего. URL: https://hronokod.ru/evolyutsiya-i-kiborgizatsiya-iskusstvennyj -intellekt-i-kosmicheskij -chelovek-budush hego/ (дата обращения: 12.02.2020).
21. Морхат П.М. Правовые проблемы применения искусственного интеллекта // Аграрное и земельное право. 2017. № 10 (154). С. 58-64.
22. Савченко Е.А. Некоторые аспекты соблюдения законности субъектами разрешительной и контрольно-надзорной деятельности в условиях модернизации социально-экономического развития // Журнал российского права. 2019. № 7. С. 104-114.
23. Шорник Е.А., Зыков Д.Д. Возможности внедрения технологии искусственного интеллекта в процессе модернизации системы публичного управления в России // Плехановский барометр. 2019. № 1 (17). С. 24-26.
24. Шишов М.А. О применении искусственного интеллекта в осуществлении контроля в сфере охраны здоровья // Медицинское право. 2019. № 3. С. 15-19.
25. Арабян М.С., Гильманова К.М. Цифровизация как приоритетный инструмент совершенствования таможенного администрирования на примере ЕАЭС // Таможенное дело. 2019. № 4. С.17-21.
26. Семенов П.В., Семишкур Р.П., Дяченко И.А. Концептуальная модель реализации технологии «цифровых двойников» для предприятий нефтегазового комплекса // Газовая промышленность. 2019. № 7 (787). С. 24-30.
27. Шнуренко И. Искусственный интеллект на грани нервного срыва // Эксперт. 2019. № 1. URL: https ://expert.ru/expert/2019/01/iskusstvennyij -intellekt-na-grani-nervnogo-sryiva/ (дата обращения: 12.02.2020).
CURRENT ISSUES OF APPLYING ARTIFICIAL INTELLIGENCE IN THE IMPLEMENTATION OF CONTROL AND OVERSIGHT ACTIVITIES BY EXECUTIVE AUTHORITIES
A. V. Martynov
The article discusses some topical issues of the use of artificial intelligence in the implementation of control and oversight activities by executive authorities. The current state of the transition from traditional forms and methods of state control and oversight to digital state control and oversight is analyzed. The conceptual foundations of Russian legislation are considered, which create a legal framework for the introduction of artificial intelligence technology in the control and oversight activities of executive authorities. Some promising areas in the use of artificial intelligence in the control and oversight activities of executive authorities are determined. An analysis is presented of the existing real risks of using artificial intelligence in control and oversight activities, which can lead to negative consequences in public administration. The author offers a number of regulatory proposals regarding the use of artificial intelligence in the implementation of the control and oversight of executive authorities.
Keywords: administrative law, public administration, state control, public oversight, control and oversight activities, artificial intelligence, digital public oversight, digital technologies, neurotechnologies in public administration.
References
1. Oficial'nyj portal «Gosuslugi». URL: https://www.gosuslugi.ru/help/news/2019_12_30_results _of_the_year (data obrashcheniya: 12.02.2020).
2. Oficial'nyj portal Rostruda «Onlajninspekciya.rf». URL: https://xn--80akibcicpdbetz7e2g.xn-p 1 ai/inspec tor (data obrashcheniya: 12.02.2020).
3. Martynov A.V. Obzor zakonodatel'stva, usta-navlivayushchego osnovnye napravleniya i principy vnedreniya novyh informacionnyh tekhnologij v deyatel'nost' organov ispolnitel'noj vlasti, osu-shchestvlyayushchih funkcii kontrolya i nadzora // Aktu-al'nye voprosy kontrolya i nadzora v social'no znachim-yh sferah deyatel'nosti obshchestva i gosudarstva: Mate-rialy IV Vserossijskoj nauchno-prakticheskoj konfer-encii, posvyashchennoj 90-letiyu professora I.A. Sklya-rova (Rossiya, Nizhnij Novgorod, 12 aprelya 2018 g.) / Otv. red. dokt. yurid. nauk, professor A.V. Martynov. N. Novgorod: Izd-vo Nizhegorodskogo gosud. un-ta im. N.I. Lobachevskogo, 2018. (440 s.). S. 8-81.
4. Kontrol'no-nadzornaya i razreshitel'naya deyatel'nost' v Rossijskoj Federacii. Analiticheskij doklad.
2018 g. / Kol. avt. S.M. Plaksin, I.A. Abuzyarova, A.V. Knutov i dr. M.: Nacional'nyj issledovatel'skij uni-versitet «Vysshaya shkola ekonomiki», 2019. 148 c.
5. Yuridicheskaya koncepciya robotizacii: Mono-grafiya / Otv. red. Yu.A. Tihomirov, S.B. Nanba. M.: Prospekt, 2019. 240 s.
6. Zubarev S.M., Sladkova A.V. O ponyatii i sushchnosti cifrovyh tekhnologij kontrolya v sfere gosu-darstvennogo upravleniya // Administrativnoe pravo i process. 2019. № 9. S. 53-59.
7. Poslanie Prezidenta RF Federal'nomu Sobraniyu ot 4 dekabrya 2014 g. «Poslanie Prezidenta RF Feder-al'nomu Sobraniyu» // Rossijskaya gazeta. 2014. 5 dekabrya. № 278.
8. Ukaz Prezidenta RF ot 9 maya 2017 g. № 203 «Ob utverzhdenii Strategii razvitiya informacionnogo ob-shchestva v Rossijskoj Federacii na 2017-2030 gody» // Sobranie zakonodatel'stva Rossijskoj Federacii. 2017. № 20. St. 2901.
9. Pasport nacional'noj programmy «Cifrovaya ekonomika Rossijskoj Federacii», utverzhden 4 iyunya
2019 goda Sovetom pri Prezidente RF po strate-gicheskomu razvitiyu i nacional'nym proektam. Dokument opublikovan ne byl. Rezhim dostupa: SPS «Kon-sul'tantPlyus».
10. Dorozhnaya karta razvitiya «skvoznoj» cifrovoj tekhnologii «Nejrotekhnologii i iskusstvennyj intellekt». Dokument opublikovan ne byl. Rezhim dostupa: SPS «Konsul'tantPlyus». Data podpisaniya 10 oktyabrya 2019 g. Data opublikovaniya: 14 oktyabrya 2019 g. URL: https://digital.gov.ru/ru/documents/6658/ (data obrashcheniya: 16.02.2020).
11. Ukaz Prezidenta RF ot 10 oktyabrya 2019 g. № 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» (vmeste s «Nacional'noj strategiej razvitiya iskusstvennogo intellekta na period do 2030 goda») // Sobranie zakonodatel'stva Rossijskoj Federacii. 2019. № 41. St. 5700.
12. Ponkin I.V., Red'kina A.I. Iskusstvennyj intellekt s tochki zreniya prava // Vestnik RUDN. Seriya: Yuridicheskie nauki. 2018. T. 22. № 1. S. 91-109.
13. Morhat P.M. Vozmozhnosti, osobennosti i usloviya primeneniya iskusstvennogo intellekta v
yuridicheskoj praktike // Administrator suda. 2018. № 2. S. 8-12.
14. Begen P.N., Chugunov A.V. Issledovanie voz-mozhnostej primeneniya iskusstvennogo intellekta v sfere cifrovogo gosudarstvennogo upravleniya // Al'manah nauchnyh rabot molodyh uchenyh XLVIII nauchnoj i uchebno-metodicheskoj konferencii Universiteta ITMO. SPb.: Universitet ITMO. T. 3. S. 202-206.
15. Grishchenko G.A. Iskusstvennyj intellekt v gosu-darstvennom upravlenii // Rossijskij yuridicheskij zhur-nal. 2018. № 6 (123). S. 27-31.
16. Taran V.V. Internet - kak samoso-vershenstvuyushchayasya sistema (promezhutochnyj etap na puti k iskusstvennomu intellektu) // Vestnik Universiteta Rossijskoj akademii obrazovaniya. 2015. № 5. S. 58-66.
17. Kanobu. Iskusstvennyj intellekt uzhe zdes' [El-ektronnyj resurs]. URL: http://kanobu.ru/articles/iskusst vennyij-intellekt-uzhe-zdes-368851/ (data obrashcheniya: 12.02.2020).
18. Minigulova I.R. Konstruktivnaya funkciya otri-caniya v iskusstvennom intellekte // V sb.: Infor-macionnye tekhnologii intellektual'noj podderzhki prinyatiya reshenij / Proceedings of the 2nd International Conference «Information Technologies for Intelligent Decision Making Support» and the Intended International Workshop «Robots and Robotic Systems». General Program Chair: Guzairov Murat (USATU, Ufa, Russia); General Chair Woman: Yusupova Nafisa (USATU, Ufa, Russia). 2014. S. 251-252.
19. Elon Mask nazval glavnuyu ugrozu dlya chelo-vechestva. URL: http://www.vestifinance.ru/articles/ 88234 (data obrashcheniya: 12.02.2020).
20. An I. Evolyuciya i kiborgizaciya, iskusstvennyj intellekt i kosmicheskij chelovek budushchego. URL: https://hronokod.ru/evolyutsiya-i-kiborgizatsiya-iskusst vennyj -intellekt-i-kosmicheskij -chelovek-budushhego/ (data obrashcheniya: 12.02.2020).
21. Morhat P.M. Pravovye problemy primeneniya is-kusstvennogo intellekta // Agrarnoe i zemel'noe pravo. 2017. № 10 (154). S. 58-64.
22. Savchenko E.A. Nekotorye aspekty soblyude-niya zakonnosti sub"ektami razreshitel'noj i kontrol'no-nadzornoj deyatel'nosti v usloviyah modernizacii so-cial'no-ekonomicheskogo razvitiya // Zhurnal ros-sijskogo prava. 2019. № 7. S. 104-114.
23. Shornik E.A., Zykov D.D. Vozmozhnosti vnedreniya tekhnologii iskusstvennogo intellekta v processe modernizacii sistemy publichnogo upravleniya v Rossii // Plekhanovskij barometr. 2019. № 1 (17). S. 24-26.
24. Shishov M.A. O primenenii iskusstvennogo intel-lekta v osushchestvlenii kontrolya v sfere ohrany zdo-rov'ya // Medicinskoe pravo. 2019. № 3. S. 15-19.
25. Arabyan M.S., Gil'manova K.M. Cifrovizaciya kak prioritetnyj instrument sovershenstvovaniya tamo-zhennogo administrirovaniya na primere EAES // Tamo-zhennoe delo. 2019. № 4. S.17-21.
26. Semenov P.V., Semishkur R.P., Dyachenko I.A. Konceptual'naya model' realizacii tekhnologii «cifrovyh dvojnikov» dlya predpriyatij neftegazovogo kompleksa // Gazovaya promyshlennost'. 2019. № 7 (787). S. 24-30.
27. Shnurenko I. Iskusstvennyj intellekt na grani nervnogo sryva // Ekspert. 2019. № 1. URL: https://ex pert.ru/expert/2019/01/iskusstvennyij-intellekt-na-grani-nervnogo-sryiva/ (data obrashcheniya: 12.02.2020).
