CC BY
81
ВЕСТН. МОСК. УН-ТА. СЕР. 6. ЭКОНОМИКА. 2020. № 4
МЕЖДИСЦИПЛИНАРНЫЕ ИССЛЕДОВАНИЯ Ю. М. Осипов1
МГУ имени М. В. Ломоносова (Москва, Россия) Т. Н. Юдина2
МГУ имени М. В. Ломоносова (Москва, Россия) Е. В. Купчишина3
МГУ имени М. В. Ломоносова (Москва, Россия) УДК: 330.101; 330.34; 330.88
«ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ»,
БОЛЬШИЕ ДАННЫЕ
КАК ИНСТИТУТЫ ЭКОНОМИКИ
НОВОГО ТЕХНОЛОГИЧЕСКОГО ПОКОЛЕНИЯ
В статье предпринята попытка исследования «искусственного интеллекта» (ИИ) и феномена больших данных как институтов экономики нового технологического поколения с учетом концепта А. П. Локтева относительно интернета как метаинсти-тута. Преподносимая институциональная концепция «искусственного интеллекта» опирается на фундаментальное исследование А. А. Зиновьева по интеллектологии как интегративной совокупности всех наук. Установлено, что ослабление естественного интеллекта в современном мире компенсируется разработкой «искусственного интеллекта» в русле цифрогенной технологии. Развивается выдвинутый Ю. М. Оси-повым тезис о том, что «искусственный интеллект» более всего относится к современному нейрокибертехнизированному человеку, чем собственно к роботизированной технике. В статье представлены результаты исследования «искусственного интеллекта» и больших данных на примерах некоторых европейских стран и России. Выявлены причины институциональных ловушек в форме неэффективных и сложно отменяемых норм, которые идут вразрез с отдельными правами человека и появляются в процессе внедрения в хозяйственную деятельность ИИ.
Ключевые слова: интеллект, интеллектология, естественный интеллект, «искусственный интеллект» (ИИ), большие данные, институт, философия хозяйства, институциональные ловушки.
1 Осипов Юрий Михайлович — д.э.н., главный научный сотрудник Научно-исследовательской лаборатории философии хозяйства, экономический факультет МГУ имени М. В. Ломоносова, e-mail: osipov.msu@mail.ru.
2 Юдина Тамара Николаевна — д.э.н., старший научный сотрудник Научно-исследовательской лаборатории философии хозяйства, экономический факультет МГУ имени М. В. Ломоносова, e-mail: orchidflower@list.ru, ORCID: 0000-0002-0096-0699.
3 Купчишина Елена Валерьевна — соискатель, экономический факультет МГУ имени М. В. Ломоносова, e-mail: sigrdriva@inbox.ru, ORCID: 0000-0003-2499-4161.
Цитировать статью: Осипов Ю. М., Юдина Т. Н., Купчишина Е. В. «Искусственный интеллект», большие данные как институты экономики нового технологического поколения // Вестник Московского университета. Серия 6. Экономика. — 2020. — №4. — С. 27-46.
Yu.M. Osipov
Lomonosov Moscow State University (Moscow, Russia)
T. N. Yudina
Lomonosov Moscow State University (Moscow, Russia)
E. V. Kupchishuna
Lomonosov Moscow State University (Moscow, Russia)
JEL: B52, 030
ARTIFICIAL INTELLIGENCE, BIG DATA AS INSTITUTIONS OF NEW TECHNOLOGICAL GENERATION OF ECONOMY
The paper attempts to analyze artificial intelligence (AI) and Big Data phenomenon as institutions of new technological generation of economy, referring to A. P. Loktev's concept of'Internet as metainstitution'. The represented institutional conception of artificial intelligence is based on A. A. Zinoviev's fundamental intellectology study as an integrated set of all sciences. The authors confirm that weakening of natural intelligence in the contemporary world is offset by artificial intelligence development within the framework of digit-induced technology. The research evolves Yu.M. Osipov's thesis that artificial intelligence is closer to modern neuro=cyber=technicized human being than to robotized technics as it is. The article provides the findings on artificial intelligence and Big Data drawing on evidence from Russia and some European countries. The authors identify the reasons for institutional traps mostly presented in the form of inefficient institutions that run contrary to certain human rights and emerge with introduction of artificial intelligence into the economic activity.
Keywords: intelligence, intellectology, natural intelligence, artificial intelligence (AI), Big Data, institution, philosophy of economy, institutional traps.
To cite this document: Osipov Yu. M, Yudina T. N., Kupchishuna E. V. (2020) Artificial intelligence, Big Data as institutions of new technological generation of economy. Moscow University Economic Bulletin, (4), 27-46.
Актуальность, мотивация исследования
«Искусственный интеллект» (ИИ) — главная повестка дня новой экономики на всех ее уровнях (нано-, микро-, мезо-, макро-, мега- и глобальном). 10 октября 2019 г. подписан Указ Президента РФ № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») [Указ..., 2019]. ИИ — это ключевая тема Петербургского
международного экономического форума (ПМЭФ-2019), саммита G-20 в японской Осаке в 2019 г., многих других форумов и конференций. Из двенадцати цифровых технологий, предложенных К. Швабом [Шваб, 2018, с. 93-240], ИИ занимает ведущее место. По его мнению, сама IV промышленная революция с ИИ способна «роботизировать» человека и человечество [Шваб, 2018, с. 14].
Осмысление и научное определение ИИ как феномена и института, его места в системе новой экономики, целостный научный взгляд на актуальнейшую тему теории и практики экономики нового технологического поколения — ИИ — стали мотивацией данного институционально-экономического и философско-хозяйственного исследования.
Обзор релевантных научных источников,
описание методологии, результаты исследования и их анализ.
Степень разработанности
Тема ИИ является междисциплинарной. Проблемой ИИ ученые начали заниматься с 1930-х гг. (британский математик, основоположник информатики А. Тьюринг). В 1956 г. американский информатик Дж. Мак-карти ввел в научный оборот понятие «искусственный интеллект» (artificial intelligence), а в 1971 г. за исследования в области ИИ получил премию Тьюринга. В 1960-х гг. всплеск интереса к ИИ был вызван развивающейся кибернетикой, в особенности созданной Н. Винером (США). Очередной всплеск интереса к ИИ связан с развитием компьютерных наук, представителями которых стали Н. Ниллсон [Nillson, 2010], С. Рассел, П. Норвиг [Russell, Norvig, 2009]. Э. Алпайдин различает машинное обучение как новый искусственный интеллект [Alpaydin, 2014]. Социально-экономические проблемы ИИ рассматриваются в работах философов В. С. Вара-кина, М. Ю. Опенкова [Опенков, Варакин, 2018], экономистов Д. А. Око-лышева, Р. Ж. Сираждинова [Околышев, Сираждинов, 2017], философов хозяйства Ю. М. Осипова [Осипов, 2018, 2019abc], Т. Н. Юдиной [Юдина, 2017]. Основные источники указаны в списке литературы.
Методология научной работы
А. А. Зиновьев писал в своем труде «Фактор понимания»: «...идея создать искусственное устройство, равное по интеллектуальной силе человеческому логическому интеллекту и даже превосходящее его, есть вздорная утопия, сводящая этот интеллект к самым примитивным логическим операциям отдельно взятых людей» [Зиновьев, 2006, с. 12]. Далее Зиновьев подчеркивал: «Такой универсальный, одинаковый для всех и пригодный для большинства интеллект существует в жизни масс людей лишь как примитивизированный и стандартизированный компонент американизированной технологии, доминирующей сейчас на планете в системе
управления человечеством как ее главный компонент» [Зиновьев, 2006, с. 511-512].
ИИ выступает как движущая сила цифровизации хозяйственного процесса, технологики, экономики, во многом предопределяя успешность конкретной страны и ее экономики в борьбе за глобальное лидерство в эпоху перехода к новому технологическому укладу.
Авторами были использованы следующие методы анализа: междисциплинарный, институциональный, философско-хозяйственный, метод интерпретации новых экономических понятий и концептов.
Анализ научной литературы показал, что мейнстримовским направлением экономической науки ИИ рассматривается по преимуществу как технология (фактор производства). Что касается сущности, структуры и механизма функционирования ИИ, то они не стали предметом специального рассмотрения в рамках экономической науки. Вышеуказанный подход не учитывает то обстоятельство, что воздействие ИИ на поведение хозяйствующих субъектов накладывает специфические внешние и внутренние ограничения (рамки), что как раз существенно отличает ИИ от обычных факторов производства. Категория «искусственный интеллект» требует уточнения с позиций институциональной теории, а потому предполагается понимать под «искусственным интеллектом» сетевую структуру, объединяющую в себе совокупность как формальных правил, определяющих архитектуру и юридические нормы использования интеллектуальных (технических и/или программных) систем, так и неформальных ограничений, регулирующих поведение пользователей при их взаимодействии с вышеуказанными системами.
Благодаря ИИ интеллектуальная машина (система) способна воспринимать, запоминать, обосновывать, использовать человеческие языки, прибегать к аналитическим абстракциям, что позволяет использовать ее в процессе принятия решений, в особенности при решении тех задач, которые подразумевают обработку больших массивов данных, что делать человеку в обычном режиме сложно и требует больших затрат сил и времени, а деловая реальность нуждается в быстрых (мгновенных) решениях.
ИИ следует отличать от феномена машинного обучения с выявлением «алгоритмов и статистических моделей, позволяющих компьютерам решать задачи без четкой инструкции» [Ета й а1., 1998, р. 153]. Естественный интеллект (ЕИ) человечества прошел многовековой путь эволюции, чтобы получить множество фундаментальных и прикладных разработок как результатов творческого интеллектуального труда всего человечества [Зиновьев, 2006, с. 11-12]. Стремительное развитие ИИ на рубеже XX — XXI вв. — результат творческой деятельности ЕИ, его своеобразная «производная», способная заменить ЕИ на ИИ (с «расчеловечиванием человека»), что хоть и представляется суровой научной фантастикой, но уже имеет в человечестве место. Обращает на себя внимание связь ИИ с интернетом, который рассматривается специалистами в области ИИ одно-
временно и как среда, в которой ИИ функционирует, и как инструмент решения ИИ-задач [Russell, Norvig, 2009, p. 17; 26-27]. ИИ не может существовать в отрыве от интернета, более того, ИИ является институтом, дополняющим интернет как метаинститут [Локтев, 2011, с. 94-96], хотя пока метаинститутом не стал.
ИИ как новый техносоциальный институт стал предметом подробного рассмотрения в контексте национальных стратегий развития (если к 2017 г. они были разработаны в пяти государствах, то в 2018-2019 гг. — в тридцати [Совещание..., 2019]. Российская Федерация не стала исключением. Наряду с Великобританией, Китаем, США Россия стремится стать одним из мировых лидеров в области ИИ (что небезосновательно учитывается мировой научной общественностью и политическими кругами) [Stirling et al., 2017].
Потенциал России в создании «искусственного интеллекта».
Институциональные ловушки
Россия обладает существенным научным заделом (как показано на рис. 1). По данным ВОИС, ряд российских университетов и научно-исследовательских организаций входит в глобальные топ-500 заявителей патентов в сфере ИИ. Выпускники традиционно сильной физико-математической научной школы [Эксперты ОПК..., 2019] успешно конкурируют с зарубежными [Garcia, 2018]. Практическое применение разработок в области ИИ предвосхищает необходимость его институционализации прежде всего для обеспечения технологического суверенитета страны. Президентом РФ подчеркивается, что тот, кто «сможет обеспечить монополию в сфере искусственного интеллекта. — тот станет властелином мира» [Совещание., 2019].
Рис. 1. Географическое распределение университетов и научно-исследовательских организаций — заявителей патентов в области «искусственного интеллекта» Источник'. WIPO Technology Trends 2019: Artificial Intelligence. — Geneva: World Intellectual Property Organization, 2019. — P. 62.
В этой связи Министерством цифрового развития, Сбербанком и рядом иных представителей экспертного сообщества проведена совместная работа по созданию соответствующей стратегии и «дорожной карты» ее реализации. Основными целями стратегии выступают: обеспечение конкурентоспособности российской экономики; рост благосостояния населения России; обеспечение национальной кибербезопасности. Финансирование развития ИИ в РФ на пятилетнюю перспективу оценивается ориентировочно в 90 млрд руб. [Совещание..., 2019].
Стоит отметить, что ИИ прежде всего является фактором производства, в связи с чем в формировании стратегии по его развитию особенно важна роль профессионального производственного сообщества. Учитывая инновационный потенциал развития ИИ и его влияние на российскую экономику, профессиональное сообщество предложило создать единое информационное пространство, структурированные базы данных, подчеркнуло важность создания позитивного смыслового контента в сети как антитезу «информационным шумам», которыми изобилует интернет. Показано, что техническую основу развития технологий ИИ в РФ должна составлять «отечественная, прежде всего радиоэлектронная, промышленность» [Эксперты ОПК..., 2019] (курсив авторов). Оценочные объемы расходов на полный цикл разработки отечественной микроэлектроники с ИИ варьируются в пределах 0,5-5 млрд руб., при этом российские эксперты подчеркивают важность создания таких условий, которые помогли бы концентрировать капиталовложения в юрисдикции РФ и минимизировали привлекательность вывода средств за рубеж [Новый и др., 2019, с. 1].
Исследуя ИИ как институт, важно более подробно рассмотреть сопряженные с его использованием риски, одним из которых являются «эффекты блокировки». Эти эффекты Д. Норт называл «институциональными ловушками». Так, в процессе внедрения в хозяйственную деятельность ИИ могут возникать институциональные ловушки в виде неэффективных и сложно отменяемых норм, которые идут вразрез с правами человека. В некоторых европейских странах цифровизация сопровождается «эффектами блокировки» в форме отдельных положений Постановления ЕС 2016/679 от 27.04.2016 «Общий регламент по защите данных», нарушающих права человека в контексте особых персональных данных.
Следует отметить, что в настоящий момент подробно не проработан вопрос целесообразности использования ИИ в различных сферах общественной жизни. С одной стороны, данный фактор производства в силу вышеуказанных особенностей разумно применять там, где условия трудовой деятельности для человека осложнены либо представляют опасность для жизни (например, дальний космос) [Передельский, 2019]. С другой стороны, сомнительна тотальная замена человеческого труда ИИ в тех сферах, которые не требуют сверхоперативных решений и требуют моральных
и творческих качеств человека (например, сфера образования, психологии, дипломатии, искусства).
В этой связи краеугольной проблематикой для международного сообщества является и роль человека в вопросах применения ИИ. До настоящего времени государства еще не достигли договоренностей в координации подходов к политике в данной сфере. Не выработаны единые международные институциональные механизмы регулирования не только хозяйственного, но и этического аспекта использования ИИ. На международном уровне до сих пор имела место только декларация намерений развития национальных «цифровых экономик» с приоритетом интересов человека [Осакская декларация., 2019].
ИИ участвует в принятии решений во многих чувствительных для человека сферах жизни, где цена ошибки или не предвиденных разработчиками обстоятельств велика (например, в медицине — обследование и присвоение диагноза, правосудии — расследование и вынесение приговора). Показательным в этом смысле является прецедент ДТП с участием беспилотного автомобиля в марте 2018 г. в Темпе, штат Аризона, США. ИИ в архитектуре транспортного средства не выявил на траектории пешехода, что завершилось летальным исходом. Вопрос наличия состава преступления, возложения ответственности вызвал дискуссию в мировом сообществе [Randazzo, 2019; Шнуренко, 2018]. Учитывая рассмотренные выше обстоятельства, часть российского экспертного сообщества отводит человеку центральное место в вопросах применения данной технологии [Российские эксперты., 2019].
В РФ в настоящее время не создан институциональный механизм разработки и применения ИИ — в частности, в российском законодательстве сегодня нет механизмов ни принятия ИИ решений, ни использования данных, включая обезличенные данные, в научно-исследовательских целях (в том числе по направлению развития технологий ИИ). При этом Сбербанком формируется пятилетний проект (до 2024 г.) — экспериментальная площадка в г. Москве для разработок в области ИИ, исследования касаются, в частности, «умного» транспорта, распознавания лиц и речи, медицины. Предполагается предоставить участникам площадки «льготный правовой режим», а также доступ к обезличенным данным (часть которых составляют персональные). Среди предполагаемых целей — ускорение вывода российских «цифровых» разработок на мировой рынок, а также отработка специального правового регулирования в рассматриваемой области [Тишина, 2019, с. 9]. Не разработаны и институты частного инвестирования в прорывные инновационные решения. Вышеперечисленные институциональные аспекты развития ИИ в РФ требуют надлежащей проработки.
В Европе, с которой у России сохраняется достаточно плотное экономическое сотрудничество, 25 мая 2018 г. вступило в силу Постановление ЕС 2016/679 от 27.04.2016 «Общий регламент по защите данных» (General
Data Protection Regulation, GDPR), «право на объяснение» появилось в фокусе современных научных дискуссий, поскольку данный нормативный документ не полностью раскрывает вышеуказанное как категорию: фактически GDPR предусматривает лишь краткое разъяснение субъекту данных (data subject) логики работы системы, значение и предполагаемые последствия принятого решения — исследователи отмечают, что вышеуказанное содержит в себе термин «право быть проинформированным» [Regulation (EU) 2016/679., 2016, p. 40-43]. В свою очередь, категория «право не подлежит автоматизированному принятию решений» раскрыта в нормативном акте размыто. Согласно п. 3 ст. 22 GDPR, «контролер данных обеспечивает соответствующие меры защиты прав, свобод и законных интересов субъекта данных, по крайне мере право на вмешательство человека со стороны контролера данных, для выражения его или ее точки зрения и обжалования решения» [Regulation (EU) 2016/679., 2016, p. 46], из чего, однако, не вытекает право на разъяснения конкретного принятого решения [Wachter et al., 2017, p. 8]. Все это противоречит заявленным критериям прозрачности и подотчетности решений, принимаемых ИИ. «Право на объяснение» в смысле конкретного принятого решения подразумевает право субъекта данных на разъяснения касательно механизма работы системы, а также конкретного решения, принятого в отношении субъекта данных (в том числе обоснование, правомерность и конкретные обстоятельства, которые привели к данному решению) [Wachter et al., 2017, p. 6-7].
Результаты проведенного исследования ИИ как фактора производства и института дают основание полагать, что в текущем состоянии развития экономики современного технологического поколения РФ институт ИИ находится в стадии становления. Выявлено, что институциональный аспект развития ИИ нуждается в более глубокой разработке не только в РФ, но и на глобальном уровне: так, в настоящее время отсутствуют единые международные нормативно-правовые и морально-этические стандарты применения ИИ. Также, опираясь на результаты исследования, выдвинем гипотезу о том, что при условии развития рассмотренных выше правил вероятен переход ИИ в статус метаинститута.
Большие данные (Big Data) как институт
Как указано выше, ИИ неразрывно связан с обработкой большого массива данных и формирования платформ Big Data. Исследователи указывают [Корнев, 2018, с. 83], что исторически термин «большие данные» (Big Data) своим широким распространением обязан исследователям Дж. Мэшею (популяризовал термин в 90-е гг. XX в.) [Mashey, 1998], Г. Прессу (в 2000-2010 гг.) [Press, 2013], а Д. Лэней, в свою очередь, предложил основополагающие параметры больших данных: объем,
скорость, разнообразие (в оригинале: «volume, velocity, variety») [Laney, 2001].
Большие данные используются в хозяйственном процессе наряду с иными факторами производства постиндустриальной экономики, однако тот факт, что, как в случае с ИИ, на пользователей больших данных накладываются специфические ограничения, не нашел отражения в мейнстриме экономической теории. Следовательно, институциональный аспект больших данных также возможно разрабатывать в рамках экономической науки.
Стоит отметить, что в институциональной теории единой, устоявшейся трактовки термина «большие данные» в настоящий момент не существует. На наш взгляд, для целей настоящего исследования возможно трактовать большие данные как совокупность формальных и неформальных правил, определяющих порядок сбора, обработки, хранения и передачи больших массивов данных (структурированных и неструктурированных), а также поведение пользователей с целью оперативного принятия решений на основе этих данных.
Широкое распространение ИИ, машинного обучения, интернета вещей, процессы интернетизации как упрощения доступа к интернету все большей части населения Земли повлекли за собой экспоненциальный рост массивов данных, генерацию так называемых больших данных, в силу своего содержания — данных технологического (генерируемых в том числе вышеназванными технологиями) и социального происхождения (в частности, персональные данные; данные, генерируемые в социальных сетях, онлайн-торговле) — обладают существенным потенциалом как для различных сфер хозяйствования, так и научно-исследовательской деятельности. Для целей исследования следует обратить внимание и на схожий по содержанию с большими данными термин «открытые данные», концепция которых нашла практическую реализацию и применение в том числе и в РФ [Портал., 2019]. Однако эксперты отличают термин «открытые данные» отсутствием у кого бы то ни было механизмов контроля за использованием данных [Auer et al., 2007, p. 722].
Рынок больших данных в РФ к настоящему времени достиг не столь существенных масштабов (по оценкам экспертов, от 10 до 30 млрд руб. [Березина, 2019], рынок интернет-рекламы за девять месяцев 2018 г. увеличился на 22% и составил 140,5-141,5 млрд руб. [Законопроект., 2018]), как, например, европейский (в 2018 г. порядка 71,5 млрд евро [Second Report., 2019]), однако раскрытию потенциала этого рынка мешают, в частности, препятствия институционального характера.
Правовое регулирование оборота данных неэффективно, что возможно проиллюстрировать на примере следующего противоречия. С одной стороны, ст. 23 Конституции РФ гарантирует «право на неприкосновенность частной жизни, личную и семейную тайну, защиту своей чести и доброго
имени», «право на тайну переписки, телефонных переговоров, почтовых, телеграфных и иных сообщений. Ограничение этого права допускается только на основании судебного решения» [Конституция РФ, 1993]. С другой стороны, в настоящий момент формальный институт «больших пользовательских данных» (в широком смысле — данных, не позволяющих идентифицировать конкретное физическое лицо) находится в процессе разработки, существующие проекты несут в себе риски вплоть до дискриминации условий обработки данных, окончательно содержание вышеуказанного института еще не сформировано [Проект № 571124-7, 2018; Рабочая группа..., 2018]. Кроме того, право приватности на практике не подкреплено эффективным нормативно-техническим механизмом защиты персональных данных от киберпреступности, что провоцирует прецеденты «утечки» персональных данных, формирование нелегальных рынков. Формально предусмотрена возможность истребования компенсации физическим лицом в случае публикации персональных данных в открытом доступе, однако на практике ее реализация сложна в силу необходимости доказать факт материального ущерба [Персональные данные..., 2019]. Кроме того, санкции за использование персональных данных реализуются на практике лишь частично, не имеют должного влияния на нарушителя. В этом смысле показательно сравнение штрафов за нарушение законодательства о персональных данных: если в ЕС за нарушение Постановления 2016/679 (ЕС) размер штрафа может достигать 20 млн евро, или 4% глобального годового оборота предприятия (что перекликается с основными положениями неоинституциональной теории [Аузан, 2017]), то в России ответственность нарушителя в материальном выражении ничтожно мала на этом фоне: в соответствии с поправками в ст. 13.11 КоАП РФ от 2017 г. максимальный размер штрафа для юридических лиц составляет 75 тыс. руб. [КоАП РФ, 2017]. Кроме того, анализ российской практики применения санкций в части нарушения законодательства о персональных данных свидетельствует об избирательном характере их применения: известен ряд прецедентов привлечения к ответственности глобальных игроков экономики нового технологического поколения Facebook, Twitter [«Утечки.», 2019], при этом ни одного прецедента в отношении российского малого и среднего бизнеса не представлено в открытых источниках [Более 70%., 2019].
Помимо упомянутых выше проектов Национальной стратегии по развитию ИИ и экспериментальной исследовательской площадки, по инициативе Сбербанка выдвинуто предложение о создании «онлайн-плат-формы с обезличенными государственными данными и данными компаний, к которым будут иметь доступ компании — разработчики систем искусственного интеллекта» [Совещание., 2019].
В связи с этим уместно указать на проблему несовместимости природы больших данных и предусмотренных в российском законодатель-
стве принципов обработки персональных данных: ограничения обработки данных заранее поставленными целями, минимизации объема собираемых и обрабатываемых данных сообразно целям и т.д. Предусмотренная российским (п. 9 ст. 3 152-ФЗ) [ФЗ № 152, 2006] законодательством категория обезличивания персональных данных — «действия, в результате которых становится невозможным без использования дополнительной информации определить принадлежность персональных данных конкретному субъекту персональных данных» — на практике без особых препятствий (и последствий для деобезличивающего данные субъекта) обходится посредством использования технических средств дешифровки [Савельев, 2015].
Практика Европейского союза как одного из ведущих регионов по цифровизации также заслуживает внимания в силу имеющихся разработок в сфере больших данных. В этой связи уместно отметить, что рынок данных ЕС-28 в 2018 г. составил 71,593 млрд евро [Second Report., 2019].
Следует обратить внимание на то, что в соответствии с п. 1 ст. 8 Хартии ЕС об основных правах [Charter., 2000], а также п. 1 ст. 16 Договора о функционировании Европейского союза [Treaty, 2012], Постановлением 2016/679 от 27.04.2016 право на защиту физического лица в отношении обработки его персональных данных является фундаментальным правом. При этом в Постановлении 2016/679 формально закрепляется, что «процесс обработки персональных данных должен быть разработан таким образом, чтобы он функционировал на пользу человечеству», притом что «право защиты персональных данных не является абсолютным и должно рассматриваться в соответствии со своей функцией в обществе и в соотношении с другими фундаментальными правами» [Regulation (EU) 2016/679., 2016, p. 1—2]. Очевидно, что во многом использование персональных данных будет зависеть от контекста деятельности, осуществляемой «на пользу человечеству».
Как показано на рис. 2, в 2018 г. 12% предприятий (с персоналом не менее 10 человек) анализировали большие данные, при этом лидирующие позиции в этом контексте занимают Мальта, Нидерланды, Бельгия и Ирландия.
Опираясь на статистику, показанную на рис. 3, в разрезе источников, которые использовали европейские предприятия при анализе больших данных и типов этих предприятий, мы видим, что в 2018 г. в странах ЕС-28 основным предметом анализа компаний из сегмента малого и среднего бизнеса стали геолокационные данные с мобильных устройств и данные из социальных сетей, в то время как крупные предприятия анализировали большие данные преимущественно с собственных «умных» устройств и датчиков.
Рис. 2. Доля предприятий ЕС-28, анализирующих большие данные из произвольных источников (2018 г.) (в % от общего количества предприятий) Источник: Digital economy and society statistics — enterprises // Eurostat. 2019. URL: https:// ec.europa.eu/eurostat/statistics-explained/pdfscache/33473.pdf (дата обращения: 19.08.2019).
Рис. 3. Соотношение предприятий, анализирующих большие данные, в разрезе их типов и источников данных (2018 г.) (в % от общего количества предприятий) Источник: Digital economy and society statistics — enterprises // Eurostat. 2019.
URL: https://ec.europa.eu/eurostat/statistics-explained/pdfscache/33473.pdf (дата обращения: 19.08.2019).
В то же время, опираясь на представленные выше данные, возможно заключить, что европейский рынок больших данных обладает существенным потенциалом дальнейшего расширения.
Несмотря на то что основное внимание в статье уделено технологической стороне развития ИИ, что как раз соответствует общемировой тенденции в научно-технической, хозяйственной и стратегической областях современной цивилизации, представляется вполне уместным, а главное — важным обратить внимание ученого сообщества и политических
кругов на интенсивный процесс превращения естественного интеллекта, оснащенного разнообразным словом и развитым понятийным аппаратом, в упрощенной искусственный интеллект, разумеется, не в технотронный ИИ, а в свой, как бы человеческий, но уже иной человеческий, как раз оцифрованный, о чем свидетельствует не только обеднение активного словарно-понятийного запаса и не только уход знания от человека в технотронные кладовые, но и сам способ жизнеотправления человека, все более зависимый от технологики и его все более определяемый, как и способ принятия решений, все более отдаляющийся от своего гуманитарного основания.
Дегуманизация человека и его жизнеотправления не менее сегодня значимое явление, чем порожденная гуманизмом тотальная цифровиза-ция пока еще человеческого, хотя уже и с заметными элементами постчеловечности, бытия.
Если уже рассматривать феномен и институт ИИ, как все с ним связанное технотронное, то делать это следует, на наш взгляд, в социально-ментально-психо-поведенческом контексте, замечая уже проявившиеся и возможные в дальнейшем последствия новой технологизации для человека, социума, культуры и цивилизации, хотя бы для того, чтобы осознанно идти вперед по пути научно-технического прогресса, играющего свою амбивалентную роль относительно судьбы всего земного мира, возможно, и вполне эсхатологическую.
Заключение. Основные полученные
или планируемые результаты
1. Уточнено определение «искусственного интеллекта» как сетевой структуры, объединяющей в себе совокупность как формальных правил, определяющих архитектуру и юридические нормы использования интеллектуальных систем, так и неформальных моментов, регулирующих поведение пользователей при взаимодействии с данными системами. Выдвинута гипотеза о том, что ИИ ведет к созданию №иго№1.
2. Определено, что «искусственный интеллект» как институт стал предметом подробного рассмотрения в контексте разработки национальных стратегий развития ИИ (на примере США, КНР, Дании). Министерством цифрового развития РФ, Сбербанком и рядом иных представителей экспертного сообщества создан проект соответствующей стратегии.
3. Выделены следующие приоритеты в области развития ИИ в России: вывод российских исследований ИИ на лидирующие позиции на глобальном уровне; обеспечение научной кооперации на базе международных российских математических центров; увеличение инвестиций в научно-исследовательские работы в области ИИ; наращивание интеллектуальных ресурсов; привлечение иностранных специалистов; снятие юриди-
ческих барьеров инновационной деятельности; обеспечение надежных основ защиты интеллектуальной собственности и упрощение процесса регистрации патентов изобретателями в российской юрисдикции; создание эффективных формальных институтов, регулирующих оборот данных, а также возможность их применения для разработки алгоритмов «искусственного интеллекта»; обеспечение развития населения в рассматриваемой сфере.
4. Выявлено, что стратегия в своем текущем состоянии сопряжена с рядом рисков, среди которых прежде всего стоит выделить риск отсутствия приватности, частной собственности на данные, связанные с конкретным человеком.
5. Утверждается, что ИИ нельзя трактовать сугубо технически — это и заметный социально-ментальный процесс, в котором наряду и под влиянием новых нейрокибертехнологий происходит взрывная «артифи-кация» человеческого интеллекта как такового (ЕИ), что превращает сам ЕИ, пусть пока и частично, в ИИ, что особенно заметно в сферах управления, образования, здравоохранения и той же науки, все более теряющей творческую фундаментальность и все более становящейся техноизобретательской (чуть ли не игровой) «прикладнухой». На ИИ в науке работает и наукометрика с ее ненаучными требованиями к ученому труду.
6. Обосновано, что в процессе внедрения в хозяйственную деятельность ИИ могут возникать институциональные ловушки («эффект блокировки») в виде неэффективных и сложно отменяемых норм, нарушающих человеческие права. Показано, что в некоторых европейских странах процесс цифровизации идет с учетом «эффекта блокировки».
7. Установлено, что результатом взаимодействия ИИ и больших данных как институтов является построение платформ Big Data на основе данных и ИИ, создание интеллектуального механизма принятия решений.
Направления дальнейших исследований:
1. Институционализация российского рынка больших данных.
2. Институциональные ловушки и «искусственный интеллект».
3. Персональные данные и открытые данные как институты цифровой экономики.
Список литературы
1. Конституция Российской Федерации (принята всенародным голосованием 12.12.1993) (с учетом поправок, внесенных Законами РФ о поправках к Конституции РФ от 30.12.2008 № 6-ФКЗ, от 30.12.2008 № 7-ФКЗ, от 05.02.2014 № 2-ФКЗ, от 21.07.2014 № 11-ФКЗ). URL: http://www.consultant.ru/ document/cons_doc_LAW_28399/2573feee1caecac37c442734e00215bbf1c85248/ (дата обращения: 20.08.2019).
2. Кодекс Российской Федерации об административных правонарушениях от 30.12.2001 № 195-ФЗ (в редакции от 02.08.2019) (с изм. и доп., вступ. в силу с 13.08.2019). URL: http://www.consultant.ru/document/cons_doc_ LAW_34661/ (дата обращения: 20.08.2019).
3. Федеральный закон от 27.07.2006 № 152-ФЗ (в редакции от 31.12.2017) «О персональных данных». URL: http://www.consultant.ru/document/cons_ doc_LAW_61801/ (дата обращения: 20.08.2019).
4. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»). URL: http://www.consultant.ru/document/cons_doc_LAW_335184/ (дата обращения: 18.10.2019).
5. Проект № 571124-7 от 23.10.2018 Федерального закона «О внесении изменений в Федеральный закон «Об информации, информационных технологиях и защите информации»» // Система обеспечения законодательной деятельности. URL: https://sozd.duma.gov.ru/bill/571124-7 (дата обращения: 26.08.2019).
6. Аузан А. А. Экономика всего. Как институты определяют нашу жизнь. — М.: Манн, Иванов и Фербер, 2017. — 147 с.
7. Березина Е. Хочу все знать. Рынок больших данных за пять лет вырастет в 10 раз // Российская газета — Федеральный выпуск. — 25.03.2019. — № 65(7823). URL: https://rg.ru/2019/03/25/rynok-bolshih-dannyh-za-piat-let-vyrastet-v-10-raz.html (дата обращения: 20.08.2019).
8. Более 70% владельцев смартфонов получают спам-звонки, заявили эксперты // РИА Новости. 14.08.2019. URL: https://ria.ru/20190814/1557484029.html (дата обращения: 20.08.2019).
9. Законопроект о Big Data был действительно недоработан: как защитить данные? // Regnum. 14.11.2018. URL: https://regnum.ru/news/it/2518921.html (дата обращения: 26.08.2019).
10. Зиновьев А. А. Фактор понимания. — М.: Алгоритм, Эксмо, 2006. — 528 с.
11. Корнев М. С. История понятия «большие данные» (Big Data): словари, научная и деловая периодика // Вестник РГГУ. Серия «История. Филология. Культурология. Востоковедение». — 2018. — № 1. — С. 81-85.
12. Локтев А. П. Неоинституциональные аспекты национальной инновационной системы: дис. ... канд. экон. наук: 08.00.01. — М., 2010. — 170 с.
13. Новый В., Скоробогатько Д., Жукова К., Краснушкина Н. Правительству прибавят искусственного интеллекта. Президенту представят стратегию развития отрасли // Коммерсантъ. — 30.05.2019. — № 92. — С. 1.
14. Околышев Д. А., Сираждинов Р.Ж. Проблемы использования искусственного интеллекта в современной экономике // Шаг в будущее: искусственный интеллект и цифровая экономика. Материалы 1-й Международной научно-практической конференции. Вып. 1. — М.: Издательский дом ГУУ, 2017. — С. 201-206.
15. Опенков М. Ю., Варакин В. С. Искусственный интеллект как экономическая категория // Вестник Северного (Арктического) федерального университета. Серия: Гуманитарные и социальные науки. — 2018. — № 1. — С. 73-83.
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
Осакская декларация лидеров стран «Группы двадцати» // Официальное интернет-представительство президента России. 29.06.2019. URL: http:// kremlin.ru/supplement/5425 (дата обращения: 26.08.2019). Осипов Ю. М. Искусственный разум // Философия хозяйства. — 2019. — № 4. - С. 7-8.
Осипов Ю. М. Метафизика. Код доступа. — М.: ТЕИС, 2019. — 455 с. Осипов Ю. М. Сама себе цифра // Философия хозяйства. — 2019. — № 2. — С. 11-15.
Осипов Ю. М. Экономика как есть (откровения Зоила, или Судный день экономизма): антипособие. Изд. 2-е. — М.; Тамбов: Издательский дом ТГУ им. Г. Р. Державина, 2018. — 333 с.
Передельский Д. Искусственный интеллект поймал сигналы из далекого прошлого // Российская газета. 08.08.2019. URL: https://rg.ru/2019/08/08/signaly-iz-proshlogo.html (дата обращения: 14.08.2019).
Персональные данные уходят с молотка. Электронные торговые площадки разместили в открытом доступе индивидуальную информацию 2,2 млн россиян // РБК. 29.04.2019. URL: https://www.rbc.ru/newspaper/2019/04/29/5cc2 df569a7947c83b69b0d5 (дата обращения: 20.08.2019).
Портал открытых данных РФ. URL: https://data.gov.ru (дата обращения: 19.08.2019).
Рабочая группа АНО «Цифровая экономика» не поддержала законопроект о больших пользовательских данных // АНО «Радиочастотный спектр».
08.11.2018. URL: https://rspectr.com/novosti/55003/rabochaya-gruppa-ano-cifrovaya-ekonomika-ne-podderzhala-zakonoproekt-o-bolshih-polzovatelskih-dannyh (дата обращения: 26.08.2019).
Российские эксперты приняли участие в конференции ЮНЕСКО по искусственному интеллекту // Официальный сайт Постоянного представительства Российской Федерации при ЮНЕСКО. 15.07.2019. URL: http://www. russianunesco.ru/rus/article/4159 (дата обращения: 10.08.2019). Савельев А. И. Проблемы применения законодательства о персональных данных в эпоху «Больших данных» (Big Data) // Право. Журнал Высшей школы экономики. — 2015. — № 1. — С. 43-66.
Совещание по вопросам развития технологий в области искусственного интеллекта // Официальное интернет-представительство президента России.
30.05.2019. URL: http://kremlin.ru/events/president/news/60630 (дата обращения: 10.06.2019).
Тишина Ю. Искусственный интеллект потребовал льгот. Для развития технологии предлагается специальный правовой режим // Коммерсантъ. — 13.08.2019. — №143. — С. 9.
«Утечки неизбежны»: кто ответственен за персональные данные. Как работает законодательство в сфере защиты персональных данных // Газета. ru. 09.08.2019. URL: https://www.gazeta.ru/tech/2019/08/09_a_12567469.shtml (дата обращения: 20.08.2019).
Шваб К. Технологии Четвертой промышленной революции. — М.: ЭКСМО, 2018. — 320 с.
Шнуренко И. Искусственный интеллект на грани нервного срыва // Эксперт Online. 24.12.2018. URL: https://expert.ru/expert/2019/01/iskusstvennyij-intellekt-na-grani-nervnogo-sryiva/ (дата обращения: 14.08.2019).
32. Эксперты ОПК: технологии искусственного интеллекта должны стать драйвером развития российской промышленности // Официальный сайт Союза машиностроителей России. 13.08.2019. URL: https://soyuzmash.ru/ news/tidings/eksperty-opk-tekhnologii-iskusstvennogo-intellekta-dolzhny-stat-drayverom-razvitiya-rossiyskoy-promy/ (дата обращения: 13.08.2019).
33. Юдина Т. Н. «Цифровая экономика»: некоторые аспекты pro et contra (искусственный интеллект, блокчейн и криптовалюты, производительность труда) // Философия хозяйства. Специальный выпуск. — 2017. Декабрь. — С. 112-121.
34. Alpaydin E. Introduction to Machine Learning. 3rd ed. — Cambridge, MA: MIT Press, 2014. — 640 p.
35. Auer S. R., Bizer C., Kobilarov G., Lehmann J., Cyganiak R., Ives Z. DBpedia: A Nucleus for a Web of Open Data // The Semantic Web. 6th International Semantic Web Conference. 2nd Asian Semantic Web Conference. ISWC 2007 + ASWC 2007, LNCS 4825. Busan, Korea, November 11-15, 2007 Proceedings. — Berlin, Heidelberg: Springer-Verlag, 2007. — 973 p.
36. Charter of fundamental rights of the European Union (2000/C 364/01) // Official Journal of the European Union. — 2000. — Р. 364. URL: https://www.europarl. europa.eu/charter/pdf/text_en.pdf (дата обращения: 28.02.2018).
37. Consolidated version of the Treaty on the functioning of the European Union // Official Journal of the European Union. — Р. 326. — 2012. URL: https://eur-lex. europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:12012E/TXT&from=EN (дата обращения: 28.02.2018).
38. Garcia E. The Artificial Intelligence Race: U. S. China and Russia // Modern Diplomacy. 19.04.2018. URL: https://moderndiplomacy.eu/2018/04/19/the-artificial-intelligence-race-u-s-china-and-russia/ (дата обращения: 15.08.2019).
39. Koza J. R., Bennett IIIF. H., Andre D., Keane M. A. Automated Design of Both the Topology and Sizing ofAnalog Electrical Circuits Using Genetic Programming // Artificial Intelligence in Design '96. — 1996. — P. 151-170.
40. Laney D. 3D Data Management: Controlling Data Volume, Velocity, and Variety. 06.02.2001 // META Group Inc. Application Delivery Strategies. — 2001. — File 949. URL: https://blogs.gartner.com/doug-laney/files/2012/01/ad949-3D-Data-Management-Controlling-Data-Volume-Velocity-and-Variety.pdf (дата обращения: 19.08.2019).
41. Mashey J.[R.] Big Data... and the Next Wave of InfraStress. Slides from invited talk // 25.04.1998. URL: http://static.usenix.org/event/usenix99/invited_talks/ mashey.pdf (дата обращения: 19.08.2019).
42. Nillson N. J. The Quest for Artificial Intelligence: History of Ideas and Achievements. — Cambridge, UK: University Press, 2010. — 707 p.
43. Press G A Very Short History of Big Data // Forbes.com. 09.05.2013. URL: https://www.forbes.com/sites/giIpress/2013/05/09/a-very-short-history-of-big-data/#42dbd1ed65a1 (дата обращения: 19.08.2019).
44. Randazzo R. Who was really at fault in fatal Uber crash? Here's the whole story // Arizona Republic. 18.03.2019. URL: https://www.azcentral.com/story/ news/local/tempe/2019/03/17/one-year-after-self-driving-uber-rafaela-vasquez-behind-wheel-crash-death-elaine-herzberg-tempe/1296676002/ (дата обращения: 14.08.2019).
45. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of individuals with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) (Text with EEA relevance) // Official Journal of the European Union. — 2016. — L 119. URL: https://eur-lex.europa. eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016 R0679&from=EN (дата обращения: 28.02.2018).
46. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. — Upper Saddle River, NJ: Prentice Hall, 2010. — 1132 p.
47. Second Report on Facts and Figures: Dataset // The EU Datalandscape. 2019. URL: http://datalandscape.eu/study-reports/second-report-facts-and-figures-dataset (дата обращения: 19.08.2019).
48. Stirling R., Miller H., Martinho-Truswell E. Government AI readiness index 2017. URL: https://www.oxfordinsights.com/government-ai-readiness-index?lipi=urn%3Ali%3Apage%3Ad_flagship3_profile_view_base_recent_ activity_details_all%3BeJ%2FPpiq8RzyLuLPtyf%2FYoA%3D%3D (дата обращения: 15.08.2019)
49. Wachter S., Mittelstadt B., Floridi L. Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation // International Data Privacy Law. — 2017. — P. 8.
The List of References in Cyrillic Transliterated into Latin Alphabet
1. Konstitucija Rossijskoj Federacii (prinjata vsenarodnym golosovaniem 12.12.1993) (s uchetom popravok, vnesennyh Zakonami RF o popravkah k Konstitucii RF ot 30.12.2008 № 6-FKZ, ot 30.12.2008 № 7-FKZ, ot 05.02.2014 № 2-FKZ, ot 21.07.2014 № 11-FKZ). URL: http://www.consultant.ru/document/cons_doc_ LAW_28399/2573feee 1 caecac37c442734e00215bbf1c85248/ (data obrashhenija: 20.08.2019).
2. Kodeks Rossijskoj Federacii ob administrativnyh pravonarushenijah ot 30.12.2001 № 195-FZ (v redakcii ot 02.08.2019) (s izm. i dop., vstup. v silu s 13.08.2019 g.) // URL: http://www.consultant.ru/document/cons_doc_LAW_34661/ (data obrash-henija: 20.08.2019).
3. Federal'nyj zakon ot 27.07.2006 № 152-FZ (v redakcii ot 31.12.2017) «O personal'nyh dannyh». URL: http://www.consultant.ru/document/cons_doc_ LAW_61801/ (data obrashhenija: 20.08.2019).
4. Ukaz Prezidenta RF ot 10.10.2019 № 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» (vmeste s «Nacional'noj strategiej razvitija iskusstvennogo intellekta na period do 2030 goda»). URL: http://www.consultant.ru/document/ cons_doc_LAW_335184/ (data obrashhenija: 18.10.2019).
5. Proekt № 571124-7 ot 23.10.2018 Federal'nogo zakona «O vnesenii izmenenij v Federal'nyj zakon «Ob informacii, informacionnyh tehnologijah i zashhite infor-macii»» // Sistema obespechenija zakonodatel'noj dejatel'nosti. URL: https://sozd. duma.gov.ru/bill/571124-7 (data obrashhenija: 26.08.2019).
6. Auzan A.A. Jekonomika vsego. Kak instituty opredeljajut nashu zhizn'. — M.: Mann, Ivanov i Ferber, 2017. — 147 s.
7. Berezina E. Hochu vse znat'. Rynok bol'shih dannyh za pjat' let vyrastet v 10 raz // Rossijskaja gazeta — Federal'nyj vypusk. — 25.03.2019. — № 65(7823). URL: https://rg.ru/2019/03/25/rynok-bolshih-dannyh-za-piat-let-vyrastet-v-10-raz. html (data obrashhenija: 20.08.2019).
8. Bolee 70% vladel'cev smartfonov poluchajut spam-zvonki, zajavili jeksper-ty //RIA Novosti. 14.08.2019. URL: https://ria.ru/20190814/1557484029.html (data obrashhenija: 20.08.2019).
9. Zakonoproekt o Big Data byl dejstvitel'no nedorabotan: kak zashhitit' dannye? // Regnum. 14.11.2018. URL: https://regnum.ru/news/it/2518921.html (data obrashhenija: 26.08.2019).
10. Zinov'evA. A. Faktor ponimanija. — M.: Algoritm, Jeksmo, 2006. — 528 s.
11. Kornev M. S. Istorija ponjatija «bol'shie dannye» (Big Data): slovari, nauchnaja i delovaja periodika // Vestnik RGGU. Serija «Istorija. Filologija. Kul'turologija. Vostokovedenie». — 2018. — № 1. — S. 81-85.
12. Loktev A. P. Neoinstitucional'nye aspekty nacional'noj innovacionnoj sistemy: diss. ... kandidata jekonomicheskih nauk: 08.00.01. — M., 2010. — 170 s.
13. Novyj V., Skorobogat'ko D., Zhukova K., Krasnushkina N. Pravitel'stvu pribavjat isk-usstvennogo intellekta. Prezidentu predstavjat strategiju razvitija otrasli // Kommer-sant#. — 30.05.2019. — № 92. — S. 1.
14. Okolyshev D. A., Sirazhdinov R. Zh. Problemy ispol'zovanija iskusstvennogo intellekta v sovremennoj jekonomike // Shag v budushhee: iskusstvennyj intellekt i cifrovaja jekonomika. Materialy 1-j Mezhdunarodnoj nauchno-prakticheskoj konferencii. Vyp. 1. — M.: Izdatel'skij dom GUU, 2017. — S. 201-206.
15. OpenkovM. Ju., Varakin V. S. Iskusstvennyj intellekt kakjekonomicheskaja kategori-ja // Vestnik Severnogo (Arkticheskogo) federal'nogo universiteta. Serija: Gumani-tarnye i social'nye nauki. — 2018. — № 1. — S. 73-83.
16. Osakskaja deklaracija liderov stran «Gruppy dvadcati» // Oficial'noe internet-pred-stavitel'stvo prezidenta Rossii. 29.06.2019. URL: http://kremlin.ru/supple-ment/5425 (data obrashhenija: 26.08.2019).
17. Osipov Ju. M. Iskusstvennyj razum // Filosofija hozjajstva. — 2019. — № 4. — S. 7-8.
18. Osipov Ju. M. Metafizika. Kod dostupa. — M.: TEIS, 2019. — 455 s.
19. Osipov Ju. M. Sama sebe cifra // Filosofija hozjajstva. — 2019. — № 2. — S. 11-15.
20. Osipov Ju. M. Jekonomika kak est' (otkrovenija Zoila, ili Sudnyj den' jekonomizma): antiposobie. Izd. 2-e. — M.; Tambov: Izdatel'skij dom TGU im. G. R. Derzhavina, 2018. — 333 s.
21. Peredel'skij D. Iskusstvennyj intellekt pojmal signaly iz dalekogo proshlogo // Rossi-jskaja gazeta. 08.08.2019. URL: https://rg.ru/2019/08/08/signaly-iz-proshIogo. html (data obrashhenija: 14.08.2019).
22. Personal'nye dannye uhodjat s molotka. Jelektronnye torgovye ploshhadki razmestili v otkrytom dostupe individual'nuju informaciju 2,2 mln rossijan // RBK. 29.04.2019. URL: https://www.rbc.ru/newspaper/2019/04/29/5cc2df569a7947c83b69b0d5 (data obrashhenija: 20.08.2019).
23. Portal otkrytyh dannyh RF. URL: https://data.gov.ru (data obrashhenija: 19.08.2019).
24. Rabochaja gruppa ANO «Cifrovaja jekonomika» ne podderzhala zakono-proekt o bol'shih pol'zovatel'skih dannyh // ANO «Radiochastotnyj spektr». 08.11.2018. URL: https://rspectr.com/novosti/55003/rabochaya-gruppa-ano-ci-
frovaya-ekonomika-ne-podderzhala-zakonoproekt-o-bolshih-polzovatelskih-dan-nyh (data obrashhenija: 26.08.2019).
25. Rossijskie jeksperty prinjali uchastie v konferencii JuNESKO po iskusstvennomu intellektu // Oficial'nyj sajt Postojannogo predstavitel'stva Rossijskoj Federacii pri JuNESKO. 15.07.2019. URL: http://www.russianunesco.ru/rus/article/4159 (data obrashhenija: 10.08.2019).
26. Savel'evA. I. Problemy primenenija zakonodatel'stva o personal'nyh dannyh v jepo-hu «Bol'shih dannyh» (Big Data) // Pravo. Zhurnal Vysshej shkoly jekonomiki. — 2015. — № 1. — S. 43-66.
27. Soveshhanie po voprosam razvitija tehnologij v oblasti iskusstvennogo intellekta // Oficial'noe internet-predstavitel'stvo prezidenta Rossii. 30.05.2019. URL: http:// kremlin.ru/events/president/news/60630 (data obrashhenija 10.06.2019).
28. Tishina Ju. Iskusstvennyj intellekt potreboval l'got. Dlja razvitija tehnologii pred-lagaetsja special'nyj pravovoj rezhim // Kommersant#. — № 143. — 13.08.2019. — S. 9.
29. «Utechki neizbezhny»: kto otvetstvenen za personal'nye dannye. Kak rabotaet zakonodatel'stvo v sfere zashhity personal'nyh dannyh // Gazeta.ru. 09.08.2019. URL: https://www.gazeta.ru/tech/2019/08/09_a_12567469.shtml (data obrash-henija: 20.08.2019).
30. ShvabK. Tehnologii Chetvjortoj promyshlennoj revoljucii. — M.: JeKSMO, 2018. — 320 s.
31. Shnurenko I. Iskusstvennyj intellekt na grani nervnogo sryva // Jekspert Online. 24.12.2018. URL: https://expert.ru/expert/2019/01/iskusstvennyij-intelle-kt-na-grani-nervnogo-sryiva/ (data obrashhenija: 14.08.2019).
32. Jeksperty OPK: tehnologii iskusstvennogo intellekta dolzhny stat' drajverom razvitija rossijskoj promyshlennosti // Oficial'nyj sajt Sojuza mashinostroitelej Rossii. 13.08.2019. URL: https://soyuzmash.ru/news/tidings/eksperty-opk-tekh-nologii-iskusstvennogo-intellekta-dolzhny-stat-drayverom-razvitiya-rossiys-koy-promy/ (data obrashhenija: 13.08.2019).
33. Judina T. N. «Cifrovaja jekonomika»: nekotorye aspekty pro et contra (iskusstvennyj intellekt, blokchejn i kriptovaljuty, proizvoditel'nost' truda) // Filosofija hozjajstva. Special'nyj vypusk. — 2017. Dekabr'. — S. 112-121.
34. Ai Build predstavljaet sistemu kontrolja kachestva 3D-pechati v real'nom vreme-ni // Seldon News. 11.06.2019. URL: https://news.myseldon.com/ru/news/in-dex/211947142 (data obrashhenija: 17.06.2019).
