CC BY
389. Schmidt, A.T. Persons or Property — Freedom and the Legal Status of Animals // Journal of Moral Philosophy. — 2018. — № 15(1). — P. 20-45.
10. Draft Report of Committee on Legal Affairs (Rapporteur: Mady Delvaux) with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(lNL)). — URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-%2F%2FEP%2F%2FNONSGML%20COMPARL%20PE-582.443%2001%20DOC%20 PDF%20V0%2F%2FEN
11. U.S. Department of Defense, Law of War Manual, 6.5.9.3 (2015). — URL: http:// www.defense.goV/Portals/1/Documents/pubs/Law-of-War-Manual-June-2015.pdf.
12. Arato, J. Subsequent Practice and Evolutive Interpretation: Techniques of Treaty lnterpretation over Time and Their Diverse Consequences // The Law and Practice of International Courts and Tribunals. — 2010. — № 9. — P. 443-494.
13. Eirik Bjorge I. International Court of Justice, Case concerning the dispute regarding navigational and related rights (Costa Rica v Nicaragua) judgment of 13 July 2009 // International and Comparative Law Quarterly. — 2011. — № 60.- P. 271-279.
14. Hallevy, G. The Criminal Liability of Artificial Intelligence Entities // SSRN Electronic Journal (February 15, 2010). — URL: https://ssrn.com/abstract=1564096 or http://dx.doi.org/10.2139/ssrn.1564096
15. Foerst, A. Artificial sociability: from embodied Al toward new understandings of personhood // Technology in Society. — 1999. — № 21.
16. Davenport, D. Moral mechanisms // Philosophy and Technology. — 2014. — № 27(1). — P. 47-60.
А.Ю. Мамычев,
доктор политических наук, кандидат юридических наук, профессор кафедры теории и истории государства и права Юридической школы Дальневосточного федерального университета О.И. Мирошниченко, кандидат юридических наук, доцент кафедры теории и истории государства и права Юридической школы Дальневосточного федерального университета
A.U. Mamychev,
Doctor in Political Science,
Candidate of Law, Professor of the Theory
and History of State and Law of Law
School of Far Eastern Federal University
mamychev@yandex.ru
O.I. Miroshnichenko,
Candidate of Law, Associate Professor, Far Eastern Federal University olga-star. 05@mail. ru
моделируя будущее права:
проблемы и противоречия правовой политики в сфере нормативного регулирования систем искусственного интеллекта и роботизированных технологий*
Аннотация: в статье анализируется существующее и потенциальное правовое регулирование проблем, возникающих в эпоху цифровизации. Авторы рассуждают об утопичности применения существовавших ранее моделей нормативного регулирования с участием акторов, наделенных
125
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16129.
искусственным интеллектом. Неразумным видится и излишняя «субъективизация» роботов. Авторы считают необходимым обсуждение и разработку юридическим сообществом доктрины, учитывающей цифровую трансформацию права и нормативно-правового регулирования. Следует сформировать рамочные правовые документы, содержащие методологию и стандартизацию процессов разработки и внедрения ИИ и РТ, поскольку ситуативное реагирование на возникающие запросы цифровизации существенно снизит социальную роль и назначение права. Только в таком случае возможны реализация комплексной программы законодательных изменений, разработка необходимых юридических комплексов, институтов и подотраслей права, последующая кодификация отдельных отраслей права.
Ключевые слова: искусственный интеллект, правовое регулирование, имплементация, роботизированные технологии, инструментализация, цифровизация, правовая политика.
Modeling the future of law: problems and contradictions of legal policy in the sphere of normative regulation of artificial intelligence and robotic technologies
Abstract: the existing and potential legal regulation of the problems arising during a digitalization era is being analyzed. The authors speak about impossibility and utopianism of application of the models of standard regulation existing earlier to the relations with participation of the actors allocated with artificial JO intelligence. Also excessive "subjectivization" of the specified actors seems unreasonable. The authors also cj consider necessary discussion and development by legal community of the doctrine considering digital
I
transformation of aw in general and legal regulation. It is necessary to create frame legal documents
containing methodology and standardization of processes of development and deployment ofAl, and RT as
«5 situational response to the arising digitalization inquiries will significantly lower a social role and purpose of CQ
law. After doing all mentioned above it will be possible to implement the comprehensive program of legislative Й changes, and to develop necessary legal complexes, institutes and subsectors of law and also the subsequent ¡5 codification of separate branches of law
Keywords: artificial intelligence, legal regulation, implementation, robotic technologies, ^ instrumentalization, digitalization, legal policy.
* n
§ Доминирующими ориентациями в сфере проблем правового
§ регулирования принципиально новых отношений, порождаемых цифровой J* трансформацией общества (ЦТ), внедрением роботизированных технологий ® (РТ) и систем искусственного интеллекта (ИИ) в жизнедеятельность чело-is века, являются «подобие» и «инструментализация».
[Ъ В первом случае концептуально-правовые и юридико-технические массивы ориентируются прежде всего на совершенствование действующего за-126 конодательства и формирование новых юридических комплексов на основе
- принципа «подобия», т.е. схожем и привычном «алгоритме» нормативного
кодирования общественных отношений1. В то же время очевидно, что развитие «цифровых отношений», взаимодействие людей и машин, сам процесс
<л
* 1 В принципе, такой подход вполне логичен и оправдан на первом этапе «цифровой революции».
^ Причем он приемлем и для антропоцентрированного взгляда на разворачивающиеся события и процессы, поскольку «подобие всегда иерархично: уподобление — это власть оригинала, творящего копии» [1, 3]. Ориентация на такое идейно-концептуальное основание в дальнейшем, с одной стороны, «приятная иллюзия», формирующее ощущение подконтрольности и управляемости различных инновационных процессов, в частности, развития ИИ и РТ; а с другой — фиксация доминирования оригинала (естественного интеллекта) над создаваемыми копиями (искусственным интеллектом). Считаем, что в стратегическом плане и первое, и второе — весьма опасные и непродуктивные убеждения.
развития ИИ не только слабо прогнозируем1, но и вряд ли вписывается в традиционные теоретико-правовые рамки (традиционные представления о субъекте права, о формах реализации права, о юридической ответственности и т.д.).
С этим связана и вторая ориентация — на «подтягивание» правового регулирования к потребностям и запросам «цифровизации», что по факту сводит сущность и социальную роль права к сугубо инструментальной.
В этом смысле следует полностью согласиться с позицией Т.Я. Хабриевой, § §
которая, анализируя стратегическую программу цифрового развития о 3
Российской Федерации, отмечает, что «праву отводится важная (инструмен- § §
тальная) роль в развитии цифровой экономики». При этом «право предстает s ^
как средство, но не объект цифровизации», а «юридические технологии, § j
использование которых предусмотрено Программой («Цифровая экономика § ¿3
РФ» [3]), также совсем не цифровые» [4, с. 88]. Следует также согласиться, § 3
что «цифровизация общества» ведет к трансформации не только действующей о а
системы законодательства, но и системы права, теории права и правовой ° §§
культуры общества. Прав в этом плане В.Г. Мальцев, который отмечал, что о *
iJ ъ
«право никогда не бывает лишь инструментом в руках государства, оно по сути | -3
должно нести некий «высший план» общественного развития, предначертанный 3 ^
правопорядок, по отношению к которому государство и его управление, в s»g
свою очередь, выступает в инструментальной роли, т.е. является средством | |
его достижения, постоянно корректируемым по юридическим схемам (вы- | а делено нами — А.М., О.М)» [5, с. 29]. В современной концепции правового
и этического регулирования ИИ и РТ все по факту перевернулось с «ног на 3 г| голову», и речь должна идти об «образе будущего» социального и правового порядка, но с учетом кардинальной трансформации общественной системы
под воздействием цифровизации и алгоритмизации социальной реальности, §3 § о серьезных теоретико-правовых изменениях и правовой реформе общества
в целом. 5° §
о о
Другая проблема, которая связана с обозначенными ориентациями — js ь
принципиальное разграничение, которое отстаивается и закладывается в |<з|
процесс совершенствования правового регулирования, а именно: между 3J3
моральным и свободно действующим субъектом — с одной стороны, и воз- |,§|
Именно поэтому многие специалисты обосновывают преждевременность формирования комплексного правового регулирования ИИ и РТ. Например, известный специалист в этой области А. Незнамов убеждает, что «на данном этапе комплексное регулирование не нужно. Так называемые системы искусственного интеллекта являются сугубо прикладными. Соответственно, регулирование требуется в зависимости от того, как технологии ИИ используются в конкретной сфере» [2, с. 10]. Заметим, что с этим можно согласиться
127
о О S5
лишь отчасти, поскольку право обладает более широким «нормативным потенциалом», 5 ^
выраженным в определении (установлении) доктринально-правовых рамок цифровизации "§ 2
и автоматизации общественных процессов, а также опережающем правовом и деонтоло- Е 2
гическом кодировании развития данных инновационных технологий. Причем описанный 5 8
выше (по своей сути инструменталистский) подход упускает из виду, что сама правовая Е
реальность также подвержена цифровым трансформациям, а не спокойно в стороне ждет ^ подходящего момента, когда оформится и устоится определенный вид общественных отношений, для урегулирования которых будет использован концептуально-правовой и юридико-технический арсенал.
можными «цифровыми субъектами» (цифровыми личностями, роботами, виртуальными копиями и проч.) — с другой. Главная аргументация в этом случае сводится к тому, что нам «следует сохранить онтологическое разделение между людьми и вещами, иначе у нас больше не будет моральных оснований для того, чтобы критиковать пагубные формы инструментализма человека человеком». Такой консервативный взгляд на нечеловеческие сущности, по справедливому замечанию Дж. Баннетт, ведет к тому, что за успехи в развитии человечества «приходится платить инструментализацией нечеловеческой природы, что само по себе неэтично и может подорвать долгосрочные интересы» [6, с. 36].
Более того, такая ориентация в развитии права и правовой политики государства упускает тот факт, что будущие конфликты и противоречия формируются не в противостоянии социального и технического, роботизированного и человеческого; а, напротив, опасности «поджидают» в сфере конвергенции (от лат. converge — сближение, сплав, смешение, процесс интеграции, движения к друг другу) людей, вещей и технологий1. Это формирует принципиально новые виды отношений, в которые вовлечены, с одной сто-.0 роны, традиционные субъекты (классические субъекты права, политические с? акторы и т.п.); а с другой — так называемые «актанты» (вещи, технологии, живые или роботизированные механизмы, цифровые алгоритмы и проч.), J* участвующие в этих отношениях и оказывающие существенное воздействие g на их характер и направленность [8].
и В целом, «жесткое разделение» человека и технологий, а также инстру-[Ъ ментальный подход к ИИ и РТ являются доминирующими в нормативного правовом, нравственном и этическом регулировании развития последних. § Так, например, в Азиломарских принципах искусственного интеллекта (США, g Азиломар, 2017) зафиксирован ряд принципов развития исследовательской § практики в этой сфере. Определяется, что целью подобных исследований § выступает создание полезного и управляемого интеллекта. При этом определяется, что финансирование таких разработок должно быть ориентировано ® на обеспечение максимальной полезности разрабатываемых технологий, а ® главным этическим стандартом выступает надежность и контролируемость [Ъ данных технологий [9].
Очевидными являются общая инструментальная сущность технологий 128 и функциональная направленность нормативного кодирования на развитие - определенных качеств полезности и стабильности. Все остальные проблемные моменты, связанные с цифровой трансформацией общества, в основном
вынесены «за скобки» публичного обсуждения и нормирования. Схожая о _
1 Наиболее реальный сценарий трансформации общественных отношений — это не противо-^ стояние людей и машин, роботов и человека, к чему нас долго готовил фантастический жанр литературы и кинематографа, а слияние последних в единое целое. Все это, безусловно, сформирует и принципиально иную ценностно-нормативную систему и повседневную практику. Опасность здесь возникает, как справедливо в этом плане отмечает израильский исследователь Юваль Ной Харари, в том, что «обращение человека с животными дает достаточное представление о том, как в будущем усовершенствованные люди (продукты социальной и технологической конвергенции — А.М., О.М.) будут поступать со всеми остальными» [7, с. 374].
«инструментальная позиция» в современной мировоззренческой парадигме по отношению к развитию ИИ и РТ наблюдается во многих стратегических документах, конвенциях, соглашениях, декларациях, модельных нормативно-правовых актах, этических стандартах и т.п. Например, в программном документе «Инициативы Франции в сфере робототехники» ИИ и РТ также рассматриваются в качестве факторов промышленного и технологического прогресса, позволяющего обеспечить лидерство и преимущество страны, отдельно подчеркиваются комфортность и полезность технологий для человека а § [10]. В европейской Декларации о сотрудничестве в сфере искусственного о § интеллекта также вполне четко прослеживается разграничение человека § § и технологий, их инструментальное значение в общественных системах: е ^ «Обеспечить сохранение за человеком ключевой роли в процессе развития, § 3 применения и принятия решений в отношении ИИ, предотвращение дей- § ¿3 ствия, направленные на создание или использование вредоносных решений | § на основе ИИ» [11].
Иными словами, распространение цифровых технологий рассматрива-
"Q §
ется как очередной этап совершенствования человеческих инструментов, » К
продолжающих и (или) функционально его (человека) замещающих1. Если !
и допускается автономность последних в рамках нормативного кодирования h
ИИ и РТ, то только на уровне совещательном, вспомогательном, обеспечи- s» g
вающем, т.е. ИИ должны функционировать в инструментальном режиме | |
(например, получение, обработка и представление соответствующей инфор- | а
\ n X О "О
мации, прогнозирование возможных вариантов и проч.). В то же время за человеком остается его «фундаментальное право» по принятию решений и <л 1| реализации распорядительных функций2. Однако уже на современном этапе внимательному наблюдателю очевидно, как справедливо на это указывает М. Деланда, что именно различие между совещательными и распоряди- §3 а тельными способностями стремительно стирается в процессе применения и развития ИИ и РТ. Современные «роботизированные события»3 уже начали размывать границу между чисто совещательной и распорядительной ролью sss< умных машин» [15, с. 7].
^ h ^
--I Sí I
1 Эту установку человеческой психики и мыследеятельности человека достаточно полно описал S,3I еще З. Фрейд, отмечая, что каждый этап эволюции человек создает все новые и совершенные технологии, которые становятся продолжением его, улучшая его телесность, моторику, сенсорные способности и проч.: «Любым из своих орудий человек совершенствует свои органы — как моторные, так и сенсорные — или расширяет рамки их деятельности Человек — это, так сказать, разновидность бога на протезах, весьма величественная, когда использует все свои вспомогательные органы, хотя они с ним не срослись и порой доставляют еще много хлопот» [12, с. 311—312].
129
2 Этот убеждение в настоящее время во многом тоже ставится под вопрос. Так, Адам Гринфилд 5 § на различных примерах, в том числе обеспечение правопорядка, убедительно показывает, "§ 2 как сегодня человек постепенно исключается из цепочки принятия решений [13]. Е 2
3 Событие здесь имеет принципиальное значение и фундаментальные последствия, по- 5 8 скольку в своем развертывании «превосходит свои причины», прерывает обычный ход Е вещей и порождает «нечто, появляющееся из ниоткуда, без видимых причин, явление ^ без твердого бытия у своего основания». Именно событие определяет во многом общий горизонт смыслов, т.е. того, как будет восприниматься реальность и выстраиваться отношение с ней [14, с. 13—14].
Кроме того, применение подобия в нормативном кодировании и инструментального подхода в законодательном регулировании упускает из вида тот аспект, что традиционные ценностно-нормативные регуляторы (этические стандарты, правовые нормы, культурные универсалии и проч.), на которых основывалась значимость и функциональность нормативного регулирования в целом1, постепенно вытесняются из ведущих и определяющих, формируя по выражению А. Гринфилда, «постгуманистический поворот» в социальном нормировании отношений: «Это среда, где ритмы, с которыми мы сражаемся, обыденные пространства, которые занимаем, и материальные и энергетические потоки, которые поддерживаем, определяются не столько нашими потребностями, сколько потребностями систем, которые номинально служат нам, но для которых человеческое восприятие, соразмерные человеку масштабы и его желания больше не являются главными мерилами ценности (выделено нами — А.М., О.М)» [13, с. 249].
Еще раз подчеркнем происходящую «цифровую революцию» в правовой культуре общества, в развитии общественных отношений и их правовом регулировании, которая ведет к кардинальной трансформации ценностно-.о нормативных и мировоззренческих оснований правового порядка как с? «желаемого образа» и «высшего плана», так и определенного качественного состояния общественных отношений. И главная проблема, которая стоит J* перед правовой политикой современного государства, заключается в том, что g разрабатываемые проекты нормативных правовых актов, деонтологических и кодексов и этических стандартов, регламентирующих процесс разработки и [Ъ применения ИИ и РТ, сводят право и его юридико-технический арсенал к s инструментальной роли. Как отмечалось выше, в подавляющем большинстве § случаев происходит «искусственный перенос» сложившихся и устойчивых g нормативных моделей на принципиально новые отношения. § Отношения, которые уже «разыгрываются» не только между людьми, § но и «нечеловеческими актантами», где субъективной или индивидуальной активностью наделяются роботизированные технологии (реализующие важ-® ные социальные функции), цифровые алгоритмы (принимающие решения и ® распределяющие социальные ресурсы), системы искусственного интеллекта [Ъ (организующие и управляющие общественными процессами) и т.п., качественно отличаются от ранее существовавших и по субъектному составу, и, 130 как следствие, по содержанию. Логично, что и урегулировать их на основе - аналогии с тем, «что было раньше», не представляется возможным. Нужно
^ 1 Как отмечал Дж. Грей, социально-нормативные институты всегда основывались и «служили» социокультурным основам общества, различные нормативные институты всегда функционировали «в соответствие с культурой народа, которым они служили», в частности, право Су гарантировало «приверженцам различных культурных традиций обеспечение отражения этих традиций в правовых порядках» [16, с. 273—274]. Известный теоретик права Г.В. Мальцев, в свою очередь, отмечал, что фундаментальным основанием социального и правового порядка всегда было гармоничное взаимодействие всех нормативных регуляторов (традиций, обычаев, религии, права, морали и т.д.), которые друг на друга опирались и взаимодействовали. При этом «если разнообразные социальные регуляторы всех уровней, включая нормативный, действуют согласовано и непротиворечиво, то это симптом гармоничного развития общества и большая удача для него» [5, с. 21].
качественно иные варианты. Например, в западноевропейском гуманитарном дискурсе уже разрабатываются доктринально-правовые положения и этические стандарты, ориентированные на новые формы отношений, которые обозначаются в качестве акторных сетей, ассамбляжей, социально-технических сборок и проч. [17—20].
Эти новые формы и модели отношений представляют собой взаимосвязанные и взаимообусловливающие активности человека, вещей, технологий и т.п. Именуются они как «сборки», т.е. активности как человеческих субъектов, так и технологий, где последние обладают соответствующим £ § психологическим, физическим и символическим влиянием на человека § э как одного из участников этих отношений1. Отметим, что понятие «сбор- п> 1
• 1=
Й
ки», которое активно сегодня используется в современных исследованиях, о ^
представляет собой научную метафору, в задачи которой входит «вытес- 2 |
нение» традиционных понятий, на которых базировалось нормативное 3 §
регулирование [23]: социальные отношения, порядок, традиции, система и § ™
проч. При этом в последнее время указанная метафорическая концепция * 2
стала претендовать на смену и таких концептов, как парадигма и эписте- *
ма. Суть «претензии» последней к перечисленным понятиям и концептам ^ 0
состоит в том, что они не учитывают в своих теоретических построениях § ^
агентность технологий, их принципиальное участие в развертывании со- § |
временных отношений2. § *
Эта идея на самом деле — «мина замедленного действия», которая в скором времени разрушит многие основания теории права (теорию правовых отношений, юридической ответственности, действия права, реализации юридических норм и т.д.). Подчеркнем, дело не столько в том, что технологии,
системы ИИ и РТ постепенно конвергируются с естественным интеллектом, О^Э
незаметно «вплавляются» в человеческое взаимодействие, сколько в том, что о а*
Л «¡3
последние начинают восприниматься и толковаться в качестве значимых §а:а>
СП
•ц JU
J I g ss §
теоретико-практическая повестка дня может привести к существенным
участников социальных отношений. Данный мировоззренческий тренд и £ I g
ss §
5 ч s
s< ss
131
^ ^ ' фа
трансформациям социального порядка и общественных отношений, что §
впоследствии отправит в «хранилище истории» весь правовой опыт и нако- § Is
пленный юридико-технический арсенал как несоответствующий и неадек- sjij!
ватный инструмент для нормирования новых форм и моделей отношения
социальных агентов и нечеловеческих актантов.
Конечно, такое утверждение может показаться излишне категоричным,
однако, если серьезно осмыслить процесс и последствия инструментального
развития правового регулятора в эпоху «цифровой революции, становится р Р __S р
1 В качестве яркого примера можно привести взаимоотношения операторов (военного пилота § § и наводчика) и действия летательного дрона, осуществляющего огневые удары по боевым § | целям, а именно психологическое и физическое влияние действий дрона на пилотов и на- g £ водчиков данного аппарата [21]. § g
2 Вот, например, характерное суждение Хелен Вераран и Дэвида Тернбулла: «Сборка схожа с эпистемой, к которой добавлены технологии, но при этом "сборка" коннотирует ситуативную, ad hoc, контенгентность коллажа и его способности охватывать широкое разнообразие несовместимых компонентов. Кроме того, достоинством термина "сборка" являются коннотации активных и разворачивающихся практик, а не пассивных и статичных структур» [22, с. 90].
■е s
!
!
очевидным, что само право как инструмент опосредования новых отношений (или социально-технологических сборок и ассамбляжей), существенно потеряло свою эффективность; логично, что возникающие нормативные сбои и пробелы имеют тенденцию к урегулированию иными инструментами, более стабильными и адекватными для целей возникающих отношений, например, теми же цифровыми алгоритмами.
Итак, адаптация действующих нормативно-правовых моделей и «подгонка» юридико-технического инструментария к совершенно иным отношениям, мягко говоря, малоэффективна. Отход от инструментализации права и механизма «подобия», о которых речь шла выше, требует формирования соответствующей правовой политики, разработки особой концепции опережающего правового развития общества и правового моделирования принципиально новых отношений.
Кроме того, необходимы обсуждение и разработка юридическим сообществом доктрины, учитывающей цифровую трансформацию права и нормативно-правового регулирования. Следует сформировать рамочные правовые документы, содержащие методологию и стандартизацию процес-.о сов разработки и внедрения ИИ и РТ, поскольку ситуативное реагирование $5 на возникающие запросы цифровизации существенно снизит социальную роль и назначение права. Именно после разработки и принятия последних о; возможна реализации комплексной программы законодательных изменений, оа разработка необходимых юридических комплексов, институтов и подотраслей оа права с последующей кодификацией отдельных отраслей права.
^ Список литературы:
1. Маковецкий, Е.А. Подобие и подражание. Очерк по философии и истории 2 культуры / Е.А. Маковецкий. — 2-е изд.— СПб.: Изд-во Русской христианской гу-¡5 манитарной академии, 2014.
§ 2. Агапов, И. Искусственный интеллект в законе // Стандарт. Цифровая транс-
§ формация, ИТ, коммуникации, контент. — 2018. — № 3 (182). о; 3. Программа «Цифровая экономика Российской федерации», утв. Распоряжением
§ Правительства Российской Федерации от 28 июля 2017 г. № 1632-р // СПС § «КонсультантПлюс». — URL: http://www.consultant.ru/document/cons_doc_LAW_221 g 756/2369d7266adb33244e178738f67f181600cac9f2/ (дата обращения: 17.02.2019).
4. Хабриева, Т.Я. Право в условиях цифровой реальности // Журнал российского права. — 2018. — № 1.
132 5. Мальцев, А.В. Социальные основания права / А.В. Мальцев. — М.: Норма, 2007.
--6. Беннет, Дж. Пульсирующая материя: Политическая экология вещей
/ Дж. Беннет. — Пермь: Гиле Пресс, 2018. Si 7. Харари, Ю.Н. Homo Deus. Краткая история будущего / Ю.Н. Харари. — М.:
® Синбад, 2018.
^ 8. Латур Б. Пересборка социального: введение в акторно-сетевую теорию
/ Б. Латур. — М.: Изд. дом Высшей школы экономики, 2014.
9. Азиломарские принципы искусственного интеллекта // Робоправо.
— URL: http://robopravo.ru/azilomarskiie_printsipy_ii (дата обращения: 17.02.2019).
10. Инициативы Франции в сфере робототехники. Март 2013 // Робоправо.
— URL: http://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013 (дата обращения: 17.02.2019).
11. Декларация о сотрудничестве в сфере искусственного интеллекта (10.04.2018) // Робоправо. — URL: http://robopravo.ru/initsiativy_frantsii_v_sfierie_ robototiekhniki_2013_2 (дата обращения: 17.02.2019).
12. Фрейд, З. Неудобство культуры / З. Фрейд. — М.: Республика, 1995.
13. Гринфилд, А. Радикальные технологии: устройство повседневной жизни / А. Гринфилд. — М.: Дело, 2018.
14. Жижек, С. Событие. Философское путешествие по концепту / С. Жижек. — М.: РИПОЛ классик, 2018.
15. Деланда М. Война в эпоху разумных машин / М. Деланда. — Екатеринбург; а § М.: Кабинетный ученый, 2014. о §
16. Грей, Дж. Поминки по Просвещению: Политика и культура на закате со- о О временности / Дж. Грей. — М., 2003. * 1
17. Батлер, Дж. Заметки к перформативной теории собрания / Дж. Батлер. — М.:
х
s
Ад Маргинем Пресс, 2018. § §
18. Деланда, М. Новая онтология для социальных наук // Логос. — 2017. Э ^ — Т. 27. — № 3. — С. 35-57. § *
19. Томпсон, Х. Агентность, опосредованная объективацией: субъектность и технологии // Логос. — 2018. — Т. 28. — № 5. — С. 203-249.
20. Латур, Б. Политика природы / Б. Латур. — М.: Ад Маргинем Пресс, 2018. ^
21. Вахштайн, В. Пересборка повседневности: беспилотники, лифты и проект s 0 ПкМ-1 // Логос. — 2017. — Т. 27. — № 2. — С. 2-48. S |
22. Ло, Дж. После метода: беспорядок и социальная наука / Дж. Ло. — М.: Изд- S | во Института Гайдара, 2015. — 352 с. §£
23. Деланда, М. Новая философия общества: Теория ассамбляжей и социальная ° » сложность / М. Деланда. — Пермь: Гиле Пресс, 2018. »g0
OSS о* а о si go тз S *гс
•S os о g»
S Я Э s S Э ï S S
» ¡3 о gs s<
s g э
ï Яр
о р g
a ? с S< m S
133
» .
H H
Я»
г
о
