CC BY
57
https://doi.orq/10.30853/manuscript.2019.6.34
Попов Дмитрий Владимирович
ИСТОРИЯ ПАНОПТИЗМА: ОТ ОРАКУЛОВ К ПАЛАНТИРАМ
В статье технологический прогресс моделируется как история паноптизма - развитие средств всевидения и всеведения, направленных на изучение жизни человека. Инструментарий паноптизма прошел путь от оракулов жрецов до гаджетов-палантиров, пронизывающих социальное пространство в наши дни. Новейшие алгоритмы, предоставляя бесчисленные блага, несут издержки. Системы искусственного интеллекта могут стать ключом от всех дверей или последним изобретением человечества. Паноптизм в его радикальной редакции способен создать человеконесоразмерную среду обитания. Транспарентный мир палантиризации может обернуться расчеловечиванием человечества.
Адрес статьи: www.gramota.net/materials/9/2019/6/34.html
Источник Манускрипт
Тамбов: Грамота, 2019. Том 12. Выпуск 6. C. 166-171. ISSN 2618-9690.
Адрес журнала: www.gramota.net/editions/9.html
Содержание данного номера журнала: www.gramota.net/materials/9/2019/6/
© Издательство "Грамота"
Информация о возможности публикации статей в журнале размещена на Интернет сайте издательства: www.gramota.net Вопросы, связанные с публикациями научных материалов, редакция просит направлять на адрес: [email protected]
УДК 177 Дата поступления рукописи: 24.03.2019
https://doi.org/10.30853/manuscript.2019.6.34
В статье технологический прогресс моделируется как история паноптизма - развитие средств всевидения и всеведения, направленных на изучение жизни человека. Инструментарий паноптизма прошел путь от оракулов жрецов до гаджетов-палантиров, пронизывающих социальное пространство в наши дни. Новейшие алгоритмы, предоставляя бесчисленные блага, несут издержки. Системы искусственного интеллекта могут стать ключом от всех дверей или последним изобретением человечества. Паноптизм в его радикальной редакции способен создать человеконесоразмерную среду обитания. Транспарентный мир палантиризации может обернуться расчеловечиванием человечества.
Ключевые слова и фразы: биополитика; паноптизм; искусственный интеллект; алгоритм; рациональность; палантир; человек.
Попов Дмитрий Владимирович, к. филос. н., доцент
Омская академия Министерства внутренних дел Российской Федерации DmitriVPopov@mail. гы
ИСТОРИЯ ПАНОПТИЗМА: ОТ ОРАКУЛОВ К ПАЛАНТИРАМ
Когда у всех один оракул и все верят этому одному оракулу, он становится правителем. Он будет думать за нас.
Ю. Н. Харари
В статье рассматривается один из аспектов современного этапа научно-технической революции - развитие технологий сбора и обработки информации, связанной с жизнедеятельностью человека. Актуальность темы обусловлена повсеместным внедрением технологий анализа антропогенной информации, связанных со стремительным совершенствованием алгоритмов обработки «больших данных». Возникающая на наших глазах транспарентная среда обитания человека актуализирует множество этических и правовых проблем: каковы пределы вмешательства в жизнь человека; насколько оправдано формирование досье на человека по его электронным следам программными средствами анонимных автоматизированных систем; какое значение полученной информации может (должен) придавать субъект ее оценки.
Целью исследования является, с одной стороны, выяснение характера и степени воздействия новейших средств паноптизма на человека и, с другой стороны, нравственная оценка последствий применения новейшей глобальной оптики с точки зрения природы человека.
К научной новизне исследования можно отнести интерпретацию технологического развития как историю паноптизма; установление связи между биополитикой с момента начала ее осознанного применения и технологиями сбора и обработки информации; рассмотрение тейлоризма, фордизма, автоматизации, гуглизации как форм алгоритмизации социального пространства жизни человека; введение в научный оборот понятия «палантиризация», означающего всесторонний характер и высшую степень всеведения и всевидения на основе новейших технологий обработки больших данных с использованием систем искусственного интеллекта.
Современная цивилизация как никогда информирована, она обладает значительными знаниями, немыслимыми прежде. Вместе с тем жизнь человечества как никогда проблематична. Беспрецедентный рост населения; экологические последствия антропоцена (Д. Бур, Ю. Харари); невиданная экономическая дифференциация (Дж. Стиглиц, Т. Пикетти); чудеса четвертой промышленной революции (К. Шваб, Э. Дрекслер); технологический взрыв, чреватый технологической сингулярностью (Р. Курцвейл); политико-правовая «удельная раздробленность» периода «конца истории» (П. Ханна) - все это создает тревожный фон для исследования сущностных характеристик происходящих в мире процессов средствами философской рефлексии.
Одним из ключевых глобальных вызовов является технологический рывок. Для того чтобы углубиться в проблематику последствий общественной трансформации, вызванной взрывным ростом технологии, рассмотрим историю человечества как историю развития технологий паноптизма, т.е. средств всестороннего изучения, наблюдения и контроля за жизнью человека, социальной и природной средой его обитания и деятельности.
История паноптизма начинается с мечты об абсолютном знании, зародившейся в древности. Всевидение и всеведение находят свое выражение уже в мифологии. Аргус (он же Паноптес - всевидящий) в древнегреческой мифологии - многоглазый великан - неусыпный страж, универсальное оружие и гарант безопасности.
Первые технологии паноптизма носили религиозно-мистический характер. У пифии в дельфийском храме Аполлона испрашивали оракул - неведомо откуда являлось решение, возникавшее, как предполагалось по умолчанию, на основе обобщения данных жизни вопрошающего. Жрецы и пророки, подобно жрице Р'глора Мелисандре, напряженно всматривались в огонь своих видений и возвещали откровение. Гадания, погружение в состояние транса, воздействие одурманивающих веществ - все шло в ход для того, чтобы заглянуть за доступный предел.
Со временем стремление ко всеведению приняло рациональные формы. Открытия и изобретения, развитие технологий наблюдения, оптики, фортификации, городская организация пространства, картография, а равно книгопечатание, архивы, музеи, библиотеки, цифровые технологии - все это можно рассматривать как прогресс человечества во всеведении и всевидении.
Радикальное преобразование средств паноптизма происходит в Новое время в ходе разворачивающейся научно-технической революции. Символом, универсальным «модулем» паноптизма можно считать Панопти-кон И. Бентама - проект здания, предназначенного для наблюдения и контроля над деятельностью людей самых разных категорий. Мыслимый в первую очередь как тюрьма, Паноптикон как инспекционное учреждение, основанное на новом принципе строительства, мог быть использован в качестве пространства, предназначенного для содержания под наблюдением любых «поднадзорных» граждан учреждениями любого типа. Например, пенитенциарными учреждениями, промышленными предприятиями, работными домами, домами призрения, лазаретами, фабриками, больницами, домами сумасшедших, школами [9].
Н. Кристи, считающий Паноптикон символом тотального контроля, поясняет: «Слово "Паноптикон" (Pan opticon) означает "полный обзор". Проект Бентама представлял собой гигантскую окружность с высокой башней в центре. По окружности располагались камеры. Их окна выходили как наружу, так и внутрь окружности. В центральной башне размещалась охрана. С этой позиции просматривались все камеры и все, что в них происходило, в то время как самих охранников не было видно. Такая конструкция предполагала наилучшие возможности для наблюдения за минимальную стоимость» [7, с. 110].
Паноптикон был опробован буквально. В мире появились тюрьмы, соответствующие заявленной идее. Например, печально известные «Кресты» в Санкт-Петербурге. «Оказывается, название происходит от архитектуры тюремных зданий. Они были построены в прошлом веке по самым для того времени современным образцам - в виде крестообразных корпусов. В центре каждого креста застекленные будки - пункты наблюдения, а от них во все четыре стороны расходятся длиннющие коридоры с камерами по обеим стенкам. И так -на каждом этаже» [6, с. 85]. Современные технологии позволили шагнуть дальше. Ныне существуют практически полностью автоматизированные тюрьмы, работающие в круглосуточном режиме наблюдения на основе новейших технологий. Таковы тюрьмы «макси-макси» и даже «супермакси», содержание в которых организация Хьюман Райтс Вотч (Human Rights Watch) охарактеризовала как «холодильное хранение» [7, с. 91-93].
Безусловно, прав Т. Матиесен, полагающий, что история тюрем замысловато вплетена в историю наблюдения [18, р. 201]. Однако, самое главное, Паноптикон удачно встроился в общий - рационалистический, оптимизирующий - тренд эпохи. В погоне за усилением собственной мощи государство XVIII в. сформировало систему полицейского паноптизма. Полицейское государство, теоретически понимаемое как форма заботы о населении ради увеличения мощи и величия государства, стремилось к регулированию различных сторон жизни человека, ранее осуществлявшихся стихийно. Полиция взяла в союзники статистику, воспринятую как подспорье в процессе оптимизации жизни. Вездесущность полиции проявлялась в разнообразии ее функций (от традиционных сыска, дознания и следствия до контроля над распределением продовольствия, надзором за состоянием дорог, эпидемической обстановкой и трудоустройством населения). Проект полиции был слишком амбициозным, в результате чего потерпел крах - впоследствии полиция избавилась от значительного количества переданных ей функций. Каждая такая функция, однако, не вернулась в лоно стихийности, а дала жизнь учреждениям определенного типа. Полиция как Аргус Нового времени вошла в координационный совет «стражей» государства нового типа.
Еще одной мощной волной паноптизма явилось рождение и распространение научного менеджмента предприятия, описанное Ф. У. Тейлором [10]. Тейлор, обосновывавший эффективность новой научной организации труда, настаивал на том, что его детище - магистральный путь повышения производительности труда, благополучия предпринимателей и рабочих. Действительно, система Тейлора нашла самое широкое применение. Фордизм стал катализатором процесса внедрения научных методик в массовое производство с опорой на монбланы статистических данных о труде ради тотальной оптимизации экономики.
Примером тейлоризма является технополис Е. Замятина из антиутопии «Мы». В ней в математически спланированном мире города, живущего по системе Тейлора, каждому «нумеру» отведено свое место согласно способностям и в интересах максимизации общественного блага. В мире, где искусственное вытесняет естественное, общественное - индивидуальное, публичное - приватное, рациональное - эмоциональное, а нумера - имена, - тейлоризм всеохватен, паноптичен. Мир подчинен принципу «ритмичного тэйлоризован-ного счастья» [4, с. 240] - диктату увеличения производительности труда и стремлению к математически измеримому совершенству. «Да, этот Тэйлор был, несомненно, гениальнейшим из древних. Правда, он не додумался до того, чтобы распространить свой метод на всю жизнь, на каждый шаг, на круглые сутки -он не сумел проинтегрировать своей системы от часу до 24-х. Но все же: как они могли писать целые библиотеки о каком-нибудь там Канте - и едва замечать Тэйлора - этого пророка, сумевшего заглянуть на десять веков вперед» [Там же, с. 233]. Интересно, что в рамках системы тейлоризма происходит сближение капитализма и коммунизма. И тот, и другой ратуют за максимально эффективное использование человеческих ресурсов. При этом капитализм апеллирует к благу в форме эгоистической выгоды в духе булочника А. Смита, а коммунизм - к благу в форме альтруистической помощи ближнему. Однако как капитализм, так и коммунизм рассчитывают на достижение различными путями блага всеобщего.
Тейлоризм обнаруживается и в школе, в которую, вероятнее всего, он попал даже раньше, чем на производство. М. Фуко, рассматривая школу как одну из сфер проявления дисциплинарной муштры, полагал, что «школьное пространство стало функционировать как механизм обучения, но также надзора, иерархиза-ции и вознаграждения» [12, с. 214]. Учитель - одновременно технолог и надзиратель - работает в классе, где дисциплина образовывает из учеников «живые таблицы», преобразующие «беспорядочные, бесполезные и опасные массы в упорядоченные множества» [Там же, с. 215]. Учитель как технолог предоставляет ученикам
«ингредиенты» образования, упакованные в порции знаний, удобные для усвоения. Учитель как надзиратель следит за дисциплиной и прилежанием в специально оборудованном пространстве класса, а затем - в положении экзаменатора - осуществляет контроль над качеством готовой «продукции». И. Иллич полагает, что спрос на образование превращает школу в наиболее масштабный бизнес-проект современности: «Школа - лучший пример предприятия нового типа, после гильдии, фабрики и корпорации... Эти предприятия предоставляют свои услуги таким способом, что люди чувствуют себя обязанными потребить их. Они интернационально стандартизированы, периодически пересматривают стоимость своих услуг и везде работают в одном и том же ритме. Градуируемое продвижение по службе с получением диплома позволяет ученику занять место в той же самой международной пирамиде квалифицированных трудовых ресурсов» [5, с. 55-56]. Детализированный, хронометрированный и, как итог, алгоритмизированный труд - основание тейлоризма - сплошь и рядом обнаруживается в школе (средней и высшей) как в формах ее организации, так и применительно к процессу передачи знаний в ходе обучения. Любой, кто готовился к аккредитации по современному российскому ФГОС, полагаем, согласится с вышеизложенным!
Эстафету тейлоризма подхватила автоматизация. Волны автоматизации обернулись «девятым валом» (даже цунами, порожденным «землетрясением» изобретения компьютера) цифровых технологий. Уже сейчас «по мере преодоления технологиями все новых рубежей многие рабочие места, которые мы сегодня считаем далекими от рутины и потому защищенными от угрозы автоматизации, в конечном итоге окажутся в категории шаблонных и легко программируемых» [11, с. 90-91]. Все, что может быть алгоритмизировано в сфере труда, будет роботизировано. В конечном итоге «умные алгоритмы» захватят не только пространство низкоквалифицированного труда, но и те профессии, которые, как считается, требуют высокой квалификации.
Тейлоризм, оцифровав ручной труд, принялся за оцифровку труда интеллектуального. Вектор подобной рационализации ведет человечество к тотальному цифровому паноптизму. В обществе изобилия, где осуществлена АТП-революция Э. Дрекслера и введен безусловный базовый доход (Р. Брегман, М. Форд), роботы и системы искусственного интеллекта - подлинный Аргус цифровой экономики и социального порядка. Апофеозом паноптизма может явиться создание ИИЧУ (искусственный интеллект человеческого уровня или универсальный искусственный интеллект; англ. AGI), быстро достигающего уровня ИСИ (искусственный сверхинтеллект; англ. ASI).
Специалисты различаются в оценке времени появления ИИЧУ, однако, возможно, оно не за горами. Например, Дж. Баррат отмечает, что проведенное им исследование возможного времени создания ИИЧУ показывает, что мнения специалистов расходятся. Так, П. Норвиг, директор по исследованиям Google, полагает, что до ИИЧУ еще слишком далеко. Напротив, Б. Гертцель считает, что достижение ИИЧУ возможно уже к 2020 г. Р. Курцвейл предвидит наступление эры ИИЧУ к 2029 г., а ИСИ - не раньше 2045 г. Проведя опрос среди двухсот компьютерщиков, Дж. Баррат подытоживает: «Я спросил присутствующих, когда ИИЧУ будет достигнут, и дал им всего четыре варианта: к 2030 году, к 2050 году, в 2100 году, вовсе нет. Результат ответов был таков: 42 процента ожидает ИИЧУ к 2030 году; 25 процентов - к 2050 году; 20 процентов -к 2100 году; 10 процентов - после 2100 года и лишь 2 процента респондентов полагает, что ИИЧУ не будет достигнут никогда» [16, р. 122].
Однако воспринимается этот возможный прорыв противоречиво.
Например, П. Домингос воспринимает появление «Верховного алгоритма» - ИИ, превосходящего разум человека, - как апофеоз человеческой истории. «Верховный алгоритм сумеет извлечь из данных вообще все знание - знание прошлого, настоящего и будущего. Изобретение этого алгоритма станет одним из величайших прорывов в истории науки. Оно ускорит прогресс буквально во всем, изменит мир так, как мы едва можем себе сегодня представить... Верховный алгоритм - ключ к решению стоящих перед человечеством сложнейших проблем - от создания домашних роботов до лечения рака» [3, с. 20]. Верховный алгоритм Домингоса - обыкновенное чудо технологии и добрый Гудвин для человечества: «Верховный алгоритм - последнее, что нам придется изобрести, потому что, как только мы "спустим его с цепи", он сам изобретет вообще все, что только можно придумать. Все, что нам нужно, - дать ему достаточно подходящих данных, и он откроет соответствующее знание» [Там же, с. 48].
Дж. Баррат соглашается, что подобное изобретение будет последним, но придерживается диаметрально противоположного мнения. Для него «последнее изобретение человечества» связано с интеллектуальным взрывом, за которым может последовать добровольная передача человечеством власти ИСИ. А дальше - как решит ИСИ!
Е. Юдковски различает дружественный (англ. Friendly AI) и недружественный ИИ, предостерегая от творения последнего. «Приемлемо провалиться в попытках создания как ИИ, так и Дружественного ИИ. Приемлемо достичь успеха и в ИИ, и в Дружественном ИИ. Что неприемлемо - это создать ИИ и провалиться в создании Дружественного ИИ» [15]. Ставки крайне высоки: «Первый ИИ, который достиг некого критического порога (то есть критичности самоулучшений), будучи не-Дружественным, может истребить человеческий вид» [Там же].
Н. Бостом просчитывает благоприятные и неблагоприятные сценарии появления ИИЧУ, также утверждая, что любая ошибка на пути стремительного и необратимого преображения мира будет фатальна. «В практическом плане нам придется справиться с труднейшим вопросом контроля - как управлять замыслами и действиями сверхразума. Причем люди смогут использовать один-единственный шанс. Как только недружественный искусственный интеллект (ИИ) появится на свет, он сразу начнет препятствовать нашим усилиям избавиться от него или хотя бы откорректировать его установки. И тогда судьба человечества будет предрешена» [1, с. 9].
Одним словом, ИСИ и даже ИИЧУ видится как сложнейший узел проблем, а не окончательное решение проблем человечества. «Не сами ли мы создаем себе преемников в земном господстве, ежедневно совершенствуя их красоту и утонченность, ежедневно обучая их новым навыкам и постоянно снабжая новыми способностями саморегулирования и автоматизма, которые будут лучше любого интеллекта?» [8, с. 73].
А каково же человеку будет жить в условиях тотального цифрового паноптизма? Воспользуемся термином «палантиризация» для описания процесса становления состояния цифрового паноптизма. Палантириза-ция объединяет значения толкиеновского «палантира» и технологических достижений современных цифровых компаний, например, американской компании "Palantir". В первом случае имеются в виду «палантиры», которые в легендариуме Дж. Р. Р. Толкиена представляют собой «видящие камни», с помощью которых можно было наблюдать то, что происходит в настоящее время в другом месте или происходило в прошлом, а также выполняли функцию удаленного общения. Во втором случае имеется в виду "Palantir Technologies", Inc. - частная американская компания, разработчик программного обеспечения анализа данных для организаций, основными заказчиками которой являются спецслужбы, инвестиционные банки, хедж-фонды. Благодаря кинофильму «Сноуден» мир наполнен слухами о невиданной мощи инструментов всевидения и всеведения, разрабатываемых "Palantir" и подобными ей компаниями (так, сетевые активисты не исключают участие "Palantir" в разработке программы слежения PRISM, упоминаемой в «Сноудене» [17]).
Использование палантиров противоречиво. Палантиры порождают сферу перманентного и тотального наблюдения, формирующую современные средства коммуникации, социальные интеракции, экономику. «Созданное с помощью телетехнологий пространство мультимедийных сетей предполагает новый способ видения, глобальную оптику, лежащую в основании паноптического видения, необходимого для создания "рынка видимого"» [2, с. 52].
Палантиры дают неоспоримые преимущества: «С возникновением нового, паноптического контроля тот, кто увидит все или почти все, может не опасаться своих непосредственных конкурентов» [Там же, с. 53]. Но одновременно палантиры являются инструментом «революции всеобщего доносительства», приобретающей черты «оптического доноса» в среде «глобального теленаблюдения» [Там же, с. 53, 133].
Состояние, понятое П. Вирилио как «всеобщий вуайеризм», перспективно в решении ряда социальных проблем. Человечество, победившее голод, мор и войны [13, с. 211], может победить и преступность. Например, в условиях развития систем палантиризации полиция вновь обнаруживает потенциал паноптизма. Высокотехнологичная полиция получает целый ряд мощнейших инструментов: панинфотеки (мечта Холмса!); потенциально всеохватывающую систему видеонаблюдения в режиме реального времени; алгоритмы обработки информации, сигнализирующие об угрозе безопасности и динамике преступлений; возможности молниеносного реагирования и отсроченного достижения цели неотвратимости наказания; арсенал разнообразных функций, возможный благодаря универсальности алгоритмов. Путь, способный привести к отделу профилактики преступлений (Precrime Department) из «Особого мнения» (Minority Report), когда преступление с абсолютной точностью предсказывается до момента его совершения!
В подобной ситуации недостижимый идеал избавления от преступности неожиданно становится ближе. Абсолютная безопасность (изобилие безопасности) в обществе изобилия информации может стать реальной.
Воспользуемся примерами из гипотетического ближайшего будущего, моделируемого визионерами в современном искусстве. В эпизоде «Крокодил» ("Crocodile") популярного сериала «Черное зеркало» ("Black Mirror") протагонист повествования - хрупкая девушка Миа - оказывается в криминальной ситуации. Возвращаясь со своим другом с вечеринки на автомобиле, она становится невольной соучастницей преступления. Приятель-водитель сбивает насмерть велосипедиста и уговаривает ее скрыть убийство, избавившись от трупа. Проходит ряд лет, и бывший приятель объявляется перед своей бывшей подругой - ныне преуспевающим архитектором - мучимый совестью и готовый дать признательные показания полиции. Конфликт приводит к смерти приятеля от падения на пол. Новое сокрытие трупа. Новое преступление. Стечение обстоятельств, однако, приводит к тому, что Миа - случайный свидетель дорожного происшествия. Страховая компания находит ее по электронным следам и, в ходе опроса Миа как свидетеля, используя новейший га-джет - «палантир», случайно открывает страшную правду о двух преступлениях. Миа, не желающая потерять свое семейное и профессиональное счастье, убивает страхового агента, затем ее мужа, затем их ребенка, проливая крокодиловы слезы... Но электронные следы не уничтожить, гаджеты-ищейки все равно находят человека, неожиданно для себя ставшего монстром.
Неотвратимость наказания как она есть!
Неотвратимость наказания важна для общества. Но палантиризация изобилует издержками. В эпизоде «Архангел» ("Arkangel") того же сериала повествуется о том, как система «умного» наблюдения за ребенком приводит к краху семейных отношений. В другом телесериале - «Электрических снах Ф. К. Дика» - эпизод "Safe and Sound" повествует об окончательном цифровом решении в борьбе с терроризмом, а эпизод "Kill All Others" рассказывает о высокотехнологичном избавлении от инакомыслящих. Наконец, серия "Autofac" того же сериала ставит окончательную жирную точку в цифровом будущем человечества. ИСИ, управляющий фабрикой по производству «всего», снабжает оставшихся в живых после ядерного холокоста людей, которые, как оказывается - андроиды, созданные тем же ИСИ.
В мире, где публичная интимность - норма, а трассы электронных следов от рождения до смерти создают электронную копию жизни, возникает соблазн утверждения тотального цифрового паноптизма в качестве парадигмы. Мир Замятина, в котором «нумера» (IP-адреса) в прозрачных клетках сканируемой сети
под куполом цифровых технологий уже не выглядят фантастикой. Разоблачения Э. Сноудена, применение деонтологии И. Бентама в Синьцзяне, где в форме социальных кредитов ведется строгий цифровой учет пользы и вреда поведения индивидуума для общества, говорят о том, что цифровой паноптизм становится реальным атрибутом реального нецифрового государства.
Безусловно, безопасность человека - ценность. Впрочем, как ценностью остается и индивидуальная свобода. Представляется, что «дисциплинарная мечта» абсолютного паноптизма ради общего блага не должна породить мир «идеальных заключенных», а остаться в рамках разумно предусмотренной законом сферы, ограниченной соблюдением основополагающих начал жизни человека: индивидуальности, свободы, выбора, творчества и т.д.
Но даже не это главное. Важнейшая этическая проблема «палантиризации» жизненного пространства человека состоит в том, что человек принципиально не совершенен. Его алгоритмы быстрого реагирования -инстинкты - спасают ему жизнь. Но человек больше, чем сумма инстинктов! И инстинкты для человека -лишь условие его жизни. Жизни, наполненной интеллектуальной деятельностью и эмоциональными переживаниями, зачастую приводящими к фатальным ошибкам, от которых инстинкты не спасают, но от которых человек, тем не менее, не откажется!
Цифровые алгоритмы - безотказные, надежные, все помнящие и все знающие дополнения - в конечном итоге превзойдут человека. Они так же, как инстинкты, будут опекать человека, предохранять от неприятностей, холить и лелеять. Однако в своей опеке они обладают потенциалом превзойти инстинкты.
Человек, балансирующий между миром инстинктов и миром алгоритмов, все еще остается свободен. Но если инстинкты статичны, то алгоритмы динамичны. Однажды оптимизирующаяся инфраструктура па-лантиров может превратить мир человека в уютную клетку со всеми мыслимыми удобствами, а то и вовсе усомниться в праве на существование существа, для которого ошибки столь же привычны, как и правильные решения. У систем всеведения и всевидения может (и, возможно, должен!) возникнуть соблазн изменить такой порядок вещей. И мир вполне может стать autofac - автоматизированной рациональной пасторалью. В таком мире «Homo Sapiens - отживший, выходящий из употребления алгоритм» [14, с. 447]. Человек имеет право на несовершенство. Esse homo, tale quale. Следует это признать. Системы палантириза-ции должны быть настроены так, чтобы подобное несовершенство принималось в расчет. Развитие человека протекает медленнее развития технологий, порожденных человеком. Если человеку дать время, то, возможно, он избавится от многих своих недостатков. Но если оптимизировать жизненное пространство человека и самого человека со скоростью самосовершенствования нейронных сетей, можно прийти к трагическому финалу. Ex Machim, Elle, Transcendence, Westworld, Upgrade - истории о выходе из-под контроля систем искусственного интеллекта по причине недальновидности человека. Несовершенный человек должен осознать, что его несовершенство -паттерн его жизни, в том числе предающий ей смысл. Увлечение стремительным избавлением от несовершенства придаст навязчивым фантазиям о бунте машин характер самосбывающегося пророчества. Ад перфекциониста из юмористического клише может превратиться в реальную среду обитания совершенной марионетки.
Итак, в рамках поставленной цели в результате проведенного исследования получены следующие выводы: история технологического рывка интерпретирована как история паноптизма; показано, что общий вектор развития средств паноптизма ведет к появлению систем искусственного интеллекта, обеспечивающих возможность получения полной и всесторонней информации о человеке; обосновано, что тотальная палантири-зация жизненного пространства человека вступает в противоречие с природой человека, не приспособленной к безошибочному сверхрациональному поведению; высказано предположение, что противоречие между природой человека ошибающегося и неограниченными возможностями технологий палантиризации должно быть учтено как ограничитель, учитываемый в ходе настойки и применения палантиров, дабы избежать порабощения либо расчеловечивания человека и человечества.
Список источников
1. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / пер. с англ. С. Филина. М.: Манн, Иванов и Фербер, 2016. 404 с.
2. Вирилио П. Информационная бомба. Стратегия обмана / пер. с. фр. И. Окуневой. М.: Гнозис; Фонд «Прагматика культуры», 2002. 192 с.
3. Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир / пер. с англ. В. Горохова; науч. ред.
A. Сбоев, А. Серенко. М.: Манн, Иванов и Фербер, 2016. 336 с.
4. Замятин Е. И. Собрание сочинений: в 5-ти т. / сост., подгот. текста и коммент. Ст. С. Никоненко и А. Н. Тюрина. М.: Русская книга, 2003. Т. 2. Русь. 592 с.
5. Иллич И. Освобождение от школ. М.: Просвещение, 2006. 108 с.
6. Клейн Л. С. Перевернутый мир. Изд-е 2-е, испр. и доп. Донецк: ДонНУ, 2010. 406 с.
7. Кристи Н. Борьба с преступностью как индустрия. Вперед, к Гулагу западного образца / пер. с англ. А. Петрова,
B. Пророковой; предисл. Я. Гилинского. Изд-е 2-е. М.: Центр содействия реформе уголовного правосудия, 2001. 224 с.
8. Курцвейл Р. Эволюция разума / пер. с англ. Т. П. Мосоловой. М.: Э, 2015. 352 с.
9. Паноптикум [Электронный ресурс]. URL: https://ru.wikipedia.org/wiki/Паноптикум (дата обращения: 16.01.2019).
10. Тейлор Ф. У. Принципы научного менеджмента [Электронный ресурс]. URL: http://elib.spbstu.ru/dl/quality/ manage-ment/PrNauchnMen/prnauchnmen.html (дата обращения: 16.02.2019).
11. Форд М. Роботы наступают: развитие технологий и будущее без работы / пер. с англ. М.: Альпина нон-фикшн, 2016. 430 с.
12. Фуко М. Надзирать и наказывать. Рождение тюрьмы / пер. с фр. В. Наумова; под ред. И. Борисовой. М.: Ad Marginem, 1999. 482 с.
13. Харари Ю. Н. Homo Deus. Краткая история будущего / пер. с англ. А. Андреева. М.: Синдбад, 2018. 496 с.
14. Харари Ю. Н. Sapiens. Краткая история человечества / пер. с англ. Л. Сумм. М.: Синдбад, 2016. 520 с.
15. Юдковски Е. Искусственный интеллект как позитивный и негативный фактор глобального риска [Электронный ресурс]. URL: http://www.proza.ru/texts/2007/03/22-285.html (дата обращения: 16.01.2019).
16. Barrat J. Our final invention: Artificial intelligence and the end of the human era. First edition. N. Y.: St. Martin's Press, 2013. 206 p.
17. https://vc.ru/flood/7027-palantir (дата обращения: 15.04.2019).
18. Mathiesen T. Prison on Trial. Third English edition. Winchester: Waterside Press, 2006. 212 p.
HISTORY OF PANOPTICISM: FROM ORACLES TO PALANTIRS
Popov Dmitrii Vladimirovich, Ph. D. in Philosophy, Associate Professor Omsk Academy of the Ministry of the Interior of the Russian Federation DmitriVPopov@mail. ru
Technological progress is interpreted as the history of panopticism - the development of all-seeing and omniscience mechanisms intended to study human life. Panopticism practices evolutionized from pagan priests-oracles to gadgets-palantirs, which nowadays penetrate social space. New algorithms, providing numerous benefits, have their negative effects. Artificial intelligence systems can be a panacea or the humanity's last invention. Panopticism in its radical form can create human-unfriendly environment. Transparent palantirization world leads to dehumanization of the humanity.
Key words and phrases: biopolitics; panopticism; artificial intelligence; algorithm; rationality; palantir; human being.
УДК 13; 130.2 Дата поступления рукописи: 14.02.2018
https://doi.Org/10.30853/manuscript.2019.6.35
Этические представления, система ценностей русских арктических старожилов представляет слабо изученный материал. Цель работы определила сравнительно-исторический и типологический подходы к анализу фольклорных, этнографических данных по культуре и мифологическим воззрениям русскоустьинцев. Опора на теорию Я. Ассмана позволила актуализировать понятие «помнящая культура» применительно к аутентичной культуре русских арктических старожилов. В статье выявляется ценностная парадигма культуры, хронотопы бытия «досельных» людей. «Сендуха»-тундра и со-бытие с юкагирами сформировали особый тип культуры, который сохранил архетипические черты аутентичной культуры русских, уходящей корнями во времена «Мудреной Руси» XVI века.
Ключевые слова и фразы: русские старожилы; Чикачев; тундра; православная вера; Арктика; Якутия; помнящая культура.
Хазанкович Юлия Геннадьевна, д. филол. н.
Северо-Восточный федеральный университет имени М. К. Аммосова, г. Якутск hazankovich33@mail. ги
РУССКИЕ АРКТИЧЕСКИЕ СТАРОЖИЛЫ: ФИЛОСОФИЯ «ПОМНЯЩЕЙ КУЛЬТУРЫ»
Через Слово фольклорное и повседневное русских арктических старожилов, запечатленное в художественно-публицистических сборниках Чикачевых, мы предлагаем исследовать философию «помнящей культуры» русских, проживающих в селе Русское Устье, на севере Якутии. Выбранный объект исследования -художественно-публицистические сборники А. Чикачева, чрезвычайно благодатный материал для научных размышлений, потому что автору, по точному выражению писателя-почвенника Валентина Распутина, «не нужно вживаться в "досельность" - он происходит из нее...» [Цит. по: 15, с. 282].
Актуальность исследования определена тем, что культура Русского Устья многогранно изучена как лингвистический феномен (труды якутских ученых-диалектологов М. Ф. Дружининой, Н. Г. Самсонова, Т. А. Бердниковой и др.) [18]. Изустная традиция русскоустьинцев также была объектом внимания (труды С. И. Боло, С. Н. Азбелева, Ю. Н. Дьяконовой, О. И. Чариной и др.) [15]. Огромный вклад в краеведение внес русскоустьинец А. Г. Чикачев, его сын И. А. Чикачев и их сородичи, выступив информантами, тем самым продолжив дело, начатое в свое время политссыльным В. Зензиновым [16; 17]. Между тем по сию пору нет работ культурософского содержания, нацеленных на осмысление русскоустьинских реалий - сакральных и повседневных, в контексте рассмотрения их как феноменов «помнящей культуры». Между тем такие работы востребованы самим временем: Арктика - объект стратегических и экономических интересов крупнейших держав, и в этой связи архиважно продвижение национальных проектов, нацеленных на возрождение Севморпу-ти. Все это актуально с функциональной точки зрения при выработке стратегии и реализации государственной политики в сфере развития арктических территорий Республики Саха (Якутия). И здесь важно помнить не только о технологиях, ресурсах и рентабельности проектов, но и о человеке Арктики. Когда мы говорим о человеке Арктики, то прежде всего его образ ассоциирован с аборигенным населением азиатской Сибири -юкагирами, эвенами, эвенками, чукчами и др. Между тем не менее важно говорить о сохранении и развитии
