CC BY-NC
51Алгоритмы поисковых машин и социальных сетей как фактор становления цифровой публичной сферы
Косоруков Артем Андреевич
кандидат политических наук
старший преподаватель, Московский государственный университет им. МВ. Ломоносова (МГУ) 119992, Россия, г. Москва, Ломоносовский проспект, 27, корп. 4, ауд. А814
Статья из рубрики "ПОЛИТИЧЕСКИЕ КОММУНИКАЦИИ"
Аннотация.
Предметом исследования в статье выступают алгоритмы поисковых машин и социальных сетей, лежащих в основе становления коммуникационного пространства цифровой публичной сферы. Важным элементом предмета исследования выступает практика применения алгоритмов для персонализации потоков поисковой и новостной информации под профиль конкретного пользователя, зависящая от универсальных информационных платформ (Google, Facebook, Twitter и др.), которые при помощи скрытых алгоритмических механизмов позволяют осуществлять политико-административный и корпоративный контроль в сети Интернет. Особое внимание в статье уделяется манипулятивному потенциалу алгоритмов, интегрированных в информационные платформы новых медиа, влияющих на социальные взаимодействия между пользователями и их политические предпочтения. Методология исследования включает использование исторического и аналитического методов, позволяющие раскрыть особенности применения алгоритмов в коммуникационном пространстве цифровой публичной сферы. Новизна исследования заключается в том, что на основе изучения современных источников исследованы инновационные практики применения алгоритмов, включая генерирование естественного языка, практику «робо-журналистики» и внедрения ботов для сканирования и производства информационных сообщений, воздействия на результаты политических выборов и социальные взаимодействия.
Ключевые слова: алгоритм, поисковая машина, социальная сеть, цифровая публичная сфера, Интернет, персонализация, средства массовой информации, коммуникационное пространство, бот, дискриминация
DOI:
10.7256/2454-0684.2018.2.24734
Дата направления в редакцию:
15-11-2017
Дата рецензирования:
18-11-2017
Введение
В начале XXI века набирающая обороты цифровая революция позволила с помощью масштабного внедрения в общественную жизнь компьютеров и сетевых коммуникаций сделать информацию более доступной для распространения, позволяя все большему количеству индивидов участвовать в политической, экономической и культурной сферах жизни общества. В условиях становления цифрового общества индивид стал выступать не только потребителем, но и производителем информационного контента, преодолевая тем самым гегемонию традиционных средств массовой информации на производство и распространение информации. На современном этапе на смену публичной сфере, созданной во многом благодаря традиционным средствам массовой информации, пришла цифровая публичная сфера (ЦПС), выступающая пространством, на информационных платформах которого государственные, корпоративные и общественные акторы ведут полноценные дискуссии и обмениваются идеями, формируя повестку дня и предлагая те или иные варианты решения актуализированных проблем. Цифровизация всей системы телекоммуникаций, а также масштабное развитие сети Интернет и ее проникновение во все сферы общественной жизни определяет не только глубокую трансформацию традиционной публичной сферы на основе цифровых технологий, но и ставит под сомнение возможность сохранения широкого и плюралистического пространства коммуникации между ключевыми акторами публичной сферы в условиях нарастания новых форм политико-административного и корпоративного контроля.
Благодаря многочисленным информационным платформам в сети Интернет ведущие телеканалы, радиостанции и газеты перестают быть ключевыми каналами производства и распространения массовой информации. Поисковые машины и построенные на их платформе сетевые агрегаторы СМИ (Google News, Weibo News, Yandex News), а также социальные сети и их новостные сервисы (Facebook, Вконтакте, Twitter и др.) играют все более заметную роль в распространении массовой информации с помощью алгоритмических механизмов агрегирования и структурирования информации, дополняемых инструментарием персонализации информации под профиль конкретного пользователя. Поисковые машины и социальные сети позволяют пользователям находить и распространять новостную информацию, выступая инструментами актуализации широкого спектра общественных проблем. Более того, автоматизированные механизмы, лежащие в основе работы социальных сетей, включая алгоритмы машинного обучения, оказывают все более активное влияние на формирование и структурирование медиапространства публичной сферы.
Литературный обзор
Интерес к проблематике алгоритмов и особенностей их внедрения в различные информационные платформы в сети Интернет, включая поисковые машины и социальные сети, нашел свое отражение в значительном количестве работ зарубежных ученых. Так, теоретическое измерение алгоритмов как инструмента структурирования и информационного контроля публичной сферы представлено в работе Рид Л. и Бойд Д.
■Ш, особенности применения алгоритмов в сфере государственного управления и электронной торговли рассмотрены в работе Мусиани Ф. ^ Отдельно следует выделить группу зарубежных исследований, посвященных процессам становления цифровой публичной сферы: в частности, в статье Андраде П. ^ рассматривается социологическая
онтология цифровой публичной сферы, в докладе Данливи П. и Маргеттс Х. ^ подробно анализируются особенности внедрения цифровых технологий в сферу публичного
управления, а в статье Досэ Ф. ^ ставится проблема публичной ответственности Google и Яndex при формировании современного медийного пространства, а также особенности государственного регулирования медийного пространства и индексирующих его информационные потоки алгоритмов. Однако анализ зарубежной литературы по данной тематике показывает, что несмотря на множество научных работ, практически отсутствуют работы, посвященные влиянию алгоритмов информационных платформ на развитие коммуникационного пространства цифровой публичной сферы, все более смещающейся в пространство сети Интернет.
В российской литературе также нашла свое отражение тематика алгоритмов информационных платформ и цифрового измерения современной публичной сферы. Несмотря на то, что ряд работ затрагивают проблематику алгоритмов новых медиа как фактора трансформации современной журналистики, включая внедрение
автоматизированных редакторов в медиапространство (Амзин А.А. и др.)-6!, а также касаются вопросов конкуренции корпоративных разработчиков алгоритмов Яndex и Google в условиях антимонопольного регулирования (Бабицкий А., Луганская Д.,
Сурганова Е.) t^, исследовательский акцент большинства работ смещен в сторону изучения коммуникационного пространства современной публичной сферы. Так, работа
Ярской-Смирновой Е.Р. и Романова П.В.-8! посвящена процессам становления цифровой публичной сферы как наиболее открытого и свободного от манипуляций пространства
для политических дискуссий, статья Абрамовой Е.В. I9 поднимает проблему множественности публичных сфер в условиях развития активистских практик и
технологий новых медиа, работы Жолудя Р.В. и Дзялошинского И .м.[10][11] рассматривают вопросы трансформации публичной и частной сфер в коммуникационном пространстве новых медиа.
Цифровая публичная сфера
В конце XX - начале XXI вв. цифровые технологии стали основой возникновения цифровой публичной сферы во многом благодаря распространению новых средств массовой информации, более ориентированных на массового потребителя в сети Интернет, чем традиционные СМИ в пространстве буржуазной публичной сферы Хабермаса li^i. Более того, в рамках техно-либертарианства (Барлоу Дж., Бенклер Й., Далберг Л.) Г13"1Г141Г15"1 цифровое пространство новых СМИ выступило способом решения проблем сжатия и монополизации коммуникационного пространства публичной сферы со стороны политико-административной власти и корпоративного капитала, вызванных односторонней направленностью наиболее влиятельных теле-, радио- и печатных СМИ, доминировавших на протяжении большей части XX века. При этом даже критики концепции буржуазной публичной сферы Хабермаса, идеализировавшей роль СМИ и публичных форумов в политической жизни буржуазно-демократических государств, выражали оптимизм в отношении коммуникационных возможностей сети Интернет как основы цифровой публичной сферы, снижающей ее зависимость от профессиональных посредников - СМИ, действующих в пространстве интересов ключевых государственных и корпоративных субъектов.
Несмотря на это, ЦПС оказалась не менее чувствительной и доступной для контроля, чем традиционные СМИ. Практика онлайн-наблюдения, цензурирования и государственного регулирования как размещаемого в сети Интернет контента, так и поведения отдельных
пользователей оказалась еще более доступной и менее затратной, чем в предшествующие эпохи, во многом благодаря переходу традиционных медиа в пространство ЦПС. Начиная с момента своего возникновения в середине 1990-х гг. ЦПС как пространство деятельности новых СМИ, производства и потребления информационных продуктов и услуг, стала одним из объектов государственной информационной политики и начала активно подвергаться правовому регулированию как в содержательном,так и в технологическом аспектах.
Вместе с развитием пользовательского инструментария в сети Интернет, позволяющего настраивать тот или иной Интернет-ресурс под конкретного потребителя, благодаря использованию машинного обучения, предлагающих каждому пользователю на основе анализа его поведения и профиля в сети наиболее подходящие для него информационные продукты и услуги, а также вследствие повышения адресного характера политической и коммерческой рекламы стала все более очевидна поляризация публичной сферы и ее разделение на относительно автономные группы пользователей. Несмотря на то, что современная цифровая эпоха преодолевает рамки хабермасовского идеала буржуазной публичной сферы, способствуя открытому распространению информации и укоренению плюралистического дискурса в публичной сфере, двустороння коммуникация между гражданами и государством все также продолжает зависеть от крупных корпораций (Google, Facebook, Yandex, Вконтакте, Baido, Qzone), создающих и осуществляющих контроль за универсальными информационными платформами, но не обладающих при этом необходимым уровнем публичной подотчетности.
Несмотря на декларируемые многими теоретиками техно-либертарианства демократические идеалы ЦПС, развитие движений открытого кода и открытых данных
JiÊl, глобальный Интернет и наиболее распространенные в мире цифровые продукты и услуги функционируют в пространстве достаточно монополизированного рынка, структура которого отражает политические и корпоративные интересы его наиболее влиятельных участников. Более того, по мере становления цифровой публичной сферы на смену редакционной политике традиционных СМИ, выступавших одним из ключевых фильтров коммуникационного пространства в XX веке, приходят новые автоматизированные механизмы работы с массовой информацией, связанные с применением алгоритмов.
Алгоритмы поисковых машин и социальных сетей
Интернет-пространство цифровой публичной сферы, в отличие от пространства традиционной публичной сферы, управляется посредством алгоритмов - более скрытых механизмов, интегрированных во множество информационных платформ и в настоящее время имеющих одно из ключевых значений для восприятия массовой информации со стороны потребителей. Они формируют порядок структурирования информации в поисковых машинах (Google, Baido, Yandex) и социальных сетях (Facebook, Twitter, Вконтакте), которые становятся одним из наиболее востребованных информационных источников, пространством, на публичных площадках которого люди могут обсуждать волнующие их вопросы. Алгоритмы позволяют структурировать источники массовой информации по тем или иным критериям, выделяя в них главные источники, актуальные тренды, а также те, которые составляют «подборку» конкретного пользователя на основе анализа его «подписок», «групп» и «сообществ», репостов, лайков и других показателей поведения в сети Интернет. Кроме того, алгоритмы ранжирования на сайтах онлайн-магазинов товаров и услуг (Amazon.com, Alibaba.com), онлайн-магазинов приложений
(App Store, Play.google.com), видеохостингов (Youtube.com, Rutube.com), онлайн-порталов газет (NYTimes.com, Rg.ru) предлагают пользователям в виде автоматической подборки те ресурсы, которыми они интересовались ранее. Алгоритмы лежат в основе управления многочисленными потоками информации, от которых зависит информационно-коммуникационная составляющая общественной и частной жизни. И хотя термин «алгоритм» изначально имел довольно точное техническое значение, представляя собой пошаговый набор вычислительных или управленческих операций, которые совершаются компьютерами или машинами в автоматическом режиме для получения заранее просчитанного результата, то в политико-управленческом контексте «алгоритм» выходит за рамки своего технического значения и трактуется как программный продукт, созданный техническими специалистами по заданию государственных или корпоративных субъектов и направленный на реализацию их целей.
Несмотря на повышенный интерес к алгоритмам как способу структурирования цифровой публичной сферы, они несут в себе и новые общественные вызовы. Алгоритмы незаметны и недоступны для редактирования большинству пользователей, они подвержены частым обновлениям и зависят от доступных для структурирования данных, которые, в свою очередь, могут быть неточными или целенаправленно искаженными. Алгоритмические технологии являются собственностью компаний (алгоритм Hummingbird принадлежит Google, а алгоритм Королёв - Яndex), которые стремятся сделать их наименее заметными и полезными для потребителя, инвестируют в создание положительного имиджа алгоритма как одного из наиболее интеллектуальных продуктов компании, работают над повышением уровня его защищенности от киберугроз как по конкурентным причинам, так и в целях минимизации внешних манипуляций с заложенными в алгоритм кодами. Так как большинство крупных информационных систем работает на основе алгоритмических технологий, от их работы зависит то, как будет выглядеть результат поискового запроса и как будут выстраиваться взаимоотношения между пользователями или их группами в цифровой публичной сфере. Исследователи, изучающие влияние алгоритмов на ЦПС обеспокоены не только их технической закрытостью от публичного контроля, но и постепенной конвергенцией на их основе контента ключевых СМИ. Эти проблемы связаны с более широким беспокойством о том, как алгоритмы могут использоваться для изменения и формирования общественного мнения по мере цифровизации общества и перехода все больших форм политической активности в цифровое пространство.
В современную эпоху алгоритмы играют роль автоматизированных редакторов цифровой публичной сферы, определяющих видимость и приоритетность того или иного контента для пользователя как на основе своих внутренних критериев, так и на основе предпочтений и действий самих пользователей в сети Интернет. Алгоритмы становятся неотъемлемой частью медиа-индустрии, в результате чего автоматизированные СМИ и продуцируемый ими контент перестают выполнять функцию социальной саморефлексии и выступать независимым посредником между властью и обществом, определяющим значимость и релевантность новостных сообщений в отношении той или иной целевой аудитории. Более того, алгоритмы и генераторы естественного языка все чаще используются для написания новостей - создания человекоподобных историй с помощью кода для обработки данных и конструирования текста. Яndex, Facebook, The Washington Post, Associated Press и Forbes используют «робо-журналистов», алгоритмы которых предназначены для создания новостных сообщений по таким востребованным на медиа-рынке темам как финансы и спорт. Это связано с увеличением спроса на новости, появившиеся в результате использования алгоритмических средств массовой
информации, а также с развитием медиа-индустрии, которая оценивает количество переходов на Интернет-страницы, а не их содержание. Алгоритмы размывают границу между журналистским и рекламным контентом, поскольку рекламные платформы (Hootsuite, Outbrain, Google + , Facebook (Ads) др.) размещают на страницах цифровых СМИ свои ссылки в виде рекомендуемого контента. Это в немалой степени способствует практике журналистского кликбейта, представляющего собой распространение на Интернет-страницах СМИ ссылок-приманок, целью которых является не раскрытие сути информационного повода, описанного в заголовке ссылки, а получение дохода от
перехода на Интернет-страницы с рекламой J61. В результате, статистические инструменты оценки таких данных как количество переходов на страницу, количество лайков и репостов, изменили современную журналистику и методы оценки журналистского контента, сделав их более зависимыми от рынка рекламы.
В результате распространения алгоритмов стало возможным масштабное внедрение ботов как автоматизированных программных средств сканирования контента и производства сообщений в цифровой среде. Боты становятся неотъемлемым инструментом коммуникации в сети Интернет, копирующими сами себя и использующимися для создания сообщений по различной тематике, включая новостные сообщения, в рамках заданных параметров и продвижения их на основных информационных платформах (так, объем рынка чат-ботов стремительно увеличивается и может достичь 2021 г. 3,1 млрд долларов по сравнению с 703,3 млн долларов в 2016
году) J171. Адаптируясь к алгоритмам, структурирующим информационные сообщения в сети Интернет по ключевым трендам и по степени их приоритетности для пользователя, боты могут использоваться для повышения заметности или значимости того или иного сообщения в трендах путем минимизации «шума» и упрощения для заинтересованных пользователей поиска релевантной информации, производства сообщений, повышающих доверие к источнику информации. Практика использования ботов затрагивает и такой вопрос как увеличение количества автоматизированных подписчиков того или иного политика или политической партии в социальных сетях. Так как алгоритмы социальных сетей учитывают количество подписчиков и их активность на странице пользователя для продвижения ее в трендах, то увеличение количества ботов-подписчиков позволяет во многих случаях существенно популяризировать страницу. В результате, боты повышают приоритетность попадания страницы из социальной сети в верхние строчки результатов поиска.
Алгоритмы могут использоваться для воздействия на результаты политических выборов. Так, на промежуточных выборах 2010 г. в США компания Facebook провела эксперимент со структурированием потока сообщений, продемонстрировав в «Историях» пользователей информацию о том, кто из их списка друзей уже принял участие в голосовании, тем самым усиливая их мотивацию принять участие в выборах. При этом алгоритмы не рекламировали ту или иную политическую партию и не агитировали за того или иного кандидата, они использовали уже сформировавшиеся политические установки в отношении участия в выборах и предпочтения в отношении партий или кандидатов. В результате, около 340 тысяч пользователей Facebook из контрольной группы в 61 млн. пользователей изменили свое решение и приняли участие в промежуточных выборах
Алгоритмы Facebook могут также дифференцировать поток сообщений в «Историях» пользователей, повышая или понижая негативные и позитивные сообщения о партии или кандидате на основе анализа сетевых профилей пользователей, в частности, их политических предпочтений, а также призывая сторонников одной политической партии
принять участие в выборах и оставляя без внимания сторонников других политических партий. Более того, исследования Facebook продемонстрировали, что объединение пользователей в группы отражает существующую политическую поляризацию в обществе, способствует внутригрупповому выравниванию и закреплению политических
взглядов Ü^I. При этом основой подобного выравнивания или усреднения взглядов выступает практика обращения за информацией к одним и тем же средствам массовой информации, что приводит к групповой самоизоляции пользователей в цифровом пространстве, повышающей возможность манипулирования их политическими взглядами.
Следует учитывать, что алгоритмы поисковых машин подстраиваются под особенности социальных взаимодействий, сложившихся как на уровне всего общества, так и между его группами и отдельными пользователями, что, в свою очередь, оказывает обратное влияние на логику развития алгоритмов. В частности, алгоритмы анализируют поисковые запросы, взаимодействие на платформах социальных сетей и видео-хостингов и на их основе настраивают свою работу под профиль конкретного пользователя. В итоге, вне зависимости от намерения провайдера поисковые запросы поддерживают постоянные циклы обратной связи, с помощью которых алгоритмы обобщают субъективные представления пользователей о том или ином объекте или явлении и воспроизводят их в результатах последующих поисков. В процессе изучения алгоритмов, заложенных в основу работы поисковой машины Google в США, была обнаружена значительная дискриминация пользователей с именами, распространенными в афроамериканской
общине I201. Пользователям, чьи аккаунты были зарегистрированы с использованием данных имен, чаще выдавались в результатах поиска информационные ссылки, касающиеся практики правонарушений и работы правоохранительной системы государства. Это было вызвано тем, что алгоритмы, поисковой машины Google автоматически анализировали контент социальных сетей и видео-хостингов, а также запоминали поисковые запросы, поступающие от американских пользователей, которые, как выяснилось, часто упоминали в одном поисковом запросе информацию о правонарушениях и распространенные в афроамериканской общине имена. В результате, поисковая машина Google на уровне алгоритмов отражала существующие в обществе расовые стереотипы.
Следует отметить, что алгоритмы и данные, с которыми они работают, могут способствовать воспроизводству дискриминации в отношении различных групп населения. Так, во многих странах мира подвергаются справедливой критике алгоритмы распознавания речи и анализа текстовых сообщений, разработанные на основе наиболее распространенного в стране диалекта языка. Исследование О'Коннора Б. продемонстрировало, что алгоритмы крупнейших социальных сетей Facebook и Twitter не способны распознавать диалекты английского языка, сложившиеся в многочисленных этнических общинах в США, так как создаются на основе анализа среднезападного американского диалекта английского языка. Так, алгоритм Twitter оказался не в состоянии распознать афроамериканский и латиноамериканский диалекты английского языка, при этом в отдельных случаях алгоритмы начинали распознавать данные диалекты с помощью алгоритмов распознавания испанского и других иностранных языков. Алгоритмы также оказались практически бессильными в процессе определения значения и тональности текста сообщений в Facebook, написанных при помощи этнических диалектов английского языка i^U.
Заключение
В заключении следует отметить, что алгоритмы поисковых машин и социальных сетей
выступают не только значимым фактором становления цифровой публичной сферы, но и переносят в цифровое пространство многочисленные проблемы и противоречия, сложившиеся еще в рамках традиционной публичной сферы и связанные со стремлением установить различные формы политико-административного и корпоративного контроля над коммуникационным пространством. Современные алгоритмы становятся достаточно сложными и малозаметными инструментами, позволяющими их разработчикам автоматически выстраивать цифровые границы и ограничивать доступ к информации без необходимости прямой блокировки пользователей или информационных платформ в сети Интернет. Более того, алгоритмы создают новые границы внутри цифровой публичной сферы, которые отражают не только политические взгляды, предпочтения в выборе информационных источников и языковые группы пользователей, но и особенности государственного регулирования национального сегмента Интернета и фильтрации доступа к глобальному Интернету. Все это накладывает свой отпечаток на логику поведения рядовых пользователей или участников цифровой публичной сферы, сторонников и разработчиков открытого программного обеспечения, которые стремятся преодолевать или адаптироваться к новым цифровым ограничениям. В этой связи необходимо подчеркнуть, что обеспечение простого доступа к сети Интернет широким слоям населения явно недостаточно для развития цифровой публичной сферы, борьбы с различными формами дискриминации и информационным неравенством. Необходима более полная реализация демократического потенциала цифрового общества в публичной сфере, учитывающая не только сложную систему законодательных ограничений со стороны государства, но и гарантирующая защиту цифровых прав пользователей, а также поддержание публичных политических практик.
Библиография
1. Reed L., Boyd D. Who Controls the Public Sphere in an Era of Algorithms? // Data&Society, 05.13.2016 //
https ://datasociety.net/pubs/ap/QuestionsAssumptions_background-primer_2016.pdf (дата обращения: 14.11.2017).
2. Musiani F. Governance by algorithms // Internet Policy Review, 2013.-№ 3 // https ://policyreview.info/articles/analysis/governance-algorithms (дата обращения: 14.11.2017).
3. Andrade P. Sociological ontology of the digital public sphere: the case of Web 2.0/3.0 // Comunicagao e Sociedade, 2013.-№ 23.-P. 202-216.
4. Dunleavy P., Margetts H. The second wave of digital era governance // American Political Science Association Conference, 4 September 2010, Washington DC, USA // http://eprints.lse.ac.uk/27684/ (дата обращения: 14.11.2017).
5. Досэ Ф. Политические конфликты вокруг интернетa в России: кейс инструмента «Яндекс.Новости» // Laboratorium, 2017.-№ 9(2).-С. 112-132. (Перевод с французского Елизаветы Бабаевой)//
http://www.soclabo.org/index.php/laboratorium/article/view/681/1898 (дата обращения: 14.11.2017).
6. Как новые медиа изменили журналистику. 2012-2016 / А. Амзин, А. Галустян, В. Гатов, М. Кастельс, Д. Кульчицкая, Н. Лосева, М. Паркс, С. Паранько, О. Силантьева, Б. ван дер Хаак; под науч. ред. С. Балмаевой и М. Лукиной.-Екате-ринбург: Гуманитарный университет, 2016.-304 с.
7. Бабицкий А., Луганская Д., Сурганова Е. Бороться и искать: почему «Яндекс» проигрывает Google битву за Россию. Сайт компании РБК. 30.03.2015 // http://www.rbc.ru/ins/business/30/03/2015/5517f3439a7947d72378d826 (дата
обращения: 14.11.2017).
8. Ярская-Смирнова Е.Р., Романов П.В. Публичная сфера: программа исследования // Публичная сфера: теория, методология, кейс стади: коллектив. моногр. / под ред. Е.Р. Ярской-Смирновой и П.В. Романова (Библиотека «Журнала исследований социальной политики»). М.: ООО «Вариант»: ЦСПГИ, 2013.-С. 7-24.
9. Абрамова Е.В. Публичная сфера, городское пространство и новые медиа // Философский журнал, 2012.-№ 2(9).-С. 79-86.
10. Жолудь Р.В. Публичная сфера в социальных медиа: от деградации к трансформации // Вестник ВГУ. Серия: Филология. Журналистика, 2013.-№ 1.-С. 132-135.
11. Дзялошинский И.М. Медиапространство России: коммуникационные стратегии социальных институтов. Монография / И.М. Дзялошинский.-М.: Издательство АПК и ППРО, 2013.-479 с.
12. Habermas J. The Structural Transformation of the Public Sphere: An Inquiry into a category of Bourgeois Society. Cambridge, Mass.: MIT Press, 1991.-301 p.
13. Barlow J.P. A Declaration of the Independence of Cyberspace / J. Casimir (ed.) Postcards from the Net: An Intrepid Guide to the Wired World. Sydney: Allen and Unwin, 1996.-P. 365-367.
14. Benkler Y. The Wealth of Networks. New Haven, CT: Yale University Press, 2006.-515 p.
15. Dahlberg L. Re-Constructing Digital Democracy: An Outline of Four Positions // New media & Society, 2011.-№ 13(6).-P. 855-872.
16. Gonzalez B.G. The open source city as the transnational democratic future. TNI's fifth annual State of Power 2016 report // https://www.tni.org/en/publication/the-open-source-city-as-the-transnational-democratic-future (дата обращения: 14.11.2017).
17. Chatbots Market By Type, Usage, Deployment Type, Industry Verticals, End UserGlobal Forecast to 2021 // http://www.reportsnreports.com/reports/1000588-chatbots-market-by-type-software-and-services-usage-websites-contact-centers-social-media-and-mobile-platform-deployment-type-on-premises-and-on-cloud-industry-verticals-healthcare-retail-education-st-to-2021.html (дата обращения: 14.11.2017).
18. Bond R., Fariss C., Jones J., Kramer A., Marlow C., Settle J. and Fowler J. A 61-million-person experiment in social influence and political mobilization // Nature, 2012.-№ 489.-P. 295-298 // https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3834737/ (дата обращения: 14.11.2017).
19. DeMers J. It's Election Day: Is Facebook Influencing Your Voting Decision? // Entrepreneur.-November 8, 2016 // https://www.entrepreneur.com/article/284824 (дата обращения: 14.11.2017).
20. Sweeney L. Discrimination in Online Ad Delivery // Communications of the ACM, 2013.-№ 5.-P. 44-54.
21. Riley T. A.I. Doesn't Get Black Twitter. The language of the internet doesn't follow the rules of English. September 22, 2016 // https://www.inverse.com/article/21316-a-i-doesn-t-get-black-twitter-yet (дата обращения: 14.11.2017).
