Жарков Е. А. Политическая субъектность науки в свете датацентризма // Философия. Журнал Высшей школы экономики. — 2023. — Т. 7, № 3. — С. 243-250.
Евгений Жарков*
Политическая субъектность науки
в свете датацентризма**
DOI: 10.17323/2587-8719-2023-3-243-250.
Знакомство со статьей Валентина Александровича Бажанова производит весьма многомерное впечатление. По-видимому, нелегко найти какую-либо иную тему, столь свойственную духу времени. Дело не в том, что рассматриваемая проблематика намного актуальнее других направлений современной науки. Мы полагаем, что рассмотрение влияния развития систем AI и Big Data на то, что мы понимаем под современной наукой как методом и институцией познания и изменения мира, конструктивно. Чуть более десяти лет назад философ науки и техники Л. Флориди обозначил подобного рода проблему как «эпистемологический вызов больших данных» (Floridi, 2012: 435~437).
Полностью согласимся с автором относительно всеохватывающей практической актуальности новых информационных технологий. Здесь возникает нетривиальная задача понимания их действительностей и возможностей относительно функционирования именно на благо человечества. Весьма непростой представляется и ситуация, касающаяся политических аспектов: «участия» новых технологий в электоральных процедурах; потенциального искажения под их влиянием демократических принципов (Бажанов, 2023: 4).
АЛГОРИТМОЦЕНТРИЗМ И ДАТАЦЕНТРИЗМ
Присоединимся к позиции В. А. Бажанова относительно придания исключительного значения алгоритму в осмыслении функционирования
* Жарков Евгений Александрович, исследователь, Межрегиональная общественная организация «Русское общество истории и философии науки» (Москва), flash45@yandex.ru, ORCID: 0000-0002-1962-1806.
**© Жарков, Е. А. © Философия. Журнал Высшей школы экономики.
Благодарности: исследование выполнено при финансовой поддержке РНФ, проект №21—18—00428 «Политическая субъектность современной науки: междисциплинарный анализ на перекрестье философии науки и философии политики» в Русском обществе истории и философии науки.
систем искусственного интеллекта. В его рассуждениях просматриваются две существенных установки: (1) алгоритмоцентризм как ключевой фактор эпохи господства информационных технологий, (2) апелляция к выходу за рамки жесткого алгоритмического детерминизма на метауровень, необходимый для глубокого понимания действительно-стей и возможностей AI. Подобная апелляция весьма интересна, но, по-видимому, автор оставил за рамками более обстоятельное ее рассмотрение. В связи с этим предложим линию рассуждений, представляющую попытку более глубокого освещения данного вопроса.
Существенные импульсы для развития систем AI — прикладные задачи, лежащие на поверхности1: победа над человеком в интеллектуальных играх, распознавание образов и др. Подобная простота особенно ярко контрастирует с формулировкой ряда фундаментальных научных проблем (поиск гравитационных волн и т.д.), которые представляются сложными и загадочными для неспециалистов.
Решение многих задач современной фундаментальной науки2 зависит от серьезного технико-технологического оснащения, что, в частности, привело в философии науки к выделению отдельного класса ученых — инструменталистов, ответственных за аппаратное обеспечение исследований (П. Галисон). В ходе последних весомая роль принадлежит процедурам отбора данных, существенных для целей эксперимента. Значимым фактором также оказывается вмешательство «экспериментального фона» — попутных физических явлений в изучаемой системе, маскирующих идентификацию искомых эффектов (Пронских, 2020: 87-88). Несмотря на всю инфраструктурную сложность физики элементарных частиц, в ней не придается главенствующего значения Big Data. Конечно, проблема анализа данных здесь рассматривается, но, подчеркнем, эти данные существуют в мире науки, изолированном от серьезных социально значимых задач общества.
В случае же разработки систем AI и Big Data и их дальнейшего функционирования ситуация иная. Важные социотехнические функции, на выполнение которых они претендуют, оказываются в зависимости от множества данных, вплетенных в жизненные процессы общества и используемых в процессе обучения систем AI (Cristianini et al., 2023: 90). Сложные, «ситуативно зависимые» алгоритмы их действий должны эффективно работать с данными. Исходя из этого, мы полагаем, что
1В том смысле, что их постановка, а не конкретные решения проста и наглядна.
2К примеру, физики элементарных частиц.
наряду с алгоритмоцентризмом целесообразно вести речь и о своего рода датацентризме. В подобном контексте заслуживающими внимания оказываются некоторые современные представления об эволюции метода научного познания, тесно связанные с соответствующей эпистемологической проблематикой (Kitchin, 2014; Desai et al., 2022).
В первую очередь необходимо упомянуть о четвертой парадигме науки (the fourth paradigm of science) (Lynch, 2009: 177-184). Р. Китчин приводит компилированную схему этой концепции. Понятие парадигмы здесь используется в весьма глобальном аспекте — для характериза-ции эпистемологических оснований науки в различные эпохи. Первая парадигма—эмпирическая (описательная) наука в период до Нового времени (experimental science), вторая — теоретическая наука докомпьютерной эпохи (theoretical science), третья — компьютеризированная наука в период «до прихода» Big Data (computational science) и, наконец, четвертая парадигма — современная эпоха датафицированной науки (data-intensive science) (Kitchin, 2014: 3). Четвертой парадигме созвучны и другие сопутствующие идеи: акцентуация на новом типе знания, свободном от теорий и гипотез и обладающем агностическим характером; апелляция к новому эмпиризму (Desai et al., 2022: 18-22). Таким образом, здесь мы встречаемся с весьма дерзкими заявлениями, но не вызывающими при этом особенного удивления. Они оказываются привлекательными для некоторых ученых (к примеру, представителей компьютерных наук), с одной стороны, в силу их профессиональной направленности; с другой стороны, направление Big Data, выражаясь современным жаргоном, переживает «волну хайпа».
Вместе с тем все-таки трудно отрицать отсутствие соответствующего эпистемологического вызова. По нашему мнению, большая сила больших данных, подавляющая в лице ряда исследователей необходимость в теориях и гипотезах и актуализирующая общее агностическое состояние, может быть охарактеризована как позиция крайнего дата-центризма. Против последнего, в свою очередь, можно выдвинуть аргументы, касающиеся критикуемых в его же рамках понятий и не обладающие принципиальной новизной. Речь идет о неизбежном наличии теоретической, методической нагруженности, появляющейся в ходе генерации и возникновения данных. Как подчеркивает Р. Китчин, нельзя в полной мере утверждать, что «данные говорят сами за себя», в силу их зависимости от условий их же получения (Kitchin, 2014: 5).
ОПАСЕНИЯ И НАДЕЖДЫ ПОЛИТИЧЕСКОЙ СУБЪЕКТНОСТИ
Трудно не согласиться с В. А. Бажановым в констатации угрожающего характера новых технологий для демократических тенденций. И в этом смысле весьма иронически, если не сказать издевательски, звучит выражение «дигитальная демократия» (Бажанов, 2023). На наш взгляд, все-таки более уместным представляется понятие «дигитальный авторитаризм», поскольку оно ярче выражает проблему потенциального обладания определенными акторами большой властью. Если соответствующие акторы грубо обходятся с интересами «маленького человека», актуализируется проблема конфронтации.
Далее, заметим, что в ходе осуществления своей деятельности власть в лице определенных акторов или институций прибегает, естественно, к использованию разнообразных данных и фактов. Сюда следует отнести как данные, добываемые в ходе обширных статистических исследований, так и единичные факты, оказывающиеся важными и громкими в определенных ситуациях. Например, авария на АЭС в одной стране способна привести к существенным изменениям энергетической политики в странах на других континентах, в то время как до прецедента анализ эксплуатационных процессов атомной энергетики давал положительные прогнозы ее дальнейшего развития. Роль множества данных способна быстро угаснуть, и для принятия политического решения будет достаточно одного, но «тяжеловесного» факта.
Развитие и внедрение систем AI и Big Data может оказаться в схожей ситуации. Безусловно, перспективы новых технологий подвержены разрушению неудачными прецедентами. И все-таки возникает вопрос: какие именно прецеденты следует иметь в виду? Понятным примером может служить сценарий серьезного провала AI в системах беспилотного транспорта. Обсуждаемый же Бажановым пример их использования в предвыборных рассылках оказывается в этом плане гораздо более нетривиальным. Так, в случае негативных последствий прихода к власти условного политического лидера трудно поверить в серьезную степень ответственности за это системы AI, «участвующей» в его избирательной кампании, поскольку, вероятно, по мнению общественности, сам лидер окажется лично виноватым или найдется много других объясняющих факторов.
Прецедентные случаи и резонансные факты, безусловно, значимы и в известном роде удобны для инициации и осуществления политических действий. Вместе с тем, если иметь в виду не только катастрофы,
вроде серьезных аварий на АЭС, но и более нетривиальные по уровню масштабности влияния ситуации, степень их значимости, вообще говоря, может быть сконструирована и в дальнейшем оказать соответствующее влияние на управленческие решения. Иными словами, малые в количественном отношении данные, факты способны оказаться большими в качественном отношении. В подобном свете наука, как, в частности, ответственный за получение и интерпретацию данных актор3, обретает весомую политическую нагруженность. Мы считаем, в этой связи следует заострить внимание на ряде ситуативных сценариев, имеющих c точки зрения проблематики политической субъектности науки весьма общий характер, который касается не только контекста AI и Big Data.
В свете негативных последствий событий, зависимых в своем осуществлении от достижений науки, она в лице конкретных ученых способна оказаться в роли виновника. Но здесь актуализируется классический вопрос: «А судьи кто?» Если речь идет о вине и ответственности перед обществом в целом, ученые, безусловно, оказываются под прицелом серьезной критики. Соглашаясь с ней, они, по сути, признают за собой проявление определенной политической субъектности — по отношению к своим действиям в прошлом. Отрицая критику полностью, ученые, как представляется, встают на весьма крайнюю позицию «субъектности нейтральности и безразличия», которая, вероятно, будет воспринята обществом как преступная и даже заслуживающая наказания.
В случае же промежуточного сценария ситуация оказывается более сложной и непрозрачной. Признавая критику лишь частично, в некоторых аспектах, ученые могут апеллировать к тому, что их идеи и результаты их трудов практически воплотились не по их воле, и итоговая ответственность за негативные последствия перекладывается, таким образом, на плечи политиков. Ученые в подобном ключе оказываются подчиненными объектами внешних политических акторов. Немалое значение здесь имеет и то, что обществу может оказаться весьма нелегко выработать достаточную степень доверия к подобной позиции (в лице ученых), поскольку, если речь идет о последствиях достижений науки, ученые не могут всецело избавиться от инициаторской роли. Отметим общую характерную черту трех обозначенных сценариев: в каждом из них потенциальные состояния политической субъектности науки наблюдаются в диахроническом измерении, иными словами, оказываются «эффектами последействия».
3Наблюдений, статистических исследований и др.
Обращаясь к тематике AI и Big Data, мы неизбежно связываем себя с рассуждениями о будущем, и это же в определенной степени следует отнести к наукам (естественным или гуманитарным), касающимся данной тематики в своей предметности. Вместе с тем какое-либо детальное предопределение характера относительно удаленного будущего не представляется разумной задачей. Но, с другой стороны, очень близкое будущее «в скором времени» обретает статус настоящего, и в подобном ключе диахроническое измерение сужается, консолидируясь с синхроническим.
Аспекты практического внедрения и использования систем AI и Big Data зависимы от политических и властных решений. Процессы их обоснования и соответствующая экспертная деятельность связаны с влиянием науки. Представления четвертой парадигмы и датацентризма касаются оценки эпистемических особенностей ее современного состояния. Мы полагаем, здесь инициируются следующие существенные опасения: определенные политические акторы могут воспринять новые концептуальные веяния как в немалой степени дискредитирующие науку. Подобно тому как проблема больших данных представляет собой серьезный эпистемологический вызов, четвертая парадигма позволяет говорить об актуализации вызова в отношении политической субъектно-сти науки. И современной науке, по-видимому, следует отнестись к нему весьма серьезно. Особенно сильно это касается обозначенного выше промежуточного сценария, когда ученые уже в какой-либо конкретной ситуации будут вынуждены комментировать (аргументировать) свою причастность к тем или иным практическим последствиям.
В завершение присоединимся к сомнениям В. А. Бажанова относительно перспективы приближения человечества к ноосферному состоянию в эпоху развития систем AI и Big Data. Как мы увидели, она ставит множество вопросов — вызовов для науки и философии. Вместе с тем упоминание о ноосфере отсылает нас к «локационному аспекту». Какие свойства присущи той сфере, среде, в которой мы локализованы? Трудно ответить на данный вопрос обстоятельно, но в первом приближении можно утверждать, что мы погружены в среду, наполненную специфическим проблемным социотехническим фоном, который, в отличие от маскирующего экспериментального фона физики элементарных частиц, содержащего в себе попутные по отношению к целевым явления, играет определяющую роль в жизненном функционировании среды.
Мы полагаем, трудности, с которыми сталкивается развитие новых технологий, не могут быть разрешены без участия науки, и ей, в свою
очередь, ничего не остается, как принять вызов, локализованный в пространстве сложного социотехнического фона. Конкретная актуальная задача здесь, как справедливо подчеркивает В. А. Бажанов, — поиск путей создания машинерии, снижающей негативные последствия функционирования систем AI и Big Data.
И все-таки хочется надеяться, что здесь не обойтись без понимания, без конструктивных теоретических моделей, без выделения «приоритетных сущностей» в сложном социотехническом фоне, их вдумчивой проработки. В несколько метафорическом ключе вспомним известную мысль: хорошая модель, теория должна не только объяснять имеющиеся явления, но и предсказывать новые результаты. В нашем случае и в общем смысле следует говорить о моделях благого будущего.
Литература
Бажанов В. А. Искусственный интеллект, технологии Big Data (больших данных) и особенности современного политического процесса // Философия : Журнал Высшей школы экономики. — 2023. — Т. 7, № 3. Пронских В. С. Поиски бозона Хиггса : проблемы эпистемической автономии эксперимента // Философский журнал. — 2020. — Т. 13, № 3. — С. 82—96. Cristianini N., Scantamburlo T., Ladyman J. The Social Turn of Artificial Intelligence // AI & Society. — 2023. — Vol. 38, no. 1. — P. 89-96. Desai J., Watson D., Wang V. The Epistemological Foundations of Data Science :
A Critical Review // Synthese. — 2022. — Vol. 200, no. 6. — P. 1-27. Floridi L. Big Data and Their Epistemological Challenge // Philosophy & Technology. — 2012. — Vol. 25, no. 4. — P. 435-437. Kitchin R. Big Data, New Epistemologies and Paradigm Shifts // Big Data &
Society. — 2014. — Vol. 1, no. 1. — P. 1-12. Lynch C. A. Jim Gray's Fourth Paradigm and the Construction of the Scientific Record // The Fourth Paradigm : Data-Intensive Scientific Discovery / ed. by T. Hey, S. Tansley, K. Tolle. — Redmond, Washington : Microsoft Researh, 2009. — P. 177-184.
Zharkov, Ye. A. 2023. "Politicheskaya sub''yektnost' nauki v svete datatsentrizma [Political Agency of Science in the Context of Data Centrism]" [in Russian]. Filosofiya. Zhur-nal Vysshey shkoly ekonomiki [Philosophy. Journal of the Higher School of Economics] 7 (3^ 243-25°.
Yevgeniy Zharkov
Researcher
Russian Society for the History and Philosophy of Science (Moscow, Russia); orcid: 0000-0002-1962-1806
Political Agency of Science in the Context of Data Centrism
DOI: 10.17323/2587-8719-2023-3-243-250.
REFERENCES
Bazhanov, V. A. 2023. "Iskusstvennyy intellekt, tekhnologii Big Data (bol'shikh dannykh) i osobennosti sovremennogo politicheskogo protsessa [Artificial Intelligence, Big Data Technologies, and Features of Modern Politics]" [in Russian]. Filosofiya [Philosophy]: Zhurnal Vysshey shkoly ekonomiki [Journal of the Higher School of Economics] 7 (3).
Cristianini, N., T. Scantamburlo, and J. Ladyman. 2023. "The Social Turn of Artificial Intelligence." AI & Society 38 (1): 89-96.
Desai, J., D. Watson, and V. Wang. 2022. "The Epistemological Foundations of Data Science: A Critical Review." Synthese 200 (6): 1-27.
Floridi, L. 2012. "Big Data and Their Epistemological Challenge." Philosophy & Technology 25 (4): 435-437.
Kitchin, R. 2014. "Big Data, New Epistemologies and Paradigm Shifts." Big Data & Society 1 (1): 1-12.
Lynch, C.A. 2009. "Jim Gray's Fourth Paradigm and the Construction of the Scientific Record." In The Fourth Paradigm : Data-Intensive Scientific Discovery, ed. by T. Ney, S. Tansley, and K. Tolle, 177-184. Redmond, Washington: Microsoft Researh.
Pronskikh, V. S. 2020. "Poiski bozona Khiggsa [Search for the Higgs Boson]: problemy episte-micheskoy avtonomii eksperimenta [The Problem of Epistemic Autonomy of Experiment]" [in Russian]. Filosofskiy zhurnal [The Philosophy Journal] 13 (3): 82-96.