CC BY
0
Вестник Томского государственного университета. Философия. Социология. Политология. 2023.
№ 76. С. 102-109.
Tomsk State University Journal of Philosophy, Sociology and Political Science. 2023. 76. pp. 102-109.
Научная статья УДК 001.11
doi: 10.17223/1998863Х/76/10
ЭПИСТЕМИЧЕСКИЕ РИСКИ СОФТВЕРИЗАЦИИ СОВРЕМЕННОЙ НАУЧНО-ИССЛЕДОВАТЕЛЬСКОЙ ДЕЯТЕЛЬНОСТИ
Елена Юрьевна Журавлева
Российская академия народного хозяйства и государственной службы при Президенте РФ, Вологда, Россия, zhuravleva-ey@ranepa. ru
Аннотация. Активное развитие научного программного обеспечения становится важной составляющей современных научно-исследовательских практик. При этом происходит их значительная социотехнологическая трансформация под названием софтверизация научно-исследовательской деятельности, приводящая не только к достижению существенных научных результатов, но и к определенным эпистемическим рискам, выявлению которых и посвящена цель написания статьи.
Ключевые слова: софтверизация научно-исследовательской деятельности, эпистеми-ческий риск, эпистемическая непроницаемость, эпистемический контроль, эпистеми-ческое доверие
Для цитирования: Журавлева Е.Ю. Эпистемические риски софтверизации современной научно-исследовательской деятельности // Вестник Томского государственного университета. Философия. Социология. Политология. 2023. № 76. С. 102-109. doi: 10.17223/1998863Х/76/10
Original article
EPISTEMIC RISKS OF THE SOFTWARIZATION OF MODERN RESEARCH ACTIVITIES
Elena Yu. Zhuravleva
Russian Academy of National Economy and Public Administration under the President of the Russian Federation, Vologda, Russian Federation, zhuravleva-ey@ranepa. ru
Abstract. Software is gradually becoming a fundamental component of modern research activities from preparation for research (information retrieval activities, creation of databases and metacatalogs, generation of hypotheses) and its conduct (connection to virtual instruments and devices, implementation of experiments, automatic proof or refutation of theorems, analysis and visualization of data/information, modeling of complex systems and simulation of their behavior in various states, solving complex computational problems) to the presentation and distribution of the results obtained in the process of research and maintaining scientific communication. This process is also called the softwarization of modern research activities. An epistemological understanding of the development of the softwarization of modern research activities may lead to a reevaluation of the process of cognition and the creation of a non-anthropocentric epistemology, in which knowledge of the world is carried out from the perspective of not only people, but also users who are not biologically human (software, intelligent or cognitive agents, robots, avatars, artificial intelligence objects, etc.). Currently, attempts to create a non-anthropocentric epistemology are expressed in the emergence of android epistemology, robot epistemology, software
© Е.Ю. Журавлева, 2023
epistemology, and artificial intelligence epistemology. From the point of view of epistemological analysis, the epistemic risks of the softwarization of modern research activities are interconnected and consist in epistemic opacity, loss of epistemic control over the research process and trust in the results obtained, difficulties in maintaining and developing scientific software, as well as reproducibility of research results, and also in the lack of a scientific understanding and explanation of the results obtained with the help of software. So, as modern science becomes more and more dependent on scientific software, the epistemic risks of its use increase accordingly. Overcoming the epistemic risks of the softwarization of modern research activities is a critical and necessary condition for understanding and reproducing research results, and can contribute to the progressive evolution of modern scientific computer methods.
Keywords: softwarization of research activities, epistemic risk, epistemic opacity, epistemic control, epistemic trust
For citation: Zhuravleva, E.Yu. (2023) Epistemic risks of the softwarization of modern research activities. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya - Tomsk State University Journal of Philosophy, Sociology and Political Science. 76. pp. 102-109. (In Russian). doi: 10.17223/1998863Х/76/10
Программное обеспечение -это современный язык науки.
Э. Зайдель1
Программное обеспечение (ПО) постепенно становится фундаментальным компонентом современного исследования, без которого невозможна наука XXI в. По мнению Д. Вулларда и его коллег, научное программное обеспечение приобрело важность в последние десятилетия, продвигая науку от «тестовых пробирок к симуляциям, основанным на кремнии» [1. Р. 38].
Необходимо отметить, что в современных естественных науках практически все результаты, которые получены из экспериментальной или теоретической работы, произведены с помощью ПО2. В целом научное программное обеспечение - это специальная категория исследовательского программного обеспечения3, которая включает в себя ПО, развиваемое для выполнения различных сложных научных изысканий, которые невозможно исполнить экспериментально или реализовать без компьютерной поддержки.
В «Манифесте научного кода»4 постулируется, что программное обеспечение превращается не только в важный инструмент для поиска знания во многих дисциплинах, но и часто является единственным представлением цифрового знания. В этом случае программное обеспечение - это существенный исследовательский продукт, и поэтому все попытки по его производству, поддержке, адаптации и распространению должны быть осознанными. По-
1 Zverina J. NSF's Seidel: "Software is the Modern Language of Science". 09.08.2011. URL: http://www.hpcwire.com/2011/08/09/nsf_s_seidel_software_is_the_modern_language_of_science_/ (accessed: 10.09.22).
2 Например, в 1998 г. Дж. Попл был награжден Нобелевской премией по химии за вклад «в развитие компьютерных методов в квантовой химии». Исследовательский инструмент, который создал Дж. Попл, называется компьютерная программа «Гауссиан». Обладатели Нобелевской премии по химии за 2013 г. М. Карплус, А. Уоршел и М. Левитт получили свою награду за разработку компьютерной программы для моделирования протекания химической реакции.
3 Исследовательское программное обеспечение - это ПО, применяемое и / или производимое в исследованиях, включая и не ограничиваясь научными и ненаучными, коммерческими, академическими и неакадемическими контекстами.
4 Подробнее: The Science Code Manifesto. URL: http://sciencecodemanifesto.org/ (accessed: 17.07.22).
этому большинство глубоких изменений в эпистемологических изысканиях заключается в том, что важная часть научного знания существует только в
формате программного обеспечения с неопределенным эпистемическим ста-
1
тусом .
Активное применение программного обеспечения в науке означает значительные социотехнологические трансформации научных практик или, иными словами, софтверизацию научно-исследовательской деятельности. Ее развертывание происходит по двум основным взаимосвязанным направлениям. Первое направление «Применение в научной практике программного обеспечения, содействующего науке» (ПО как ассистент или инструмент ученого) развивается в рамках познавательных возможностей человека. А во втором направлении «Применение в научной практике программного обеспечения, продвигающего науку» (ПО как познавательный агент) возможен выход за рамки познавательных возможностей человека. Общим в этих подходах является то, что программное обеспечение используется для решения научных проблем при помощи совершенно нового набора идей, которые нельзя было представить, используя традиционные подходы.
Эпистемологическое осмысление развития второго направления софтверизации современной научно-исследовательской деятельности может привести к разделению эпистемологии на антропоцентрическую и не-антропо-центрическую. П. Хамфрис [2. Р. 616] подчеркивает, что до недавнего времени философия науки всегда обращалась с наукой как с деятельностью, которую осуществляют и анализируют люди. Также верно и обратное утверждение о том, что люди овладевают и используют знания, произведенные наукой. При соблюдении этих принципов философия науки находится в рамках традиционной (антропоцентричной) эпистемологии, которая с несколькими исключениями (например, такими как познание божественного всеведения) изучает знание, доступное для понимания и объяснения людьми.
Но в компьютерной науке используются методы, которые, по мнению П. Хамфриса, оттесняют людей от центра эпистемологической инициативы. Эксклюзивная антропоцентрическая эпистемология не долго соответствовала увеличивающемуся числу сфер в науке. Так как в компьютерной науке в настоящее время существует верховный (нечеловеческий) эпистемический авторитет, то ученые столкнулись с проблемой, которая называется антропологическое затруднение, заключающееся в том, что людям сложно понять и оценить результаты, полученные с помощью методов, основанных на вычислениях, поскольку они часто превосходят их когнитивные способности [2. С. 616-617]. Само антропологическое затруднение возникло из-за старинной философской точки зрения, согласно которой познание мира подразумевает типичных посредников, специально приспособленных к познавательным способностям человека.
1 Эта положение истинно и в отношении научных моделей сложных систем, для которых кроме ПО нет подходящей формы представления. Примером является масштабная модель климата Земли (CESM1, URL: https://www2.cesm.ucar.edU/models/cesm1.0/), которая включает в себя более 1 млн линий программного кода. В сообществе «Модель климата Земли» участвуют 300 ученых и разработчиков ПО, каждый из которых отвечает за различные элементы моделей. И хотя ученые представляют результаты исследования в виде научных статей, но эти статьи содержат в себе только описания этой модели. Подробнее: Hinsen K. The lifecycle of digital scientific knowledge. URL: http://blog.khinsen.net/posts/ 2015/11/09/the-lifecycle-of-digital-scientific-knowledge/ (accessed: 20.03.22).
Итак, дальнейшее эпистемологическое осмысление развития софтве-ризации современной научно-исследовательской деятельности, возможно, приведет к переоценке процесса познания и созданию не-антропо-центрической эпистемологии, в которой поиски научного знания осуществляются не только с позиции человека, а и пользователей, не являющихся людьми биологически (программными, разумными или когнитивными агентами, роботами, аватарами, объектами искусственного интеллекта и т.п.).
В настоящее время попытки создания не-антропоцентрической эпистемо-
1
логии выражаются в появлении эпистемологии андроида , эпистемологии робота , эпистемологии программного обеспечения и эпистемологии ис-
4
кусственного интеллекта .
И если разделение эпистемологии на два направления по причине активной софтверизации современной научно-исследовательской деятельности - это дело ближайшей перспективы, то вопрос об эпистемических рисках в процессе познания с использованием ПО относится уже к настоящему времени. Эпистемический риск софтверизации - это осознанная возможность получения недостоверного, неподтвержденного, непонятного и необъяснимого для человека знания при применении ПО в научно-исследовательской деятельности.
Причин появления эпистемических рисков несколько. Во-первых, несмотря на то, что постепенно программное обеспечение становится составной частью современных научных методов, само понятие «научное программное обеспечение» не вполне интегрировано в научный дискурс и, по меткому замечанию И. Фэсте, представляет в нем своеобразную «темную материю»5. Во-вторых, современное научное программное обеспечение содержит в себе сложное для понимания учеными научное знание в стиле «черного ящика». Поэтому ученые не знают и даже не имеют шанса узнать, на какой модели или предположениях основаны их вычисления. В связи с этим представление природы функционирования научного программного обеспечения в качестве «черного ящика» становится основной причиной совершения ошибок в научном исследовании [3]. Третья причина появления эпистемических рисков в софтверизации современной научно-исследовательской деятельности заключается в непрерывной эволюции научного программного обеспечения связанной с постоянным увеличением его когнитивной плотности.
1 Эпистемология андроида изучает фундаментальные вопросы о сущности искусственных интеллектуальных машин. Подробнее: FordK., Glymour C., Hayes P. Thinking about Android Epistemolo-gy. Cambridge : AAAI Press / MIT Press, 2006. 384 p.
2 Подробнее: Ghilardi G. Epistemology of Robotics: an Outline // The Future of Scientific Practice / ed. M. Bertolaso. London : Pickering & Chatto, 2015. P. 117-132.
3 Эпистемология программного обеспечения изучает знание в контексте применения для его добычи программного агента и призвана для ответа на вопросы: Что означает знание для программного агента? Каким образом программный агент может приобретать знание? Каким образом люди смогут установить достоверность и происхождение этого знания? Подробнее: Software Epistemology. URL: http://www.ctestlabs.org/software_visualization.html (accessed: 10.04.22).
4 Эпистемология искусственного интеллекта создана для ответа на вопросы о «мышлении» машин.
5 Подробнее: Foster I. Thoughts on dark software. URL: http://www.ianfoster.org/word-press/2014/01/10/thoughts-on-dark-software/ (accessed: 22.03.17).
К. Хинсен предполагает, что ученые теряют контроль над своими данными и информацией, методами и моделями, которые все больше поглощаются программным обеспечением и, следовательно, становятся непрозрачными [4. Р. 101]. В этом заключается первый эпистемический риск софтверизации современной научно-исследовательской деятельности под названием «эпистемическая непроницаемость» (ЭН), представляющий собой новый феномен, характеризующий современное состояние науки.
Термин «эпистемическая непроницаемость» был предложен П. Хамфри-сом в 2004 г. [5. Р. 147-151] для рассмотрения компьютерных симуляций, им же дано следующее определение ЭН. Процесс существенно эпистемически непроницаем во времени для когнитивного объекта Х, если и только если невозможно, следуя природе Х, узнать все «эпистемическое» относительно элементов процесса симуляции. Вследствие этого два ученых X и Y могут расходиться во мнениях по их поводу, так как Х может рассматривать каждый особенный шаг относительно процесса, а Y может полагать, что этот шаг может быть достаточно тривиально исключен. М. Фриш уточняет содержание понятия «эпистемическая непроницаемость» от невозможности когнитивного объекта узнать все «эпистемическое» относительно элементов процесса познания за данное время до невозможности идентификации когнитивным объектом вклада различных компонентов научного ПО в процесс выполнения исследования [6. Р. 172].
Второй эпистемический риск софтверизации современной научно-исследовательской деятельности взаимосвязан с первым и заключается в утрате эпистемического контроля учеными над процессом исследования, проявляющейся в том, им сложно осознать успешный вычислительный процесс, что необходимо для подтверждения его результатов. В этом случае, считает А. Барбаросса с коллегами, исследователи не могут обратиться к детализации рациональных этапов и шагов в пределах вычислительного процесса [7. С. 3596]. К. Хинсен также замечает, что еще не всеми учеными широко осознается факт того, что в современное научное программное
обеспечение внедрено огромное количество научного знания, которое очень
1
сложно к доступу, контролю и проверке экспертами .
Третий эпистемический риск заключается в качестве поддержки и развития научного ПО. «Научное программное обеспечение» является существенным для прогресса в науке и инженерии, но не развивается эффективно или поддерживается должным образом [8]. Несмотря на важность ПО в науке, большая его часть развивается в манере ad hoc с небольшим вниманием на высокие стандарты, которые характерны для других частей научного исследования. В результате экосистемы научные ПО могут быть хрупкими, что является, в свою очередь, источником большого числа проблем. Необходимо отметить, что для преодоления данного вида эпистеми-ческого риска представлены принципы FAIR для разработки научного ПО (способность к обнаружению, доступность, интероперабельность и повтор-
1 Подробнее: Hinsen K. What can we do to check scientific computation more effectively? 2018-03-
07. URL: http://blog.khinsen.net/posts/2018/03/07/what-can-we-do-to-check-scientific-computation-more-effectively/ (accessed: 25.03.18).
ное использование научного ПО)1, определен жизненный цикл исследовательского ПО2 и создаются его энциклопедии3.
Четвертый риск софтверизации современной научно-исследовательской деятельности - возникновение проблемы эпистемического доверия к полученным научным результатам, а также их научного понимания и объяснения. С продвижением продуктов научного программного обеспечения становятся центральными вопросы эффективного понимания знания, которое заложено в программном обеспечении, например, его возможностей и ограничений и того, как они влияют на результаты его работы. Если эти вопросы перед началом исследования проработаны недостаточно, то это имеет негативное влияние на достоверность и надежность научных результатов, полученных с помощью научного программного обеспечения. Существуют примеры, когда научный поиск при помощи ПО происходит без научного понимания процесса получения результатов исследования. Например, новая эффективная молекула для органического диода лазера была найдена в поисковом пространстве из 1,6 млн различных молекул при использовании машинного обучения и инсайтов квантовой химии. Ученые нашли новые молекулы с высокой квантовой эффективностью [9. Р. 1120], но несмотря на то, что эти поиски принесли важные технологические открытия, результаты исследования не предложили нового научного понимания, так как из них, по сути, не получить качественного нового знания.
Пятый риск софтверизации современной научно-исследовательской деятельности связан со сложностью воспроизводимости результатов исследования. Более трудно уловимой проблемой является широкая распространенность невоспроизводимости результатов компьютерных процессов, несмотря на факт того, что они полностью детерминированы. Воспроизводимость результатов исследования - это главный принцип научного исследования. Но при опросе 2016 г. 1 576 исследователей оказалось, что более чем 70% из них испытывают и терпят неудачу по воспроизводимости результатов экспериментов, при этом 80% от общего числа опрошенных считают виновными в
4
этом недоступность методов и кодов исследования .
Итак, с точки зрения эпистемологического анализа эпистемические риски софтверизации современной научно-исследовательской деятельности взаимосвязаны между собой и заключаются в эпистемической непроницаемости, утрате эпистемического контроля над процессом исследования и доверия к полученным результатам, в сложностях поддержки и развития научного программного обеспечения, а также воспроизводимости результатов исследования и в недостатке научного понимания и объяснения результатов, полученных при помощи ПО.
1 Подробнее: Barker M., Chue Hong N.P., Katz D.S., Lamprecht A.L., Martinez-Ortiz C., Psomopou-los F., Harrow J., Castro L.J., Gruenpeter M., Martinez P.A., Honeyman T. Introducing the FAIR Principles for research software // Scientific data. 2022. 9(1). P. 622.
2 Подробнее: Gomez-Diaz T, Recio T. On the evaluation of research software: the CDUR procedure // F1000Res. 2019. 8. P. 1353.
3 Подробнее: Research Software Encyclopedia. URL: https://rseng.github.io/software/; Открытая энциклопедия свойств алгоритмов. URL: https://algowiki-project.org/ru/
4 Подробнее: Baker M. 1,500 scientists lift the lid on reproducibility. Survey sheds light on the 'crisis' rocking research // Nature. 2016. № 533 (7604). P. 452-455.
В целом современная наука становится все более зависимой от научного программного обеспечения, сфера влияния которого будет постоянно увеличиваться, соответственно, увеличивая эпистемические риски его применения. Преодоление эпистемических рисков софтверизации современной научно-исследовательской деятельности является критическим и необходимым условием для понимания, а также для воспроизводства результатов исследований и может оказать влияние на прогрессивную эволюцию современных научных компьютерных методов.
Список источников
1. Woollard D., Medvidovic N., Gil Y., Mattmann C.A. Scientific Software as Workflows: From Discovery to Distribution // IEEE Software. 2008. № 25 (4). P. 37-43.
2. Humphreys P. The philosophical novelty of computer simulation methods // Synthese. 2009. № 169 (3). P. 615-626.
3. Hinsen K. Digital Scientific Notations as a Human-Computer Interface in Computer-Aided Research // PeerJ Preprints. 2018. URL: https://doi.org/10.7287/peerj.preprints.26633v1 (accessed: 03.05.22).
4. Hinsen K. Computational science: Shifting the focus from tools to models // F1000Research. 2014. № 3. P.101.
5. Humphreys P. Extending Ourselves: Computational Science, Empiricism and Scientific Method. Cambridge : Cambridge University Press, 2004. 182 p.
6. Frisch M. Predictivism and old evidence: a critical look at climate model tuning // The European Journal of Philosophy of Science. 2015. № 5. P. 171-190.
7. BarberousseA., VormsM. About the Warrants of Computer-Based Empirical Knowledge // Synthese. 2014. № 191 (15). P. 3595-3620.
8. SI2-S2I2 Conceptualization: Conceptualizing a US Research Software Sustainability Institute (URSSI), URL: https://www.nsf.gov/awardsearch/showAward?AWDJD=1743188 (accessed: 07.02.22).
9. Gomez-Bombarelli R. et al. Design of efficient molecular organic light-emitting diodes by a high-throughput virtual screening and experimental approach // Nature materials. 2016. Vol. 15. P. 1120-1127.
References
1. Woollard, D., Medvidovic, N., Gil, Y. & Mattmann, C.A. (2008) Scientific Software as Workflows: From Discovery to Distribution. IEEE Software. 25(4). pp. 37-43.
2. Humphreys, P. (2009) The philosophical novelty of computer simulation methods. Synthese. 169(3). pp. 615-626.
3. Hinsen, K. (2018) Digital Scientific Notations as a Human-Computer Interface in Computer-AidedResearch. [Online] Available from: https://doi.org/10.7287/peerj.preprints.26633v1 (Accessed: 10th July 2022).
4. Hinsen, K. (2014) Computational science: Shifting the focus from tools to models. F1000Research. 3. p. 101.
5. Humphreys, P. (2004) Extending Ourselves: Computational Science, Empiricism and Scientific Method. Cambridge: Cambridge University Press.
6. Frisch, M. (2015) Predictivism and old evidence: a critical look at climate model tuning. The European Journal of Philosophy of Science. 5. pp. 171-190.
7. Barberousse, A. & Vorms, M. (2014) About the Warrants of Computer-Based Empirical Knowledge. Synthese. 191(15). pp. 3595-3620.
8. SI2-S2I2 Conceptualization: Conceptualizing a US Research Software Sustainability Institute (URSSI). [Online] Available from: https://www.nsf.gov/awardsearch/showAward?AWD_ID=1743188 (Accessed: 20th July 2022).
9. Gomez-Bombarelli, R. et al. (2016) Design of efficient molecular organic light-emitting diodes by a high-throughput virtual screening and experimental approach. Nature Materials. 15. pp. 1120-1127.
Сведения об авторе:
Журавлева Е.Ю. - кандидат философских наук, доцент; доцент кафедры общественных дисциплин Российской академии народного хозяйства и государственной службы при Президенте РФ (Вологда, Россия). E-mail: zhuravleva-ey@ranepa.ru
Автор заявляет об отсутствии конфликта интересов.
Information about the author:
Zhuravleva E.Yu. - Cand. Sci. (Philosophy), docent, associate professor, Russian Academy of National Economy and Public Administration under the President of the Russian Federation (Vologda, Russian Federation). E-mail: zhuravleva-ey@ranepa.ru
The author declares no conflicts of interests.
Статья поступила в редакцию 03.06.2023; одобрена после рецензирования 22.11.2023; принята к публикации 13.12.2023
The article was submitted 03.06.2023; approved after reviewing 22.11.2023; accepted for publication 13.12.2023
