CC BY
349ПЛЕНАРНЫЕ ДОКЛАДЫ
УДК 303.732
Васильев Юрий Сергеевич,
д-р техн. наук, профессор, академик РАН, Волкова Виолетта Николаевна, д-р экон. наук, профессор, Козлов Владимир Николаевич,
д-р техн. наук, профессор.
КОНЦЕПЦИЯ ОТКРЫТОЙ СИСТЕМЫ: ИСТОРИЯ, СОСТОЯНИЕ, ПЕРСПЕКТИВЫ РАЗВИТИЯ
Санкт-Петербургский политехнический университет Петра Великого Санкт-Петербург, ул. Политехническая, 29, (812) 297-14-40
saiu@ftk.spbstu.ru
Аннотация. Целью данной статьи является переосмысление концепции открытой системы и организмического подхода Л. фон Берталанфи для дальнейшего развития методов теории систем и их применения при моделировании сложных современных проблем.
В статье приводятся основные положения концепции открытой системы с активными элементами, характеризуется роль активных элементов и инжиниринга в развитии системы, роль управления, проблемы устойчивого развития открытой системы. Необходимость осмысления этих проблем становится особенно актуальной в условиях активного развития технологий третьей и четвертой промышленных революций.
Ключевые слова: инновации, инновационные технологии, киберфизическая система, методы организации сложных экспертиз, модель, организмический подход, открытая система, промышленное предприятие, промышленные революции, теория систем, технологии, эмерджентность.
Yury S. Vasiljev,
Doctor of Technical Sciences, Professor, Academic RAN,
Violetta N. Volkova, Doctor of Economics, Professor, Vladimir N. Kozlov, Doctor of Technical Sciences, Professor,
CONCEPT OF THE OPEN SYSTEM: HISTORY, CONDITION, DEVELOPMENT PROSPECTS
Peter the Great St. Petersburg Polytechnic University, St. Petersburg, Polytechnicheskaya str., 29. (812) 297-14-40
saiu@ftk.spbstu.ru
Abstract. The purpose of this article is to rethink the concept of an open system and the organism approach of L. von Bertalanffy for the further development of methods of the theory of systems and their application for the simulation of complex modern problems.
The article presents the main provisions of the concept of an open system with active elements, characterizes the role of active elements and engineering in the development of the system, the role of management, the problems of sustainable development of an open system.
The need to understand these problems has become particularly acute in the context of the active development of the technologies of the third and fourth industrial revolutions.
Keywords: innovations, innovative technologies, Cyber-physical system, methods of organizing complicated expertise, model, organismic approach, open system, industrial enterprise, industrial revolutions, systems theory, technologies, emergence.
Введение
Общеизвестно, что термин «открытая систем» был предложен австрийским биологом Л. фон Берталанфи как основное понятие развиваемого им организмического подхода к исследованию сложных биологических объектов и процессов [1]. Однако этот термин используют и в других научных направлениях - в термодинамике, механике, химии, квантовой механике, отражая обмен исследуемых объектов со средой веществом и энергией. В последнее время предложено использовать и в информатике - возникла концепция открытой информационной системы (ОИС).
Предложенный Л. фон Берталанфи организмический подход и понятие открытой системы стали основой общей теории систем, которая позволила получить ряд полезных результатов для исследования процессов в системах различных классов - технических, биологических, социально-экономических.
Для развития искусственно создаваемых систем, свойства которых мы хотим приблизить к полезным свойствам живых систем, обеспечивающим их эффективное функционирование и развитие, важно переосмыслить суть, состояние перспективы развития концепции открытых систем и организмического подхода.
Бурное развитие технологий в настоящее время инициировало появление новых концепций и терминов, помогающих в осмыслении развития систем. Все более широкое распространение получает термин «киберфизическая система» (англ. Cyber-Physical System - CPS) - информационно-технологическая концепция, подразумевающая интеграцию вычислительных ресурсов в физических процессов. Понятие открытой системы применимо и к системам этого класса и ее применение будет способствовать становлению теории киберфизических систем.
Известный идеолог четвертой промышленной революции К. Шваб считает, что, по своему масштабу, объему и сложности «Четвёртая промышленная революция не имеет аналогов в предыдущем опыте человечества. Новые технологии объединяют физические,
информационные и биологические миры, способны создать, с одной стороны, огромные возможности, с другой - потенциальную угрозу» [2]. При этом К. Шваб прогнозирует, что вначале инновационные технологии будут использоваться по отдельности, но «вскоре наступит тот переломный момент, когда они начнут развиваться, наслаиваясь и усиливая друг друга, представляя собой переплетение технологий из мира физики, биологии и цифровых реалий» [2, с. 9]. «Технологии помогут найти решение многих проблем, с которыми мы сталкиваемся сегодня, но они сами и усугубляют некоторые из этих проблем» [3, с. 273].
Поэтому исследование особенностей и перспектив развития открытых систем становится особенно актуальным.
1. История возникновения и суть концепции открытой системы с активными элементами.
Понятие «открытой системы» впервые было введено австрийским биологом Л. фон Берталанфи в 1937 году на семинаре по философии в Чикагском университете, на котором им была представлена концепция организмического подхода, исходной основой которого являются идея об общих закономерностях в физических, биологических и социальных объектах [1, с. 28]. Однако первые его публикации на эту тему появились только после Второй мировой войны [4-6]. Открытой названа система, постоянно обменивающаяся веществом, энергией и информацией с внешней средой.
Концепция открытой системы была предложена Л. фон Берталанфи, поскольку на основе изучения живых организмов он обнаружил, что лежащая в основе классической науки механическая концепция, опирающаяся на теоретическую физику и законы термодинамики, не могут объяснить удивительный порядок, организацию, регулирование, непрерывные изменения, наблюдаемые в живых организмах, и необходимо новое понимание проблем управляемости и устойчивого развития систем. В открытых системах в отличие от закрытых (изолированных от среды) проявляются термодинамические закономерности, которые противоречат второму началу термодинамики. В соответствии с этим началом общий ход физических событий в закрытых системах происходит в направлении увеличения энтропии и достижения состояния максимальной неупорядоченности. В то же время в открытых системах, в которых происходит перенос и преобразование вещества, в соответствии с концепцией Л. фон Берталанфи «...вполне возможен ввод негэнтропии», т. е. снижение энтропии; и «...подобные системы могут сохранять свой высокий уровень и даже развиваться в сторону увеличения порядка сложности» [1, с. 42].
Л. фон Берталанфи фактически обнаружил в открытых системах новую закономерность - «способность противостоять энтропийным (разрушающим систему) тенденциям и проявлять негэнтропийные тенденции», которая противостоит второму закону термодинамики.
Называя свою концепцию организмическим подходом, Л. фон Берталанфи обращает внимание на то, что понятие открытой системы соответствует живой биологической системе.
Модель простой открытой системы Л. фон Берталанфи поясняет на примере биологического процесса (рис. 1) [1, с. 41].
Компонент А вводится в систему и превращается в результате обратимой реакции в В; одновременно с этим путем необратимой реакции происходит катаболизация и полученный продукт С выводится из системы; К1 и К2 - константы ввода и вывода; к1, к2, к3 - константы реакции. Данная модель в общих чертах соответствует, например, протеиновому обмену в живом организме, где А -аминокислоты, В - протеины, С -продукты физиологического выделения.
Открытая система в отличие от закрытых (изолированных) при соответствующих условиях достигает по Берталанфи состояния подвижного равновесия, в котором ее структура остается постоянной. Но в отличие от обычного равновесия это постоянство сохраняется в процессе непрерывного обмена и движения вещества ([1], с. 42).
В тот же период 1930-х годов российский ученый, венгр по происхождению Э. Бауэр исследовал один из принципиально значимых для понимания процесса развития живых систем принцип принципиальной неравновесности живых систем, т. е. стремление сохранять устойчивое неравновесие и использовать энергию для поддержания себя в неравновесном состоянии. Э. Бауэр объясняет это тем, что все структуры живых клеток на молекулярном уровне заранее заряжены «лишней», избыточной по сравнению с такой же неживой молекулой энергией, и поступающую извне энергию организм употребляет не на работу, а на поддержание своей неравновесной структуры [7].
Благодаря закономерности Л. фон Берталанфи и принципа Э. Бауэра система проявляет: способность противостоять энтропийным (разрушающим систему) тенденциям, проявлять адаптивность, т. е. способность адаптироваться к изменяющимся условиям среды и помехам, причем как к внешним, так и к внутренним, способность
К\ к1 [--В
В | 1 [ *А2
С г
К2
Рис. 1 Модель простой от-
крытой системы
вырабатывать варианты поведения и изменять свою структуру (при необходимости), сохраняя при этом целостность и основные свойства; способность и стремлением к целеобразованию.
Приводимые особенности имеют разнообразные проявления, которые иногда можно выделять как самостоятельные характеристики. Они в большинстве случаев носят двойственный характер, являются и положительными и отрицательными, желательными и нежелательными для социально-экономической системы. С одной стороны, в их числе есть свойства, полезные для существования системы, приспосабли-ваемости ее к изменяющимся условиям среды, но в то же время эти особенности вызывают: неопределенность, нестационарность параметров, неустойчивость функционирования системы, непредсказуемость поведения.
Исследования показали, что особенности открытых систем и объясняющие их закономерности обусловлены наличием активных элементов, стимулирующих обмен материальными, энергетическими и информационными продуктами со средой и проявляющих собственные «инициативы», активное начало. Благодаря этому в таких системах нарушается закономерность возрастания энтропии и наблюдаются негэнтропийные тенденции, т. е. собственно самоорганизация, развитие.
Таким образом, развитие открытой системы происходит:
1) благодаря обмену со средой информацией, энергией, материальными компонентами (т.е. открытости системы) и
2) за счет активных элементов, инициирующих собственные инновации и обеспечивающих взаимодействие инноваций.
Открытую систему можно представить обобщенной теоретико-множественной моделью, которую можно интерпретировать как для CPS, так и для развития предприятия в целом:
S def ° <Z, SiF, TECH, SR, COND, N>, (2)
где Z = {z} - совокупность целей или структура целей и функций открытой системы;
SiF - содержание процесса управления «выращиванием» открытой системы и формы его реализации; при моделирования процесса управления предприятием эту составляющую можно представить совокупностью структур, т. е. STR = {STRHp, STR^, ...} - совокупность структур, реализующих цели (например, для предприятия STR^ - производственная, STR^ - организационная и т. п.);
TECH = {meth, means, alg, ... } - совокупность технологий (методов meth, средств means, устройств, алгоритмов alg и т. п.), реализующих становление и развития системы;
SR - среда, с которой взаимодействует открытая система;
COND = {jex, jin} - условия, в которых осуществляется управление развитием открытой системы, т. е. факторы, влияющие на процесс управления функционированием и развитием системы (jex - внешние, jin -внутренние);
N - «наблюдатели» (по У. Р. Эшби) или стейхолдеры (по Р. Аккофу), т. е. лица, осуществляющие структуризацию целей, выбор методов и средств моделирования, разработку лгоритмов и программ, предлагающие новые технологии, организующие процессы принятия решений по выработки управляющих воздействий и т. п.
Представление модели в формализованном виде помогает сохранять целостное представление организации процесса выращивания и устойчивого развития открытой системы, не упустить все компоненты этого процесса.
2. Роль управления в открытых системах
Создавая искусственные системы, обладающие свойствами, полезными для их развития, такими как приспосабливаемость к изменяющимся условиям, адаптивность, способность вырабатывать варианты поведения, изменять структуру при необходимости, формировать цели и реали-зовывать их, т.е. свойствами, приближающими их к живым развивающимся системам, необходимо учитывать результаты изучения живых организмов, которые показывают, что если бы мы хотели составить алгоритмы, строгие последовательности действий для всех процессов, происходящих в них, то получилась бы ситуация, подобная известному изречению:
«Если бы сороконожка задумалась, какую ей ногу переставлять, то она умерла бы с голоду».
Невозможно составить формальные алгоритмы, полностью отображающие поведения кошки, человека, всех процессов, происходящих на предприятии. Можно только разработать модели («отображения действительности, учитывающие немногие ее свойства» по С. Лему) и на их основе вырабатывать некоторые управляющие воздействия, корректирующие и направляющие поведение таких объектов. При этом модели не обязательно должны быть строго формальными. Они могут быть и описательными или, как принято в этом случае говорить - «объяснительными», т. е. помогающими понять ситуацию, найти хотя бы аналогии и выработать управляющие воздействия.
Пытаясь понять принципиальные возможности моделирования таких систем, уже первые исследователи отмечали, что начиная с некоторого уровня сложности, систему легче изготовить и ввести в действие, преобразовать и изменить, чем формально описать.
По мере накопления опыта исследования и преобразования таких систем это наблюдение подтверждалось, и была осознана их основная особенность - принципиальная ограниченность формализованного описания развивающихся, самоорганизующихся систем.
Таким образом, осмысление особенностей открытых систем позволяет понять, что к живым объектам и системам, которые мы относим к классу открытых систем, принципиально неприменим термин «проектирование». Живую систему, исследование которой стало основой орга-низмического подхода Л. фон Берталанфи», нельзя «собрать» из частей «Ручки, ножки, огуречик - вот и вышел человечек» - не получается!). Ее можно только «выращивать», развивать, корректировать, влиять на процесс движения к достижению желаемого состояния с помощью управления этим процессом, т. е. вырабатывая управляющие воздействия, что можно делать с помощью моделирования.
3. Инжиниринг в открытой производственной системе
Как показывают исследования открытых систем, их развитие происходит не только на основе обмена со средой, но и за счет активных элементов, инициирующих собственные инновации и обеспечивающих взаимодействие инноваций.
Инновации могут заимствоваться из среды и выбираться с учетом предпочтений активных элементов, управляющих процессом развития системы. В то же время можно прогнозировать, что наиболее перспективной формой, обеспечивающей развитие производственного предприятия, может быть инжиниринг в исходном понимании этого термина, возникшего в Европе в XVI веке, (engineering, от лат. ingenium - изобретательность, выдумка, знания), т. е. не только компьютерный инжиниринг (программное обеспечение для инженерного анализа и проектирования [8]), а в первую очередь - использование научно-технических знаний для создания систем, устройств, материалов и организацию процессов производства и управления производственными процессами и деятельностью предприятия в целом.
В таком понимании инжиниринг можно считать подобием живых клеток, содержащих некоторую «избыточную энергию» по Э. Бауэру, а в социально-экономических системах - информацию, которая инициирует инновации для развития организма» предприятия, реализуя организмический подход Л. фон Берталанфи.
Э. Бауэр формулировал принцип устойчивого неравновесия живых систем: «... живые системы никогда не бывают в равновесии и исполняют за счёт своей свободной энергии постоянно работу против равновесия, требуемого законами физики и химии при существующих внешних условиях» [7].
Этот принцип служит для кардинального различения работающей живой системы и работающей механической системы или машины, что выражается в неравенстве потенциалов, в созданном электрическом градиенте, тогда как в неживой замкнутой системе любые градиенты распределяются в соответствии с правилом энтропии равномерно. Эту «лишнюю» энергию, существующую в живых клетках на любом уровне, Бауэр называет «структурной энергией» и понимает как деформацию, неравновесие в строении живой молекулы.
Смысл принципа устойчивого неравновесия заключается в биофизических аспектах направления движения энергии в живых системах. Э. Бауэр утверждает, что работа, производимая данной структурой живой клетки, выполняется только за счёт неравновесия, а не за счёт поступающей извне энергии, тогда как в машине работа выполняется напрямую от внешнего источника энергии. Организм употребляет поступающую извне энергию не на работу, а только на поддержание «избыточной энергии» в живых клетках. «Следовательно, для сохранения их, то есть условий системы, необходимо их постоянно возобновлять, то есть постоянно затрачивать работу. Таким образом, химическая энергия пищи потребляется в организме для создания свободной энергии структуры, для построения, возобновления, сохранения этой структуры, а не непосредственно превращается в работу» [7].
3. Бауэр сделал этот вывод на основе конкретных наблюдений, что дает некоторые основания для аналогий в открытых системах, основные закономерности которых были получены с помощью наблюдений за биологическими объектами и подтверждались последующими исследованиями социально-экономических систем.
Применительно к предприятиям вывод Э. Бауэра можно трактовать как необходимость постоянно поддерживать избыточность энергии, а точнее - информации, в определенных структурах, постоянно затрачивая на это соответствующую работу, что и является задачей инжиниринга, который должен накапливать и использовать информацию, т.е. научно-технические знания, для создания устройств, материалов, организацию процессов производства и управления производственными процессами и деятельностью предприятия в целом.
Причем, инжиниринг должен обеспечиваться не просто каким-то подразделением типа прежних конструкторских бюро (КБ), а быть идеологией развития на всех уровнях производства и управления предприятием.
4. Использование закономерностей теории систем для
исследования проблемы устойчивого развития
открытой системы
Роль активных элементов в открытой системе противоречива. Благодаря активным элементам открытой системы, инициирующим инновации и их взаимодействие, возникает новое качество, т. е.
проявляется закономерность эмерджентности, являющаяся основной негэнтропийных тенденций, противодействующих закону возрастания энтропии в закрытых системах (т. е. второму началу термодинамики), что и обеспечивает развитие открытых систем по Л. фон Берталанфи.
В то же время из-за инициатив активных элементов и инноваций возникают проблемы сохранения устойчивости, способности противостоять нежелательным результатам, которые могут возникнуть от совместного внедрения разнородных инноваций.
Исследования, проводимых в теории инноваций, показали, что любые инновации нарушают нормальное функционирование предприятий и организаций, создают ситуацию «креативного разрушения» по Й. Шумпетеру [9] и В. Зомбарту [10], К. Кристенсен [11] даже вводит термин «подрывные инновации». Поэтому необходимо разрабатывать модели управления устойчивым развитием предприятий и организаций в условиях внедрения и использования инноваций, особенно принципиально новых эмерджентных технологий (напр., [12, 13] и др.).
Из исследований энтропийно-негэнтропийных процессов в открытых системах следует, что они проявляют себя неоднозначно. С одной стороны, негэнтропийные тенденции, реализуемые в форме инноваций, являются основой развития, но одновременно они дестабилизируют систему, вносят нестабильность, т.е. неупорядоченность («креативное разрушение» по Й. Шумпетеру и В. Зомбарту). А энтропийные тенденции, считавшиеся проявлением неупорядоченности, напротив, стабилизируют состояние системы, поскольку минимальное энергетическое состояние, к которому приводят энтропийные процессы - самое устойчивое. Понять эти противоречия помогают закономерности теории систем, которые позволяют оценивать степень проявления энтропийных и не-гэнтропийных тенденций в системе. Основными из них являются следующие.
Закономерность целостности или эмерджентность emerge -появляться) проявляется в следующем [14]:
1) свойства системы (целого) Qs не является простой суммой свойств составляющих ее элементов (частей) q:
n
qs * Е qi;
i=1
2) свойства системы (целого) зависят от свойств составляющих ее элементов (частей): Qs = f (q,);
3) объединенные в систему элементы утрачивают часть своих свойств, присущих им вне системы, т. е. система как бы подавляет ряд свойств элементов; но, с другой стороны, элементы, попав в систему, могут приобрести новые свойства. Если at е S ^ qX и qj 'Т.
Противостоит закономерности целостности закономерность аддитивности или суммативности, которая характеризует распад системы на части.
Закономерность иерархичности или иерархической упорядоченности позволила понять, что формирование иерархии приводит к усилению процесса появления новых, в том числе непредсказуемых и неконтролируемых свойств любой системы, общества. Проблемы, аналогичные закономерности эмерджентности проявляются на каждом уровне иерархической структуры. При этом более высокий иерархический уровень оказывает направляющее воздействие на нижележащий уровень, подчиненный ему, и это воздействие проявляется в том, что подчиненные члены иерархии приобретают новые свойства, отсутствовавшие у них в изолированном состоянии, а в результате появления этих свойств формируется новый, другой «облик целого», способность осуществлять новые функции, в чем и состоит цель образования иерархий.
Для управления устойчивым развитием системы необходимо постоянно контролировать состояние сохранения ее целостности, устойчивости. Для этого разрабатывают модели, основанные на применении информационного подхода А. А. Денисов [15], который ввел сравнительные количественные оценки иерархических структур с точки зрения степени целостности
а= - Св/Со , (3)
и коэффициента использования элементов в целом
Р=Сс /Со , (4)
где С - оценка информационной сложности системы С = ] п Н;
] - информация восприятия; Н - информационная сущность (потенциал);
Сс, Со, Св - системная, собственная и взаимная сложности системы.
С = С + С
сов
Информация восприятия ] и потенциал Н, могут измеряться вероятностно и детерминировано [15, 16]:
] = А/АЛ ,
где А - общее количество каких-либо знаков, воспринимаемых измерительными приборами или иной информации, воспринимаемой органами чувств лица, принимающего решения, АА - «квант», с точностью до которого интересует воспринимаемая информация при принятии решений;
1
Н=Д|> или Н ц =-£ 1с^(1 - р').
И%1 «=1
Исследования А. А. Денисова показали, что любая развивающаяся система находится между состоянием абсолютной целостности и абсолютной свободы элементов.
a + b = 1.
Целостность обеспечивает устойчивость стабильность. Увеличение целостности системы должно повышать эффективность существования и развития социальной системы. Однако исследования процессов взаимодействия части и целого в системе показали, что эффективность функционирования системы вначале при возрастании степени регулирования (степени целостности) увеличивается, а при чрезмерном регулировании начинает снижаться, поскольку подавляются инициативы, способствующие развитию системы, а это отрицательно влияет на рост эффективности системы, и, кроме того, подавление активных элементов вызывает их сопротивление, что снижает безопасность функционирования системы, и в последующем может привести систему к дестабилизации и даже гибели.
Согласуются с этими выводами и дополняют их и исследования Л. фон Берталанфи применительно к теории личности [1, с. 60-65], в соответствии с которым можно сделать вывод, что подавление свободы активных элементов (при возрастании целостности системы) приводит к сопротивлению этих элементов, вплоть до преступности [1. с. 65], т. е. приводит к деградации активных элементов, к снижению эффективности и безопасности функционирования системы.
Для исследования проблем управления развитием CPS полезно применять и другие закономерности теории открытых систем - потенциальной эффективности Б. С. Флейшмана [17], историчности и т. д.
Важно учитывать также, что с точки зрения классификации Р.Акоффа [18, с. 33] в открытых информационных системах, целеустремленными являются и элементы-пользователи, и система в целом. При этом между целеустремленными элементами и между элементами и системой в целом могут возникать различные взаимоотношения. Поэтому в нормально функционирующем организме целеустремленность отдельных компонентов подчинена целеустремленности организма в целом. В то же время на уровне социально-экономических систем целеустремленными являются как система в целом, так и ее элементы, что приводит к проблеме разрешения противоречий между активными элементами (компонентами) и системой в целом. Проблемы открытых систем особенно обострились в условиях активного развития технологий третьей и четвертой промышленных революций.
С учетом рассмотренного при управлении развитием открытых систем возникает задача сравнительного анализа и выбора инновационных технологий с учетом их особенностей, возможностей, полезности и
последствий их внедрения. Это начинает осознаваться и разрабатываются модели для выбора и управления внедрением инноваций (например, [19 - 21]), подготовки кадров для работы в условиях новой информационной среды [22]. При разработке этих моделей применяются методы и модели теории систем (например, [14, 23 - 25 и др.]).
Заключение
Дальнейшее развитие представленной работы предполагает исследование возможностей применения основных положений концепции открытых систем и организмического подхода для развития современных предприятий и организаций при внедрении инновационных технологий третьей и четвертой промышленных революций, выбора их для конкретного предприятия на основе анализа целей его развития, разработки критериев оценки эффекта эмерджентности в результате интеграции информационных и передовых промышленных технологий, разработки и применения форм и методов использования идеи инжиниринга, обеспечивающего развитие производственного процесса и предприятия в целом на основе использования научно-технических знаний для создания продукции и организации процессов производства и управления. При разработке моделей для анализа и управления развитием предприятия предлагается развивать исследование закономерностей теории открытых систем и методы системного анализа. Список литературы
1. Берталанфи Л. фон. Общая теория систем: критический обзор // Исследования по общей теории систем. М.: Прогресс, 1969. С. 23-82.
2. Шваб К. Четвертая промышленная революция: перевод с англ. М.: Изд-во «Э», 2017. 208 с.
3. Шваб К., Дэвис Т. Технологии четвертой промышленной революции. М.: Изд-во «Э», 2018. 320 с.
4. Bertalanffy L. von. Vom Sinn und der Einherit der Wissenschaften // "Der Student", Wien, vol 2, 1947, № 7 - 8.
5. Bertalanffy L. von. Zueiner allgemeinen Systemlehre // "Biologia Generalis", vol. 19, 1949, S.114-129.
6. Bertalanffy L. von. An Outline of General System Theory // British Journal for the Philosophy of Science", vol 1, No 2. Aug, 1950, p. 134.
7. Бауэр Э. С. Теоретическая биология. М. Л.: Изд. ВИЭМ, 1935. 206 с.
8. Компьютерный инжиниринг: учеб. пособие / А.И. Боровков [и др.]. — СПб. : Изд-во Политехи. ун-та, 2012. 93 с.
9. Шумпетер Й. Теория экономического развития / Пер. с англ. М.: Прогресс, 1982.
10. Зомбарт В. Собрание сочинений. Том 3. Роскошь и капитализм. Война и капитализм. М.: Изд-во Владимир Даль, 2008.
11. Кристенсен К. Дилемма инноватора: Как из-за новых технологий погибают сильные компании. М.: Изд-во: Альпина Бизнес Букс, 2004.
12. Problems of Sustainable Development of Socio-Economic Systems in the Implementation of Innovations / V.N. Volkova, A.V. Loginova, L.V. Chernenkaja, E.V. Romanova, Y.Y. Chernyy, V.E. Lankin // Proceedings of the 3rd International Conference on Human Factors in Complex Technical Systems and Environments, Ergo 2018
3. 2018. С. 53-56.
13. Волкова В.Н., Ланкин В.Е. Проблема устойчивости социально-экономической системы в условиях внедрения инноваций четвертой промышленной революции // Научно-практический журнал «Экономика и управление: проблемы и решения. 6, т. 7 (77). 2018, май. С. 25 - 29.
14. Волкова В. Н., Денисов А. А. Теория систем и системный анализ: учебник для академического бакалавриата, 2-е издание, переработанное и дополненное. -М.: Изд-во Юрайт, 2014. - 616 с. - Серия: Бакалавр. Академический курс.
15. Денисов А. А. Современные проблемы системного анализа: учебник. - СПб.: 3-е изд. Изд-во Политехн. ун-та, 2008. - 304 с.
16. Волкова В.Н., Денисов А.А. Методы организации сложных экспертиз. СПб.: Издательство Политехнического университета Санкт-Петербург, 2010. 128 с.
17. Флейшман Б. С., Основы системологии, М.: Радио и Связь, 1982 (1-е изд.) (2-е изд. Bentsion Fleishman, Fundaments of Systemology, Lulu.com, New York, 2007).
18. Акофф Р.Л. Менеджмент а XXI веке: преобразование корпорации / Р.Л. Акофф; пер. с англ. Ф.П. Тарасенко. - Томск: Изд-во Томского ун-та, 1006. 418 с.
19. Подход к сравнительному анализу и выбору технологических инноваций третьей и четвертой промышленных революций / В.Н. Волкова, А.В. Логинова, А.Е. Леонова, Ю.Ю. Черный // XXI Междунар. конф. по мягким вычислениям и измерениям (SCM-2018). Сборник докладов в 2-х томах. Санкт-Петербург. 2325 мая 2018 г. СПб.: СПбГЭТУ «ЛЭТИ». С. 373-376.
20. Волкова В.Н., Кудрявцева А.С. Модели для управления инновационной деятельностью промышленного предприятия // Открытое образование. 2018; 22(4): 6473. https://doi.org/10.21686/1818-4243-2018-4-64-73.
21. Кудрявцева А.С. Модели для управления деятельностью промышленного предприятия при внедрении технологических инноваций // Системный анализ в проектировании и управлении: Труды Междунар. научно-практической конф.
4. 1. СПб.: Изд-во Политехнического университета, 2018. С. 389 - 398.
22. The impact of NBIC-technology development on engineering and management personnel training. V.N. Volkova, V.N. Kozlov, A.E. Karlik, E.A. Iakovleva. Strategic Partnership of Universities and Enterprises of Hi-Tech Branches ...
23. Classification of methods and models in system analysis / V.N. Volkova, V.N. Kozlov, V.E. Mager, L.V. Chernenkaya // Soft Computing and Measurements (SCM), 2017 XX IEEE International Conference. P. 183-186.
24. Волкова В.Н., Козлов В.Н., Ефремов А.А. Вклад школы «Системный анализ в проектировании и управлении» в развитие информатики, информационных систем и технологий // Научно-практический журнал «Прикладная информатика» / Journal of applied informatics. Том 13. №2 (74). 2018 Март - Апрель.
25. Моделирование систем и процессов: Практикум / В.Н. Волкова, Г.В. Горелова, А.А. Ефремов и др. / Под ред. В.Н. Волковой. М.: Изд-во Юрайт, 2016. 295 с.
