МОДЕЛИ, МЕТОДЫ, ТЕХНИЧЕСКИЕ СРЕДСТВА УПРАВЛЕНИЯ РИСКАМИ ПРОЕКТИРОВАНИЯ, СОЗДАНИЯ И ЭКСПЛУАТАЦИИ СЛОЖНЫХ ЧЕЛОВЕКО-МАШИННЫХ СИСТЕМ С УЧЕТОМ ПСИХОФИЗИОЛОГИЧЕСКИХ ХАРАКТЕРИСТИК ЛЮДЕЙ-ОПЕРАТОРОВ Текст научной статьи по специальности «Компьютерные и информационные науки»

ПРИБОРЫ, СИСТЕМЫ

И ИЗДЕЛИЯ МЕДИЦИНСКОГО НАЗНАЧЕНИЯ

УДК [004.02+004.05]:62-5

МОДЕЛИ, МЕТОДЫ, ТЕХНИЧЕСКИЕ СРЕДСТВА УПРАВЛЕНИЯ РИСКАМИ ПРОЕКТИРОВАНИЯ, СОЗДАНИЯ И ЭКСПЛУАТАЦИИ СЛОЖНЫХ ЧЕЛОВЕКО-МАШИННЫХ СИСТЕМ С УЧЕТОМ ПСИХОФИЗИОЛОГИЧЕСКИХ ХАРАКТЕРИСТИК ЛЮДЕЙ-ОПЕРАТОРОВ

Статья поступила в редакцию 15.04.2019, в окончательном варианте — 27.08.2019.

Брумштейн Юрий Моисеевич, Астраханский государственный университет, 414056, Российская Федерация, г. Астрахань, ул. Татищева, 20а,

кандидат технических наук, доцент, ORCID http://orcid.org/0000-0002-0016-7295; https ://elibrary. ru/author_profile.asp?authorid=28053 3; e-mail: brum2003@mail.ru

Молимонов Дмитрий Александрович, Астраханский государственный университет, 414056, Российская Федерация, г. Астрахань, ул. Татищева, 20а, студент, e-mail: dmolimonov@bk.ru

Исследованы возможные классификации сложных человеко-машинных систем; особенности различных видов сложных человеко-машинных систем в отношении их функциональности, организации управления, взаимодействия с внешней средой. Проанализированы причины и структура рисков при проектировании, практическом создании и проведении испытаний сложных человеко-машинных систем; возможные методы риск-менеджмента для этих этапов жизненного цикла сложных человеко-машинных систем. Для этапа эксплуатации сложных человеко-машинных систем предложены модели и практические методы статического и динамического распределения функций между аппаратно-программными средствами сложных человеко-машинных систем и людьми-операторами сложных человеко-машинных систем, учитывающие их психофизиологические характеристики. Охарактеризованы причины и виды ошибок для действий, автоматически выполняемых программно-аппаратными средствами сложных человеко-машинных систем, возможные подходы к управлению рисками таких действий. Изучены направления взаимодействия людей-операторов с контролируемыми/управляемыми ими сложными человеко-машинными системами, представлена структура рисков такого взаимодействия, приведены возможные меры риск-менеджмента. Исследованы подходы к информационному обеспечению людей-операторов, работающих в составе сложных человеко-машинных систем с учетом их психофизиологических особенностей; возможные типы управляющих действий людей-операторов; типичные причины и виды их ошибок; меры для уменьшения их количества и величин негативных последствий. Проанализирована роль индивидуальных психофизиологических параметров людей-операторов в обеспечении качества/надежности эксплуатации сложных человеко-машинных систем. Подробно рассмотрены вопросы, связанные с психофизиологическим тестированием людей-операторов; интерпретацией полученных значений показателей; использованием их при принятии и реализации решений. Предложена классификация тестового/тренажерного оборудования, учитывающая специфику работы людей-операторов в составе сложных человеко-машинных систем. Обоснованы возможности и ограничения профессионального тренинга людей-операторов на основе использования такого оборудования с целью снижения рисков эксплуатации сложных человеко-машинных систем. Приведены достоинства и недостатки использования для целей психофизиологического тестирования разных категорий тестового оборудования; возможности и ограничения его применения для тренинга психофизиологических показателей людей-операторов, повышения их устойчивости к мешающим/отвлекающим воздействиям.

Ключевые слова: сложные человеко-машинные системы, управление в реальном времени, риски проектирования, риски создания, риски эксплуатации, аппаратные средства, люди-операторы, информационное обеспечение решений, реализация решений, психофизиологические показатели, тестирование, тестовое оборудование, тренинг

Графическая аннотация (Graphical annotation)

Сложные человеко-машинные системы

Аппаратно-программные средства Люди-операторы

Риски проектирования Риски создания

i L * i

Модели управления Методы управления

Технические средства управления

MODELS, METHODS, TECHNICAL MEANS OF RISK MANAGEMENT OF DESIGN, CREATION AND OPERATION OF COMPLEX HUMAN-MACHINE SYSTEMS TAKING INTO ACCOUNT PSYCHOPHYSIOLOGICAL CHARACTERISTICS OF PEOPLE-OPERATORS

The article was received by the editorial board on 15.04.2019, in the final version — 07.07.2019.

Brumshteyn Yury M., Astrakhan State University, 20a Tatishchev St., Astrakhan, 414056, Russian Federation,

Cand. Sci. (Engineering), ORCID http://orcid.org/0000-0002-0016-7295; https ://elibrary. ru/author_profile.asp?authorid=280533; e-mail: brum2003@mail.ru

Molimonov Dmitry A., Astrakhan State University, 20a Tatishchev St., Astrakhan, 414056, Russian Federation,

student, e-mail: dmolimonov@mail.ru

The authors consider possible classifications of complex human-machine systems; features of different types of complex human-machine systems concerning their functionality, management organization, interaction with external environment. Causes and structure of risks, that are present during design, practical creation and complex human-machine systems tests conduction stages; possible methods of risk management for these stages of complex human-machine systems life cycle are analyzed. For operational stage of complex human-machine systems the authors suggest to use the models and practical methods of static and dynamic functions allocation between complex human-machine systems "hardware-software" and human-operators that take in account their psychophysiological characteristics. Causes and types of errors for actions that are automatically carried out by hardware-software means of complex human-machine systems, possible approaches to risk management of such actions are characterized. The directions of human-operators interaction with complex human-machine systems that are controlled/managed by them are studied, the structure of risks of such interaction is presented, possible measures of risk management are given. Authors are investigated approaches to information support of human-operators working in complex human-machine systems structure that take into account their psychophysiological features; possible types of humanoperators control actions; typical causes and types of their errors; measures to reduce the amount of errors and negative effects values. The role of human-operators individual psychophysiological parameters in ensuring quality/reliability of complex human-machine systems operation is analyzed. The article elaborates on the issues related to human-operators psychophysiological tests; interpretation of the obtained indicators values; their use during decision making and decisions implementation. The classification is proposed for test/training equipment. This classification takes into account specificities of human-operators work as a part of complex human-machine systems. Opportunities and restrictions of human-operators professional training, based on the use of such equipment for the

purpose of risk reduction of complex human-machine systems operation, are substantiated. Authors are considered also merits and demerits for different categories of test equipment use for the purposes of psychophysiological testing; opportunities and limits of its application for human-operators psychophysiological indicators training, increase in their resistance to disturbing/distracting influences.

Keywords: complex human-machine systems, real time management, design-related risks, creation-related risks, operation-related risks, hardware, human-operators, information support of decisions, decisions implementation, psychophysiological indicators, testing, test equipment, training

Введение. Современный этап социально-экономического развития человеческого общества характеризуется возрастанием сложности используемых технологий производства высокотехнологичной продукции, контроля и управления различными системами и процессами, в том числе с применением сложных человеко-машинных систем (СЧМС) управления [6, 10, 21, 25]. В настоящее время управление СЧМС компьютеризировано, причем в ряде случаев программные средства (ПС) обладают возможностями искусственного интеллекта. Это обеспечивает повышение надежности эксплуатации систем управления; вероятностей своевременного принятия и реализации управляющих решений, в том числе в предаварийных и аварийных ситуациях. Однако и роль людей-операторов (ЛО) в управлении СЧМС во многих случаях также остается весьма значительной [1, 7, 9, 17]. При этом в ряде работ СЧМС трактуются как часть организационно-технических систем [18]. В существующей литературе вопросы анализа и управления рисками проектирования и эксплуатации СЧМС, обеспечения надежности [17] и качества работы ЛО в составе таких систем проанализированы недостаточно комплексно. Поэтому целью данной статьи является попытка устранения указанных недочетов исследований.

Сложные человеко-машинные системы: принципы классификации и типичные особенности. В соответствии с формулировкой термина СЧМС должны обладать следующими особенностями. 1. Быть сложными, т.е. включать в себя достаточно большое количество объектов, между которыми имеются развитые взаимосвязи различных типов, включая связи, относящиеся к передаче информации. 2. Содержать аппаратно-программные средства (АПС).

3. Включать в себя ЛО, задействованных в «контуре» (или «контурах») управления СЧМС.

4. Обеспечивать необходимые средства информационной поддержки деятельности ЛО, их взаимодействия с АПС СЧМС.

Возможные варианты категорирования СЧМС. 1. По сфере (области) использования: химико-технологические процессы; процессы пищевых производств; процессы металлургических производств - в том числе непрерывные; биомедицинские технологии, включая относящиеся к проведению сложных хирургических операций, обеспечению реанимации пациентов и пр.; добыча полезных ископаемых, включая нефть и газ; управление средствами транспорта; управление цепями поставок и логистикой на складах; военное дело и пр. 2. По количеству ЛО, используемых в составе «контуров управления» СЧМС: один человек-оператор (ЧО); два ЧО; три или большее количество ЛО, обычно взаимодействующих друг с другом. 3. По стоимости АПС, используемых в СЧМС. Оценки такой стоимости могут рассматриваться как интегральный показатель не только «масштаба СЧМС», но и объемов используемых в этих системах наукоемких решений. 4. По роли ЛО в управлении СЧМС: контроль работы средств автоматического управления и вмешательство только при необходимости; преимущественно контроль, но с периодическим использованием ручного управления СЧМС; преимущественно ручное управление СЧМС, но часть периодов времени управление осуществляется автоматическими системами управления (АСУ). Для этих вариантов формальная оценка роли ЛО может быть дана на основе долей времени за рабочую смену, в течение которых управление осуществляется в ручном режиме. Значимым показателем может быть также количество случаев, в которых ЛО вынуждены были брать управление СЧМС на себя. Однако возможен и вариант, когда параллельно осуществляется управления СЧМС со стороны и АСУ и ЧО - например, с разделением между ними объектов управления. При этом в ряде технологических процессов, требующих управления в реальном времени, использование АСУ является обязательным, так как ЛО просто не могут достаточно быстро реагировать на изменения (динамику развития) ситуации.

5. По степени функциональности (объемов потенциальных возможностей) в отношении управления СЧМС, в том числе возможностей управления для ЛО. 6. По особенностям организации управления СЧМС, в том числе профессионального отбора ЛО; порядков допуска ЛО к работе в сменах; длительностям смен работы ЛО; степеням детерминированности действий ЛО различными инструкциями, регламентами и пр.; по методам ретроспективного анализа действий ЛО, принятия решений по результатам такого анализа и пр. 7. По уровням внутренних угроз для управляемых СЧМС. В связи с этим используются понятия «опасное производство»,

«опасный технологический процесс» и пр. 8. По уровням внешних угроз (непреднамеренных и умышленных) для СЧМС, включая физические угрозы, угрозы информационной безопасности и пр. Это касается не только «военной сферы», но и гражданской.

Взаимодействие СЧМС (включая ЛО, включенных в «контуры управления») с внешней для них средой может заключаться в двустороннем или одностороннем обмене веществом (материальные потоки); энергией (в тех или иных формах); информацией (также в различных формах). Финансовые потоки (входящие и исходящие) в отношении СЧМС не типичны - они относятся в большей степени к тем организациям, в составе которых эксплуатируются СЧМС. Для СЧМС характерны еще и развитые внутренние потоки (информации, энергии и т.д.); использование развитых средств получения и накопления данных, их обработки, представления результатов в наглядной форме и пр.

При анализе рисков для СЧМС важно учитывать внешние и внутренние угрозы для их деятельности, планировать и использовать средства борьбы с такими угрозами. Возможные объекты, на которые могут быть направлены умышленные или непреднамеренные угрозы.

1. Аппаратные средства СЧМС, включая датчики, ЭВМ, исполнительные механизмы и пр. При этом реализация угроз может приводить к физическому повреждению СЧМС или их частей, утрате их функциональности и пр. 2. ПС СЧМС, включая базы данных (БД), базы знаний, управляющие программы и пр. 3. Каналы связи СЧМС с внешней средой, включая информационные. 4. Условия эксплуатации СЧМС, в том числе качество снабжения их электроэнергией, включая перерывы подачи энергии, кратковременные всплески напряжения, «блэкауты» и пр. 5. Непосредственно жизнь или здоровье ЛО. 6. Психофизиологическое состояние ЛО, степень их устойчивости к воздействиям на них, включая информационные. 7. Внешние условия деятельности ЛО, включая температуру и влажность воздуха, появление дыма, неприятных запахов, усиление вибраций [16] и пр.

Основным видом внутренних угроз для многих (если не большинства) видов СЧМС часто являются неправильные, неточные или несвоевременные действия ЛО. В случае если используются группы ЛО, то фактором риска могут быть также несогласованные (не скоординированные) действия отдельных операторов в условиях стрессовых воздействий.

Типичные внешние потенциальные угрозы для «гражданских» СЧМС: экстремальные гидрометеорологические факторы; возможность сейсмических воздействий с интенсивностью превышающей проектные значения; поступление для переработки некачественного сырья; утечки конфиденциальной информации и пр. Для СЧМС «военного назначения» дополнительно отметим следующее: возможности атак на защищаемые объекты с использованием снарядов, ракет, авиабомб - обычных и корректируемых, использование ударных беспилотных летательных аппаратов; применение средств радиоэлектронного воздействия на СЧМС, в том числе электромагнитных полей [15] и др.; блокирование каналов связи и управления распределенными в пространстве объектами СЧМС (например, в робототехнических системах) путем создания электромагнитных помех; использование «ложных целей» для маскирования реальных объектов, которые должна выявлять СЧМС (например, радиолокационный комплекс); угрозы перехвата и дешифровки конфиденциальных сообщений, связанных с работой СЧМС и пр.

Для СЧМС военного назначения (в том числе относящихся к производству боеприпасов) уровни непосредственных угроз для жизни и здоровья ЛО [19, 20] обычно значительно выше, чем в гражданской сфере. Поскольку для ЛО эти угрозы известны, то это может создавать для них «негативный эмоциональный фон»; при наличии рисков - тормозить принятие и реализацию объективно необходимых решений.

Структура рисков и основные направления риск-менеджмента при проектировании и испытаниях СЧМС. Проектирование СЧМС может носить как «типовой», так и «индивидуальный» характер - для конкретного заказчика, конкретного места размещения/эксплуатации и пр. Обычно при наличии типовых проектов СЧМС «привязка» их к конкретным условиям деятельности требует значительно меньших усилий, чем разработка с нуля.

Основные виды рисков при проектировании СЧМС. 1. Неправильное определение необходимой функциональности СЧМС, особенно при нечеткой информации о предполагаемых условиях ее эксплуатации. При этом недостаточная функциональность может в дальнейшем исключить возможность эксплуатации СЧМС при отсутствии возможностей модернизации. В то же время избыточная функциональность может не только увеличивать стоимость СЧМС, затруднять ее практическое использование, увеличивать количество недочетов в работе ЛО.

2. Ошибки в проектировании аппаратных средств СЧМС, особенно те, которые в дальнейшем нельзя устранить в порядке модернизации, замены отдельных блоков и пр. 3. Использование в проектах импортных комплектующих, изделий и пр. При этом возможны два подвида рисков:

а) наличие в таких изделиях «недокументированных возможностей», которые могут быть использованы злоумышленниками; б) потенциальная вероятность прекращения импорта изделий в силу санкций, ухудшения международных отношений и пр. Следствия по пункту б: невозможность выпуска СЧМС; отсутствие запчастей для замены вышедших из строя и, как следствие, прекращение эксплуатации оборудования. 4. Неполная или недостаточно качественно проведенная экспертиза «патентной чистоты» для разработанного проекта СЧМС, особенно если имеется потенциальная возможность его экспорта. 5. Ошибки или недочеты в проектировании и разработке ПС СЧМС, особенно в отношении архитектуры АСУ; систем автоматизированного управления (САУ) с участием ЧО; информационно-измерительных систем (ИИС); информационно-управляющих систем (ИУС) и пр. Однако во многих случаях ПС могут быть впоследствии модифицированы (при необходимости).

Использование в СЧМС зарубежных ПС (в том числе и с «открытым кодом») обычно повышает угрозы информационной безопасности, в том числе и для будущего периода времени. Основные причины: а) недостатки (в том числе и «недокументированные возможности») таких ПС могут выявляться уже в процессе их эксплуатации, а затем сведения о них быстро распространяются через интернет; б) ограниченные по времени сроки поддержки разработчиками созданных ими коммерческих ПС; в) использование при разработках зарубежных инструментальных средств может приводить к появлению «недокументированных возможностей» и в созданных ПС для СЧМС. 6. Ошибки в определении необходимых требований к количеству ЛО для СЧМС, их профессиональной квалификации, необходимых для нормальной эксплуатации СЧМС психофизиологических показателей [3, 4, 23] и пр. 7. Недостатки в принятых при проектировании СЧМС средствах представления информации для ЛО, а также получения от них управляющих команд с учетом их психофизиологических особенностей [11, 23]. 8. Недостаточно полный учет существующих рисков информационной безопасности для СЧМС; неправильная оценка тех рисков, которые могут появиться в будущем. 9. Недостаточные объемы проведения приемо-сдаточных испытаний СЧМС, что может приводить к неполноте выявления их недостатков. Однако объемы таких испытаний обычно ограничиваются: календарными сроками; располагаемыми трудовыми ресурсами; износом аппаратной части СЧМС - особенно при проведении испытаний в «нештатных» и форсированных режимах. 10. Неверное (неточное) определение длительностей жизненных циклов СЧМС, что может приводить к нерациональным проектным решениям.

Возможные меры риск-меджмента (РМ) по направлениям, рассматриваемым в этом разделе. 1. Анализ информации об уже разработанных аналогичных СЧМС, принятых в них технических решениях, опыте их внедрения и эксплуатации, появлении аварийных и нештатных ситуаций. Преимущества: а) возможность исключить повторное проектирование, так как может быть проще закупить готовую СЧМС или адаптировать уже существующий проект для конкретного применения; б) анализ сведений по уже используемым СЧМС (а также тем, разработка которых анонсирована) может позволить избежать проведения некоторых предпроектных исследований. 2. Анализ научной периодики и патентной документации по тематике, связанной с предстоящим проектированием СЧМС, в ряде случаев позволяет выявить перспективные, но еще не используемые технические решения. 3. Экспертиза технических заданий на проектирование СЧМС, а также уже разработанных проектов до начала их практической реализации. Однако возможности проведения квалифицированной экспертизы проектов СЧМС могут ограничиваться следующими факторами: а) необходимостью сохранения секретности разработок военного или двойного назначения; б) требованиями к конфиденциальности информации в отношении предполагаемых разработок гражданского назначения в силу рыночной конкуренции не только на всероссийском уровне, но и на международном. 4. Подбор квалифицированных проектировщиков СЧМС, объективная оценка их квалификации, адекватная оплата их труда с учетом его объема, сложности, качества, необходимых сроков завершения. 5. Использование при выполнении разработок ПС для автоматизированного проектирования, которые могут исключать некоторые технические ошибки проектировщиков. 6. Применение хорошо зарекомендовавших себя методологий концептуального, функционального и информационно-логического проектирования ПС для СЧМС. 7. Использование апробированных ПС и методологий «надежного программирования» для уменьшения вероятностей ошибок во вновь создаваемых ПС. 8. Организация необходимого контроля разработанной конструкторской, технологической и программной документации. 9. Патентование оригинальных технических решений, использованных в СЧМС, как средство защиты объектов интеллектуальной собственности от несанкционированного использования. 10. Обеспечение необходимых мер информационной безопасности в отношении выполняемых разработок СЧМС, в том числе и с учетом

< Z(max) (2)

потенциальных возможностей перехода специалистов-проектировщиков на работу в другие организации. 11. Использование методологий «управления проектами» при создании и практической реализации СЧМС, в том числе для рационального управления сроками, трудовыми и материальными ресурсами [24]. При этом может использоваться как приобретение коробочных версий ПС «управления проектами», так и их применение по модели (технологиям) SaaS [2].

Практически все вышеперечисленные методы РМ являются затратными, а зависимости положительных эффектов от величин затрат носят нелинейный характер. К отрицательным эффектам РМ можно отнести затраты, в ряде случаев -побочные негативные эффекты в отношении рисков. В простейшем случае оптимальное распределение затрат по направлениям

уменьшения рисков в виде вектора \Т,{ },=1 1 определяется максимумом функции

Ф = £(р (2,) - 2г) (1)

г=1

при наличии ограничений на суммарные затраты (2(тах))

( I А 1.2,

V г=1

и, возможно, на отдельные виды затрат

2г(тт) < 2 < 2г(тах)}=1 1 . (3)

Модель, описываемая формулами (1)-(3), является простейшей, так как не учитывает влияния затрат по одним направлениям уменьшения рисков на величины рисков по другим направлениям.

Типичные варианты организации управления СЧМС с участием людей-операторов.

1. Ручной режим управления, возможно с блокировкой или корректировкой ошибочных действий ЛО. При этом могут использоваться специальные базы знаний в отношении недопустимых действий ЛО; в некоторых случаях - методы имитационного моделирования для получения прогноза развития ситуаций с учетом реализуемых действий и пр.

2. Управление СЧМС осуществляется в «директорном режиме» в реальном времени. При этом ЧО просто выполняет те действия, которые ему «указывает» САУ. Однако, если ЧО считает какие-то «указываемые» действия неправильными, то он может отказаться от их выполнения или частично скорректировать их. Такой режим приводит к высокой нагрузке на ЛО в отношении объемов воспринимаемой информации; необходимости высокой скорости реакций; часто - большой интенсивности выполняемых действий. Как следствие, утомление ЛО может приводить к повышению вероятностей возникновения ошибок в их действиях.

3. Основную работу по принятию и реализации решений в отношении управляемой СЧМС выполняет САУ. Оператор реализует только некоторую часть управленческих функций (действий), которые нецелесообразно передавать САУ. Это касается принятия и реализации решений в нечетких условиях, а также действий упреждающего характера, т.е. проактивных.

4. Люди-операторы осуществляют непрерывное наблюдение за управляемым объектом и действиями САУ. При необходимости они вмешиваются в ее действия путем перехода на ручной режим управления в течение какого-то периода. Затем управление возвращается САУ

5. Часть управляющих действий реализует человек. Параллельно другую часть управляющих действий выполняет САУ. Потенциально при этом возможно возникновение «конфликтов по управлению». Например, известны случаи, когда для пассажирских самолетов одновременное использование ручного управления (с помощью «ручки управления») и работы САУ приводило к катастрофам. Однако при адекватном распределении функций между ЧО и САУ такие риски минимальны.

На практике необходимость переходов от одних вариантов управления СЧМС к другим чаще всего определяют сами ЛО. Однако возможны и ситуации, когда АПС выдают запросы ЧО на действия и переходят в режимы ожидания их действий.

Основные категории информации, используемой людьми-операторами. 1. Сведения, предназначенные только для информирования ЧО о состоянии СЧМС, происходящих в них процессах, тенденциях изменения параметров и пр. Сюда же можно отнести большинство предупреждающих сообщений. 2. Информация, требующая необязательной реакции ЧО. В таких случаях ЛО обычно сами принимают решения о выполнении действий или об отказе от них. 3. Сведения, требующие обязательной немедленной реакции от ЧО или бригады ЛО. При этом может использоваться выбор яркого (контрастного) цвета для сообщений [8], дополнительная визуальная сигнализация (включая мигающую) или звуковая сигнализация,

комбинация визуальной и звуковой сигнализации. Возможны три подхода к реализации дополнительной сигнализации: а) однократно на ограниченное время; б) сигнализация действует непрерывно, пока ЛО не выполнят нужные операции, однако это может их отвлекать от более срочных действий; в) сигнализация повторяется периодически, пока ЛО не выполнят нужные действия. Возможны также случаи, когда дополнительная сигнализация дается для привлечения внимания ЛО к двум или более необходимым действиям. Тогда ЛО должны сами определять приоритетность этих действий. При необходимости реализации различных действий одновременно в мозгу ЧО может происходить так называемая «сшибка» сигналов, и необходимые действия будут взаимно тормозиться. 4. Информация, требующая от ЧО отложенной по времени реакции, в том числе в определенные моменты будущего времени или при определенных условиях. При этом ЛО должны помнить о необходимости выполнения таких действий, сохранять в памяти моменты и/или условия их выполнения. При этом увеличивается «умственная» нагрузка на человека, включая необходимость «распределения внимания» между различными выполняемыми задачами - текущими и отложенными.

На практике к ЛО одновременно могут поступать сообщения разных категорий важности/срочности, при этом операторы должны самостоятельно определять их принадлежность к категориям. Для особо важной информации можно давать какие-то графические пометки на дисплеях для операторов, например с помощью красного восклицательного знака.

Принципы обеспечения ЛО необходимой информацией и использования для этой цели различных сенсорных каналов. Основными сенсорными каналами, по которым к ЧО может поступать информация: зрение; слух; восприятие тепла - в том числе контактное и в виде инфракрасного излучения; «вибрационный канал»; восприятие ускорений; осязание; запаховый канал; вкусовой канал. Для всех этих каналов возможно проведение тестирований (в том числе с использованием инструментальных средств) и тренинга. Отметим потенциальную возможность иллюзий для слуха и зрения (включая восприятие тех объектов, которых на самом деле нет), а также «наложение» в памяти ЧО информации, поступившей в разное время.

Возможные варианты представления информации ЛО. 1. Полностью в автоматическом режиме на основе алгоритмов, отрабатываемых САУ, АСУ и пр. При этом возможно динамическое управление объемами и содержанием информации, включая вывод только информации, необходимой для принятия ЛО решений. Не отображаемая на дисплеях информация может накапливаться в БД, использоваться для ретроспективного анализа, оценки действий ЛО и пр. Для представления на дисплеях большого объема графической информации возможно использование мозаики изображений (например, в системах охранного видеонаблюдения); показ только тех объектов (например, частей территории), для которых происходит изменение изображений при движении объектов. 2. Управление получением необходимой информации осуществляется ЛО в ручном режиме. Варианты: по запросам ЛО с клавиатуры к САУ или ИУС в текстовой или текстово-числовой форме; нажатие ЧО кнопок; использование им переключателей или регуляторов; касание пальцами необходимых зон сенсорных дисплеев в экранных меню; отбор ЧО проб расходных материалов для визуального контроля их качества (например, моторных и смазочных масел); отбор ЧО проб пищевой продукции и сырья для органолептического контроля; инструментальный контроль ЧО отобранных проб и пр. В варианте 2 на ЛО ложится дополнительная интеллектуальная нагрузка по принятию и реализации решений, связанных с получением информации. Поэтому решение задач непосредственного управления СЧМС может быть осложнено. 3. Смешанный режим управления получением информации: часть времени по варианту 1, а часть - по варианту 2. 4. Параллельный режим получения информации - часть информации отображается для ЛО на дисплеях автоматически (по пункту 1), а часть - в режиме ручного управления по пункту 2.

При больших потоках поступающей информации единственный ЧО может не успевать ее воспринимать в полном объеме и, как следствие, пропускать важные сообщения. В связи с этим возможны такие группы мер РМ. 1. Работа непосредственно с ЛО: а) отбор на должности ЛО лиц, обладающих достаточными скоростями восприятия и обработки информации, в том числе с помощью психофизиологического тестирования; б) оперативный контроль физиологического состояния ЛО перед началом смен и, возможно, в течение смен. 2. Управление отображением информации для ЛО: а) сохранение критически важной информации на экране до изменения ситуации; б) повторение отображения наиболее важной информации, если ЧО своевременно не предпринял необходимых действий; в) ограничение объемов информации теми пределами, которые способен воспринимать ЧО. Эти пределы могут

быть определены экспериментально и различаться для разных ЛО; г) использование группы ЛО с разделением между ними видов информации и, возможно, функций управления; д) разделение отображаемой информации на две группы: 1) Информация, важная для всех или большинства ЛО, показывается им всем одновременно; 2) Специфическая информация, необходимая отдельным ЛО, демонстрируется только им в индивидуальном порядке. Например, сочетание 1 и 2 используется в центрах управления полетами космических станций и иных объектов: на большом экране показывается информация общего характера, и дополнительно каждый из ЛО работает с отдельной ПЭВМ (терминалом); е) разделение информации между членами группы (бригады) ЛО по ее пространственной принадлежности. Например, в системах управления движением воздушных судов конкретные самолеты по мере их перемещения в пространстве могут «передаваться» от одного диспетчера к другому.

Для уменьшения нагрузки на зрительную систему ЧО в СЧМС может использоваться передача части информации с помощью звукового канала. При этом учитывается, что «зрительный» и «звуковой» анализаторы находятся в разных областях мозга человека. Однако для принятия решений поступающая информация должна ЧО дополнительно сопоставляться.

Характеристика основных показателей для каналов восприятия информации, используемых людьми-операторами. Показатели, связанные со зрением. 1. Острота зрения определяется по специальным таблицам. Необходимая острота зрения ЛО может быть во многих случаях обеспечена использованием очков, контактных линз и пр. Для профессиональной деятельности ЛО острота зрения может оцениваться не только при нормальной освещенности, но и при условиях, имитирующих особенности их работы: при пониженной и повышенной освещенности; при белом свете с разной цветовой температурой; при цветном освещении и т.д. 2. На скорость восприятия и распознавания предъявляемых на экранах объектов влияние может оказывать сложность изображений, их цвет [4, 8], скорость аккомодации глаз для объектов, расположенных на разных расстояниях и пр. Отметим возможности современных ПС по «размытию» заднего фона изображений (т.н. эффект Боке), что позволяет уменьшить «отвлечение внимания» ЛО. Скорости восприятия могут значительно отличаться для графических объектов, числовой информации, текстовой, смешанной. В последних трех случаях важны размеры шрифтов, их начертания, наличия стилизованных представлений цифр на сегментных дисплеях. 3. Для зрительного внимания в литературе (например, [11]) принято выделять такие характеристики: концентрированность, объем, селективность, переключаемость, распределяемость и устойчивость. Показатели зрительной памяти (например, [11]): объем и оперативность. 4. Пороги различения яркостей объектов по отношению к фону. 5. Качество различения цветов (оттенков) по отношению к фону, в том числе при различных уровнях освещения [4, 5, 8, 13]. 6. Качество распознавания различных объектов на фоне визуальных помех, включая преднамеренно созданные - например, путем использования маскировочных сетей, объектов-имитаторов и пр. 7. Длительность периода времени, за который у ЧО появляется утомление при восприятии информации по визуальному каналу. Этот период также зависит от интенсивности поступления информации, в том числе наличия пиковых нагрузок. 8. Скорости действий ЛО в ответ на поступающую зрительную информацию. При этом термин «скорости психомоторных реакций» [22] относится в основном к информации, не требующей осмысления для выполнения действий. Эти скорости при утомлении ЛО изменяются - обычно увеличиваются.

Показатели, связанные со слухом. 1. Минимальная громкость восприятия звуков, не являющихся содержательной речью - например, в виде амплитудно-частотной характеристики для нижнего порога слышимости. 2. Минимальная относительная (по сравнению со звуковым фоном) громкость восприятия содержательной речи. 3. Разборчивость воспринимаемой речи зависит от ее громкости; наличия звуковых помех; языка, на котором произносятся фразы; качества работы слухового анализатора в мозгу человека (может нарушаться при некоторых заболеваниях, ухудшении самочувствия и пр.); скорости речи, особенно при большом количестве слов/фраз и пр. Разборчивость речи может оцениваться по процентам правильно воспринятых ЧО на слух цифр (чисел, слов). При этом распознавание слов во фразах может быть более легким, чем слов по отдельности, в силу использования контекстов фраз, иногда и последовательностей фраз. 4. Возможности различения ЛО звуков разной частоты и интенсивности. Это важно в отношении появления не характерных звуков в технологических процессах; при работе различных моторов, редукторов; не типичных шумов в биотехнических системах и пр. 5. Минимальные длительности уверенного восприятия звуков при однократной, двукратной и тройной звуковой сигнализации с целью привлечения внимания ЛО. Эти

длительности зависят также от громкости и тональности звуков, общего физического и/или психофизиологического утомления ЛО.

Толчки и вибрации. Возможные направления оценки для ЧО. 1. Минимально воспринимаемые ускорения при однократных толчках (ударах) - они зависят также от их продолжительностей. 2. Точности оценки ЧО величин ускорений при толчках. 3. Минимальные пороги (амплитуды) восприятия вибраций на одной частоте или для совокупности частот (исследования обычно выполняются на серийно выпускаемых вибротестерах только для кончиков пальцев рук). Однако для практики важны также оценки и чувствительности ЧО к вибрациям тела в целом [16], причем раздельно для положений стоя и сидя. В отношении вибраций могут ставиться задачи оценки сил их влияния на качество восприятия информации ЛО по визуальному каналу, скорости психомоторных реакций [22] ЛО, быстроту утомления ЛО и пр.

Для ЛО, работающих на самолетах и судах, важно исследование (оценки) влияния воздействий перемещений объектов в пространстве на их вестибулярный аппарат в отношении качества восприятия зрительной и звуковой информации. Такие исследования в лабораторных условиях требуют сложного оборудования, обеспечивающего вращения тела ЧО, иногда в сочетании с линейными перемещениями. Поэтому они нередко проводятся в натурных условиях, что обходится достаточно дорого.

К качеству осязания ЛО обычно требования не предъявляются. Однако нередко ЛО работают с органами управления «на ощупь», чтобы не отвлекать зрительное внимание. Поэтому при проектировании пультов управления СЧМС может быть целесообразным использование индивидуальных форм для различных кнопок, переключателей, регуляторов.

По восприятию запахов требования к ЛО предъявляются в таких случаях. 1. Появление запаха свидетельствует о нарушениях технологического процесса, возникновении предаварийных и аварийных ситуаций (включая аварийные выбросы в воздух), утечках из трубопроводов. Индивидуальная чувствительность к запахам и качеству их дифференциации у ЛО может сильно различаться. Поэтому невосприятие запаха может быть фактором риска как для самих ЛО, так и для управляемых ими техпроцессов в СЧМС. Отметим следующее: а) время привыкания ЧО к запаху (после которого он уже не воспринимается) у ЛО может быть достаточно коротким, а время восстановления чувствительности (после исчезновения запаха) - более длительным; б) пахнут не все вещества, включая газы. Например, ЛО не ощущают запах метана, если в него не подмешан меркаптан. Однако инструментальные средства для анализа состава газов сейчас хорошо разработаны, выпускаются серийно. 2. У ЛО могут быть аллергические реакции на запахи, сопровождающие некоторые технологические процессы. При этом сами запахи могут ЛО не ощущаться, а аллергические реакции приводить к значительному ухудшению качества работы ЛО, скоростей и точностей его реакций. 3. Качество дифференциации запахов объектов может быть важно при использовании ЛО для отбора и органолептической оценки проб сырья и/или пищевой продукции. При этом инструментальные средства для анализа запахов (обычно трактуемые в литературе как «электронный нос») используют биосенсоры и пока носят в основном экспериментальный характер.

По качеству восприятия вкуса объектов требования к ЛО предъявляются преимущественно лишь в сфере изготовления пищевой продукции, контролируемой органолептическими методами (для оценки тонких вкусовых различий инструментальные методы контроля иногда могут быть малоэффективны). Диагностика вкусовых ощущений ЛО может быть также частью некоторых видов медицинских исследований для выявления заболеваний.

Качество движений людей-операторов: номенклатура показателей и подходы к оценкам. В большинстве случаев воздействия на СЧМС со стороны ЛО осуществляются без корректировки их управляющих движений, поэтому важны показатели качества этих движений. Для одного ЧО качество движений может оцениваться по таким параметрам: точность движений, в том числе в отношении установки линейных и угловых положений регуляторов и пр.; адекватность усилий, прикладываемых ЛО для перемещения органов регулирования (управления); плавность движений, т.е. отсутствие резких рывков, которые могут негативно отразиться на управляемых объектах; степень скоординированности движений двух верхних конечностей, а в ряде случаев и отдельных пальцев (например, последовательное нажатие двух кнопок разными пальцами с некоторым запаздыванием); скоординированность движений верхних и нижних конечностей ЧО - пространственная и по времени выполнения.

Для исследований и тренинга качества движений отдельных ЛО могут использоваться различные подходы и методы, в том числе с выполнением им действий на макетах пультов

(устройств) управления; с имитацией реакций управляемых систем на отдельные действия ЧО и их совокупности. Преимущество проведения исследований на специальных тренажерах -возможность отработки действий при нештатных (и аварийных!) ситуациях без какого-либо вреда для СЧМС. Возможные причины низкого качества движений ЧО. 1. Недостаточно точная пространственная моторика верхних или нижних конечностей, в том числе при наличии непостоянного сопротивления перемещениям у органов управления. Возможные причины: некоторые нервные заболевания ЧО, усталость мышц, плохое самочувствие и пр. Однако визуальный контроль производимых ЧО действий (и их результатов) во многих случаях позволяет проблему неточности движений снять. 2. Непроизвольный тремор конечностей (особенно верхних) может встречаться у ЛО при различного рода нервных заболеваниях, значительных эмоциональных нагрузках, при миопатии, при мышечной усталости. Наличие тремора может удлинять психомоторные реакции ЛО на поступающую информацию, снижать точность реализации движений, их координацию. Методы функциональной диагностики тремора верхних конечностей, в том числе при функциональных нагрузках, достаточно хорошо отработаны.

Варианты программно-аппаратной корректировки движений ЧО: а) масштабирование его движений с помощью АПС. При этом большим амплитудам движений рук оператора будут соответствовать значительно меньшие перемещения исполнительных механизмов. Например, такое масштабирование с визуальным контролем перемещений осуществляется в роботохирургических комплексах DaVinci; б) сглаживание чрезмерно резких движений ЧО; в) ограничение амплитуд движений ЧО пределами, допустимыми с точки зрения прочностей оборудования; появления воздействий на ЧО неблагоприятных факторов (например, чрезмерных ускорений тела у летчиков).

Дополнительные показатели оценивания «качества действий» для группы ЛО. 1. Скоординированность по времени действий различных ЛО, управляющих разными объектами (системами, процессами и пр.) в СЧМС. Термин «скоординированность» в данном контексте не обязательно означает синхронность, возможны и ситуации, когда необходимы асинхронные действия. 2. Скоординированность по величинам (объемам) воздействий различных ЛО на управляемые объекты, а также в отношении точек приложения таких воздействий. Возможные средства обеспечения скоординированности действий ЛО: за счет взаимного визуального наблюдения действий, выполняемых ЛО; путем голосового оповещения ЛО друг друга о составе выполняемых или предполагаемых к выполнению действий; руководство действиями нескольких ЛО со стороны начальника бригады (подразделения); проведение совместных тренировок ЛО на тренажерах для отработки согласованности действий (отработка автоматизма движений, а также «слаженности» выполняемых операций).

Оценка «степени нескоординированности» действий ЛО возможна по совокупности фактов (показателей): отклонений действий отдельных ЛО по времени от оптимальных характеристик (в простейшем случае - несинхронность действий); по отклонениям точек (мест) приложения ими воздействий оптимальных значений и пр. При конструировании формул для интегральных оценок «нескоординированности» действий величины весовых коэффициентов для «отклонений», относящихся к разным видам действий могут оцениваться экспертно.

Модели и методы распределения функций между аппаратно-программными средствами СЧМС и людьми-операторами. В общем случае распределение функций (в отношении решений и действий) по управлению СЧМС между АПС и ЛО может носить как статический, так и динамический (изменяющийся во времени) характер. Последний вариант - более гибкий, причем обычно распределением функций занимаются именно ЛО, а не АПС.

Для представления модели статического распределения функций примем следующие допущения. 1. Суммарный объем полномочий АПС (^АПС) и ЛО (^ло) остается неизменным, перераспределяются только их доли. Поэтому dшС = 1 - dло. 2. Величины (по модулю) положительных и отрицательных эффектов для СЧМС «за смену» при таком распределении полномочий описываются функциями Е+ло = /ц^ло) и Е-о = /12^ло). 3. Соответственно для АПС положительные и отрицательные эффекты (по модулю) описываются функциями ЕаПС = /¡з^АПС) и Е-ПС = /1А(йАПС). Будем учитывать также ограничения на dй типа

d(mm) < d Ло < ¿лг}. (4)

Тогда оптимальным решением, при соблюдении (4), будет максимум

Е (*ит) = - /12^ло) + /13(1 - dЛo) -/„(1 - dлo). (5)

Для задачи динамического распределения полномочий (функций) будем считать, что ¿ло = <^ло(Г). В простейшем случае ограничение типа (4) можно считать сохраняющимся, т.е.

¿лтт) < dЛо(t) < ¿лГх), (6)

и использовать среднее значение для dЛо (/) за смену продолжительностью «Т»

(т А

/Т . (7)

dло = | (0

V о

Тогда аналогом модели, описываемой формулами (4)-(5), будет

= /„^о) - /и^^ /1з(1 -¿Ло) -/4(1 -dЛо). (8)

Возможны, конечно, и более сложные модели, в которых берутся интегралы по времени от функций, описывающих зависимости положительных и отрицательных эффектов от dЛо(t).

Кроме того, может быть целесообразным ограничивать объемы (количества) действий ЛО с учетом их физической утомляемости. Примем, что зависимость объемов действий ЛО (Ало) от долей их функций (dЛо) нелинейная

Ао = F №о). (9)

Тогда ограничение по объемам действий

Ао < 4тах). (10)

В практическом отношении могут быть более важными ограничения типа (10) за некоторые локальные промежутки времени, суммарная продолжительность которых значительно меньше Т. Это обычно периоды максимально напряженной работы операторов, причем их действия в эти периоды могут носить как плановый, так внеплановый (вынужденный) характер.

В случае группы операторов обобщением модели, описываемой формулами (4)-(5) будет распределение полномочий (функций) между АПС и каждым из ЛО. Примем, что количество ЛО равно 3» и каждый ЧО имеет разные функции (объемы полномочий) в виде набора

d<£, ¿<Ло, d£), причем

+ + ^+йАПС = 1. (11)

Допустим, что для каждого из ЛОО есть разные функции для положительных и отрицательных эффектов в зависимости от объемов полномочий (функций). Для 1-го ЧО это

= /А1^) и К-Ъ = . Для 2-го ЧО: Е^ = /А2)(^) и Ел12) = /А^). Для

3-го ЧО: = /А^) и Е-3) = /А3)^).

Тогда аналогом модели по формулам (4)-(5) в случае 3-х ЛО будет

= /А1«) - /М) о /А2)(4Р) - /А2^)+/А3)(^) - /А3^)

+ /В^АПС) -/14^АПс) . (12)

При этом ограничения на объемы полномочий (функций) ЛО могут быть различны

¿лт? < dло_1 < ¿лт?; dлm-n2) < ¿по_2 < ¿Й; dлm-nз) < dло-з < ¿лт-?. (13)

В модели, описываемой формулами (11)—(13), обеспечивается оптимизация нагрузки за счет распределения объема полномочий между отдельными ЛО и АПС.

На практике при работе ЛО в составе бригад (групп) они обычно могут при необходимости брать на себя функции других операторов - полностью или частично. Это обеспечивает следующее: перераспределение (выравнивание) объемов работы между ЛО - в случаве необходимости; повышение надежности работы бригад ЛО, в том числе за счет изначально предусмотренного дублирования функций. Так, например, многоместными пассажирскими самолетами управляют два пилота, несмотря на наличие весьма развитых АСУ полетом и посадкой. На ряде моделей тяжелых бомбардировщиков помимо двух пилотов предусматривается еще и по два штурмана (также для снижения рисков, связанных с деятельностью ЛО).

Методы риск-менеджмента в отношении работы АПС в СЧМС. Основными причинами ошибочных, неточных, неоптимальных или нерациональных действий, выполняемых АПС в автоматическом режиме, а также отсутствия их необходимых действий на этапе эксплуатации СЧМС, могут быть следующие. 1. Отказы АПС из-за неработоспособности отдельных элементов или блоков. Средство РМ: использование в конструкциях СЧМС резервных блоков, подключаемых при отказах автоматически или под управлением ЛО. Такие блоки могут представлять собой «горячий резерв» (т.е. подключаться сразу) или «холодный

резерв» - после перевода их в рабочие режимы (обычно разогрева или иных операций). Целесообразно различать «неремонтопригодные» блоки АПС и «ремонтопригодные», работоспособность которых может быть восстановлена. 2. Ошибки или неточности работы сенсорных систем АПС; средств обработки изображений в рамках «систем технического зрения» (СТЗ), систем автоматической выработки управляющих воздействий и пр. Средства РМ: использование в проектах СЧМС апробированных технических решений; совершенствование алгоритмов распознавания изображений и построенных на их основе ПС, в том числе путем имитационного компьютерного моделирования; использование искусственных нейронных сетей и настройка их на распознавание изображений определенных типов; совершенствование алгоритмов и ПС для автоматической выработки и реализации решений, в том числе корректировка баз знаний ПС; в допустимых по продолжительностям реакций случаях - подключение ЧО к принятию (выбору) решений. 3. Механические повреждения в процессе эксплуатации узлов или блоков СЧМС; сенсорных систем, с которых поступает информация. Меры РМ: использование защитных оболочек, амортизаторов и пр. для узлов и блоков; применение резервных сенсоров. 4. Повреждения узлов и блоков СЧМС при воздействиях на них электромагнитных излучений, в том числе за счет преднамеренных воздействий мощными электромагнитными импульсами. Меры РМ: выполнение заземлений с небольшими сопротивлениями растекания; использование металлических или «мелкосетчатых» оболочек блоков, экранирующих электромагнитное излучение. 5. Утечки информации по электромагнитному каналу из СЧМС. Меры РМ - в основном аналогично пункту 4. 6. Попадание в АСУ или САУ т.н. «промышленных вирусов», которые могут незаметно для ЛО корректировать режимы управления технологическими процессами. Меры РМ: контроль операционных систем и ПС СЧМС в отношении наличия таких вирусов; исключение подключения АСУ СЧМС к интернету или (хотя бы) подключение через аппаратно-программные файерволы. Отметим, что сведений о выявлении «промышленных вирусов» в интернете немного, так как сами факты их выявления наносят «репутационный ущерб» пострадавшим организациям.

Как возможный пример ошибок АПС, работающих в автоматическом режиме, приведем ложное срабатывание системы активной защиты (САЗ) танка в отношении летящего мимо него (а не в него) снаряда. Возможные причины: недочеты в системах определения положений целей, включая групповые; неточности в прогнозах траекторий целей. Специально отметим необходимость защиты от «дуплетных» боеприпасов, первый из которых специально предназначен для срабатывания у танка системы пассивной защиты или САЗ, а второй (основной) - для его поражения. Решение аналогичных задач осуществляется и при использовании САЗ надводных кораблей - с той разницей, что их могут одновременно атаковать несколько маневрирующих ракет с разных направлений. На практике роль ЧО в управлении такого рода САЗ обычно сводится только к их включению и выключению, так как люди не обладают достаточной скоростью реакции на происходящие события.

Анализ и управление рисками, связанными с организацией взаимодействия людей-операторов с СЧМС. Возможные направления взаимодействия ЛО с АПС СЧМС. 1. Ввод в начале смены отдельными ЛО идентифицирующей их информации, позволяющей предоставить им необходимые права на просмотр информации, ее корректировку, выполнение управляющих действий и пр. При этом у разных ЛО могут отличаться: права использования конкретных рабочих мест; полномочия в отношении просмотра информации и составы действий. Возможные технические решения для аутентификации ЛО: ввод ими индивидуальных логинов-паролей - обычно рекомендуется, чтобы они периодически менялись; вставка ЛО в АПС СЧМС магнитных карточек с идентифицирующей их информацией; использование ЛО карточек с информацией, видимой СТЗ при ультрафиолетовой подсветке; считывание отпечатков пальцев ЛО специальными сканерами; распознавание ЛО по изображениям их лиц СТЗ; распознавание ЛО по произносимым ключевым фразам и пр. Последние три варианта облегчаются тем, что количество ЛО, которых необходимо идентифицировать, является достаточно ограниченным.

Для контроля доступа ЛО в «залы управления» могут применяться все варианты кроме первого, а также механические или электромеханические кодовые замки на дверях. Применение контроля на входах в «залы управления» позволяет переместить «контур защиты» в отношении угроз физической и информационной безопасности для СЧМС от пультов управления ими к дверям помещений. Это может быть полезно и для снижения вероятности утечек информации, отображаемой в залах на пультах управления СЧМС, демонстрационных

панелях и пр. Однако при этом задачи идентификации ЧО с привязкой к конкретным рабочим местам приходится решать независимо от контроля допуска ЛО в «залы управления».

2. Получение ЛО информации от СЧМС, включая следующее: сведения о параметрах функционирования управляемых систем и подсистем; возможно - о прогнозах изменения параметров (они могут опираться на аналитические зависимости, на имитационные компьютерные модели и пр.); сведения о действиях, фактически реализованных АПС в автоматическом режиме; сведения о действиях, предполагаемых АПС к реализации (чтобы ЛО могли при необходимости отменить или скорректировать эти действия до их фактического выполнения); рекомендации АРС о возможных (необязательных) действиях ЛО; требования к ЛО по выполнению обязательных действий, в том числе предлагаемых АПС «на выбор» в виде меню.

Основные виды рисков, связанных с получением ЛО информации от АПС. а) Пропуск значимой информации. Возможные причины: чрезмерно большие потоки информации, представляемые конкретным ЛО; недостаточная концентрация внимания ЧО; отвлечение его в ходе смены от выполнения производственных функций; ухудшение самочувствия ЛО по ходу смены; утомление ЛО из-за больших объемов действий в течение смены, из-за появления стрессовых воздействий на ЛО, связанных с аварийными и предаварийными ситуациями, конфликтными ситуациями с другими ЛО и пр.; неудачные эргономические решения по представлению информации для ЛО, в том числе на экранах дисплеев, демонстрационных табло и пр.; дефекты зрения ЛО, которые могут быть важны для восприятия мелких деталей изображений; дефекты слуха ЛО, которые могут приводить к неполному или неточному распознаванию речевых команд, воспроизводимых ПС; обращений со стороны других ЛО и т.д.

3. Получение АПС СЧМС запросов от ЛО на представление информации; на изменение способов отображения информации, предназначенной для ЛО; на изменение параметров отправки (передачи) информации в БД информационно-аналитической системы СЧМС для архивного хранения и, возможно, последующего ретроспективного анализа. Поступившие запросы от ЛО обрабатываются АПС и по ним выполняются необходимые ответные действия.

Виды рисков: неправильная интерпретация АПС запросов, в том числе из-за плохой дикции при «голосовом вводе»; орфографические и иные ошибки при вводе запросов с клавиатуры. Меры РМ: повышение «интеллектуальности» систем распознавания голоса и вводимого текста; выдача ЛО запросов на подтверждение команд в необходимых случаях.

4. Возможные варианты получения АПС от ЛО управляющих команд: с помощью воздействий на органы управления в виде кнопок, переключателей, регуляторов и пр.; путем ввода с клавиатуры текстовых, числовых или текстово-числовых строк (команд); за счет выбора ЛО необходимых элементов экранных меню на сенсорных дисплеях и пр.; голосовое управление. Для выполнения необходимых действий ЧО может использовать верхние конечности (пальцы рук); нижние конечности (в основном - для нажатий на педали); голосовые (речевые) команды. Для распознавания этих команд целесообразно использовать только локальные вычислительные сети, так как применение для этой цели интернет-ресурсов потенциально может приводить к утечкам конфиденциальной информации, связанной с управлением СЧМС.

5. Контроль со стороны АПС введенных ЛО команд управления: формальный контроль текстовой, числовой или текстово-числовой информации на наличие орфографических и синтаксических ошибок; содержательный контроль задаваемых ЛО управляющих действий в отношении их безопасности для оборудования, технологических процессов и пр. В частности, это может касаться выявления задаваемых параметров управления, которые могут быть недопустимы в контексте текущей ситуации; несогласованных команд (действий) нескольких ЛО, работающих в составе бригад.

При выявлении явно неправильных действий ЛО возможны следующие виды реакций со стороны ПС, входящих в состав САУ СЧМС: а) действия блокируются, а ЛО выдаются об этом сообщения - визуальные, звуковые и пр.; б) действия ЛО корректируются - также, как правило, с выдачей предупреждений. Например, при задании пилотом самолета действий, которые могут привести к недопустимым механическим нагрузкам (ускорениям, углам атаки и пр.) эти действия могут быть исправлены так, чтобы критические значения параметров не были превышены.

В случаях сомнительных или опасных действий возможные реакции АПС следующие. 1. Для ЧО выдается запрос на подтверждение таких действий. При получении подтверждения в течение определенного времени действия выполняются. Подчеркнем, что «запрос на подтверждение» может выдаваться не только самому ЧО, запросившему действие, но и руководителю бригады ЛО, руководителю смены и пр. Использование для контроля действий другого физического лица может быть полезно с точки зрения повышения надежности

решений. Однако другой человек не всегда может сразу сориентироваться в возникшей ситуации. 2. Опасное действие сразу же выполняется, но при этом ЛО выдается соответствующее визуальное оповещение, звуковой сигнал или их сочетание.

Для передачи «предупреждающей» информации ЛО по визуальному каналу могут использоваться не только дисплеи, но и светодиоды, в том числе для подсветки объектов в мнемосхемах, размещенных на стенах залов управления. Для привлечения внимания ЛО могут применяться мигающие тексты на дисплеях и мигающие светодиоды, но с ограничением длительности режимов мигания по времени.

Информация о блокированных или скорректированных действиях ЛО (а также о предупреждениях) должна быть сохранена в БД, в том числе для ретроспективного анализа качества действий ЛО.

6. Выработка АПС на основе введенной ЛО управляющей информации «команд непосредственного управления» для исполнительных устройств (механизмов), применяемых в СЧМС. Дополнительно в необходимые моменты могут выполняться и действия, включенные БД, содержащую операции, предусмотренные регламентами технологических процессов.

Возможные риски: а) ввод ЛО неточных параметров команд управления; б) неправильное понимание АПС управляющих команд, введенных ЧО (только при возможности неоднозначной интерпретации таких команд) - см. выше; в) ввод ЧО команд, которые по отдельности правильные, но плохо сочетаются друг с другом или с действиями, предусмотренными регламентами технологических процессов - см. начало абзаца; г) не скоордированный по времени или по содержанию ввод (использование) управляющих команд/действий различными ЛО; д) ошибки в БД «правил» СЧМС, которая обеспечивает интерпретацию и исполнение команд, введенных ЛО.

Основные меры РМ по пункту «6»: тщательное проведение приемо-сдаточных испытаний СЧМС, в том числе контроль интерпретации вводимых команд; своевременное изменение содержания БД, содержащей правила преобразования «команды ЛО -> действия АПС» при изменениях конструкций установок, регламентов техпроцессов и пр.; периодический контроль целостности этой БД, ее доступности.

7. Выдача для ЛО подтверждений со стороны АПС о том, что их команды управления были приняты АПС и фактически исполнены. Это увеличивает информационную нагрузку на ЛО, но снижает риски ошибок их взаимодействия с АПС; вероятности того, что ЛО не заметят свои ошибочные (или не оптимальные) действия. На практике могут использоваться компромиссные решения по подтверждению действий - например, информирование ЛО только о наиболее важных выполненных действиях.

В типичных ситуациях характерно выполнение АПС действий, заданных ЛО, сразу же после принятия решений - по принципу «чем быстрее, тем лучше». Это касается, в частности, управления транспортными средствами при возникновении предаварийных ситуаций. Однако иногда требуется отложенная по времени реализация принятых решений со следующими подвариантами: в конкретный момент времени; в определенный промежуток времени; после окончания определенного этапа эксплуатации СЧМС или этапа техпроцесса; в периоды времени, когда нужные действия допускает регламент технологического процесса. Например, устранение неисправностей летательных аппаратов обычно производится лишь после совершения ими посадки, а технологических установок - когда они выключены.

Анализ целей и возможных вариантов тестирования/тренинга людей-операторов с использованием программно-аппаратных средств. Тестирование и тренинг ЛО могут относиться к следующему: профессиональным знаниям; профессиональным навыкам действий (умениям); психологическим и психофизиологическим характеристикам. В данном разделе мы делаем определенный акцент на последнем направлении.

В общем случае затраты на тестирование и тренинг ЛО оправдываются за счет снижения рисков эксплуатации СЧМС. Эти риски могут быть связаны со следующими факторами. 1. Недостаточная, неполная или несвоевременная оценка профессиональных знаний, умений, психофизиологических показателей ЛО [5, 22], привлекаемых (или предполагаемых для привлечения) к управлению СЧМС. Следствием ошибок таких оценок является повышенная вероятность возникновения опасных или предаварийных ситуаций, аварий. 2. Неправильные (необъективные, необоснованные, несвоевременные) оценки ЛО последствий своих действий, особенно в случае редко встречающихся ситуаций. 3. Несвоевременные, неточные или просто ошибочные действия отдельных ЛО в процессе управления СЧМС. Эти действия могут быть активного характера (в ответ на сложившуюся ситуацию) или проактивного (упреждающего)

характера. 4. Недостаточная отработанность практических навыков взаимодействия ЛО с АПС в рамках управления СЧМС. 5. Отсутствие достаточной слаженности действий ЛО в рамках бригад, управляющих СЧМС.

Возможные моменты проведения тестирования/тренинга ЛО. 1. Вне смен -периодический контроль физиологического состояния и навыков, тренинг и пр.

2. Непосредственно перед началом смены - для оперативной оценки самочувствия, психофизиологических показателей ЛО, скоростей и координации их движений [22]. Могут использоваться следующие подходы: устный опрос ЛО, в том числе оценки скорости и точности их реакций на задаваемые вопросы; физиологические измерения (давление, частота пульса и пр.); оценки степени управления положением тела (стабилография) для стоящего человека и ЧО сидящего в кресле [14]; оценки зрачковых реакций (пупиллография); тесты скоростей психомоторных реакций; тесты концентрации (устойчивости) внимания и пр.

3. В процессе смены. Возможны подходы на основе использования стабилографических кресел [14], анализа движений зрачков сидящих ЛО с помощью видеокамер и пр. При этом должны соблюдаться ограничения на «объемы» отвлечения внимания ЛО от выполнения ими производственных функций. 4. После окончания смены (или завершения выполнения какой-то серии действий) - для оценки степени усталости; ухудшения концентрации внимания, скоростей психомоторных реакций.

Группы возможных вариантов для технических решений по тестированию/тренингу.

1. Использование автономных настольных ПЭВМ стандартной конфигурации. Достоинства: на одних и тех же ПЭВМ можно запускать различные ПС для тестирования и тренинга; хорошие возможности обеспечения конфиденциальности содержания тестирующих ПС; частот их использования; состава лиц проходивших тестирование/тренинг; результатов тестирования/тренинга. В принципе ПЭВМ позволяют обеспечивать и динамическую смену изображений - например, имитировать развертку на экране кругового обзора радиолокационной станции, включая отображение помех и целей. Недостатки: сложность имитации профессиональной среды работы ЛО, особенно если их пульты управления значительно отличаются от набора «стандартная клавиатура ПЭВМ + манипулятор типа мышь»; невозможность выполнения тестовых заданий (ТЗ), связанных с перемещениями/поворотами ПЭВМ в процессе работы. Дополнительные возможности: а) подключение к ПЭВМ второго монитора, настроенного на отображение иной информации, чем на основном. Однако может быть проще использовать крупноформатный монитор с большим отношением «ширина/длина»; б) применение сменных накладок на стандартные клавиатуры, которые дают доступ только к наборам клавиш, примерно соответствующих реальным пультам управления ЛО. Таким образом, автономные ПЭВМ все же больше подходят для психофизиологического тестирования ЛО, в том числе в отношении показателей внимания и памяти. 2. Использование ПЭВМ, подключенных к локальной компьютерной сети. Достоинства: может использоваться единственная ПС и общая БД, установленная на сервере, что снижает трудоемкость обслуживания ПЭВМ; возможность организации совместного тестирования/тренинга групп ЛО, в том числе с разделением функций, а также в «игровых режимах». Недостатки - в основном те же, что и для пункта 1.

Подключение сервера локальной сети к интернету увеличивает риски информационной безопасности, в том числе утечек конфиденциальной информации. С другой стороны, использование готовых интернет-ресурсов расширяет возможности тестирования/тренинга. Более дешевая альтернатива по сравнению с комбинацией «ПЭВМ + Сервер» - применение терминальных станций в сочетании с центральной ЭВМ. Однако этот вариант не подходит для работы с большими объемами графики. 3. Использование для расширения функциональности устройств на основе ПЭВМ панорамных дисплеев (включая изогнутые); джойстиков - в том числе изготовленных по индивидуальным заказам; специальных аудиосистем, обеспечивающих объемное звучание и пр. В целом это может позволить «приблизить» условия тестирования/тренинга к реальным условиям работы ЛО. 4. В некоторых случаях может быть также полезно использование стереоскопического воспроизведения изображений. При этом возможны такие решения: разделение экрана дисплея для демонстрации изображений, предназначенных для левого и правого глаз с помощью ширмы; использование экранов смартфонов для раздельной демонстрации изображений, предназначенных для двух глаз + специальная картонная ширма, в которую вставляется дисплей; применение настольных дисплеев, дающих поляризованное излучение, + очков с поляризационными фильтрами; использование жидкокристаллических очков с электрооптическими затворами + поочередная демонстрация на настольном дисплее изображений для левого и правого глаза; применение

шлемов виртуальной реальности с индивидуальными дисплеями для левого и правого глаз -однако долго в таких шлемах работать нельзя из-за накопления усталости глаз. 5. Применение для психофизиологического тестирования/тренинга ЛО смартфонов и компьютерных планшетов. Недостатки: а) меньшие размеры экранов, чем на ПЭВМ. Хотя сейчас в продаже есть «оптические увеличители экранов» для смартфонов, но они требуют неподвижного расположения последних. Кроме того, для некоторых смартфонов есть «докинговые станции», позволяющие удобно осуществлять вывод изображений на крупноформатные демонстрационные экраны, в том числе сенсорные; б) необходимость использования интернет-ресурсов для скачивания ПС или работы в онлайн-режимах; в) ограниченная точность при определении мест нажатий пальцами на сенсорные экраны, особенно на смартфонах; г) невозможность или затрудненность подключения дополнительных устройств. Достоинства: могут использоваться при тестировании в комнатах, имитирующих реальные условия работы ЛО и на производственных объектах; допускают перемещения/повороты при проведении тестирования. 6. Игровые приставки с собственными процессорами, в ряде случаев - со специальными джойстиками, видеокамерами и пр. Могут использоваться также специальные пульты (в том числе изготовленные по индивидуальным заказам), имитирующие условия работы ЛО. Отметим, что приставки типа MicrosoftKinect с двумя видеокамерами позволяют распознавать (с некоторыми ограничениями) положение тела человека в пространстве и выполняемые им движения; генерировать ответные действия «виртуальных противников» в игровых режимах и пр. Поскольку жестовое управление для СЧМС пока не характерно, то тренинг движений, который могут обеспечить такие игровые приставки, пока практически не востребован в практике подготовки ЛО для СЧМС. 7. Применение автономных программно-аппаратных комплексов (ПАК) с собственными устройствами отображения информации и ввода данных, средств задания помех [12], звуковой сигнализации, воспроизведения речевых команд, датчиками-акселерометрами, иными датчиками и пр. Возможные варианты таких ПАК: а) общего назначения, например, для тренировки концентрации внимания, отработки скоростей моторных реакций и пр.; б) частично специализированные; в) узкоспециализированные. Достоинства для варианта а: относительная простота; возможность использования специально сконструированных пультов управления (в том числе сменных), средств задания помех и пр.; допускаются перемещения/повороты при тестировании. Недостатки: возможна только частичная имитация условий работы ЛО. Для расширения функциональных возможностей ПАК может применяться их подключение к ПЭВМ. Однако при проводном подключении мобильность ПАК резко снижается, а при беспроводном - ограничивается. Достоинства для варианта в: потенциальные возможности полноценной имитации условий действий ЛО, управляющих СЧМС - в том числе и операторов в составе бригад; действий ЛО в нештатных (опасных) ситуациях. Недостатки: высокая сложность специализированных тренажерных комплексов, полноценно имитирующих взаимодействие ЛО с управляемыми СЧМС - как следствие, высокие стоимости их создания и использования; необходимость индивидуальной разработки ПС для таких систем; часто - небольшой контингент ЛО, который будет пользоваться ПАК и пр. Вариант 7б - промежуточный между 7а и 7в. Достоинство: позволяет охватить большее (в отношении функциональности выполняемых действий) количество ЛО по сравнению с 7в. Недостаток: качество имитации условий работы ЛО ниже по сравнению с 6в.

8. Комбинации, рассмотренных выше вариантов, включая следующие. а) Сочетание «автономный ПАК + смартфон (или планшет)», на который по беспроводному каналу передается информация. Так, например, могут контролироваться значительные пространственные перемещения ЛО, работающих в составе бригады; обеспечиваться их оперативное информирование о необходимых действиях и пр. б) Сочетание «игровая приставка с двумя видеокамерами» (со стереоскопическим зрением) + ПАК.

Типичные отличия тренинга ЛО с использованием ПАК по сравнению с тестированием. 1. Обеспечение тренирующихся информацией обратной связи: сведения о правильности завершенных действий (верно - неверно, оптимально или нет и пр.); о выполняемых действиях в визуальной или голосовой форме - в том числе для оперативной корректировки этих действий тренирующимся лицом; об оптимальных вариантах ответов на ТЗ (решений, действий и пр.) - по сравнению с ответами, фактически данными тренирующимися; оценки отклонений ответов на ТЗ от оптимальных значений (по отдельным ТЗ и по совокупности ТЗ в тесте); выдача подсказок испытуемым, если они недостаточно оперативно реагируют на предъявленные ТЗ. 2. Для неверных ответов (действий) ЧО: выдача диагностических сообщений; возможность повторных ответов, в том числе, возможно, с предварительной

наглядной демонстрацией того, «как надо делать правильно» с помощью видеороликов, голосовых комментариев и пр. 3. Возможности задания «уровней сложности» тренинга, исходя из функциональных обязанностей конкретных ЛО, их квалификации, практического опыта, степени утраты навыков после длительных перерывов в работе, а также результатов предыдущих ответов (в адаптивных режимах). Уровень сложности ТЗ может меняться за счет следующего: количества демонстрируемой ЧО информации в единицу времени; предполагаемого количества необходимых действий со стороны ЧО в единицу времени; частоты предъявления ЧО ТЗ для выполнения; уровней помех, сопровождающих предъявление ТЗ. Отметим, что фактическое выполнение ЛО действий может выполняться с некоторой принудительной паузой по отношению к предъявлению заданий - это позволяет тренировать характеристики оперативной памяти ЛО. 4. В ряде случаев - высокие доли по времени для воспроизводимых нештатных (предаварийных, аварийных) ситуаций - для отработки навыков действий в таких ситуациях. Отметим, что при тренинге ЛО могут имитироваться не только отказы «исполнительных механизмов» СЧМС, но и устройств отображения информации для ЛО, каналов связи. 5. Сниженные (по сравнению с реальными условиями работы) уровни ответственности ЛО при тренинге за принимаемые/реализуемые решения. С одной стороны, это уменьшает эмоционально-психологическую нагрузку на ЛО, с другой - снижает их мотивацию в отношении быстроты принятия решений и их реализации в виде действий. 6. Возможность при тренинге полного протоколирования задаваемых воздействий и реакций ЛО на них (включая привязку к конкретным моментам времени воздействий и ответных действий); возможность проведения аудиовидеозаписей для действий в нештатных ситуациях и последующего анализа таких записей - в том числе «пошагового».

Заключение. 1. В статье выполнен системный анализ моделей, методов, технических средств, обеспечивающих комплексную поддержку принятия и практической реализации решений, связанных с задачами риск-менеджмента при проектировании, создании и эксплуатации СЧМС. 2. Рассмотрены возможные варианты классификации СЧМС; особенности СЧМС разных классов, в том числе в отношении взаимодействия с ЛО. 3. Исследована структура рисков при проектировании, создании и эксплуатации СЧМС; возможные подходы к управлению рисками эксплуатации АПС СЧМС, использования ЛО; информационного обеспечения их деятельности. 4. Предложен ряд математических моделей, в в том числе для оптимизации затрат, связанных с реализацией мер РМ; для оптимизации распределения функций между АПС СЧМС и ЛО. 5. Рассмотрены некоторые организационные, методические и технические вопросы, связанные с проведением тестирования и тренинга ЛО. 6. Приведенный в статье материал может быть использован для следующих целей: разработки систем поддержки принятия и реализации решений, связанных с управлением рисками при проектировании, создании и эксплуатации СЧМС, разработки АПС для тестирования и тренинга ЛО, управляющих СЧМС; для разработки методов учета результатов тестирования/тренинга ЛО при принятии решений по их использованию при эксплуатации СЧМС, включая формирование бригад из отдельных ЛО.

Библиографический список

1. Алексеев В. В. Моделирование деятельности человека-оператора в автоматизированных системах управления / В. В. Алексеев // Проблемы машиностроения и автоматизации. - 2003. - № 3. - С. 54-56.

2. Брумштейн Ю. М. Сравнительный анализ функциональности программных средств управления проектами, распространяемых по модели SaaS / Ю. М. Брумштейн, И. А. Дюдиков // Прикаспийский журнал: управление и высокие технологии. - 2014. - № 4. - С. 34-51.

3. Брумштейн Ю. М Методы исследования дифференцирующей способности зрительного аппарата человека в отношении восприятия яркостей объектов / Ю. М. Брумштейн, Т. Х. Куаншкалиев, Л. Ш. Рамазанова, А. Е. Бамбышева // Методы компьютерной диагностики в биологии и медицине : материалы Всерос. школы-семинара / под ред. проф. Д. А. Усанова. - Саратов : Саратовский источник, 2016. -С. 205-207.

4. Брумштейн Ю. М. Аппаратно-программные решения для исследования точности восприятия и запоминания человеком яркостно-цветовых характеристик светящихся объектов / Ю. М. Брумштейн, Т. Х. Куаншкалиев, Д. А. Молимонов, Л. Ш. Рамазанова // Методы компьютерной диагностики в биологии и медицине / под ред. проф. Д. А. Усанова. - Саратов : Саратовский источник, 2017. - С. 77-80.

5. Брумштейн Ю. М. Цветовая память испытуемых: анализ методик исследований и способов обработки результатов / Ю. М. Брумштейн, Д. А. Молимонов // Математические методы в технике и технологиях - ММТТ. - 2018. - Т. 5. - С. 72-76.

6. Будушкин М. В. Управление рисками в процессе эксплуатации сложных технических систем / М. В. Будушкин, Д. И. Опрышко // Труды Военно-космической академии им. А. Ф. Можайского. -2010. - № 628. - С. 17-22.

7. Горячкина Т. Г. К оценке функционального состояния человека-оператора / Т. Г. Горячкина,

B. И. Евдокимов, П. М. Шалимов // Медицина труда и промышленная экология. - 2006. - № 8. - С. 35-38.

8. Жаринов И. О. Оценка меры различия цветов и оттенков в цветовых пространствах, применяемых в авионике / И. О. Жаринов, О. О. Жаринов, А. В. Шукалов, П. П. Парамонов // Молодёжь и современные информационные технологии : сборник трудов XII Международной научно-практической конференции студентов, аспирантов и молодых ученых. - Томск : Национальный исследовательский Томский политехнический университет, 2014. - С. 251-252.

9. Захаров Е. С. Экспериментальные исследования и анализ психофизиологического состояния и деятельности человека-оператора / Е. С. Захаров, А. А. Скоморохов, И. Г. Городецкий // Известия ТРТУ. -2004. - № 6 (41). - С. 39-41.

10. Зорин Э. Ф. Управление рисками в задаче обеспечения информационной безопасности информационно-телекоммуникационных систем, функционирующих в условиях информационно-технических воздействий / Э. Ф. Зорин, Б. С. Рыжов, Ю. Н. Бубенщиков // Двойные технологии. - 2017. - № 3 (80). -

C. 61-65.

11. Кореневский Н. А. Методы и средства для исследования параметров внимания и памяти человека / Н. А. Кореневский, О. И. Филатова, А. В. Носов, А. Н. Коростелев // Системный анализ и управление в биомедицинских системах. - 2010. - Т. 9, № 1. - С. 134-137.

12. Крупеня О. В. Восприятие шумовых сигналов человеком-оператором / О. В. Крупеня // Известия ЮФУ. Технические науки. - 2008. - № 1 (78). - С. 9.

13. Кузнецова С. О. Особенности искажения цветовосприятия при депрессивных расстройствах / С. О. Кузнецова, С. Е. Строгова // Актуальные вопросы современной науки : сборник статей по материалам XVII Международной научно-практической конференции. - Уфа, 2018. - С. 142-145.

14. Марченко А. А. Стабилографический показатель напряженности человека-оператора в процессе деятельности / А. А. Марченко // Известия ТРТУ. - 2004. - № 6 (41). - С. 22-24.

15. Михеев В. А. Разработка формальной структуры системы управления рисками информационной и функциональной безопасности многофункциональных информационных систем при электромагнитных воздействиях / В. А. Михеев, В. Г. Семин // Технологии электромагнитной совместимости. -2013. - № 4 (47). - С. 65-68.

16. Пупков К. А., Устюжанин А. Д. Оценка влияния вибрации на эффективность работы человека-оператора в человеко-машинных системах / К. А. Пупков, А. Д. Устюжанин, В. Д. Шашурин // Вестник Московского государственного технического университета им. Н.Э. Баумана. Серия: Приборостроение. -2006. - № 2 (63). - С. 30-36.

17. Семенистая Е. С. Анализ методов оценки надежности деятельности человека-оператора / Е. С. Семенистая, О. Н. Подопрыголова, Н. С. Семунина // Известия ЮФУ. Технические науки. - 2008. -№ 2 (79). - С. 209-217.

18. Сеньков А. В. Особенности наполнения онтологии знаниями при управлении рисками в сложных организационно-технических системах / А. В. Сеньков, В. С. Луферов, Е. М. Гервик // Международный журнал информационных технологий и энергоэффективности. - 2018. - Т. 3, № 1 (7). - С. 2-6.

19. Тарабанов В. Н. Управление технологическими рисками сложных технических систем / В. Н. Тарабанов // Вопросы оборонной техники. Серия 16: Технические средства противодействия терроризму. - 2014. - № 1-2 (67-68). - С. 15-25.

20. Тарабанов В. Н. Управление технологическими рисками сложных технических систем по охране и защите оператора в новых временных условиях / В. Н. Тарабанов, М. Н. Кирносенков, Е. В. По-ломошнова // Национальная Ассоциация Ученых. - 2018. - № 38. - С. 27-30.

21. Учаев Д. Ю. Анализ и управление рисками, связанными с информационным обеспечением человеко-машинных АСУ технологическими процессами в реальном времени / Д. Ю. Учаев, Ю. М. Брум-штейн, И. М. Ажмухадедов, О. М. Князева, И. А. Дюдиков // Прикаспийский журнал: управление и высокие технологии. - 2016. - № 2 (34). - С. 82-97.

22. Шмидт С. А. Метод диагностики параметров психомоторного статуса человека-оператора / С. А. Шмидт, Т. Н. Кочегура, Т. А. Аристова, Е. Л. Шатова // Современные наукоемкие технологии. -2006. - № 1. - С. 59.

23. Хало П. В. Диагностика и коррекция психофизиологического состояния человека-оператора в условиях развивающегося информационного общества / П. В. Хало // Известия ТРТУ. - 2006. - № 1 (56). -С. 122-126.

24. Kaab M. A. Ja. The importance of risk management to the director of the project and its impact on the time and cost of the project / M. A. Ja. Kaab, N. B. Kolosova, E. S. Kolosov, T. N. Soldatenko // International Scientific Review. - 2017. - № 2 (33). - С. 32-41.

25. Kriuchkovskyi V. V. Coordination and management of functioning and development of organizational and technical systems in conditions of uncertainty and risk / V. V. Kriuchkovskyi, E. G. Petrov // Вюник Вш-ницького полггехшчного шституту. - 2011. - № 4 (97). - С. 62-66.

References

1. Alekseev V. V. Modelirovanie deyatelnosti cheloveka-operatora v avtomatizirovannykh sistemakh up-ravleniya [Human activity modeling-the operator in automated control systems]. Problemy mashinostroeniya i avtomatizatsii [Problems of Mechanical Engineering and Automation], 2003, no. 3. pp. 54-56.

2. Brumshteyn Yu. M., Dyudikov I. A. Sravnitelnyy analiz funktsionalnosti programmnykh sredstv up-ravleniya proektami, rasprostranyaemykh po modeli SaaS [Contrastive analysis of functionality of the control software projects distributed on the SaaS model]. Prikaspiyskiy zhurnal: upravlenie i vysokie tekhnologii [Caspian Journal: Control and High Technologies], 2014, no.4, pp. 34-51.

3. Brumshteyn Yu. M., Kuanshkaliev T. Kh., Ramazanova L. Sh., Bambysheva A. Ye. Metody issledo-vaniya differentsiruyushchey sposobnosti zritelnogo apparata cheloveka v otnoshenii vospriyatiya yarkostey obektov [Methods of a research of the differentiating ability of the visual device of the person concerning perception of brightness of objects]. Metody kompyuternoy diagnostiki v biologii i meditsine : materialy Vseros. shkoly-seminara [Methods of computer diagnostics in biology and medicine : materials of the All-Russian seminar school]. Saratov, Saratovskiy istochnik Publ., 2016, pp. 205-207.

4. Brumshteyn Yu. M., Kuanshkaliev T. Kh., Molimonov D. A., Ramazanova L. Sh. Apparatno-programmnye resheniya dlya issledovaniya tochnosti vospriyatiya i zapominaniya chelovekom yarkostno-tsvetovykh kharakteristik svetyashchikhsya obektov [Hardware and software solutions for a research of accuracy of perception and storing by the person of brightness color responses of the shining objects]. Metody kompyuternoy diagnostiki v biologii i meditsine : materialy Vseros. shkoly-seminara [Methods of computer diagnostics in biology and medicine : materials of the All-Russian seminar school]. Saratov, Saratovskiy istochnik Publ., 2017, pp. 77-80.

5. Brumshteyn Yu. M., Molimonov D. A. Tsvetovaya pamyat ispytuemykh: analiz metodik issledovaniy i sposobov obrabotki rezultatov [Color memory of examinees: the analysis of of researches techniques and ways of the results processing]. Matematicheskie metody v tekhnike i tekhnologiyakh - MMTT [Mathematical methods in the technique and technologies - MMTT], 2018, vol. 5, pp. 72-76.

6. Budushkin M. V., Opryshko D. I. Upravlenie riskami v protsesse ekspluatatsii slozhnykh tekhnicheskikh sistem [Risk management in the use of complex technical systems]. Trudy Voenno-kosmicheskoy akademii im. A.F. Mozhayskogo [Proceedings of Military Space Academy named by A.F. Mozhaysky], 2010, no. 628, pp. 17-22.

7. Goryachkina T. G., Yevdokimov V. I., Shalimov P. M. K otsenke funktsionalnogo sostoyaniya che-loveka-operatora [To assessment of a functional status of the person operator]. Meditsina truda i promyshlennaya ekologiya [Medicine of work and industrial ecology], 2006, no. 8, pp. 35-38.

8. Zharinov I. O., Zharinov O. O., Shukalov A. V., Paramonov P. P. Otsenka mery razlichiya tsvetov i ot-tenkov v tsvetovykh prostranstvakh, primenyaemykh v avionike [Assessment of a measure of distinction of flowers and shades in the color spaces applied in avionics]. Molodezh i sovremennye informatsionnye tekhnologii : sbornik trudov XII Mezhdunarodnoy nauchno-prakticheskoy konferentsii studentov, aspirantov i molodykh uchenykh [Youth and modern information technologies : proceedings of the XII International scientific and practical conference of students, graduate students and young scientists.]. Tomsk, National Research Tomsk Polytechnic University Publ., 2014, pp. 251-252.

9. Zakharov Ye. S., Skomorokhov A. A., Gorodetskiy I. G. Eksperimentalnye issledovaniya i analiz psikhofiziologicheskogo sostoyaniya i deyatelnosti cheloveka-operatora [Pilot studies and analysis of a psychophys-iological status and activity of the person operator]. Izvestiya TRTU [TRTU News], 2004, no. 6 (41), pp. 39-41.

10. Zorin E. F., Ryzhov B. S., Bubenshchikov Yu. N. Upravlenie riskami v zadache obespecheniya in-formatsionnoy bezopasnosti informatsionno-telekommunikatsionnykh sistem, funktsioniruyushchikh v uslovi-yakh informatsionno-tekhnicheskikh vozdeystviy [Risk management in the problem of information security support of the information telecommunication systems functioning in the conditions of information and technical influences]. Dvoynye tekhnologii [Double Technologies], 2017, no. 3 (80), pp. 61-65.

11. Korenevskiy N. A., Filatova O. I., Nosov A. V., Korostelev A. N. Metody i sredstva dlya issledovani-ya parametrov vnimaniya i pamyati cheloveka [Methods and means for a research of person's parameters of attention and memory]. Sistemnyy analiz i upravlenie v biomeditsinskikh sistemakh [The System Analysis and Management in Biomedical Systems], 2010, vol. 9, no. 1, pp. 134-137.

12. Krupenya O. V. Vospriyatie shumovykh signalov chelovekom-operatorom [Perception of noise signals by the person operator]. Izvestiya YuFU. Tekhnicheskie nauki [News of SFU. Technical science], 2008, no. 1 (78), p. 9.

13. Kuznetsova S. O., Strogova S. Ye. Osobennosti iskazheniya tsvetovospriyatiya pri depressivnykh ras-stroystvakh [Features of distortion of color perception at depressive frustration]. Aktualnye voprosy sovremennoy nauki : sbornik statey po materialam XVII Mezhdunarodnoy nauchno-prakticheskoy konferentsii [Topical issues of modern science : Proceedings on Materials XVII of the International Scientific and Practical Conference]. Ufa, 2018, pp. 142-145.

14. Marchenko A. A. Stabilograficheskiy pokazatel napryazhennosti cheloveka-operatora v protsesse deyatelnosti [Stabilografic indicator of the person-operator strength of tension in the course of activity]. Izvestiya TRTU [News of TRTU], 2004, no. 6 (41), pp. 22-24.

15. Mikheev V. A., Semin V. G. Razrabotka formalnoy struktury sistemy upravleniya riskami infor-matsionnoy i funktsionalnoy bezopasnosti mnogofunktsionalnykh informatsionnykh sistem pri elektromagnit-nykh vozdeystviyakh [Development of formal structure of a risk management system of information and func-

tional security of multifunction information systems at electromagnetic influences]. Tekhnologii elektromagnit-noy sovmestimosti [Technologies of Electromagnetic Compatibility], 2013, no. 4 (47), pp. 65-68.

16. Pupkov K. A., Ustyuzhanin A. D., Shashurin V. D. Otsenka vliyaniya vibratsii na effektivnost raboty cheloveka-operatora v cheloveko-mashinnykh sistemakh [Vibration impact assessment on overall performance of the person operator in human-machine systems]. VestnikMoskovskogo gosudarstvennogo tekhnicheskogo univer-siteta imeni N.E. Baumana. Seriya: Priborostroenie [The Bulletin of Bauman Moscow State Technical University. Series: Instrument making], 2006, no. 2 (63), pp. 30-36.

17. Semenistaya Ye. S., Podoprygolova O. N., Semunina N. S. Analiz metodov otsenki nadezhnosti deyatelnosti cheloveka-operatora [Analysis of valuation methods of reliability of activity of the person operator] Izvestiya YuFU. Tekhnicheskie nauki [News of SFU. Technical science], 2008, no. 2 (79), pp. 209-217.

18. Senkov A. V., Luferov V. S., Gervik Ye. M. Osobennosti napolneniya ontologii znaniyami pri uprav-lenii riskami v slozhnykh organizatsionno-tekhnicheskikh sistemakh [Features of filling of ontology knowledge at risk management in complex organizational and technical systems]. Mezhdunarodnyy zhurnal informatsionnykh tekhnologiy i energoeffektivnosti [The International Journal of Information Technologies and Energy Efficiency], 2018, vol. 3, no. 1 (7), pp. 2-6.

19. Tarabanov V. N. Upravlenie tekhnologicheskimi riskami slozhnykh tekhnicheskikh sistem [Management of technological hazards of complex technical systems]. Voprosy oboronnoy tekhniki. Seriya 16: Tekhnicheskie sredstva protivodeystviya terrorizmu [Questions of the defense equipment. Series 16: Technical means of counteraction to terrorism], 2014, no. 1-2 (67-68), pp. 15-25.

20. Tarabanov V. N., Kirnosenkov M. N., Polomoshnova Ye. V. Upravlenie tekhnologicheskimi riskami slozhnykh tekhnicheskikh sistem po okhrane i zashchite operatora v novykh vremennykh usloviyakh [Management of technological hazards of complex technical systems on protection and protection of the operator in new temporary conditions]. Natsionalnaya Assotsiatsiya Uchenykh [National Association of Scientists], 2018, no. 38, pp. 27-30.

21. Uchaev D. Yu., Brumshteyn Yu. M., Azhmukhadedov I. M., Knyazeva O. M., Dyudikov I. A. Analiz i upravlenie riskami, svyazannymi s informatsionnym obespecheniem cheloveko-mashinnykh ASU tekhnolog-icheskimi protsessami v realnom vremeni [The analysis and risk management, the technological processes connected with information support of human-machine ACS in real time]. Prikaspiyskiy zhurnal: upravlenie i vysokie tekhnologii /Caspian Journal: Control and High Technologies], 2016, no. 2 (34), pp. 82-97.

22. Shmidt S. A., Kochegura T. N., Aristova T. A., Shatova Ye. L. Metod diagnostiki parametrov psikhomotornogo statusa cheloveka-operatora [Method of diagnostics of parameters of the person-operator psy-chomotor status]. Sovremennye naukoemkie tekhnologii [Modern High Technologies], 2006, no. 1, p. 59.

23. Khalo P. V. Diagnostika i korrektsiya psikhofiziologicheskogo sostoyaniya cheloveka-operatora v usloviyakh razvivayushchegosya informatsionnogo obshchestva [Diagnostics and correction of a psychophysio-logical status of the person-operator in the conditions of the information society development]. Izvestiya TRTU [News TRTU], 2006, no. 1 (56), pp. 122-126.

24. Kaab M. A. Ja., Kolosova N. B., Kolosov E. S., Soldatenko T. N. The importance of risk management to the director of the project and its impact on the time and cost of the project. International Scientific Review, 2017, no. 2 (33), pp. 32-41.

25. Kriuchkovskyi V. V., Petrov E .G. Coordination and management of functioning and development of organizational and technical systems in conditions of uncertainty and risk [Coordination and management of functioning and development of organizational and technical systems in conditions of uncertainty and risk]. Visnik Vin-nitskogopolitekhnichnogo institutu [Bulletin of Vinnitsa Politechnic Institute], 2011, no. 4 (97), pp. 62-66.