CC BY
72ЧЕЛОВЕЧЕСКИЙ ФАКТОР КАК УГРОЗА БЕЗОПАСНОСТИ КРИТИЧЕСКИ
ВАЖНЫХ ОБЪЕКТОВ
Цыгичко В.Н.
Федеральный исследовательский центр «Информатика и управление» Российской академии наук, главный научный
сотрудник
Смолян Г.Л.
Федеральный исследовательский центр «Информатика и управление» Российской академии наук, главный научный
сотрудник Москва
Солнцева Г.Н.
Московский государственный университет им. М.В. Ломоносова факультет психологии, доцент
THE HUMAN FACTOR ASA THREAT TO THE SECURITY OF CRITICAL FACILITIES Tsygichko V.N. Federal Research Center «Computer Science and Control» of RAS, Chief Scientific Officer Smolyan G.L. Federal Research Center «Computer Science and Control» of RAS, Chief Scientific Officer Moscow Solntzseva G.N. Moscow State University, Department of Psychology, Associate Professor
АННОТАЦИЯ
В статье рассматриваются проблемы негативного влияния человеческого фактора на безопасность критически важных объектов (КВО), проявляющегося в ошибочных или противоправных действиях персонала КВО. Анализируются причины таких действий и меры по их нейтрализации. Обсуждаются подходы, связанные с оценкой риска нарушений безопасности КВО, вызванных человеческим фактором.
ABSTRACT
The article deals with the problem of the negative influence of the human factor on the security of critical facilities (CF), which manife^s itself in error or wrongdoing CF personnel. The reasons of such actions and measures to neu-tralize them. Approaches related to the risk assessment CF security breaches caused by the human factor.
Ключевые слова: Критически важный объект, внутренние угрозы безопасности, человеческий фактор, индивидуально-личностные факторы риска, мониторинг и контроль состояния персонала.
Keywords: critical facilities, internal security threats, human factors, individual and per-sonal risk factors, monitoring and control of Sate personnel.
Постановка проблемы
Все угрозы безопасности критически важных объектов (КВО), связанные с деятельностью человека, можно разделить на две больших группы — внешние и внутренние.
Внешние угрозы — это террористические и криминальные действия отдельных людей или организаций, которые находятся вне КВО. Внутренние угрозы — это ошибки и противоправные действия персонала КВО и систем обеспечения его безопасности.
В настоящее время за рубежом и в нашей стране работы по обеспечению безопасности КВО проводятся на основе управления рисками нарушения безопасности КВО [1]. Особую сложность проблема учета ЧФ представляет при защите объектов от внутренних угроз. Это объясняется трудностью, а порой и невозможностью, получения объективной количественной информации, необходимой для анализа и расчета рисков нарушения безопасности, вследствие противоправных или неадекватных действий персонала КВО. Суть дела в ограниченности возможностей установления в поведении людей каких-либо устойчивых зависимостей и закономерностей [2]. Это объясняется, с одной стороны, чрезвычайным разнообразием факторов и условий, влияющих на поведение, а с другой - неоднозначностью причинно-следственных связей между этими факторами и поведением. Одни и те же причины у разных людей вызывают различные действия. Кроме того, действие факторов меняется во времени. Одни и те же причины со временем могут вызывать у одних и тех же людей разную реакцию. Эти обстоятельства не позволяют в полной мере применять при исследовании человеческого фактора статистические методы.
Этим объясняется специфика подходов и методов изучения человеческого фактора, которая обсуждается в этой работе.
Анализ последних исследований и публикаций
Вот уже более полувека не меняется основная направленность анализа ЧФ - выявление причин катастроф и аварий, повлёкших за собой убытки или человеческие жертвы, поиск путей их устранения. Эти причины, начиная с середины прошлого века, объяснялись психологическими и психофизиологическими характеристиками человека-оператора, взаимодействующего с техническими системами.
Сам термин «человеческий фактор» появился и получил широкое распространение сначала в американской атомной энергетике после аварии во втором блоке «Тримайл-Айленд-ской» АЭС, а после Чернобыля и во всем мире, для обозначения деятельности по выявлению и устранению проблем взаимодействия в системе человек-машина, которые влияют на безопасность эксплуатации АЭС. Фактически техногенные аварии и катастрофы на АЭС и ущерб от них стали первым объектом для исследователей ЧФ [3].
С начала 1960-х годов проблематика ЧФ стала рассматриваться как многоотраслевая прикладная наука и область практики, нацеленная на анализ психологических, физиологических, антропометрических и др. характеристик человека, его возможностей и ограничений в конкретных условиях деятельности [4]. Наряду с управленческим аспектом, все большее внимание стали уделять аспекту безопасности.
Следует отметить, что безусловным лидером в анализе и учете ЧФ при обеспечении качества, надежности и безопасности автоматизированных систем обработки информации и управления на протяжении полувека остаются США. До сих
пор в мире пользуются 6-томным руководством «Человеческий фактор», написанным американскими специалистами, объединенными в профессиональное сообщество — Human Factors Soc.. Наивысшее качество систем, подчеркивается в этом руководстве, не может быть достигнуто без отличного качества человеческих компонентов, ком-понентов конструкции и оптимизации взаимодействия между ними [5].
Практическая деятельность по нейтрализации негативного воз-действия ЧФ на эффективность функционирования и безопасность КВО обычно осуществляется в соответствии с некоторыми общими принципами и рекомендациями, полученными из опыта и научных исследований в области авиационной и космической психологии, психологии труда и инженерной психологии, организационной психологии и многих других смежных дисциплин. Эти общие принципы и рекомендации выступают как необходимые условия и желательные направления деятельности при поиске и совершенствовании эффективных методов обеспечения безопасности КВО. Однако для практической работы эти общие принципы и рекомендации требуют детализации и развития и, прежде всего, уточнения содержания предметной области понятия ЧФ. Для различных типов КВО предметная область ЧФ имеет свою специфику, определяющую как методы учета ЧФ, так и меры защиты от его негативного воздействия.
Деятельность персонала КВО, как известно, регламентирована нормами и правилами выполнения функциональных задач, отклонения от нормативной деятельности обычно трактуются как ошибки или нарушения. В мировой и отечественной литературе обычно разделяют два класса причин отказов человека как компонента человеко-машинной системы: организационные и индивидуально-личностные. Исходя из этого, можно дать следующее определение человеческого фактора, как угрозы безопасности КВО.
Человеческий фактор — это совокупность характеристик человеческих отношений (организационная составляющая) и человеческого поведения (индивидуально-личностная составляющая), которая может привести к возникновению на КВО чрезвычайной ситуации.
Цель наших исследований заключается в систематизации негативных проявлений человеческого фактора, представляющих потенциальную угрозу безопасности КВО со стороны персонала; рассмотрении и оценке этих проявлений как факторов риска, а также в установлении методов и средств нейтрализации этой угрозы. Такой подход, несмотря на трудности и ограничения позволяет, во-первых, сформулировать базовые требования к персоналу, его подготовке и отбору и, во-вторых, вписать эти требования в общийком-плекс требований по обеспечению безопасности КВО на основе определения допустимой величины риска нарушения безопасности.
Проявления человеческого фактора как угрозы безопасности КВО
ЧФ проявляется в действиях персонала КВО, которые потенциально могут привести к опасным последствиям. Их можно разделить на две категории: непреднамеренные ошибочные и злоумышленные действия. Под ошибкой человека понимается результат действия, не соответствующий требуемому параметру нормативной деятельности.
В самом общем виде неадекватные действия и ошибки персонала выглядят следующим образом [7]:
1. При приеме и обработке информации:
- ошибки обнаружения, различения, идентификации и опознания признаков опасной ситуации;
2. При анализе и оценке ситуации: -ошибочная оценка ситуации, состояния объекта; -неверная интерпретация информации;
-неправильная формулировка проблемы, ошибочный прогноз развития ситуации.
3. При выработке и принятии решения (плана мероприятий, графика работ, порядка действий, регламента и др.):
-неправильное или несвоевременное решение, вследствие ограниченного числа рассматриваемых альтернатив, неверной оценки вероятности или значимости исхода;
- отказ от принятия решения.
4. При реализации решений:
-отсутствие или несвоевременная выдача соответствующих команд и распоряжений;
-неправильные, ошибочные команды или распоряжения;
- неисполнение, некачественное или несвоевременное исполнение команд или распоряжений.
5. При контроле за выполнением решения: -некачественный или несвоевременный контроль; -несвоевременная, неточная или ложная информация о
результатах контроля;
-отсутствие или несвоевременная реакция по результатам контроля.
Причиной ошибок в общем случае является несоответствие возможностей и ограничений человека в выполнении профессиональных функций параметрам и условиям функционирования программных и технических средств. В настоящее время имеется достаточно большой объем справочных данных о параметрах деятельности человека и их динамике [8-10]. Их следует учитывать для уменьшения вероятности ошибочных действий. Это такие характеристики как, например, скорость обработки информации различного типа при различных режимах работы, скорость и точность движений, помехоустойчивость и др.
К основным причинам ошибочных действий персонала можно отнести:
- долговременные медицинские и психофизиологические характеристики человека: общее состояние здоровья, темперамент, скорость реакции и устойчивость внимания, эмоциональная нестабильность;
- функциональное состояние здоровья на текущий момент (болезнь, состояние алкогольного или наркотического опьянения, последствия травм, депрессия, настроение и т.п.);
- низкая или недостаточная квалификация специалиста в области выполняемых им работ, непрофессионализм, некомпетентность;
- негативная психологическая установка, недостаточная мотивация, недобросовестность, безответственность, недисциплинированность, пассивность;
- некомфортные условия работы;
- низкая степень удовлетворенности работой, неэффективная система стимулирования;
- низкое или недостаточное качество нормативно-технических и организационно-распорядительных документов (нечеткость изложения требований, определения обязанностей, прав и ответственности). Есть немало субъективных переменных, сказывающихся на оценке риска и принятии решений [11].
Следует отметить, что все имеющиеся способы расчета и данные об эмпирических зависимостях безошибочности деятельности от отдельных факторов охватывают преимущественно частные случаи и без специальных дополнительных исследований не могут быть непосредственно использованы для обеспечения безопасности деятельности персонала конкретных КВО.
Это означает, что необходимо проводить постоянный мониторинг физического, психологического и морального состояния оперативного и обслуживающего персонала КВО и его результаты учитывать при организации подготовки (переподготовки) и тренировки персонала.
Реакция людей в ситуациях неопределенности часто бывает непредсказуемой и совершенно разной у разных индивидов. Одни в склонны к риску, другие предпочитают максимально защитить себя от неудачи. Даже «нормальная» реакция подвержена хорошо различимым отклонениям от того варианта поведения, который диктует нормальная логика
Особый класс опасных действий персонала составляют умышленные противоправные действия, причинами которых могут быть:
- отклонения в психике, психические заболевания (пример — суицидальные действия второго пилота самолета А320 компании Germanwings, повлекшие его катастрофу в марте 2015 года и гибель 150 человек);
- негативные черты характера, проявившиеся в конкретной обстановке (завышенная самооценка, мстительность, завистливость, озлоблен-ность и т.п.);
- неудовлетворенность социальной, экономической и политической обстановкой;
- недовольство своим положением в обществе или в коллективе;
- шантаж со стороны третьих лиц или организаций, или наличие других внешних побудителей;
- корыстный интерес или идеологическая установка (например, исламский джихад).
К умышленным противоправным действиям, помимо террористических и криминальных актов, следует отнести действия нелояльных сотрудников. Как показывает мировой опыт, нелояльный персонал — неисчерпаемая база для формирования злоумышленников. В общем случае лояль-ность определяется как установка на поведение, заключающаяся в соблю-дении существующих правил, норм, предписаний, а также в выполнении своих обязанностей по отношению к другим даже при несогласии с ними. Лояльность персонала в организации часто понимается как психологиче-ская связь между работником и организацией, базирующаяся на осознании работником своих обязательств по отношению к организации и снижающая вероятность того, что он добровольно оставит организацию или принесет ей вред [12]. Необходимо подчеркнуть, что «обиженные сотрудники» знакомы с порядками в организации и поэтому способны нанести существенный ущерб.
Основные направления нейтрализации человеческого фактора
К настоящему времени в теории и практике обеспечения безопасности КВО различных критических инфраструктур сложилась система дополняющих друг друга методов и средств нейтрализации негативного влияния ЧФ. К ним относятся:
- профессиональный отбор и мониторинг физического и психического состояния персонала;
- административные, технические и программные средства и способы контроля деятельности и нейтрализации ошибок и неправомерных действий персонала;
- выполнение эргономических требований.
Профессиональный отбор сотрудников КВО проводится
по правилам и требованиям, принятым в каждой отрасли в соответствии с особенностями деятельности. Чаще всего, кроме стандартных процедур сбора и обработки информации о потенциальном члене коллектива, претенденту предлагается пройти ряд тестов на профессиональную, физическую и психологическую пригодность к будущей работе. Если по результатам тестирования человек подходит для этой работы, то ему назначают испытательный срок под наблюдением опытных профессионалов, и лишь затем принимается окончательное решение. Вся информация, полученная в процессе приема на работу сотрудника, отражается в его личном деле и хранится в базе данных персонала КВО.
Профотбор состоит в научно обоснованном допуске человека к определенному труду в случае обнаружения у него задатков, достаточной физической, психической, интеллектуальной и образовательной подготовки.
На практике условно различают следующие основные виды профессионального отбора: медицинский, социально-психологический и психо-физиологический.
Медицинский отбор заключается в выявлении тех лиц, состояние здоровья и уровень физического развития которых позволяет успешно, в установленные сроки овладеть специальностью, для которой проводится отбор, и эффективно работать по данной специальности достаточно дли-тельное время без ущерба для здоровья. Состояние здоровья лимитирует прием кандидатов для большой группы специальностей, при распределе-нии по рабочим местам, работа на которых связана с воздействием про-фессиональ-но вредных и опасных условий труда, а также в других слу-ча-ях.
При медицинском отборе особое значение придается оценке нервно-психического статуса, выявляются лица с нервно-эмоциональной неустой-чивостью.
Социально-психологический отбор предназначен для выявления и оценки тех социально обусловленных психологических свойств личности (ее ценностные установки, стремления, интересы; моральные и нравственные качества и т.д.), которые необходимы для успешной работы человека в коллективе, отражают его готовность и стремление выполнить свои профессиональные обязанности в любых условиях.
Психофизиологический отбор предназначен для выявления профессионально важных психофизиологических свойств человека, которые необходимы для успешного овладения профессиональными знаниями, навыками я умениями, определяющими успешность обучения в уста-нов-ленные сроки и эффективность последующей профессиональной деятельности по конкретной специальности.
К настоящему времени в системе индивидуального психофизиологического мониторинга умственной работоспособности человека, разработанной первоначально для операторов предприятий атомной энергетики и авиакосмической отрасли, используется более 200 регистрируемых показателей. На основе этих показателей выявляют структуру индивидуальных особенностей личности, детерминирован-
ных физиологическими системами организма. Важным является также то, что психофизиологические характеристики человека могут являться количественной мерой профессионально важных качеств и для многих профессий обладать достаточно высокой прогностичностью. Психофизиологический отбор представляет собой не-обходимый компонент профессионального отбора и мониторинга состояния сотрудников, особенно для профессий, связанных с обработкой информации и управлением сложным профессиональным оборудованием, т. е. таких, которые характеризуются значительной интеллектуальной нагрузкой.
В настоящее время арсенал административных, технических и программных средств и способов контроля деятельности и нейтрализации ошибок и неправомерных действий персонала достаточно разнообразен и хорошо разработан. Их разработкой и применением занимаются как бизнес-организации, так и государственные структуры, ответственные за функционирование объектов повышенной опасности.
Административные средства ориентированы на повышение культуры безопасности в организации, уровня лояльности и удовлетворение потребностей персонала. К ним относятся [13]:
- программы стимулирования повышения уровня профессиональной компетенции и гибкости персонала;
- программы обучения, специальной подготовки и переподготовки персонала, повышения квалификации;
- комплексные программы материального и морального стимулирования труда;
- специальные программы повышения уровня безопасности, в том числе совершенствование существующей нормативной базы.
- программы льготного социального и пенсионного обеспечения, медицинского обслуживания и т.п.
Комплексные программно-технические системы включают два типа систем:
1. Системы мониторинга и контроля персонала, предназначенные для выявления рисков, которые могут возникнуть ввиду действий недобросовестных сотрудников, а также для определения неэффективных сотрудников и «узких» места в их работе. Как правило, такие системы используют записи с мониторов компьютеров, синхронизированные с записью обычных камер и микрофонов, а также других устройств. Иногда такие системы дополняют установкой специализированных программных продуктов, функцией которых является защита от утечек информации и анализ рабочего времени сотрудников, в том числе их сетевой активности.
2. Системы контроля и управления доступом (СКУД). Эти системы решают задачу контроля и управления посещением охраняемого объекта. В ее состав входят: идентификаторы, считыватели, контроллеры, шлаг-баумы, турникеты, электромагнитные и электромеханические замки. Они осуществляют:
- регистрацию и учет посетителей на объекте, в том числе и авто-транспорта;
- идентификацию входящих/покидающих помещение сотрудников;
- расчет отработанного сотрудниками времени.
Меры предотвращения угроз безопасности, связанных с непреднамеренными ошибками, должны предусматривать соблюдение эргономических требований в части допустимой информационной нагрузки, обеспечения комфортных
условий работы и дружественности пользовательско-го интерфейса, требований к режиму труда и отдыха.
Мировой и отечественный опыт эргономического обеспечения деятельности людей в человеко-машинных (эрга-тических) системах показывает, что имеется немало средств предотвращения или минимизации угроз, связанных с непреднамеренными ошибками людей. К ним относятся [14]:
- определение информационной нагрузки (соблюдение требований к объему, сложности, скорости, форме подачи информации).
- выбор и организация аппаратно-технических средств (соблюдение требований к удобству работы человека с комплексом технических средств).
- организация взаимодействия человека с программными средствами (обеспечение дружественности пользовательского интерфейса).
- организация рабочей среды персонала (соблюдение требований к характеристикам окружающей среды на рабочем месте, к режиму труда и отдыха).
Одним из наиболее действенных средств обеспечения безопасности является обучение, которое не только способствует направленному изменению психофизиологических свойств, но и обеспечивает формирование навыков эффективного (оптимального и надежного) выполнения действий в стандартных условиях и вариантов действий для критических ситуаций. Деятельность персонала КВО, как правило, характеризуется динамичностью, необходимостью быстрого принятия решения в ситуациях дефицита времени или информации, риском при принятии решения. Именно поэтому для персонала необходимо проводить тренировки с целью психологической адаптации к сложным условиям, выработки способности эффективно действовать в критических ситуациях, формирования способности к прогнозированию и предвосхищению. В ходе таких тренировок улучшаются характеристики психических и психофизиологических процессов, обеспечивается подготовка человека к действиям в аварийной ситуации.
Индивидуально-личностные факторы риска
При применении концепции факторов риска к проблемам нарушения безопасности КВО особое место занимают индивидуально-личностные свойства, которые в большой мере определяют поведение человека и должны учитываться при обеспечении защиты КВО от внутренних угроз.
Опираясь на исследование [15], связывающего различные формы отклоняющегося поведения со свойствами личности, можно выделить следующие индивидуально-личностные факторы риска (ИЛФР):
Проявления поведения:
- недостаточный самоконтроль,
- неспособность к межличностному общению,
- чрезмерная критичность, а агрессивность по отношению к окружа-ющим,
- неспособность к самостоятельному принятию решений.
- склонность к рискованному поведению,
- привычка уклоняться от жизненных трудностей,
- неадекватное копирующее поведение.
Мотивы и потребности:
- повышенное любопытство,
- высокая потребность в поиске ощущений,
- расторможенность сферы влечений,
- разрыв между сформировавшимся высоким уровнем притязаний и возможностью их реализации (неадекватный уровень притязаний).
Эмоциональная сфера:
- низкая стрессоустойчивость,
- тревожность и мнительность,
- частое и длительное пребывание в депрессивных состояниях,
- гедонистические установки по отношению к ожидаемым переживаниям,
- отсутствие чувства привязанности.
Типы акцентуации характера:
- гипертимный (сверхактивный),
- неустойчивый,
- циклоидный (циклические изменения настроения),
- астено-невротический (раздражительный),
- истероидный (эгоистический),
-эпилептоидный (легко возбудимый, раздражительный),
- психоастенический (склонный к чрезмерному самоанализу, колеблющийся при принятии решения),
- конформный.
Когнитивная сфера:
- плохо определяемый круг интересов,
- низкий интеллектуальный уровень.
Самооценка:
- проблемы самоопределения себя как личности и самоидентификации в коллективе,
- низкая самооценка,
- низкое самоуважение,
- комплекс неполноценности,
- дефект ценностных установок.
Перечисленные факторы риска формируют негативный потенциал работника, проявляющийся в его отклоняющемся поведении. Формы отклоняющегося поведения различны и многообразны: от прямых нарушений официально установленных или фактически сложившихся в организации норм и ожиданий до слабых и случайных нарушений нормативной деятельности, и порядка взаимодействия между людьми (оплошности, ошибки, срывы, ложь, обман, умолчание, бездействие халатность и т.п.). Отклоняющееся поведение, например, в форме саботажа, выступает как способ противодействия угнетающим условиям индивидуальной деятельности и чувству бессилия, способно нанести существенный ущерб организации.
Свойственные человеку индивидуально-личностные особенности как факторы риска всегда действуют комплексно, что затрудняет их идентификацию и количественную оценку. Кроме того, в различных сферах и условиях деятельности эти факторы проявляются по-разному. Чтобы выявить ИЛРФ требуется значительное количество высококвалифицированных экспертов: социологов и психологов, владеющих всем современным арсеналом опросных и психодиагностических методик, специалистов по безопасности, управлению персоналом.
Выводы и предложения
1. К настоящему времени во всех сферах безопасности, связанных с ЧФ, накоплен и научно обобщен большой опыт решения этой проблемы. Однако надо признать, что возможности создания стандартной системы учета ЧФ, эффективной для любых КВО, весьма ограничены, поскольку недостает объективной количественной информации, необходимой для расчета рисков нарушения безопасности КВО
от внутренних угроз. Тем не менее, на основе изучения индивидуально-личностных особенностей персонала КВО можно в известной степени прогнозировать негативные проявления ЧФ и разрабатывать профилактические меры по их нейтрализации. Выбор показателей прогноза и оценка его надежности для каждого конкретного КВО требуют уточнения.
2. Надо иметь в виду, что результаты психодиагностики и тестопросов в принципе вполне надежны, но как подчеркивают многие специалисты, они существенно зависят от размера выборки и особенностей профессиональной деятельности [16]. Интерпретация результатов тестов чрезвычайно трудна для оценки факторов риска. Кроме того, сложным представляется, в частности, определение того, является ли показатель по определенной шкале высоким или низким, значимым или которым можно пренебречь. Его приходится соотносить с нормативными значениями показа-телей по данной шкале и разброса, полученными на большой выборке. Но на сегодня такие нормативные значения, если и имеются, то только для ограниченного числа работников специальных служб, атомной отрасли и космонавтики.
3. Определение направлений и форм мониторинга факторов риска требует специального исследования. В некоторых случаях полученные результаты можно маркировать на измерительных шкалах по зонам - критической, нормальной (допустимой), возможно еще несколько градаций. Ре-зуль-таты, ложащиеся в критическую зону, создают высокий риск нарушения безопасности и могут служить основанием для разработки системы дополнительных мер учета ЧФ при обеспечения безопасности КВО.
Литература
1. Цыгичко В.Н., Черешкин Д.С. Безопасность критически важных объектов транспортного комплекса. Lambert Academic Publishing. 2014.- 217 с.
2. Цыгичко В.Н. Руководителю о принятии решений. Изд. 3-е перераб. и доп. - М.: КРАСАНД, 2010. - 352 с.
3. Либерман А.Н. Техногенная безопасность: человеческий фактор. СПб., 2006.
4. Большой психологический словарь. 4 изд. СПб.: Прайм-еврознак, 2008.
5. Человеческий фактор: в 6-ти томах / под ред.: Г. Салвенди; пер. с англ. под общ. ред. В. П. Зинченко, В. М. Мунипова. М.: Мир, 1991. Т. 6. Эргономика в автоматизированных системах. М.: Мир, 1992.- 499 с..
6. Обознов А. А. Психология и безопасность эргатиче-ских систем.// Психология труда, инженерная психология и эргономика / под ред. Е. А. Климова, О. Г. Носковой, Г. Н. Солнцевой: учебник. М.: Юрайт, 2015. Гл. 23.
7. Солнцева Г. Н. Подходы и концепции инженерной психологии // Психология труда, инженерная психология и эргономика / под ред. Е. А. Климова, О. Г. Носковой, Г. Н. Солнцевой: учебник. М.: Юрайт, 2015. Гл. 16.
8. Справочник по прикладной эргономике М.: Машиностроение, 1980.
9. Мунипов В. М., Зинченко В. П. Эргономика. Челове-коориентированное проектирование техники, программных средств и среды. М.: Логос, 2001.
10. Практикум по инженерной психологии и эргономике / под ред. Ю. К. Стрелкова. М.: ИЦ «Академия», 2003.
11. Ильин Е. П. Психология риска. СПб., Питер, 2012.
12. Агатова Л. А., Смолян Г. Л., Солнцева Г. Н. Нелояльность персонала как угроза безопасности организации // Труды ИСА РАН, 2007. Т. 31. С. 216-230.
13. Спивак А. В. Развивающееся управление персоналом. СПб.: ИД «Нева», 2004.- 444 с.
14. Смолян Г. Л., Солнцева Г. Н. Человеческий фактор как угроза транспортной безопасности // Труды ИСА РАН, 2014. Т. 64. Вып. 3. С. 81-90.
15. Шпиленя Л.С., Солнцева Н.Е. Психологические аспекты построения профилактических программ // в кн. Здоровый образ жизни и профилактика заболеваний. Уч. пособие 2 изд. испр. и доп., М, «Практика». 2015. С,104-108.
16. Шмелев А.Г. Психодиагностика личностных черт. Спб., Речь, 2002
