CC BY
132
И нформационные технологии в управлении
УДК 004.83;005;303.732;519.7;519.81
О ПРОБЛЕМЕ РИСКОВ ИЗ-ЗА ЧЕЛОВЕЧЕСКОГО ФАКТОРА В ЭКСПЕРТНЫХ МЕТОДАХ И ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЯХ
Н. А. Абрамова
Институт проблем управления им. В. А. Трапезникова, г. Москва
Проблема рисков из-за человеческого фактора при решении практических задач управления посредством экспертных методов и информационных технологий рассмотрена как комплексная проблема, охватывающая весь жизненный цикл таких методов и технологий. Представлены некоторые модели психологического влияния «окружающего интеллекта» на качество решения управленческих задач, учитывающие риски. Предложены некоторые принципы и подходы, направленные на ограничение роли выделенных типов рисков.
Светлой памяти Ивера Варламовича Прангишвили посвящается
Тем самым, от человека могут существенно зависеть результаты и их качество, а значит, — и качество решения практических задач на основе данного метода. Тогда имеет смысл обобщенно говорить о человеческом факторе или, при более детальном рассмотрении, о различных человеческих факторах, которые могут влиять на те или иные показатели качества. К значимым показателям во многих приложениях относится достоверность результатов применения метода, интуитивно понимаемая как возможность полагаться на эти результаты при решении конкретной практической задачи1. Можно говорить и о достоверности метода как о его возможности давать достоверные результаты. Риск здесь означает возможность получения недостоверных результатов.
Проблема влияния человеческих факторов на качество методов и технологий, создаваемых человеком, не нова. Достаточно сказать, что первая волна интереса к учету человеческого фактора в науке управления появилась в конце 1960-х—начале 1970-х гг. Эти исследования
1 При этом общее понятие достоверности, согласно его словарному толкованию [1], имеет два аспекта: объективную достоверность знания и субъективную уверенность, которые мы различаем и учитываем при анализе достоверности результатов применения экспертных методов. Субъективная уверенность зависит от психологических факторов.
ВВЕДЕНИЕ
Предметом исследования в настоящей статье являются экспертные методы, основанные на формализации знаний экспертов и их последующей формальной обработке, а также информационные технологии, в которых воплощены такие методы и которые применяются для поддержки интеллектуальной деятельности человека по решению практических задач. По выделенному основному признаку — формализации знаний экспертов (а также других специалистов) — к экспертным методам и соответствующим технологиям могут быть отнесены разнообразные методы и технологии, в названиях которых обычно используются другие признаки. Например, говорят об интеллектуальных технологиях и системах, когнитивных технологиях, системах поддержки принятия решений, экспертно-статистических методах и т. д. С точки зрения исследуемой проблемы, можно объединить такого рода методы под названием <<субъектно-фор-мсыьные методы». Однако из-за отсутствия общепринятого объединительного названия будем, в основном, пользоваться термином «экспертные методы».
Исходя из проблемы рисков, обусловленных человеческим фактором, целесообразно рассматривать некоторый формальный метод как субъектно-формальный, если для его применения необходимо участие человека.
находились в согласии с научным направлением под названием «человеческий фактор», или «эргономика», активно развивавшимся в то время в США. Одна из основных идей этого направления состоит в том, что недостаточный учет свойств человека (человеческих факторов) при построении тех или иных систем, включающих в себя человека, в основном, в роли оператора может привести к неудовлетворительному решению поставленных задач: снижению надежности, уровня безопасности, достоверности и т. п. Еще одна важная для практики идея заключается в том, что поиск решений проблемы рисков, обусловленных человеческим фактором, должен охватывать не только сами системы, но и процесс их проектирования.
Академик И. В. Прангишвили, директор Института проблем управления РАН с 1987 г. по 2006 г., в последние годы жизни обратил внимание на проблематику человеческого фактора в управлении (в рамках науки управления), и это было неслучайным. Будучи организатором научных исследований в области проблем управления, он многократно обращался к вопросу о возможностях фундаментальной, по современным научным нормам, науки решать проблемы, фундаментальные или, по крайней мере, крупные, с общечеловеческой точки зрения. Относясь с глубоким уважением к математической теории управления, он вместе с тем неоднократно говорил о том, что математика не может решать многих практических проблем управления, которые далеки от готовых математических схем.
Определяя цели сборника статей «Человеческий фактор в управлении», который был выпущен в последний год жизни И. В. Прангишвили, он ставил ряд вопросов. «Насколько эффективную помощь может оказать наука в решении практических задач управления в условиях, когда существенную роль в осмыслении и решении проблем, особенно крупномасштабных и слабоструктурированных, неизбежно решает человек? Насколько значим человеческий фактор в решении практических задач управления с использованием научных знаний? Насколько наука управления может быть полезной в решении «человеческой составляющей» задачи, какими средствами она для этого располагает?» [2].
И. В. Прангишвили был убежден, что фундаментальная наука должна давать решения проблем, значимых для людей, независимо от теоретического аппарата, которым она для этого воспользуется, и степени его формальности. Он склонялся к мысли об интеграции формальных математических методов со знаниями наук о человеке там, где это поможет решать конкретные проблемы управления.
И идеи И. В. Прангишвили об углублении связи формальной науки с решением практических задач, и эргономическая идея охвата этапа проектирования систем при решении проблемы рисков из-за человеческого фактора приводят к необходимости комплексного подхода. Этот подход состоит в том, чтобы рассматривать проблему рисков из-за человеческого фактора при решении практических задач управления посредством формальных методов и информационных технологий как комплексную проблему, которая охватывает весь жизненный цикл таких методов и технологий. При этом должны учитываться человеческие факторы, действую-
щие во всем этом цикле, включая выбор или создание и обоснование метода и (или) технологии, а затем — практическое применение для решения конкретных задач, вплоть до завершения «миссии», ради которой применялся рассматриваемый метод. Такой подход приводит к уточнению понятия человеческих факторов в управлении [2].
Человеческие факторы в управлении (в рамках науки управления) — это факторы, которые связаны с различными ролями человека при решении практических задач управления (или задач, относящихся к управлению) и должны учитываться учеными при разработке средств решения таких задач (моделей, методов, математического аппарата, методологий, компьютерных средств и технологий). Более точно, речь идет о факторах, которые:
• обусловлены различными ролями человека в жизненном цикле порождения и практического применения разрабатываемых методов и средств решения задач управления,
• влияют на практическую значимость и адекватность практического применения теоретических результатов.
В частности, такое понимание человеческих факторов заставляет рассматривать как источники риска для качества решений (адекватности, надежности, безопасности, достоверности и т. п.) не только экспертов, которые включены в процесс применения тех или иных методов, но и ученых, которые создают и обосновывают формальные методы и теоретические модели экспертов, включаемых в процесс применения методов.
Факт влияния создателей формальных методов на адекватность результатов применительно к таким областям, как экономические теории и теории принятия решений, привлек внимание психологов и породил дискуссии по поводу конфликта между представлениями теоретиков в этих областях о том, как должны думать люди, и знаниями психологов о том, как люди действительно думают'. Попытки объединить усилия специалистов по нормативным методам и дескриптивным знаниям о человеке в области принятия решений предпринимались во второй половине 1980-х гг. Видную роль в них играли работы А. Тверского и Д. Канемана, лауреата премии памяти А. Нобеля.
Новое обращение к идеям интеграции психологических и математических подходов в области принятия решений со стороны О. И. Ларичева и его школы на основе выдвинутого принципа психологической корректности методов сделало упор на надежность знаний, получаемых от человека в ходе применения того или иного метода [4, 5]. Суть принципа состоит в том, чтобы для обеспечения надежности этих знаний закладывать в основу экспертных методов только такие допущения о человеке и его возможностях, обоснования которых опираются на психологические данные и учитывают воз-
” Конфликт представлений актуален и сегодня. Например, в теориях управления социально-экономическими системами общепринят принцип рациональности, тогда как в психологии принцип ограниченной рациональности, выдвинутый еще Г. Саймоном, разрабатывается и сегодня [3].
можности и ограничения «человеческой системы переработки информации».
В прикладной деятельности по оценке качества и верификации программного обеспечения, связанного с безопасностью, автору пришлось столкнуться со спектром практически значимых факторов риска для достоверности результатов применения известных, рекомендуемых стандартами экспертных методов оценки [6]. Дальнейший теоретический анализ и сравнение с практической деятельностью экспертов приводят к выводу, что многие источники рисков для качества результатов, ведущие к психологической некорректности этих методов3, являются общими для самых разных экспертных методов и технологий, которые сегодня активно разрабатываются в разных теоретических направлениях и используются на практике. В целом спектр возникающих проблем лежит в области человеческих факторов, причем удовлетворительное объяснение ряда типичных ситуаций оказывается возможным лишь при совокупном учете влияний, исходящих и от пользователей, и от создателей методов. По мнению автора, наиболее «тяжелыми» факторами риска оказываются научные нормы и парадигмы, обеспечивающие уверенность ученых в своих немотивированных представлениях.
С учетом сложности реализации принципа психологической корректности и ограниченности современных психологических знаний выдвинут и проверен в эксперименте альтернативный принцип (концепция) эмпирического обоснования выбора средств формализации с учетом адекватности их влияния на качество решения практических задач [7]. Он означает, что оценочные утверждения теоретиков об адекватности тех или иных видов формализации для решения практических задач должны рассматриваться как гипотезы. В роли их более или менее сильных эмпирических обоснований могут выступать конкретный опыт, эксперименты, отдельные примеры успешно решенных задач.
Однако понятно, что оба принципа, направленные на повышение обоснованности современных экспертных методов и, в конечном счете, на повышение достоверности результатов, едва ли могут привести к быстрому и ощутимому влиянию на качество методов из-за несоответствия действующим научным нормам. В силу этого можно прийти к выводу, что сегодня основная проблема человеческих факторов при создании и применении экспертных методов и соответствующих информационных технологий проявляется в том, что такие методы и технологии не обеспечивают достоверности получаемых решений (в определенном выше смысле). Поэтому при ориентации экспертных методов и соответствующих технологий на качество получаемых знаний и принимаемых решений на первый план выходят проблемы выявления рисков и их блокирования в конкретных технологиях и при решении конкретных практических задач подобно тому, как это делается при отладке программ, создаваемых ненадежными методами.
3 Исходное понятие психологически корректных методов
[5] расширено в работе [6] так, чтобы учитывать возможность неадекватных, с позиции пользователей, результатов в силу неадекватных моделей знаний и деятельности экспертов, на которые опираются методы.
Поиск теоретических средств для объяснения механизмов действия типичных факторов риска, известных уже сегодня, и идентификации рисков в конкретных технологиях привел к необходимости рассматривать интеллектуальную деятельность экспертов и ее психологические аспекты в контексте взаимодействия с «окружающим интеллектом»: разработчиками и носителями методов и технологий, их теоретиками [8]. В качестве таких средств предлагаются некоторые модели для описания и исследования психологического влияния «окружающего интеллекта» на качество решения управленческих задач при помощи экспертных методов и технологий, представленные в § 1.
В § 2 описаны некоторые принципы и подходы к защите от рисков из-за человеческих факторов, в основе которых лежит общий принцип защиты от рисков в процессе применения данного метода и его результатов для решения конкретной практической задачи, начиная с ранних этапов.
1. ДВА РОДА ФАКТОРОВ РИСКА. НЕКОТОРЫЕ МОДЕЛИ ПСИХОЛОГИЧЕСКОГО ВЛИЯНИЯ «ОКРУЖАЮЩЕГО ИНТЕЛЛЕКТА»
В жизненном цикле экспертных методов и технологий можно выделить два рода факторов4 риска.
Факторы риска, психологически влияющие на достоверность экспертных методов в ходе их применения экспертами, относятся к факторам первого рода, или факторам прямого действия. Их действие обычно связано с экспертами (или аналитиками, лицами, принимающими решения — ЛПР и другими специалистами), чьи знания формализуются для последующего применения формальных методов; именно эти люди оказываются в условиях, которые могут, в конечном счете, привести к порождению недостаточно достоверных (в объективном отношении) результатов. Такие факторы могут либо объективно способствовать недостоверности, либо повышать субъективную уверенность экспертов в достоверности результатов применения методов, начиная с их собственных формализованных знаний.
Факторы риска второго рода, или факторы косвенного действия, закладываются и начинают действовать уже в ходе создания и обоснования экспертных методов. Влияние этих факторов связывается с создателями методов и технологий, учеными и экспертами-стандарти-заторами, которые, в свою очередь, подвержены влияниям научных норм, традиций научных школ, парадигм, различных мифов и т. д., а также «носителями технологий», нередко выступающими в качества посредников между создателями методов, с одной стороны, и экспертами и другими специалистами — пользователями результатов, с другой.
Типичными примерами факторов риска первого рода являются естественные механизмы мышления, создающие риск ошибок. Ряд характерных типов таких ошибок,
4 Согласно словарному определению, фактор (от лат. factor — действующий, производящий) — это «причина, движущая сила какого-либо процесса, явления, определяющая его характер или отдельные его черты» [1].
которым подвержены не только дилетанты, но и эксперты при работе со сложными ситуациями, представлен в книге известного немецкого психолога мышления Д. Дернера3 [9]. Типичные факторы риска второго рода — это психологически некорректные модели знаний экспертов, создающие риск ненадежных (неустойчивых и противоречивых) данных от экспертов6 а также - необоснованные модели знаний экспертов .
Для уточнения механизмов действия рассматриваемых факторов риска и их взаимодействия между собой представляется уместным обратиться к понятию «окружающего интеллекта» (англ. ambient intelligence, сокращенно Ami), которое сегодня становится все более популярным. Его смысл состоит в том, что современный человек окружен многочисленными продуктами интеллектуального труда, такими как компьютеры, мобильные телефоны, компьютерные технологии и др., которые нередко претендуют на выполнение «интеллектуальных» функций; это окружение оказывает влияние на деятельность человека, в том числе, интеллектуальную, которое на сегодня не вполне осознано, но достаточно значительно и многообразно, чтобы стать предметом научного исследования8. Специфика многих компьютерных технологий и систем (называются ли они интеллектуальными, информационными, когнитивными или как-то иначе) состоит в том, что здесь окружающий интеллект напрямую предназначен для влияния на интеллектуальную деятельность человека.
Попытки представить прямое или косвенное взаимодействие интеллектов и связанных с ними факторов, порождающих риски для конечных результатов деятельности, с позиций управления привели к модели когнитивного управления [7]. Ключевым элементом этой модели является формализация знаний одних людей в соответствии с представлениями (обычно) других людей о том, какой она должна быть.
Модель когнитивного управления (МКУ). Понятие «когнитивное управление» введено для обозначения управления, которое воздействует на когнитивные (познавательные) средства конкретного человека, осмысливающего и структурирующего ситуацию [7]. Прежде всего, к этим средствам относятся его общие понятия и схемы представления знаний, посредством которых происходит формализация его внутренних представлений об интересующей его ситуации.
3 Например, это — неправильный выбор модели для экстраполяции при прогнозировании развития ситуации, в част-
ности, принятие линейной модели, нс соответствующей реаль-
ной динамике.
6 По результатам исследований, представленных в работе [4] и опирающихся на психологические исследования последних 30 лет, в статье [5] сделан вывод, что назначение субъективных вероятностей, количественных оценок важности критериев, «весов», полезностей и т. п., гораздо менее надежно, чем «мягкие» качественные измерения типа сравнения, отнесения к классу, упорядочения.
7 Некоторые, некритически принимаемые догмы в современной теории экспертных оценок обсуждаются в работе [10].
8 Достаточно назвать, проводившийся в 2006 г. симпозиум
ИФАК по социальным эффектам автоматизации, на котором те-
ма окружающего интеллекта была среди основных тем (см. [8]).
Внутреннее представление о рассматриваемой ситуации рассматривается как когнитивная модель этой ситуации. Это — модель по отношению к ситуации9, как и любое отражение мира в сознании человека, и эта модель является когнитивной, поскольку она сформирована посредством когнитивных средств человека10.
Управление может происходить явным или неявным «навязыванием» человеку определенных когнитивных средств (понятий и теоретических моделей в качестве схем представления знаний) с применением тех или иных психологических механизмов, будь то привлечение внимания к известным средствам, обучение новым средствам, формирование установок, намерений, мотиваций или просто необходимость подчиниться формам представления знаний в той или иной технологии. Механизмы, толкающие человека к использованию определенных средств, как и субъекты управления, в базовой модели когнитивного управления (рис. 1), не учитываются. В качестве единственного «входа» в этой модели выступают навязываемые управляемому субъекту когнитивные средства формализации (на рис. 1 управляемый субъект обозначен условным понятием «эксперт-аналитик»).
Если исключить из рассмотрения управляемого субъекта, эта модель аналогична классической схеме управления состоянием, принятой в дискретном управлении: вход, исходное состояние ^ выход, новое состояние.
В качестве исходного состояния выступает первичная, до подачи управляющего воздействия, когнитивная модель ситуации. Результат когнитивного управления может быть различным в зависимости от многих факторов, в том числе, от того, как управляемый субъект участвует в решении практических задач и как он при этом
Рис. 1. Базовая модель когнитивного управления
9 Как экспериментально установлено в работе [7], помимо когнитивной модели ситуации, человек может иметь фоновые знания о ситуации и ее контексте, которые НС вошли в когнитивную модель в качестве значимых для решаемой задачи, но могут быть включены в нее при изменении структуры модели, например, под действием формализации или смены средств формализации.
10 Уточним, что понятие когнитивной модели, которое встречается в рамках когнитивного подхода к моделированию [11], в терминах когнитивного управления является внешней формализованной моделью; она получается из когнитивной модели формализацией под воздействием какой-то из разновидностей общей формальной модели когнитивной карты, и ее можно было бы назвать «квазикогнитивной».
взаимодействует с компьютером. В любом случае в результате получается новое состояние когнитивной модели, вторичная когнитивная модель и, если это предусмотрено, выход в виде внешней формализованной модели ситуации: документа и (или) входных данных для компьютера.
В соответствии с принципом искажающего эффекта [12] предполагается, что в общем случае все три модели лишь более или менее согласованы друг с другом. (В частном случае эффект может быть несущественным в контексте решаемой задачи.) Подчеркнем, что даже представленная простейшая модель когнитивного управления, базовая МКУ, с учетом допущения об искажающем эффекте, существенно отличается от многих сложившихся представлений исследователей по поводу влияния формализации на первичные знания и представления людей. Достаточно сказать, что большинство специалистов «не видит» такого влияния — по умолчанию предполагается, что изменение формы первичных знаний и представлений, например, о решаемой задаче или ее исходных данных не меняет их смысла.
Несколько более подробно противоречивый спектр отношений к эффекту формализации освещен в работе [7]. Там же представлены результаты эксперимента, поставленного в соответствии с этой моделью, из которых следует, что игнорирование возможных значимых расхождений между тремя моделями или признание только положительного эффекта формализации могут стать существенными факторами риска для конечных результатов.
Базовая МКУ лишь фиксирует необходимость различать три модели ситуации, по крайней мере, при анализе вопросов, связанных с достоверностью. В ней не учитываются психологические факторы влияния, от которых зависит, будут ли полученные модели адекватны решаемой практической задаче. Теоретические соображения, анализ практики и наличие фактов существенной неадекватности формализованных представлений, обусловленных выбором средств формализации, приводят к тому, чтобы учитывать в МКУ факторы психологического влияния [8]. Они могут исходить как от самого экспер-та-аналитика (факторы первого рода), так и от окружающего интеллекта — посредством факторов второго рода. Это уточнение приводит к типовой схеме влияния окружающего интеллекта на эксперта-аналитика в отношении рисков для достоверности результатов формализации, которая представлена на рис. 2. Как показывает анализ практики, наиболее сильными и устойчивыми факторами влияния здесь являются научные нормы и парадигмы. Типичным примером из области теории принятия решений служит вера многих ученых в адекватность линейной свертки оценок объекта по многим признакам в одну комплексную оценку (иначе, взвешенного усреднения оценок).
Отметим, что базовая МКУ, как и ее расширение с учетом факторов влияния на достоверность результатов, описывает процесс когнитивного управления укрупнен-но — как одношаговый процесс. Однако на ее основе легко строится многотактная модель когнитивного управления, в которой на разных шагах могут «вводиться» разные когнитивные средства формализации. В частности, она уместна в ситуациях, когда искомая форма-
Рис. 2. Типовая схема влияния окружающего интеллекта на эксперта-аналитика
лизованная модель ситуации настолько сложна и громоздка, что требуется выделять отдельные шаги, «такты», и соответствующие средства формализации, или когда разные шаги выполняются разными специалистами. (Например, в статье [6] рассматривается ситуация, когда одни специалисты определяют структуру дерева показателей качества, другие — относительные веса показателей, третьи — определяют оценки по показателям нижнего уровня.) Именно многотактная МКУ применялась в работе [7].
Многотактная МКУ может применяться в качестве основы для проектирования методик управления процессом формализации, ориентированных на предотвращение рисков формализации, в составе технологий поддержки решения управленческих задач, опирающихся на экспертные или иные субъектно-формальные методы, и для анализа рисков при проектировании интерфейсов таких технологий с пользователями.
Главная практическая ценность предложенной МКУ и связанных с ней схем влияния окружающего интеллекта на пользователя определенной технологии состоит в том, что она предопределяет, как структурировать различные факторы с целью выявления возможных источников риска и поиска средств компенсации. Это касается как типовой схемы, рассмотренной ранее (рис. 2), так и иных схем, которые могут быть получены в результате ролевого анализа жизненного цикла данной технологии11.
Модель эксперта. Представленная МКУ связывает знания и представления человека, в частном случае, эк-сперта-аналитика, с воздействием навязанных когнитивных средств, никак не учитывая специфичных черт деятельности эксперта, в частности, его компетентности или успешности.
Исходя из анализа практической деятельности экспертов, которая не всегда согласуется с нормативными моделями структуры их знаний и деятельности в различных технологиях (см., например, работу [6]), и ориентируясь на анализ рисков для достоверности знаний от экспертов и других специалистов, вовлекаемых в процесс
11 Отмстим, что б частном случае субъект управления и уп-
равляемый субъект могут совпадать — человек может сам управлять собственным мыслительным процессом формализации.
применения экспертных методов, принята следующая модель эксперта [12].
Специалист является экспертом в некоторой области профессиональной деятельности (области компетентности), если он:
^ 1 ? 1 я
• обладает совокупностью эвристик " \ рутинное
применение которых в стереотипных для него ситуациях обеспечивает относительно успешное решение (общих или частных) задач, адекватных ситуации14, по крайней мере, в отсутствии факторов влияния, толкающих к отказу от применения своих профессиональных и интеллектуальных знаний и умений;
• способен с относительно высокой степенью успеха отличать нестереотипные (и пограничные) ситуации из своей области компетентности и — в случаях, когда его стереотипные эвристики неадекватны ситуации — осуществлять творческое решение задачи на основе имеющихся эвристик или привлекаемых знаний, ориентируясь на успешность конечных результатов деятельности.
Эта модель довольно хорошо согласуется с современными психологическими представлениями [13, 14], ставящими интеллектуальную компетентность в зависимость от тех интеллектуальных средств (ресурсов, опыта), которые применяются человеком при решении своих задач. При этом выделяются когнитивные и мета-когнитивные ресурсы (метакогнитивный опыт), и мета-когнитивный опыт в широком понимании трактуется как совокупность средств интеллекта («ментальных структур»), основное назначение которых — это «контроль за состоянием индивидуальных интеллектуальных ресурсов, а также коррекция хода интеллектуальной деятельности» [13]. В предлагаемой модели эксперта можно отнести к метакогнитивному опыту, или ресурсам, те эвристики (или иные мыслительные средства), которые позволяют контролировать применимость имеющихся эвристик к конкретной ситуации, управлять их работой в области творческой деятельности и др.
Таким образом, в описанной модели очень грубо и условно принимается, что область компетентности эксперта охватывает две подобласти, отличающиеся в зависимости от интеллектуальных средств, работающих при
и Понятие «эвристика» («находка» от грсч. — отыскиваю, открываю) является принятым в психологии понятием. Эвристики нередко связывают с мыслительными операциями поиска решений (не обязательно осознаваемыми) — как ответ на поиск: способ, прием, при помощи которого затем находится и принимается решение, или даже готовое решение. Как и в принятом в строгих науках понятии эвристики (или эвристического метода), имеется в виду средство решения задачи без гарантий достижения результата, однако специфика психологического понятия — в том, что оно относится к субъективным средствам решения.
' К эвристикам можно отнести и знания, приобретенные из опыта, не обязательно осознаваемые, и научные знания, которые проверены на практике, или, по крайней мере, истинны и значимы для практики, с точки зрения эксперта, и мыслительные средства оперирования с профессиональными знаниями.
14 Речь идет об относительной успешности, поскольку отдельные неудачи или недостаточно достоверные результаты работы эксперта нельзя исключить в силу множества факторов, например, недостоверности или недостатка информации, влияния интересов и др.
решении задач и обеспечивающих относительную успешность. Этим данная модель существенно отличается от традиционных представлений об экспертах в теории экспертных оценок, в искусственном интеллекте, в науке управления, основанной на формальных методах, в целом. Для них характерно стремление ограничить роль эксперта стереотипными схемами, которые хорошо согласуются с формальными методами. При этом область творческого решения задач экспертами остается «за скобками».
В данной модели предполагается, что знание, которое формирует эксперт, действующий в области стереотипных для него ситуаций, является наиболее достоверным (благодаря приемлемой успешности используемых стереотипных эвристик, подтвержденной опытом), тогда как в случае нестереотипных, нетипичных ситуаций достоверность может снижаться из-за риска недостаточно проверенных решений.
Предполагается также, что за рамками областей более или менее результативной (по успешности, достоверности) деятельности, в которых человек выступает как эксперт благодаря репродуктивному или творческому переносу профессиональных знаний и умений, лежат области с меньшей достоверностью результатов, в которых возрастает роль немотивированных эвристик. Грубо говоря, они составляют область «обыденного мышления», когда эксперт уже перестает быть экспертом13.
Напомним, что согласно результатам обширных психологических исследований, приобретшим популярность благодаря известной книге Р. Чалдини [16], для обыденного мышления характерно применение немотивированных эвристик, неадекватных конкретной ситуации. Эти знания, систематизированные Чалдини в виде ряда принципов, обобщены и структурированы в качественной модели действия стереотипов и факторов влияния [6], учитывающей анализ практической деятельности экспертов. Согласно модели, применению неадекватных эвристик способствуют:
— объективные и субъективные условия, такие как недостаток времени или познавательных ресурсов для исчерпывающего анализа ситуации, информационная сложность ситуации, неопределенность, отсутствие выбора и др.;
— специфика действия стереотипов, запускаемых автоматически без достаточных оснований (предполагается механизм условного рефлекса)16;
— «факторы веры» — факторы влияния, повышающие субъективную уверенность в адекватности принимаемых решений, помимо их объективной адекватности, вплоть до существенных отклонений от рационального поведения.
К факторам веры можно отнести такие принципы Чалдини, как принцип обязательства, или занятой позиции; принцип социального доказательства; принцип
13 Противопоставление экспертного и обыденного мышле-
ния заимствовано у Л. Г. Ионина [15], который различает эти
виды мышления по используемым стереотипам (хотя и в несколько иной терминологии).
16 Попросту говоря, стереотипы (или стереотипные эвристики) — это первое, что приходит на ум в той или иной ситу-
ации при поиске ответов на возникающие вопросы.
авторитета [16] — общие принципы поведения, типичные для людей. К ним же относятся и факторы, характерные для научного сообщества: научные парадигмы и нормы научных направлений и школ и даже мифы [6], которым подвержены как практики, так теоретики, например, миф «число лучше (чем качественные оценки)».
Описанное выше модельное разбиение областей деятельности эксперта по областям, отличающимся по достоверности результатов, представлено на рис. 3. Стрелками показано предполагаемое снижение достоверности результатов экспертной деятельности в зависимости от степени соответствия решаемых задач и ресурсов, влияющих на успешность (при отсутствии навязываемых эксперту форм мышления, т. е. отсутствии когнитивного управления).
Уточним, что граница между областью компетентности и областью обыденного мышления в содержательном плане относительна: эксперт может сравниваться по компетентности как со средними специалистами, так и с «человеком с улицы». Однако с модельной точки зрения эта граница при фиксированных задачах зависит, в основном, от наличия ресурсов для решения задач, а также — для контроля за их адекватностью.
Поведение эксперта под когнитивным управлением. Риски. Исходя из данной модели эксперта, нетрудно предположить, что когнитивное управление, основанное на допущениях о возможностях экспертов, а не на реальном знании их ресурсов, создает риск для качества (достоверности) результатов из-за использования не тех средств, которые ведут к успеху. К пониманию того, как это происходит на практике, приводит анализ типичного поведения экспертов в условиях, когда эксперт должен следовать навязанной структуре знаний и деятельности и при этом обнаруживается когнитивный диссонанс17 между этой структурой и его собственными представле-
Область «обыденного мышления»
Рис. 3. Грубая модель компетентности эксперта
17 Понятие «когнитивный диссонанс» введено Л. Фсстингс-ром [17] и определяется как существование противоречивых отношений между отдельными элементами в системе знаний, мнений или представлений человека относительно самого себя, собственного поведения и своего окружения; между тем, что человек знает и чему он верит, и тем, что он делает. Диссонанс вызывает стремление к его уменьшению или устранению.
ниями о ситуации, в которую его привлекали как эксперта, и (или) о своих возможностях [8]. Автору неоднократно приходилось наблюдать две типичные стратегии поведения эксперта в условиях диссонанса:
• пассивная стратегия подчинения когнитивному управлению, т. е. предоставление, например, требуемых экспертных оценок, в достоверности которых эксперт не уверен;
• активная стратегия, ориентированная на успешность конечных результатов деятельности, в состав которой входит экспертиза, с предоставлением тех экспертных данных, которые, по оценке эксперта, окажут наилучшее влияние на конечный результат. Каждая из стратегий имеет свои источники риска получить результаты, неадекватные общим целям деятельности. Эти источники объяснимы теоретически, хотя и в рамках разных теорий.
Активная стратегия соответствует представлениям о поведении «человека управляемого» в теории активных систем. Согласно парадигме активных систем, человек обладает свойством сознательного выбора той модели поведения, которая наиболее отвечает его целям в данной ситуации. В частности, он может внешне действовать в рамках заданных «правил игры», а фактически следовать своим целям и правилам. Одним из «инструментов» эксперта при такой стратегии становится рефлексия — мысленное моделирование окружающей его среды с целью прогнозирования реакции на те или иные предоставляемые им данные. В терминах нашей модели он пытается творчески решить задачу, чтобы повлиять на конечные результаты деятельности, используя для этого метакогнитивный ресурс рефлексии. Неадекватное прогнозирование экспертом поведения среды (т. е., в наших терминах, окружающего интеллекта) служит явным источником риска18.
Пониманию когнитивных процессов, происходящих при пассивной стратегии в условиях, когда эксперт должен дать большое число отдельных оценок, способствуют экспериментальные исследования и объяснительные гипотезы психолога С. И. Шапиро, которые относятся к «алгоритмам, пересаженным в человеческую голову» [18]. Его исследования показывают, что фокусирование сознания на выполнении отдельных мысленных действий приводит к утрате целостности (гештальта); человек оказывается в ситуации сравнительно низкого «операторного» уровня мышления, характерного для неопытных программистов. Если эксперт выбирает такую стратегию при недостаточной компетентности в выполнении отдельных действий, велик риск перехода на уровень обыденного мышления, со свойственным ему меньшим уровнем достоверности результатов. (Для краткости мы не останавливаемся на дополнительных факторах риска — факторах веры 1-го и 2-го рода, систематически действующих в этих условиях.)
В заключение подчеркнем практическую ценность представленной модели эксперта и основанном на ней анализе типичных стратегий поведения эксперта в усло-
18 Рефлексия нс обязательно служит средством творческого решения задач: в ряде известных видов профессиональной деятельности она является стереотипной эвристикой, определяющей компетентность эксперта.
виях навязанных форм мышления и деятельности для планирования деятельности экспертов и других специ-алистов-пользователей той или иной технологии в ходе проектирования пользовательского интерфейса.
Процесс взаимодействия с компьютером пользовате-ля-носителя знаний при формализации его знаний посредством пользовательского интерфейса по существу представляет собой процесс когнитивного управления пользователем со стороны окружающего интеллекта. Проектирование этого процесса опирается на те или иные модельные представления о человеке, и при современных нормах построения интерфейса и учета человеческого фактора такие представления (нередко не осознаваемые разработчиками) обычно недостаточно обоснованы и не учитывают того, как думает успешно действующий эксперт. При проектировании интерфейса в соответствии с предложенной моделью следует контролировать риски для достоверности конечных результатов деятельности, обусловленные возможным несоответствием привычных представлений фактам.
Еще одна рискованная форма влияния на экспертов возникает в типичной ситуации, когда результат формализации первичной когнитивной модели у эксперта расценивается как ошибка со стороны носителей технологии. Ситуации такого рода (например, «ошибки» транзитивности предпочтений) довольно хорошо известны. Анализ рисков в такого рода ситуациях, выходящий за рамки данной статьи, проведен в работах [8, 19] на основе модели действия стереотипов и факторов влияния с учетом типичных факторов риска из-за человеческого фактора. Анализ показал, что имеется ряд систематически действующих факторов влияния, прежде всего, второго рода, которые создают риск ошибочно признанной ошибки и, как следствие, ошибочно скорректированного знания эксперта-аналитика. Поэтому целесообразно исследовать определенные модели представления знаний экспертов в отношении их способности действительно обнаруживать ошибки и с учетом этого строить взаимодействие с экспертами в конкретных технологиях во избежание рисков.
2. НЕКОТОРЫЕ ПРИНЦИПЫ И ПОДХОДЫ К ЗАЩИТЕ ОТ РИСКОВ, ОБУСЛОВЛЕННЫХ ЧЕЛОВЕЧЕСКИМ ФАКТОРОМ
Отсутствие гарантий достоверности современных субъектно-формальных методов и соответствующих компьютерных технологий делает целесообразным при их использовании, особенно — для приложений с высокой ценой риска, общий принцип защиты от рисков из-за человеческого фактора в процессе применения данного метода и его результатов для решения конкретной практической задачи, начиная с ранних этапов.
Суть принципа состоит в следующем. В случае принятия решения о применении рискованного метода (т. е. метода, не гарантирующего достоверности результатов) необходимо применять те или иные меры, направленные на «блокирование» или, по крайней мере, ограничение роли рисков в процессе применения данного метода и внедрении таких мер в соответствующую технологию.
При этом под процессом применения метода подразумевается не только однократное или многократное получение определенных результатов по данному методу, но и разного рода предварительная подготовка, равно как и использование результатов в ходе решения требуемой практической задачи (вплоть до завершения «миссии»)19. К предварительной подготовке следует относить, например, настройку тех или иных параметров, требуемых для решения конкретной задачи, предварительное введение экспертных знаний и др.
Направление исследований по реализации предлагаемого общего принципа только начинает складываться. Однако уже сегодня можно выделить некоторые частные принципы и подходы:
— анализ рисков для достоверности, как общих, так и специфичных для принятой в методе или технологии модели формализованного представления знаний специалистов, по всем этапам жизненного цикла',
— накопление информации о типичных ошибках и факторах риска;
— раннее обнаружение и блокирование источников риска и семантических ошибок формализации, не препятствующих дальнейшему применению метода, в частности, — посредством отладки формализуемых знаний с контролем над рисками;
— сквозной контроль применимости общей модели знаний, лежащей в основе формализации, к конкретной практической ситуации, включая априорный и апостериорный контроль.
Остановимся на некоторых частных принципах, предполагая остальные более или менее понятными.
Принцип отладки формализуемых знаний для устранения источников риска и прямых семантических ошибок имеет очевидный прототип — проектирование программного обеспечения с выявлением ошибок в программах, начиная с их спецификаций. Цель таких действий — не только выявление ошибок или источников риска до практического применения результатов, но и сокращение стоимости усилий по корректировке. Знания о рисках для достоверности и типичных ошибках, полученные в результате теоретического анализа и опыта предшествующего использования, полезны для повышения эффективности отладки.
Суть принципа сквозного контроля применимости общей модели М к практической ситуации такова. Даже если носитель формализуемых знаний 5 о ситуации (эксперт, аналитик, ЛПР или «посредник», выполняющий формализацию) априорно (т. е. до применения предлагаемой модели М к знаниям 5) оценивает модель М как применимую для решения конкретной задачи, эта оценка может измениться в ходе применения модели М. Это изменение оценки может произойти на разных этапах жизненного цикла субъектно-формального метода: на этапе формализации, когда модель М применяется в качестве схемы для представления первичных знаний 520; в ходе отладки, когда обработка результата формализации М(5) дает неприемлемый результат; в ходе практического использования конечного результата _Л(М(5)),
19 Именно б контексте решения целостной практической задачи управления может проявляться недостаток достоверности.
который получается применением формального метода Я к результату формализации М(5) и зависит не только от знаний 5, но и от модели М и метода Я.
Если апостериорно обнаруживается, что общая модель М неприменима (по тем или иным признакам) для формализации знания 5, это приводит к выводу, что последующее применение результата формализации М(5) создает риск получения неадекватных результатов, тем самым — достоверность М(5) снижается. В ряду мер, направленных на защиту от обнаруженных рисков, стоит коррекция М(5) (если она возможна).
Убедительный пример такого апостериорного контроля применимости принятой модели знаний, используемого в банковских технологиях с высокой ценой риска из-за недостоверных результатов, представлен в работе [20]. Там речь идет о периодическом контроле и корректировке качества модели экспертных знаний о клиентах, на основании которой производится оценка клиентов («скоринг») и принимаются решения по их кредитованию. Это «приводит к замыканию контура системы управления процессом кредитования населения» по критерию качества управления, которое связывается с качеством модели экспертной оценки клиентов.
Отметим, что корректировка по результатам контроля применимости общей модели знаний в ходе применения результатов метода может быть вызвана как изначально недостаточной достоверностью формализованной модели, так и объективным изменением моделируемой ситуации. Данная работа построена без учета последнего варианта'1.
Критерии достоверности формализации. При реализации общего принципа защиты от рисков в ходе применения данного экспертного метода открытыми оказываются вопросы о критериях достоверности формализации и методологии их выявления. Особый интерес представляют критерии, применимые на ранних этапах, т. е. до формальной обработки формализованной модели исходных знаний экспертов или других специалистов.
Автором совместно с коллегами выполнены некоторые не только теоретические, но и эмпирические исследования в этом направлении по нескольким типам моделей знаний, используемых в субъектно-формальных методах, включая [21]:
• модели на основе когнитивных карт;
• модель дерева показателей со взвешенным усреднением частных показателей (при оценке качества программного обеспечения, связанного с безопасностью);
• модель нечеткого алгоритма, использующего операторы перехода по примерному равенству, в сочетании с двумя моделями для оценки достоверности (истинности) альтернативных результатов применения алгоритма.
Сопоставление результатов для разных типов моделей знаний свидетельствует в пользу гипотезы о продук-
20 Типичный вид такой переоценки — обнаружение «ошибки эксперта» при формализации, которое означает конфликт между 5 и М; если эксперт уверен в правильности своих первичных знаний 5, остается принять, что модель М неприменима к ним [19].
л[ На практике требуется анализ, различающий эти ситуации.
тивности единого подхода к проблеме достоверности формализованных знаний, когда становится возможным перенос знаний об источниках риска, критериях обнаружения рисков и прямых ошибок, методах анализа, которые получены на одном типе моделей и решаемых задач, на другие типы.
Эти исследования приводят к выводу, что более эффективное обнаружение прямых ошибок и рисков для достоверности в результатах формализации может быть достигнуто при междисциплинарной интеграции знаний из разных областей. В частности, оказалось, что обоснование некоторых критериев отсутствия рисков и техники коррекции сомнительных или явно некорректных формализаций потребовало привлечения модели действия стереотипов, опирающейся на психологические знания, модели когнитивного управления, некоторых лингвистических знаний. Такая «междисциплинарная» ситуация имела место, например, для таких критериев отсутствия рисков, как общий критерий адекватности перевода промежуточной вербализованной модели исходных знаний, которая ориентирована на человека, на язык математической модели (которая подвергается формальной обработке); как критерий когнитивной ясности (проще говоря, легкости интуитивного понимания) конечной модели. Эти критерии были разработаны, обоснованы и проверены применительно к моделям на основе когнитивных карт [21], но могут быть перенесены и на другие типы моделей знаний.
ЗАКЛЮЧЕНИЕ: ВЫВОДЫ, ПРОБЛЕМЫ, ПЕРСПЕКТИВЫ
Проводимые исследования по проблеме рисков, обусловленных человеческим фактором при решении практических задач управления посредством экспертных методов и информационных технологий поддержки решения таких задач, позволяют прийти к двум выводам. С одной стороны, имеются различные теоретические, экспериментальные и даже практические знания, ведущие к пониманию или прямо говорящие о том, что человеческие факторы могут быть источником риска для качества результатов. С другой стороны, даже более или менее широко известные знания о рисках и их источниках, в основном, не замечаются научным сообществом или, в лучшем случае, недооцениваются, что теоретически вполне объяснимо с учетом психологических факторов, согласно представленным выше моделям.
Тем самым, имеется почва для теоретического развития и практического применения экспертных и, в общем случае, субъектно-формальных методов, которые не обеспечивают приемлемого для ряда приложений уровня качества получаемых решений (адекватности, достоверности, надежности, безопасности, ин-формати вности).
Можно выделить две значимые проблемы, разрешение которых могло бы повлиять на сложившуюся ситуацию:
• научно-методологическая проблема обоснованности современных научных представлений о том, как думает и как должен думать человек (эксперт, аналитик, ЛПР,
ПРОБЛЕМЫ УПРАВЛЕНИЯ № 2 • 2007
менеджер), и соответствующих нормативных — по отношению к человеку — теоретических моделей, закладываемых в тот или иной субъектно-формальный метод;
• прикладная проблема качества конкретных знаний, порождаемых при использовании определенных экспертных методов и технологий в условиях действия человеческих факторов.
Суть проблемы обоснованности состоит в том, что по современным нормам обоснования того, почему человек думает или должен думать так или иначе, лежат за рамками строгой науки. В результате, с одной стороны, имеет место господство нормативных методов с обоснованиями в виде «здравого смысла», «точек зрения», в лучшем случае, «аксиом»; а с другой — для привлечения в рамки науки управления знаний о человеке по существу нет подходящих теоретических схем.
Значимым шагом в разрешении этой проблемы могло бы стать создание научного языка для описания субъектно-формальных методов, который позволял бы учитывать мыслительные процессы, протекающие в жизненном цикле таких методов и соответствующих технологий, причем — учитывать в той мере, в какой они влияют на достоверность конечных результатов. Желательным свойством такого языка является «полифония» — возможность выделять разные аспекты процессов решения задач, прежде всего, информационный аспект, игнорирующий человеческие факторы, и субъектно-зависимый аспект, позволяющий привлекать научные знания о человеческих факторах.
При решении прикладной проблемы качества знаний, порождаемых при использовании экспертных методов и технологий в условиях действия человеческих факторов, для приложений с высокой ценой риска перспективными представляются:
— разработка методов и технологий применения экспертных методов, ориентированных на проблему качества конкретных знаний и ее зависимость от человеческих факторов;
— общий принцип защиты от рисков в процессе применения данного метода и его результатов на всех этапах жизненного цикла метода, начиная с ранних этапов.
Одним из перспективных направлений развития общего принципа защиты от рисков в ходе применения некоторого экспертного метода и его результатов при решении конкретных практических задач управления представляется поиск, разработка, теоретическое и эмпирическое обоснование критериев достоверности формализации, применимых для раннего обнаружения прямых ошибок и рисков формализации (до обработки формализованных знаний).
Некоторые результаты теоретических и эмпирических исследований, полученные в этом направлении для разных типов моделей знаний [21], свидетельствуют о целесообразности развития единого методологического подхода к формированию системы критериев раннего обнаружения прямых ошибок и рисков формализации для разных типов экспертных методов и технологий. Эти исследования позволяют также прийти к выводу, что более эффективное обнаружение прямых ошибок и рисков для достоверности в результатах формализации
может быть достигнуто при междисциплинарной интеграции знаний, в частности, знаний из психологии, лингвистики, науки управления.
Представленные качественные модели, которые характеризуют экспертов в отношении достоверности порождаемых ими знаний и воздействия на них «окружающего интеллекта», являются попыткой связать знания гуманитарных наук с идеями науки управления и знаниями, почерпнутыми из опыта. Модели ориентированы не только на исследования рисков, обусловленных человеческим фактором, но и на проектирование конкретных технологий в соответствии с выдвинутыми принципами защиты от рисков.
Планируются дальнейшие, более углубленные эмпирические исследования по проблеме рисков и дальнейшая разработка принципов защиты от рисков из-за человеческого фактора, в частности, для когнитивного подхода к моделированию слабоструктурированных ситуаций и систем с доведением до практичных методик раннего обнаружения рисков и прямых ошибок формализации. В качестве основного формального аппарата для моделирования когнитивных процессов взаимодействия пользователей с компьютерной системой при проектировании пользовательского интерфейса и разработки соответствующих методик раннего обнаружения и блокирования рисков формализации предполагается применять многотактную модель когнитивного управления процессом формализации в связке с соответствующей схемой влияния окружающего интеллекта на пользователей технологии.
Планируется также разработка и эмпирическая проверка принципов построения языка для описания субъектно-формальных методов решения практических задач управления и междисциплинарного анализа мыслительных процессов, которые протекают в жизненном цикле таких методов и соответствующих технологий и влияют на достоверность конечных результатов. Предполагается, что такой язык должен учитывать не только типичную схему применения субъектно-формальных методов «формализация ^ формальная обработка», но и другие схемы, которые могут использоваться, например, для методов управления в человеко-машинных системах, для методов решения задач управления, включающих в себя идентификацию объекта.
ЛИТЕРАТУРА
1. Советский энциклопедический словарь. — М.: Советская энциклопедия, 1980.
2. Развитие представлений о человеческих факторах в науке управления. Предисловие редакторов // Человеческий фактор в управлении / Под ред. Н. А. Абрамовой, К. С. Гинс-берга, Д. А. Новикова. — М.: КомКнига. 2006. — С. 5—51.
3. Канеман Д. Карты ограниченной рациональности: психология для поведенческой экономики // Психологический журнал. - 2006. - № 2. - Т. 27. - С. 5-28.
4. Ларичев О. М., Моиікович Е. М. Качественные методы принятия решений. — М.: Наука: Физматлит, 1996.
5. Асанов А. А., Ларичев О. Я. Влияние надежности человеческой информации на результаты применения методов принятия решений //Автоматика и телемеханика. — 1999. — № 5. - С. 20-31.
6. Абрамова Н. А. О некоторых мифах в оценке качества программного обеспечения // Надежность. — 2004. — № 1 (8). - С. 38-63.
7. Абрамова Н. А., Вассунов И. В. О влиянии формализации на адекватность когнитивной модели управленческой ситуации // Тр. 5-й междунар. конф. «Когнитивный анализ и управление развитием ситуаций» CASC'2005 / ИПУ РАН. - М.; 2005. - С. 47-51.'
8. Abramova N. A. A subject of intellectual activity under cognitive control of ambient intelligence // 9th 1FAC AshBoHC'06 symposium: Preprint. — May 2006
9. Дёрнер Д. Логика неудачи. Стратегическое мышление в сложных ситуациях. — М.: Смысл, 1997. — 243 с.
10. Орлов А. И. Современный этап развития теории экспертных оценок // http://orlovs.pp.ru/diff/antorlov/expertoc.htm.
11. Авдеева 3. К, Коврига С. В., Макаренко Д. И., Максимов В. И. Когнитивный подход в управлении // Проблемы управления. — 2007. — № 3 (в печати).
12. Абрамова Н. А., Коврига С. В. На пути от информационных технологий к технологиям знаний // 1-я Междунар. конф. «Когнитивный анализ и управление развитием ситуаций»: Материалы конф. ИПУ РАН. — М., 2001. — Т. 3. - С. 149-155.
13. Холодная М. А. Психология интеллекта: парадоксы исследования. 2-е изд., перераб. и доп. СПб.: Питер, 2002. — 384 с.
14. Холодная М. А., Берестнева О. Г., Кострикина И. С. Когнитивные и метакогнитивные предпосылки интеллектуальной компетентности в научно-технической деятельности // Тез. докл. на 1-й Всеросс. конф. по когнитивной науке. — Казань, 2004.
15. Нонин Л. Г. Понимание и экспертиза // Вопросы философии. - 1991. - № 10.
16. Чалдини Р. Психология влияния. — СПб.: Питер, 2001. — 270 с.
17. Фестингер Л. Теория когнитивного диссонанса. — СПб.: Ювента, 1999 - С. 15-52.
18. Шапиро С. И. Мышление человека и переработка информации ЭВМ. - М.: Сов. радио, 1980 - 288 с.
19. Абрамова Н. А., Коврига С. В., О рисках, связанных с ошибками экспертов и аналитиков // Проблемы управления. - 2006. - № 6. - С. 60-67.
20. Мандель А. С., Семенов Д. А. Скоринг-оцсниванис и оптимизация процесса кредитования физических лиц как задача принятия решений в замкнутом контуре управления // Человеческий фактор в управлении / Под ред. Н. А. Абрамовой, К. С. Гинсберга, Д. А. Новикова. — М.: КомКнига, — 2006. - С. 345-369.
21. Абрамова Н. А., Коврига С. В., Новиков Ф. В. О достоверности формализованных знаний и некоторых критериях ее оценки // Тез. докл. 3-й междунар. конф. по проблемам управления / ИПУ РАН. - М.;'2006. - Т. 2. - С. 157.
Я (495) 334-92-09
e-mail: [email protected]
Статья представлена к публикации членом редколлегии
Д. А. Новиковым. □
Международная надчно-практнческая конференция «УПРАВЛЕНИЕ ИНН0ВАЦИЯМИ-2007»
Институт проблем управления им. В.А. Трапезникова РАН совместно с рядом ведущих научно-исследовательских институтов и вузов Российской Федерации объявляет о проведении международной научно-практической конференции «Управление инновациями—2007»,
которая состоится 12—14 ноября 2007 г.
На конференции предполагается обсудить теоретические основы и практические проблемы управления инновациями, в том числе:
• инновации и новое качество экономического роста;
• научно-техническая информация как хозяйственный ресурс и как фактор производства;
• управление технологической структурой производства на предприятии;
• макроэкономические предпосылки инновационных процессов;
• инновации и цикличность экономической динамики;
• человеческий капитал, его формирование и использование;
• институциональные аспекты стимулирования инновационных процессов;
• национальная инновационная система России;
• инновационные процессы в экономике российских регионов;
• моделирование и прогнозирование инновационных процессов;
• инновационная политика государства;
• стратегия инновационного развития России.
В рамках конференции пройдут третьи Друкеровские чтения «Система неформальных институтов в современной экономике России».
Предполагается публикация сборника тезисов докладов к началу конференции. Все материалы — регистрационная форма и тезисы докладов — должны быть получены оргкомитетом в электронном виде по адресу [email protected] не позднее 1 июня 2007 г. Приглашение и программа конференции будут отправлены участникам конференции по электронной почте до 1 октября 2006 г.
Все контакты между Оргкомитетом и участниками осуществляются только по электронной почте: [email protected]. Председатель Оргкомитета конференции —д-р экон. наук Р.М.Нижегородцев.
