CC BY
15
- ППБД нуждается в расширении концептуального аппарата, чтобы изучать, как идентичности, порождаемые БД, пересекаются с уже сложившимися идентичностями.
- Учитывая сложность общественных практик, касающихся БД, ППБД нуждается в пересмотре ключевых идей ПОН / ВПНТ, а именно: как такие понятия, как идентичность, доверие, вовлеченность, народное знание и участие, ведут себя в контексте БД (с. 113).
Методологическая часть
- ППБД нуждается в принятии и адаптации методологий, которые способны уловить многоликую вариабельность публики, БД и отношений между ними.
- В частности, такие методологии должны включать не только понимание и вовлеченность в БД, но и изменчивые формы осознания, а также имажинативные и аффективные отношения к БД.
- Такие методологии должны учитывать особую процессу-альность и повторяемость событий в исследованиях ППБД и рассматривать вопросы их собственной особой формы перформатив-ности в генерировании социальных данных.
В заключение авторы еще раз подчеркивают, что они лишь попытались наметить контуры подхода к изучению ППБД, который будет учитывать комплексный характер БД. По их мнению, это лишь общие соображения и начало изучения данной проблемы (с. 114).
Т. В. Виноградова
2019.02.006. ПРЕДЕЛЫ ДВОЙНОГО НАЗНАЧЕНИЯ / МАХФА-УД Т., ЭЙКАРДИ К., ДАТТА С., РОУЗ Н.
The limits of dual use / Mahfoud T., Aicardy C., Datta S., Rose N. // Issues in science and technology. - 2018. - Vol. 34, N 4. - Mode of access: https://issues.org/the-limits-of-dual-use/
Ключевые слова: концепция двойного назначения; нейронаука; нейротехнологии; нейрокомпьютерный интерфейс; чтение разума.
Авторы, сотрудники Королевского колледжа Лондона, анализируют в статье проблему различения между военными и граж-
данскими приложениями науки и технологий. Научные и технологические разработки, которые могут иметь как гражданское, так и военное применение, обозначаются термином «двойное назначение» (dual use). Этот термин, утверждают авторы, определяет рамки дебатов о понимании и регулировании подобного рода технологий. «Однако возникновение нейротехнологий, - пишут они, -вместе с исчезновением простого различения между гражданской и военной областями требует от нас пересмотра этого бинарного понятия».
Множество факторов способствовало размытию вопроса о том, является ли технологическое приложение гражданским или военным. К их числу относится возникновение войн, размытие явного различия между военной операцией за рубежом и обороной страны, а также использование военных сил для обеспечения безопасности страны. Становится трудно отличить вклад университетских исследователей от вклада исследователей, задействованных в проектах, финансируемых оборонными организациями. В этих условиях термин «двойное назначение» скорее запутывает, нежели проясняет, какие приложения науки и техники являются потенциально проблематичными.
Для прояснения положения дел, настаивают авторы, ответственным лицам необходимо сосредоточиться на пагубном или нежелательном применении технологий в четырех областях: политической сфере, сфере безопасности, сфере интеллектуальных систем и военной сфере. Если те, кто финансирует и регулирует ИР в нейронауке, нейротехнологиях и нейроробототехнике, будут неспособны отойти от парадигмы «двойного назначения», они не смогут управлять ее рассеиванием.
Наиболее значимыми конвенциями и договорами по проблемам регулирования нейротехнологических исследований являются конвенция о биологическом оружии и конвенция о запрещении химического оружия. Однако эти конвенции не в состоянии отразить положение дел в стремительно развивающихся нейро-науках и не обладают адекватными механизмами контроля за возникающими комплексами вооружений. Кроме договоров о разоружении, страны используют различные инструменты контроля за экспортом технологий двойного назначения, запрещающие их пе-
редачу, если существует потенциал для криминального или террористического использования.
Между тем с идеей хорошего и плохого применения, отмечают авторы, связаны трудности определения приложения исследования. Некоторые научные фонды отвергают исследования, направленные на разработку военных технологий, что имеет место, например, в рамках европейской инициативы The Human Brain Project. Однако регулирующие механизмы бессильны в отношении безобидных по планам исследований, которые, однако, затем могут использоваться во вред. Различные регулирующие агентства пытались точнее определить, какого типа ИР должны запрещаться и в каких контекстах. Критерии для различения правомерного и неправомерного использования технологий, заявляют авторы, зависят от того, как технологии будут применяться во всех четырех областях, обозначенных ими.
Так, прежде всего авторы рассматривают сферу политических приложений. Под политическими приложениями они подразумевают использование властями нейронауки / нейротехнологий с целью управления поведением индивидов и групп, к примеру посредством изменения их убеждений, эмоций и т.д. Авторы фокусируются на том, как приложения нейронауки могут быть использованы для изменения эксплицитных и имплицитных установок и принятия решения. Политический ученый Ингрид Хаас (Ingrid Haas) утверждал, что традиционно в политологии акцент делался на понимании поведения групп, но новые методы в нейро-науке помогают понять отношение индивидуального политического поведения к поведению группы. Как и в других областях, ожидание здесь заключается в том, что понимание нейробиологии принятия решений позволит проводить более эффективные манипуляции. Так, в 2006 г. Кристин Кнутсон с коллегами использовала фМРТ для фиксации активности амигдалы - части мозга, связанной с эмоциями, - для изучения отношения к представителям демократической и республиканской партий.
Другое направление - развитие неинвазивных методов стимуляции мозга: транскраниальная магнитная стимуляция (ТМС) и метод микрополяризации. Эти методы могут использоваться для вмешательства в мозговую активность. Например, в исследовании 2015 г. было показано, что метод микрополяризации способен
уменьшить имплицитные предубеждения в отношении членов внешних групп (out-groups).
Несмотря на ограничения технологий нейровизуализации и стимуляции, разработка методов стимуляции мозга продолжается в рамках ряда крупных проектов (The BRAIN Initiative и др.). Эти методы обладают явным потенциалом для использования в политике, как в умеренном плане, так и в весьма опасном смысле манипуляции политическими настроениями на выборах, подавления протестной активности и т.д.
Вторая сфера приложения нейронауки / нейротехнологий, которую рассматривают авторы, это сфера национальной безопасности. Авторы заостряют внимание на нейротоксическом оружии и успокаивающих средствах, применяемых службами национальной безопасности. Международные дискуссии о нестандартных типах вооружений до настоящего момента касались химического, биологического и ядерного оружия, однако ряд правительственных и частных организаций выражали опасения, что использование успокаивающих и нейротоксических средств не подпадает под конвенции о биологическом оружии и запрещении химического оружия. Применение таких средств может приводить к жертвам, как это было в трагической ситуации с захватом заложников в театре в России в 2002 г.
Разработка химических средств обезвреживания, включая перцовые снаряды, велась на протяжении определенного периода времени в Израиле, который не является участником конвенций о биологическом оружии (подписана, но не ратифицирована) и о запрещении химического оружия (не подписана и не ратифицирована). Несмотря на недостаток информации по этому вопросу, весьма вероятно, что министерство обороны Израиля продолжает разработку нейротоксического оружия.
Проблема разработки нейротоксического оружия в области национальной безопасности может быть рассмотрена через расширение существующих международных договоров и конвенций. В одной недавней работе содержался призыв не давать послаблений для ужесточения законодательства, касающегося использования нейротоксического оружия в сфере национальной безопасности. Однако этот подход не учитывает риски, возникающие в свете
возможности модификации нейронных цепей, которая сейчас исследуется в рамках проекта The BRAIN Initiative.
Нейронаука обладает спектром возможных приложений в области интеллектуальных систем, включая идентификацию подозрительных субъектов, детекцию лжи и слежение. Так, финансируемые DARPA проекты в этой области исследовали возможности технологий «чтения разума» или «чтения мозга» по идентификации преступных намерений. Новый метод, известный как спектроскопия в ближней инфракрасной области (СБИО), позволяет визуализировать активность мозга субъекта, не ограничивая его свободу передвижения, как во время фМРТ. Отталкиваясь от той же самой идеи регистрации активности мозга на основе потребления клетками кислорода, которая эксплуатируется в фМРТ, СБИО фиксирует активность мозга при помощи шлема, покрытого множеством сенсоров, использующих свет в инфракрасном диапазоне, при этом позволяя субъектам свободно передвигаться и выполнять задачи в фактически обычной среде. Поэтому метод СБИО, как утверждается, обладает значительным потенциалом для применения вне стен лаборатории.
Нейроученый Джон-Дилан Хейнс (John-Dylan Haynes) и его коллеги утверждают, что метод машинного обучения и фМРТ позволяют расшифровывать специфические мысли и воспоминания людей. Хотя такие технологии еще находятся на ранней стадии своего развития, они могут быть использованы в области слежения, например в установлении намерений субъектов совершить противоправный поступок, и т.п. Вместе с тем возникают этические проблемы несанкционированного доступа к содержанию разума субъектов.
Еще одним приложением нейротехнологий в области интеллектуальных систем является сфера распознавания лиц, которая также может быть использована службами слежения. Современные разработки ведущих лабораторий в области глубинного обучения вроде Google DeepMind располагают алгоритмами, эффективными для распознавания статичных изображений. Однако будущие проекты в кооперации с масштабной нейронаукой могут создать алгоритмы, способные распознавать лица в видеороликах, таким образом расширив возможности использования этих технологий службами слежения.
Наконец, авторы уделяют внимание и перспективам военного использования разработок нейронауки / нейротехнологий, а именно кортикальным имплантатам и неинвазивным нейро-компьютерным интерфейсам (НКИ). Например, DARPA более десятилетия финансировала проекты по разработке кортикальных имплантатов, которые позволили бы покалеченным солдатам управлять искусственными конечностями. Кроме того, в рамках программы дополненного познания DARPA изучаются способы использования НКИ для модификации амуниции солдат. Такие технологии могут использоваться в кабинах самолетов для снижения информационной перегрузки пилотов, а также для обнаружения угроз и оповещения о них наземных родов войск.
Главное послание авторов заключается в том, что концепция двойного назначения оказывается неадекватной реалиям развития нейронауки / нейротехнологий и возможностям их применения в четырех указанных ими областях. Действующие договоры, регулирующие экспорт, не могут учесть все сложные последствия развития исследований мозга. «Появляющиеся альтернативы концепции двойного назначения акцентируют внимание на саморегуляции промышленности, университетов и филантропических организаций в отношении искусственного интеллекта, машинного обучения и автономных интеллектуальных систем». Впрочем, способность этих альтернатив урегулировать фундаментальные этические и социальные проблемы, порождаемые развитием науки и технологий, еще не была подтверждена. Авторы призывают ответственных лиц в США, Европе и мире отойти от концепции двойного назначения и уделить большее внимание приложениям в областях политики, безопасности, интеллектуальных систем и вооружений.
М.А. Сущин
