CC BY
19
нодательную базу и следить за ее соблюдением, а также финансировать биобанкинг как сферу научных исследований. Среди опрошенных 28,3% не обозначили роль государства в развитии биобанкинга, а 19,6% высказались в пользу полного регулирования этой сферы научным сообществом.
Большинство участников исследования так или иначе отметили большую значимость защиты интересов донора и соответствия практик, связанных с биобанками, нормам биомедицинской этики. Однако большая часть респондентов склонны рассматривать модель информированного согласия как нечто, что должно появиться без их участия - с помощью других специалистов (юристов, философов, социологов и др.).
Значительная часть ученых, принявших участие в исследовании, воспроизводят классический этос науки и связанные с ним стандарты этики и ответственности ученого, предполагающие автономию науки как безусловного общественного блага и презумпцию моральной добродетели ученого. Однако авторы исследования высказывают предположение, что этическая максима презумпции моральной добродетели ученого нуждается в пересмотре. «В современных условиях мы едва ли можем априори считать благом все, что способно им быть (например, технологии редактирования генома); вместо этого мы, скорее, должны в первую очередь учитывать именно те перспективы, которых вовсе не желаем и даже, возможно, не хотим иметь в виду» (с. 81).
Р.Р. Белялетдинов
2019.04.002. ГРУНВАЛЬД А., ЖЕЛЕЗНЯК ВН., СЕРЕДКИНА Е В. БЕСПИЛОТНЫЙ АВТОМОБИЛЬ В СВЕТЕ СОЦИАЛЬНОЙ ОЦЕНКИ ТЕХНИКИ // Технологос. - 2019. - № 2. - С. 41-51. -Б01: 10.15593/регш.к1р£/2019.2.04.
Ключевые слова: социальная оценка техники; беспилотные автомобили; автономное вождение; этика умного транспорта; управление рисками; ответственные инновации; деонтология; консеквенциализм; проблема вагонетки.
Статья российских авторов посвящена проблеме социальных последствий внедрения беспилотных автомобилей (БА). Обсуждается ряд важных вопросов, связанных с ответственным лицензиро-
ванием автоматизированных систем вождения, разработкой соответствующего юридического обеспечения и нормативно-правовой базы. Решение этих вопросов, полагают авторы, требует комплексного взаимодействия «между политиками, экспертами и обществом» и должно учитывать интересы всех возможных сторон (пешеходов, пассажиров, производителей, операторов, владельцев БА и др.) (с. 43). Авторы статьи подчеркивают, что внедрение БА -«не столько инженерная, сколько социально-техническая задача, требующая серьезных комплексных мер по созданию принципиально новой инфраструктуры и, главное, изменению мышления» (там же).
Наряду с основными преимуществами использования БА, такими как повышение безопасности движения, облегчение доступа к индивидуальной мобильности для людей с ограниченными физическими возможностями, повышение уровня комфорта человека и эффективности транспорта, существует опасность непредвиденных негативных последствий внедрения БА. В связи с этим, считают авторы, необходим проспективный анализ будущих систем мобильности, интегрируемых в дорожное движение наряду с другими формами. Большая роль здесь принадлежит социальной оценке техники (СОТ).
В рамках СОТ дается анализ рисков инновационных изделий на этапах их разработки и конструирования, рассматриваются вопросы формирования методов социально ответственного дизайна и превентивного мышления при их внедрении.
Основной этический вопрос, связанный с использованием БА: при каких условиях принятие риска может быть оправданным? Чтобы ответить на него, необходимо знать ответы на другие, более частные вопросы: кому может быть нанесен ущерб и как потенциальные риски распределяются между различными группами людей; каков пространственный и временной масштаб рисков; что должен предпринять компьютер в экстренных ситуациях, должен ли он обратиться за помощью к пассажиру; должен ли человек всегда иметь возможность взять компьютер под свой контроль. Ставится также вопрос об автономности и свободе человека, пока он является «багажом».
Авторы статьи утверждают, что абстрактный риск может быть разбит на «ряд более мелких, четко идентифицируемых рис-
ков», законность и правомерность которых можно обсуждать конкретно. Делается важный вывод: «Интеграция беспилотных автомобилей в городскую экосистему должна осуществляться не резкими скачками, а постепенно, на основе рационального общественного проектирования в форме учебного процесса» (с. 44). Это даст возможность поэтапного внедрения автономного вождения с возможностью актуального обучения на основе накопленного опыта, позволит сократить риски и «работать на опережение», т.е. постепенно адаптировать требования рынка труда, развивать нормативно-правовую базу и т.д. Такой подход непременно включает этику ответственных инноваций с целью предотвращения давления экономики, стремящейся как можно быстрее вывести на рынок зачастую еще не зрелый продукт.
Далее в статье приводится подробный анализ автономного вождения в контексте СОТ. В задачи СОТ входит решение вопросов, связанных с социально значимыми последствиями автоматизации и роботизации, факторами опасности для жизни и здоровья людей, этическими, правовыми и политико-экономическими последствиями решений по производству и эксплуатации техники и т.д. Перечень элементов и концептуальных подходов СОТ авторы называют структурой, или матрицей, антропосоциоориентиро-ванных функций техники. Автомобиль в качестве эксклюзивного объекта СОТ является носителем всех этих функций.
Большую часть своей истории автомобиль был механическим агрегатом, органы управления которым были адаптированы под человека. Вместе они составляли гибрид, в котором человек и механизм в равной степени зависели друг от друга. С изобретением автоматической коробки передачи начинается постепенное разъединение механизма и человека. И если на ранней стадии развития автомобилестроения ответственность за эксцессы управления лежала на водителе, а объективный источник риска - нечеловеческая природа машины - «был смикширован», то в случае разъединения человека и машины возникает вопрос, кто будет ответственным. «Конечно, механизм нельзя обвинить в судебном порядке, но водителя, ставшего жертвой излишней самостоятельности автомобиля, можно оправдать», - считают авторы (с. 45).
Анализируя прогресс средств вождения, который прочно ассоциируется с уровнем развития цивилизации, авторы указывают
на важнейшую роль автомобиля как потребительского товара, который может служить репрезентативным объектом для СОТ. Описанные концептуальные приоритеты СОТ высвечиваются особенно ярко, когда речь идет о переходе к высшей точке автоматизации автомобиля - функции автопилота. Учитывая закономерности и следствия полной автоматизации автомобиля, авторы исходят из основополагающего принципа: скачок, ведущий к полной роботизации машины, является завершением естественного процесса автоматизации и механизации всех частных функций машины, облегчающих работу шофера, и не предполагает превращения его в пассажира. Снабжение автомобиля множеством частных автоматизированных функций ведет к его кибернизации и усложнению управления и требует наличия человека-водителя, на котором лежит морально-юридическая ответственность за эксплуатацию машины. На основе проведенного с позиций СОТ анализа и исходя из перечня роботизированных функций серийного автомобиля средней ценовой стоимости (точнее, из тенденции, которую этот перечень выражает) авторы делают следующие важные выводы: с инженерной точки зрения роботизированный автомобиль практически создан; скачок от «ассистента-водителя» к системе автопилота будет происходить, скорее всего, в виде слияния имеющихся автоматов в одну систему; центр проблемы смещается от инженерных инноваций к созданию комплекса компьютерных программ управления; комплексная задача создания и эксплуатации автомобилей-роботов может быть решена только при наличии высокого искусственного интеллекта (что вряд ли реализуемо в настоящее время) (с. 46).
В сфере СОТ широко обсуждаются также этические проблемы использования автономных транспортных средств, и на первое место здесь выступает мораль - сугубо человеческая сфера. Если автомобилем управляет человек, морально-правовые вопросы его эксплуатации решаются в общепринятом порядке. В случае автомобиля-робота нет единого мнения на этот счет. Одни эксперты считают, что ответственность лежит на владельце транспортного средства, другие - что на различных инстанциях: выдавших разрешение на техническую возможность эксплуатации автомобиля; фиксирующих отсутствие сбоев лицензионного программного
обеспечения; разрешающих машине участвовать в электронной организации в регионе или стране.
На основе проведенного с позиции СОТ анализа авторы формулируют гипотезу, позволяющую осмыслить природу изменений, происходящих в оценочной сфере в целом: «Чем более автономной будет становиться техника, тем в большей степени техногенными будут признаваться риски и катастрофы и тем сильнее будет сужаться роль человеческого фактора» (с. 47). Традиционная мораль при этом станет уделом лишь замкнутых коацерватов (если такие сохранятся). Тем не менее, утверждают авторы, технологический прогресс требует разработки этики умного транспорта.
Беспилотные автомобили могут с помощью программ в доли секунды обработать огромные массивы информации, совершить маневр с целью избежать чрезвычайной ситуации, рассчитать оптимальный угол поворота при столкновении, но они не могут принимать решения морального характера, т.е. кем пожертвовать в неизбежной ситуации. В качестве примера авторы приводят известную в современной философии «проблему вагонетки». Решение дилеммы, кого спасать в случае аварии, рассматривается в контексте двух философских направлений - деонтологии (этика долженствования И. Канта) и консеквенциализма (утилитаризм Д. Бентама). Для консеквенциализма важен не сам поступок, а результат. Для запрограммированного таким образом автомобиля решающим является число жертв: чем больше будет спасено жизней, тем лучше, даже если жертвой станет сам пассажир. Запрограммированный согласно деонтологической этике автомобиль будет действовать так, чтобы любой ценой сохранить жизнь пассажира. Проблема заключается в том, как эти теоретические умозаключения будут реализованы на практике. Смогут ли ученые когда-нибудь разработать моральный алгоритм для БА?
В заключение авторы обращаются к опыту Германии - лидера исследований в сфере моральных и правовых аспектов в применении БА, где комиссией по этике было разработано этическое сопровождение для программирования БА, ориентированное на кантовскую этику. Авторы высказывают убеждение, что необходимо разработать универсальный этический кодекс для БА, который содержал бы правила принятия решений в сложных ситуаци-
ях, включая «проблему вагонетки», задолго до начала их продажи по всему миру.
Изучив общественное мнение по поводу морально-этических принципов использования БА и, в частности, отметив этическое искажение «проблемы вагонетки» в ходе дискуссий, авторы заключают: «К результатам общественных опросов нужно относиться критически: они носят скорее информативный характер для директивных органов, а не являются прямым руководством к действию» (с. 49).
Е.В. Введенская
