CC BY
48
НАУКА И ОБЩЕСТВО
2020.01.001. РАЗИН А.В. ЭТИКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА // Философия и общество. - 2019. - Вып. 1 (90). - С. 57-73. DOI: https://doi.org/10.30884/jfio/2019.01.04.
Ключевые слова: этика; искусственный интеллект; этические ограничения; сознание.
В статье А.В. Разина, доктора философских наук, профессора кафедры этики философского факультета МГУ, очерчивается круг проблем, с которыми человек сталкивается при первых попытках создания искусственного интеллекта (ИИ), способного в той или иной мере принимать самостоятельные решения.
Автор поднимает важный вопрос об этических ограничениях, которые могут быть заложены в искусственные интеллектуальные системы при программировании. Способна ли такая система брать на себя риски принятия ответственных решений и отвечать за них? Насколько она способна к развитию в этическом плане? По мнению автора, рассуждать об этике ИИ, не допуская возможности принятия им различных решений и не затрагивая при этом вопрос о свободе воли, недопустимо. Если свести этику ИИ только к заложенным в его программу этическим ограничениям, то это будет не этика ИИ, а этические правила создания искусственных интеллектуальных систем (ИИС), необходимые при программировании.
Первая часть статьи посвящена анализу различных этических подходов к программированию ИИС. Возникает множество вопросов, связанных с действиями в критической ситуации: можно ли спасти жизнь нескольких человек ценой жизни одного человека; нужно ли свернуть с дороги ради спасения пешехода или можно пересечь сплошную линию? Различные этические доктрины дадут разные ответы и приведут к созданию разных стандартов и после-
дующей сертификации ИИС. Автор считает, что разработка жестких этических стандартов для всех ИИС будет означать, что никакого дальнейшего развития ИИ не будет. Если же проводить анализ с целью «научения машины», разъяснения, какие особенности отдельной ситуации не были учтены, задача приобретет гораздо более широкий смысл. Допуская такой тип отношений человека с ИИ, «мы уже должны допустить в деятельности искусственного интеллекта некоторую степень неопределенности, сходную с понятием свободы воли» [с. 61].
Далее в статье рассматривается вопрос свободы воли у человека, наличие которой подвергается сомнению в некоторых современных исследованиях. Анализируя разные формы отрицания свободы воли у человека и стремясь разрешить эту проблему, автор пишет: «Я принимаю теорию эмерджентной причинности, т.е. представление о том, что одни нейронные сети могут управлять другими и это позволяет интерпретировать идеальное на основе материального» [с. 62]. При этом эмерджентную причинность автор рассматривает в связи с известной теорией тождества.
В основной части статьи рассматриваются принципы работы головного мозга и приводятся мнения специалистов в области сознания. Отмечается, что в работе мозга представлены не только чувственные реакции, но и пути этих реакций, связанных с особыми эмоциями человека. Автор считает, ссылаясь на Л. Фейербаха, что эмоциональный настрой человека важен даже при совершении им логических операций или решении математических задач, так как в этом случае обеспечивается сосредоточение ресурсов и включение в процесс дополнительных нейронных сетей. Сравниваются способы переработки информации человеком и современной машиной с ИИ. Если машина просто перебирает заложенную в нее информацию, то человек способен ее классифицировать как важную и не важную и находить более быстрый путь решения проблемы, освобождая себя от анализа незначимой информации. Кроме того, человек обладает большей способностью ассоциативного мышления. Однако с точки зрения усвоения внешней информации ИИ имеет огромные возможности, но это зависит от параметров, заложенных в машину программистом. Здесь автор приходит к важному выводу, что, для того чтобы самостоятельно создавать качественные характеристики, ИИ должен иметь собственный фе-
номенальный опыт. Этот опыт А.В. Разин характеризует как «порожденный поэтапным осмыслением развития нашего тела и нас самих в конкретных жизненных ситуациях, конечно, при учете влияния общего культурного фона» [с. 65]. Такой опыт наделяет образы сознания субъективным смыслом и эмоциональным отношением, которое присутствует и тогда, когда эти образы извлекаются из памяти. Например, когда человек смотрит фильм или пьесу, он «сопереживает героям, отражает в образах, представленных в нейронных взаимодействиях, то, что происходит на сцене» [с. 66]. Однако «не только в игре образов мы опережаем события, хотим, чтобы они разворачивались в желаемом нам направлении». Это, считает А.В. Разин, придает образам состояние «квалио», в котором они всегда связываются с эмоциональными реакциями. Феноменальный опыт, по мнению автора, не менее важен, чем рациональное рассуждение, потому что с ним связана классификация событий. Далее в статье рассматривается ряд подходов к пониманию ИИ.
По мнению А.В. Разина, «сознание принципиально не может существовать без тела, причем тела, постадийно развивающегося, и без постоянной коммуникации субъекта, обладающего телом, с другими субъектами» [с. 68]. Из этого следует закономерный вывод: чтобы создать ИИ, обладающий какими-либо аналогами человеческого сознания, «необходимо создать самопорождающее себя сообщество машин или роботов, способных вступать в коммуникации с другими роботами и проходить разные стадии развития» [там же].
Возвращаясь к теории эмерджентной причинности, автор подчеркивает, что мозг работает по принципу взаимосвязи сетей разного уровня, которые, наиболее вероятно, непостоянны, подвижны, подчинены определенным функциям и в принципе не имеют единого управляющего центра. Для решения какой-либо задачи подключаются новые ресурсы, создаются новые нейронные связи. На это способен в принципе и компьютер, считает автор. Однако компьютер не обладает телом, без которого невозможен феноменальный опыт. А именно он, по мнению автора, придает образам сознания статус «квалио», без которого оказывается невозможным «обратное влияние того, что производится сознанием, разыгрывается в сигналах головного мозга в связи с предположе-
ниями о будущих состояниях реальности и наших возможных действиях». Оказывается также невозможным и «преобразование этих состояний в смысле соотнесения их с нашими собственными состояниями, т.е. эмерджентная причинность» [с. 69].
На основе изложенного автор заключает: идеальное не абсолютно противоположно материальному, но связано с некоторыми перечисляемыми им уровнями рефлексивного отношения.
Автор утверждает, что свобода воли заключена: 1) в произвольной модельно-творческой активности мозга - это условие ориентации на основе идеальных образов, так как мозг перерабатывает разные варианты и выбирает из них наилучшие; 2) в том, что отбираемые управляющей инстанцией решения не являются окончательными, так как мозг продолжает работать и после свершившегося события; он продуцирует ответы, которые могут быть учтены в будущем (приводится пример, когда наиболее удачные ответы оппонентам приходят после окончания дискуссии); мозг может ошибаться, поэтому принципиальная возможность ошибки лежит в основании свободы воли; 3) в том, что свобода воли связана с саморефлексией; человек ответствен за свой характер, у него есть возможность размышлять над своим поведением и своими склонностями и, если необходимо, бороться с ними.
С наличием свободной воли человека связано понятие моральной и правовой ответственности. В связи с этим автор ставит вопрос о том, насколько все это можно отнести к ИИ.
В заключение автор делает следующий вывод. Даже если речь идет об элементарных формах человекоподобного ИИ, в него должны быть заложены параметры, без которых говорить о его этике в собственном смысле слова невозможно, а именно:
- произвольная игра образами;
- критерии выбора оптимальных решений вместе со встроенными этическими ограничениями (например, такими, как законы Азимова, ответственность перед человечеством в целом);
- возможность оценки степени риска при опоре на разные теоретические концепции;
- феноменальный опыт;
- принципиальная возможность ошибки и связанная с этим рефлексия - обобщение прошлого опыта;
- возможность реакции на случайные события;
- коммуникации - сеть машин, обладающих взаимными ожиданиями;
- аналог нравственных переживаний, связанных с оценками других.
Самым сложным вопросом, по мнению автора, является точное различение ситуаций и возможность реакции на непредвиденные события. При создании автоматически управляемых автомобилей выходом из затруднений может стать запрет ручного пилотирования на трассах, где машины будут водить роботы.
Завершает статью ответ автора на извечный вопрос о возможности войны машин против человечества и вытеснения живых людей роботами. Автор полагает, что такие опасения беспочвенны. У машин не больше оснований начать войну против людей, чем у людей начать войну друг против друга. И даже если будет создано нечто подобное цивилизации роботов, они, скорее, станут использовать естественно развивающуюся цивилизацию как ресурс для совершенствования собственных способностей. Более вероятный сценарий, по мнению автора, - параллельное развитие двух цивилизаций.
Е.В. Введенская
2020.01.002. КОЭН С. ЛОГИКА ВЗАИМОДЕЙСТВИЯ ПРИНЦИПА БЛАГА И ПРИНЦИПА УВАЖЕНИЯ АВТОНОМИИ. COHEN S. The logic of the interaction between beneficence and respect for autonomy // Medicine, health care and philosophy. - 2019. -Vol. 22, N 2. - P. 297-304. - DOI: 10.1007/s11019-018-9876-4.
Ключевые слова: благо; уважение автономии; моральное суждение; моральная дилемма.
Шломо Коэн - сотрудник Университета им. Бен-Гуриона (Израиль).
Благо и уважение автономии - два важнейших моральных принципа, которые выражают два мотива морального поведения: различные формы симпатии к другому и уважение действий личности, что в свою очередь приводит к двум фундаментальным ценностям - здоровья и персональной автономии. Поскольку эти ценности имеют большое значение, конфликт между ними приводит к сложным дилеммам. В биоэтике проблема взаимодействия
