CC BY
44
этатизация общества и социализация государства, государственно-демократический контроль; в социальной сфере - социальная справедливость, равенство прав и обязанностей граждан глобализирующегося общества; в духовной жизни - производство научного знания на принципах мультикультурного разнообразия (с. 537).
Одним из инструментов движения к цели, убеждены авторы, должны стать социотехнологические стандарты управления безопасной жизнедеятельностью и устойчивым развитием общества с помощью интегративной функции ИКТ. В перспективе использование этих стандартов в качестве операциональных инструментов позволит организовать мониторинг жизнедеятельности социума, биосферы и техносферы на новой технологической базе.
В заключение авторы акцентируют внимание на необходимости своевременной разработки междисциплинарного подхода к решению комплекса социальных проблем, порожденных развитием ИКТ, чтобы поставить их на службу человечеству и обеспечить прорыв в будущее.
Е.Г. Гребенщикова
2018.04.004. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И «ХОРОШЕЕ ОБЩЕСТВО»: ПОДХОДЫ США, ЕВРОСОЮЗА И ВЕЛИКОБРИТАНИИ / Кат К., Уочтер С., Миттельштад Б., Таддео М., Флори-ди Л.
Artificial intelligence and the «Good Society»: The US, EU, and UK approach / Cath C., Wächter S., Mittelstadt B., Taddeo M., Floridi L. // Science and engineering ethics. - 2018. - Vol. 24, N 2. - P. 505-528. -Mode of access: https://doi.org/10.1007/s11948-017-9901-7
Ключевые слова: алгоритмы; искусственный интеллект; этика данных; хорошее общество; человеческое достоинство.
Авторы статьи, сотрудники Оксфордского университета и Института Алана Тьюринга в Лондоне (Великобритания), рассматривают три доклада, посвященные проблемам подготовки общества к широкомасштабному использованию искусственного интеллекта (ИИ). Первый из них подготовлен Управлением по разработке политики в области науки и техники (Office of Science and Technology Policy - OSTP) Белого дома, второй - Комитетом по правовым вопросам Европейского парламента (European
Parliament's Committee on Legal Affairs), третий - Комитетом по науке и технике Палаты общин Великобритании (House of Commons' Science and Technology Committee). Цель сравнительного анализа докладов - содействие разработке политики, благоприятной для развития «хорошего общества ИИ» (good AI society).
ИИ больше не относится к сфере научной фантастики. Он представлен повсеместно: от беспилотных автомобилей до машинного обучения для улучшения услуг в области здравоохранения и финансовой индустрии. Интерес к ИИ прошел несколько циклов «бум-и-спад» с конца 1950-х годов. Но теперь он не будет мимолетным, считают авторы статьи, учитывая тенденции последних лет: рост числа сложных статистических и вероятностных методов; увеличение количества данных; доступность дешевых больших вычислительных мощностей; превращение все большего числа мест в среду, благоприятную для ИИ (например, умные города).
Все анализируемые в статье доклады были опубликованы практически одновременно, что демонстрирует общую обеспокоенность общества влиянием, которое ИИ оказывает на жизнь людей. Каждый из них фокусируется на конкретных, актуальных вызовах, но при этом имеет общую перспективу понимания роли ИИ в обществе. Однако, по мнению авторов, ни один доклад не представляет целостного видения ИИ в «зрелых информационных обществах» будущего. Поэтому, утверждают они, нужна не просто тактика, а комплексная социальная стратегия для развития ИИ.
Зрелые информационные общества - это общества, в которых цифровое обеспечение является ожидаемым фоном для всех аспектов жизнедеятельности, в отличие от обществ, в которых такие блага новы или неожиданны. По мере того как общества становятся более «информационно зрелыми», их зависимость от технологий растет, а влияние технологий на ценности все менее заметно и все меньше осознается.
Цифровые технологии, и ИИ в частности, развиваются очень быстро и требуют социально-политического управления с точки зрения того, куда общество желает прийти, а не как быстро можно туда добраться. ИИ - это не просто еще одна полезная вещь, которую нужно регулировать только после того, как она созрела; это мощная сила, которая кардинально меняет жизнь, социальное
взаимодействие и среду. С развитием ИИ связана трансформация среды обитания в информационную сферу, в которой будущие поколения будут проводить большую часть времени. Проектируя «хорошее общество ИИ», необходимо, по мысли авторов, учитывать интересы общества, поразумевая совместное процветание инфо- и биосферы.
Американский доклад «Подготовка к будущему искусственного интеллекта» (Preparing for the future of artificial intelligence), опубликованный 12 октября 2016 г., был подготовлен на основе пяти общественных семинаров и официального запроса информации по ИИ. ИИ определяется в нем как технология, которая при продуманном использовании будет способствовать не замене человеческих возможностей, а их усилению.
Центральным звеном подхода Управления по политике в области науки и техники Белого дома к ИИ является инновация: ИИ играет важную роль в усилении экономического роста, что приносит выгоду и обществу; коммерчески развитый ИИ можно использовать для решения социальных проблем. С учетом этого понятно, что правительство США видит свою роль как регулятора в этом процессе весьма ограниченной. Его задача - проводить гибкую политику, не мешать развитию технологий ИИ и, где это возможно, встраивать их в уже существующие регулирующие схемы, например в автомобильной и авиационной промышленности.
В докладе подчеркивается важность исследований как для разработки и применения ИИ, так и для отслеживания происходящих изменений и обеспечения его развития в соответствии с гуманистическими ценностями.
Относительно воздействия ИИ на экономику в докладе говорится о двояком влиянии на рынок труда: ИИ будет как создавать, так и сокращать рабочие места. Работники с низкой и средней заработной платой будут наиболее подвержены негативному воздействию ИИ, поэтому основной задачей государственной политики является предотвращение экономического неравенства.
Целостного представления о том, как достичь социально приемлемой политики развития ИИ, в докладе не предложено. Подробное описание того, как использовать инвестиции в ИР для управления трансформационным воздействием ИИ на общество и мир в долгосрочной перспективе, представлено в сопроводитель-
ном документе «Национальный стратегический план исследований и разработок в области искусственного интеллекта» (National Artificial Intelligence Research and Development Strategic Plan). Сборник предлагает ряд интересных и амбициозных исследовательских целей, которые имеют смысл в первую очередь для федерального финансирования, однако его не следует понимать как целостный социально-политический проект, утверждают авторы статьи. В докладе также признается, что применение ИИ в сфере национальной безопасности сопряжено с множеством нерешенных этических проблем.
Устранение киберконфликтных ситуаций требует применения не только опыта прежних решений, но и предвидения и предотвращения рисков эскалации. Необходимы глубокое понимание новых вызовов, выявление изменений, вызванных киберконфлик-тами и информационной революцией, а также определение общих ценностей, которые будут направлять заинтересованные стороны, действующие на международной арене.
В докладе утверждается, что многие этические вопросы, касающиеся честности, подотчетности и социальной справедливости в отношении ИИ, могут быть решены с помощью повышения прозрачности. Однако конкретных рекомендаций в докладе не представлено. Очевидно, нужны новые подходы, а следовательно, необходимо рассмотреть вопрос о создании нового федерального органа по проблемам робототехники и применения ИИ, который проводил бы консультации по вопросам политики, правовой и потребительской защиты.
Немало внимания в докладе уделено вопросам этики, например этической подготовке инженеров, проблемам конфиденциальности. Однако развитие механизмов этической оценки не должно стать, по мысли авторов статьи, способом делегирования ответственности частному сектору и гражданам.
Резюмируя, авторы отмечают, что доклад дает хороший обзор влияния ИИ на экономику и социальную структуру, раскрывает различные проблемы, в том числе этического характера. В нем явно выражена зависимость контента от экономических и политических представлений о свободной рыночной торговле и рыночном капитализме. Подход, использующийся в американском докладе, авторы описывают как попытку включить ИИ в конкретный
план национальных приоритетов США, вместо того чтобы рассматривать особые свойства ИИ как хорошую возможность пересмотреть эти приоритеты как на национальном, так и на международном уровне.
Проект доклада «Нормы гражданского права о робототехнике» (Civil Law Rules on Robotics) с рекомендациями для Европейской комиссии был опубликован Комитетом по правовым вопросам Европейского парламента (European Parliament's Committee on Legal Affairs) 31 мая 2016 г. В сравнении с американским докладом доклад ЕС в большей степени фокусируется на робототехнике, чем на ИИ, в частности большое внимание уделяется автономным транспортным средствам, беспилотным летательным аппаратам и медицинским роботам. ИИ рассматривается как базовый компонент умных автономных роботов и воспринимается как то, что делает возможной автономию в технологических системах.
Большое внимание в докладе уделено проблеме влияния робототехники и ИИ на рабочую силу. В нем содержатся рекомендации внедрять механизмы прогнозирования занятости для мониторинга тенденций в этой области, переориентировать образовательные цели на развитие цифровых компетенций, особенно женщин, чтобы они могли успешно конкурировать на рынке труда.
Еще одна проблема, обозначенная в докладе, связана с перспективой негативного влияния автоматизации на налоговые поступления, что может актуализировать вопросы социального обеспечения, увеличения неравенства между богатыми и бедными. Соответственно, предлагается обязать предприятия раскрывать информацию об экономии на социальном страховании и даже рассматривается возможность введения нового налога, компенсирующего невнесенные налоговые поступления.
Одна из рекомендаций доклада - создание «Европейского агентства по робототехнике и искусственному интеллекту» (European Agency on Robotics and AI), в задачи которого входило бы решение таких вопросов, как контроль тенденций развития технологий на основе ИИ и робототехники, определение стандартов эффективной практики, разработка мер регулирования, определение новых принципов, решение проблем защиты прав потребителей и т. д. Кроме того, одной из задач агентства должно стать управление системой регистрации в ЕС всех интеллектуальных
роботов (smart robots). Для защиты от возможных рисков предусматривается сочетание жесткого и мягкого законодательства, основанного прежде всего на европейских стандартах. Вместе с тем допускается смешанный подход, сочетающий европейские и международные правовые рамки, а также подготовка нового законодательства. Комитет рекомендует Еврокомиссии оценить перспективу новых правовых инструментов, в основном сосредоточив внимание на вопросах ответственности, касающихся интеллектуальных роботов. Авторы статьи обращают внимание на открытость вопроса относительно мягкого права, которое может быть основано на инфраэтике.
«Хартия о робототехнике» (Charter on Robotics), предложенная в докладе, по мысли его авторов, не будет иметь обязательной силы, но должна дополнить законодательство включением этических норм и кодексов. Особое внимание в ней уделено таким ценностям, как достоинство, неприкосновенность частной жизни, безопасность, проблемы риска.
В докладе отмечается необходимость дальнейших исследований рисков и возможностей, связанных с распространением технологий на основе ИИ, поиска решений выявленных проблем. Особое внимание уделяется социальным и этическим вопросам -безопасности, неприкосновенности частной жизни, честности, достоинства, автономии и владения данными. В частности, ИИ и робототехника рассматриваются как потенциальные факторы эрозии частной жизни из-за генерации большого количества персональных данных, которые могут использоваться как «валюта» для покупки услуг. Отказ поставить подотчетность и прозрачность на первый план доклада ЕС в изложении этических принципов для «хорошего общества ИИ» авторы статьи считают упущенной возможностью.
13 октября 2016 г. Комитет по науке и технологиям Палаты общин Великобритании опубликовал отчет по ИИ. Цель доклада -определить потенциальную ценность и возможности ИИ и робототехники, а также рассмотреть предполагаемые проблемы и неблагоприятные последствия. Предполагаемая аудитория отчета - британское правительство, его язык подразумевает срочность действий, поскольку Великобритания может потерять свое конкурентное преимущество в этой области. Возможно, такая срочность
вызвана неопределенностью последствий Брексита для финансирования исследований.
Как и в американском, в британском докладе правительству предлагается поддерживать «регулирование легкого касания» (light-touch regulation) сектора ИИ. В этом видится основа ведущих позиций страны в качестве центра технической индустрии в Европе и места для таких компаний, как входящая в состав Google компания «Deep Mind» (с. 15).
Роль правительства в развитии ИИ заключается прежде всего в разработке новых нормативных рамок и принципов. Для решения этих вопросов комитет предлагает создать постоянную комиссию по ИИ в Институте Алана Тьюринга, которая занималась бы обеспечением руководства по этическим, юридическим и социальным последствиям (ELSI) ИИ и созданием основы для формирования нормативных рамок и организационных структур.
Ранее комитет также рекомендовал создать Совет по этике данных (Council for Data Ethics). Вопрос о взаимодействии двух структур требует, по мысли авторов статьи, более тесной координации. Аппаратное и программное обеспечение, данные представляют собой единую экосистему, для которой необходим всеобъемлющий и систематический нормативный подход. Любая фрагментация будет чрезвычайно губительной с точки зрения эффективности и действенности.
В докладе не рассматривается проблема влияния ИИ на рынок труда, однако утверждается необходимость реагирования на нехватку цифровых навыков у населения. Как и в докладе ЕС, в докладе Великобритании особое внимание уделяется робототехнике.
Комитет призывает к разработке дополнительных мер отчетности в вопросах, связанных с развитием автономного оружия, и в частности смертоносных систем автономного оружия, поскольку эти технологии являются наиболее опасными. Позиция Великобритании сходна с позицией авторов доклада США в том, что международное гуманитарное право остается адекватной правовой основой и рамкой для оценки использования всех систем вооружений в вооруженном конфликте. Однако в докладе Соединенного Королевства предлагаются дальнейшие шаги, направленные на разъяснение роли человека в системах управления автономным оружием.
Британский комитет дает конкретную рекомендацию относительно прозрачности и предлагает опираться на Европейский общий регламент по защите данных (General Data Protection Regulation - GDPR), вступивший в силу в 2018 г. Однако совпадение дат принятия этого документа и ожидаемого завершения переговоров по Брекситу, вероятно, не позволит сделать более смелые заявления. Предложение о создании постоянной комиссии по ИИ в Институте Алана Тьюринга, которая инициировала бы публичные дебаты, касающиеся применения ИИ, авторы статьи считают своевременным. Эта комиссия должна быть междисциплинарной, однако ее деятельность будет эффективной только в том случае, если правительство, промышленность и исследовательский сектор будут следовать ее рекомендациям.
Доклад представляет собой предложения для правительства, и обычно у правительства есть 60 дней, чтобы ответить на эти предложения, указав, насколько они приняты к исполнению и как они могут быть реализованы.
Резюмируя, авторы отмечают, что все доклады представляют интерес с точки зрения таких важных проблем, как влияние ИИ на экономику, образование, военную сферу и национальную безопасность. Среди положительных моментов они выделили разработку сложной стратегии ИР по реализации рекомендаций, представленную в американском подходе; рекомендацию по созданию «Европейского агентства по робототехнике и искусственному интеллекту» для мониторинга тенденций, выявления перспектив и консультирования государственных структур в европейском докладе; рекомендации по разработке новых нормативных рамок и созданию независимой национальной комиссии для организации публичных дебатов по развитию ИИ в британском варианте.
В каждом отчете подробно рассматриваются роль и ответственность правительства, частного сектора и сектора исследований, а также необходимость сотрудничества между различными субъектами, участвующими в развитии технологий ИИ. При этом в качестве претендентов на ведущую роль в этом сотрудничестве предлагаются разные субъекты: правительство с частными промышленными предприятиями в американском докладе, Европейская комиссия и новое консультативное агентство - в европей-
ском, правительство и постоянная комиссия, координирующие совместную деятельность, в докладе Великобритании.
Несмотря на остроту и актуальность поднятых в документах вопросов, по мнению авторов статьи, им не хватает амбициозной и смелой попытки решить самый сложный вопрос - человеческий проект для зрелых информационных обществ XXI в. Они предлагают свой ответ. С одной стороны, политика должна гарантировать, что использование ИИ будет полностью направлено на общественное благо. Это предполагает четкое понимание того, что такое «хорошее общество ИИ». Достичь такого понимания можно через независимый, многосторонний международный процесс исследований и консультаций по ИИ и этике данных, который должен объединить правительства, корпоративный сектор, гражданское общество и исследовательское сообщество. Необходимо создать независимый, многосторонний международный совет по ИИ и этике данных с равными возможностями для всех заинтересованных сторон. С другой стороны, проекты «хорошего общества ИИ» должны опираться на концепцию человеческого достоинства, представленную в ряде международных документов. Ответственность, сотрудничество и общие ценности могут служить основой для создания «хорошего общества ИИ».
Е.Г. Гребенщикова
2018.04.005. УВИДЕЛИ ЛИ МЫ ГЕНЕТИЗАЦИЮ ОБЩЕСТВА? ОЖИДАНИЯ И ОЧЕВИДНОСТЬ / ВЕЙНЕР К., МАРТИН П., РИ-ЧАРДС М., ТАТТОН Р.
Have we seen the geneticisation of society? Expectations and evidence / Weiner K., Martin P., Richards M., Tutton R. // Sociology of health & illness. - 2017. - Vol. 39, N 7. - P. 989-1004. - Mode of access: https://doi.org/10.1111/1467-9566.12551
Ключевые слова: исследования науки и технологий; новая генетика; генетизация; клонирование; биомедицина.
К. Вейнер работает в отделении социологических исследований Шеффилдского университета (Великобритания); П. Мартин -сотрудник Центра изучения семьи Кембриджского университета (Великобритания); М. Ричардс и Р. Таттон - сотрудники факультета социологии Ланкастерского университета (Великобритания).
