ПРАВОВЫЕ ПРОБЛЕМЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Текст научной статьи по специальности «Право»

Теория и история права и государства

ПРАВОВЫЕ ПРОБЛЕМЫ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

МОРХАТ Петр Мечиславович,

кандидат юридических наук, судья Арбитражного суда Московской области. E-mail: constitution88@gmail.com

Краткая аннотация: Статья посвящена исследованию правовых проблем применения искусственного интеллекта. В настоящей статье рассмотрены некоторые особенности применения искусственного интеллекта в различных сферах с учетом их специфики. Обозначены отдельные выгоды и угрозы применения искусственного интеллекта с точки зрения обеспечения публичных интересов. В статье также рассмотрены некоторые существующие подходы к надлежащему обеспечению правового регулирования использования технологий искусственного интеллекта, а также проблемы определения юридической ответственности.

Abstract: This article is devoted to the study of legal problems of the use of artificial intelligence. Some features of the use of artificial intelligence in various spheres, taking into account their specificity are considered in this article. Some benefits and threats of using artificial intelligence in terms of securing public interests are indicated. The article also discusses some existing approaches to the proper provision of legal regulation of the use of artificial intelligence technologies, as well as problems of determining legal responsibility.

Ключевые слова: искусственный интеллект, информационное право, юридическая ответственность.

Keywords: artificial intelligence, information law, legal responsibility.

Введение

Технологии искусственного интеллекта уже сейчас находят свое применение в различных сферах общественной жизни, что, соответственно, не может не создавать сложностей при попытке урегулировать существенно изменяющиеся в силу этого общественные отношения, либо возникающие новые.

Внедрение искусственного интеллекта в какую-либо сферу порождает целый ряд правовых проблем, которые можно классифицировать следующим образом:

- проблемы, связанные с определением новых правовых категорий, касающихся искусственного интеллекта, определением нового специального объекта правового регулирования;

- проблемы, связанные с корректным определением юридической ответственности за совершение деяний с использованием искусственного интеллекта в определенной сфере;

- проблемы, связанные с адаптацией прочих норм права, направленных на регулирование отношений в этой сфере.

В настоящей статье будут рассмотрены

некоторые особенности применения искусственного интеллекта в различных сферах с учетом их специфики, выгоды и угрозы применения искусственного интеллекта с точки зрения обеспечения публичных интересов, некоторые существующие подходы к надлежащему обеспечению правового регулирования использования технологий искусственного интеллекта, а также проблемы определения юридической ответственности.

Особенности применения искусственного интеллекта в различных сферах

В немалой степени характер правовых проблем, сопряженных с использованием искусственного интеллекта, зависит от конкретной сферы его применения.

Так, к примеру, в медицине искусственный интеллект может использоваться для целей диагностики и прогнозирования, сбора данных, выявления лиц с высокими рисками развития заболеваний, разработки новых лекарств1.

При этом в результате использования

1 Eley C.L. Dr. A.I.: The Evolution of the Use and Regulation of Artificial Intelligence in Medical Practice and Drug Development // Pro Te: Solutio. - 2017, Fall. - P. 4-8. - P. 4.

искусственного интеллекта могут возникать проблемы, связанные с лицензированием, а также с

определением юридической ответственности при

1

рассмотрении дел о медицинской халатности .

Искусственный интеллект находит свое применение и в создании транспортных средств, например, беспилотных автомобилей. Что, в свою очередь, обусловливает возникновение новых правовых проблем: связанных с легализацией транспортных средств такого рода, а также с

определением ответственности за несчастные

2

случаи и адаптацией правил страхования .

Искусственный интеллект может использоваться и в публичном (государственном и муниципальном) управлении , в межевании земельных участков, контроле землепользования, в обеспечении прозрачности и законности госзакупкок и госконтрактов.

В этом случае ключевым вопросом, который возникает при использовании систем искусственного интеллекта в процессе принятия решений в отношении индивидов является вопрос относительно того, как именно в таком случае будет обеспечиваться соблюдение принципов прозрачности и точности в государ-

4

ственном управлении .

По мнению Королевской инженерной академии наук Великобритании, использование робототехники и автономных систем может представлять угрозу для рабочих мест, поскольку замещает потребности в традиционных ручных навыках потребностями в на-

5

выках управления системами , в частности -если говорить о производстве товаров.

1 Eley C.L. Dr. A.I.: The Evolution of the Use and Regulation of Artificial Intelligence in Medical Practice and Drug Development // Pro Te: Solutio. - 2017, Fall. - P. 4-8. - P. 7.

2 Franco L. Artificial intelligence // Robotics Law Journal. - 2015, July/August. - Vol. 1. - № 1. - P. 4-5. - P. 4. <https://www.perezllorca.com/en/actualidadPublicaciones/Entrevistas /Documents/150709 ROBOTIS LAW JOURNAL .pdf>.

3 Понкин И.В. §7.11. Использование технологий искусственного интеллекта в государственном управлении // Понкин И.В. Теория публичного управления: Учебник для магистратуры и программ Master of Public Administration / Предисл. А.Б. Зеленцова / Институт гос. службы и управления РАНХиГС при Президенте РФ. - М.: Буки Веди, 2017. - 728 с. - С. 311-313.

4 Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems // <http://standards.ieee.org/develop/indconn/ec/autonomous_systems. html>; <https://standards.ieee.org/develop/indconn/ec/ead_law.pdf>. - P. 91.

5 Robotics and artificial intelligence: A response to the House of

Commons Science and Technology Committee inquiry into robotics

Джек Балкин также выделяет две ключевые проблемы, которые создает использование робототехники и технологий искусственного интеллекта, для права:

- проблема распределения между людьми прав и обязанностей, возникающих в результате совершения действий искусственных интеллектуальных агентов, приносящих пользу или причиняющих ущерб;

- проблема замещения в определенных областях живых людей искусственными интеллектуальными агентами, которая затрагивает многие области права6.

Осонд А. Особа и Уильям Уэлсер IV определяют следующие важные особенности применения систем искусственного интеллекта:

- применение искусственных агентов может иметь неожиданные и серьезные системные последствия;

- опора на искусственных агентов повышает риск снижения устойчивости;

- искусственный интеллект обладает потенциалом вызывать беспрецедентно быстрые экономические и социальные разрушения7.

На наш взгляд, заслуживает внимания мнение Филипа Олстона, отраженное в Промежуточном докладе Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № А/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН, который отметил, что «существует ряд факторов, которые позволяют объяснить, почему правозащитное сообщество продолжает считать вопрос о развитии робототехники экстравагантной темой, которой не следует заниматься до тех пор, пока соответствующие технологии не будут применяться на практике. Во-первых, информация об этих разработках в основном не выходит за пределы военных исследовательских учреждений и публикуется, как

and artificial intelligence / The Royal Academy of Engineering // <https://www.raeng.org.uk/publications/responses/robotics-and-artificial-intelligence>. - 2016. - 6 p. - P. 2.

6 Balkin J.B. The Path of Robotics Law // California Law Review. -2015, June. - Vol. 6. - P. 45-60. - P. 46. <https://scholarship.law.berkeley.edu/cgi/viewcontent.cgi?article=1071 &context=clrcircuit>.

7 Osoba O.A., Welser W. IV. The Risks of Artificial Intelligence to Security and the Future of Work / RAND Corporation // <https://www.rand.org/pubs/perspectives/PE237.html>. - 2017. -23 p. - P. 17.

правило, в специальной научной литературе. Во-вторых, для понимания таких технологий требуются знания, которыми большинство экспертов в области прав человека не обладают. В-третьих, преимущества более широкого использования робототехники, по мнению общественности, перевешивают потенциальные не-

1

гативные последствия» .

Выгоды от использования искусственного интеллекта

Применение искусственного интеллекта не только обусловливает возникновение определенных правовых проблем, но и позволяет решать иные уже существующие проблемы правового и практического характера.

В Мнении Европейского экономического и социального комитета «Искусственный интеллект - последствия искусственного интеллекта на (цифровом) едином рынке, производстве, потреблении, занятости и обществе» (мнение, представленное по собственной инициативе) от 31.08.2017 отмечается, что использование искусственного интеллекта может способствовать достижению множества целей, в частности, целей искоренения бедности, обеспечения безопасного транспорта, качественной медицины, более персонализированного образования, развития промышленности.

Королевская инженерная академия наук Великобритании отмечает, что использование технологий искусственного интеллекта может быть задействовано для решения следующих экономических и социальных проблем:

- использование беспилотных летательных аппаратов в ситуациях и местах, где присутствие человека может быть опасным для него, в рамках реагирования в случае стихийных бедствий и техногенных катастроф;

- использование автономных наземных транспортных средств при проведении геодези-

1 Олстон Ф. Промежуточный доклад Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № A/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН // <https://documents-dds-ny.un.org/doc/UNDOC/GEN/N10/492/41/PDF/N1049241.pdf?OpenEl ement>. - 27 c. - C. 14.

2 Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. - 31.08.2017. - № 2017/C 288/01. - P. 1-9; <http://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:52016IE5369>.

ческих работ, в разработке нефти и газа, в сфере обеспечения безопасности, а также в военном деле;

- использование ассистивных технологий для решения проблем стареющего населения3.

Вызовы правам человека и публичным интересам, создаваемые применением искусственного интеллекта

Зачастую отмечается, что широкое использование искусственного интеллекта может способствовать не только возникновению некоторых локальных проблем правового и практического характера в конкретных отдельных сферах, но может и угрожать более широким интересам.

Например, Европейский экономический и социальный комитет обеспокоен использованием искусственного интеллекта для оказания воздействия на поведение людей при реализации их избирательных прав, что является угро-

_ _ 4

зой справедливой и открытой демократии .

Европейский экономический и социальный комитет указывает на то, что искусственный интеллект может также оказывать влияние на выбор индивидов во многих сферах, от принятия коммерческих решений, до выборов и референдумов, посредством анализа большого количества зачастую персональных данных. Наиболее уязвимой категорией населения

5

здесь являются дети .

Королевская инженерная академия наук Великобритании также отмечает, что вполне вероятными являются коренные изменения в актуальных бизнес-моделях, обусловленные использованием автономных систем6.

3 Robotics and artificial intelligence: A response to the House of Commons Science and Technology Committee inquiry into robotics and artificial intelligence / The Royal Academy of Engineering // <https://www.raeng.org.uk/publications/responses/robotics-and-artificial-intelligence>. - 2016. - 6 p. - P. 3.

4 Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. - 31.08.2017. - № 2017/C 288/01. - P. 1-9; <http://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:52016IE5369>.

5 Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. - 31.08.2017. - № 2017/C 288/01. - P. 1-9; <http://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:52016IE5369>.

6 Robotics and artificial intelligence: A response to the House of Commons Science and Technology Committee inquiry into robotics

Государство как заинтересованная сторона в области разработки и применения искусственного интеллекта

Несмотря на то, что сейчас в большей степени проблемами разработки и использования искусственного интеллекта занимается научное сообщество, участие в этом процессе государства необходимо.

Коринна Кэт, Сандра Вахтер, Брент Миттельштадт, Мариаросария Таддео и Лучано Флориди отмечают, что недостаточность понимания и определения целей и стратегий использования искусственного интеллекта приведет к тому, что этот пробел будет заполняться частным сектором, либо академическим, которые будут сами определять, что именно может считаться надлежащим использованием искусственного интеллекта обществом, а не государство, не желающее или не имеющее возможности сделать это. Роль частного сектора понятна, поскольку именно он возглавляет развитие исследований в сфере искусственного интеллекта, однако в целом передача задач такого рода частному сектору неприемлема в силу отсутствия надлежащей социальной и политической подотчетности его деятельности в этом направлении, а также отсутствия возможностей долгосрочного планирования в этой области,

целью которого является справедливое рас-

1

пределение выгод и возможностей для всех .

Для обеспечения быстрого развития и широкого распространения технологий искусственного интеллекта надлежащим образом в целях обеспечения оказания использованием таких систем положительного влияния на индивидов, общество, культуру и окружающую среду необходимо объединение усилий множества заинтересованных сторон, среди которых ведущую роль играет именно государство2.

Развитие законодательства в обла-

and artificial intelligence / The Royal Academy of Engineering // <https://www.raeng.org.uk/publications/responses/robotics-and-artificial-intelligence>. - 2016. - 6 p. - P. 6.

1 Cath C., Wächter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the «Good Society»: The US, EU, and UK Approach // <https://link.springer.com/article/10.1007%2Fs11948-017-9901-7>.

- 24 p. - P. 3.

2 Cath C., Wachter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the «Good Society»: The US, EU, and UK Approach // <https://link.springer.com/article/10.1007%2Fs11948-017-9901-7>.

- 24 p. - P. 3.

сти разработки и применения искусственного интеллекта

На настоящий момент разработано немало принципов и подходов к тому, каким образом должно осуществляться правовое регулирование применения технологий искусственного интеллекта.

Рассмотрим некоторые из них, представляющие наибольший, на наш взгляд, интерес.

Европейский экономический и социальный комитет отмечает, что искусственный интеллект не ограничен границами государств, поэтому региональные нормы в этой сфере могут быть недостаточными и даже могут привести к нежелательным последствиям, что обусловливает возможную необходимость принятия соответствующих документов на глобаль-

3

ном международном уровне .

По мнению Луиса Франко, регулирующие органы в данной сфере должны содействовать устойчивому и объективному, но осторожному развитию искусственного интеллекта, с учетом рисков, которые несет в себе широкое

4

применение технологий такого рода .

Государственная политика в области разработки и применения искусственного интеллекта должна быть направлена на обеспечение того, что данные технологии будут использоваться в целях обеспечения всеобщего блага, для чего необходимо, в первую очередь, добиться понимания того, что именно представляет собой зрелое информационное общество, основанное на использовании искусственного интеллекта. Такое понимание может быть достигнуто посредством независимого, международного и многостороннего процесса исследований и консультаций по вопросам этики в области применения искусственного интеллекта5.

3 Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (dig itai) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. - 31.08.2017. - № 2017/C 288/01. - P. 1-9; <http://eur-lex.europa.eu/legal-content/EN/ALL/?uri=CELEX:52016IE5369>.

4 Franco L. Artificial intelligence // Robotics Law Journal. - 2015, July/August. - Vol. 1. - № 1. - P. 4-5. - P. 4. <https://www.perezllorca.com/en/actualidadPublicaciones/Entrevistas/ Documents/150709 ROBOTIS LAW JOURNAL .pdf>.

5 Cath C., Wachter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the «Good Society»: The US, EU, and UK Approach // <https://link.springer.com/article/10.1007%2Fs11948-017-9901-7>. - 24 p. - P. 21.

Институт инженеров электротехники и электроники предлагает следующие принципы:

- установление запрета на использование органами публичной власти таких систем искусственного интеллекта, которые не предоставляют отчеты о рассмотренных фактах и учтенных нормативно-правовых актах;

- установление запрета на использование систем искусственного интеллекта при вынесении судебных решений (с учетом актуального уровня развития соответствующих технологий);

- обеспечение разработки используемых систем искусственного интеллекта в соответствии с принципами прозрачности и подотчетности, то есть, логика и правила, лежащие в основе таких систем, должны быть по возможности доступны тем, кто реализует контроль за их функционированием;

- обеспечение выявления и оценки рисков, сопряженных с использованием систем искусственного интеллекта;

- политика не должна быть автоматизирована, пока не будут разработаны соответствующие нормы, правила толкования и политические инструкции;

- должна быть исчерпывающе задокументирована и доступна вся история процесса

принятия решений с помощью систем искусст-

1

венного интеллекта .

Райан Кало предлагает создание органа публичной власти в сфере робототехники, комиссии, состоящей из как, с одной стороны, специалистов этой отрасли, так и, с другой стороны, экспертов в области права и политики, в основные задачи которой может входить следующее:

- направление бюджетных средств на проведение фундаментальных исследований в сфере робототехники, для обеспечения решения существенных имеющихся технических проблем в этой отрасли;

- консультирование других органов публичной власти по вопросам, связанным с ро-

1 Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems // <http://standards.ieee.org/develop/indconn/ec/autonomous_systems. html>; <https://standards.ieee.org/develop/indconn/ec/ead_law.pdf>. - P. 91.

бототехникой;

- консультирование органов законодательной власти по вопросам права и политики в области робототехники;

- содействие обсуждению влияния робототехники и искусственного интеллекта среди национальных и международных заинтересованных сторон, включая государство, научные круга и т.д.;

- оказание содействия судебным органам посредством представления заключений amicus curiae по вопросам, связанным с программным и аппаратным обеспечением2.

По мнению Франчески Росси, технологии искусственного интеллекта меняются очень быстро и имеют столь много способов применения, что любому органу публичной власти или регулирующему органу может быть затруднительно идти в ногу с развитием таких технологий, не говоря уже об осмысленном и своевременном направлении развития таких технологий3, поэтому, возможно, наиболее правильным является путь установления лишь некоторых универсальных принципов развития и применения таких технологий.

Цифровые технологии и, в частности, технологии искусственного интеллекта развиваются чрезвычайно быстро, и направление развития таких инноваций должно управляться социально и политически, с точки зрения того, какова конечная цель, а не того, как быстро ее

4

можно достигнуть .

При этом одним из возможных направлений для развития законодательства в сфере правового регулирования использования искусственного интеллекта является его развитие по пути введения ограничительных норм по причине отсутствия полного доверия к новым разви-

5

вающимся технологиям .

2 Calo R. The Case for a Federal Robotics Commission / Center for Technology Innovation at Brookings // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2529151>. -2014. - 18 p. - P. 11-12.

3 Rossi F. Artificial Intelligence: Potential Benefits and Ethical Considerations

//<http://www.europarl.europa.eu/RegData/etudes/BRIE/2016/571380/ IP0L_BRI%282016%29571380_EN.pdf>. - 2016. - 7 p. - P. 6.

4 Cath a, Wachter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the «Good Society»: The US, EU, and UK Approach // <https://link.springer.com/article/10.1007%2Fs11948-017-9901-7>. - 24 p. - P. 3.

5 Franco L. Artificial intelligence // Robotics Law Journal. - 2015, July/August. - Vol. 1. - № 1. - P. 4-5. - P. 4.

Исследователь Джек Балкин релевантно описывает специфику развития правого регулирования использования новых технологий. Он отмечает, что то, как новая технология взаимодействует с социальным и правовым миром - это внедрение новой технологии в уже существующий социум, в котором уже имеет место набор предположений и ожиданий относительно вероятного и маловероятного, возможного и невозможного, а также набор парадигм того, как работают вещи, и как необходимо решать возникающие проблемы, которые все в целом можно обозначить термином «регулирование». И новая технология нарушает сложившуюся систему регулирования, побуждая различных участников к своего рода борьбе за определение того, как такая новая технология будет использоваться. По мере такой борьбы происходит внедрение инноваций, причем не только технических, но и правовых, социальных и экономических, что приводит к появлению новых проблем в области права1, подчас трудно разрешимых.

И, как отмечает Джек Балкин, вместо того, чтобы говорить о том, что закон отвечает основным особенностям новой технологии, корректнее говорить о том, что социальная борьба вокруг ее использования вписывается в существующие правовые рамки, нарушая ожидания относительно того, как следует классифицировать такие ситуации .

Искусственный интеллект и проблемы определения юридической ответственности

В силу того, что системы искусственного интеллекта по мере развития технологий становятся все более сложными и получают все большее распространение, все менее однозначной становится одна из фундаментальных концепций, согласно которой конечным субъектом принятия любого решения является чело-

<https://www.perezllorca.com/en/actualidadPublicaciones/Entrevistas /Documents/150709 ROBOTIS LAW JOURNAL .pdf>.

1 Balkin J.B. The Path of Robotics Law // California Law Review. -2015, June. - Vol. 6. - P. 45-60. - P. 50. <https://scholarship.law.berkeley.edu/cgi/viewcontent.cgi?article=107 1&context=clrcircuit>.

2 Balkin J.B. The Path of Robotics Law // California Law Review. -2015, June. - Vol. 6. - P. 45-60. - P. 50. <https://scholarship.law.berkeley.edu/cgi/viewcontent.cgi?article=107 1&context=clrcircuit>.

век, что, в свою очередь, поднимает проблему определения юридической ответственности3.

Возрастающее использование систем искусственного интеллекта переносит ответственность за их безопасное функционирование с оператора на разработчика, со всеми вытекающими из этого этическими и юридическими последствиями. Поэтому, по мнению Королевской инженерной академии наук Великобритании, возможно необходимо установление требований к своего рода лицензированию для осуществления деятельности в этой сфере, в частности, касающихся изучения этических принципов в этой области4.

Для подобных целей Королевская инженерная академия наук Великобритании выпустила руководство «Инженерная этика на практике: руководство для инженеров»5.

В том случае, если презюмировать, что искусственный агент не в состоянии самостоятельно нести ответственность за свои действия, что он не может обладать правосубъектностью, то возникает иная проблема, связанная с определением надлежащего субъекта ответственности, поскольку круг лиц, участвующих в регулировании и направлении поведения искусственного интеллектуального агента слишком широк, к ним могут быть отнесены владельцы, операторы, проектировщики. Если же предполагать возможность разделения ответственности между ними, то возникает следующая проблема определения степени вины таких лиц, в особенности, если не говорить о тех ситуациях, когда кто-либо из них намеренно программирует робота на причинение смерти человеку, а когда затруднительно доказать намерение причинить вред, либо что лицо знало о том, что вред мо-

3 Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems // <http://standards.ieee.org/develop/indconn/ec/autonomous_systems.h tml>; <https://standards.ieee.org/develop/indconn/ec/ead_law.pdf>. -P . 92 .

4 Robotics and artificial intelligence: A response to the House of Commons Science and Technology Committee inquiry into robotics and artificial intelligence / The Royal Academy of Engineering // <https://www.raeng.org.uk/publications/responses/robotics-and-artificial-intelligence>. - 2016. - 6 p. - P. 6.

5 Engineering ethics in practice: a guide for engineers / The Royal Academy of Engineering. - London: The Royal Academy of Engineering, 2011. - 76 p. <https://www.raeng.org.uk/publications/other/engineering-ethics-in-practice-full>.

жет быть причинен (Balkin J.B. The Path of Robotics Law // California Law Review. - 2015, June. - Vol. 6. - P. 45-60. - P. 52. <https://scholarship.la w.berkeley.edu/cgi/viewcont ent.cgi?article=1071&context=clrcircuit>).

Традиционным решением может стать так называемый институт строгой ответственности, предполагающий привлечение к ответственности без вины, но, как отмечает Джек Бал-кин, это, во-первых, может задушить инновации в этой сфере, а, во-вторых, может быть не корректным с точки зрения уголовного права (Balkin J.B. The Path of Robotics Law // California Law Review. - 2015, June. - Vol. 6. - P. 45-60. -P. 52.

<https://scholarship. law. berkeley. edu/cgi/viewcont ent. cgi?article=1071&context=clrcircuit>).

Институт инженеров электротехники и электроники предлагает следующие принципы применения и разработки систем искусственного интеллекта:

- обеспечение идентификации всех искусственных агентов для обеспечения юридической подотчетности их деятельности;

- законодателям и правоохранительным органам необходимо обеспечить, чтобы использование систем искусственного интел-

лекта не было объектом злоупотреблений для избежания ответственности;

- установление обязанности компаний, использующих и производящих системы искусственного интеллекта, устанавливать письменные правила, четко регулирующие использование таких систем, в частности - относительно того, кто вправе их использовать, определять требования к квалификации таких лиц (Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems // <http://standards.ieee.org/develop/indconn/ec/auto nomous_systems.html>;

<https://standards.ieee.org/develop/indconn/ec/ead _law.pdf>. - P. 92-93).

Эти принципы могут применяться с учетом сложностей определения надлежащего субъекта юридической ответственности.

Заключение

Актуальная тема правовых проблем применения искусственного интеллекта только начинает подниматься в отечественной и зарубежной научной литературе. И настоящая статья является приглашением к широкой дискуссии.

Библиография:

1. Олстон Ф. Промежуточный доклад Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № A/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН // <https://documents-dds-ny.un.org/doc/UND0C/GEN/N10/492/41/PDF/N1049241 .pdf?OpenElement>. - 27 с.

2. Понкин И.В. Теория публичного управления: Учебник для магистратуры и программ Master of Public Administration / Пре-дисл. А.Б. Зеленцова / Институт гос. службы и управления РАНХиГС при Президенте РФ. М.: Буки Веди, 2017. 728 с.

3. Balkin J.B. The Path of Robotics Law // California Law Review. - 2015, June. - Vol. 6. - P. 45-60.

4. Calo R. The Case for a Federal Robotics Commission / Center for Technology Innovation at Brookings // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2529151>. - 2014. - 18 p.

5. Cath С., Wachter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the «Good Society»: The US, EU, and UK Approach // <https://link.springer.com/article/10.1007%2Fs11948-017-9901-7>. - 24 p.

6. Eley C.L. Dr. A.I.: The Evolution of the Use and Regulation of Artificial Intelligence in Medical Practice and Drug Development // Pro Te: Solutio. - 2017, Fall. - P. 4-8.

7. Engineering ethics in practice: a guide for engineers / The Royal Academy of Engineering. - London: The Royal Academy of Engineering, 2011. - 76 p.

8. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems // <http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html>; <https://standards.ieee.org/develop/indconn/ec/ead_law.pdf>.

9. Franco L. Artificial intelligence // Robotics Law Journal. - 2015, July/August. - Vol. 1. - № 1. - P. 4-5.

10. Opinion of the European Economic and Social Committee on «Artificial intelligence - The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society» (own-initiative opinion) // Official Journal of the European Union. - 31.08.2017. - № 2017/C 288/01. - P. 1-9.

11. Osoba O.A., Welser W. IV. The Risks of Artificial Intelligence to Security and the Future of Work / RAND Corporation // <https://www.rand.org/pubs/perspectives/PE237.html>. - 2017. - 23 p.

12. Robotics and artificial intelligence: A response to the House of Commons Science and Technology Committee inquiry into robotics and artificial intelligence / The Royal Academy of Engineering // <https://www.raeng.org.uk/publications/responses/robotics-and-artificial-intelligence>. - 2016. - 6 p.

13. Rossi F. Artificial Intelligence: Potential Benefits and Ethical Considerations // <http://www.europarl.europa.eu/RegData/etudes/BRIE/2016/571380/IPOL_BRI%282016%29571380_EN.pdf>. - 2016. - 7 p.