CC BY
36ОСОБЕННОСТИ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
МОРХАТ Петр Мечиславович,
кандидат юридических наук, судья Арбитражного суда Московской области. E-mail: constitution88@gmail.com
Краткая аннотация: Настоящая статья посвящена исследованию некоторых особенностей правового регулирования искусственного интеллекта. В статье рассмотрены некоторые важные правовые проблемы и риски, возникновение которых обусловливает применение искусственного интеллекта. Приведены основные существующие подходы к правовому регулированию использования искусственного интеллекта.
Abstract: This article is devoted to the study of some features of the legal regulation of artificial intelligence. The article considers some important legal problems and risks, the emergence of which determines the use of artificial intelligence. The main existing approaches to the legal regulation of the use of artificial intelligence are presented in this article.
Ключевые слова: общая теория права, информационное право, искусственный интеллект, правовое регулирование, публичное управление.
Keywords: general theory of law, information law, artificial intelligence, legal regulation, public administration.
Введение
Использование систем искусственного интеллекта и роботов получает сегодня всё большее распространение. Соответственно, это влечет за собой возникновение определенных сложностей и проблем, в особенности - в правовом поле.
Искусственный интеллект обладает огромными потенциальными выгодами как для
1
государственного сектора, так и для частного , которые неразумно было бы не использовать.
Эффективное правовое регулирование в сфере разработки и использования систем искусственного интеллекта необходимо для обеспечения того, чтобы такие искусственные интеллектуальные системы, во-первых, гармонично сосуществовали с людьми, действуя в рамках своего предназначения, а, во-вторых, чтобы они соответствовали и были способны адаптироваться к человеческим потребностям
1 Bughin J., Hazan E., Ramaswamy S., Chui M., Alias T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced %20Electronics/Our%20Insights/How%20artificial%20inteNigence%2 0can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. - 2017. - 75 p. - P. 37.
2
и ценностям .
При этом при совершенствовании законодательства в этой области должно учитываться, что, с одной стороны, искусственный интеллект обладает значительным потенциалом для кардинальной перестройки общества, с другой стороны, всё же сохраняется существенная неопределенность относительно того, как именно будут развиваться соответствующие технологии3.
В настоящей статье будут рассмотрены некоторые подходы к обеспечению правового регулирования разработки и применения искусственного интеллекта, а также сопряженные с этим проблемы и риски.
Правовые проблемы использования искусственного интеллекта, а также сопряженные с этим риски
2 Del Castillo A.P. A law on robotics and artificial intelligence in the EU? / European Trade Union Institute // The Foresight Brief. - 2017, September. - № 2. - 11 p. - P. 10. <https://www.etui.org/Publications2/Foresight-briefs/A-law-on-robotics-and-artificial-intelligence-in-the-EU>.
3 Bughin J., Hazan E., Ramaswamy S., Chui M., Alias T., Dahlström P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced% 20Electronics/Our%20Insights/How%20artificial%20intelligence%20ca n%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. - 2017. - 75 p. - P. 37.
Нерешенные юридические и этические проблемы могут стать существенным препятствием для использования потенциальных поло-
1
жительных сторон искусственного интеллекта .
При этом полное бездействие со стороны органов публичной власти относительно решения проблемы надлежащего правового регулирования использования искусственного интеллекта не является выходом.
Можно выделить два основных типа правовых проблем, которые могут возникать при использовании искусственного интеллекта:
- проблемы, связанные с обеспечением надлежащего правового регулирования использования систем искусственного интеллекта в целом, их решение может быть направлено, главным образом, на предотвращение нанесения вреда обществу и индивиду от массового (как следствие - неосторожного и бесконтрольного) использования таких систем;
- проблемы, связанные с надлежащим регулированием использования систем искусственного интеллекта в конкретных общественно полезных сферах деятельности, либо для достижения тех или иных публичных интересов.
И если для решения проблем первой указанной категории требуется разработка и утверждение универсальных принципов использования таких систем (актов технического нормативного регулирования), то во втором случае необходима надлежащая проработка всех аспектов и разработка детального правового регулирования применительно к каждой конкретной области использования искусственного интеллекта в целях максимизации полезных последствий, минимизации негативных, а также обеспечения соответствия принципам, распространяющимся на соответствующую сферу. Например, в случае использования искусственного интеллекта в публичном управлении должно быть обеспечено соблюдение общих принципов публичного управления, таких как подотчетность и прозрачность.
1 Bughin J., Hazan E., Ramaswamy S., Chui M., Alias T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced %20Electronics/Our%20Insights/How%20artificial%20intelligence%2 0can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. - 2017. - 75 p. - P. 31.
Одной из потенциальных проблем практического применения систем искусственного интеллекта в таких сферах, как, например, реализация публичного управления, либо оказание юридических услуг, может быть отсутствие надлежащей прозрачности деятельности таких систем, в особенности, в процессе принятия решений такими системами. Так, по мере того, как алгоритмы систем искусственного интеллекта становятся все более развитыми, все более затруднительным становится понимание их внутренней работы, которую зачастую не могут объяснить и даже разработчики. Кроме того, поскольку такие системы самоорганизуются, они, по сути, не имеют внешнего руководства, во
всяком случае, если говорить не о чисто фор-
2
мальном внешнем руководстве .
Вызывают беспокойство и вопросы обеспечения конфиденциальности личных данных при использовании искусственного интеллекта, в частности, если речь идет о некоторых отдельных сферах, таких, как оказание медицинской помощи с задействованием таких технологий. При этом решение этой проблемы требует сбалансированного подхода, поскольку излишняя конфиденциальность может также
3
приводить к негативным последствиям .
Основные подходы к правовому регулированию искусственного интеллекта
Законодательство в данной области еще только начинает свое развитие, поэтому в данном разделе будут рассмотрены не только существующие подходы к правовому регулированию в данной сфере, но и предлагаемые исследователями.
Уго Пагалло отмечает, что, исследователи, рассматривая вопросы применения права в отношении искусственного интеллекта, в основном, придерживаются трех основных подходов к их изучению:
2 Artificial Intelligence and the Legal Profession / The Law Society's Horizon Scanning programme // <https://www.lawsociety.org.uk/support-services/documents/AI-and-the-legal-profession-horizon-scanning-report/>. - 2017. - 14 p. -P. 10.
3 Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced% 20Electronics/Our%20Insights/How%20artificial%20intelligence%20ca n%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. - 2017. - 75 p. - P. 37.
- определение того, как именно развитие искусственного интеллекта влияет на существующие правовые концепции и принципы и их изменение;
- определение того, как именно развитие искусственного интеллекта влияет на создание новых правовых концепций и принципов;
- отрицание существования специфики искусственного интеллекта и стремление адаптировать те правовые проблемы, которые возникают при его использовании, в рамках уже существующих правовых подходов и концепций без изменения1.
По тем же направлениям, в сущности, может идти и развитие законодательства в данной сфере.
Николас Петит выделяет следующие основные подходы к регулированию использования искусственного интеллекта и роботов:
- формальный подход, согласно которому необходимо исходить из особенностей соответствующей правовой системы и ее институтов и обеспечивать изменение всех институтов, которые могут оказывать влияние на использование искусственного интеллекта, например, ответственности, конфиденциальности, кибербезопасности, посредством установления универсальных правил, применимых ко всем видам искусственного интеллекта;
- технологический подход, предполагающий решение отдельных вопросов применительно к каждой категории технологического применения искусственного интеллекта: беспилотные автомобили, социальные роботы и т.д.2
Рональд Линес и Федерика Люсиверо предлагают придерживаться следующей классификации подходов к правовому регулированию применения искусственного интеллекта:
- регулирование разработки и производства систем искусственного интеллекта посредством принятия специального законода-
1 Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts. -Springer, 2013. - P. 11. (^t. no: Leenes R., Lucivero F. Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2546759>. -32 p. - P. 4).
2 Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. -2017. - 31 p. - P. 3.
тельства в данной области;
- регулирование поведения пользователя системы искусственного интеллекта посредством установления определенного стандарта архитектуры системы искусственного интеллекта;
- регулирование поведения системы искусственного интеллекта посредством примене-
3
ния законодательных инструментов .
Использование искусственного интеллекта может порождать совершенно непредсказуемые проблемы, и использование исключительно формального подхода к его регулированию, попытка вписать использование искусственного интеллекта в уже существующие концепции без учета его специфики, может привести к появлению пробелов в законодательстве, а также подорвать развитие новых правовых ин-
-4
ститутов и отраслей .
Кроме того, изменение существующего законодательства в любом случае будет происходить неравномерно.
Так, например, в том случае, если необходимо создать возможность признания систем искусственного интеллекта в качестве авторов художественных работ, то для этого, в целом, может не потребоваться полностью и концептуально изменять все законодательство об авторском праве, а лишь скорректировать его с учетом способностей систем искусственного ин-
5
теллекта .
Однако же если речь идет о наделении систем искусственного интеллекта способностями нести ответственность за причиняемый ими вред, это потребует полного переосмысления соответствующего законодательства, включая его базовые понятия6.
3 Leenes R., Lucivero F. Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2546759>. -32 p. - P. 6.
4 Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. -2017. - 31 p. - P. 7.
5 Nevejans N. European civil law rules in robotics: study / Policy Department for «Citizens' Rights and Constitutional Affairs», European Parliament's Committee on Legal Affairs // <http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/! P0L_STU(2016)571379_EN.pdf>. - 2016. - 29 p. - P. 6.
6 Nevejans N. European civil law rules in robotics: study / Policy Department for «Citizens' Rights and Constitutional Affairs», European Parliament's Committee on Legal Affairs // <http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/! P0L_STU(2016)571379_EN.pdf>. - 2016. - 29 p. - P. 6.
В частности, необходим будет пересмотр концепции правосубъектности, что само по себе достаточно спорно.
По мнению Камила Музики, приобретение прав, аналогичных правам человека, искусственным интеллектом маловероятно из-за антропоцентрического взгляда на личность и подходов к ее пониманию1.
Государство может реализовать подход, предполагающий наблюдение за развитием технологий с возможным быстрым реагированием на конкретные изменения. При этом, однако, требуется создание инструментов быстрого реагирования на возникающие риски2.
Здесь, однако, необходимо учитывать, что излишняя урегулированность потенциальных рисков также может быть неэффективной, поскольку просто не позволит далее развивать-
ся данной области, а также не позволит использовать благоприятный потенциал искусственно-
3
го интеллекта в полной мере .
Для обеспечения корректного использования систем искусственного интеллекта, в том числе, в области государственного управления, либо для решения важных задач, требующих предельной четкости, также необходимо создание системы их сертификации и утверждения компетентными органами публичной власти4.
Заключение
На наш взгляд, развитие законодательства в области применения искусственного интеллекта должно реализовываться сбалансированно, с учетом, с одной стороны, уже существующих принципов и особенностей правовой системы, а, с другой стороны, с учетом специфики систем искусственного интеллекта различных видов.
1 Muzyka K. The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities // Journal of Artificial General Intelligence. - 2013. - Vol. 4. - № 3. - P. 164-169. - P. 168. <https://www.degruyter.com/downloadpdf/j/jagi.2013.4.issue-3/jagi-2013-0010/jagi-2013-0010.pdf>.
2 Bughin J., Hazan E., Ramaswamy S., Chui M., Alias T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced %20Electronics/Our%20Insights/How%20artificial%20intelligence%2 0can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. - 2017. - 75 p. - P. 37.
3 Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. -2017. - 31 p. - P. 13.
4 Huang T. Expert Systems // The History of Artificial Intelligence. -Seattle: University of Washington, 2006. - 27 p. - P. 12-16. - P. 14. <https://courses.cs.washington.edu/courses/csep590/06au/projects/hi story-ai.pdf>.
Библиография:
1. Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20inte lligence%20can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. -2017. - 75 p. - P. 37.
2. Del Castillo A.P. A law on robotics and artificial intelligence in the EU? / European Trade Union Institute // The Foresight Brief.
- 2017, September. - № 2. - 11 p. - P. 10. <https://www.etui.org/Publications2/Foresight-briefs/A-law-on-robotics-and-artificial-intelligence-in-the-EU>.
3. Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20inte lligence%20can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. -2017. - 75 p. - P. 37.
4. Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20inte lligence%20can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. -2017. - 75 p. - P. 31.
5. Artificial Intelligence and the Legal Profession / The Law Society's Horizon Scanning programme // <https://www.lawsociety.org.uk/support-services/documents/AI-and-the-legal-profession-horizon-scanning-report/>. - 2017. -14 p. - P. 10.
6. Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20inte lligence%20can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. -2017. - 75 p. - P. 37.
7. Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts. - Springer, 2013. - P. 11. (Цит. по: Leenes R., Lucivero F. Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2546759>. - 32 p. - P. 4).
8. Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. - 2017. - 31 p. - P. 3.
9. Leenes R., Lucivero F. Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2546759>. - 32 p. - P. 6.
10. Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. - 2017. - 31 p. - P. 7.
11. Nevejans N. European civil law rules in robotics: study / Policy Department for «Citizens' Rights and Constitutional Affairs», European Parliament's Committee on Legal Affairs // <http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf>. - 2016. - 29 p. -P. 6.
12. Nevejans N. European civil law rules in robotics: study / Policy Department for «Citizens' Rights and Constitutional Affairs», European Parliament's Committee on Legal Affairs // <http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf>. - 2016. - 29 p. -P. 6.
13. Muzyka K. The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities // Journal of Artificial General Intelligence. - 2013. - Vol. 4. - № 3. - P. 164-169. - P. 168. <https://www.degruyter.com/downloadpdf/j/jagi.2013.4.issue-3/jagi-2013-0010/jagi-2013-0010.pdf>.
14. Bughin J., Hazan E., Ramaswamy S., Chui M., Allas T., Dahlstrom P., Henke N., Trench M. Artificial intelligence: The next digital frontier? Discussion Paper / McKinsey Global Institute // <https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20inte lligence%20can%20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx>. -2017. - 75 p. - P. 37.
15. Petit N. Law and regulation of artificial intelligence and robots: conceptual framework and normative implications // <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931339>. - 2017. - 31 p. - P. 13.
16. Huang T. Expert Systems // The History of Artificial Intelligence. - Seattle: University of Washington, 2006. - 27 p. - P. 12-16.
- P. 14. <https://courses.cs.washington.edu/courses/csep590/06au/projects/history-ai.pdf>.
