CC BY
803УДК 347 ББК 67
DOI 10.24411/2073-3313-2018-10015
К ВОПРОСУ О СПЕЦИФИКЕ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И О НЕКОТОРЫХ ПРАВОВЫХ ПРОБЛЕМАХ ЕГО ПРИМЕНЕНИЯ В ОТДЕЛЬНЫХ СФЕРАХ
Петр Мечиславович МОРХАТ, судья Арбитражного суда Московской области, преподаватель Института повышения квалификации Московского государственного юридического университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук E-mail: [email protected]
Научная специальность: 12.00.03 — гражданское право; предпринимательское право;
семейное право; международное частное право
Аннотация. Статья посвящена исследованию особенностей правового регулирования разработки и применения технологий искусственного интеллекта, в том числе с учетом специфики конкретных сфер их применения. Рассмотрены особенности и правовые проблемы применения искусственного интеллекта в отдельных сферах на примере медицины, а также особенности и правовые проблемы применения искусственного интеллекта в отдельных сферах.
Автором показаны основные подходы к правовому регулированию разработки и применения технологий искусственного интеллекта.
Ключевые слова: информационное право, теория права, конституционное право, искусственный интеллект, правовое регулирование, публичное управление, медицинское право, здравоохранение.
Annotation. This article is devoted to the study of the peculiarities of legal regulation of development and application of artificial intelligence technologies, including taking into account the specifics of areas of their application. The peculiarities and legal problems of using artificial intelligence in certain spheres are considered on the example of medicine, as well as the peculiarities and legal problems of using artificial intelligence in certain spheres. The author shows the main approaches to the legal regulation of the development and application of artificial intelligence technologies.
Keywords: information law, theory of law, constitutional law, artificial intelligence, legal regulation, public administration, medical law, health care.
Введение
Подходы к правовому регулированию использования и разработки технологий искусственного интеллекта, по сути, обладают в немалой степени той же спецификой, что и подходы к правовому регулированию технологических инноваций в целом, которая, однако, несколько осложнена.
Мишель Гихо, Энн Мэтью и Николя Сузор отмечают, что даже в областях применения наиболее «простых» технологических инноваций правовое регулирование является весьма затруднительным. Соответственно, регулирование разработки и применения систем искусственного интеллекта может оказаться самой сложной задачей, что когда-либо ложилась на плечи законодательных органов1.
ЗАКОН И ПРАВО • 06-2018
В частности, в силу того, что развитию технологических инноваций законодательство может как способствовать, так и препятствовать2.
На плечи законодателя ложится решение проблемы обеспечения баланса, с одной стороны, между интересами общества, которые заключаются в использовании как можно большего потенциала новых технологий, которые могут обеспечить решение различных проблем как отдельных индивидов, так и целого общества, а с другой стороны — необходимостью минимизации негативных последствий использования инновационных технологий.
Специфика правового регулирования применения искусственного интеллекта
Сложность для законодателя при разработке эффективной регламентации использования систем искусственного интеллекта заключается также в отсутствии всей полноты необходимой информации о таких технологиях3.
Кроме того, специфика может проявляться при обеспечении достижения конкретных целей правового регулирования, которые могут быть весьма разнообразными.
В частности, одной из основных целей регулирования применения технологий искусственного интеллекта может являться ограничение рисков для здоровья или безопасности населения или окружающей среды, а также борьба с этически проблемными действиями, такими, как генные манипуляции. Тем не менее реальные риски применения искусственного интеллекта в настоящий момент могут оставаться неизвестными или вовсе непрогнозируемыми, хотя одновременно с этим совершенно очевидно, что множество задействуемых в настоящий момент способов использования искусственного интеллекта несут в себе целый спектр рисков4, в том числе указанного рода.
Николас Петит выделяет следующие основные подходы к правовому регулированию разработки и применения технологий искусственного интеллекта:
■ формальный (формализованный) подход, согласно которому, в первую очередь, рассматривается то факт, подпадают ли под действие существующего законодательства искусственный интеллект и робототехника;
■ технологический подход, суть которого заключается в предварительном опреде-
лении наличия создаваемых использованием искусственного интеллекта новых проблем и последующем измерении правовой необходимости в специальном регулировании таких новых проблем5.
С точки зрения Николаса Петита, именно технологический подход к правовой регламентации искусственного интеллекта в большей мере, чем формальный, способствует развитию технологий6, что является существенным преимуществом данного подхода.
Например, Джессика Аллэйн указывает, что закон должен поощрять рост таких инновационных технологий7.
Отметим, что предложенный Николасом Петитом технологический подход может быть расширенным, если в его рамках учитывается специфика отдельных сфер применения искусственного интеллекта.
Далее рассмотрим правовые проблемы и особенности применения искусственного интеллекта в отдельных конкретных сферах на примере медицины и юридической практики.
В немалой степени особенности использования искусственного интеллекта, имеющие значение для разработки правового регулирования в этой области, зависят от конкретной сферы его применения.
Особенности и проблемы применения искусственного интеллекта в отдельных сферах на примере медицины
Применение в медицине систем искусственного интеллекта, прежде всего, способствует решению некоторых проблем в этой области, которые возникают из-за недостаточности медицинского обслуживания, а также способствуют улучшению качества медицинского обслуживания8.
Использование искусственного интеллекта имеет существенное перспективное значение в рамках реализации телемедицины9 и систем диагностики.
Соответственно, в интересах государства обеспечить благоприятный правовой режим в этой сфере для свободного использования искусственного интеллекта в медицинских целях.
Потенциально может возникать целый ряд правовых проблем, некоторые из которых законодатель может разрешить лишь посредством введения дополнительных стандартов, а иные такие проблемы вообще сложно подлежат разрешению в силу неопределенности подходов к
ЗАКОН И ПРАВО • 06-2018
правосубъектности систем искусственного интеллекта.
В частности, использование искусственного интеллекта в медицине подвергает поставщиков медицинских услуг повышенным рискам привлечения к ответственности за халатность, которая может возникнуть в результате сбоя в работе такой системы или выдачи системой рекомендаций на основании фактических неточ-ностей10.
В целом к проблемам такого рода исследователи относят нижеследующие:
■ проблемы определения ответственности за ненадлежащие действия системы искусственного интеллекта;
■ проблемы лицензирования, в том числе лицензирования медицинских систем искусственного интеллекта;
■ проблемы правовой регламентации систем искусственного интеллекта, осуществляющих трансграничную медицинскую деятельность11.
В отношении проблем определения юридической ответственности за причинение вреда системой искусственного интеллекта существуют различные подходы. Например, при соблюдении определенных условий система искусственного интеллекта сама может нести ответственность за недобросовестную медицинскую практику. При этом врач, осуществляющий контроль за действиями данной системы, также может нести прямую или субститутивную ответственность за неспособность надлежащим образом истолковать ее действия12.
Аманда Свенсон и Фазал Хан в качестве решения проблемы определения ответственности предлагают ввести ответственность медицинских учреждений, что избавит отдельных врачей от риска быть привлеченными к ответственности за сбои в работе оборудования13.
Участие искусственного интеллекта в диагностике и лечении порождает также этические дилеммы относительно возможной степени использования врачом искусственного интеллекта14.
Как указывает Кристал Йео Цзин Цзин, такого рода дилеммы возникают в тех случаях, когда образуется конфликт между продуктивностью использования системы искусственного интеллекта и обеспечением конфиденциальности, личной жизни и благополучия пациентов, когда нетрадиционные методы лечения создают неопределенные отношения между пациентом и врачом и когда врачи чрезмерно опираются на искусственный интеллект. Эти этические дилем-
мы могут быть разрешены при помощи всеобъемлющей правовой и этической основы, которая руководила бы медицинским сообществом15.
В частности, эффективным было бы создание соответствующей нормативной базы на уровне самих медицинских организаций и их объединений16.
Особенности и проблемы применения искусственного интеллекта в отдельных сферах на примере юридической практики
Технологии искусственного интеллекта являются потенциально эффективно применяемыми в юридической практике. И их использование уже имеет место в этой сфере.
Искусственный интеллект способен обеспечивать корректное и быстрое решение различных задач, что способствует более эффективному оказанию юридических услуг, а также решению определенных задач в государственном управлении (в широком его понимании)17.
Использование технологий искусственного интеллекта в рамках юридической практики является наиболее продвинутым способом поиска и сортировки релевантной информации18.
Эдвина Риссланд отмечает, что использование искусственного интеллекта в сфере юридической практики может осуществляться в двух основных направлениях:
■ моделирование юридических обоснований при помощи систем искусственного интеллекта, в том числе на основе прецедентного права (для чего нужно научить систему понимать определенные ключевые аспекты юридических рассуждений);
■ создание вычислительных инструментов, основанных на искусственном интеллекте, используемых в рамках юридической практики или исследований (в частности, в целях поиска и выявления релевантных судебных решений, их сортировки согласно реализованным в них доктринальным подходам, выявления исторической значимости судебных решений)19.
Хендрик Праккен указывает, что существует три успешных направления применения искусственного интеллекта в праве:
■ содействие принятию решений по крупным объемам задач (как, например, в государственном и муниципальном управлении);
ЗАКОН И ПРАВО • 06-2018
■ извлечение, обобщение и интеграция правовой информации;
■ прогнозирование последствий принятия решений в специфических сферах20.
Кроме того, при помощи искусственного интеллекта можно производить предиктивный (предсказательный) анализ, который направлен на прогнозирование. Право, с его огромным количеством информации, в которую ходит и судебная практика, и другие документы, поддается машинному анализу данных, лежащему в основе предиктивно-го анализа. Правовая информация может включать фактические обстоятельства дела, прецеденты и исходы дел. Такие данные возможно использовать для прогнозирования исхода дела21.
Технологии искусственного интеллекта могут использоваться в юридической практике для целей подготовки стандартных юридических документов, а также для сравнения форм договоров и поиска альтернативных форм договоров, в большей мере удовлетворяющих стороны22.
Технологии искусственного интеллекта также могут применяться для создания интернет-порталов юридической самопомощи23.
При этом некоторые исследователи также утверждают, что применение искусственного интеллекта оказывает незначительное воздействие на реализацию юридической практики, поскольку считается, что юридическая деятельность требует значительных, вполне определенных когнитивных способностей, а такой высокий уровень познания остается (во всяком случае и сегодня, и в обозримом будущем) за пределами возможностей технологий искусственного интеллекта.
Адвокаты, например, изо дня в день совмещают абстрактное мышление и способности к решению проблем в условиях правовых и фактических неопределенностей.
Современные алгоритмы искусственного интеллекта, в свою очередь, демонстрируют неспособность воспроизводить большую часть интеллектуальных навыков человека, значительно отставая в продвинутых когнитивных процессах, таких, как рассуждения по аналогии, которые присущи юридической деятельности. Учитывая эти и другие ограничения текущих технологий искусственного интеллекта, можно сделать вывод, что пока компьютеры не обретут способность к высокоуровневому познанию, искусственный интеллект едва ли будет оказывать воздействие на столь полную абстракциями и неопределенностями область, как юридическая практика24.
Среди правовых проблем применения искусственного интеллекта в юридической практике Деннис Гарсиа отмечает следующие:
■ проблемы обеспечения конфиденциальности личной информации;
■ проблемы, связанные с доступом правоохранительных органов к конфиденциальной информации одновременно в крупных объемах;
■ отсутствие нормативной базы регулирования применения искусственного интеллекта в юридической практике;
■ проблемы соблюдения стандартов юридической этики системой искусственного интеллекта25.
Заключение
Очевидно, что сегодня необходимо обеспечение надлежащей правовой регламентации такой стремительно развивающейся сферы технологий, как искусственный интеллект. Но более всего необходимо определение того, как следует решать проблемы, которые могут возникать в связи с использованием искусственного интеллекта, еще задолго до того момента, когда эти проблемы возникнут в реальности26.
При всей специфике отдельных областей применения искусственного интеллекта можно выделить следующие общие проблемы, которые могут возникать практически в любых сферах:
■ проблемы стандартизации систем искусственного интеллекта;
■ проблемы лицензирования;
■ проблемы обеспечения конфиденциальности персональных сведений и личной информации;
■ проблемы обеспечения соблюдения норм профессиональной этики.
1 Guihot M., Matthew A.F, Suzor N. Nudging Robots: Innovative Solutions to Regulate Artificial Intelligence // https://papers.ssrn.com/sol3/papers.cfm? abstract_id= 3017004. 2017. 60 p. P. 25—26.
2 Allain J.S. From Jeopardy to Jaundice: The medical liability implications of Dr. Watson and other artificial intelligence systems // Louisiana Law Review. 2012. Vol. 73. № 4. P. 1049- 2013. P. 1079.
3 Guihot M, Matthew A.F., Suzor N. Указ. соч. P. 36.
4 Там же. P. 26.
5 Petit N. Law and Regulation ofArtificial Intelligence and Robots: Conceptual Framework and Normative Implications // https:// ssrn.com/abstract=2931339. 2017. 31 p. P. 8—9.
6 Там же. P. 9.
7 Allain J.S. Указ. соч. P. 1051.
8 Там же. P. 1051, 1059.
ЗАКОН И ПРАВО • 06-2018
9 См.: Понкин И.В., Понкина А.А., Лаптев В.С. Концепт телемедицины: суть, достоинства, недостатки и перспективы // Наркология. 2014. № 10. С. 25—30;
Понкин И.В., Понкина А.А., Лаптев B.C. Концепты электронного здравоохранения и электронного здоровья человека // Наркология. 2014. № 6. С. 34—40.
10 Swanson A., Khan F. The Legal Challenge of Incorporating Artificial Intelligence into Medical Practice // Journal of Health & Life Sciences Law. 2012. October. Vol. 6. P. 90. "Attain J.S. Указ. соч. P. 1051, 1059—1060.
12 Chung J., Zink A. Hey Watson. Can I Sue You for Malpractice? Examining the Liability of Artificial Intelligence in Medicine // https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3076576. 2017. 22 p. P. 14.
13 Swanson A., Khan F. Указ. соч. P. 90.
14 Yeo C.J.J. Ethical dilemmas of the practice of medicine in the information technology age // Singapore Medical Journal. 2003. Vol. 44. № 3. P. 141—144.
15 Там же.
16 Attain J.S. Указ. соч. P. 1079.
17 Понкин И.В. Использование технологий искусственного интеллекта в государственном управлении. § 7.11 // Понкин И.В. Теория публичного управления: Учебник для магистратуры и программ Master of Public Administration / Предисл. А.Б. Зеленцова / Ин-т гос. службы и управления РАНХиГС при Президенте РФ. М.: Буки Веди, 2017. С. 311—313.
18 McGinnis J.O., Russel G.P. The great disruption: How machine intelligence will transform the role of lawyers in the delivery of legal services // Fordham Law Review. 2013. № 82. P. 3041—3066. P. 3047.
19 Rissland E.L. Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning // The Yale Law Journal. 1990. Vol. 99. № 8. P. 1957—1981. P. 1960.
20 Prakken H. On how AI & law can help autonomous systems obey the law: a position paper // AI4J — Artificial Intelligence for Justice. 2016. P. 42—46. P. 45.
21 McGinnis J.O., Russel G.P. The great disruption: How machine intelligence will transform the role of lawyers in the delivery of legal services // Fordham Law Review. 2013. № 82. P. 3041—3066. P. 3052.
22 Garcia D. Preparing for Artificial Intelligence in the Legal Profession // Lexis Practice Advisor Journal. 06.07.2017 // https://www.lexisnexis.com/lexis-practice-advisor/the-journal/b/lpa/archive/2017/06/07/preparing-for-artificial-intelligence-in-the-legal-profession.aspx
23 Там же.
24 Surden H. Machine Learning and Law Washington Law Review. 2014. Vol. 89. № 1. P. 87—115. P. 87.
25 Garcia D. Указ. соч.
26 Davies C.R. An evolutionary step in intellectual property rights — Artificial intelligence and intellectual property // Computer Law & Security Review. 2011. Vol. 27. P. 601— 619. P. 606.
Библиографический список
1. Понкин И.В. Использование технологий искусственного интеллекта в государственном управлении. § 7.11 // Понкин И.В. Теория публичного управления: Учебник для магистратуры и программ Master of Public Administration / Предисл. А.Б. Зеленцова / Ин-т гос. службы и управления РАНХиГС при Президенте РФ. М.: Буки Веди, 2017. 728 с.
2. Понкин И.В., Понкина А.А., Лаптев В.С. Концепт телемедицины: суть, достоинства, недостатки и перспективы // Наркология. 2014. № 10. С. 25—30.
3. Понкин И.В., Понкина А.А., Лаптев В.С. Концепты электронного здравоохранения и электронного здоровья человека // Наркология. 2014. № 6. С. 34—40.
4. Allain J.S. From Jeopardy to Jaundice: The medical liability implications of Dr. Watson and other artificial intelligence systems // Louisiana Law Review. 2012. Vol. 73. № 4. P. 1049—2013; https:// digitalcommons.law.lsu.edu/cgi/viewcontent. cgi?referer=https://www.google.ru/&httpsredir= 1&article=6423&context=lalrev
5. Chung J., Zmk A Hey Watson, Can I Sue You for Malpractice? Examining the Liability of Artificial Intelligence in Medicine. 2017 // https:// papers.ssrn.com/sol3/papers.cfm?abstract_id=3076576
6. Davies C.R. An evolutionary step in intellectual property rights — Artificial intelligence and intellectual property // Computer Law & Security Review. 2011. Vol. 27. P. 601—619.
7. Garcia D. Preparing for Artificial Intelligence in the Legal Profession // Lexis Practice Advisor Journal. 06.07.2017 // https://www.lexisnexis.com/ lexis-practice-advisor/the-journal/b/lpa/archive/ 2017/06/07/preparing-for-artificial-intelligence-in-the-legal-profession.aspx
8. Guihot M, Matthew A.F., Suzor N. Nudging Robots: Innovative Solutions to Regulate Artificial Intelligence // https://papers.ssrn.com/sol3/ papers.cfm?abstract_id=3017004
9. McGinnis J.O., Russel G.P. The great disruption: How machine intelligence will transform the role of lawyers in the delivery of legal services // Fordham Law Review. 2013. № 82. P. 3041—3066.
10. Petit N. Law and Regulation of Artificial Intelligence and Robots: Conceptual Framework and Normative Implications // https://ssrn.com/ abstract=2931339. 2017. 31 p.
11. Prakken H. On how AI & law can help autonomous systems obey the law: a position paper // AI4J — Artificial Intelligence for Justice. 2016. P. 42—46.
12. Rissland E.L. Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning // The Yale Law Journal. 1990. Vol. 99. № 8. P. 1957—1981.
13. Surden H. Machine Learning and Law Washington Law Review. 2014. Vol. 89. № 1. P. 87—115.
14. Swanson A., Khan F. The Legal Challenge of Incorporating Artificial Intelligence into Medical Practice // Journal of Health & Life Sciences Law. 2012, October. Vol. 6. P. 90.
15. Yeo C.J.J. Ethical dilemmas of the practice of medicine in the information technology age // Singapore Medical Journal. 2003. Vol. 44. № 3. P. 141—144.
ЗАКОН И ПРАВО • 06-2018
