CC BY
414
Д. Л. Кутейников
Московский государственный юридический университет им. О. Е. Кутафина (Москва)
О. А. Ижаев
Московская городская избирательная комиссия (Москва)
С. С. Зенин
Московский государственный юридический университет им. О. Е. Кутафина, Южно-Уральский государственный университет (национальный исследовательский университет) (Москва)
В. А. Лебедев
Московский государственный юридический университет им. О. Е. Кутафина (Москва)
КИБЕРФИЗИЧЕСКИЕ, КИБЕРБИОЛОГИЧЕСКИЕ
и искусственные когнитивные системы: сущность и юридические свойства*
Статья посвящена выявлению важных для юридической науки и практики свойств ки-берфизической, кибербиологической и искусственной когнитивной систем (искусственного интеллекта). Проанализированы различные подходы к определению данных понятий.
Киберфизическая система включает в себя разнообразные технические средства и трудно поддается строгому правовому определению. Предлагается закрепить данный термин в нормативных правовых актах вместе с описанием его ключевых характеристик. Кибербиологическая система структурно совпадает с киберфизической системой за исключением того, что место физического компонента занимает биологический. Ключевое свойство искусственной когнитивной системы - способность действовать самостоятельно и рационально. Авторы заключают, что технические средства, охватываемые терминами «киберфизическая система» и «кибербиологическая система», приобретают автономность только в случае наличия у них искусственного интеллекта.
Общий вывод статьи состоит в том, что в предмет регулирования новых общественных отношений будут входить только те технические средства (объекты вне зависимости от их природы: физической, биологической или виртуальной), которые способны совершать независимые от человека юридически значимые действия.
Ключевые слова: киберфизические системы, кибербиологические системы, искусственные когнитивные системы, искусственный интеллект, правовое регулирование
DOI: 10.34076/2410-2709-2019-3-75-81
Человечество переживает четвертую технологическую (промышленную) революцию, основу которой, как полагает К. Шваб, составляют новые вычислительные технологии, блокчейн, интернет вещей, искусственный
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-2916193.
интеллект и роботы, передовые материалы, аддитивное производство и многомерная печать, биотехнологии, нейротехнологии, виртуальная и дополненная реальность [Шваб 2018]. Данные технологии проникают во все сферы человеческой деятельности и тем самым видоизменяют общественные отношения. Скорость их внедрения также обу-
словлена законом Мура, согласно которому вычислительная мощность компьютерных систем удваивается приблизительно каждые 18-24 месяца, т. е. происходит не линейный, а экспоненциальный рост технологий. Следует ожидать, что такие технические средства, как роботы, дроны, беспилотные автомобили и прочие, будут становиться дешевле, доступнее, функциональнее и разнообразнее.
Перед цивилизацией возникают очередные глобальные вызовы, в ответ на которые государства, в том числе Российская Федерация1, разрабатывают комплексные стратегии развития технологий [Наумов, Незнамов 2018], бизнес инвестирует большие средства в цифровую трансформацию2, а потребители ожидают наступления новой технологической эры, причем относятся к этому довольно положительно3.
На наш взгляд, для юридической науки и практики большое значение имеет распространение инновационных технических средств, способных принимать независимые от человека решения на основе сложных компьютерных алгоритмов. Для правового регулирования общественных отношений, возникающих в новой реальности, вызовом является именно автономность материальных и нематериальных объектов. В этом контексте особый научный интерес представляет определение таких понятий, как «кибер-физическая система», «кибербиологическая система» и «искусственная когнитивная система», поскольку обозначаемые ими феномены потенциально обладают признаком автономности.
Существуют разные подходы к пониманию киберфизических систем (далее -КФС). Национальный институт науки и тех-
1 Совещание по вопросам развития технологий в области искусственного интеллекта // URL: http:// kremlin.ru/events/president/news/60630 (дата обращения: 08.05.2019).
2 Опрос ста крупнейших российских компаний показал, что в 2019 г. 36 % компаний готовы инвестировать в реализацию проектов по цифровизации процессов более 100 млн руб. Подробнее см.: Цифровые технологии в российских компаниях // URL: https:// assets.kpmg/content/dam/kpmg/ru/pdf/2019/01/ru-ru-digital-technologies-in-russian-companies.pdf (дата обращения: 09.05.2019).
3 Об отношении россиян к возможностям искус-
ственного интеллекта // URL: https://www.ibm.com/ blogs/ibm-russia/2018/12/russia-ai-survey/ (дата обра-
щения: 09.05.2019).
нологий при Министерстве торговли США, занимающийся изучением КФС, определяет их как интеллектуальные системы, включающие в себя комплекс физических и вычислительных компонентов, технически взаимодействующих между собой4. Кроме того, в отдельном исследовании указанного института отмечается наличие у подобной системы следующих важных характеристик:
1) это гибридная система, поскольку в ее рамках происходит интеграция вычислений с физическими процессами;
2) КФС объединяет вычислительные и коммуникационные возможности с мониторингом и контролем объектов в физическом мире;
3) она состоит из физических объектов, датчиков (сенсоры и приводы) и информационных систем.
КФС необходимо исследовать при помощи смешанного подхода, предполагающего одновременное изучение взаимодействия физических процессов, программного обеспечения и сетей. Вызовом для исследователей киберфизической системы является синхронизация времени событий, происходящих в реальном мире, с временем событий в виртуальном пространстве [Cyber-Physical Systems and Internet of Things 2019].
Согласно Европейской стратегии развития КФС она состоит из вычислительных, коммуникационных и управляющих компонентов, тесно взаимодействующих с физическими процессами различной природы (механическими, электрическими и химическими)5.
КФС можно описать следующими признаками: «связанный», «воспринимающий» и «контролируемый», что соответствует трем аспектам данной системы: физический мир связан при помощи сетевых технологий и интегрирован в киберпространство посредством датчиков и управления [Security and Privacy 2018]. В. Б. Наумов и А. Б. Незна-мов пишут, что в киберфизической системе «информационная (вычислительная, коммуникационная) составляющая интегрирована
4 Framework for Cyber-Physical Systems. Volume 1, Overview (2017) // URL: https://nvlpubs.nist. gov/nistpubs/SpecialPublications/NIST.SP.1500-201. pdf (дата обращения: 28.04.2019).
5 Cyber-Physical European Roadmap and Strategy (2015) // URL: available at: http://cyphers.eu/sites/default/ files/d6.1+2-report.pdf (дата обращения: 28.04.2019).
в физический (аппаратный) компонент» [Наумов, Незнамов 2018].
Таким образом, мы подходим к пониманию киберфизической системы как интеграции трех элементов: физических объектов, программного обеспечения, коммуникационных сетей. При этом автономность не является обязательной характеристикой КФС. В зависимости от разных критериев КФС делится на множество типов и тем самым охватывает широкий перечень технических средств и их совокупностей. К примеру, киберфизическая система включает в себя интернет вещей, промышленный интернет, «умные» города, а также отдельные физические объекты (гаджеты, транспортные средства, дроны, роботы-хирурги, здания и т. д.), управляемые посредством компьютерных программ.
Можно предположить, что следующим этапом развития киберфизических систем станет создание кибербиологических систем (далее - КБС), представляющих собой программируемые биологические системы. В пользу этого свидетельствуют научные работы, в которых описываются достижения синтетической биологии. В частности, исследователи из Швейцарской высшей технической школы Цюриха сконструировали биологический двухъядерный процессор, похожий на электронный, интегрировав в клетку два ядра. Они нашли способ использовать биологические компоненты для создания гибкого процессорного ядра, или центрального процессора, который можно программировать разными способами. Этот процессор основан на модифицированной системе CRISPR-Cas9. По сути, как утверждают авторы, они создали клеточный компьютер с несколькими процессорами1. Кроме того, как отмечает Ж. Пекку, уже предпринимаются первые попытки проектировать организмы, кодируя алгоритмы управления в молекулах ДНК, которые могут воспроизводиться, общаться друг с другом или использовать сложные сети взаимодействия. Беспрецедентный уровень сложности этих биологических систем отличает их от киберфизических систем. Ж. Пекку предлагает именовать такие системы кибербиологическими [Peccoud 2016].
1 A CRISPR/Cas9-based central processing unit to program complex logic computation in human cells // URL: https://www.pnas.org/content/pnas/116/15/7214. full.pdf (дата обращения: 09.05.2019).
Интересной представляется также концепция био-киберфизической системы, включающей в себя одновременно и биологический, и физический компонент. Авторы данной концепции утверждают, что уровень взаимопонимания и взаимодействия человека и био-киберфизической системы будет очень высоким. Человек сам обладает биологической природой, следовательно, его взаимодействие с системой, в которую интегрирован такой же биологический компонент, будет более тесным, чем с системой, которая состоит только из физических компонентов [Fass, Gechteг 2015].
Таким образом, в отличие от киберфизи-ческих, кибербиологические системы предполагают взаимосвязь биологического элемента, программного обеспечения и коммуникационных сетей.
Далее следует рассмотреть искусственные когнитивные системы, которые также обозначаются научно-популярным термином «искусственный интеллект». Ведущие ученые в этой области С. Рассел и П. Нор-виг пишут, что применяются четыре подхода к определению искусственного интеллекта [Рассел, Норвиг 2007: 35-40].
Сторонники первых двух описывают искусственный интеллект как систему, (а) думающую как человек или (б) действующую как человек, т. е. используют критерий ее сходства с человеком. В рамках такого подхода искусственный интеллект определяется как «аппаратный и информационно-программный комплекс, действие которого аналогично действию механизмов мышления человека» и неотличимо от принятия решений человеком-экспертом, т. е. профессионалом в данной предметной области» [Болотова 2019: 29]. Как следствие, задача искусственного интеллекта видится в воспроизведении человеческих способностей. Представляется, что на данном этапе развития технологий рано говорить об искусственном интеллекте как о «сущности», способной думать или действовать как человек. Человеческий разум до сих пор остается «вещью в себе», и вряд ли в ближайшее время мы сможем воссоздать искусственный разум. Полагаем, что сходство искусственного интеллекта с человеческим является не самым лучшим критерием для определения его понятия.
От вышеназванных подходов кардинально отличаются третий и четвертый, поскольку их приверженцы понимают искусственный интеллект как систему (в) рационально думающую или (г) рационально действующую. Система считается рациональной, если думает либо действует «правильно», при условии, что она обладает знаниями о том, что является правильным. Ее цель - достичь наилучшего результата или, в условиях неопределенности, наилучшего ожидаемого результата.
Следует отметить, что на критерий рациональности опирается большинство актуальных определений искусственного интеллекта, сформулированных представителями как технических, так и гуманитарных наук. В частности, согласно докладу Объединенного исследовательского центра Европейской комиссии к искусственному интеллекту относятся любая машина или алгоритм, способные воспринимать и изучать окружающую среду, а также действовать рационально или предлагать соответствующие решения на основе знаний, полученных из опыта1. Исследователи из Стэнфордского университета, изучающие влияние искусственного интеллекта на различные сферы деятельности человека в долгосрочной пер-спективе2, понимают под ним деятельность, направленную на создание разумных машин, а интеллект рассматривают как качество, позволяющее объекту материального мира (вещи) функционировать в окружающей его обстановке адекватно и предусмотрительно [Nilsson 2010: 13].
Термин «искусственный интеллект» нашел отражение и в отечественной юридической науке. Так, П. М. Морхат пишет, что «искусственный интеллект - это полностью или частично автономная самоорганизующая (и самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или кибер-физическая, в том числе био-кибернетическая
1 Artificial Intelligence: A European Perspective (2018) // The European Commission's science and knowledge service. URL: http://publications.jrc.ec.europa. eu/repository/bitstream/JRC113826/ai-flagship-report-online.pdf (дата обращения: 30.04.2019).
2 Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence (2016) // URL: https://ai100.stanford.edu/sites/g/files/sbiybj9861/f/ ai100report10032016fnl_singles.pdf (дата обращения: 30.04.2019).
(bio-cybernetic) система (юнит), не живая в биологическом смысле этого понятия, с соответствующим математическим обеспечением, наделенная / обладающая рядом программно-синтезированных способностей и возможностей» [Морхат 2018: 150-151]. По мнению В. Б. Наумова и А. В. Незнамова, искусственный интеллект обладает следующими ключевыми характеристиками: возможное отсутствие аппаратного воплощения (технология искусственного интеллекта прежде всего описывает программу / алгоритм); способность анализировать окружающую среду; некоторая степень автономности в реализации алгоритма; способность к самообучению; наличие у системы «интеллектуальности», которая иногда описывается при помощи категорий «разумность», «рациональность» или просто через способность «мыслить как человек» или «действовать как человек» во всех или в определенных обстоятельствах [Наумов, Незнамов 2018].
На наш взгляд, рассмотрение искусственного интеллекта как рационально думающей или действующей системы является более предпочтительным. Преимущество такого подхода в том, что рациональность системы поддается измерению посредством оценки того, насколько эффективно она решает поставленную перед ней задачу. К примеру, система может быть признана рациональной, если управляемый его автомобиль доставляет пассажира из точки А в точку Б с приемлемыми для него и других участников дорожного движения условиями.
С точки зрения права искусственный интеллект следует изучать не как рационально думающую систему, а как систему действующую, самостоятельно принимающую определенные решения. Для целей правового регулирования значение имеют действия, которые являются результатом принятых такой системой решений. Кроме того, ее неотъемлемой характеристикой выступает способность автономно (самостоятельно) выбирать из определенного количества альтернативных решений одно конкретное.
Таким образом, интеллектуальную когнитивную систему можно определить как компьютерный алгоритм, способный воспринимать окружающую среду, анализировать полученную из нее информацию и на этой основе принимать рациональные решения с разной степенью автономности.
Проведенный анализ позволяет сделать следующие выводы.
Киберфизическая система представляет собой интеграцию физических объектов, программного обеспечения и коммуникационных сетей. Понятие является очень объемным, включающим в себя множество различных объектов материального мира, и поэтому разработка его юридической дефиниции, а также ее использование в нормативных правовых актах представляются нецелесообразными. Более предпочтительно закрепление набора неотъемлемых признаков КФС, что позволит создать гибкий подход к регулированию связанной с ней сферы общественных отношений.
Кибербиологическая система структурно совпадает с киберфизической системой, однако место физического компонента занимает биологический. Нужно отметить, что современный уровень развития технологий позволяет лишь сделать предположение о возможности полноценной интеграции компьютерных вычислений и биологических процессов.
Искусственная когнитивная система (искусственный интеллект) - это компьютерный алгоритм, способный действовать самостоятельно и рационально, в том числе с учетом поступающей из внешней среды информации.
Из изложенного следует, что киберфи-зические и кибербиологические системы можно признать автономными лишь при условии, что они управляются искусственной когнитивной системой (искусственным
интеллектом). Последняя может быть автономной сама по себе, даже если не будет интегрирована в конкретный объект материального мира.
Рассмотренные в данной статье вопросы имеют непосредственное отношение к праву, поскольку в юриспруденции технические средства всегда воспринимались как предметы материального (недвижимые и движи-
киберфизические и кибербиологические системы можно признать автономными лишь при условии, что они управляются искусственной когнитивной системой (искусственным интеллектом)
мые вещи) и нематериального (результаты интеллектуальной деятельности) мира и обладали статусом объектов права. При этом с юридической точки зрения возникновение у объектов права автономности само по себе революционного значения не имеет, например действия «робота-пылесоса» не влияют на общественные отношения и не влекут каких-либо правовых последствий. В то же время если объекты права обладают не только автономностью, но и способностью совершать юридически значимые действия, то их правовая природа будет качественно иной. Следовательно, можно предположить, что правовое регулирование общественных отношений, в которых задействованы автономные технические средства, будет основываться на абсолютно новых подходах.
список литературы
Fass D., Gechter F. Towards a Theory for Bio-Cyber Physical Systems Modelling // Digital Human Modeling. Applications in Health, Safety, Ergonomics and Risk Management: Human Modeling. 6th International Conference, DHM 2015, (Los Angeles, August 2-7, 2015) / ed. by V. G. Duffy. N. Y.: Springer, 2015. Pt 1. P. 245-255.
Greer C., Burns M., Wollman D., Griffor E. Cyber-Physical Systems and Internet of Things (2019) // National Institute of Standards and Technology. URL: https://nvlpubs.nist.gov/nistpubs/ SpecialPublications/NIST.SP.1900-202.pdf (дата обращения: 28.04.2019).
Nilsson N. J. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010. 707 p.
Peccoud J. Synthetic Biology: Fostering the Cyber-Biological Revolution // Synthetic Biology. 2016. Vol. 1. Iss. 1. P. 1-7. DOI: 10.1093/synbio/ysw001.
Security and Privacy in Cyber-Physical Systems. Foundations, Principles, and Applications / ed. by H. Song, G. A. Fink, S. Jeschke. New Jersey: John Wiley & Sons Ltd, 2018. 472 p.
Болотова Л. С. Система поддержки принятия решений: в 2 ч. М.: Юрайт, 2019. Ч. 1. 257 c.
Морхат П. М. Искусственный интеллект и право. М.: ЮНИТИ-ДАНА, 2018. 123 с.
Наумов В. Б., Незнамов А. В. Исследование в области развития законодательства о робототехнике и киберфизических системах, в том числе в части определения понятия кибер-физических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности (2018) // URL: https://sk.ru/foundation/legal/m/sklegal11/22360.aspx (дата обращения: 30.05.2019).
Рассел С., Норвиг П. Искусственный интеллект: современный подход. М.: Вильямс, 2007. 1410 с.
шваб К. Технологии Четвертой промышленной революции. М.: Эксмо, 2018. 320 с.
дмитрий Яеонидович кутейников - кандидат юридических наук, старший преподаватель кафедры конституционного и муниципального права Московского государственного юридического университета им. О. Е. Кутафина (МГЮА). 123995, Российская Федерация, Москва, ул. Садовая-Кудринская, д. 9. E-mail: [email protected].
осман Аликович Мжаев - кандидат юридических наук, консультант юридического отдела Московской городской избирательной комиссии. 125009, Российская Федерация, Москва, ул. Моховая, д. 11, стр. 8. E-mail: [email protected].
Сергей Сергеевич Зенин - кандидат юридических наук, доцент кафедры конституционного и муниципального права Московского государственного юридического университета им. О. Е. Кутафина (МГЮА), ведущий научный сотрудник кафедры теории государства и права, конституционного и административного права Южно-Уральского государственного университета (национальный исследовательский университет). 123995, Российская Федерация, Москва, ул. Садовая-Кудринская, д. 9. E-mail: [email protected].
Валериан Алексеевич Лебедев - доктор юридических наук, профессор кафедры конституционного и муниципального права Московского государственного юридического университета им. О. Е. Кутафина (МГЮА). 123995, Российская Федерация, Москва, ул. Садовая-Кудринская, д. 9. Е-mail: [email protected].
Cyber-Physical, Cyber-Biological and Artificial Cognitive Systems: the Essence and Legal Properties
In the article, such categories as cyber-physical, cyber-biological and artificial cognitive systems (artificial intelligence) are analyzed in order to determine their characteristics important for legal science and practice. Different ways of defining the above mentioned concepts are examined.
It is determined that a cyber-physical system includes a variety of technical means and is not easily placed within legal framework. Incorporation of this term in legal regulations through the description of its key characteristics is recommended. A cyber-biological system has the same structure as a cyber-physical system except that the physical component is replaced by biological one. It is argued that the relevance of the analysis of cyber-biological systems will depend on further scientific achievements in this area. The crucial property of the artificial cognitive system (artificial intelligence) is the ability to act independently and rationally. The authors conclude that the technical means covered by cyber-physical and cyber-biological systems acquire autonomy only if they have artificial intelligence.
Finally, it is stated that the scope of social relations arising in the new reality will include only the technical means (objects regardless of their nature: physical, biological or virtual) able to perform legally significant actions independent from an individual person.
Keywords: cyber-physical systems, cyber-biological systems, artificial cognitive systems, artificial intelligence, legal regulation
References
Bolotova L. S. Sistema podderzhki prinyatiya reshenii [The System of Supporting Decision Making], in 2 parts, Moscow, Yurait, 2019, pt. 1, 257 p.
Fass D., Gechter F. Towards a Theory for Bio-Cyber Physical Systems Modelling, Duffy V. G. (ed.) Digital Human Modeling. Applications in Health, Safety, Ergonomics and Risk Management: Human Modeling. 6th International Conference, DHM 2015, (Los Angeles, August 2-7, 2015), New York, Springer, 2015, pt 1, pp. 245-255.
Greer C., Burns M., Wollman D., Griffor E. Cyber-Physical Systems and Internet of Things (2019), available at: https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1900-202.pdf (accessed: 28.04.2019).
Morkhat P. M. Iskusstvennyi intellekt i pravo [Artificial Intelligence and Law], Moscow, YuNITI-DANA, 2018, 123 p.
Naumov V. B., Neznamov A. V. Issledovanie v oblasti razvitiya zakonodatel'stva o robototekh-nike i kiberfizicheskikh sistemakh, v tom chisle v chasti opredeleniya ponyatiya kiberfizicheskikh sistem, poryadka vvoda ikh v ekspluatatsiyu i grazhdanskii oborot, opredeleniya otvetstvennosti (2018) [The Study of Development of Legislation on Robotics and Cyber-Physical Systems Including the Definition of Cyber-Physical Systems, Their Introducing to Civil Turnover, and Liability], available at: https://sk.ru/foundation/legal/m/sklegal11/22360.aspx (accessed: 30.04.2019).
Nilsson N. J. The Quest for Artificial Intelligence: A History of Ideas and Achievements, Cambridge, Cambridge University Press, 2010, 707 p.
Peccoud J. Synthetic Biology: Fostering the Cyber-Biological Revolution, Synthetic Biology, 2016, vol. 1, iss. 1, pp. 1-7, DOI: 10.1093/synbio/ysw001.
Russel S., Norvig P. Iskusstvennyi intellekt: sovremennyi podkhod [Artificial Intelligence: A Modern Approach], Moscow, Williams, 2007, 1410 p.
Schvab K. Tekhnologii Chetvertoi promyshlennoi revolyutsii [The Fourth Industrial Revolution], Moscow, Eksmo, 2018, 320 p.
Song H., Fink G. A., Jeschke S. (eds.) Security and Privacy in Cyber-Physical Systems. Foundations, Principles, and Applications, New Jersey, John Wiley & Sons Ltd, 2018, 472 p.
Dmitry Kuteynikov - candidate of juridical sciences, senior lecturer of the Department of constitutional and municipal law, Kutafin Moscow State Law University. 123995, Russian Federation, Moscow, Sadovaya-Kudrinskaya str., 9. E-mail: [email protected].
Osman Izhaev - candidate of juridical sciences, adviser of the Legal department of the Moscow city election commission. 125009, Russian Federation, Moscow, Mohovaya str., 11-8. E-mail: [email protected].
Sergey Zenin - candidate of juridical sciences associate professor of the Department of constitutional and municipal law, Kutafin Moscow state Law University, leading researcher of the Department of theory of state and law, constitutional and administrative law, South-Ural State University (National Research University). 123995, Russian Federation, Moscow, Sadovaya-Kudrinskaya str., 9. E-mail: [email protected].
Valerian Lebedev - doctor of juridical sciences, professor of the Department of constitutional and municipal law, Kutafin Moscow State Law University. 123995, Russian Federation, Moscow, Sadovaya-Kudrinskaya str., 9. E-mail: [email protected].
Дата поступления в редакцию / Received: 12.05.2019
Дата принятия решения об опубликовании / Accepted: 28.06.2019
