CC BY
236УДК 349
ЦИФРОВИЗАЦИЯ ПРАВОВОГО ПРОСТРАНСТВА
Сарпеков Рамазан Кумарбекович
Директор Института законодательства и правовой информации Республики Казахстан, г. Нур-Султан, Республика Казахстан; e-mail: instzak-kz@mail.ru
Ключевые слова: право на цифровое забвение, цифровые технологии, кибербезопасность, искусственный интеллект, видеодопрос, Институт законодательства и правовой информации Республики Казахстан.
Аннотация. В данной статье автор рассматривает актуальные вопросы правового регулирования цифровизации, программные документы в сфере цифровизации. Предлагается рассмотреть применение фикций к регулированию отношений в сфере информационных технологий. Также в данной работе обращается внимание на важные аспекты обеспечения исполнения обязанностей по нераспространению информации и соблюдению конфиденциальности, развития института защиты персональных данных, подкрепленного на уровне Конституции гарантиями неприкосновенности частной жизни, личной и семейной тайны.
Также рассмотрены актуальные вопросы законодательного регулирования и зарубежный опыт по установлению права на забвение (цифровая смерть), регулирования блокчейна, бит-койна, кибербезопасности, правосубъектности, правового статуса и ответственности за действия носителей искусственного интеллекта (далее - ИИ). Дано авторское предложение по разрешению деликтов с участием носителей ИИ и по установлению ответственности производителя с особенностями для носителей ИИ с функцией самообучения. Рассмотрены принятые в зарубежных странах этические стандарты для производителей роботов, в частности в Германии, в Южной Кореи, в США.
В статье приведены актуальные аспекты разделения труда человека и робота, точки зрения ученых на дальнейшее развитие образования. Проведен анализ возможности использования ИИ при отправлении правосудия. Автором в целях более полного использования предусмотренной Уголовно-процессуальным кодексом Республики Казахстан возможности использования в производстве по уголовному делу доказательств с применением цифровых технологий представлены предложения по совершенствованию УПК.
В статье отмечена деятельность Института законодательства и правовой информации Республики Казахстан по размещению в электронном виде нормативных правовых актов и ведению информационно-справочных систем, в сфере правовой пропаганды, цифровизации методов и способов предоставления правовой информации.
В заключение отмечается важная роль современной юридической доктрины в сфере созданию оптимальной модели механизма правового регулирования общественных отношений в сфере использования цифровых технологий.
ц¥к;ык;тык; кещстжт1 цифрландыру
Рамазан ^марбек^лы Сэрпеков
Казацстан Республикасы Зацнама жэне цуцыцтыц ацпарат институтыныц директоры, Нур-Султан цаласы, Казахстан Республикасы; e-mail: instzak-kz@mail.ru
Tymh свздер: цифрлыц умытуга цуцыц, цифрлыц технологиялар, киберцаутЫздж, жа-санды интеллект, бейнетусгршм арцылы жауап алу, Казацстан Республикасыныц Зацнама жэне цуцыцтыц ацпарат институты.
Аннотация. Бул мацалада автор цифрландыруды цуцыцтыц реттеудщ взектг мэселе-лерт, цифрландыру саласындагы багдарламалыц цужаттарды царастырады. Ацпараттыц технологиялар саласындагы царым-цатынастарды реттеуге фикциялыц ацпаратты цолда-нуды царастыру усынылады. Сондай-ац осы жумыста ацпаратты таратпау жэне цупи-ялылыцты сацтау жвнiндегi мшдеттердг орындауды цамтамасыз етудщ, жеке вмгрге цол сугылмаушылыц кетлдттергмен, жеке жэне отбасылыц цупиямен Конституция децгешнде беттшген дербес деректердi цоргау институтын дамытудыц мацызды аспектiлерiне назар аударылады.
Сондай-ац, зацнамалыц реттеудщ взектг мдселелер1 жэне умыту цуцыгын (цифрлыц влм) орнсту бойыншс шетелдж тэж1рибе, блокчеин, биткоин, киберцаугпсгздгк, цуцыцтыц субъектшк, цуцыцтыц мэртебе жэне жасанды интеллект (будан эрг - ЖИ) тасымалдаушы-ларыныц ¡с-эрекетг ушт жауапкершшк царалды. ЖИ тасымалдаушыларынъщ цатысуымен деликтерге руцсат беру жэне вз\н-вз\ оцыту функциясы бар ЖИ тасымалдаушыларына ар-налган ерекшелжтермен вндгрушшц жауапкершшгт белгтеу бойынша авторлыц усыныс берглдг. Роботтарды вндгруштер ушт шетелдерде, атап айтцанда Германияда, Оцтустж Кореяда, АЦШ-та цабылданзан этикалыц стсндсрттср царастырылды,
Мацалада адам мен роботтыц ецбегт бвлудщ взектг аспект1лер1, галымдардыц бшм берудг одан эрг дамытуга квзцарастары келтгрглген. Сот тврелтн жузеге асыру кезгнде ЖИ пайдалану мумктдтне талдау журггзглдг. Автор Цазацстан Республикасыныц Цылмы-стыц-процестж кодекстде квзделген цылмыстыц ¡с бойынша ¡с журггзуде дэлелдемелердг цифрлыц технологияларды пайдалана отырып пайдалану мумкгндгггн негурлым толыц пайдалану мацсатында ЦПК-ш жетглдгру жвнтде усыныстар бердг.
Мацалада Цазацстан Республикасыныц Зщнама жэне цуцыцтыц ацпарат институты-ныц нормативтгк цуцыцтыц актглердг электронды турде орналастыру жэне а^аратты^^ ныцтамалыц жуйелердг журггзу, цуцыцтыц насихат, цуцыцтыц ацпарат берудгц эдгстерг мен тэсшдерт цифрландыру саласындазы цызметг атап кврсетглген.
Цорытындыда цифрлыц технологияларды пайдалану саласында цозамдыц цатынастарды цуцыцтыцреттеу тетггШц оцтайлы моделт цуру саласындазы цазгргг заманзы зац доктри-насыныц мацызды рвлг атап втглед1.
DIGITALIZATION OF THE LEGAL SPACE Sarpekov, Ramazan K.
Director of the Institute of legislation and legal information of the Republic of Kazakhstan, Republic of Kazakhstan, Nur-Sultan; e-mail: instzak-kz@mail.ru
Keywords: the right to digital oblivion, digital technologies, cybersecurity, artificial intelligence, video survey, Institute of legislation and legal information of the Republic of Kazakhstan.
Abstract. In this article, the author examines current issues of legal regulation of digitalization, program documents in the field of digitalization. It is proposed to consider the application of fictions to the regulation of relations in the field of information technology. This paper also draws attention to the important aspects of ensuring compliance with the obligations of non-proliferation of information and confidentiality, the development of the institute of personal data protection, backed up at the constitutional level by guarantees of privacy, personal and family secrets.
It also discusses current issues of legislative regulation andforeign experience in establishing the right to oblivion (digital death), regulation of blockchain, bitcoin, cybersecurity, legal personality, legal status and responsibility for the actions of artificial intelligence carriers (here in after - AI). The author's proposal is given to resolve torts involving AI carriers and to establish manufacturer's liability with features for AI carriers with the self-learning function. The ethical standards adopted in foreign countries for robot manufacturers, in particular in Germany, South Korea, and the United States, are considered.
The article presents current aspects of the division of labor between human and robot, the point of view of scientists on the further development of education. The possibility of using AI in the administration of justice is analyzed. In order to make more complete use of the possibility of using evidence applying digital technologies in criminal proceedings provided for by the Criminal procedure code of the Republic of Kazakhstan, the author presents proposals for improving the criminal procedure code.
The article highlights the activities of the Institute of legislation and legal information of the Republic of Kazakhstan on the placement of normative legal acts in electronic form and maintenance of information and reference systems, in the field of legal propaganda, digitalization of methods and methods of providing legal information.
In conclusion, the important role of modern legal doctrine in creating an optimal model of the mechanism legal regulation of public relations in the field of digital technologies is noted.
Одной из наиболее динамичных глобальных тенденций текущего десятилетия является цифровизация. Тотальное ее проникновение в жизнь современного казахстанского общества сформировало новую реальность, особенности которой заключаются в использовании цифровых технологий во всех сферах жизнедеятельности человека, что, в свою очередь, способствует активному развитию человеческого капитала, модернизации экономики, преобразованию государственных и общественных институтов и, соответственно, улучшению условий повседневной жизни граждан. Концептуальные основы процессов «цифровизации» казахстанского общества заложены в положениях следующих нормативных правовых актов:
1) Государственной программе «Информационный Казахстан-2020», утвержденной в 2013 году;
2) Государственной программе «Цифровой Казахстан», утвержденной постановлением Правительства Республики Казахстан от 12 декабря 2017 года;
3) Указе Президента Республики Казахстан от 1 февраля 2010 года № 922 «О Стратегическом плане развития Республики Казахстан до 2020 года».
4) Послании Первого Президента Республики Казахстан Н.А. Назарбаева - Елбасы: «Новые возможности развития в условиях четвертой промышленной революции» от 10 января 2018 г. и др.
Общеизвестно, что изменение общественных отношений под влиянием процессов цифровизации выступает предпосылкой модернизации права. В своем Послании народу Казахстана от 2 сентября 2019 г. «Конструктивный общественный диалог - основа стабильности и процветания Казахстана» Глава государства Касым-Жомарт Кемелевич Токаев отметил, что Правительству предстоит адаптировать законодательство под новые технологические явления: «Умные города», большие данные, 5G, блокчейн, цифровые активы, новые цифровые финансовые инструменты.
В свете общеизвестной ситуации распространения коронавируса, признанной Всемирной организацией здравоохранения пандемией, применение цифровых технологий стало особенно актуальным и востребованным. Президент Республики Казахстан К.К. Токаев в своем выступлении на заключительном заседании Государственной комиссии по чрезвычайному положению 11 мая 2020 года указал на важность придания нового импульса всем процессам цифровизации экономики и общества. Обращено внимание на развитие телемедицины, обучение в удаленном режиме, завершение цифровизации всех учебных заведений страны, проведение
совещаний и заседаний Правительства, министерств, акиматов в дистанционном формате [1]. Это указывает на важность в масштабах всего государства поиска решения вопросов по адаптации к реалиям сегодняшнего дня, в особенности с использованием цифровых технологий.
Процессы цифровизации оказывают влияние на предмет регулируемых правом общественных отношений, путем расширения его границ и содержания. Как справедливо отмечается в литературе, с появлением ранее не известных праву общественных отношений возникло множество правовых проблем, которые решаются путем проб и ошибок, часто без применения классических правовых доктрин [2]. Законодатель, с нашей точки зрения, априори не может точно (без ошибок) урегулировать новые общественные отношения, возникающие в ходе прогресса общества. В этой ситуации мы считаем необходимым задействование фикций, то есть использования допущений о существовании определенного явления для эффективного регулирования общественных отношений. Общеизвестным примером фикции является юридическое лицо, которое не наделено одушевлённым естеством как человек, однако наряду с ним признается субъектом права. Использование фикции позволит стабилизировать общественные отношения, входящие в сферу правового регулирования применения цифровых технологий, хотя бы до того времени, когда знания о них и эффективных способов механизма их правового обеспечения не станут более ясными и полными. При этом задействовать нужно фикции не только при конструировании отдельной какой-то нормы права, но и при создании значимых правовых институтов.
Рассмотрим основные из них.
Защита персональных данных. В научной литературе отмечается, что институт защиты персональных данных подкрепляется конституционными гарантиями права на неприкосновенность частной жизни, личную и семейную тайну. В реализацию данных прав корреспондируются юридические обязанности иных лиц по нераспространению такой информации и соблюдению конфиденциальности [3].
Интересен зарубежный опыт по защите персональных данных в информационной среде. Примечателен опыт Швеции, как первой страны, принявшей законодательство о защите информации частного характера, которое распространяло свое действие на информацию, хранящуюся в компьютерных базах данных. На уровне Конституции право на конфиденциальность установлено в Южно-Африканской Республике. Кроме того, в данной стране Законами Об электронных коммуникациях и
сделках, а также О защите прав потребителей закреплены нормы по охране личной информации. В США вопросы обеспечения охраны частной жизни в информационной среде регулируются Законом «Online Personal Privacy Act», в котором предусматриваются гарантии защиты персональных данных пользователей Интернета, в том числе обязательность получения компаниями согласия пользователей на использование информации личного характера [4].
Следует отметить, что персональные сведения о гражданах могут быть аккумулированы и изучены в установленном законодательством порядке уполномоченными государственными органами в сфере правоохранительной деятельности, по линии специальных государственных органов, налоговых органов, а также финансовыми организациями, телекоммуникационными компаниями.
Информация в качестве «товара» обрела большую ценность и спрос на рынке, что актуализирует проблему соблюдения её сохранности. При этом развитие цифровых технологий не всегда сопровождается актуальным правовым регулированием, а недостаточная эффективность законодательства в этой сфере может негативно повлиять на соблюдение прав человека.
Между тем в правоприменительной практике наблюдаются вопросы, требующие своего разрешения на нормативном уровне. Так, из содержания пункта 1 статьи 8 Закона «О персональных данных и их защите» следует, что обязательным условием сбора и обработки персональных данных является согласие субъекта или его законного представителя, за исключением случаев, предусмотренных законодательством1.
Проблема состоит в том, что согласно Закону «О персональных данных и их защите» дача согласия на обработку персональных данных возможна на бумажном носителе, подписанном собственноручно, либо посредством электронного документа, удостоверенного электронной цифровой подписью.
Сферу персональных данных, в первую очередь затрагивает электронная торговля. К осуществлению данной торговли должны предъявляться соответствующие критерии для реализации товаров, услуг и работ физическим лицам посредством интернет-магазинов, интернет-площадок.
Полагаем необходимым уделить внимание наличию и доступности информации, которую представляет продавец о себе, о товаре и об условиях покупки, и такая информация должна быть доступна физическому лицу до принятия им решения о покупке товара в сети Интернет. В соответствии с Законом «О защите прав потребителей», потребитель вправе получить сведения о товаре, работе, услуге и о продавце (изготовителе, исполнителе) (статья 10), а продавец обязан предоставить покупателю такую информацию (статья 25)2. При дистанционной торговле у покупателя отсутствует возможность непосредственного ознакомления с товаром [5]. В специальной литературе отмечается, что Интернет-сайт, как место размещения информации о продавце нематериально, является сочетанием информации и программного обеспечения, вследствие этого не может приводить к образованию постоянного представительства. Также в литературе указывается на то обстоятельство, что владельцы сайтов в сети Интернет, как правило, не являются собственниками серверов, и для размещения сайта пользуются услугами специализированных организаций [6]. В случае недействительности информации о продавце у «дистанционного» покупателя возникает риск не только не получения товара, но и невозможности определения адреса для предъявления претензий по его качеству. В связи с этим предлагается ввести в действующие Правила розничной торговли вне торговых мест3 дефиницию дистанционной торговли, а также законодательно урегулировать вопрос об ответственности владельцев серверов - за информацию, размещаемую на них.
Следует отметить, что возможны случаи оформления покупки с использованием персональных данных физического лица без его ведома, например, покупка авиа или железнодорожных билетов, где указываются гражданином, как свои данные, так и данные лиц, которые совместно с ним направляются данным транспортом.
Интернет-ресурсы предлагают гражданину для поиска работы авторизоваться по определенной форме и создать резюме с указанием персональных данных. Распространение персональных данных не должно нарушать прав гражданина и в соответствии с Законом «О персональных данных и их защите» гражданин вправе заявить о незаконном получении
1 Закон Республики Казахстан от 21 мая 2013 года № 94-V «О персональных данных и их защите» // https:// online.zakon.kz/document/?doc_id=31396226 (дата обращения: 05.05.2020 г.).
2 Закон Республики Казахстан от 4 мая 2010 года № 274-IV «О защите прав потребителей» //https://online. zakon.kz/document/?doc_id=30661723#pos=352;-44 (дата обращения: 06.05.2020 г.).
3 Постановление Правительства Республики Казахстан от 14 сентября 2005 года № 918 «Об утверждении Правил розничной торговли вне торговых мест путем сетевого маркетинга, общественных распространителей, продажи по почте и другими способами» // https://online.zakon.kz/Document/?doc_id=30023958#pos=13;-5 (дата обращения: 06.05.2020 г.).
сведений, что влечет необходимость владельцу интернет - ресурса иметь подтверждающие материалы о законности происхождении данной информации, посредством получения её из открытого доступа либо на иных законных основаниях.
Актуальным вопросам обеспечения защиты персональных данных в сети Интернет является право каждого на цифровое забвение.
Цифровая смерть. Численность пользователей Фейсбука оценивается в количестве более миллиарда. Согласно статистике каждую минуту умирают три пользователя Фейсбука. Во Франции 7 октября 2016 года принят Закон о цифровой республике, который предусмотрел право на цифровую смерть - право на соблюдение воли человека после его кончины о судьбе персональной информации в интернете поставщиками онлайн-услуг или доверенными лицами4. Также Твиттер принял решение, что в случае кончины пользователя будет предоставлен родственникам архив его аккаунта. В свою очередь Фейсбук практикует закрытие аккаунта с его сохранением как страницы памяти [7]. Полагаем, что законодательство Республики Казахстан должно предусматривать нормы, регулирующие право собственности на так называемые «вымороченные» акка-унты и защищающие права их умерших владельцев.
Безопасность и защиту персональных данных, учеными предлагается обеспечить путем их обработки в распределенном реестре, использование которого основано на технологии блокчейн [8].
Блокчейн - это многофункциональная и многоуровневая информационная технология, которая применима в сфере экономической деятельности, в частности, финансовые операции, учет сведений в организациях [9]. В качестве примера можно назвать использование блокчейна при регистрации гражданско-правовых договоров (Швеция, Гондурас, Грузия), трудовых договоров (компания CocaCola, США).
Технологии блокчейн успешно применимы в избирательном процессе (Сьера-Леоне), тестировании населения по политическим и социальным вопросам (Австралия) [10], в сфере образования [11], банковского сектора [12], транспорта (Россия) [13] и др.
Точность и конкретность таких данных благодаря технологии блокчейн позволяет любому пользователю интернет-ресурсов
удостовериться в принадлежности определенных данных ее обладателю. Отмечается, что данная технология направлена на упрощение взаимодействия между субъектами расчетных отношений. Считается, что защищенность блокчейн позволяет прекрасно защищать данные от незаконного изменения и подделки [14]. Преимущества такой технологии может стать решением многих вопросов, связанных с сохранностью и подтверждением подлинности, в электронном правительстве (e-gоvemment) либо правительства для граждан. В связи с этим, перевод государственных услуг в цифровую форму, с применением для этого блокчейн-технологий, является перспективным направлением развития взаимодействия государства и общества.
Необходимо отметить, что сравнительно не так давно блокчейн перестал восприниматься как единое явление с биткойном, между тем технология блокчейна является основой выпуска и оборота криптовалюты бит-койн [9].
Биткоин. Единого мнения о юридической природе биткоина не имеется, существуют точки зрения, указывающие на него как на товар, платежное средством либо финансовый инструмент5. Признанный специалист в сфере финансов и инвестиций Асват Дамодаран, полагает, что биткоин либо валюта, причем не очень удачная, поскольку имеет ограниченное применение в качестве средства обмена, либо объект коллекционирования. При этом он отмечает, что биткоин не может быть активом и не является товаром6. Экономист Ладислава Кристуфека в своих исследованиях указывает, что биткоин представляет собой рискованную инвестицию [15].
Биткоин признан платежным средством в Финляндии, Германии, Канаде, Японии и США. При этом биткоин ни одно государство не признало в качестве замены официального платежного средства. Правительство Японии с 2017 года признало криптовалюту, в том числе биткоин, в качестве платежного средства и признается валютой [16]. Однако в США биткоин не признают валютой, а относят к предпринимательской деятельности в области расчетно-кассовых услуг. Противоположную позицию по отношению к биткоину заняли Вьетнам, Киргизия, Исландия, Боливия, где он признан незаконным [15, С. 188]. Наряду с биткоином известны восемь криптовалют, в частности: эфир (ETH/USD), лайткоин (ЦГС/
4 Закон № 2016-1321 от 7 октября 2016 г. «О цифровой республике» // https://wipolex.wipo.int/ru/legislation/ details/16380 (дата обращения: 04.05.2020 г.).
5 Цифровая экономика Российской Федерации //http://static.government.ru/media/files/9gFM4FHj4PsB79I5v7yL VuPgu4bvR7M0.pdf.
6Интернет-портал Аналитического центра при Правительстве Российской Федерации. // http://ac.gov.ru/ files/publication/a/16530.pdf.
USD). В исследовательских целях учредил собственную криптовалюту Центральный банк Нидерландов [17]. Национальный банк Республики Казахстан не выступает с инициативой о внедрении собственной криптовалю-ты, тем не менее разрешает покупку, продажу и майнинг других криптовалют, но высказывается против их рекламы [18].
Активное развитие информационных технологий ставит вопросы обеспечения безопасности в интернет-пространстве, совершенствования действующего законодательства в сфере кибербезопасности.
Кибербезопасность. Только 3% вредоносных программ пытаются использовать технический изъян программного обеспечения. Остальные 97% пытаются обмануть и заставить жертву сообщить свой пароль самостоятельно7, с использованием доверчивости пользователя к знакомым адресам электронной почты [19]. Доступ к электронной почте или аккаунтам социальных сетей используется киберправонарушителями для доступа к соответствующим документам, содержащим охраняемую законом тайну, которые можно использовать в целях вымогательства или совершения мошенничества.
Следует отметить, что эффективному противодействию киберпреступности препятствует несовершенство законодательства в этой сфере. Так, статьей 210 Уголовного кодекса Республики Казахстан (далее - УК) предусмотрена ответственность за создание, использование или распространение вредоносных компьютерных программ и программных продуктов. По сложившейся практике определение «вредоносности» компьютерной программы экспертами отталкивается от классификации вредоносных программ по номенклатуре ведущих производителей антивирусного программного обеспечения. Однако не каждая вредоносная компьютерная программа считается вирусом, и не каждый вирус считается вредоносной программой. Например, модификации так называемой троянской программы типа Trojan.BitCoinMiner, предназначенные для кражи вычислительных мощностей зараженных компьютеров, определяются антивирусным программным обеспечением, свойствами вредоносной программы не обладают. С другой стороны, на такую программу как keygen.exe (кейген), предназначенную для генерации номеров серийных номеров (ключей), используемых затем для ввода в окно какой-либо программы с целью последующего неправомерного ее использования антивирусные программы реагировать не будут, но в соответствии с законодатель-
ством производный от этой программы файл с ключом для взламывания пароля на компьютере, относится к вредоносным программам для нейтрализации защиты информации и обеспечения несанкционированного доступа к ней [19, с. 139-140, 143.].
Еще одна проблема. Диспозиция статьи 210 УК рассматривает создание вредоносных программ как деятельность, направленную на разработку, подготовку компьютерных программ, способных несанкционированно уничтожать, выводить из строя, изменять, копировать информацию или нейтрализовать средства защиты. Под распространением таких программ законодательством понимается предоставление доступа к ним любому постороннему лицу любым из возможных способов, включая рассылку сообщений, содержащих ссылки на вредоносную программу по электронной сети, то есть любые действия по предоставлению доступа к программе сетевым или иным способом. Следует отметить, что все эти функции способен выполнять «фишинговый» сайт, поскольку он представляет собой не что иное, как компьютерную программу для несанкционированного копирования информации, включающую в себя программный код на том же языке PHP. Единственная предпринимаемая на сегодняшний день мера по пресечению выявленных угроз создания и распространения вредоносных программ - блокировка «фишинговых» сайтов не дает результата, поскольку ею пресекается лишь деятельность сайтов, а не их создателей [19, с. 140-141.].
Действенные меры на государственном уровне по обеспечению кибербезопасности приняты в Китайской Народной Республике. В Китае с 2003 года запушен проект «Золотой щит», который используется для предупреждения кибератак и незаконной деятельности.
Во Франции Законом от 5 января 1988 года Godfrain обозначена государственная задача по борьбе с киберпреступностью. Исходя из положений данного Закона, провайдеры предоставляют информацию об авторах интернет-ресурсов заинтересованным лицам. Также во Франции с 1978 года существует Национальная комиссия информатики и свобод, в компетенцию которой входит защита прав и свобод человека в сфере информатики. В Германии ответственность за размещение нелегального контента на интернет-ресурсах возлагается на провайдеров, если они собственники такой информации или намеренно распространяют ее, ссылаясь на иные источники. В Японии аналогичным образом сформировался подход к ответственности.
7 https://digitalguardian.com/blog/social-engineering-attacks-common-techniques-how prevent-attack (дата обращения: 04.05.2020 г.).
Следует отметить, что на вопросы безопасности информационных систем и ресурсов обращается внимание в трудах сотрудников Института законодательства и правовой информации Республики Казахстан. Так, на сегодняшний день вся инфраструктура (как государственный, так и частный сектор) построена с использованием зарубежных аппаратных и программных средств. В этой связи, существует прямая зависимость состояния защищенности информационных ресурсов Казахстана от иностранных поставщиков аппаратного и программного обеспечения. В связи с этим, ставятся вопросы о дополнении действующих УК и КоАП составами правонарушений, предусматривающих ответственность за неисполнение или ненадлежащее исполнение обязанностей по обеспечению безопасности государственных информационных систем, а также введении в законодательство обязательного порядка аттестации объектов информатизации (информационные системы, программное обеспечение), не только для государственных, но и для следующих частных информационных систем:
- информационных систем дистанционного банковского обслуживания, систем хранения персональных данных клиентов банков, страховых организации.
- информационных систем субъектов квазигосударственного сектора [20].
В 2016 г. в США был принят «Стратегический федеральный план исследований и разработки в области кибербезопасности» (Federal Cyber security Research and Development Strategic Plan). Долгосрочные цели этого плана заключаются в достижении превосходства в области науки и технологий, которое помогло бы предотвратить вредоносные действия противников за счет увеличения их затрат и рисков, с одновременным значительным снижением выгоды от такой деятельности.
Реалиями скорого будущего становятся киберпреступления совершаемые посредством компьютерных вирусов с некоторыми признаками искусственного интеллекта, к которым относятся адаптивное поведение (позволяющее по-разному действовать в разных условиях), самовоспроизведение с мутациями (что обеспечивает бесполезность сигнатур более старых версий), мимикрия (маскировка под легальные программы) [21].
Правосубъектность, правовой статус и ответственность за действия носителей искусственного интеллекта. Вопрос о наделении носителей искусственного интеллекта (далее - ИИ) (юнитов) самостоятельной правосубъектностью вызывает в научной литературе
обоснованные дискуссии. По критериям автономности самосознания и самоопределения С.М. Солайман сравнивает носителей ИИ с животными и считает, что ни те, ни другие не способны осуществлять права и обязанности [22]. Другие ученые сравнивают носителей ИИ с организациями, указывая на их фиктивную автономность. Так, носитель ИИ «может пользоваться гораздо большей степенью автономности и не контролироваться в полной мере своим владельцем или разработчи-ком8. Третья группа считает, что «наделение юнита искусственного интеллекта правовым статусом электронного лица должно быть направлено не на признание автономности и самостоятельности такого юнита и освобождение физических и юридических лиц от ответственности за его действия, а наоборот, на укрепление такой подотчётности и решение проблем идентификации юнитов искусственного интеллекта и стоящих за ними реальных людей» [23]. Четвертая группа ученых склоняется к тому, что «электронное лицо» представляет собой интегральное сочетание одновременно субъекта и объекта права [24]. Пятые утверждают, что правовые механизмы функционирования «электронной личности» возможны без наделения роботов правосубъектностью [25].
Полагаем, что правоотношения между роботами и третьими лицами, а также между роботом и его разработчиком, владельцем или пользователем должны четко регламентироваться законодательством. Чтобы оградить человека от негативного влияния ИИ, необходимы правовой контроль и ответственность за создателями, производителями, владельцами, пользователями, арендаторами юнитов искусственного интеллекта, наносящих ущерб людям и имуществу, а также за теми лицами и организациями, которые наносят противозаконный ущерб юнитам искусственного интеллекта [26]. Деликты с участием носителей ИИ мы предлагаем разрешать по правилам причинения вреда источником повышенной опасности, а также путем введения ответственности производителя за некачественно произведенный товар (робота). Исключением из этого правила могут относиться носители ИИ с функцией самообучения. Их правовой статус, по нашему мнению, нуждается в углубленном изучении. На повестке дня также стоит вопрос о введении обязательного страхования для пользователей роботов.
В зарубежных странах разработаны этические стандарты для производителей роботов. В 2018 году министром транспорта Германии представлен доклад «Свод этических норм
8 The Future is here: Artificial Intelligence and Robotics. In: Nishith Desai Associates // http://www.nishithdesai.com/ fileadmin/user upload/pdfs/Research Papers/Artificial Intelligence and Robotics.pdf(damao6pa^eHUM:30.04.2020a.).
для робомобилей в Германии». Японским обществом по искусственному интеллекту (JSAI) разработаны и предложены этические стандарты для разработчиков ИИ, такие как честность, гуманность, безопасность, законность, ответственность перед обществом, уважение частной жизни.
Нормативную основу взаимодействия человека и носителей ИИ в сфере трудовой деятельности заложили Корейская Хартия этических норм для роботов, а также Азиломарские принципы искусственного интеллекта (США, 2017 г.) провозгласившие, что робот-партнер не наносит ущерб человеку и человек заботится о роботе, а также отказ от использования роботов во враждебной человечеству деятельности.
ИИ и робототехника в США регулируются актами в области автоматизированных транспортных средств и программ развития робототехники, спорные вопросы же решаются посредством использования прецедентного права.
Развитие цифровых технологий влечет за собой трансформацию на рынке труда. Замена человеческого труда достижениями современной науки и техники, в том числе посредством использования искусственного интеллекта, машинного обучения, меняет требования на рынке труда [27].
Разделение труда человека и робота. Система образования. Отдельные ученые отмечают, что возможности всеобъемлющего применения роботизации и искусственного интеллекта в производстве ставит под вопрос само право человека на труд и использование его результатов. Здесь под вопросом оказывается существование всего комплекса трудового права, сначала в области физического труда, а потом и умственного [26, с. 73]. Следует отметить, что разделение между цифровой личностью (человеком) и машиной (роботом) с искусственным интеллектом в будущем должна строится на четком разделении их компетенции. Полагаем, за машинами (роботами) должны быть закреплены конкретные, легко формируемые и оцениваемые hard skills (жесткие навыки), а за людьми (в перспективе, цифровой личностью) - так называемые мягкие навыки (soft skills), основанные на таланте, творческом, неординарном труде, оригинальных решениях. В связи с этим система высшего образования в эпоху цифровизации, свидетелями которого мы с Вами являемся, должна обучать специалистов не навыкам решения стандартных (однотипных задач), руководствуясь строгим (не гибким) регламентом, а учить аналитическому, абстрактному мышлению, помогающему человеку принимать креативные, нестандартные решения в различных ситуациях.
Также актуальным вопросом цифровиза-ции в юриспруденции является использование цифровых технологий при отправлении правосудия. Так, В Сингапуре, для облегчения принятия судебных решений, всем судьям обеспечена возможность использования онлайн систем: LawNetLegalWorkbench (интеллектуальный поиск по юридическим базам данных); JODB (база данных содержащая судебные рабочие документы и сборники); SINGS (система правил вынесения приговоров, обеспечивающая критерии вынесения приговора и информацию); IMPRESS (система, фиксирующая решения Верховного суда и местных судов [28].
Строгое разделении сфер деятельности человека и автоматических систем возможно при использовании ИИ при отправлении правосудия.
На наш взгляд, оценка роботом юридического действия в отрыве от оценки личности, которое его совершило, может негативно сказаться на обоснованности и справедливости таких решений и в целом на состоянии защищенности фундаментальных прав личности. В связи с этим, ИИ не может быть позволено принимать процессуальные решения, которые основываются на оценке личности (так называемого «человеческого фактора») и иных субъективных факторов, не имеющих явных логических взаимосвязей и, следовательно, не поддающихся «машинной обработке». Полагаем, элементы ИИ могут использоваться для проведения операций не требующих определенной квалификации (например, отбор присяжных из основного и дополнительного списков, исчисление процессуальных издержек, синхронный перевод, ведение протокола судебного заседания, дистанционного допроса, составление документов по шаблону, дача консультаций по простейшим правовым вопросам не требующим юридической оценки, поиск и идентификация подозрительных лиц по видеоизображениям и др.).
В УПК РК включены нормы об использовании в производстве по уголовному делу доказательств с использованием цифровых технологий. Таким образом, защитник либо представитель потерпевшего вправе вести опрос лиц посредством технических средств. Проведение опроса фиксируется техническими средствами и сохраняется на электронном носителе. Далее, материалы приобщаются к уголовному делу, после их исследования и оценки уполномоченным органом, данные материалы приобретают статус доказательства (пункт 5 части третьей статьи 122 УПК). Законодатель разрешает заинтересованным участникам уголовного судопроизводства и гражданам, организациям предоставлять информацию в форме электронного документа
для приобщения к уголовному делу в качестве доказательства (части четвертой статьи 122 УПК). Предусматривается проведение в режиме видеосвязи дистанционного допроса потерпевшего и свидетеля (статья 213 УПК РК). Следует отметить, что в УПК не отражены способы проведения допроса тяжелобольных граждан, лиц с ограниченными возможностями (глухонемые, слабослышащие), в том числе получивших телесные повреждения и потерю здоровья. Полагаем, что следователь или дознаватель мог бы производить видеодопрос глухонемого или слабослышащего потерпевшего, или свидетеля с привлечением сурдопереводчика в качестве специалиста, а затем составить протокол допроса, который подписывает специалист сурдопереводчик, и приобщить запись видеодопроса к материалам электронного уголовного дела.
Требует научного осмысления вопрос проведения видеодопроса для оказания правовой помощи по уголовным делам, когда участники уголовного процесса пребывают за рубежом. Полагаем, что данный вопрос можно решить в рамках разрабатываемого проекта Конвенции Шанхайской организации сотрудничества о правовой помощи и правовых отношениях по гражданским и уголовным делам. Так, участники процесса могут быть допрошены посредством видеосвязи (дистанционный допрос) и в соответствии с внутренним законодательством Сторон Конвенции Шанхайской организации сотрудничества о правовой помощи и правовых отношениях по гражданским и уголовным делам.
Цифровые технологии применяются в правоприменительной деятельности уполномоченных органов. Так, производство уголовного дела в электронном формате с использованием информационных автоматизированных систем, внедряется в Грузии, Молдове, Украине, Эстонии. В законодательстве Бельгии, Германии, Голландии, Италии, Испании, Португалии, Румынии, Финляндии закреплена допустимость цифровых документов в качестве доказательств [29].
С учетом рассмотренного зарубежного опыта предлагается перечень доказательств, содержащийся в части второй статьи 111 УПК расширить за счет включения: показаний (подозреваемого, потерпевшего, свидетеля, эксперта, специалиста), заключений (эксперта, специалиста) в электронно-цифровой форме; электронных вещественных доказательств; протоколов новых следственных и судебных действий.
Следует отметить, что применение дистанционных форм в правотворческой деятельности становится одним из приоритетных направлений систематизации законодательства стран СНГ [30].
Систематизация законодательства. «Циф-ровизация» оказывает значительное влияние и на форму права. Их электронные версии давно размещаются в сети Интернет в соответствующих электронных базах и информационно-справочных системах («Одшет», «Параграф», «7ап.к^» и др.). Последние приобрели большую популярность как у правоприменителей, так и у простых граждан. Это обусловлено, прежде всего, удобством подобных информационных ресурсов. В этой связи Т.Я. Хабриева справедливо отмечает, что «... у формально-юридических источников права, таких как нормативный правовой акт, договор нормативного содержания, появляется «виртуальный дублер», «цифровой двойник» ... Это уже не просто цифровая копия, а нечто большее, т.к. электронная версия текста формально-юридического источника права выполняет функции последнего. Именно в нем «черпают право» юристы при разрешении юридического дела» [31]. Кроме того, именно в Информационно-правовой системе (далее - ИПС) можно ознакомиться с электронной актуальной версией нормативного правового акта (далее - НПА).
В сложившихся обстоятельствах, когда цифровизация предоставила новые возможности, разработчики ИПС периодически разрабатывают и представляют пользователям новые способы получения информации, в частности, хронологию изменений и дополнений в НПА и др.
Министр информации и общественного развития Республики Казахстан А.Г. Балаева призвала казахстанцев максимально использовать предоставляемые госорганами возможности: «...более 800 государственных услуг оказывается онлайн на период чрезвычайного положения в Казахстане. Все они направлены на обеспечение нормальной жизнедеятельности казахстанцев на период пандемии коро-навируса. Одним из важных шагов, предпринятых государством, стал бесплатный доступ на ...интернет-ресурсы, оказывающие государственные услуги» [32]. В рамках данного вопроса особо следует отметить вклад РГП на ПХВ «Институт законодательства и правовой информации Республики Казахстан» Министерства юстиции Республики Казахстан (далее - ИЗПИ) в предоставлении доступа к правовой информации, включающей в себя как НПА в электронном виде, так и иные материалы информационного и справочно-методи-ческого характера в области права. При этом доступ предоставляется бесплатно и на коммерческой основе, в зависимости от степени полноты правовой информации и сервисных возможностей.
ИЗПИ на протяжении многолетней истории является верным инструментом государ-
ства в реализации одной из основных задач органов юстиции - обеспечения правовой пропаганды.
В эру цифровизации методы и способы предоставления правовой информации также требуют внедрения новых технологий, чтобы сделать эту информацию еще доступнее. В этих целях на постоянной основе осуществляется техническая модернизация зарекомендовавших себя в обществе и на рынке программных продуктов предприятия.
С 2018 года функционирует онлайн-вер-сия 7ап.к^, имеющая все необходимые инструменты для работы с НПА. В текущем году данная система будет усовершенствована, что позволит сделать ее еще быстрее и интеллектуальнее, а информацию в ней - более доступной.
Кроме этого, на предприятии функционирует не имеющая аналогов в стране правовая информационная служба, предоставляющая в круглосуточном режиме консультации по всем правовым вопросам. Здесь уместно отметить, что государство уделяет огромное внимание обеспечению открытости государственных органов, предоставлению качественных и доступных для населения ответов на их обращения. Так, Правовая информационная служба оказывает консультации посредством множества площадок: по номеру 119 - для городских телефонов; Whatsapp - для мобильных и иных платформ; на сайте предприятия и Министерства юстиции, в информационно-правовой системе «Одшет».
Следует отметить, в целях повышения эффективности работы сотрудников Службы, с 2020 года в их деятельность внедрены инструменты, позволяющие предоставлять пользователям информацию в автоматическом режиме. Технически это выглядит следующим образом: голосовой робот обрабатывает входящие звонки по номеру 119, формирует отчетность, а главное - в соответствии с заданным алгоритмом пытается определить характер вопроса и предоставить консультацию самостоятельно, без соединения с оператором. Для обучения данного робота задействована база знаний, состоящая из ключевых слов и их соответствия определенному ответу. Формирование и наполнение данной базы знаний
осуществляется на постоянной основе.
По аналогичному принципу действует и Виртуальный консультант. Однако предоставляемые консультации осуществляются в письменном виде. Каждый пользователь информационно-правовой системы «Одшет», на главной странице которой размещен Виртуальный консультант, может задать ему свой вопрос и получить моментальный ответ, - в случае его наличия в базе знаний. Данные инструменты позволяют повысить эффективность работы Правовой информационной службы, высвободить их от необходимости многократного повторения ответов на базовые вопросы, такие как «Как получить удостоверение личности», «Какие документы нужна для...» и пр., чтобы уделить должное внимание вопросам, требующим тщательного анализа.
Следует отметить, что Институт законодательства и правовой информации Республики Казахстан, обладая солидным научным потенциалом и уникальной в стране Правовой информационной службой по оказанию бесплатной квалифицированной юридической помощи населению посредством телефонных консультаций, готов к сотрудничеству с заинтересованными международными и зарубежными организациями, а также с отечественными компаниями квазигосударственного сектора, научными организациями и фондами развития.
Подытоживая все вышеизложенное, можно утверждать, что изменившийся с появлением новых технологий уклад жизнедеятельности общества повлек за собой расширение круга общественных отношений, регулируемых правом, и, соответственно, изменение содержания видов регуляторов общественных отношений. Данное обстоятельство вызывает необходимость определения приоритетов и закономерностей развития национального права в новых условиях. Важная роль в данном вопросе отведена современной юридической доктрине, поскольку выработанные ею теоретические основы, научные концепции могут способствовать созданию оптимальной модели механизма правового регулирования общественных отношений в сфере использования цифровых технологий.
ЛИТЕРАТУРА
1. Выступление Главы государства на заключительном заседании Государственной комиссии по чрезвычайному положению. г. Нур - Султан, 11.05.2020 г. // http://www.akorda.kz/ ru/speeches/internal_political_affairs/in_speeches_and_addresses/vystuplenie-glavy-gosudarstva-na-zaklyuchitelnom-zasedanii-gosudarstvennoi-komissii-po-chrezvychainomu-polozheniyu (дата обращения: 05.05.2020 г.).
2. Карцхия А.А. Цифровая трансформация права // Мониторинг правоприменения. - №1 (30). - 2019. - С. 26.
3. Белгородцева Н.Г. Теоретико-правовые аспекты защиты персональных данных. Авто-реф. ...канд. юрид. наук. М., 2012. - С.11.
4. Янкин А.Н. Зарубежный опыт охраны частной жизни в информационной среде в ходе производства по уголовному делу // Евразийская адвокатура. - 2018. - № 3 (34). - С. 76, 77.; Параскевов А.В., Левченко А.В., Кухоль Ю.А. Сравнительный анализ правового регулирования защиты персональных данных в России и за рубежом // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. - 2015. - № 10.
- 866 - 894.
5. Амерханов Р.А. Некоторые вопросы правового регулирования дистанционного способа продажи товаров // https://www.zakon.kz/5003249-nekotorye-voprosy-pravovogo.html (дата обращения: 06.05.2020 г.).
6. Саинская Л.А. Проблемы защиты прав потребителей при дистанционной торговле через сеть «Интернет» // https://cyberleninka.ru/article/n/problemy-zaschity-prav-potrebiteley-pri-distantsionnoy-torgovle-cherez-set-internet/viewer (дата обращения: 06.05.2020 г.).
7.ГроссФ.КриминальныйRunet. ТемныестороныИнтернета.М.:Изд-во«Э»,2016.-С.31-32.
8. Козин И.С. Метод обеспечения безопасной обработки персональных данных на основе применения технологии блокчейн // Научно-технический вестник информационных технологий, механики и оптики. 2019, № 5. —том 19. - С. 892-900.
9. Харченко О.И. Блокчейн в информационном обществе // Вестник СГСЭУ. - 2018. - № 2 (71). - С. 28.
10. Сигалов К.Е., Салин П.Б., Чувальникова А.С. Применение технологии блокчейн в праве, политике и государственном управлении //Вестник РУДН. Серия: Юридические науки. - 2018.
- № 4. Т. 22. - С. 571-572.
11. Кузнецов В.П., Бондаренко И.А. Блокчейн в образовании //Россия: тенденции и перспективы развития. 2018. - С. 858-860.
12. Мейксин С.М. Блокчейн в банковском секторе // Вестник науки и образования. - 2019.
- № 4(58). Часть 1. - С. 40-44.
13. Намиот Д.Е., Покусаев О.Н., Куприяновский В.П., Акимов А.В. Приложения блокчейн на транспорте // International Journal of Open Information Technologies. - 2017. - № 12. -С. 130-134.
14. Минбалеев А.В., Сафронов Е.Г. Правовая природа блокчейн // Вестник ЮУрГУ. Серия «Право». - 2018. Т. 18. - № 2. - С. 96.
15. Лысенко Ю.В., Рябчук П.Г., Гордеева Д.С. Технологии цифровизации: биткоин // Азимут научных исследований: экономика и управление. - 2018. Т. 7. - № 4(25). - С. 189.
16. Дравица В., Курбацкий В. Промышленная революция INDUSTRY 4.0 // Наука и инновации. - 2016. - Том 3. - №. 157. - С. 13-16.
17. Батюк Б.В. Биткоин: станет ли он наднациональной валютой? // https://cyberleninka. ru/article/n/bitkoin-stanet-li-on-nadnatsionalnoy-valyutoy (дата обращения: 02.05.2020 г.).
18. Чеботарев А. «Нужен ли Казахстану криптотенге?» // https://kapital.kz/tehnology/81986/ nuzhen-li-kazakhstanu-kriptotenge.html (дата обращения: 02.05.2020 г.).
19. Масалаков А.С. Особенности киберпреступлений: инструменты нападения и защита информации. М.: ДМКПресс, 2018. - С. 44, 47.
20. Сабиров К.К., Ахмеджанов Ф.Р. Некоторые вопросы законодательного укрепления ки-бербезопасности в Республике Казахстан // Вопросы кибербезопасности. - 2017. - №3(21).
- С. 59.
21. Тирранен В.А. Преступления с использованием искусственного интеллекта //Развитие территорий. 2019. № 3 (17). - С. 11.
22. Solaiman S.M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law, 2017, vol. 25, no. 2, p. 176.
23. Морхат П.М. Юнит искусственного интеллекта как электронное лицо // Вестник Московского государственного областного университета. Серия: Юриспруденция. - 2018. -№ 2. - С. 66.
24. Bowyer K. Robot Rights: at What Point Should an Intelligent Machine Be Considered a «Person»? // https://techxplore.com/news/2017-02-robot-rights-intelligent-machine-person.html (дата обращения: 30.04.2020 г.).
25. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots // Who's Who Legal, 2018 // http://whoswholegal.com/news/features/ article/34313/future-now-legal-consequences-electronic-personality-autonomousrobots (дата обращения: 30.04.2020 г.).
26. Кашкин С.Ю., Покровский А.В. Искусственный интеллект, робототехника и защита прав человека в Европейском союзе // Вестник Университета имени О.Е. Кутафина (МГЮА).
- 2019. - № 4. - C. 80.
27. BnaöuMupoea ^fl. Bu3oeu UH$0pMa^0HHüü skohomuku: pœeumue nenoeenecKoso Kanu-mana // 3K0H0MUKa mpyöa. - 2019. - № 3. Tom 6. - C. 1030.
28. ttynbsuH E.n. 3apyöewHbiü onum öenmenbHocmu opsaHoe, ocy^ecmennw^ux npouseoö-cmeo noysonoeHUM öenaM e 3neKmpoHHoM $opMame // Cemeeoe usöaHue «ÄKaöeMmecKax Mbicnb».
- 2019. - № 4 (9). - C. 86.
29. 3aü^e O.Ä. OcoöeHHocmu ucnonb3oeaHun sneKmpoHHoü UH$opMa^u e Kanecmee öoKasa-menbcme no ysonoeHoMy öeny: cpaeHumenbHo-npaeoeoü aHanus 3apyöe^Hoso 3aKoHoöamenbcmea // MypHan 3apyöeMHoso 3aKoHoöamenbcmea u cpaeHumenbHoso npaeoeeöeHUR. - 2019. - № 4. -C. 50-55.
30. fluneHb C.B. HH$opMa^oHHbie mexHonosuu e npaeomeopnecKoü öenmenbHocmu // Lex Russica. - 2009. - № 8 (153). - C. 111-120.
31. Xaöpueea T.H. npaeo nepeö eu3oeaMu ^$poeoü peanbHocmu // https:// izak.ru/img_content/pdf/%D0%9F%D1%80%D0%B0%D0%B2%D0%BE%2 0 %D0%BF%D0%B5%D1%80%D0%B5%D0%B4%20%D0%B2%D1%8B%D0%B7%D0 %BE%D0%B2%D0%B0%D0%BC%D0%B8%20%D1%86%D0%B8%D1%84%D1%80-%D0%BE%D0%B2%D0%BE%D0%B9%20%D1%80%D0%B5%D0%B0%D0%BB%D1%8C%D0 %BD%D0%BE%D1%81%D1%82%D0%B8.pdf (öama oÖpa^eHun: 14.04.2020 s.).
32. Äuöa Eanaeea npujeana KaaaxcmaH^e MaKcuManbHo ucnonb3oeamb npeöocmaenneMbie so-copsaHaMu eo3MoMHocmu Ha epeMR HU // https://toppress.kz/article/60167/aida-balaeva-prizvala-kazahstancev-maksimalno-ispolzovat-predostavlyaemie-gosorganami-vozmozhnosti-na-vremya-chp.
REFERENCES
1. Vystuplenie Glavy gosudarstva na zaklyuchitel'nom zasedanii Gosudarstvennoj komissii po chrezvychajnomu polozheniyu. g. Nur - Sultan, 11.05.2020 g. // http://www.akorda.kz/ru/ speeches/internal_political_affairs/in_speeches_and_addresses/vystuplenie-glavy-gosudarstva-na-zaklyuchitelnom-zasedanii-gosudarstvennoi-komissii-po-chrezvychainomu-polozheniyu (data obrashcheniya: 05.05.2020 g.).
2. Karckhiya A.A. Cifrovaya transformaciya prava // Monitoring pravoprimeneniya. - №1 (30).
- 2019. - S. 26.
3. Belgorodceva N.G. Teoretiko-pravovye aspekty zashchity personal'nyh dannyh. Avtoref. ... kand. yurid. nauk. M., 2012. - S.11.
4. YankinA.N. Zarubezhnyj opyt ohrany chastnojzhizni v informacionnojsrede v hodeproizvodstva po ugolovnomu delu // Evrazijskaya advokatura. - 2018. - № 3 (34). - S. 76, 77.; Paraskevov A.V., Levchenko A.V., Kuhol' Yu.A. Sravnitel'nyj analiz pravovogo regulirovaniya zashchity personal'nyh dannyh v Rossii i za rubezhom // Politematicheskij setevoj elektronnyj nauchnyj zhurnal Kubanskogo gosudarstvennogo agrarnogo universiteta. - 2015. - № 10. - 866 - 894.
5. Amerhanov R.A. Nekotorye voprosypravovogo regulirovaniya distancionnogo sposobaprodazhi tovarov // https://www.zakon.kz/5003249-nekotorye-voprosy-pravovogo.html (data obrashcheniya: 06.05.2020 g.).
6. Sainskaya L.A. Problemy zashchity prav potrebitelej pri distancionnoj torgovle cherez set ' «Internet» // https://cyberleninka.ru/article/n/problemy-zaschity-prav-potrebiteley-pri-distantsionnoy-torgovle-cherez-set-internet/viewer (data obrashcheniya: 06.05.2020 g.).
7. Gross F. Kriminal'nyj Runet. Temnye storony Interneta. M.: Izd-vo «E», 2016. - S. 31-32.
8. Kozin I.S. Metod obespecheniya bezopasnoj obrabotki personal'nyh dannyh na osnove primeneniya tekhnologii blokchejn // Nauchno-tekhnicheskij vestnik informacionnyh tekhnologij, mekhaniki i optiki. 2019, № 5. -tom 19. - S. 892-900.
9. Harchenko O.I. Blokchejn v informacionnom obshchestve // Vestnik SGSEU. - 2018. - № 2 (71). - S. 28.
10. Sigalov K.E., Salin P.B., Chuval'nikova A.S. Primenenie tekhnologii blokchejn v prave, politike i gosudarstvennom upravlenii // Vestnik RUDN. Seriya: Yuridicheskie nauki. - 2018. - № 4. T. 22. - S. 571-572.
11. Kuznecov V.P., Bondarenko I.A. Blokchejn v obrazovanii // Rossiya: tendencii i perspektivy razvitiya. 2018. - S. 858-860.
12. Mejksin S.M. Blokchejn v bankovskom sektore // Vestnik nauki i obrazovaniya. - 2019. -№ 4(58). Chast' 1. - S. 40-44.
13. Namiot D.E., Pokusaev O.N., Kupriyanovskij V.P., Akimov A.V. Prilozheniya blokchejn na transporte // International Journal of Open Information Technologies. - 2017. - № 12. - S. 130-134.
14. Minbaleev A.V., Safronov E.G. Pravovaya priroda blokchejn // Vestnik YuUrGU. Seriya
«Pravo». - 2018. T. 18. - № 2. - S. 96.
15. Lysenko Yu.V., Ryabchuk P.G., Gordeeva D.S. Tekhnologii cifrovizacii: bitkoin // Azimut nauchnyh issledovanij: ekonomika i upravlenie. - 2018. T. 7. - № 4 (25). - S. 189.
16. Dravica V., Kurbackij V. Promyshlennaya revolyuciya INDUSTRY 4.0 //Nauka i innovacii. -2016. - Tom 3. - №. 157. - S. 13-16.
17. BatyukB.V. Bitkoin: stanet li onnadnacional'noj valyutoj?//https://cyberleninka.ru/article/n/ bitkoin-stanet-li-on-nadnatsionalnoy-valyutoy (data obrashcheniya: 02.05.2020 g.).
18. Chebotarev A. «Nuzhen li Kazahstanu kriptotenge?» // https://kapital.kz/tehnology/81986/ nuzhen-li-kazakhstanu-kriptotenge.html (data obrashcheniya: 02.05.2020 g.).
19. Masalakov A.S. Osobennosti kiberprestuplenij: instrumenty napadeniya i zashchita informacii. M.: DMKPress, 2018. - S. 44, 47.
20. Sabirov K.K., Ahmedzhanov F.R. Nekotorye voprosy zakonodatel'nogo ukrepleniya kiberbezopasnosti v Respublike Kazahstan // Voprosy kiberbezopasnosti. - 2017. - №3 (21). - S. 59.
21. Tirranen V.A. Prestupleniya s ispol'zovaniem iskusstvennogo intellekta //Razvitie territorij. 2019. № 3 (17). - S. 11.
22. Solaiman S.M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law, 2017, vol. 25, no. 2, p. 176.
23. Morhat P.M. Yunit iskusstvennogo intellekta kak elektronnoe lico // Vestnik Moskovskogo gosudarstvennogo oblastnogo universiteta. Seriya: Yurisprudenciya. - 2018. - № 2. - S. 66.
24. Bowyer K. Robot Rights: at What Point Should an Intelligent Machine Be Considered a «Person»? // https://techxplore.com/news/2017-02-robot-rights-intelligent-machine-person.html (data obrashcheniya: 30.04.2020 g.).
25. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots // Who's Who Legal, 2018 // http://whoswholegal.com/news/features/ article/34313/future-now-legal-consequences-electronic-personality-autonomousrobots (data obrashcheniya: 30.04.2020 g.).
26. Kashkin S.Yu., Pokrovskij A.V. Iskusstvennyj intellekt, robototekhnika i zashchita prav cheloveka v Evropejskom soyuze // Vestnik Universiteta imeni O.E. Kutafina (MGYuA). - 2019. -№ 4. - S. 80.
27. Vladimirova C.D. Vyzovy informacionnoj ekonomiki: razvitie chelovecheskogo kapitala // Ekonomika truda. - 2019. - № 3. Tom 6. - S. 1030.
28. Shul'gin E.P. Zarubezhnyj opyt deyatel'nosti organov, osushchestvlyayushchih proizvodstvo po ugolovnym delam v elektronnom formate //Setevoe izdanie «Akademicheskaya mysl'». - 2019. -№ 4 (9). - S. 86.
29. Zajcev O.A. Osobennosti ispol'zovaniya elektronnoj informacii v kachestve dokazatel'stv po ugolovnomu delu: sravnitel'no-pravovoj analiz zarubezhnogo zakonodatel'stva // Zhurnal zarubezhnogo zakonodatel 'stva i sravnitel'nogo pravovedeniya. - 2019. - № 4. - S. 50-55.
30. Lipen'S.V. Informacionnye tekhnologii v pravotvorcheskoj deyatel'nosti //Lekh Russica. -2009. - № 8 (153). - S. 111-120.
31. Habrieva T.Ya. Pravo pered vyzovami cifrovoj real'nosti // https://izak. r u / i m g _c o nt e nt /p df/ % D 0 % 9 F % D1 % 8 0 % D 0 % B 0 % D 0 % B 2 % D 0 % B E% 2 0 %D0%BF%D0%B5%D1%80%D0%B5%D0%B4%20%D0%B2%D1%8B%D0%B7%D0 %BE%D0%B2%D0%B0%D0%BC%D0%B8%20%D1%86%D0%B8%D1%84%D1%80-%D0%BE%D0%B2%D0%BE%D0%B9%20%D1%80%D0%B5%D0%B0%D0%BB%D1%8C%D0 %BD%D0%BE%D1%81%D1%82%D0%B8.pdf (data obrashcheniya: 14.04.2020g.).
32. AidaBalaevaprizvala kazahstancev maksimal'no ispol'zovat' predostavlyaemye gosorganami vozmozhnosti na vremya ChP//https://toppress.kz/article/60167/aida-balaeva-prizvala-kazahstancev-maksimalno-ispolzovat-predostavlyaemie-gosorganami-vozmozhnosti-na-vremya-chp.
