ЦИФРОВИЗАЦИЯ ПРАВОВОГО ПРОСТРАНСТВА Текст научной статьи по специальности «Право»

УДК 349

ЦУЦЬЩТЬЩ КЕЩСТ1КТ1 ЦИФРЛАНДЫРУ

Рамазан ^марбек^лы Сэрпеков

Казацстан Республикасы Зацнама жэне цуцыцтыц ацпарат институтыныц директоры, Нур-Султан цаласы, Казахстан Республикасы; e-mail: [email protected]

Tyüíu свздер: цифрлыц умытуга цуцыц, цифрлыц технологиялар, киберцаутЫздж, жа-санды интеллект, бейнетYсiрiлiм арцылы жауап алу, Казацстан Республикасыныц Зацнама жэне цуцыцтыц ацпарат институты.

Аннотация. Бул мацалада автор цифрландыруды цуцыцтыц реттеудщ езектг мэселе-лерш, цифрландыру саласындагы багдарламалыц цужаттарды царастырады. Ацпараттыц технологиялар саласындагы царым-цатынастарды реттеуге фикциялыц ацпаратты цолда-нуды царастыру усынылады. Сондай-ац осы жумыста ацпаратты таратпау жэне цупи-ялылыцты сацтау жвшндегг мтдеттердг орындауды цамтамасыз етудщ, жеке емгрге цол сугылмаушылыц кетлджтергмен, жеке жэне отбасылыц цупиямен Конституция децгешнде бекгтглген дербес деректердг цоргау институтын дамытудыц мацызды аспектшерте назар аударылады.

Сондай-ац, зацнамалыц реттеудщ взектг мэселелерг жэне умыту цуцыгын (цифрлыц влiм) орнату бойынша шетелдж тэжгрибе, блокчеин, биткоин, киберцаутЫздж, цуцыцтыц субъектшк, цуцыцтыц мэртебе жэне жасанды интеллект (будан эрг - ЖИ) тасымалдаушы-ларыныц ¡с-эрекетг Yшiн жауапкерштж царалды. ЖИ тасымалдаушыларыныц цатысуымен деликтерге руцсат беру жэне езт-взг оцыту функциясы бар ЖИ тасымалдаушыларына ар-налган ерекшелжтергмен внд1рушшц жауапкершшгт белгшеу бойынша авторлыц усыныс берглдг. Роботтарды вндiрушiлер Yшiн шетелдерде, атап айтцанда Германияда, ОцтYстiк Кореяда, АКШ-та цабылданган этикалыц стандарттар царастырылды,

Мацалада адам мен роботтыц ецбегт белудщ eзектi аспекттерi, галымдардыц бшм берудi одан эрi дамытуга кезцарастары келтiрiлген. Сот терелтн ЖYзеге асыру кезтде ЖИ пайдалану мYмкiндiгiне талдау ЖYргiзiлдi. Автор Казацстан Республикасыныц Кылмы-стыц-процестж кодекстде кезделген цылмыстыц w бойынша ie ЖYргiзуде дэлелдемелердi цифрлыц технологияларды пайдалана отырып пайдалану мYмкiндiгiн негурлым толыц пайдалану мацсатында КПК-ш жетiлдiру жентде усыныстар бердi.

Мацалада Казацстан Республикасыныц Зацнама жэне цуцыцтыц ацпарат институтыныц нормативтж цуцыцтыц актiлердi электронды тYрде орналастыру жэне ацпараттыц-а-ныцтамалыц ЖYйелердi ЖYргiзу, цуцыцтыц насихат, цуцыцтыц ацпарат берудщ эдiстерi мен тэстдерш цифрландыру саласындагы цызметi атап керсеттген.

Корытындыда цифрлыц технологияларды пайдалану саласында цогамдыц цатынастар-ды цуцыцтыц реттеу теттнщ оцтайлы моделт цуру саласындагы цазiргi замангы зац док-тринасыныц мацызды рeлi атап ет\лед\.

ЦИФРОВИЗАЦИЯ ПРАВОВОГО ПРОСТРАНСТВА Сарпеков Рамазан Кумарбекович

Директор Института законодательства и правовой информации Республики Казахстан, г. Нур-Султан, Республика Казахстан; e-mail: [email protected]

Ключевые слова: право на цифровое забвение, цифровые технологии, кибербезопасность, искусственный интеллект, видеодопрос, Институт законодательства и правовой информации Республики Казахстан.

Аннотация. В данной статье автор рассматривает актуальные вопросы правового регулирования цифровизации, программные документы в сфере цифровизации. Предлагается рассмотреть применение фикций к регулированию отношений в сфере информационных технологий. Также в данной работе обращается внимание на важные аспекты обеспечения исполнения обязанностей по нераспространению информации и соблюдению конфиденциальности, развития института защиты персональных данных, подкрепленного на уровне Конституции гарантиями неприкосновенности частной жизни, личной и семейной тайны.

Также рассмотрены актуальные вопросы законодательного регулирования и зарубежный

опыт по установлению права на забвение (цифровая смерть), регулирования блокчейна, бит-койна, кибербезопасности, правосубъектности, правового статуса и ответственности за действия носителей искусственного интеллекта (далее - ИИ). Дано авторское предложение по разрешению деликтов с участием носителей ИИ и по установлению ответственности производителя с особенностями для носителей ИИ с функцией самообучения. Рассмотрены принятые в зарубежных странах этические стандарты для производителей роботов, в частности в Германии, в Южной Кореи, в США.

В статье приведены актуальные аспекты разделения труда человека и робота, точки зрения ученых на дальнейшее развитие образования. Проведен анализ возможности использования ИИ при отправлении правосудия. Автором в целях более полного использования предусмотренной Уголовно-процессуальным кодексом Республики Казахстан возможности использования в производстве по уголовному делу доказательств с применением цифровых технологий представлены предложения по совершенствованию УПК.

В статье отмечена деятельность Института законодательства и правовой информации Республики Казахстан по размещению в электронном виде нормативных правовых актов и ведению информационно-справочных систем, в сфере правовой пропаганды, цифровизации методов и способов предоставления правовой информации.

В заключение отмечается важная роль современной юридической доктрины в сфере созданию оптимальной модели механизма правового регулирования общественных отношений в сфере использования цифровых технологий.

DIGITALIZATION OF THE LEGAL SPACE Sarpekov, Ramazan K.

Director of the Institute of legislation and legal information of the Republic of Kazakhstan, Republic of Kazakhstan, Nur-Sultan; e-mail: [email protected]

Keywords: the right to digital oblivion, digital technologies, cybersecurity, artificial intelligence, video survey, Institute of legislation and legal information of the Republic of Kazakhstan.

Abstract. In this article, the author examines current issues of legal regulation of digitalization, program documents in the field of digitalization. It is proposed to consider the application of fictions to the regulation of relations in the field of information technology. This paper also draws attention to the important aspects of ensuring compliance with the obligations of non-proliferation of information and confidentiality, the development of the institute of personal data protection, backed up at the constitutional level by guarantees of privacy, personal and family secrets.

It also discusses current issues of legislative regulation andforeign experience in establishing the right to oblivion (digital death), regulation of blockchain, bitcoin, cybersecurity, legal personality, legal status and responsibility for the actions of artificial intelligence carriers (here in after - AI). The author's proposal is given to resolve torts involving AI carriers and to establish manufacturer's liability with features for AI carriers with the self-learning function. The ethical standards adopted in foreign countries for robot manufacturers, in particular in Germany, South Korea, and the United States, are considered.

The article presents current aspects of the division of labor between human and robot, the point of view of scientists on the further development of education. The possibility of using AI in the administration of justice is analyzed. In order to make more complete use of the possibility of using evidence applying digital technologies in criminal proceedings provided for by the Criminal procedure code of the Republic of Kazakhstan, the author presents proposals for improving the criminal procedure code.

The article highlights the activities of the Institute of legislation and legal information of the Republic of Kazakhstan on the placement of normative legal acts in electronic form and maintenance of information and reference systems, in the field of legal propaganda, digitalization of methods and methods of providing legal information.

In conclusion, the important role of modern legal doctrine in creating an optimal model of the mechanism legal regulation of public relations in the field of digital technologies is noted.

Агымдагы онжылдыктыц нег^рлым сер-пiндi жаИандык YPДiстершщ бiрi цифрлан-дыру болып табылады. Казiрri замангы Казакстан когамыныц eмiрiне оныц тегеурiндi кYшпен енуi жаца акикатты калыптастырды, оныц орындылыгы адамныц бYкiл eмiрлiк тiршiлiгi саласында цифрлык технологияныц пайдаланылуына саяды, б^л, ез кезегiнде адам капиталыныц белсендi дамуына, эко-номиканы модернизациялауга, мемлекеттж жэне когамдык институттарды кайта кдауга жэне тиiсiнше азаматтардыц кYнделiктi eмiр жагдайын жаксартуга септiгiн тигiзедi. Казакстан когамын «цифрландыру» процесшщ т^жырымдамалык негiзi мына нормативтiк к^кыктык актшер ережелерiнде:

1) 2013 жылы бектлген «Акпараттык Ка-закстан - 2020» мемлекеттк багдарламасын-да;

2) Казакстан Республикасы Yкiметшщ

2017 жылгы 12 желтоксандагы каулысымен бекiтiлген «Цифрлык Казакстан» мемлекеттiк багдарламасында;

3) Казакстан Республикасы Президентшщ «Казакстан Республикасыныц 2020 жылга дейiнгi стратегиялык даму жоспары туралы» 2010 жылгы 1 акпандагы № 922 Жарлыгында;

4) Казакстан Республикасыныц Т^цгыш Президентi - Елбасы Н.Э. Назарбаевтыц: «Тeртiншi eнеркэсiптiк революция жагдай-ындагы дамудыц жаца мYмкiндiктерi» атты

2018 жылгы 10 кацтардагы жолдауында жэне баскаларда орныктырылган.

Цифрландыру процесшщ ыкпалымен когамдык катынастарды eзгерту к¥кыкты модернизациялаудыц алгышарты болатын-дыгы жалпыга белгiлi. Мемлекет Басшысы Касым-Жомарт Кемел^лы Токаев Казакстан халкына eзiнiц «Сындарлы когамдык диалог - Казакстанныц т^рактылыгы мен eркенде-уiнiц негiзi» атты 2019 жылгы 2 кыр^йекте-п Жолдауында Yкiметтiц алдында зацнама-ны: «Акылды калалар», Yлкен деректер, 5G, блокчейн, цифрлык активтер, жаца цифрлык каржылык к¥ралдар сиякты жаца технологи-ялык к¥былыстарга бейiмдеу мiндетi т^рган-дыгын атап кeрсеттi.

ДYниежYзiлiк денсаулык сактау ^йымы iндет деп мойындаган коронавирус таралуы-ныц жалпыга белгш ахуалына орай цифрлык технологияны колдану ерекше eзектi эрi ка-жетт шара болды. Казакстан Республикасыныц Президент К.К. Токаев Тeтенше жагдай жeнiндегi мемлекеттiк комиссияныц 2020 жылгы 11 мамырдагы корытынды отырысын-да сeйлеген сeзiнде экономика мен когамды цифрландырудыц барлык процесiне жаца сершн берудiц мацыздылыгын атап ^рсетть Телемедицинаны, алыстан окыту режимiн дамытуга, елiмiздiц барлык оку орындарын-да цифрландыруды аяктауга, Yкiметтiц, ми-

нистрлктердщ, экiмдiктердiц кецестерi мен отырыстарын кашыктыктан eткiзуге назар аударды [1]. Б^л бYкiл мемлекет аумагында, эсiресе цифрлык технологияны пайдалануда бYгiнгi кYннiц талаптарына бейiмделу мэселе-лерiн iздестiрудiц мацыздылыгын ^рсетедь

Цифрландыру процесi когамдык каты-настардыц шекарасы мен мазм^нын кецейту аркылы оларды к¥кыкпен реттеу нысанасына эсерiн тигiзедi. Эдебиетте эдiлеттi тYрде атап кeрсетiлгенiндей, б^рын к¥кыкта белп^з когамдык катынастардыц пайда болуымен ^птеген к¥кыктык проблемалар туындады, олар ^бшесе классикалык к¥кыктык доктри-наларды колданбай, сынап кeру жэне кателесу аркылы шешшуде [2]. Зац шыгарушы, бiздiц кeзкарасымыз бойынша, когам прогресi ба-рысында туындайтын жаца когамдык катынастарды ^ршеу дэл (катесiз) реттей алмай-ды. Б^л жагдайда бiз фикцияны колдану, ягни когамдык катынастарды тиiмдi реттеу Yшiн белгiлi бiр к¥былыстыц бар екендiгiне жол берудi пайдалану кажет деп есептеймiз. Фик-цияныц баршага белгiлi мысалы зацды т^лга болып табылады, ол адам ретшде табиги жан-ды к¥былыска ие емес, алайда сонымен катар к^кык субъектiсi деп танылады. Фикцияны пайдалану, ец болмаганда олар туралы бшм жэне оларды к¥кыктык камтамасыз ету теть гiнiц тиiмдi тэсiлдерi нег^рлым айкын жэне толык болганга дейiн цифрлык технологияны колдануды к¥кыктык реттеу саласына кiретiн когамдык катынастарды т^рактандыруга мYмкiндiк бередi. Б^л орайда фикцияны жеке-леген кандай да бiр к¥кык нормаларын жeнге кел^ру кезiнде гана емес, мацызды к¥кыктык институттарды к¥ру кезiнде де колдану кажет.

Олардыц негiзгiлерiн карастырайык.

Дербес деректердi коргау. Еылыми эде-биетте дербес деректердi коргау институты жеке eмiрге, жеке жэне отбасылык к¥пияга тиiспеушiлiк к¥кыгына конституциялык ке-пшдк берумен бекiтiледi. Б^л к¥кыктардыц юке асырылуына орай eзге т^лгалардыц м^н-дай акпаратты таратпау жэне к¥пиялылыкты сактау жeнiндегi зацдык мiндеттерiмен ^шта-стырылады [3].

Акпараттык ортада дербес деректердi коргау жeнiндегi шетелдiк тэжiрибе кызыкты. Жеке сипаттагы акпаратты коргау туралы зацнаманы кабылдаган бiрiншi ел ретшде Швецияныц тэжiрибесi назар аударарлык, ол оныц кYшiн компьютерлiк деректер база-сында сактаулы т^рган акпаратка колданды. К^пиялылыкка к¥кык конституциялык дец-гейде ОцтYCтiк Африка Республикасында бел-гiлендi. Б^дан баска, б^л елде Электрондык коммуникациялар жэне мэмiлелер туралы, сондай-ак Т^тынушылар к¥кыктарын коргау туралы зацдарда жеке акпаратты коргау жeнiндегi нормалар бектлген. АКШ-та акпа-

раттык ортада жеке ем1рд1 коргауды цамтамасыз ету мэселес «Online Personal Privacy Act» Зацымен реттелед^ онда Интернетт пайдала-нушылардыц дербес деректерш коргау кепш-дЫ, оныц шшде пайдаланушылардыц жеке сипаттагы акпаратын пайдалану Yшiн ком-паниялар олардыц келiсiмiн алу мiндеттiлiгi кезделедi [4].

Азаматтар туралы дербес мэлiметтердi зацнамада белгшенген тэртшпен арнаулы мемлекеттiк органдар, салык органдары, сондай-ак каржы ^йымдары, телекоммуни-кациялы; компаниялар линиялары бойынша к^кык коргау кызметi саласындагы уэкшет-т мемлекеттiк органдар жинактап, зерделеуi мYмкiн екенiн атап еткен жен.

«Тауар» ретiндегi акпарат Yлкен к^н-дылыкка жэне нарыкта с^раныска ие болды, б^л оныц сакталуын камтамасыз ету про-блемасын езектi етедi. Б^л орайда цифрлык технологиялардыц дамуы эрдайым езектi к^кыкты; реттеумен ^ласа бермейд^ ал б^л саладагы зацнама тшмдшпнщ жеткштздь ri адам к¥кы;тарын сактауга терiс эсер етуi мYмкiн.

Оныц Y^i^ к¥кы; колдану практикасын-да нормативтж децгейде ез шешiмiн талап ететiн мэселелер байкалуда. Мысалы, «Дербес деректер жэне оларды коргау туралы» Зацныц 8-бабы 1-тармагыныц мазм^нынан зацнамада кезделген жагдайларды коспаган-да, дербес деректердi жинау мен ецдеудщ мш-деттi шарты субъектiнiц немесе оныц зацды екiлiнiц келiсiмi болып табылатынын1 тYсiн-ген жен.

«Дербес деректер жэне оларды коргау туралы» Зацга сэйкес дербес деректердi ецдеуге келiсiм беру жеке езi кол койган кагаз жетюз-гiште не электрондык цифрлык колтацбамен куэландырылган электрондык к^жат аркылы мYмкiн болатын проблема болып отыр.

Дербес деректер саласын, бiрiншi кезекте, электрондык сауда козгайды. Жеке т^лгаларга б^л сауданы жYзеге асыруга интернет-дYкен-дер, интернет-алацдар аркылы тауарларды, керсетiлетiн кызметтердi жэне ж^мыстарды еткiзу Yшiн тиiстi критерийлер ^сынылуга тиiс.

Сатушыныц езi туралы, тауар туралы жэне сатып алу шарттары туралы беретiн акпаратыныц болуына жэне колже™дшгь не назар аудару кажет деп есептеймiз жэне м^ндай акпарат жеке т^лга Интернет желюш-де тауарды сатып алу туралы шешiм кабыл-

даганга дейiн оган колжетiмдi болуга тиiс. «Тртынушылардыц к^кыктарын коргау туралы» Зацга сэйкес т^тынушы тауар, ж^мыс, керсетiлетiн кызмет туралы жэне сатушы (дайындаушы, орындаушы) туралы мэлiмет-тi алуга к^кылы (10-бап), ал сатушы сатып алушыга м^ндай акпаратты беруге мiндеттi (25-бап)2. Кашыктыктан сауда жасау кезiнде сатып алушыныц тауармен тiкелей танысу мYмкiндiгi болмайды [5]. Арнаулы эдебиетте Интернет-сайт сатушы туралы материалдык емес акпаратты орналастыру орны ретiнде акпарат пен багдарламалык камтылымныц Yйлесiмi болып табылатыны, соныц салда-рынан теракты екiлдiк к^ра алмайтыны атап керсетiледi. Эдебиетте Интернет желюшде-гi сайттардыц иелерi, эдетте, серверлердщ меншiк иелерi болып табылмайтыны да жэне сайтты орналастыру Yшiн мамандандырылган ^йымдардыц кызметтерiн пайдаланатындыгы да керсетiледi [6]. Сатушы туралы акпарат жарамсыз болган жагдайда «кашыктыктан» сатып алган адамныц тауарды ала алмайтын-дыгымен катар, оныц сапасы женшде на-разылык бiлдiру Yшiн мекенжайды аныктау мYмкiн болмайтындыгына орай тэуекел туын-дайды. Осыган байланысты колданыстагы Сауда орындарынан тыскары жерлерде бел-шек сауда жасау кагидаларына3 кашыктыктан сауда жасау дефинициясын енгiзу, сондай-ак серверлер иелерiнiц орналастыратын акпарат Yшiн жауапкершiлiгi туралы мэселенi зацна-малык реттеу ^сынылады.

Жеке т^лганыц езi бейхабар бола отырып, оныц дербес деректерш пайдаланып сатып алуды реЫмдеу мYмкiн екендiгiн атап айткан жен, мысалы, авиа немесе темiржол билет-терiн сатып алу, онда азаматтыц езiнiц дерек-терi жэне сол келкпен езiмен бiрге жYретiн адамныц деректерi керсетiледi.

Интернет-ресурстар азаматка ж^мыс iз-деу Yшiн белгiлi бiр нысан бойынша авториза-циядан етудi жэне дербес деректердi керсете отырып тYЙiндеме жасауды ^сынады. Дербес деректердi тарату азаматтыц к^кыктарын б^з-бауга тиiс жэне «Дербес деректер жэне оларды коргау туралы» Зацга сэйкес азамат мэлiмет-тердщ зацсыз алынганы туралы мэлiмдеуге к^кылы, б^л Интернет-ресурс иесшщ осы акпаратты ашык колжетiмдi жолмен не езге де зацды непздерде алу аркылы оныц шыккан жерiнiц зацдылыгы туралы растайтын мате-риалдарга ие болу кажеттiгiне экеп согады.

1 «Дербес деректер жэне оларды цоргау туралы» 2013 жылгы 21 мамырдагы № 94-VКазацстан Республикасыныц Зацы //https://online.zakon.kz/document/?doc_id=31396226 (жYгiнген kyh: 05.05.2020ж.).

2 «Тутынушылардыц цуцыцтарын цоргау туралы» 2010 жылгы 4 мамырдагы № 274-IVКазацстан Республикасыныц Зацы //https://online.zakon.kz/document/?doc_id=30661723#pos=352;-44 (жYгiнген kyh: 06.05.2020ж.).

3 «Желшк маркетинг, цогамдыц таратушылар, пошта арцылы жэне басца да тэсглдермен сату жолымен сауда орындарынан тыс бвлшек сауда ережест бекту туралы» Казацстан Республикасы Укгметшц 2005 жылгы 14 цыркуйектегг № 918 цаулысы //https://online.zakon.kz/Document/?doc_id=30023958#p os=13;-5 (жугтген kyh: 06.05.2020ж.)

Интернет желiсiнде дербес деректердi коргауды камтамасыз етудщ eзектi мэселес эрбiр адамныц цифрлык ^мытуга к¥^ыгы болып табылады.

Цифрлык eлiм. Фейсбуктi пайдаланушы-лардыц саны миллиардтан астам деп бел-гiленiп отыр. Статистикага Караганда эрбiр минут сайын Фейсбукты пайдаланушы Yш адам кайтыс болады. Францияда 2016 жылгы 7 казанда «Цифрлык республика туралы» Зац кабылданды, ол цифрлык eлiмге к¥кыкты - адам елгеннен кейiн онлайн-кызметтi кер-сетушiлер немесе сешм бiлдiрген т^лга-лар берген Интернеттеп дербес акпараттыц тагдыры туралы оныц ерш ниетш сактауга к^кыгын кeздейдi4. Твиттер де пайдаланушы кайтыс болган жагдайда, оныц аккаунтыныц архивi туыскандарына берiлетiн болады деген шешiм кабылдады. вз кезегiнде Фейсбук ак-каунтты жадыныц парактары ретiнде сактай отырып, оны жабу практикасын колданады [7]. казакстан Республикасыныц зацнамасы «кырылып кеткен» аккаунттар дейтiнге мен-шш к¥кыгын реттейтiн жэне олардыц кайтыс болган иелершщ к¥кыгын коргайтын норма-ларды кездеуге тиiс деп ойлаймыз.

Дербес деректердiц кауiпсiздiгi мен корга-луын галымдар олардыц пайдаланылуы блок-чейн технологиясында негiзделiп, таратылган тошмде ецдеу жолымен камтамасыз етудi ^сынады [8].

Блокчейн - б^л кепфункционалды жэне кeпдецгейлi акпараттык технология, оны эко-номикалык кызметте, атап айтканда, каржы операцияларында, ^йымдардагы мэлiметтердi есепке алуда колдануга болады[9]. Б^ган мы-сал ретiнде азаматтык-к¥кыктык шарттарды (Швеция, Гондурас, Грузия), ецбек шарттарын (Coca-Cola компаниясы, АКШ) тiркеу кезiнде блокчейндi пайдалануды айтуга болады.

Блокчейн технологиясын сайлау про-цесiнде (Сьерра-Леоне), халыкты саяси жэне элеуметтiк с^рактар бойынша тестiлеуде (Австралия) [10], бшм беру саласында [11], банк секторында [12], кeлiкте (Ресей) [13] жэне баскаларда ойдагыдай колдануга болады.

М^ндай деректердiц блокчейн техноло-гиясыныц аркасында дэл эрi накты болуы Интернет-ресурстардыц кез келген пайда-ланушысына белгш бiр деректердiц оныц иесiне тиесшшгше кез жеткiзуге мYмкiндiк бередi. М^ндай технологияныц субъектiлер арасындагы есеп-кисап катынастардыц езара эрекеттесуiн оцайлатуга багытталганы атап

керсетшедь Блокчейннiц коргалгандыгы де-ректердщ зацсыз eзгеруiнен жэне колдан жасалуынан ойдагыдай коргауга мYмкiндiк бередi деп саналады [14]. М^ндай технологияныц артьщшылыгы электрондык Yкiмет-те (e-government) не азаматтарга арналган Yкiметте оныц телн^скалыгыныц сакталуы мен расталуына байланысты кептеген мэсе-лелердiц шешiмiне айналуы мYмкiн. Осыган байланысты блокчейн-технологияларды колдана отырып, мемлекеттж кeрсетiлетiн кызметтердi цифрлык нысанга ауыстыру мемлекет пен когамныц езара ю-кимылын да-мытудыц перспективалык багыты болып та-былады.

Салыстырмалы тYрде алганда, таяу ара-да блокчейн биткоинмен б1рт^тас к^былыс ретiнде кабылданудан калганын атап керсету кажет, оныц Yстiне блокчейн технологиясы биткоин криптовалютасын шыгару мен оныц айналымыныц негiзi болып табылады [9].

Биткоин. Биткоинныц зацдык табигаты туралы бiрыцFай пiкiр жок, оны тауар ретшде, телем кдаалы не каржы кдаалы ретiнде керсе-тетш кезкарастар бар5. ^аржы жэне инвестиция саласындаFы танымал маман А. Дамода-ранныц пайымдауынша, биткоин онша сэттi болмаса да, валюта, ейткеш оныц айырбастау к^ралы ретiнде колданылуы шектеулi болады, не коллекциялау объектюь Б^л ретте ол биткоин актив бола алмайды жэне тауар болып табылмайды деп атап етед^. Экономист Л. Кристуфека езшщ зерттеулерiнде биткоинныц тэуекелдi инвестицияны бiлдiретiнiн атап eтедi [15]. Биткоин Финляндияда, Герма-нияда, Канадада, Жапония мен А^Ш-та телем к^ралы ретшде танылды. Б^л ретте биткоинды бiрде-бiр мемлекет ресми телем кдаалыныц айырбасы ретiнде мойындамады. Жапония Yкiметi 2017 жылдан бастап криптовалютаны, оныц шшде биткоинды телем кдеалы ретiнде мойындады жэне ол валюта болып танылады [16]. Алайда А^Ш-та биткоинды валюта деп мойындамай, есептiк-кассалык кызмет керсету саласындаFы кэсiпкерлiк кызметке жаткы-зады. Биткоин зацсыз деп танылFан Вьетнам, K,ырFыз Республикасы, Исландия, Боливия OFан катысты карама-карсы кезкарас ^станды [15, 188-б.]. Биткоинмен катар сегiз криптова-люта белгiлi, атап айтканда: эфир (ETH/USD), лайткоин (LTC/USD). Нидерландтыц орталык банкi ез криптовалютасын зерттеу жYргiзу максатында белгiледi [17]. казакстан Республикасыныц ¥лттык банкi eзiнiц криптова-

4 «Цифрлыц республика туралы» 2016 жылгы 7 цазандагы № 2016-1321 Зац // https://wipolex.wipo.int/ru/ legislation/details/16380 (жYгiнген кYн: 04.05.2020ж.).

5 Цифровая экономика Российской Федерации // http://static.government.ru/media/files/9gFM4FHj4PsB79I5v7yL VuPgu4bvR7M0.pdf.

6Интернет-портал Аналитического центра при Правительстве Российской Федерации // http://ac.gov.ru/ files/publication/a/16530.pdf.

лютасын енпзу туралы бастама кетермейдi, дегенмен, баска да криптовалюталарды сатып алуга, сатуга жэне олардыц майнингiне р^к-сат бередi, бiрак оларды жарнамалауга карсы пiкiрлер айтады [18].

Акпараттык технологиялардыц белсен-дi тYрде дамуымен интернет-кецiстiкте, ки-беркауiпсiздiк саласындагы колданыстагы зацнаманы жетiлдiруде кауiпсiздiктi камтама-сыз ету мэселелерiн туындатып отыр.

КиберкаушЫздк. Зиян келтiретiн багдар-ламалардыц 3%-ы гана багдарламалык камтылымныц техникалык т^ргыдан кемють гiн пайдаланып калуга тырысады. Ал калган 97%-ы пайдаланушыныц езше таныс электрондык пошта мекенжайына сенген ацгал-дыгын пайдалана отырып7, кдабанын алдауга жэне оныц ез к^пия сезiн езi хабарлауына мэжбYр етедi[19]. Киберк^кык б^зушылар бопсалау немесе алаяктык жасау максатын-да пайдалануга болатын, зацмен коргалатын к^пияны камтитын тиiстi к^жаттарга кол жет-юзу Yшiн элеуметтiк желiнiц электрондык по-штасына немесе аккаунтына колжетiмдiлiктi пайдаланады.

Осы саладагы зацнаманыц жет^вдршме-уi киберкылмыстылыкка карсы тиiмдi ю-ки-мыл жасауга кедергi келтiрiп отырганын атап айту кажет. Мэселен, ^азакстан Республикасы ^ылмыстык кодексiнiц (б^дан эрi - ^К) 210-бабында зиянды компьютерлiк багдарла-малар мен багдарламалык енiмдердi шыгарга-ны, пайдаланганы немесе таратканы Yшiн жа-уапкершiлiк кезделген. ^алыптаскан практика бойынша компьютерлк багдарламаныц «зиян кел^рушЬ» деген аныктамасын сарапшылар вируска карсы багдарламалык камтылымныц алдыцгы катарлы ендiрушiлерiнiц номенкла-турасы женiндегi зиян келтiрушi багдарла-маларды саралаудан бас тартады. Алайда, зиянды компьютерлiк багдарламалардыц бэрi бiрдей вирус болып есептелмейдi жэне виру-стыц барлыгы зиян келтiрушi багдарлама болып табылмайды. Мысалы, вирус ж^ктырган компьютерлердiц есептеу куатын жымкы-руга арналган Trojan.BitCoinMiner тYрiндегi трояндык багдарламаныц тYрленуi вируска карсы багдарламалык камтылыммен айкын-далып, зиян келтiрушi багдарламалар каси-етiне ие болмайды. Екiншi жагынан караганда, сериялык немiрлердi (кiлттердi) немiрлiк т^ргыдан тYрлендiруге арналган, кейiннен оны зацсыз пайдалану максатында компью-тердiц кандай да бiр терезесiне енгiзу Yшiн пайдаланылатын keygen.exe (кейген) сиякты багдарламага вируска карсы багдарламалар эсер етпейд^ алайда, зацнамага сэйкес осы багдарламадан туындайтын, компьютердегi

к^пия сездi б^зуга арналган кiлтi бар файл акпараттыц коргалуын бейтараптандырып, оган санкциясыз кол жеткiзудi камтамасыз ету Yшiн зиян келтiрушi багдарламалар ката-рына жатады [19, 139-140-б, 143-б.].

Тагы бiр проблема бар. ^К 210-бабыныц диспозициясында акпаратты санкциясыз жо-юга, бYлдiруге, езгертуге, кешiрмесiн алуга немесе корганыш кдаалын бейтараптанды-руга кабiлеттi компьютерлк багдарламалар-ды эзiрлеуге, дайындауга багытталган эрекет ретiнде зиян келтiрушi багдарламалар жасауды карастырады. Зацнамада м^ндай багдарлама-ларды тарату деп, оган кез келген бегде адамныц электрондык желi аркылы зиян келтiрушi багдарламага сштемеш камтитын хабарла-маны таратуды, ягни багдарламага желiмен немесе езге де тэсшмен р^ксат беретiн кез келген эрекетт коса алганда, ыктимал тэсш-дердiц кез келгенi аркылы кол жетюзуге р^к-сат беру тYсiнiледi. Осы функциялардыц бэрi РНР тшндеп багдарламалык кодты камтитын акпараттан санкциясыз кешiрме жасауга арналган компьютерлк багдарламаларды бiлдiретiндiктен, «фишинг» сайты орында-уга кабiлеттi екенш атап керсету кажет. Зиян келтiрушi багдарламаларды жасап, таратудыц аныкталган кауш-катершщ жолын кесу бойынша бYгiнгi тацда кабылданган бiрден-бiр шара - «фишинг» сайттарын б^гаттау нэтиже бермей отыр, ейткеш м^нымен жасаушылар-дыц орнына, сайттар эрекетiнiц жолы гана кес^^ [19, 140-141-б.].

^ытай Халык Республикасында киберка-уiпсiздiктi камтамасыз ету бойынша мемлекет-тiк децгейде пэрмендi шаралар кабылданды. К^ытайда 2003 жылы «Алтын калкан» жоба-сы юке косылды, ол кибершабуыл мен зацсыз эрекеттщ алдын алу Yшiн колданылады.

Францияда 1988 жылгы 5 кацтардагы Godfrain Зацында киберкылмыстылыкка карсы ^рес бойынша мемлекеттiк мшдет бел-гiлендi. Осы зацныц ережелерш негiзге ала отырып, провайдерлер мYДделi т^лгаларга интернет-ресурстардыц авторлары туралы акпарат бередь Сондай-ак Францияда 1978 жылдан бастап ¥лттык информатика жэне еркшдк комиссиясы ж^мыс iстеп келедi, оныц к^зыретше информатика саласындагы адам к¥кыктары мен бостандыктарын коргау кiредi. Германияда зацдастырылмаган кон-тенттi интернет-ресурстарга орналастыру, егер провайдерлер осындай акпараттыц мен-шiк иесi болса немесе езге де дереккездерге сштеме жасай отырып, эдей таратса, жауап-кершiлiк осы провайдерлерге жYктеледi. Жа-понияда да жауапкершшк женiнде осыган ¥ксас кезкарас калыптаскан.

7 https://digitalguardian.com/blog/social-engineering-attacks-common-techniques-howprevent-attack (жугтген кун: 04.05.2020ж.).

казакстан Республикасыныц Зацнама жэне к¥кыктык акпарат институты кызмет-керлерiнiц ецбектерiнде акпараттык жYЙелер мен ресурстар кауiпсiздiгi мэселесiне назар аударылатынын айта кеткен жен. Мысалы, 6y-гiнгi тацда барлык инфракдаылымдар (мем-лекеттiк болсын, жеке сектор болсын) шетел-дiк аппараттык жэне баFдарламалык кдаалдар пайдаланыла отырып кдеы^ан. ОсыFан орай ^азакстанныц акпараттык ресурстарын корFа-удыц жай-кYЙi аппараттык жэне баFдарлама-лык камтылымды жеткiзетiн шетелджтерге тiкелей тэуелдi. ОсыFан байланысты колда-ныстаFы ^К пен Э^БтК мемлекеттк акпараттык жYЙелердiц кауiпсiздiгiн камтамасыз ету жeнiндегi мiндеттердi орындамаFаны немесе тиюшше орындамаFаны Yшiн жауапкершшк-т кeздейтiн к¥кык б^зушылык кдаамдарымен толыктыру, сондай-ак мемлекеттiк емес, мы-надай жекеше акпараттык жYЙелердi:

- кашыктыктан банк кызметiн кeрсететiн акпараттык жYЙелердi, банктердiц, сактан-дыру ^йымдары клиенттершщ дербес дерек-терiн сактау жYЙелерi;

- квазимемлекеттiк сектор субъектiлерiнiц акпараттык жYЙелерiнiц акпараттандыру объектiлерiн де мшдетт тYрде аттестаттау тэртiбiн зацнамаFа енпзу туралы мэселе кой-ылады [20].

2016 жылы А^Ш-та «Киберкауiпсiздiк саласындаFы зерттеулер мен эзiрлемелердiц стратегиялык федералдык жоспары» (Federal Cybersecurity Research and Development Strategic Plan) кабылданды. Б^л жоспардыц ^зак мерзiмдi максаттары Fылым мен технология саласында артыкшылыкка кол жеткiзу болып табылады, б^л карсыластардыц шы^ында-ры мен тэуекелдерш арттыру, сонымен катар осы эрекеттен алатын пайдасын анаF¥рлым темендету есебiнен олардыц зиян келтiретiн эрекеттерш болдырмауFа кемектесер едi.

Жасанды интеллектшщ кейбiр белгiлерi бар компьютерлiк вирустар аркылы жасала-тын киберкылмыстар таяу болашактыц акика-тына айналуда, б¥ларFа бейiмделгiш эрекет (эртYрлi жаFдайларда тYрлiше эрекет етуге мYмкiндiк беретiн), мутациялар аркылы ездь гiнен пайда болу (б^л неF¥рлым ескi н^скалар сигнатураларыныц пайдасыздыFын камтамасыз етедi), мимикрия (зацды баFдарламалар-мен бYркену) жатады [21].

Жасанды интеллектiнiц к¥кык субъек-тiлiгi, к¥кыктык мэртебесi жэне оны жет-кiзушiлердiц эрекеттерi Yшiн жауапкершш-гi. Жасанды интеллект (б^дан эрi - ЖИ) жеткiзушiлерiне (юниттерiне) дербес крък субъектiлiгiн беру мэселесi Fылыми эдеби-етте негiздi пiкiрталас тудыруда. взiн-eзi

тану мен eзiн-eзi аныктаудыц автономдык критерийлерi бойынша С.М. Солайман ЖИ жетюзушшерш жануарлармен салыстырып, екеуi де к¥кыктар мен мiндеттердi жYзе-ге асыруFа кабiлетсiз деп есептейдi [22]. Ал баска Fалымдар ЖИ жетюзушшершщ жалFан автономдыFын атап керсете отырып, оларды ^йымдармен салыстырады. Мэселен, ЖИ жеткiзушiсi автономдыкты анаF¥рлым аукым-ды тYрде пайдалана алады, сондыктан eзiнiц иесi немесе эзiрлеушi оны толыктай бакы-лай алмауы мYмкiн8. Yшiншi топ «жасанды интеллект юнитше электрондык т:^етаныц к^кыктык мэртебесш беру м^ндай юниттiц автономдыFы мен дербестЫн танып, оныц ез эрекеттерi Yшiн жауапкершiлiгiн жеке жэне зацды т:^еталарды босатуFа емес, керiсiнше, осындай баFыныштылыкты ныFайтып, жасанды интеллект юниттерi мен олардыц ар-тында тYрFан накты адамдарды сэйкестендiру проблемаларын шешуге баFытталуы тиiс» деп есептейдi [23]. Ал Fалымдардыц тeртiншi то-быныц пiкiрi «электрондык т¥ЛFа» крък объ-ектiсi мен субъектiсiн бiр мезгiлде интеграл-дык тYрFыдан ^штастыруды бiлдiредi дегенге саяды [24]. Бесiншi топ «электрондык ж^мысыныц к¥кыктык тетiктерi роботтарFа к^кык субъектiлiгiн бермесе де жYзеге асуы мYмкiн дейдi [25].

Роботтар мен Yшiншi т:^^алар арасын-даFы, сондай-ак робот пен оныц эзiрлеушiсi, иесi немесе пайдаланушысы арасындаFы к^кыктык катынастар зацнамада накты регла-менттелуге тиiс деп пайымдаймыз. Адамды ЖИ-дiц терiс эсерiнен корFап-коршау Yшiн адамдарFа жэне мYлiкке залалын тигiзетiн жасанды интеллект юниттерш жасаушыларды, eндiрушiлердi, иеленушiлердi, пайдаланушы-ларды, жалFа берушiлердi, сондай-ак жасанды интеллект юниттерше зацFа кайшы залал кел-тiретiн т:^^алар мен ^йымдарды к¥кыктык бакылауFа алып, олардыц жауапкершiлiгiн белгшеу кажет [26]. ЖИ жеткiзушiлерiнiц катысуымен болатын деликтiлердi кауштш-гi жоFары кездерден келтiрiлетiн зиянныц каFидалары бойынша, сондай-ак eндiрушiнiц сапасыз жасаFан тауары (ж^мысы) Yшiн жа-уапкершiлiгiн енпзу аркылы шешудi ^сына-мыз. вздЫнен бiлiм алу функциясы бар ЖИ жеткiзушiлерi б^л каFидаFа жатпауы мYмкiн. Олардыц к¥кыктык мэртебесi, бiздiц ойымы-зша, терец зерделеудi кажет етедь Роботты пайдаланушылар Yшiн мiндеттi сактандыру-ды енгiзу мэселесi де ^н тэртiбiнде т^р.

Шетелдерде робот eндiрушiлерге ар-налFан этикалык стандарттар эзiрленген. 2018 жылы Германияныц кeлiк министрi «Герма-ниядаFы робомобильдерге арналFан этикалык

8 The Future is here: Artificial Intelligence and Robotics. In: Nishith Desai Associates // http://www.nishithdesai.com/ fileadmin/user upload/pdfs/Research Papers/Artificial Intelligence and Robotics.pdf (^YaiHaeH kYh: 30.04.2020m.).

нормалар жинагы» атты баяндамасын ^сын-ды. Жасанды интеллект женiндегi Жапония когамы (JSAI) ЖИ эзiрлеушiлерi Yшiн адал-дык, адамгершiлiк, кауiпсiздiк, зацдылык, когам алдындагы жауапкершiлiк, жеке емiрдi кдаметтеушшк сиякты этикалык стандарт-тарды эзiрлеп, ^сынды.

Адам мен ЖИ жетюзушшершщ ецбек кызметi саласындагы езара ю-кимылыныц нормативтiк негiзi Роботтарга арналган этикалык нормаларыныц корейлiк хартиясында, сондай-ак Жасанды интеллектшщ азиломар кагидаттарында (А^Ш, 2017 ж.) серiктес робот адамга зиянын тигiзбейдi, адам роботты камкорлыгына алады, роботтарды адамзат кызметше карсы пайдаланудан бас тартады деп жазылган.

ЖИ мен робот техникасы А^Ш-та авто-маттандырылган келiк к^ралдары жэне робот техникасын дамыту багдарламалары саласындагы актiлерде реттеледi, даулы мэселе-лер болса прецеденттiк к^кыкты пайдалану аркылы шешiледi.

Цифрлык технологиялардыц дамуы ецбек нарыгыныц езгеруiне алып келедi. Адам ецбе-гiн заманауи гылым мен техниканыц жетютк-терiмен, оныц iшiнде жасанды интеллектiнi пайдалану аркылы машинаныц YЙретуiне ал-мастыру ецбек нарыгындагы талаптарды ез-гертедi [27].

Адам ецбегi мен роботты белу. Бшм беру жYЙесi. Кейбiр галымдар ендiрiсте роботтан-дыру мен жасанды интеллеклш кец келемде колдану мYмкiндiктерi адамныц ецбек ету к^кыгын жэне оныц нэтижелерiн пайдала-нуды ойландырып кояды деп атап етедь Б^л жерде бYкiл ецбек к^кыгы, алдымен кол ецбе-гi саласындагы ецбек, содан кешн акыл-оймен жасалатын ецбек мэселесi туындайды [26, 73-б.]. Цифрлык т^лга (адам) мен жасанды интеллекты машина (робот) арасындагы белшю болашакта олардыц к^зыреттерш накты белуге негiзделетiнiн атап ету кажет. Машиналарга (роботтарга) - накты, жещл калыптастырыла-тын жэне багаланатын hardskills (катац даг-дылар), ал адамдарга (перспективада цифрлык т^лгаларга) дарынга, шыгармашылыкка, ерекше ецбек етуге, езiндiк бiр шешiмдерге непзделген, былайша айтканда, ж^мсак даг-дылар (softskills) берiлуi тиiс деп пайымдай-мыз. Осыган байланысты бiз куэгерi болып отырган цифрландыру дэуiрiнде жогары бiлiм беру жYЙесi мамандарды катац (тшмЫз) ре-гламенттi негiзге ала отырып, стандартты (бiр типтi мшдеттерд^ шешiмдердi шешу дагды-ларына емес, тYрлi жагдайларда креативтi, стандартка сай емес шешiмдер кабылдауга кемектесетiн талдамалык, абстрактiлi ойлауга YЙретуге тиiс.

Зацтануда сот терелЫн iске асыруда циф-рлык технологияларды пайдалану цифрлан-

дырудыц езектi мэселесi болып табылады. Мысалы, Сингапурда сот шешiмдерiн кабыл-дауды жецiлдету Yшiн барлык судьялар он-лайн-жYЙелердi: LawNetLegalWorkbench (зац дереккоры бойынша зияткерлiк iздеу); JODB (соттыц ж^мыс к^жаттары мен жинактарын камтитын дереккор); SINGS (Yкiм шыгару критерийлерш жэне акпаратты камтамасыз ететiн Yкiм шыгару кагидаларыныц жYЙесi); IMPRESS (Жогаргы сот пен жергiлiктi соттар-дыц шешiмдерiн тiркейтiн жYЙе) пайдалану мYмкiндiгiне ие [28].

Сот терелiгiн юке асыру кезiнде ЖИ пай-далануда адам кызмет салалары мен автомат-ты жYЙелердi катац белуге болады.

Бiздiц пiкiрiмiзше, роботтыц к^кыктык эрекет жасаган т^лганы емес, к^кыктык эре-кеттi багалауы м^ндай шешiмдердiц непздш-гi мен эдiлдiгiне жэне т^тастай т^лганыц негiзгi к^кыктарыныц коргалу жай-кушне жагымсыз ыкпал етуi мYмкiн. Осыган байланысты ЖИ т^лганы багалауга жэне айкын логикалык езара байланысы жок, демек, «ма-шинамен ецделуге» жатпайтын субъективтi факторларга негiзделетiн процестк шешiм-дердi кабылдау мYмкiндiгiн беруге болмайды. ЖИ элементтерi белгiлi бiр бiлiктiлiктi талап етпейтiн операцияларды (мысалы, непзп жэне косымша тiзiмнен алкабилердi iрiктеу, процестiк шыгасыларды есептеу, синхронды аударма, сот отырысыныц, кашыктыктан жау-ап алудыц хаттамасын жYргiзу, Yлгi бойынша к^жаттар жасау, к^кыктык багалауды талап етпейтiн карапайым к^кыктык мэселелер бойынша консультациялар беру, бейнекершютер аркылы ^дшт адамдарды iздестiру жэне сэй-кестендiру) жYргiзу Yшiн пайдалануга болады деп пайымдаймыз.

^Р ^ылмыстык-процестк кодексiне кыл-мыстык iс бойынша iс жYргiзуде цифрлык тех-нологияларды пайдалана отырып, дэлелдеме-лердi пайдалану туралы нормалар енпзшген. Осылайша, коргаушы не жэбiрленушiнiц екiлi техникалык к^ралдар кемепмен сауал-нама жYргiзуге к^кылы. Сауалнама жYргiзу техникалык кдаалдарда тiркеледi жэне электрондык жетюзпште сакталады. Одан кешн материалдар кылмыстык iске коса тЫлед^ оларды уэкiлеттi орган зерттеп, багалаганнан кейiн аталган материалдар дэлелдеме мэрте-бесiне ие болады (^ПК 122-бабыныц Yшiншi белiгiнiц 5-тармагы). Зац шыгарушы кылмыстык сот юш жYргiзудiц мYДделi катысушы-ларына жэне азаматтарга, ^йымдарга дэлел-демелер ретшде кылмыстык iске косып тiгу Yшiн электрондык к^жат нысанында акпарат беруге р^ксат бередi (^ПК 122-бабыныц тертiншi белiгi). Жэбiрленушiден жэне куэ-дан бейнебайланыс режимiнде кашыктыктан жауап алу жYргiзу кезделедi (КДК 213-бабы). Кылмыстык-процестк кодексте ауыр

наукастардан, мYмкiндiктерi шектеулi (мылкау, нашар еститiндер), оныц шшде дене закымын алFандар жэне денсаулы^ынан айы-рылFан адамдардан жауап алу жYргiзу тэсш-дерi керсетшмегенш атап ету кажет. Тергеушi немесе алдын ала аныктаушы мылкау немесе нашар еститш жэбiрленушiден немесе куэдан бейне жауап алуды маман ретшде сурдоаудар-машыны тарта отырып жYргiзуге, одан соц сурдоаудармашы кол коятын жауап алу хатта-масын жасауFа жэне бейне жауап алу жазба-сын электрондык кылмыстык iс материалда-рына коса тiгуге болады деп пайымдаймыз.

^ылмыстык процеске катысушылар ше-телде болFан кезде кылмыстык ютер бойынша к¥кыктык кемек керсету Yшiн бейне жауап алу жYргiзу мэселесi Fылыми т¥рFыдан ойла-стыруды талап етедi. Б^л мэселенi эзiрленiп жаткан Шанхай ынтымактастык ^йымыныц кръктык кемек жэне азаматтык жэне кылмыстык ютер бойынша кръктык катынастар туралы конвенция жобасы шецберiнде шешу-ге болады деп пайымдаймыз. Мысалы, проце-ске катысушылардан бейнебайланыс аркылы (кашыктыктан жауап алу) жэне Шанхай ынтымактастык ^йымыныц к¥кыктык кемек жэне азаматтык жэне кылмыстык ютер бойынша к¥кыктык катынастар туралы конвенция Тараптарыныц шю зацнамасына сэйкес жауап алынуы мYмкiн.

Цифрлык технологиялар уэкшетл орган-дардыц к¥кык колдану кызметшде колданы-лады. Мысалы, кылмыстык ют акпараттык автоматтандырылFан жYЙелердi пайдалана отырып, электрондык форматта жYргiзу Гру-зияда, Молдовада, Украинада, Эстонияда енпзшген. Бельгияныц, Германияныц, Гол-ландияныц, Италияныц, Испанияныц, Пор-тугалияныц, Румынияныц, Финляндияныц зацнамасында цифрлык к¥жаттарды дэлел-деме ретiнде пайдалануFа р^ксат етiлетiнi бекiтiлген [29].

^арастырылFан шетелдж тэжiрибенi еске-ре отырып, ^ылмыстык-процестш кодекстiц 111-бабыныц екiншi бeлiгiнде камтылFан дэлелдемелердiц тiзбесiн мыналарды: элек-трондык-цифрлык нысанда аЙFактарды (^дж-тiнiц, жэбiрленушiнiц, куэныц, сарапшыныц, маманныц); корытындыларды (сарапшыныц, маманныц); электрондык заттай дэлелдеме-лердц жаца тергеу жэне сот эрекеттершщ хат-тамаларын косу аркылы кецейту ^сынылады.

К^кык шыFармашылык кызметте кашыктыктаFы нысандарды колдану ТМД ел-дершщ зацнамасын жYЙеге келтiрудiц басым баFыттарыныц бiрi болуда [30].

Зацнаманы жYЙеге келтiру. «Цифрландыру» к¥кык нысанына да айтарлыктай ыкпал етуде. Оныц электрондык н^скалары кептен берi Интернет желюшде тиiстi электрондык базаларда жэне акпараттык-аныктамалык

жYЙелерде («Эдшет», «Параграф», «Zan.kz» жэне т.б.) орналастырылуда. СоцFылар к¥кык колданушылар мен карапайым азаматтар арасында кецiнен танымалдылыкка ие. Б^л, ец алдымен, м^ндай акпараттык ресурстар-дыц ыцFайлылыFына байланысты. ОсыFан байланысты Т.Я. Хабриева: «...нормативтш к^кыктык акт, нормативтiк мазм^ны бар шарт сиякты к¥кыктыц формальды-зац дереккез-дерiнiц «виртуалды дублерi», «цифрлык сыца-ры» пайда болуда»... Б^л жай Fана цифрлык кeшiрме емес, одан да артык ДYние, себебi к^кыктыц формальды-зац дереккeзi мэтiнiнiц электрондык н^скасы соцFыныц функциясын аткарады. Зацгерлер зацдык iстi шешу кезiнде дэл осыдан «к^кыкты жинайды» деп орынды атап кeрсетедi [31]. Одан баска, дэл осы Акпа-раттык-к¥кыктык жYЙеде (б^дан эрi - А^Ж) нормативтiк кръктык актiнiц (б^дан эрi -Н^А) электрондык барлыFы колдана алатын н^скасымен таныса алады.

Цифрландыру жаца мYмкiндiктердi ^сы-нып отырFан жаFдайда А^Ж-ны эзiрлеушiлер акпарат алудыц жаца тэсшдерш, атап айтканда, Н^А-даFы езгерютер мен толыктырулар хронологиясын жэне таFы баскаларды ке-зец-кезецiмен эзiрлейдi жэне оны пайдала-нушыларFа ^сынады.

казакстан Республикасыныц Акпарат жэне коFамдык даму министрi А.Е. Балае-ва казакстандыктарды мемлекеттiк органдар ^сынатын мYмкiндiктердi барынша пайда-лануFа шакырады: «... ^азакстанда тетенше жаFдай кезецiнде 800-ден астам мемлекеттш кызмет онлайн кeрсетiлуде. Олардыц бар-лыFы казакстандыктардыц коронавирус пандемиясы кезецiнде калыпты eмiр CYPуiн камтамасыз етуге баFытталFан. Мемлекет алдын ала камдашан мацызды кадамныц бiрi ... мемлекеттiк кызмет кeрсетiлетiн интернет-ре-сурстарFа тегiн кол жеткiзу болды» [32]. Осы мэселе аясында казакстан Республикасы Эдшет министрлiгiнiц «^азакстан Республикасыныц Зацнама жэне кръктык акпарат институты» ШЖ^ РМК-ныц (б^дан эрi - З^АИ) eзiне электрондык тYрдегi Н^А-ны, сонымен катар к¥кык саласындаFы акпараттык жэне аныктамалык-эдiстемелiк сипаттаFы езге де материалдарды камтитын к¥кыктык акпа-ратка колжетiмдiлiктi ¥CынуFа Yлесiн ерекше атап ету кажет. Б^л ретте к¥кыктык акпарат-тыц толыктыты дэрежесiне жэне сервистiк мYмкiндiктерге карай оларFа тегiн жэне ком-мерциялык негiзде кол жеткiзуге болады.

З^АИ кеп жылдан берi мемлекеттiц эдшет органдарыныц негiзгi мiндеттерiнiц бiрi - кръктык насихатты камтамасыз етудi юке асыруда сенiмдi кдаалы болып табылады.

Цифрландыру дэуiрiнде к¥кыктык акпаратты ^сынудыц эдiстерi мен тэсiлдерi де осы акпаратты колжетiмдi ету Yшiн жаца техноло-

гияларды енгiзудi талап етедь Осы максатта кэсiпорынныц когамда жэне нарыкта езш та-ныта бiлген багдарламалык ешмдерш техникалык модернизация теракты непзде жYзеге асырылуда.

2018 жылдан берi Н^А-мен ж^мыс жасау Yшiн барлык кажеттi кдаалдары бар Zan. kz онлайн-н^скасы ж^мыс iстеуде. Агымдагы жылы жYЙе жетiлдiрiлетiн болады, б^л оны жылдам эрi мазм^нды, ал акпаратты кол-жетiмдi етуге мYмкiндiк бередь

Одан баска, кэсiпорында елiмiзде анало-гы жок, барлык к¥кыктык с^рактар бойынша консультацияларды тэулiк бойы ^сынатын ^^кыктык акпараттык кызмет ж^мыс ютейдь Б^л жерде мемлекет мемлекеттiк органдар дыц ашыктыгын камтамасыз етуге, халык Yшiн етiнiштерiне сапалы эрi колжетiмдi жауап беруге кеп кещл белетiнiн атап ету кажет. Мысалы, ^кыктык акпараттык кызмет кептеген алацдар аркылы: калалык телефондар Yшiн 119 немiрi бойынша; Whatsapp - ^ялы жэне езге де платформалар Yшiн; кэсiпорын мен Эдшет министрлЫнщ сайтында; «Эдшет» акпараттык-к¥кыктык жYЙесiнде консульта-циялар бередi.

К^ызмет кызметкерлерi ж^мысыныц тиiмдiлiгiн арттыру максатында 2020 жылдан бастап пайдаланушыларга акпаратты ав-томатты режимде алуга мYмкiндiк беретш кдаалдар енгiзiлдi. Техникалык жагынан ол былайша ж^мыс iстейдi: дыбыс беретш робот 119 немiрi бойынша согылган коцырауларды ецдейдi, есеп калыптастырады, бастысы -берiлген алгоритмге сэйкес с^рактыц сипатын аныктап, ез бетiнше оператормен коспай-ак консультация беруге тырысады. Осы роботты YЙрету Yшiн негiзгi сездерден жэне олардыц белгш бiр жауапка сэйкестiгiнен т^ратын бiлiм базасы юке косылган. Аталган бiлiм базасын калыптастыру жэне оны толыктыру теракты непзде жYзеге асырылады.

Осыган ^ксас кагидат бойынша Виртуал-ды кецесшi де эрекет етедь Алайда берiлетiн консультациялар жазбаша тYрде жYзеге асырылады. «Эдшет» акпараттык-к¥кыктык жYЙесiнiц эрбiр пайдаланушысы басты бетте орналаскан Виртуалды кецесшже ез с^рагын койып, тез жауап (бшм базасында болган жагдайда) алады. Б^л кдаалдар ^кыктык акпараттык кызмет ж^мысыныц тиiмдiлiгiн арттыруга, оларды егжей-тегжейлi талдауды талап ететiн с^рактарга назар аудару Yшiн «Жеке куэлiктi калай алуга болады», «... кан-дай к^жаттар керек» жэне тагы баска да непзп с^рактарга жауаптарды бiрнеше рет кай-талау кажеттЫнен босатуга мYмкiндiк бередi.

^азакстан Республикасыныц Зацнама жэне к¥кыктык акпарат институты мыкты гылыми элеуетке ие жэне телефонмен консультация беру аркылы халыкка бшкл зац кемегiн тегш керсету бойынша ^кыктык акпарат кызмет бола отырып, мYДделi ха-лыкаралык жэне шетелдiк ^йымдармен, сон-дай-ак отандык квазимемлекеттiк сектор ^й-ымдарымен, гылыми ^йымдармен жэне даму корларымен ынтымактасуга дайын екенiн атап етемiз.

Жогарыда жазылгандарды корытындылай келе, жаца технологиялардыц пайда болуымен когамныц езгерген тыныс-тсршшгшщ т^р-мысы к¥кык реттейтш когамдык катынастар тобыныц кецеюiне жэне, тшсшше, когамдык катынастарды реттеушiлер тYрiнiц мазм^-нын езгертуге алып келдь Б^л мэн-жай ба-сымдыктарды жэне ^лттык к^кыктыц жаца жагдайларда даму зацдылыгын айкындау кажеттiгiн туындатады. Аталган мэселедеп мацызды рел заманауи к^кыктык доктринага берiледi, себебi оныц теориялык негiздерi мен гылыми т^жырымдамалары цифрлык технологияларды пайдалану саласында когамдык катынастарды кркыктык реттеу тетЫнщ оцтайлы моделiн жасауга ыкпал ете алады.

ЭДЕБИЕТ

1. Мемлекет басшысы Касым-Жомарт Тоцаевтыц Твтенше жагдай режимт цамтамасыз ету жешндегг мемлекеттж комиссияныц цорытынды отырысында сейлеген соз1 Нур-Сул-тан ц., 11.05.2020 ж. // http://www.akorda.kz/ru/speeches/internal_political_affairs/in_speeches_ and_addresses/vystuplenie-glavy-gosudarstva-na-zaklyuchitelnom-zasedanii-gosudarstvennoi-komissii-po-chrezvychainomu-polozheniyu (жугтген кун: 05.05.2020 ж.).

2. Карцхия А.А. Цифровая трансформация права // Мониторинг правоприменения. - №1 (30). - 2019. - 26 Б.

3. Белгородцева Н.Г. Теоретико-правовые аспекты защиты персональных данных. Авто-реф. ...канд. юрид. наук. М., 2012. - 11 Б.

4. Янкин А.Н. Зарубежный опыт охраны частной жизни в информационной среде в ходе производства по уголовному делу // Евразийская адвокатура. - 2018. - № 3 (34). - 76, 77 Б.; Параске-вов А.В., Левченко А.В., Кухоль Ю.А. Сравнительный анализ правового регулирования защиты персональных данных в России и за рубежом // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. - 2015. - № 10. - 866- 894.

5. Амерханов Р.А. Некоторые вопросы правового регулирования дистанционного способа продажи товаров // https://www.zakon.kz/5003249-nekotorye-voprosy-pravovogo.html (жYгiнген кун: 06.05.2020 ж.).

6. Саинская Л.А. Проблемы защиты прав потребителей при дистанционной торговле через сеть «Интернет» // https://cyberleninka.ru/article/n/problemy-zaschity-prav-potrebiteley-pri-distantsionnoy-torgovle-cherez-set-internet/viewer(жYгiнген кун: 06.05.2020 ж.).

7. Гросс Ф. Криминальный Runet. Темные стороны Интернета. М.: Изд-во «Э», 2016. -31-32Б.

8. Козин И.С. Метод обеспечения безопасной обработки персональных данных на основе применения технологии блокчейн // Научно-технический вестник информационных технологий, механики и оптики. 2019, № 5. том 19. - 892-900 Б.

9. Харченко О.И. Блокчейн в информационном обществе // Вестник СГСЭУ. - 2018. - № 2 (71). - 28 Б.

10. Сигалов К.Е., Салин П.Б., Чувальникова А.С. Применение технологии блокчейн в праве, политике и государственном управлении //Вестник РУДН. Серия: Юридические науки. - 2018.

- № 4. Т. 22. - 571-572 Б.

11. Кузнецов В.П., Бондаренко И.А. Блокчейн в образовании //Россия: тенденции и перспективы развития. 2018. - 858-860 Б.

12. Мейксин С.М. Блокчейн в банковском секторе // Вестник науки и образования. - 2019.

- № 4(58). 1-белк. - 40-44 Б.

13. НамиотД.Е., Покусаев О.Н., Куприяновский В.П., Акимов А.В. Приложения блокчейн на транспорте // InternationalJournalofOpenInformationTechnologies. - 2017. - № 12. - 130-134 Б.

14. Минбалеев А.В., Сафронов Е.Г. Правовая природа блокчейн // Вестник ЮУрГУ. Серия «Право». - 2018. Т. 18. - № 2. - 96 Б.

15. Лысенко Ю.В., Рябчук П.Г., Гордеева Д.С. Технологии цифровизации: биткоин // Азимут научных исследований: экономика и управление. - 2018. Т. 7. - № 4(25). - 189 Б.

16. Дравица В., Курбацкий В. Промышленная революция INDUSTRY 4.0 //Наука и инновации. - 2016. - Том 3. - №. 157. - 13-16 Б.

17. Батюк Б.В. Биткоин: станет ли он наднациональной валютой? // https://cyberleninka. ru/article/n/bitkoin-stanet-li-on-nadnatsionalnoy-valyutoy (жYгiнген кун: 02.05.2020ж.).

18. Чеботарев А. «Нужен ли Казахстану криптотенге?» // https://kapital.kz/tehnology/81986/ nuzhen-li-kazakhstanu-kriptotenge.html (жYгiнген кун: 02.05.2020 ж.).

19. Масалаков А.С. Особенности киберпреступлений: инструменты нападения и защита информации. М.: ДМКПресс, 2018. - 44, 47 Б.

20. Сабиров К.К., Ахмеджанов Ф.Р. Некоторые вопросы законодательного укрепления ки-бербезопасности в Республике Казахстан //Вопросы кибербезопасности. - 2017. -№3(21). - 59 Б.

21. Тирранен В.А. Преступления с использованием искусственного интеллекта //Развитие территорий. 2019. № 3 (17). - 11 Б.

22. Solaiman S.M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law, 2017, vol. 25, no. 2, p. 176.

23.Морхат П.М.Юнитискусственногоинтеллекта какэлектронное лицо//ВестникМосков-ского государственного областногоуниверситета. Серия: Юриспруденция. - 2018. - № 2. - 66Б.

24. Bowyer K. Robot Rights: at What Point Should an Intelligent Machine Be Considered a «Person»? // https://techxplore.com/news/2017-02-robot-rights-intelligent-machine-person.html (жYгiнген кун: 30.04.2020 ж.).

25. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots // Who's Who Legal, 2018 // http://whoswholegal.com/news/features/ article/34313/future-now-legal-consequences-electronic-personality-autonomousrobots (жYгiнген кун: 30.04.2020 ж.).

26. Кашкин С.Ю., Покровский А.В. Искусственный интеллект, робототехника и защита прав человека в Европейском союзе // Вестник Университета имени О.Е. Кутафина (МГЮА).

- 2019. - № 4. - 80 Б.

27. Владимирова Ц.Д. Вызовы информационной экономики: развитие человеческого капитала // Экономика труда. - 2019. - № 3. Том 6. - 1030 Б.

28. Шульгин Е.П. Зарубежный опыт деятельности органов, осуществляющих производство по уголовным делам в электронном формате // Сетевое издание «Академическая мысль».

- 2019. - № 4 (9). - 86 Б.

29. Зайцев О.А. Особенности использования электронной информации в качестве доказательств по уголовному делу: сравнительно-правовой анализ зарубежного законодательства // Журнал зарубежного законодательства и сравнительного правоведения. - 2019. -№ 4. - 50-55 Б.

30. Липень С.В. Информационные технологии в правотворческой деятельности // LeхRussica. - 2009. - № 8 (153). - 111-120 Б.

31. Хабриева Т.Я. Право перед вызовами цифровой реальности // https:// izak.ru/img_content/pdf/%D0%9F%D1%80%D0%B0%D0%B2%D0%BE%2 0 %D0%BF%D0%B5%D1%80%D0%B5%D0%B4%20%D0%B2%D1%8B%D0%B7%D0 %BE%D0%B2%D0%B0%D0%BC%D0%B8%20%D1%86%D0%B8%D1%84%D1%80-%D0%BE%D0%B2%D0%BE%D0%B9%20%D1%80%D0%B5%D0%B0%D0%BB%D1%8C%D0 %BD%D0%BE%D1%81%D1%82%D0%B8.pdf (жуг1нген kyh: 14.04.2020 ж.).

32. Аида Бадаева призвала казахстанцев максимально использовать предоставляемые госорганами возможности на время ЧП // https://toppress.kz/article/60167/aida-balaeva-prizvala-kazahstancev-maksimalno-ispolzovat-predostavlyaemie-gosorganami-vozmozhnosti-na-vremya-chp.

REFERENCES

1. Vystuplenie Glavy gosudarstva na zaklyuchitel'nom zasedanii Gosudarstvennoj komissii po chrezvychajnomu polozheniyu. g. Nur - Sultan, 11.05.2020 g. // http://www.akorda.kz/ru/ speeches/internal_political_affairs/in_speeches_and_addresses/vystuplenie-glavy-gosudarstva-na-zaklyuchitelnom-zasedanii-gosudarstvennoi-komissii-po-chrezvychainomu-polozheniyu (data obrashcheniya: 05.05.2020 g.).

2. Karckhiya A.A. Cifrovaya transformaciya prava // Monitoring pravoprimeneniya. - №1 (30). - 2019. - S. 26.

3. Belgorodceva N.G. Teoretiko-pravovye aspekty zashchity personal'nyh dannyh. Avtoref. ... kand. yurid. nauk. M., 2012. - S.11.

4. YankinA.N. Zarubezhnyj opyt ohrany chastnojzhizni v informacionnojsrede v hodeproizvodstva po ugolovnomu delu // Evrazijskaya advokatura. - 2018. - № 3 (34). - S. 76, 77.; Paraskevov A.V., Levchenko A.V., Kuhol' Yu.A. Sravnitel'nyj analiz pravovogo regulirovaniya zashchity personal'nyh dannyh v Rossii i za rubezhom // Politematicheskij setevoj elektronnyj nauchnyj zhurnal Kubanskogo gosudarstvennogo agrarnogo universiteta. - 2015. - № 10. - 866 - 894.

5. Amerhanov R.A. Nekotorye voprosypravovogo regulirovaniya distancionnogo sposobaprodazhi tovarov // https://www.zakon.kz/5003249-nekotorye-voprosy-pravovogo.html (data obrashcheniya: 06.05.2020 g.).

6. Sainskaya L.A. Problemy zashchity prav potrebitelej pri distancionnoj torgovle cherez set' «Internet» // https://cyberleninka.ru/article/n/problemy-zaschity-prav-potrebiteley-pri-distantsionnoy-torgovle-cherez-set-internet/viewer (data obrashcheniya: 06.05.2020 g.).

7. Gross F. Kriminal'nyj Runet. Temnye storony Interneta. M.: Izd-vo «E», 2016. - S. 31-32.

8. Kozin I.S. Metod obespecheniya bezopasnoj obrabotki personal'nyh dannyh na osnove primeneniya tekhnologii blokchejn // Nauchno-tekhnicheskij vestnik informacionnyh tekhnologij, mekhaniki i optiki. 2019, № 5. -tom 19. - S. 892-900.

9. Harchenko O.I. Blokchejn v informacionnom obshchestve // Vestnik SGSEU. - 2018. - № 2 (71). - S. 28.

10. Sigalov K.E., Salin P.B., Chuval'nikova A.S. Primenenie tekhnologii blokchejn v prave, politike i gosudarstvennom upravlenii // Vestnik RUDN. Seriya: Yuridicheskie nauki. - 2018. - № 4. T. 22. - S. 571-572.

11. Kuznecov V.P., Bondarenko I.A. Blokchejn v obrazovanii // Rossiya: tendencii i perspektivy razvitiya. 2018. - S. 858-860.

12. Mejksin S.M. Blokchejn v bankovskom sektore // Vestnik nauki i obrazovaniya. - 2019. -№ 4(58). Chast' 1. - S. 40-44.

13. Namiot D.E., Pokusaev O.N., Kupriyanovskij V.P., Akimov A.V. Prilozheniya blokchejn na transporte // International Journal of Open Information Technologies. - 2017. - № 12. - S. 130-134.

14. Minbaleev A.V., Safronov E.G. Pravovaya priroda blokchejn // Vestnik YuUrGU. Seriya «Pravo». - 2018. Т. 18. - № 2. - S. 96.

15. Lysenko Yu.V., Ryabchuk P.G., Gordeeva D.S. Tekhnologii cifrovizacii: bitkoin // Azimut nauchnyh issledovanij: ekonomika i upravlenie. - 2018. T. 7. - № 4 (25). - S. 189.

16. Dravica V., Kurbackij V. Promyshlennaya revolyuciya INDUSTRY 4.0 //Nauka i innovacii. -2016. - Tom 3. - №. 157. - S. 13-16.

17. BatyukB.V. Bitkoin: stanet li on nadnacional'noj valyutoj?//https://cyberleninka.ru/article/n/ bitkoin-stanet-li-on-nadnatsionalnoy-valyutoy (data obrashcheniya: 02.05.2020 g.).

18. Chebotarev A. «Nuzhen li Kazahstanu kriptotenge?» // https://kapital.kz/tehnology/81986/ nuzhen-li-kazakhstanu-kriptotenge.html (data obrashcheniya: 02.05.2020 g.).

19. MasalakovA.S. Osobennostikiberprestuplenij: instrumenty napadeniya izashchita informacii. M.: DMKPress, 2018. - S. 44, 47.

20. Sabirov K.K., Ahmedzhanov F.R. Nekotorye voprosy zakonodatel'nogo ukrepleniya

kiberbezopasnosti v Respublike Kazahstan // Voprosy kiberbezopasnosti. - 2017. - №3 (21). - S. 59.

21. Tirranen V.A. Prestupleniya s ispol'zovaniem iskusstvennogo intellekta //Razvitie territorij. 2019. № 3 (17). - S. 11.

22. Solaiman S.M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law, 2017, vol. 25, no. 2, p. 176.

23. Morhat P.M. Yunit iskusstvennogo intellekta kak elektronnoe lico // Vestnik Moskovskogo gosudarstvennogo oblastnogo universiteta. Seriya: Yurisprudenciya. - 2018. - № 2. - S. 66.

24. Bowyer K. Robot Rights: at What Point Should an Intelligent Machine Be Considered a «Person»? // https://techxplore.com/news/2017-02-robot-rights-intelligent-machine-person.html (data obrashcheniya: 30.04.2020 g.).

25. Schrijver S. de The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots // Who's Who Legal, 2018 // http://whoswholegal.com/news/features/ article/34313/future-now-legal-consequences-electronic-personality-autonomousrobots (data obrashcheniya: 30.04.2020 g.).

26. Kashkin S.Yu., Pokrovskij A.V. Iskusstvennyj intellekt, robototekhnika i zashchita prav cheloveka v Evropejskom soyuze // Vestnik Universiteta imeni O.E. Kutafina (MGYuA). - 2019. -№ 4. - S. 80.

27. Vladimirova C.D. Vyzovy informacionnoj ekonomiki: razvitie chelovecheskogo kapitala // Ekonomika truda. - 2019. - № 3. Tom 6. - S. 1030.

28. Shul'gin E.P. Zarubezhnyj opyt deyatel'nosti organov, osushchestvlyayushchih proizvodstvo po ugolovnym delam v elektronnom formate //Setevoe izdanie «Akademicheskaya mysl'». - 2019. -№ 4 (9). - S. 86.

29. Zajcev O.A. Osobennosti ispol'zovaniya elektronnoj informacii v kachestve dokazatel'stv po ugolovnomu delu: sravnitel'no-pravovoj analiz zarubezhnogo zakonodatel'stva // Zhurnal zarubezhnogo zakonodatel 'stva i sravnitel'nogo pravovedeniya. - 2019. - № 4. - S. 50-55.

30. Lipen'S.V. Informacionnye tekhnologii v pravotvorcheskoj deyatel'nosti //Lekh Russica. -2009. - № 8 (153). - S. 111-120.

31. Habrieva T.Ya. Pravo pered vyzovami cifrovoj real'nosti // https://izak. r u / i m g _c o nt e nt /p df/ % D 0 % 9 F % D1 % 8 0 % D 0 % B 0 % D 0 % B 2 % D 0 % B E% 2 0 %D0%BF%D0%B5%D1%80%D0%B5%D0%B4%20%D0%B2%D1%8B%D0%B7%D0 %BE%D0%B2%D0%B0%D0%BC%D0%B8%20%D1%86%D0%B8%D1%84%D1%80-%D0%BE%D0%B2%D0%BE%D0%B9%20%D1%80%D0%B5%D0%B0%D0%BB%D1%8C%D0 %BD%D0%BE%D1%81%D1%82%D0%B8.pdf (data obrashcheniya: 14.04.2020g.).

32. AidaBalaevaprizvala kazahstancev maksimal'no ispol'zovat' predostavlyaemye gosorganami vozmozhnosti na vremya ChP//https://toppress.kz/article/60167/aida-balaeva-prizvala-kazahstancev-maksimalno-ispolzovat-predostavlyaemie-gosorganami-vozmozhnosti-na-vremya-chp.