Критика. Рецензии. Библиография
УДК 34.01
Немного об искусственном интеллекте. Рецензия на монографию П.М. Морхата «Искусственный интеллект: правовой взгляд» (М.: Буки Веди, 2017)
Настоящая рецензия посвящена научной монографии Петра Мечи-славовича Морхата «Искусственный интеллект: правовой взгляд»1, изложенной на 257 страницах и проливающей свет на сложнейшие и малоисследованные до сего дня духовно-нравственные, правовые и технические вопросы современности.
Монография П.М. Морхата представляет собой завершенное самостоятельное научное исследование, состоит из 6 глав, подразделенных на множество параграфов и подпараграфов, каждый из которых посвящен важному аспекту темы. Во всех сегментах темы, затронутых в этих параграфах, автор монографии имеет, судя по всему, существенный личный научный вклад.
Рецензируемая монография вышла осенью 2017 г., и рецензии на нее со стороны юристов уже известны. Но до сего момента эта работа пока не рецензировалась представителями естественных и технических наук. Однако рассмотрение проблемы именно с указанных позиций представляет весьма значительный интерес.
Нелогично было бы ожидать от автора-правоведа написания монографии, полностью удовлетворяющей представителей естественных, технических и физико-математических наук. Как раз напротив, такая ситуация есть большая редкость: области инженерного и компьютерного права изобилуют изданиями, являющимися научными только с позиций правоведов, но не более того.
Поэтому достойно всяких похвал, что рецензируемая монография П.М. Морхата вполне адекватна в качестве междисциплинарного научного исследования. П.М. Морхат выказывает отличное знание предмета далеко за пределами рамок юридической науки, доказывает глубокое понимание сути
1 Морхат П.М. Искусственный интеллект: правовой взгляд / Институт государственно-конфессиональных отношений и права. М.: Буки Веди, 2017. 257 с.
феномена и проблем искусственного интеллекта в техническом, компьютерно-программном, логико-математическом и других значениях.
Вполне очевидно, что у представителей технических наук немного иная методология познания и объяснения природы и формы вещей, чем у юристов (и в целом у представителей обществоведческих наук). Но научный труд П.М. Морхата более чем подходит и на роль юридического справочного материала для инженеров. Работа П.М. Морхата хороша тем, что транспонирует эту проблематику в чисто прикладную проблемную сферу. И в этом смысле данная монография не только чрезвычайно познавательна и полезна для представителей технических наук, но и не может не наталкивать на глубокие размышления и не может не побуждать к научным дискуссиям.
Хотя, конечно, мы с юристами будем по-разному смотреть на подобные вещи. Если несчастный случай вследствие действий системы искусственного интеллекта для юристов повлечет вопрос: кто виноват, то для представителей технических наук гораздо важнее иные вопросы: как сделать, чтобы впредь такого не случалось (а еще лучше — чтобы вообще таких трагедий не было), как обеспечить надежную превенцию не только несчастных случаев, но и нештатных ситуаций с несанкционированными действиями устройства, оснащенного искусственным интеллектом, несущими угрозы человеку или даже всему человечеству и всей планете Земля в целом; вообще сосредоточиться на осмыслении и оценке рисков и неопределенностей, найти разумные предложения по улучшению в будущем.
По словам Евгения Касперского, в его предисловии к книге Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии», если вероятность экзистенциальной угрозы человечеству от появления и самоуправства искусственного суперинтеллекта существует, то отнестись к ней надо соответственно, и, чтобы предотвратить ее и защититься от нее, следует предпринять совместные усилия в общемировом масштабе2. Но для начала следует все это осмыслить, понять.
Монография П.М. Морхата более чем энциклопедична. Книга содержит большое количество релевантных сведений и суждений, позволяя войти в курс дела. Вообще, надо признать, это уникальная ситуация: когда можно на полном основании порекомендовать инженеру для вхождения в тему искусственного интеллекта внимательно и с карандашом прочесть книгу не другого инженера (или скажем, математика или программиста), а юриста. Но таково объективно высокое научное и информационно-справочное качество этого издания.
Учитывая, что за рубежом уже издано достаточно много литературы, нельзя сказать, что П.М. Морхат опередил свое время, но данная монография — первое в России юридическое исследование по обозначенной тематике.
Общее направление и результаты исследований, представленные в монографии П.М. Морхата, являются, несомненно, актуальными. Почему же тема монографии так актуальна в нынешних условиях?
2 Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / пер. с англ. С. Филина. М.: Манн, Иванов и Фербер, 2016. С. 7.
Критика. Рецензии. Библиография
103
24 марта 2018 года начальник Генерального штаба Вооруженных сил России генерал армии В. Герасимов заявил, что «основными особенностями конфликтов будущего станут широкое применение высокоточного и других видов новых вооружений, в том числе робототехнических... Кроме традиционных сфер вооруженной борьбы будет активно задействована информационная сфера и космос»3. Будущее оборонной отрасли — за роботизированными системами, в том числе оснащенными искусственным интеллектом.
В марте же 2018 г. в г. Темпе (штат Аризона, США) во время испытаний в ночных условиях оснащенный искусственным интеллектом беспилотный автомобиль Uber сбил пересекавшую дорогу велосипедистку, которая позже умерла в больнице от полученных травм. Это была первая смертельная жертва беспилотного авто; до сего дня подобного рода инцидентов не происходило, хотя автомобили без водителей успели проехать уже несколько миллионов километров4.
С точки зрения оценки качества междисциплинарного исследования важно, что монография П.М. Морхата рассматривает не только уже состоявшиеся события и процессы, но и активно использует предиктивный анализ, направленный на прогнозирование грядущих событий и роста рисков.
Значительный объем задействованных в монографии П.М. Морхата научных и документарных источников (преимущественно зарубежных) также определяет высокую научную ценность этого издания.
Для представителей технических наук будет важно, что материал в монографии П.М. Морхата очень хорошо структурирован, а сама структура этой монографии представляется оптимальной. Положительной отличительной особенностью рецензируемой монографии П.М. Морхата является и выраженный системный подход к изучаемой проблематике.
Стоит, однако, обратить внимание и на некоторые недостатки, имеющие место в рецензируемой монографии и обнаруженные при ее внимательном изучении.
Из недостатков следует отметить определенную, бросающуюся в глаза при внимательном прочтении рецензируемой монографии, концептуальную незавершенность. Незавершенность именно в части авторских концепций, теоретических построений самого П.М. Морхата, которых явно этой монографии недостает, хотя работа и изобилует фактическими материалами и оригинальными авторскими подходами и идеями. Если рецензируемая работа являет собою как бы «первичную» монографию, продолжения которой (того же авторства) следует и возможно ожидать, то сказанное, конечно, не создает особых проблем. Надо только дождаться отсутствующей пока в этой монографии
3 В Генштабе России назвали возможные особенности войн будущего // Интерфакс: новости. URL: http://www.interfax.ru/russia/605062 (дата обращения: 24.03.2018).
4 Березин А. Искусственный интеллект начал убивать на дорогах // Чердак: наука, технологии, будущее. URL: https://chrdk.ru/tech/ai-driven-car-kiUed-a-pedestrian (дата обращения: 20.03.2018).
авторской теоретической конструкции в следующих работах (хотя бы и во втором, дополненном, издании этой монографии). Однако если рецензируемая монография представляет собой труд, не претендующий на дальнейшее раскрытие темы, то это может вызвать сожаление, поскольку авторская концепция обязательно должна быть обозначена хотя бы в заключении.
Сказанное весьма важно, поскольку проблема искусственного интеллекта тесно связана с идеологией трансгуманизма и ее предтечей — русским космизмом (см. сайт Стратегического общественного движения «Россия 2045» URL: http://www.2045.ru), — имеющей целью ускорение эволюции и достижения человеком практического бессмертия путем сканирования сознания в технический объект. Пока это только идеология, имеющая, однако, серьезные технические предпосылки. При всей утопичности деятельности определенного ряда ученых в этом направлении, такой подход не может не вызвать серьезных духовно-нравственных проблем, имеющих следствием нарастание хаоса в социоестественных системах и усугубление системного кризиса цивилизации. Необходимо отметить, что упоминаемый выше шведский философ Н. Бостром в 1998 г. вместе с Д. Пирсом выступил основателем Всемирной ассоциации трансгуманистов. Этот аспект еще раз подчеркивает важность правовой оценки происходящего.
Повторим, что в любом случае рассматриваемая монография, безусловно, характеризуется серьезной научной ценностью — автором проделана колоссальная работа по систематизации, осмыслению и объяснению значительного объема фактологического и нормативного материала, большого спектра связанных с темой проблем.
Подводя итог, необходимо отметить, что монография П.М. Морхата «Искусственный интеллект: правовой взгляд» представляет научный и практический интерес и должна войти в обязательный круг чтения для любого ученого (не только юриста), хоть в какой-то мере выходящего в своих научных интересах на тематическое поле искусственного интеллекта и автономных роботизированных систем. Необходимо приветствовать выход этой монографии как заметное научное событие, книга — из числа тех работ, к которым и широкий круг специалистов, и все просто интересующиеся будут обращаться в последующем не одно десятилетие.
А.Ю. Евдокимов