К СИНТЕЗУ ЧЕЛОВЕЧЕСКОЙ МУДРОСТИ И ВЫЧИСЛИТЕЛЬНОЙ МОЩНОСТИ. РЕЦЕНЗИЯ НА КНИГУ Ф. ПАСКУАЛЕ «НОВЫЕ ЗАКОНЫ РОБОТОТЕХНИКИ. АПОЛОГИЯ ЧЕЛОВЕЧЕСКИХ ЗНАНИЙ В ЭПОХУ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА» Текст научной статьи по специальности «Философия, этика, религиоведение»

РЕЦЕНЗИИ

DOI: 10.19181/smtp.2023.5.1.14 EDN: WDFFFM

К СИНТЕЗУ ЧЕЛОВЕЧЕСКОЙ МУДРОСТИ И ВЫЧИСЛИТЕЛЬНОЙ МОЩНОСТИ

Рецензия на книгу Ф. Паскуале «Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта»1

Соколов

Дмитрий Васильевич1

1 Институт социологии ФНИСЦ РАН, Москва, Россия

Для цитирования: Соколов Д. В. К синтезу человеческой мудрости и вычислительной мощности. Рецензия на книгу Ф. Паскуале «Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта» // Управление наукой: теория и практика. 2023. Т. 5, № 1. С. 238-243. РО! 10.19181/smtp.2023.5.1.14. ЕРЫ ШРРРРМ

АННОТАЦИЯ

В статье обсуждаются основные идеи книги Ф. Паскуале «Новые законы робототехники: апология человеческих знаний в эпоху искусственного интеллекта». В своей работе Паскуале активно использует накопленный за долгие годы опыт осмысления процессов цифровизации, предлагая рассматривать переход к новым формам экономики не как неизбежную катастрофу, а как открытие широчайшего спектра возможностей для людей, готовых интегрировать новейшие технологии в свою жизнь. В книге предлагаются законы робототехники, дополняющие классические постулаты А. Азимова, и очерчиваются контуры новой парадигмы для понимания научно-технологического развития. В её основе лежит идея синтеза экспертного знания человека с вычислительной мощностью машины. Паскуале отмечает, что, хотя развитие искусственного интеллекта и робототехники потребует масштабных реформ социально-экономической системы, итогом их вполне может стать не вытеснение людей с рынка труда, а скорее превращение машин в помощников для че-

1 Паскуале Ф. Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта / Пер. с англ. М.: Издательский дом Дело, 2022. 500 с.

ловеческой работы. Достижение такой цели, подчёркивает Паскуале, необходимо требует, чтобы у цифровизации и роботизации были не столько технологические, сколько правовые и культурные ограничения, направляющие её ход. В таком случае внедрение искусственного интеллекта станет фактором, повышающим ценность человеческой экспертизы, вместо того чтобы закончиться перекраиванием экономики в интересах крупных корпораций и технократических элит.

КЛЮЧЕВЫЕ СЛОВА:

искусственный интеллект, роботизация, цифровизация, законы робототехники, экспертные знания, Фрэнк Паскуале, автоматизация

Стремительное развитие робототехники ставит перед людьми множество новых — подчас весьма тяжёлых не только для решения, но и для осознания - задач. Одна из наиболее важных задач такого рода заключается в том, чтобы найти оптимальный баланс человеческого знания и возможностей искусственного интеллекта (ИИ) в самых разных сферах — от медицины до высшего образования. Весьма популярная в последние годы точка зрения заключается в том, что повсеместное внедрение цифровых технологий, наряду с роботизацией и переходом к «зелёной энергетике», приведёт к радикальным изменениям на рынке труда в развитых странах, уничтожив тысячи и десятки тысяч рабочих мест. Уже сейчас разнообразные алгоритмы ИИ широко применяются при сборе и анализе «больших данных», дроны-беспи-лотники используются на поле боя, а множество услуг предоставляются с помощью специально сконструированных ботов, заменяющих продавцов или консультантов. Так что в обозримом будущем многие страны-лидеры в области робототехники или цифровизации — а может быть, и развивающиеся государства тоже — столкнутся с серьёзным кризисом: огромное число людей в новой экономике окажется невостребованным.

Но есть и альтернативный взгляд на понимание прогресса робототехники, который, может быть, менее заметен сейчас, однако заслуживает пристального внимания — хотя бы ввиду своего более нюансированого подхода к происходящим переменам. В своей книге Фрэнк Паскуале, профессор юриспруденции в Бруклинской школе права, предлагает именно такой — тщательно аргументированный и комплексный — взгляд на динамику развития новейших технологий, связанных с ИИ в нескольких важных областях человеческой жизни. Паскуале известен как специалист в области права и технологий, его основная сфера интересов — юридические аспекты использования цифровизации, понимаемой предельно широко, от использования баз данных до развития оценочных алгоритмов. В своей работе Паскуале активно использует накопленный за долгие годы опыт осмысления процессов цифровизации, предлагая рассматривать переход к новым формам экономики не как неизбежную катастрофу, а как открытие широчайшего спектра возможностей для людей, готовых интегрировать новейшие технологии в свою жизнь.

На протяжении книги Паскуале подробно рассматривает перспективы роботизации в различных областях человеческого труда: медицине (вторая глава), образовании (третья глава), масс-медиа (четвертая глава), юриспруденции (пятая глава), охране правопорядка и военной сфере (шестая глава). В седьмой главе Паскуале обращается к новым моделям экономики, порождаемым автоматизацией, обсуждая их социальные и политические последствия. Наконец, восьмая глава содержит предложения к синтезу человеческих знаний с вычислительными возможностями машин — именно такой синтез, по мысли Паскуале, лежит в основе наиболее благоприятного сценария автоматизации, позволяющего избежать многих проблем как в экономике, так и обществе в целом. Однако, прежде чем обратиться ко всем перечисленным вопросам, Паскуале во введении напоминает о законах робототехники, появившихся ещё в 1940-е гг. с подачи писателя А. Азимова. В общем виде эти законы сводятся к тому, что робот не может допустить, чтобы его бездействие причиняло человеку вред, он должен защищать себя лишь до тех пор, пока эта защита не мешает сохранению человеческой жизни, и, само собой, обязан не причинять вреда людям. Паскуале отмечает, что, хотя эти законы и были сформулированы в научной фантастике, они не только стали популярны далеко за пределами литературы, но и расцениваются многими специалистами по ИИ как своего рода «золотой стандарт» при развитии робототехники. Однако, как отмечает Паскуале, эти законы, будучи этически корректными, нелегко согласуются между собой даже в теории, а учитывая реальную практику, необходимо их дополнить. В частности, Паскуале предлагает четыре собственных закона робототехники, логически вытекающие как из этических принципов, так и накопившегося у людей опыта работы с машинами. Первый из них таков: роботизированные системы и ИИ должны дополнять, а не заменять людей. Второй: роботизированные системы и ИИ не должны подделывать человеческие особенности. Третий: роботизированные системы и ИИ не должны подогревать гонку вооружений с «нулевой суммой». И четвёртый: роботизированные системы и ИИ всегда должны содержать указания на личность создателя, владельца или управляющего. Именно подробным обоснованием четырёх названных законов и занимается Паскуале в последующих главах, постепенно выстраивая цепочку аргументов, приводящую к его программному тезису, — будущее ИИ лежит не на пути вытеснения человеческого труда, но на пути повышения эффективности человеческой работы.

Обсуждая будущее автоматизации — понимаемой как внедрение ИИ и робототехники во всё большее число сфер жизни — Паскуале опирается не столько на статистику или экономические прогнозы (хотя они в книге присутствуют), сколько на идею регулирования инноваций, которая предполагает участие не только государства, но и широкого круга экспертов из гражданского общества для того, чтобы в ходе всестороннего обсуждения разрешать возникающие в правовом или культурном поле вопросы. Его подход исходит из предпосылки, согласно которой автоматизацию необходимо рассматривать не только в контексте экономики, но и в контексте права, этики и культуры. Вновь и вновь на страницах книги Паскуале повторяет простую, но часто недооцениваемую мысль о том, что развитие ИИ, цифровизация и внедрение роботов — процессы не предопределённые, их динамика может

(и будет) определяться сочетанием факторов, среди которых экономическая целесообразность далеко не всегда обязана играть главную роль.

И, с точки зрения перспектив автоматизации, наибольший интерес представляют как раз две последних главы книги, в которых Паскуале делает заявку на то, чтобы предложить новую парадигму не только для осмысления, но и для управления технологиями. Действительно, во многих статьях и книгах о «революции роботов» рисуются утопические или апокалиптические картины мира, в которых утончённая робототехника практически полностью заменила большинство видов человеческого труда. В зависимости от авторских пристрастий акцент делается либо на невиданной свободе для творчества, которую несёт эта автоматизация, либо на глубочайшем социальном расслоении, которое возникнет из-за неравного доступа к автоматизации. Паскуале справедливо подчёркивает, что при ближайшем рассмотрении сфера применения ИИ намного более ограничена — и чем более активно будут использоваться возможности автоматизации, тем выше будет цениться экспертное (то есть, качественное, а не количественное) измерение знаний. Что не менее важно, Паскуале неоднократно указывает, что мечта многих технократов о том, чтобы полностью сократить экономически неэффективные области работы, вообще говоря, признак близорукости, порождённой сугубо прагматическим подходом к пониманию человеческой деятельности. Напротив, труд воспринимается многими людьми не просто как обмен своего рабочего времени на деньги, но как значимый для их собственной идентичности процесс. Это, в свою очередь, означает, что у автоматизации должны быть не столько технологические, сколько правовые и культурные ограничения, направляющие её ход. В этом смысле, говорит Паскуале, нам нужно не просто «больше ИИ», но «лучший ИИ», и технологии, позволяющие развивать навыки рабочих, равно как и их доход.

Эти выводы особенно любопытно приложить к опыту развивающихся стран, таких как Россия или Китай, где автоматизация развивается иначе, чем в США или странах Евросоюза. На первый взгляд, может показаться, что проблемы, поднятые в книге, касаются прежде всего (если не только) развитых стран, либо каких-то отдельных технологических гигантов калибра Google или «Яндекса». Но при более внимательном рассмотрении легко заметить, что именно развивающиеся рынки подвержены эффектам автоматизации не в меньшей — а то и в большей — степени, чем развитые, поскольку они включены в разнообразные экономические цепочки, связанные с инновационными продуктами или услугами. При этом, в отличие от развитых государств, во многих развивающихся странах не существует ни адекватных юридических механизмов регуляции действии ИИ, ни сколь-нибудь масштабной дискуссии о последствиях автоматизации. С этой точки зрения книга Паскуале (вышедшая первым изданием в 2020 г.) переведена крайне своевременно: очевидно, что в 2020-х гг. России предстоит преодолеть последствия мощного кризиса, найдя себе новое место на экономической карте мира, и адаптировавшись — так или иначе — к глобальной автоматизации.

Статья поступила в редакцию 19.11.2022.

Принята к публикации 30.11.2022.

СВЕДЕНИЯ ОБ АВТОРЕ

Соколов Дмитрий Васильевич d.v.sokolov.1985@yandex.ru

Научный сотрудник, Институт социологии ФНИСЦ РАН, Москва, Россия ОЯО!Р !Р: 0000-0001-5502-7225 Аи^огЮ РИНЦ: 761208

DOI: 10.19181/smtp.2023.5.1.14

TOWARD A SYNTHESIS OF COMPUTATIONAL POWER AND HUMAN WISDOM

Review of a Book by Frank Pasquale «New Laws of Robotics: Defending Human Expertise in the Age of AI»2

Dmitry V. Sokolov1

1 Institute of Sociology of FCTAS of the RAS, Moscow, Russia

For citation: Sokolov, D. V. (2023). Toward a Synthesis of Computational Power and Human Wisdom. Review of a Book by Frank Pasquale «New Laws of Robotics: Defending Human Expertise in the Age of AI». Science Management: Theory and Practice. Vol. 5, no. 1. P. 238-243. DOI 10.19181/smtp.2023.5.1.14

Abstract. The article discusses the main ideas of F. Pasquale's book "New Laws of Robotics: An Defending The Human Knowledge in the Age of AI". In his work, Pasquale actively uses the experience gained over many years in understanding the processes of digitalization, suggesting that the transition to new forms of the economy is not an inevitable catastrophe, but as an opening of the widest range of opportunities for people who are ready to integrate the latest technologies into their lives. The book proposes the laws of robotics, supplementing the classical postulates of A. Asimov, and outlines the contours of a new paradigm for understanding scientific and technological development. This paradigm is based on the idea of synthesis of human expertise with computing power. Pasquale notes that albeit the development of artificial intelligence and robotics will require large-scale reforms of the socio-economic system, the result of them may be not the displacement of people from the labor market, but rather the transformation of machines into assistants for human work. Achieving such a goal, Pasquale emphasizes, necessarily requires that digitalization and automatization have not so much technological as legal and cultural constraints that guide its course. In this case, the introduction of AI will become a factor that increases the value of human expertise, instead

2 Pasquale F. New Laws of Robotics: Defending Human Expertise in the Age of AI. Cambridge, Massachusetts & London: The Belknap Press of Harvard University Press, 2020 (English edition) / Izdatelskii dom Delo, 2022. 500 p. (Russian edition).

of ending up reshaping the economy in the interests of large corporations and technocratic elites.

Keywords: artificial intelligence, robotization, digitalization, laws of robotics, expertise, Frank Pasquale, automatization

The article was submitted on 19.11.2022. Accepted for publication 30.11.2022.

INFORMATION ABOUT THE AUTHOR Sokolov Dmitry d.v.sokolov.1985@yandex.ru

Researcher, Institute of Sociology of FCTAS of the RAS, Moscow, Russia AuthorID RSCI: 761208