CC BY
28
ИАС представляются менее склонными к непреднамеренным ошибкам.
В ходе обсуждения также было отмечено, что фактически, если непредумышленные потери гражданского населения все же имели место, уже не столь важно, произошли ли они вследствие ошибочных действий человека или сбоя в работе автономных систем. Тем не менее велика вероятность, что единичные сбои, обернувшиеся тяжелыми последствиями, приведут к волне общественного сопротивления последовательному внедрению ИАС.
Были высказаны опасения, что активное распространение ИАС во всех сферах человеческой жизни приведет к дегуманизации последних, замене людей роботами. Однако Э. Вреденбург парировала, что на практике ситуация не столь однозначна. Если говорить о производственной роботизации, то она потребует привлечения массы дополнительных специалистов в области программирования, т.е. снизится потребность в сотрудниках низкой, но не высокой квалификации. Таким образом, роботизация, отметила она, подразумевает не сокращение рабочих мест за счет полной замены личного состава машинами, а интеграцию ИАС в человеческую деятельность [с. 312].
В завершение заседания участники обозначили задачу дальнейшего скрупулезного исследования социальных последствий использования ИАС, в частности, совместимости автономного оружия с международными нормами в области прав человека и международным гуманитарным правом.
А.Ю. Липова
2018.02.014. НАТАЛЕ С., БАЛЛАТОРЕ А. ФАНТАЗИИ ПО ПОВОДУ МЫСЛЯЩЕЙ МАШИНЫ: ТЕХНОЛОГИЧЕСКИЕ МИФЫ И ИСТОКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА. NATALE S., BALLATORE A. Imagining the thinking machine: Technological myths and the rise of artificial intelligence // Convergence: The international j. of research into new media technologies. -Luton, 2017. - June 20. - P. 1-16.
Ключевые слова: искусственный интеллект; мыслящая машина; новые медиа; научные дискуссии; технологические мифы.
Специалисты в области изучения новых медиа и цифровой культуры Симоне Натале (Лафборский университет, Великобритания) и Андреа Баллаторе (Лондонский университет, Великобритания) анализируют социальные представления и общественные ожидания, которые сопровождали становление и развитие технологий, связанных с созданием искусственного интеллекта (ИИ) в 1950-е - начале 1970-х годов. Авторы полагают, что популярные социальные (и научные) иллюзии той эпохи по поводу потенциала и перспектив ИИ с точки зрения их конструирования и характера распространения в обществе аналогичны фантазийной футурологии, которая отличает восприятие новейших цифровых технологий и оптимистические научные и гуманитарные прогнозы наших дней. Поэтому для интерпретации цифровой культуры III тысячелетия в рамках нового научного направления, получившего название new media studies, будет полезна реконструкция заблуждений и ложных надежд, сопровождавших первые шаги в истории ИИ.
Такая реконструкция и составляет основное содержание настоящей статьи, фокусом которой выступает технологический миф (ТМ) о «мыслящей машине» как воплощении ИИ. Содержательный анализ этого мифа и ключевых паттернов его конструирования в середине прошлого столетия имеет самое непосредственное отношение к адекватной интерпретации социальных и научно-популярных представлений о возможностях и перспективах новых медиа (Интернет, персональный компьютер, смартфон и т.д.), уверены Натале и Баллаторе. В основу их исследования положены результаты контент-анализа статей об ИИ, которые в 1950-1970-х годах публиковались в авторитетных англоязычных журналах Scientific American (SA) и New scientist (NS). В ходе исследования были выявлены следующие паттерны конструирования мифа об ИИ как мыслящей машине: а) повторяющиеся аналогии и дискурсивные повороты, посредством которых идеи и понятия, заимствованные из других областей знания, применялись при описании ИИ, его функций и связанных с ним технологий; б) риторическое использование будущего как временного и пространственного локу-са, где будут преодолены ограничения и исправлены недостатки, присутствующие в настоящем; в) научные споры и дискуссии, ха-
рактерные для раннего этапа компьютерной истории, которые следует рассматривать в качестве неотъемлемой части дискурса, воплощавшего миф об ИИ как мыслящей машине.
Британские исследователи обращают особое внимание на ключевую роль последнего из перечисленных паттернов, поскольку, с их точки зрения, дискуссии специалистов и взаимоисключающие научные концепции являются одним из основных катализаторов конституирования и социального распространения ТМ любого рода (в том числе в рамках современной цифровой культуры). Предпринятое исследование, подчеркивают Натале и Баллато-ре, должно способствовать более глубокому пониманию поворотных моментов в истории ИИ и причин, которые обеспечили социокультурное влияние и устойчивость в западном обществе связанных с ним иллюзий и фантазий. Кроме того, авторы предполагают наглядно продемонстрировать данные и факты, релевантные изучению риторических и дискурсивных стратегий, которые сопровождают возникновение и популяризацию всех ТМ. Наконец, они выражают надежду, что предпринятое ими качественное эмпирическое исследование подготовит почву для «радикального пересмотра всей истории ИИ», прежде всего упрощенческой идеи о том, что миф о мыслящей машине - как плод дилетантских суждений и обыденных представлений - был развенчан посредством пропаганды научно обоснованных прогнозов и демонстрации реального потенциала ИИ его создателями и разработчиками [с. 2]. На самом деле, убеждены Натале и Баллаторе, именно публикации ведущих специалистов, в том числе на страницах БЛ и N8, обеспечили содержательное наполнение ТМ о мыслящей машине и способствовали широкому хождению социальных фантазий, касавшихся перспектив ИИ, в первые десятилетия его истории.
Переходя к обсуждению термина «технологический миф», авторы статьи подчеркивают «целесообразность использования этого понятия для осмысления процессов научно-технического развития» [там же]. Ссылаясь на Ролана Барта1, британские исследователи утверждают, что мифология модерна - это, по сути, культурная идеология эпохи, которая помогает современному человеку урегулировать свои отношения с им же созданной техникой. Много
1 Баг^ К. МуЬо^ез. - Р.: Беш!, 1957.
позже известный канадский социолог Винсент Моско в качестве главной функции современных мифов назвал социальную транс-ценденцию, обеспечивающую выход за пределы повседневности и рутины1; средствами подобной трансценденции в наши дни служат Интернет и цифровые технологии. Авторы статьи согласны с Моско в том, что природа ТМ, их функционирование в обществе и социальная популярность никак не соотносятся с тем, соответствует ли их содержание действительности или нет. Другими словами, к ТМ неприложим критерий истинности / ложности; такой миф «либо жив, либо мертв» [с. 3]. Поэтому социологический анализ ТМ должен принимать во внимание совсем иные его параметры, а именно его социокультурную эффективность и способность рассказать о культурном контексте, его породившем, резюмируют авторы. С учетом сказанного они считают необходимым применять к анализу любых ТМ «принцип симметрии», заимствованный из истории и социологии науки: один и тот же круг причин может обусловливать как истинные (соответствующие реальности), так и иллюзорные (эту реальность искажающие) верования и образы [там же].
Популярность и социальное влияние ТМ Натале и Баллаторе связывают с их нарративной природой. Следуя повторяющимся повествовательным паттернам, ТМ воспроизводятся в социальном воображении и циркулируют в самых разных общественных контекстах. Содержащиеся в них нарративные тропы (образные выражения, фигуры речи, аналогии, ассоциативные связи) опосредуют презентацию и репрезентацию ТМ и, тем самым, воображаемых функций и возможностей зашифрованных в них новых технологий [там же]. История ИИ изначально сопровождалась мифом об «ужасной и загадочной мыслящей машине», интеллектуальный резерв которой практически неисчерпаем и во много раз превосходит возможности человеческого мозга. Именно такой фантастический образ ИИ нарисовала американский социолог Диана Мартин, руководствуясь результатами проведенного ею в 1990-х годах эмпирического исследования с привлечением данных опросов и контент-анализа научно-популярных изданий за 40 лет компьютерной исто-
1 Mosco V. The digital sublime: Myth, power and cyberspace. - Cambridge (MA): MIT press, 2004.
рии1. Мартин утверждала, что социальные фантазии по поводу мыслящей машины возникли и распространились в американском обществе вследствие «некорректных метафор» и «технических преувеличений», наводнявших американские СМИ. Как оказалось, этот образ ИИ, как в позитивном, так и в негативном вариантах его оценки, сохранял свое влияние в США и в 70-е, и в начале 90-х годов прошлого столетия, когда компьютер стал привычным атрибутом рабочего места.
Отдавая должное пионерской работе Д. Мартин, Натале и Баллаторе предлагают рассмотреть несколько иной аспект проблемы ИИ, а именно роль научной и научно-популярной периодики в формировании данного ТМ среди самих теоретиков и творцов мыслящей машины. С точки зрения авторов статьи, для этого необходимо выйти за пределы профессиональной компьютерной субкультуры и проанализировать те публикации специалистов по ИИ, которые предназначались для самой разной аудитории - ученых и инженеров смежных специальностей, дилетантов, интересующихся новинками технической мысли, и просто широкой публики. Именно поэтому в качестве эмпирической базы были выбраны 100 наиболее релевантных статей из 8Л и N8, посвященных проблемам кибернетики, операциональных исследований, системной теории и компьютерной лингвистики [с. 5]. Авторы использовали методологические приемы историка медиа К. Марвин, которая документально, со ссылками на газетные и журнальные публикации, показала совокупную роль самых разных групп специалистов (от ведущих ученых и инженеров-практиков до технического персонала почтовых отделений) в конституировании и популяризации социальных представлений, касавшихся новых технологий конца XIX в.2
Как говорилось выше, контент-анализ статей из 8Л и N8 выявил ряд шаблонов, определивших формирование и широкое хождение в западном обществе прошлого столетия ТМ о мыслящей машине. Одним из таких шаблонов стала практика многократного использования в публикациях об ИИ концепций и понятий, заимствованных из других областей знания (биология, психология разви-
1 Martin C.D. The myth of the awesome thinking machine // Communication of
the ACM. - N.Y., 1993. - Vol. 36, N 4. - P. 120-133.
2
Marvin C. When old technologies were new: Thinking about electric communication in the late nineteenth century. - N.Y.: Oxford univ. press, 1988.
тия, детская психология, теория научения). Исходной точкой подобных заимствований была образная, а затем и прямая аналогия между компьютером (вычислительной машиной) и человеческим мозгом (биологическая структура). На страницах БЛ и N8 в 19501960-е годы регулярно печатались статьи, в которых машина как носитель ИИ наделялась способностью имитировать работу человеческого сознания; более того, авторы всерьез задавались вопросом, осознают ли разработчики компьютерных программ, что их детище копирует структуры их собственного мозга. Распространена была и обратная тенденция - уподобление ментальных функций человека операциям вычислительной машины. Отождествление ИИ с биологическими структурами мозга имело своим продолжением обсуждение возможности эмоционального отклика со стороны мыслящей машины: может ли компьютер чувствовать? Позднее ставился даже вопрос о разработке алгоритмов научения для решения искусственным интеллектом тех или иных задач (по аналогии с обучением и развитием детей путем проб и ошибок). Результатом этих и подобных им дискурсивных поворотов и риторических практик в отношении феномена ИИ явилось стирание грани между человеческим мозгом и ЭВМ и создание пространства общего знания, или разделяемого понимания, объединявшего специалистов разного профиля (кибернетиков, математиков, логиков, лингвистов, программистов, инженеров и операторов), работавших в области ИИ. Это общее понимание создавало предпосылки для самых смелых фантазий и будоражащих воображение футурологических прогнозов в отношении ИИ, которые подготовили второй, не менее важный паттерн конституирования релевантного ТМ, подчеркивают Натале и Баллаторе.
Исследователи, занимающиеся историей техники, обращают внимание на тот факт, что дискурс, устремленный в будущее, очень часто способствует смещению исследовательского внимания и фокуса социальных представлений с проблем настоящего к светлым горизонтам грядущего. В сфере ИИ футурологическое прожектерство, в которое оказались вовлечены ученые, инженеры, журналисты и широкая публика, служило гарантом того, что обнаружившиеся несовершенства электронного мозга в будущем компенсируются его неисчерпаемыми интеллектуальными возможностями.
На фоне первых успехов в разработке ИИ его создатели -теоретики и практики, - а также освещавшие эту тему журналисты обсуждали самые радужные перспективы в отношении ЭВМ: обучение мыслящей машины решению шахматных задач (что позволит проникнуть в тайны функционирования головного мозга); создание с помощью ИИ надежных прогнозов в самых разных сферах социальной жизни (наземный и авиатрафик, логистика, геопрогнозы); частичная замена человеческого интеллекта машинным в некоторых сферах деятельности (сельское хозяйство, фармацевтическая и химическая промышленность и даже мир высокой моды). В конце концов, резюмируют авторы статьи, прогнозы по поводу ИИ «покинули орбиту настоящего и устремились за горизонты будущего», вытеснив тем самым на некоторое время задачу скрупулезной проверки достигнутых результатов [с. 9].
В 1970-е годы золотой век компьютерной истории сменился «резким похолоданием». В специальной литературе и обыденных представлениях до сих пор доминирует мнение о том, что скепсис и полемика вокруг феномена ИИ обозначились именно в годы упадка и разочарований в этой сфере научной и инженерно-технической практики. Авторы статьи придерживаются другой позиции: контент-анализ публикаций в БЛ и N8 свидетельствует, что споры вокруг ИИ возникли вслед за первыми очевидными успехами на поприще создания электронного мозга. С самого начала ученые и практики, в том числе и те, кто непосредственно занимался разработкой ИИ, высказывали достаточно здравые критические соображения, которые касались как чисто технических трудностей создания интеллекта, превосходящего своим потенциалом человеческий, так и этических соображений по поводу замены человеческого мозга его компьютерным аналогом. В этом отношении история ИИ сопоставима с другими научными контекстами, опосредованными высоким накалом полемических страстей, которые сопровождали успех либо фиаско нетрадиционных областей знаний (например, парапсихологии). Натале и Баллаторе солидарны с теми историками науки, которые считают дискуссии и противостояние теоретических моделей и концепций катализатором развития новых научных направлений, во-первых, и фактором создания соответствующей научной и околонаучной аудитории, поддерживающей в обществе
незатухающий интерес к спорному предмету - во-вторых1. Таким образом, дискуссии и критические замечания в адрес ИИ не являлись исключительным следствием разочарования специалистов и дилетантов в возможностях электронного мозга; они составляли важную часть «социального хайпа» середины прошлого столетия и плавно перекочевали в дискурсивный контекст «холодной зимы» начала 1970-х годов [с. 10].
В заключение авторы приводят научно-технические и философские иллюстрации присутствия в современной цифровой культуре ТМ об ИИ, которые «находят самые неожиданные и удивительные способы своего проявления» в III тысячелетии [с. 11]. К свидетельствам культурной устойчивости этого мифа можно отнести социальные ожидания, связанные с образами новейшего мощного компьютера и Всемирной паутины, что в совокупности обеспечивают или, по крайней мере, обещают новый - глобальный -тип взаимосвязи между людьми, а также торжество коллективного (общечеловеческого) интеллекта. Научно-технический аспект подобных ожиданий на рубеже ХХ-ХХ! вв. нашел отражение в увлечении «экспертными системами» и в предпринятых японскими, а позднее американскими и британскими учеными попытках создания интеллектуальных машин «пятого поколения», которые окончились неудачей; сюда же относятся и работы в области создания искусственных нейронных систем (коннекционный ИИ). Философским воплощением социальных фантазий, сопряженных с феноменом ИИ, выступает трансгуманизм, предполагающий небывалое расширение горизонтов человеческого бытия и изменение общегуманистического порядка благодаря развитию цифровых технологий. К разряду философских спекуляций, связанных с новым имиджем ИИ, принадлежит и теория технологической сингулярности, которая постулирует радикальный цивилизационный сдвиг вследствие объединения интеллектуального потенциала мыслящих машин нового поколения с ментальными способностями человека. Наиболее радикальные философские прогнозы, получившие название апокалиптического ИИ, расценивают потенциал последнего как благодатную почву для воплощения религиозной мечты об аб-
1 Delborne J. A. Constructing audiences in scientific controversy // Social epis-temology. - Abingdon, 2011. - Vol. 25, N 1. - P. 67-95.
солютной чистоте, совершенстве и бессмертии, которые «ознаменуют собой победу компьютерного интеллекта над силами косности и невежества» и приведут к «компьютерным небесам обетованным» [с. 12]. В более сдержанных формах старый миф об ИИ находит отражение в философской идее сетевого коллективного разума («сетевой ИИ»), где Интернет выступает высшей стадией развития межчеловеческих взаимосвязей и коммуникации человека и машины. В этом контексте Всемирная паутина олицетворяет собой «глобальный мозг», или «коллективный гиперкортекс»1.
В конечном счете, пишут Натале и Баллаторе, «технологические мифы, такие как трансгуманизм и сингулярность, которым принадлежит ведущая роль в дискуссиях о цифровых медиа и культуре, в значительной мере заимствуют свое содержание и амбициозные притязания из дискурса 1940-1970-х годов, сопровождавших первые этапы работы по созданию ИИ» [там же]. Более того, процесс конституирования и распространения ТМ III тысячелетия следует тем же ключевым паттернам, что и 50 лет назад, облегчая тем самым задачу их содержательного и функционального анализа.
Е.В. Якимова
2018.02.015. БОЙД Р., ХОЛТОН Р.Дж. ТЕХНОЛОГИИ, ИННОВАЦИЯ, ЗАНЯТОСТЬ И ВЛАСТЬ: ДЕЙСТВИТЕЛЬНО ЛИ РОБОТОТЕХНИКА И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОЗНАЧАЮТ СОЦИАЛЬНУЮ ТРАНСФОРМАЦИЮ? BOYD R., HOLTON R.J. Technology, innovation, employment and power: Does robotics and artificial intelligence really mean social transformation? // J. of sociology. - L., 2017. - Aug. 29. - P. 1-15.
1 Hayles N.K. How we became posthuman: Virtual bodies in cybernetics, literature and informatics. - Chicago (IL): Univ. of Chicago press, 1999; Kurzweil R. The singularity is near: When humans transcend biology. - L.: Penguin books, 2005; Geraci R.M. Apocalyptic AI: religion and the promise of artificial intelligence // J. of the American Academy of religion. - Oxford, 2008. - Vol. 76, N 1. - P. 138-166; Levy P. The semantic sphere 1: Computation, cognition and information economy. - L.; Hobo-ken (NJ): ISTE: Wiley, 2011.
