CC BY
15ISSN 0868-5886
НАУЧНОЕ ПРИБОРОСТРОЕНИЕ, 2022, том 32, № 1, c. 11-20
- СИСТЕМНЫЙ АНАЛИЗ ПРИБОРОВ ^
И ИЗМЕРИТЕЛЬНЫХ МЕТОДИК
УДК 001.8
© И. Б. Птицына, 2022
НАУЧНЫЕ ПРИБОРЫ И ИНСТРУМЕНТЫ КАК ОСОБЫЙ ВИД АРТЕФАКТОВ
История артефактов — произведенных человеком предметов — так же велика, как и история человечества. Среди большого разнообразия артефактов важное место с самого начала занимали инструменты и несколько позже — приборы. Развитие социума всегда сопровождалось и сопровождается необходимостью увеличения возможностей этих артефактов и их усложнением. Все артефакты подобного рода — это экстрасоматические органы, дополнение к органам телесным и умственным, это инструменты, созданные для повышения способности решать определенные проблемы. С развитием технологий их возможности стали настолько большими, что возник вопрос, превышают ли они возможности человеческого мозга. Особенно этот вопрос актуален для такой разновидности инструментов, которые созданы для помощи мозгу, — обучающихся компьютерных программ искусственного интеллекта. Чтобы понять это, нужно обратиться к истокам науки, когда закладывались основы методологии и общие принципы получения умственного продукта. Этот результат имеет особенность — он часто воспринимается антропоморфно, перенося свойства экспериментатора на результат его деятельности. Это особенно актуально для сложных приборов и инструментов. В статье показана природа взаимоотношений человека и инструмента как его искусственного экстрасоматического органа.
Кл. сл.: прибор, инструмент, артефакт, экстрасоматический орган, искусственный интеллект, методология, модель, антропоморфизм, мифологизация науки
ВВЕДЕНИЕ
Термин "артефакт" имеет несколько значений. В экспериментальных науках под артефактом часто понимают нежелательное постороннее воздействие на объект, искажающее результат эксперимента, или результат такого воздействия. В науках, изучающих человека и его деятельность, под артефактом понимают любой объект, подвергавшийся воздействию человека. В настоящем тексте — это искусственно созданный с определенной целью объект, имеющий заданные физические характеристики и знаковое, символическое содержание [1]. Артефакты можно условно разделить на две большие группы: объекты, используемые для увеличения силовых двигательных и прочих телесных возможностей (инструменты), и объекты, используемые для воздействия на внешнюю среду для ее трансформации и усовершенствования (объекты культуры).
Некоторые животные уже в состоянии использовать для своих нужд подходящие предметы. Как зачатки инструментов можно рассматривать палки, которыми они достают предметы из недоступного места, или камни, которые используют для разбивания орехов и раковин. Зачатки элементов культуры у них — создание различного рода убежищ, гнезд.
ОСНОВНЫЕ ВИДЫ АРТЕФАКТОВ
Очевидно, что человеческие артефакты отличаются принципиально большей сложностью и разнообразием. Уже у древних людей появляются не только приспособленные предметы в качестве инструментов, а специально изготовленные под определенную задачу. Среди самых первых инструментов расколотые куски гальки с острым краем — скребки и резаки. Объекты культуры пополняются новым типом артефактов, связанным с ритуалами как методом общения с духами и потусторонним миром, — обереги и другие предметы культа, которые позже и дадут основу тому, что сейчас понимают под объектами культуры. Именно находки этих новых типов артефактов дают основания антропологам утверждать, что их производители уже относятся к миру людей, а не к животным. По ходу развития человечества инструменты совершенствовались и становились разнообразнее. Появляется специализация — рабочие инструменты, медицинские, оружие. За длинную историю были не только приобретения, но и потери. Многие культуры исчезали, не оставив описания технологий. Например, до сих пор идут споры о том, как без развитой техники можно было выпиливать и шлифовать огромные каменные глыбы и возводить из них мегалиты.
Исследовательская деятельность является необходимым компонентом деятельности человека. Среди инструментов формируется особая большая группа, предназначенная для увеличения человеческих возможностей при изучении окружающей среды, — приборы. История приборов, начиная с простейших измерительных инструментов, обычно приводится в руководствах по приборостроению [2-6], кроме того, существует довольно обширная литература по истории отдельных типов приборов. Приборы расширяют возможности сенсорных систем и позволяют наблюдать и регистрировать те параметры объектов, которые недоступны обычному восприятию.
Чтобы понять, как возникли более сложные артефакты, в том числе и инструменты, нужно обратиться к истокам науки. Новоевропейская наука, или то, что называют современной наукой, возникла относительно недавно и характеризуется наличием установленных методов исследования и системы доказательств [7].
ИСТОКИ НАУКИ
Современная наука возникла из трех основных источников. Древнюю науку (натурфилософию) часто считают началом. К нему могут быть добавлены источники знаний из древней Индии и арабских стран, а также средневековая схоластика, которая имеет богословское содержание, но сохранила интерес к античным авторам.
Другой источник — практические навыки ремесленников, которые передавались из поколения в поколение в семье или ремесленной мастерской и изменяли общий уровень знаний.
Третьим, наиболее интригующим источником, была алхимия. Известно, что она дала толчок развитию современной химии [8], но этим ее роль не ограничивается. После ее появления исследования стали приобретать современный вид.
Началась эпоха Возрождения, во время которой изменилось мировоззрение людей. Алхимия существовала и раньше, но в этот период она пережила свой расцвет, а затем была вытеснена наукой. Христианский Бог, прочно занимавший центр картины мира, начал несколько терять свое положение, поначалу совсем незначительно. Появились дерзкие умы, которые пытались в чем-то уподобиться Ему. Они хотели не только знать, как Господь сотворил этот мир, познать Его творение, но и создать то, что считалось доступным только Богу. Они были заняты поисками философского камня, который не только превращает другие материалы в золото, но и управляет вопросами жизни и смерти. Он дает вечную молодость и позволяет вырастить в пробирке гомункула — маленького, но живого человека. Многие из тех, кто были
первыми учеными и заложили основы современной науки, были алхимиками [9]. Самый известный из тех, о ком сохранились достоверные сведения, это Ньютон, который, однако, при жизни не афишировал свои исследования алхимии [10]. Практически одновременно ученые начали закладывать рациональные основы науки, ее методологию [11].
СВОЙСТВА ИНСТРУМЕНТОВ, ИНСТРУМЕНТ КАК ВОПЛОЩЕННАЯ МЫСЛЬ
Все инструменты, в том числе приборы, были созданы для увеличения возможностей человека. Инструменты можно рассматривать как искусственно созданные дополнения к человеческим органам — экстрасоматические органы. Производственные инструменты увеличивают физические возможности человека (например, молоток, электродрель, токарный станок), а инструменты исследования — возможности органов чувств: например, очки, телескоп, измеритель давления, регистратор колебаний. На протяжении жизни последнего поколения появился новый тип инструментов, которые увеличивают умственные способности, — компьютеры совокупно с программами, и среди них выделяется подгруппа искусственного интеллекта (ИИ). Их история началась с простейших приспособлений для счета — абакусов, счетов, арифмометров и калькуляторов, а позже они приобрели много новых функций и сейчас используются как отдельные приборы, так и как части экспериментальных установок. Все инструменты специализированы, иногда реализуют большой, но ограниченный список функций. Сейчас есть большой перечень областей, в которых используются возможности ИИ, и этот список постоянно расширяется. Как и любой артефакт, ИИ является воплощением какой-то деятельности, направленной на решение конкретной задачи. Это реализованная в материале модель задачи. При этом сохраняются все проблемы моделей, в том числе ограничения на выбранные параметры для моделирования, что также приводит к необходимости ограничения возможностей прибора.
Результатом работы ИИ являются предполагаемые физические явления, такие как появление на экране компьютера черно-белых или цветных изображений, которые пользователь воспринимает как текст или как другие данные, полученные в результате реализации алгоритма. Это просто физические явления в физическом субстрате, а именно результат — это интерпретация этих изображений пользователем как итог деятельности пользователя совместно с разработчиками и другими создателями алгоритма. ИИ не может оценивать и интерпретировать результат своей работы,
а может только подготовить часть работы для человека. Эта часть работы может быть очень большой и невозможной для исследователя без посторонней помощи, но вклад экспериментатора имеет решающее значение для получения окончательного результата. Если роль людей, подготовивших программное обеспечение для работы, игнорируется, а их отсроченная деятельность воспринимается как деятельность компьютера, то человеческие свойства переносятся на ИИ, приписываются ему. Существует, как сказал бы лингвист, метафорический перенос.
Требуется пояснение, какие именно ментальные возможности имеются в виду. Каким бы ни был принцип построения ИИ, какие основания для него бы не использовались — различные логики, добавления знаковых систем или других новых методов — все они не могут выйти за рамки рациональности. ИИ увеличивает ментальные возможности в том, что можно рационально выразить и обосновать. В том, что относится к свободному творчеству, к проявлению инициативы, его помощь невозможна. Любой самый совершенный ИИ не может решить даже самую простую задачу, если такая задача не входила в круг его задач. Экспериментатор не может заложить в алгоритм полное знание о ментальных операциях человека — пока еще никто не имеет это знание. И эта неполнота по сравнению с полнотой оригинала дает непреодолимые ограничения. Думать, что это возможно — значит считать себя Творцом, создающим ментальную часть гомункулуса. По мере того как знания о работе мозга будут пополняться, ИИ будет становиться все более совершенным. Но в той же мере будет и повышаться требовательность к способностям ИИ. Это напоминает античную историю об Ахиллесе и черепахе.
"КАРТА — ЭТО НЕ ТЕРРИТОРИЯ"
Теперь только историки науки помнят, что в начале своего существования наука стояла рядом с мистицизмом. Однако наука сохранила черты, которые отличают ее от других видов деятельности. Существующее житейское отношение к науке предполагает, что она знает и может почти все, а то, чего она не знает и не может, она исследует и узнает немного позже. Это ведет к мифологизации науки, обладающей всемогуществом, способностями, близкими к божественным. Так, в научной и популярной среде регулярно обсуждается вопрос, можно ли создать модель чего-либо (мозга, сознания, мышления и т.д.), которая полностью сохраняла бы все свойства оригинала. Например, есть долгое обсуждение вопроса: "Если бы каждый нейрон человека был точно смоделирован
в компьютере, привело бы это к человеческому сознанию?" [12]. Чтобы ответить на этот вопрос, необходимо выполнить как минимум два действия — понять, что такое сознание человека и отличается ли модель нейрона от самого нейрона.
Существует такой философский мем: "Карта — это не территория" [13]. Перефразируя, мы можем сказать, что модель или знак "-" это не то, что моделируется или обозначается. Знак не содержит полного знания того, что он означает, но содержит только тот смысл, который вкладывает в него автор. Модели также не полностью характеризуют то, что они моделируют. Ментальные модели представляют собой идею объекта, собранную из тех характеристик, которые представляют интерес и выбираются исследователем. На практике чаще всего используются 3-4 характеристики. Увеличение их числа для более полного описания объекта сталкивается с той проблемой, что описание неизбежно будет включать в себя не сочетаемые или даже противоречивые части. Объяснение этого явления кроется в природе языка, используемого для описания модели. Фридрих Вейсман в свое время показал, что в языке есть слои, которые не стыкуются друг с другом, и каждый из них имеет свою собственную логику [14]. Если все же предположить, что это условие преодолимо, то необходимо рассмотреть два случая: моделирование артефактов, т.е. искусственно созданных объектов, и моделирование природных объектов. Максимально точное моделирование искусственных объектов действительно возможно, но при этом теряется свойство модели. Это тиражирование. Артефакты имеют особенность в том, что они являются материализованным знаком своего оригинала, его "портретом" со смыслом, изначально заложенным в нем. Моделирование природных объектов во всей полноте их свойств связано с той трудностью, что невозможно заранее учесть все их свойства. Мы не знаем того, чего не знаем. Всегда может быть что-то, чего исследователь сам не знает или не знает наука своего времени. Идея такого моделирования в подсознательной форме содержит идею исследователя как всемогущего человека со свойствами Творца. Обратимся к вопросу упомянутой дискуссии о возможности проявления сознания в модели [12]. Вопрос предполагает возможность наличия у модели антропоморфных свойств. С точки зрения алхимии, это попытка создать гомункула, а автора — получить опыт Творца.
Ответ кроется в самом вопросе в словах "точно смоделировано". Автор вопроса должен был понять, что значит "точно" и возможно ли выполнение этого условия.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Еще одно проявление мифологизации науки — это вера в то, что ИИ может быть равен или даже превосходить людей по своим возможностям. Во-первых, нужно задать себе вопрос, что именно нужно превзойти.
Ранее Роджер Пенроуз, обсуждая искусственный интеллект [15], поднимал вопрос о сравнении возможностей человеческого мозга и компьютера. Понятие интеллекта не определено ни для человека, ни для компьютера, но ясно, что условием реализации человеческого интеллекта является наличие у человека сознания. Сознание — сложное многопараметрическое явление, и до сих пор нет полного понимания его сути и нет его четкого определения. Считается, что моделирование сознания невозможно [16], тем не менее некоторые параметры сознания известны и могут быть полезны. Одно из проявлений сознания — определение своего положения в окружающей среде. Это требует построения представления об окружающей среде и выделения себя из нее как независимой части. Почти 100 лет назад Якоб фон Икскюль постулировал знаковую картину мира (Umwelt) для исследуемой части мира и функциональный круг как способ исследования окружающего мира и инструмент для построения Umwelt [17, 18]. Отделение себя от окружающего мира и связанный с ним процесс разделения окружающего мира на предметы и явления, позволяющий приписывать им значение знаков, связаны с процессом выделения и индивидуации [19]. Процесс индивидуации обеспечивает еще одно свойство сознания — наличие внутренней речи [20, 21]. Именно она позволяет взглянуть на себя со стороны и делать суждения и оценки о своих действиях как стороннего объекта. Внутренняя речь также позволяет оформлять мысль словесно для коммуникации в социуме.
ЗАКЛЮЧЕНИЕ
Развитие социума сопряжено с появлением потребностей в новых знаниях, технологиях, материалах. Разрабатываемые инструменты и приборы становятся все более сложными не только для использования и интерпретации результатов, но и понимания их сути. Возникает новый тип мифологии, источником которой служат фантастические романы — о восстании роботов, об искусственном интеллекте, который готов занять в мире место человека.
Все приборы как экстрасоматические органы, в том числе и ИИ, могут и должны превосходить естественный орган по своим функциям. Но как часть тела они не могут превзойти человека
по совокупности возможностей. Проблема не в том, чтобы создать ИИ, который может делать что угодно, а в том, чтобы делать именно то, что нужно. Если представить себе ситуацию, что машины вышли из-под контроля и стали враждебны человеку, то это означает, что есть некто, кто заложил в программу такую возможность и хочет скрыть свои враждебные намерения, прикрываясь фантастическим мифом.
СПИСОК ЛИТЕРАТУРЫ
1. Hilpinen R. Artifact // The Stanford Encyclopedia of Philosophy. Summer, 2018 Edition / E.N. Zalta (ed.). URL: https ://plato. Stanford. edu/ archives/sum2018/entries/ artifact/
2. Катан Б.Ю. Приборостроение. Введение в специальность. М.: НИЦ ИНФРА-М, 2014. 112 с. DOI: 10.12737/827
3. Подплетенная А.А. История развития приборостроения и современное состояние отрасли // ГИАБ. 2013. № 12. C. 353-356. URL:
https://cyberleninka.ru/article/ri/istoriya-razvitiya-priborostroeniya-i-sovremennoe-sostoyanie-otrasli
4. Виноградова Г.Н. История науки и приборостроения. СПб.: НИУ ИТМО, 2012. 157 с.
URL: https://books.ifmo.ru/file/pdf/860.pdf
5. Земляков В.Л., Нагаенко А.В. История и методология приборостроения. Ростов-на-Дону: изд-во ЮФУ, 2012. 110 с. URL: https://studfile.net/preview/1811484/
6. Шухардин С.В., Ламан Н.К., Федоров А.С. Техника в ее историческом развитии. М.: Наука, 1979. 416 с. URL:
http://nplit.ru/books/item/f00/s00/z0000055/index.shtml
7. Гайденко П.П. История новоевропейской философии в ее связи с наукой. СПб.: Университетская книга, 2000. 456 с. URL: https://www.studmed.ru/gaydenko-pp-istoriya-novoevropeyskoy-filosofii-v-ee-svyazi-s-naukoy_d0a897016b9.html
8. Read J. From Alchemy to Chemistry. 1884. URL: https://archive.org/details/AlchemyToChemistry/page/n1/ mode/2up
9. Principe L.M. The aspiring adept: Robert Boyle and his alchemical quest. Princeton: Princeton University Press, 1998. 340 p.
10. Dobbs B.J.T. The Foundations of Newton's Alchemy. Cambridge: Cambridge University Press, 1975. 300 p.
11. Декарт Р. Рассуждение о методе (1637) // Сочинения в 2 томах. T. 1. М.: Мысль, 1989. 654 с. URL: https://vlab.fandom.com/ru/wiki/%D0%94%D0%B5%D0 %BA%D0%B0%D1%80%D1%82_%D0%A0._%22%D0 %A0%D0%B0%D 1%81%D 1%81%D 1%83%D0%B6%D 0%B4%D0%B5%D0%BD%D0%B8%D0%B5_%D0%B E_%D0%BC%D0%B5%D 1%82%D0%BE%D0%B4%D 0%B 5%22_( 1637)
12. MacGregor K. If every neuron in a human was accurately simulated in a computer, would it result in human consciousness? 2018.
URL: https://www.researchgate.net/post/If-every-neuron-in-a-human-was-accurately-simulated-in-a-computer-
would-it-result-in-human-
consciousness#view=6117be28909d0b100d1cc978
13. Korzybski A. Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics. (Preface by R.P. Pula.) New York: Institute of General Semantics, 1994 [1933]. 806 p. URL:
https://archive.org/details/sciencesanityint0000korz
14. Waismann F. The many-level-structure of language // Synthese. 1946. Vol. 5, no. 5-6. P. 221-229.
DOI: 10.1007/BF02274383
15. Пенроуз Р. Новый ум короля. М.: Едиториал УРСС, 2003 [1989]. 339 с.
16. Graziano M.S.A. Rethinking Consciousness: A Scientific Theory of Subjective Experience. New York: W.W. Norton, 2019. 256 p.
17. von Uexküll J. Umwelt und Innenwelt der Tiere. 2te vermehrte und verbesserte Auflage. Springer-Verlag, Berlin, Heidelberg, 1921 [1909]. URL: https://archive.org/details/umweltundinnenwe00uexk
18. von Uexküll J., Kriszat G. Streifzüge durch die Umwelten von Tieren und Menschen. Berlin, Heidelberg, Springer, 1934. DOI: 10.1007/978-3-642-98976-6
19. Малер М.., Пайн Ф., Бергман А. Психологическое рождение человеческого младенца: симбиоз и индиви-дуация. М.: Когито, 2011 [1975]. 413 с.
20. Выготский Л.С. Инструмент и знак в развитии ребенка. Собрание сочинений Л.С. Выготского. Т. 6, Научное наследие, 1930. URL:
https://www.marxists.org/archive/vygotsky/collected-works.htm
21. Выготский Л.С. Мышление и речь // Собрание сочинений Л.С. Выготского, Т. 1, Проблемы общей психологии, 1934. C. 39-285. URL:
https://www.marxists.org/archive/vygotsky/works/words/ Thinking-and-Speech.pdf
Институт аналитического приборостроения РАН, Санкт-Петербург
Контакты: Птицына Ирина Борисовна, ptiirina@yandex.ru
Материал поступил в редакцию 23.12.2021
ISSN 0868-5886
NAUCHNOE PRIBOROSTROENIE, 2022, Vol. 32, No. 1, pp. 11-20
SCIENTIFIC DEVICES AND INSTRUMENTS AS A SPECIAL KIND OF ARTIFACTS
I. B. Ptitsyna
Institute for Analytical Instrumentation of RAS, Saint-Petersburg, Russia
The history of artifacts (human-made objects) is as great as the history of mankind. Among the wide variety of artifacts, tools occupied an important place from the very beginning and, somewhat later, instruments. The development of society has always been accompanied by the need to increase the capabilities of these artifacts and their complications. All artifacts of this kind are extrasomatic organs — addition to bodily and mental organs — they are tools created to increase the ability to solve certain problems. With the development of technology, their capabilities have become so great that the question has arisen whether they exceed the capabilities of the human brain. This question is especially relevant for these kinds of tools that are created to assist the brain — self-learning computer programs of artificial intelligence. To understand this, one needs to turn to the origins of science, back to the day when the foundations of methodology and general principles for obtaining a mental product were laid. This result has a peculiarity: it is often perceived anthropomorphically, transferring the properties of the experimenter to the result of his activity. This is especially true for complex devices and instruments. The article shows the nature of the relationship between a person and an instrument as his artificial extrasomatic organ.
Keywords: device, instrument, artifact, extrasomatic organ, artificial intelligence, methodology, model, anthropomorphism, mythologization of science
INTRODUCTION
The term "artifact" has several meanings. In experimental sciences, an artifact is often understood as an unwanted extraneous effect on an object that distorts the result of an experiment, or the result of such an effect. In the sciences that study a human and his activities, an artifact is understood as any object that has been exposed to a human. In the present text, it is an object artificially created for a specific purpose and which has been given physical characteristics and a sign, symbolic content [1]. Artifacts can be conditionally separated into two large groups: objects used to increase power, motor and other bodily capabilities (tools), and objects used to influence the external environment for its transformation and improvement (cultural objects).
Some animals are already able to use suitable items for their needs. Sticks, with which they take objects out of an inaccessible place, or stones, which are used to break nuts and shells, can be regarded as rudiments of tools. The rudiments of cultural elements include the creation of various kinds of shelters, nests.
MAIN TYPES OF ARTIFACTS
Obviously, human artifacts are fundamentally more complex and diverse. Already ancient people not only adapted objects as tools, but specially made them for a specific task. Scrapers and cutters made of splin-
tered pebbles with a sharp edge were among the earliest tools. Cultural objects were replenished with a new type of artifacts associated with rituals as a method of communicating with spirits and the other world — amulets and other objects of worship, which later provided the basis for what is now understood as cultural objects. It is the finding of these new types of artifacts that gives reason to anthropologists to assert that their manufacturers are already related to humans, not animals. Tools have improved and become more diverse over time as humans have progressed. Specialization appeared — working tools, medical ones, weapons. Over a long history, there have been not only gains, but also losses. Many cultures disappeared without leaving a description of their technology. For example, there is still debate about how, without advanced technology, it was possible to cut and grind huge boulders and build megaliths of them.
Research activity is a necessary component of human activity. Among the instruments, a special large group is formed, designed to increase human capabilities to study the environment; these are instruments. Instrument history, starting with the simplest measuring instruments, is usually given in manuals on instrumentation [2-6]. In addition, there is a fairly extensive literature on the history of individual types of instruments. The devices expand the capabilities of sensor systems and allow observation and registering of those parameters of objects that are inaccessible to ordinary perception.
To understand how more complex artifacts, including instruments, arose, one needs to look at the origins of science. New European science, or what is called modern science, arose relatively recently and is characterized by the presence of established research methods and proof systems [7].
THE ORIGINS OF SCIENCE
Modern science has arisen from three main sources. Ancient science (natural philosophy) is often considered the beginning. To it can be added sources of knowledge from ancient India and Arab countries, as well as medieval scholasticism, which had a theological content but retained an interest in ancient authors.
Another source is the practical skills of artisans, which were passed down from generation to generation in a family or craft workshop and changed the general level of knowledge.
The third and most intriguing source was alchemy, which is known to have given impetus to the development of modern chemistry [8], but its role is not limited to this. After its appearance, research began to take on a modern look.
It was the Renaissance era, during which the worldview of people changed. Alchemy existed before, but during this period it experienced its heyday, and then was supplanted by science. In Christianity, the Creator, who firmly occupied the center of the picture of the world, began to lose his position somewhat, at first quite insignificantly. Inquiring minds appeared and tried to unravel the unknown. They wanted not only to know how this world was created, but also to create what was considered inaccessible to a human being. They looked for the philosopher's stone, in order not only to turn other materials into gold, but also to govern matters of life and death. It gives eternal youth and allows the growth of a ho-munculus in a test tube — a small but living person. Many of those who were the first scientists and laid the foundations of modern science were alchemists [9]. The most famous of those about whom reliable information has been preserved is Newton, who, however, did not advertise his studies of alchemy during his lifetime [10]. Almost simultaneously, scientists began to lay the rational foundations of science and its methodology [11].
PROPERTIES OF TOOLS, A TOOL AS EMBODIED IDEA
All instruments, including devices, were created to enhance human capabilities. Tools can be viewed as extrasomatic organs, artificially created additions to human ones. Production tools increase the physical capabilities of a person (for example, a hammer,
an electric drill, a lathe), and research tools — the capabilities of the senses (for example, glasses, a telescope, a pressure meter, a recorder of fluctuations). Over the last generation, a new type of tool — computers combined with programs — has emerged to improve mental abilities, and among them, a subgroup of artificial intelligence (AI) stands out. Their history began with the simplest devices for counting: abacuses, schoty, arithmometes, and calculators, and later they acquired many new functions and are now used both as individual devices and as part of experimental setups. All tools are specialized, sometimes implementing a large but limited list of functions. There is now a large list of areas in which the power of AI is used, and this list is constantly expanding. Like any artifact, AI is the embodiment of some kind of activity aimed at solving a specific problem. This is the model of the problem implemented in the material. At the same time, all the problems of the models are preserved, including restrictions on the chosen parameters for modeling, which leads to the need to limit the capabilities of the device.
The results of the work of AI are supposed physical phenomena, such as the appearance of black and white or color images on the computer screen, which the user perceives as text or as other data obtained as a result of the implementation of the algorithm. They are just physical phenomena in a physical substrate, specifically, the result is the interpretation of these images by the user, caused by the user's activities together with the developers and other creators of the algorithm. AI cannot evaluate and interpret the result of its work, but can only prepare part of the work for a human. This part of the work can be very large and impossible for the researcher without assistance, but the input of the experimenter is critical to obtaining the final result. If the role of the people who prepared the software for work is ignored, and the result of their work is attributed to the computer, then human properties are assigned to the AI. There is, as a linguist would say, a metaphorical transference.
An explanation is required as to which mental capabilities are meant. Whatever the principle of AI construction, whatever the grounds for it would be used — various logics, adding sign systems, or other new methods — all of them cannot go beyond rationality. AI increases mental capacity in what can be rationally expressed and justified. In what relates to free creativity, to the manifestation of initiative, its help is not possible. Even the most advanced AI cannot solve the most basic problem if it is not included in its task set. The experimenter cannot program the algorithm with complete knowledge of a person's mental operations because no one has this knowledge to date. And this incompleteness, in comparison with the completeness of the original, imposes insurmount-
able limitations. To think that this is possible means considering oneself as the Creator, creating the mental part of the homunculus. As knowledge about how the brain works grows, AI becomes more advanced. But to the same extent, the demands on the abilities of AI also increase. This is reminiscent of the ancient story of Achilles and the tortoise.
"MAP IS NOT A TERRITORY"
Now only historians of science remember that at the beginning of its existence, science stood side by side with mysticism. However, science has retained features that distinguish it from other activities. The existing everyday attitude to science presupposes that it knows and can do almost everything, and what it does not know, it investigates and finds out a little later. This leads to the mythologization of science, which has omnipotence, abilities close to the divine. So, in the scientific and popular environment, the question is regularly discussed whether it is possible to create a model of something (brain, consciousness, thinking, etc.), which would completely preserve all the properties of the original. For example, there is a long discussion on the question: "If every human neuron were accurately modeled on a computer, would this lead to human consciousness? "[12] To answer this question, it is necessary to perform at least two actions: to understand what human consciousness is and whether the model of a neuron differs from the neuron itself.
There is such a philosophical meme: "A map is not a territory" [13]. To paraphrase, we can say that the model or sign "—" is not what is being modeled or indicated. The sign does not contain complete knowledge of what it means, but only the meaning that the author puts into it. Models also do not fully characterize what they model. Mental models represent the idea of an object, collected from those characteristics that are of interest and chosen by a researcher. In practice, 3-4 characteristics are most often used. An increase in their number for a more complete object description faces the problem that the description will inevitably include incompatible or even contradictory elements. The explanation for this phenomenon lies in the nature of the language used to describe the model. Back in the day, Friedrich Weismann showed that a language has layers that do not fit together, and each of them has its own logic [14]. If, nevertheless, we assume that this condition is surmountable, then it is necessary to consider two cases: the modeling of artifacts, i.e. artificially created objects, and the modeling of natural objects. The most accurate modeling of artificial objects is really possible, but at the same time the property of the model is lost. This is a replication. Artifacts have a peculiarity: they are a materialized sign of their original, their
"portrait" with the sense originally laid in them. Modeling natural objects in the entirety of their properties is associated with the difficulty that it is impossible to take into account all of their properties in advance. We don't know what we don't know. There can always be something that the researcher himself does not know or the science of his time does not know. The idea of such modeling at a subconscious level contains the notion of the researcher as an omnipotent person with the properties of the Creator. Let us turn to the issue of the above-mentioned discussion about the possibility of the manifestation of consciousness in the model [12]. The issue suggests the possibility of the model having anthropomorphic properties. From the point of view of alchemy, this is an attempt to create a homunculus.
The answer lies in the question itself, in the words "accurately modeled". The author of the question had to understand what "exactly" means and whether it is possible to fulfill this condition.
ARTIFICIAL INTELLIGENCE
Another manifestation of the mythologization of science is the belief that AI can be equal or even superior to humans in its capabilities. First, you need to ask yourself what exactly needs to be exceeded.
Earlier, Roger Penrose, discussing artificial intelligence [15], raised the question of comparing the capabilities of the human brain and the computer. The concept of intelligence is not defined for a person or a computer, but it is clear that the condition for the activity of human intelligence is the presence of a person's consciousness. Consciousness is a complex multi-parameter phenomenon, and there is still no full understanding of its essence and no clear definition of it. It is believed that the modeling of consciousness is impossible [16], nevertheless, some parameters of consciousness are known and can be useful. One of the manifestations of consciousness is the determination of one's position in the environment. This requires building an understanding of the environment and separating oneself from it as an individual part. Almost 100 years ago, Jakob von Uexkull postulated a symbolic picture of the world (Umwelt) for the investigated part of the world and a functional circle as a way to explore the surrounding world and a tool for building Umwelt [17, 18]. Separation of oneself from the surrounding world and the associated process of dividing the surrounding world up into objects and phenomena, which makes it possible to ascribe the meaning of signs to them, are related with the process of individuation [19]. The process of indi-viduation provides another property of consciousness — the presence of inner speech [20, 21], which allows for looking at yourself from the outside and make judgments and assessments about your actions as
an outside object. Inner speech also allows one to formulate a thought verbally for communication in society.
CONCLUSION
The development of society is associated with the appearance of needs for new knowledge, technologies, and materials. The developed instruments and devices are becoming more and more complex, not only to use and interpret the results, but also to understand their essence. A new type of mythology is emerging, the source of which is science fiction — about the uprising of robots, artificial intelligence that is ready to take the place of mankind in the world.
All devices as extrasomatic organs, including AI, can and should surpass a natural organ in their functions. However, as a part of the body, they cannot outperform a human in terms of total potential. The problem is not creating an AI that can do anything, but doing exactly what is needed. If you imagine a situation in which AI gets out of control and becomes hostile to mankind, then this means that there is someone who has laid such an opportunity in the program and wants to hide his hostile intentions, by hiding behind a fantastic myth.
REFERENСES
1. Hilpinen R. Artifact. The Stanford Encyclopedia of Philosophy, Summer, 2018 Edition. E.N. Zalta (ed.). URL: https ://plato.stanford. edu/archives/sum2018/entries/artifact/
2. Kaplan B.Yu. Priborostroenie. Vvedenie v spetsial'nost' [Instrument making. Introduction to Specialty]. Moscow, NITS INFRA-M, 2014. 112 p. DOI: 10.12737/827 (In Russ.).
3. Podpletennaya A.A. [History of the instrument-making and current state of the industry]. GIAB [Mining informational and analytical bulletin], 2013, no. 12, pp. 353-356. (In Russ.). URL:
https://cyberleninka.ru/article/n/istoriya-razvitiya-priborostroeniya-i-sovremennoe-sostoyanie-otrasli
4. Vinogradova G.N. Istoriya nauki i priborostroeniya [History of science and instrument making]. Saint-Petersburg, NIU ITMO Publ, 2012. 157 p. (In Russ.).
URL: https://books.ifmo.ru/file/pdf/860.pdf
5. Zemlyakov V.L., Nagaenko A.V. Istoriya i metodologiya priborostroeniya [History and methodology of instrument making]. Rostov-on-Don, YuFU Publ., 2012. 110 p. URL: https://studfile.net/preview/1811484/ (In Russ.).
6. Shukhardin S.V., Laman N.K., Fedorov A.S. Tekhnika v ee istoricheskom razvitii [Technology in its historical development]. Moscow, Nauka Publ., 1979. 416 p. URL: http://nplit.ru/books/item/f00/s00/z0000055/index.shtml (In Russ.).
7. Gaidenko P.P. Istoriya novoevropeiskoi filosofii v ee svya-zi s naukoi [History of new european philosophy in its
connection with science]. Saint-Petersburg, Universitets-kaya kniga Publ., 2000. 456 p. (In Russ.). URL: https://www.studmed.ru/gaydenko-pp-istoriya-novoevropeyskoy-filosofii-v-ee-svyazi-s-naukoy_d0a897016b9.html
8. Read J. From Alchemy to Chemistry. NY, Dover Publications Inc., 1884. URL:
https://archive.org/details/AlchemyToChemistry/page/n1/ mode/2up
9. Principe L.M. The aspiring adept: Robert Boyle and his alchemical quest. Princeton, Princeton University Press, 1998. 340 p. DOI: 10.1515/9780691186283
10. Dobbs B.J.T. The Foundations of Newton's Alchemy. Cambridge, Cambridge University Press, 1975. 300 p.
11. Descartes R. Discours de la méthode pour bien conduire sa raison, et chercher la vérité dans les sciences. Ley, 1637. (Russ. Ed.: Dekart R. Rassuzhdenie o metode (1637). Sochineniya v 2 tomakh. Vol. 1. Moscow, Mysl' Publ., 1989. 654 p.) URL:
https://vlab.fandom.com/ru/wiki/%D0%94%D0%B5%D0
%BA%D0%B0%D1%80%D1%82_%D0%A0._%22%D0
%A0%D0%B0%D 1%81%D1%81%D1%83%D0%B6%D
0%B4%D0%B5%D0%BD%D0%B8%D0%B5_%D0%B
E_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%D
0%B5%22_(1637)
12. MacGregor K. If every neuron in a human was accurately simulated in a computer, would it result in human consciousness? 2018.
URL: https://www.researchgate.net/post/If-every-neuron-
in-a-human-was-accurately-simulated-in-a-computer-
would-it-result-in-human-
consciousness#view=6117be28909d0b100d1cc978
13. Korzybski A. Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics. NY, Institute of General Semantics, 1994 [1933]. 806 p. URL: https://archive.org/details/sciencesanityint0000korz
14. Waismann F. The many-level-structure of language. Synthese, 1946, vol. 5, no. 5-6, pp. 221-229. DOI: 10.1007/BF02274383
15. Penrose R. The Emperor's New Mind: Concerning Computers, Minds and The Laws of Physics. Oxford, Oxford University Press, 1989. 480 p. (Russ. Ed.: Penrouz R. Novyi um korolya. Moscow, Editorial URSS, 2003. 339 p.) (In Russ.).
16. Graziano M.S.A. Rethinking Consciousness: A Scientific Theory of Subjective Experience. NY, W.W. Norton, 2019. 256 p.
17. von Uexküll J. Umwelt und Innenwelt der Tiere. 2te vermehrte und verbesserte Auflage. Berlin, Heidelberg, Springer, 1921 [1909]. URL:
https://archive.org/details/umweltundinnenwe00uexk
18. von Uexküll J., Kriszat G. Streifzüge durch die Umwelten von Tieren und Menschen. Berlin, Heidelberg, Springer, 1934. DOI: 10.1007/978-3-642-98976-6
19. Mahler M., Pine F., Bergman A. The psychological birth of the human infant: symbiosis and individuation. NY, Basic Books Inc., 1975. 308 p. (Russ. Ed.: Maler M.., Pain F., Bergman A. Psikhologicheskoe rozhdenie chelo-vecheskogo mladentsa: simbioz i individuatsiya. Moscow, Kogito, 2011. 413 p.) (In Russ.).
20. Vygotskii L.S. Instrument i znak v razvitii rebenka. So-branie sochinenii L.S. Vygotskogo. T. 6, Nauchnoe nasle-die. [Tool and sign in child development. Collected works of L.S. Vygotsky. Vol. 6. Scientific heritage], 1930. (In Russ.). URL:
https://www.marxists.org/archive/vygotsky/collected-works.htm
21. Vygotskii L.S. Myshlenie i rech'. Sobranie sochinenii L.S. Vygotskogo, T. 1, Problemy obshchei psikhologii [Thinking and speech. Collected works of L.S. Vygotsky, Vol. 1, Problems of general psychology], 1934, pp. 39-285. (In Russ.). URL:
https://www.marxists.org/archive/vygotsky/works/words/ Thinking-and-Speech.pdf
Contacts: Ptitsyna Irina Borisovna, ptiirina@yandex.ru
Article received by the editorial office on 23.12.2021
HAYHHOE nPHEOPOCTPOEHHE, 2022, tom 32, № 1
