Научная статья на тему 'Витальные (жизненно важные) проблемы роботизации'

Витальные (жизненно важные) проблемы роботизации Текст научной статьи по специальности «Философия, этика, религиоведение»

CC BY
234
50
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
РОБОТЫ / ЧЕЛОВЕКООБРАЗНЫЕ РОБОТЫ / ИСКУССТВЕННАЯ РАСА / КОНКУРЕНЦИЯ С ЧЕЛОВЕКОМ / ОПАСНОСТЬ ИСКУССТВЕННОГО ЧЕЛОВЕЧЕСТВА

Аннотация научной статьи по философии, этике, религиоведению, автор научной работы — Тетиор А.Н.

Быстрая роботизация многих областей жизни человека эффективно решает множество актуальных технологических проблем (индустрии, медицины, сферы обслуживания, обучения, и др.), но она витально опасна ввиду возможного изменения хода естественной эволюции, элиминации человека как неконкурентоспособного биологического вида, создания нового вида (видов) искусственных разумных существ, не нуждающихся во множестве природных факторов, обеспечивающих жизнь на Земле; изменения взаимодействия их с природой планеты, безопасной экспансии этого нового вида в космическом пространстве с освоением новых планет. Одновременно опасны высвобождение массы людей при расширении области эффективной роботизации и неопределенность их будущей деятельности. Допустимо ли такое развитие, или необходим возврат к естественной эволюции человека и всей остальной живой природы Земли в естественной среде?

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

VITAL PROBLEMS OF ROBOTIZATION

Quick robotization in many areas of human life effectively solves many actual technological problems (industry, medicine, services, training, etc.). Robotization is extremely dangerous in view of possible change of natural evolution; in view of possible elimination of the humanity as uncompetitive species; in view of creation of a new artificial sentient species that not in need in a variety of natural factors that support life on Earth. It is dangerous in view of change of their interaction with nature of the planet; in view of expansion of this new type in outer space with the development of new planets. At the same time dangerous release of masses of people as the effective robotization and the uncertainty of their future activities. May be humanity must return to the natural evolution of man and to the rest of the wildlife in the natural environment.

Текст научной работы на тему «Витальные (жизненно важные) проблемы роботизации»

PHILOSOPHICAL SCIENCES

ВИТАЛЬНЫЕ (ЖИЗНЕННО ВАЖНЫЕ) ПРОБЛЕМЫ РОБОТИЗАЦИИ

Тетиор А.Н.

Доктор техн. наук, профессор. Россия, РГАУМСХА им. К.А. Тимирязева, г. Москва

VITAL PROBLEMS OF ROBOTIZATION

Tetior A.

Dr. Sc., Professor K.А. Timirjasev Agricultural Academy, Moscow

АННОТАЦИЯ

Быстрая роботизация многих областей жизни человека эффективно решает множество актуальных технологических проблем (индустрии, медицины, сферы обслуживания, обучения, и др.), но она витально опасна ввиду возможного изменения хода естественной эволюции, элиминации человека как неконкурентоспособного биологического вида, создания нового вида (видов) искусственных разумных существ, не нуждающихся во множестве природных факторов, обеспечивающих жизнь на Земле; изменения взаимодействия их с природой планеты, безопасной экспансии этого нового вида в космическом пространстве с освоением новых планет. Одновременно опасны высвобождение массы людей при расширении области эффективной роботизации и неопределенность их будущей деятельности. Допустимо ли такое развитие, или необходим возврат к естественной эволюции человека и всей остальной живой природы Земли в естественной среде?

ABSTRACT

Quick robotization in many areas of human life effectively solves many actual technological problems (industry, medicine, services, training, etc.). Robotization is extremely dangerous in view of possible change of natural evolution; in view of possible elimination of the humanity as uncompetitive species; in view of creation of a new artificial sentient species that not in need in a variety of natural factors that support life on Earth. It is dangerous in view of change of their interaction with nature of the planet; in view of expansion of this new type in outer space with the development of new planets. At the same time dangerous release of masses of people as the effective robotization and the uncertainty of their future activities. May be humanity must return to the natural evolution of man and to the rest of the wildlife in the natural environment.

Ключевые слова: роботы; человекообразные роботы; искусственная раса; конкуренция с человеком; опасность искусственного человечества

Keywords: robots; humanoid robots; artificial race; competition with man; danger of artificial humanity

Причиной разработки первых в истории роботов было, вероятно, стремление создать автоматических бессловесных слуг (и воинов), а также влечение к творчеству и к развлечениям. Первые в истории роботы были созданы в эпоху античности в древней Греции, как автоматические устройства для выполнения практических задач и развлечения. Механическая «женщина» наливала из кувшина вино во вставленный в ее руку стакан. Древнегреческий математик и изобретатель Архит Тарент-ский в 5 в. до н. э. изобрел деревянного голубя, который запускался в небо с помощью катапульты.

Древние механические куклы «каракури» в Японии для домашних развлечений известны как «робот - чайный сервис» (рис. 1). Слово «каракури» переводится как «механическое устройство, созданное чтобы дразнить, обмануть или удивить человека». Рычаги, кулачки и шестерни внутри робота заставляли его двигаться, если чашка с чаем ставилась на поднос. Когда чашку убирали с подноса, робот останавливался, а когда чашку наполняли чаем, то все механизмы робота возвращались в исходное состояние. Затем, в более поздние времена эпохи Эдо, японскими мастерами были созданы более сложные роботы - стрелки из лука.

Рис. 1. Робот - каракури

Человек предпринимал неоднократные по- уничтожить его, устрашившись исполинских раз-

пытки создать устрашающего врагов гигантского робота. «Одно из.. .преданий повествует о сотворении искусственного человека - голема. Рабби .в XVI в. создал голема из глины, но был вынужден

меров своего создания и опасаясь, что существо, наделенное такой силой, будет в состоянии разрушить весь мир» (рис. 2).

Рис. 2. Один из образов Голема

Роботизация преследовала цель устранить недостатки, свойственные телу и мышлению человека, улучшить выполнение им функций, ускорить деятельность и повысить производительность труда, особенно при монотонных однотипных операциях на конвейерах. Для этого было необходимо, во-первых, описать эти недостатки, и, во-вторых, наметить наиболее четкие и быстрые пути их решения.

Надо сказать, что у человека действительно есть множество несовершенств, которые являются следствием его эволюции от животных-предков (эволюция продолжается). Среди них - ограниченность физических возможностей, низкие скорости движения, несовершенство характеристик сенсорных органов (зрения, слуха и пр.), многослойный мозг как наследие древних предков, узкий «коридор» благоприятных факторов среды, упрощенное мышление и реагирование как унаследованный фактор выживания, замедленное выполнение многих операций (движения на конвейере, счет, и пр.). Эти факторы были вполне достаточны для успешного существования человека в среде Земли, и даже для занятия им места вершителя судеб природы планеты. Но по мере развития человечества и

наступления эры научно-технической революции эти несовершенства стали негативно влиять на развитие: различные искусственные устройства стали эффективно заменять человека в деятельности. Этому способствуют их положительные качества -роботы выполняют сложные производственные операции по 24 часа в сутки; их быстродействие и точность несопоставимы с человеческими; выпускаемая роботами продукция имеет высокое качество; роботы не болеют, не нуждаются в обеденном перерыве и отдыхе; они не нуждаются в удовлетворении множества растущих потребностей; они не бастуют, не требуют повышения заработной платы и пенсии; они не подвержены воздействиям окружающей среды, опасным для жизни человека. Но это действительно только для «операционных» роботов, выполняющих однотипные операции по заданным программам. Что касается будущих самообучающихся и «мыслящих» роботов, то их поведение будет намного сложнее, оно, вероятно, будет напоминать эволюцию человека, с его ошибками и недостатками.

Описанные несовершенства человека привели к критике его устройства и функционирования, и к появлению принципиально новых предложений по

решению его проблем. Один из ярких примеров -это предлагаемые известным писателем и исследователем Ст. Лемом жесткое вмешательство в естественный процесс развития человека, переход к «био - технологической революции», и даже к отказу от человеческого тела и видовой полиморф-ности человека. Описывая предполагаемые ошибки естественной эволюции, он предлагал в качестве средств замены этих принципиальных просчетов, поистине невероятные, не соответствующие законам природы, предположения о путях создания нового Homo sapiens.

«...Разум, вместе с Деревом Жизни, - порождение ошибки, вслепую блуждающей целые миллиарды лет. Разум - это прежде всего ухищрение, до которого Эволюция дошла постепенно, когда, в ходе ее неустанных экспериментов, у животных обозначился некий пробел, пустое место, дыра, которую им непременно надлежало чем-то заполнить, чтобы избегнуть немедленной гибели». ... Разум есть фатальный дефект эволюции, ловушка для нее, капкан и могильщик.» [1].

Лем возлагал неосуществимые надежды на одностороннее искусственное улучшение без получения второй, негативной стороны: «Мы можем стереть Разницу между «искусственным» и «естественным». Чтобы выйти на новый путь, человеку разумному придется либо расстаться с человеком природным, либо отречься от своего разума». . Человек разумный откажется от человека природ-ного,...человек природный погибнет» [1].

Вместо естественного рождения - маточные репликаторы. «Технически маточные репликаторы не слишком сложны и могут быть созданы уже сейчас. Биологически же их производство означает, что Homo Sapiens потеряет один из атрибутивных признаков класса млекопитающих. Заметим, что отказ от вынашивания плода и родов, по всей видимости, приведет также к отказу от грудного вскармливания . - таким образом, будет утерян еще один атрибутивный для класса признак. Сочетание маточного репликатора и процедуры клонирования расширит границы способа размножения вида Homo, который кроме обычного полового сможет использовать также вегетативное размножение (клонирование) и даже однополое размножение. Управление геномом (что должно стать конечным результатом нынешней биологической революции) приведет к отказу от человеческого тела и видовой полиморфности человека. Заметим в этой связи, что при наличии искусственной среды обитания человек может отказаться даже от теплокровности. Таким образом, эволюция Homo будет сопровождаться отказом от ряда

(если не от всех) маммальных признаков. Если учесть, что атрибутивная характеристика данного вида - создание искусственной среды обитания -дает Человеку Разумному возможность выйти за границы земной атмосферы и расширить область своего существования до пределов Вселенной, мы с неизбежностью заключаем: антропогенез есть первый пример естественной сапиентизации, приводящей к созданию существ с внешней беременностью, социальной формой организации жизни, полиморфных, способных к конструированию собственной среды обитания. Представляется естественным отнести таких существ к новому биологическому классу - классу Разумных» [1]. Эта «био - революция» - пример биологически недопустимого прорыва, уравновешивающий негативный результат которого может привести к невозможности продолжения жизни.

Понятие и функции роботов постоянно усложняются, налицо - древо множественного (позитивно-негативного) развития роботизации [3]. Сейчас робот - электронное или механическое устройство, выполняющее возложенные на него встроенной программой функции, или действующее и развивающееся самостоятельно, и имеющее или не имеющее аналогии со строением и функциями человека.

В настоящее время происходит бурный рост исследований и разработок в области роботизации многих направлений деятельности человека - от самых простых (робот-уборщик или робот-санитар) до более сложных, выполняющих множество операций в промышленности, медицине, военной технике, и других отраслях, и до наиболее сложных человекоподобных роботов, обладающих многими человеческими функциями - вплоть до способности мышления, принятия самостоятельных решений, и размножения (табл. 1).

Как обычно, человечество возлагает большие надежды на позитивные ветви нового технологического прорыва: «Современные роботы, созданные на базе самых последних достижений науки и техники, применяются во всех сферах человеческой деятельности. Люди получили верного помощника, способного не только выполнять опасные для жизни человека работы, но и освободить человечество от однообразных рутинных операций» [2]. Однако известно, что чем крупнее научно-технический прорыв, тем более опасную негативную ветвь развития можно в дальнейшем получить [3].

В мире происходит революция роботизации: уже широко известны роботы - промышленный, медицинский, транспортный, бытовой, социальный, экскурсовод, подводный, боевой, летающий, и др. [2].

Таблица 1

Развитие функций роботов_

Функции Первые механические роботы Движущиеся и говорящие куклы Технологические роботы для автоматического выполнения операций Андроиды -челове-кооб-разные роботы Гибриды человека и робота (киборги) Гума-но-иды, био-робот ы Искусственные люди, новый вид -«разумные» (по Ст. Лему)

Простые механические движения V V V

Сложные движения тела по команде оператора V V

Сложные манипуляции робота, задаваемые встроенной программой V V V

Сложные манипуляции робота, задаваемые мозгом V V V

Способность к обучению V V V

Способность к общению с человеком V V V

Способность удовлетворять широкий круг потребностей человека V V V

Способность к размножению печатанием на 3D - принтере V V V

Способность к размножению с внешней беременностью, маточными репликаторами и клонированием V V

Самостоятельное принятие решений V V

Наличие нового созданного мозга и мышления V V

Способность к конструированию своей среды обитания V V

Управление геномом V V

Отказ от форм и функций природного человека V V

Способность к конструированию собственной эволюции V V

Независимость от факторов среды обитания и экспансия в космосе V V

Как обычно, развиваются позитивные и негативные ветви роботизации (рис. 3). Негативные ветви могут привести к далеко идущим негативным последствиям, вплоть до принципиального изменения направления эволюции на Земле и элиминации

Homo Sapiens Sapiens как вида в связи с меньшей конкурентоспособностью по сравнению с новым искусственным видом «человека разумного».

Рис. 3. Древо позитивно-негативной эволюции роботизации: роботы в промышленности, в офисах, в сервисе, и пр., но и в вооружении, в искусственной «любви», в массовой замене людей на роботов

В широком смысле слова робот предназначен для автоматического выполнения различного вида операций, служащих для удовлетворения широкого круга потребностей человека - естественных, производственных, бытовых, интеллектуальных, социальных и пр., или потребностей робота; он действует по заложенной программе или принимает решения самостоятельно, получает информацию о ходе выполнения операций посредством датчиков -рецепторов, и регулирует выполнение с помощью механизмов - эффекторов. Робот осуществляет операции, удовлетворяющие потребности человека, и собственные потребности. При этом он может получать от оператора команды, или действовать автономно (в соответствии с заложенной человеком программой), или принимать решения самостоятельно. Среди известных систем - обычный робот (см. выше); андроид (человекообразный

робот, рис. 4), похожий внешне на человека, но не имеющий ряда основных систем организма человека, и потому во многом являющийся говорящей и движущейся куклой; биоробот - человек или животное, у которого вместо мозга вставлен искусственный процессор, все остальное тело - органическое; наиболее сложный - гуманоид - робот человеческой формы, выполняющий ряд важнейших человеческих функций и имеющий человекоподобные органы - мышление, речь, органы зрения, слуха, обоняния, осязания, размножения, способность к самообучению, к человекоподобному движению тела и конечностей, к воспроизводству, к удовлетворению собственных потребностей, к гуманному взаимодействию с живым человеком и с природой.

Назревает следующий этап - искусственный человек («артмен»), представляющий собой новую расу полностью искусственных людей, самостоятельно существующих и размножающихся, например, с помощью человекоподобного секса, генерирующих собственные формы и эволюцию. В будущем прогнозируется межвидовое скрещивание, которое может привести к появлению гибридов человека и робота (еще одна раса?). Предполагается, что вскоре «генетические роботы» будут способны создавать себе подобных и совершенствовать их без участия человека, будут способны к размножению (сначала с помощью печати на 3D-принтерах, причем не нужно будет ждать взросления, организм

сразу будет полностью готов к существованию), к созданию семьи, к широкому росту потребностей; смогут приспосабливаться к окружающим условиям. Программное обеспечение, отвечающее за репродуктивную функцию, будет генерировать несколько вариантов дизайна и выбирать из них вариант, наиболее подходящий для выполнения конкретной задачи.

Особый интерес для человека представляют человекоподобные роботы. В компании Abyss Creations в Калифорнии, создан робот - компаньон «Хармони», умеющий поддерживать беседу, учиться, шутить и цитировать Шекспира, удовлетворять сексуальные желания (рис. 5).

Рис. 5. Изготовление «Хармони»

Ее создатель, М. МакМаллен говорит, что робот может запоминать любимые блюда, дни рождения, имена родственников. В «Хармони» внедрили систему распознавания голоса и лиц, датчик движения и аниматорную инженерию. С такими способностями «Хармони» больше похожа на имитацию партнера, чем на обычную секс-игрушку. Эта кукла - синтез мужских представлений об идеальной женщине - послушная, с привлекательным телом.

Так как компьютерные модели переноса нравственности в мышление роботов используют человека, как образ и подобие, можно предположить,

что эволюция мира роботов будет обладать теми же противоречиями, что и эволюция человека, то есть она вызовет очередной глобальный экологический кризис (например, вследствие чрезмерного потребления электроэнергии, и пр.).

Необходимо уравнивание в правах робота и человека, что приведет к созданию на Земле новой, не человеческой цивилизации. А существующие противоречия в конечном итоге могут привести к глобальному столкновению двух наделенных разумом видов в интересах будущего (третьего?) вида.

Интересны следующие факторы роботизации:

1. Роботы не имеют и, возможно, никогда не будут иметь всех систем организма человека -нервной, кровеносной, дыхательной, пищеварительной, выделительной, мочеполовой; им нужна

Рис. 6. Робот

При наличии этих частей тела человека, не выполняющих своих обусловленных эволюцией функций, это не роботы, а куклы. Между тем у роботов ради сексуальной привлекательности делают красивые лица, рты, улыбки, зубы, волосы и женские фигуры. В 2017 г. произошло уникальное событие: робот София был официально признан гражданкой Саудовской Аравии (почему? Ведь даже по-человечески он неполон - только выше пояса это - робот).

2. Круг потребностей роботов существенно отличается от человеческих (у них пока нет естественных биологических, экономических, трудовых, этнических, социальных потребностей). Возможно, в следующих поколениях роботов появятся новые органы и потребности. В то же время стремление к удовлетворению потребностей - движущая сила эволюции. Значит, у будущих роботов должны быть созданы первоочередные потребности, к удовлетворению которых они должны стремиться. Круг потребностей (в жилище, в общении, в одежде, в бытовой технике, в ландшафтах, в спорте, в музыке, в семье, и пр.) возможно, будет постепенно сформирован самими роботами.

3. «Жизнь» роботов существенно отличается от человеческой: роботам не нужны сон, отдых, смена времени суток и года, естественные ресурсы при полном рециклинге - не нужны, окружающая природа - практически не нужна, и т.д. Где их ниша? Будет ли разнообразно питание? Нужны ли флора и фауна? Или они будут заменены роботами

опорно-двигательная система. Поэтому многие части человеческого тела роботам не нужны - например, зубы, губы, рот, волосы на голове, внутренние органы, молочные железы у женщин, и др. Однако, они выполняются (рис. 6).

на роботов-животных (уже есть робот-собачка и робот-комар) и на такие же растения? Как при этом совместить на одной планете человеческую и нечеловеческую расы? У них все - абсолютно разное. Вероятней всего, это приведет к неразрешимому конфликту, в котором одержит победу более приспособленная искусственная раса. Но возможен и перелет этой расы на ближайшие планеты - им не нужна атмосфера, они менее чувствительны к космическим излучениям, и пр. Вот интересное направление эволюции - создание новой искусственной расы и ее экспансия в Космосе. Казалось бы, искусственная раса - новое перспективное направление развития, она сможет заменить не продемонстрировавшее способности к выживанию человечество. Если бы было возможно одностороннее развитие - так бы и произошло. Но одностороннее развитие, как медаль с одной стороной, невозможно. Любое развитие происходит с разветвлениями, оно бинарно множественно [3]. После позитивной ветви следует уравновешивающая ее негативная ветвь, и т.д. Чем мощней научно-технический прорыв - тем более негативной будет последующее разветвление. Этого же надо ожидать и от процесса роботизации. Известны всеобщие законы развития - закон разветвляющегося развития с взаимным уравновешиванием ветвей, и закон бинарной множественности предметов и явлений мира [3]. Они предупреждают о появлении после первоначальных позитивных результатов вследствие разветвления негативных (с точки зрения че-

София - тело только выше пояса; ходить не может, ее носят

ловека) направлений развития. По мере роста исследований и разработок в области роботизации уже начали выявляться негативные для человека и человечества тенденции: рост числа ненужных работников, труд которых замещается безупречным трудом роботов; возможный рост безработицы; поиск занятий для высвобождающихся работников; необходимость их обучения; высвобождение множества людей от работы; возможный рост интимного общения с готовыми на все привлекательными роботами взамен более проблемного общения с людьми противоположного пола; рост нетрадиционного общения с роботами; негативное влияние отсутствия человеческой теплоты в общении на множество факторов воспитания молодежи, и пр.

Человечество далеко не осознало всю сложность и опасность эволюции роботов. Предполагая защиту человека от негативных действий роботов, писатель А. Азимов в 1942 г. предложил три упрощенных закона роботов: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам. Эти законы устарели, они не охватывают возможные действия «умных» роботов, например, предложенного Ст. Лемом нового искусственного вида - «человека разумного», который полностью самостоятелен в своей деятельности, сам строит среду своего обитания, и самостоятельно решает вопросы своей эволюции (подчиняться ли чьим-то законам).

«...Каждый прогресс в органическом развитии, - отмечал Энгельс, - является вместе с тем и регрессом, ибо он закрепляет одностороннее развитие и исключает возможность развития во многих других направлениях». Исходя из этого недопустимо вмешательство в организм и эволюцию человека (переход к киборгу). Нет никакого сомнения, что до последних 100-200 лет человек и весь мир эволюционировали в основном в соответствии с законами природы, и поэтому резкий поворот к искусственному миру скажется на протекании дальнейшей эволюции человека и всего мира природы. Окажется ли искусственное изменение процесса эволюции опасным для человека и всей Земли? Учитывая, что последствия не могут быть предугаданы, было бы лучше путем продуманных и небольших шагов проверять возможные последствия

и только затем широко применять проверенные решения. Но гораздо лучше было бы максимально использовать естественные, природные решения, не нарушая привычной для человека среды и разнообразных сторон жизни.

Удовлетворяя растущие потребности, человечество всегда смело шло в неведомые области, заглядывало за грань. При этом каждое новое решение ставило перед человечеством все новые проблемы, и чем более принципиальным оно было, тем большие тревоги затем вызывало. Развитие человечества определялось и продолжает определяться постоянным расширением и практической безграничностью потребностей. Положительные эмоции, сопровождающие удовлетворение потребностей -это одно из основных условий развития человечества. Но у роботизации проявление разветвляющегося развития еще впереди.

Заключение. Да, роботизация многих областей жизни человека эффективно улучшает протекание операций и решает множество актуальных технологических проблем (индустрии, медицины, сферы обслуживания, обучения, и др.), но она исключительно опасна ввиду возможного изменения хода естественной эволюции, элиминации человека как неконкурентоспособного биологического вида, возможного создания нового вида (видов) искусственных разумных существ, не нуждающихся во множестве природных факторов, обеспечивающих жизнь на Земле; изменения взаимодействия их с природой планеты, безопасной экспансии этого нового вида в космическом пространстве с освоением новых планет. Одновременно опасно высвобождение массы людей при расширении области эффективной роботизации и неопределенность будущей деятельности этих масс. Полагать, что это - хорошая тенденция - неправильно. Человек не должен уступать свое место в природе уникальной планеты искусственному разумному созданию, которое способно его элиминировать. Нельзя отказываться от естественной эволюции человека и всей остальной живой природы Земли в естественной среде.

Литература

1. Лем Ст. Сумма технологии. -М.: МИР, -1968. - 699 с.

2. Макаров И. М., Топчеев Ю. И. Робототехника: История и перспективы. - М.: Наука; Изд-во МАИ, 2003. - 349 с.

3. Тетиор А.Н. Антропогенная эволюция. -ФРГ: Palmarium, 2016. - 426 с.

НЕКОТОРЫЕ НОВЫЕ ПОСТУЛАТЫ ЭКОЛОГИИ (ЗАКОНЫ, ПРАВИЛА)

Тетиор А.Н.

докт. техн. наук, профессор, РГАУ-МСХА им. К.А. Тимирязева, Москва

SOME NEW ECOLOGICAL POSTULATES (LAWS, RULES)

Tetior A.

Dr. Sc., Professor, Instit ute of Environmental Engineering, K.А. Timirjasev Agricultural Academy, Moscow

i Надоели баннеры? Вы всегда можете отключить рекламу.