CC BY
14
Вестн. Моск. ун-та. Сер. 19. Лингвистика и межкультурная коммуникация. 2024. Т. 27. № 2. С. 9-17 Lomonosov Linguistics and Intercultural Communication Journal, 2024, vol. 27, no. 2, pp. 9-17
ИНФОРМАЦИОННО-КОММУНИКАЦИОННЫЕ ТЕХНОЛОГИИ В ОБРАЗОВАНИИ
Г.Г. Молчанова
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
КАК ВЫЗОВ И КАК ПРОБЛЕМА
(АНАЛИТИЧЕСКИЙ ОБЗОР)
Московский государственный университет имени М.В. Ломоносова, Москва,
Россия; dean@ffl.msu.ru
Аннотация: Во всем мире скачкообразно выросло количество научных разработок в сфере искусственного интеллекта. В России самым популярным словом 2023 г. стало слово «нейросеть». Британский словарь Collins Dictionary признал таковым слово прошедшего года AI — сокращение от Artificial Intelligence («искусственный интеллект»). По версии Cambridge Dictionary, словом года стал глагол to hallucinate («галлюцинировать»)—так называется явление, когда искусственный интеллект начинает фантазировать и выдает ложный ответ. С этим неожиданным свойством искусственного интеллекта столкнулись пользователи в ходе массового использования сенсационного чат-бота Chat GPT («искусственный интеллект»). Настоящая статья посвящена взвешенному аналитическому рассмотрению тех плюсов и минусов, которые связаны с практической и научной деятельностью по созданию интеллектуальных систем, способных выполнять творческие функции, традиционно считающиеся прерогативой человека.
Ключевые слова: цифровизация; Chat GPT; искусственный интеллект; datasets; нейросетевое языковое моделирование; электроэнцефалография; нейронные сигналы; цифровой двойник; доверенный искусственный интеллект; кибербезопасность
doi: 10.55959/MSU-2074-1588-19-27-2-1
Финансирование: Исследование выполнено при поддержке Междисциплинарной научно-образовательной школы Московского университета «Сохранение мирового культурно-исторического наследия».
Для цитирования: Молчанова Г.Г. Искусственный интеллект как вызов и как проблема (аналитический обзор) // Вестн. Моск. ун-та. Сер. 19. Лингвистика и межкультурная коммуникация. 2024. Т. 27. № 2. С. 9-17.
Молчанова Галина Георгиевна — доктор филологических наук, профессор, зав. кафедрой лингвистики, перевода и межкультурной коммуникации, декан факультета иностранных языков и регионоведения МГУ имени М.В. Ломоносова; dean@ffl.msu.ru.
О Молчанова Г.Г., 2024
Термин «искусственный интеллект» ввел в 1956 г. американский информатик из Стэнфорда Джон Маккарти. Первые машинные переводы создавались при помощи алгоритмов. Сегодня большинство ученых считают, что искусственный интеллект — это та область науки и технологий, которая занимается автоматизацией решений интеллектуальных задач, т.е. программисты создают не просто алгоритмы, а так называемые datasets — обработанные и структурированные массивы знаний, из которых программа сама находит то, что ей нужно, по определенным данным.
Что касается Chat GPT (Generative Pre-trained Transformer), то это всего лишь одна из программ, явление, благодаря которому мы узнали, что такое генеративные языковые модели, трансформеры, обучаемые так, чтобы они могли решать широкий спектр интеллектуальных задач. Алгоритмы глубинного обучения генерируют картины, создают музыку, пишут, к сожалению, университетские дипломы, сдают экзамены. Явление нейросетевого языкового моделирования — то, что мы сейчас воспринимаем как новшество, возникло еще 20 лет назад, в его основе лежит статистическая лингвистика.
В образовании: В области образования технологии искусственного интеллекта, как считают ученые, уже начинают менять учебный процесс, усиливая его эффективность, они способствуют созданию индивидуальной траектории обучения в процессе проектирования онлайн-курсов, помогают провести аналитику образовательных метаданных почти мгновенно, обеспечивают доступ к большим данным, помогая в решении различных профессиональных задач и проблем, позволяют преподавателям проектировать дидактические материалы, выполняют рутинную функцию по проверке работ. Нейросети оптимизируют формы учебного взаимодействия, пути оценивания и формы контроля обучения, предоставления обратной связи; обучающиеся и педагоги получают доступ к различным ресурсам и базам данных.
Тем не менее на сегодняшнем этапе «внедрение искусственного интеллекта в дидактический процесс считается слабым звеном в обучении гуманитарным дисциплинам в силу ряда причин: 1) плодотворность искусственного интеллекта возможна только при полной цифровизации языкового образования в стране; 2) искусственный интеллект может вызвать определенные проблемы в сохранении конфиденциальных данных, увеличении цифрового неравенства в образовательной и социальной среде; 3) интеграция технологий искусственного интеллекта в дидактический процесс является актуальной задачей, но для гуманитарных дисциплин она может стать 10
слабым звеном, так как гуманитарные дисциплины требуют особого подхода» [Титова, 2023].
В медицине: Искусственный интеллект в медицине сегодня вполне применим: он помогает вести картотеку в поликлинике, «выступает» ассистентом терапевта, выдает «свое мнение» в постановке диагноза, анализирует большие объемы данных. Роботы-курьеры уже помогают врачам и пациентам, их функционал не очень широкий, но востребованный: они могут доставлять еду и лекарства, встречать и провожать пациентов, транспортировать вещи и т.п. Ориентироваться в пространстве им помогают камеры, сканирующие окружение 90 раз в секунду, а также 3Д-сенсоры, работающие без подзарядки сутки. Сегодня применение чат-ботов стало еще более серьезным: на основании медицинских карт они научились предсказывать риски возникновения рака поджелудочной железы за три года до того, как этот диагноз будет им поставлен врачами. Еще одним очень важным достижением нейросетей является то, что сегодня они уже могут возвратить дар речи пациентам, пострадавшим от инсультов и травм головного мозга. Анализируя данные мозговой активности таких пациентов, алгоритм преобразует эти сигналы в слова, а затем система вслух произносит то, о чем думал парализованный человек. Нейросеть расшифровывает мысли с точностью около 75 % и позволяет произносить 78 слов в минуту (скорость разговорной речи около 160 слов в минуту). Это на порядок выше, чем возможности технологий предыдущего поколения.
В культуре: при помощи нейросети на фресках собора великого мастера XVI в. Дионисия Мудрого, поврежденных в XVIII в., восстановлены лики Адама, Евы, Иисуса Христа. Были сделаны снимки высокого разрешения при помощи мультиспектральной съемки, по ним обучили нейросеть Stable Diffusion и «предложили» ей восстановить пробелы, в результате чего из 12 ликов большинство уже восстановлены.
В социуме. Благодаря цифровизации и онлайн-сервису сократились сроки регистрации прав собственности и постановки на кадастровый учет в Росреестре на объекты недвижимости в 18 раз, что позволило навсегда избавиться от изнурительных очередей.
В коммуникации. Данные Йельской медицинской школы, где проводились эксперименты по измерению активности передачи нейронных сигналов у людей, общающихся вживую, и у тех, кто пользуется видеоплатформой Zoom, показывают, что сигналы системы человеческого мозга более активны во время реального общения, чем у тех, кто общается в Zoom. Нейробиолог Джой Хирш, профессор этой школы, убежден, что видеосервисы представляют собой весьма убогую систему коммуникации. Объясняется это тем,
что люди — существа очень социальные, а в коллективистских культурах, к которым относится и наша культура — особенно. Именно общение делает нас людьми, дает ощущение эмоционального подъема и своей ценности для других людей («Ты меня уважаешь?»), возможности открыть свою душу и обогатиться чужими переживаниями и эмоциями. Для нового исследования команда Хирша записала реакции нервной системы у тех, кто общался лично и у тех, кто в Zoom. Эксперимент показал, что сила нейронных сигналов значительно снижается при использовании видеоконференции по сравнению с живым общением. Наш мозг буквально угасает при разговорах онлайн. Нет нейронного возбуждения, нет расширенных зрачков (что свидетельствует об активности мозга и нейрональном возбуждении), никаких пристальных взглядов «глаза в глаза», прямо в душу — нет. А вот когда испытуемые в реальности рассматривали лица друг друга, нейроны буквально светились, это было зафиксировано электроэнцефалографией мозга. Мозговая активность людей, которые говорили вживую, приводила их к синхронизации друг с другом, чего не происходило в виртуальном общении, а значит, и давало меньше шансов понять друг друга. Проведенное австралийскими учеными масштабное исследование человека в виртуальной среде обнаружило феномен скорой усталости от онлайн-коммуникации по сравнению с живым общением: через 50 мин. видеоконференции в нервной системе человека происходили негативные изменения. Для определения степени усталости эксперты использовали самоотчеты участников эксперимента, замеряли активность мозга, частоту сердечных сокращений, изменение сердечного ритма. Подтвердилось, что после общения онлайн-участники ощущали себя более уставшими и сонливыми, менее живыми, менее счастливыми и менее активными, безвольными по сравнению с живым общением. Настроение человека после общения онлайн в целом сильно ухудшалось по сравнению с личным общением, а объективные данные от приборов показали, что видеоконференции действительно сопровождаются усталостью на нейрофизиологическом уровне.
В менеджменте. Крупные корпорации, решившие увеличить доход за счет цифровизации, становятся «заложниками» цифры — они не повышают, а понижают свою эффективность, поскольку для функционирования новой системы необходимы солидные издержки: обучить весь персонал пользоваться новыми программными продуктами, постоянно покрывать потребности в вычислительных мощностях, усложнять коммуникацию внутри организации, открывать новые рабочие места, искать ресурсы. При этом самые высокие руководители оказываются в полной зависимости от скром-12
ных программистов, которые оказывают влияние на стратегию корпорации (вспомним анекдот про админа, который своим тумблером вырубает сервер, когда ему надо). В повседневной жизни, в магазине слышим: «не могу выбить чек, интернет завис ("компьютер не дает"). По телефону: «как дозвониться до живого оператора, не бота?» Иначе говоря, люди вынуждены подчиняться диктату неведомых «тиранов».
В этической сфере. Сегодня главный вопрос в использовании искусственного интеллекта — этический. Насколько нравственно и позволительно доверять создание научных и аналитических статей, текстов, музыки, стихов машинному разуму, заменить голос живого собеседника в трубке на горячей линии банка или поликлиники, даже создать полноценную цифровую копию человека, уже давно умершего? Принятый в России в 2021 г. Кодекс этики в сфере искусственного интеллекта не поспевает за стремительным развитием 1Т-технологий. Сегодня уже полным ходом идет речь о создании цифровой копии человека-двойника, не просто голосового помощника типа Алисы, а полноценного цифрового двойника Пушкина или Толстого. Для этого, как считают программисты, достаточно внести в базу данных писателя все плоды его творчества, и суррогат сможет выдать не только альтернативную версию оригинала с новым сюжетом и финалом, но и новые шедевры. Создание цифровых двойников писателей и художников может привести к тому, что люди не смогут понять, с чем имеют дело — с оригиналом или подделкой. Так, в фильме «Инкогнито» герой—талантливый художник, промышлявший созданием копий известных картин, написал полотно, как две капли похожее на оригинал Рембрандта. Собралась комиссия экспертов, и двое из трех специалистов признали картину подлинником; только одна женщина-эксперт сказала, что это подделка. Когда ее спросили, почему она так думает, она ответила: «Слишком похоже. Рембрандт никогда не повторил бы самого себя». Смысл в том, что искусственный интеллект действует по заранее составленным алгоритмам. Это может стать очень заманчивой нишей для всевозможных «псевдо» — псевдоученых, псевдописателей, псевдоавторов и т.д.
В правовом поле. Существует еще одна опасность. Как говорят разработчики, если имеется запись голоса умершего человека, искусственный интеллект сможет создать на его основе точную копию. Юристы предупреждают об опасности: голос в правовом отношении, вообще, никак не защищен. Гражданским кодексом защищены лица (фото, видеоизображение), но не голос. Это создает огромные социальные и правовые проблемы как для этического, так и для цифрового кодекса. О возможности искусственного интеллекта замещать
голос живого человека говорят давно, а сегодня нейросети уже активно запели разными языками. Порядок действий такой: в программу загружают песню с нужным разработчикам вокалом, ней-росеть исследует голос, дается мелодия, напевается текст, и сеть начинает петь под исходные данные голосом Магомаева. В скором времени чем дальше, тем сложнее будет отличить настоящий голос от имитации. Возможно, будет принят закон об охране авторских прав на голос, но, даже если он будет принят, нельзя исключить нелегального использования голосов, а доказать, что это пела нейро-сеть, будет еще сложнее.
В военной сфере. Появилась еще одна область применения искусственного интеллекта, к сожалению. Как пишет британская газета The Guardian, бомбить Газу израильским военным помогает теперь искусственный интеллект. «Система под названием "Евангелие" (!), — пишет издание, — благодаря быстрому извлечению разведывательных данных мгновенно выдает рекомендации по целям». Но «автоматические мозги», как оказалось, не слишком точны в узнавании тех, кто там, внизу. Арабские СМИ сообщают, что за два первых дня в секторе погибло 900 и пострадало почти 2000 мирных граждан, среди них большинство — дети и старики. Всего жертвами уже стали более 15 000 палестинцев (на данный момент гораздо больше). Глава Пентагона Ллойд Остин заявил, что из-за больших потерь среди мирного населения, Израиль «рискует заменить тактическую победу стратегическим поражением», имея в виду растущее возмущение в мире бомбежками Газы.
В академической среде. На состоявшемся в декабре 2023 г. Общем собрании РАН РФ доклад директора Института системного программирования академика А.И. Аветисяна был посвящен созданию так называемого доверенного искусственного интеллекта. Термин доверенный в международных и российских документах означает безопасность и прозрачность для пользователя, что с этической точки зрения предполагает наличие несомненно надежных технологий. В докладе подчеркивалось, что искусственный интеллект, которым пугают сегодня человечество, по сути, не страшен, и у России есть надежный потенциал в развитии технологий, способных его укротить. «Сейчас мы живем в мире слабого искусственного интеллекта, и о его субъектности вопрос не стоит, — сообщил академик, — все существующие генеративные модели, всё, что мы называем искусственным интеллектом — это машинное обучение. Пусть очень хитрое, но всего лишь машинное обучение. Чудо в виде искусственного интеллекта произойдет лет через 10, или меньше... Мы можем гордиться, мы первыми забили тревогу, пять лет назад 14
создали новую специальность в вузах: кибербезопасность» [Веденеева, 2023].
Подводя итоги. Искусственный интеллект — это целая область науки и технологий, плоды которых уже могут во многом подменить человека. Нагляднее всего искусственный интеллект представлен на примере одной, но самой яркой генеративной языковой модели Chat GPT, которая действительно может решать широкий спектр интеллектуальных задач благодаря методу статистической лингвистики. На сегодняшний день искусственный интеллект поддается контролю со стороны человека, он работает по алгоритмам, регулируемым разработчиками. Гендиректор кампании-разработчика Chat GPT Open Al Сэм Альтман высказался в сенате США о большом риске бесконтрольного повышения мощности систем искусственного интеллекта. Варианты дипфейка уже дошли до того, что на экране может появиться, например, изображение президента ядерной державы, который объявит войну, и человечество на этом прекратит свое существование. Искусственный интеллект невероятно быстро самообучается, на многих экранах уже появляются кибертелеведу-щие, роботы читают и даже создают новости. Впереди нас ждет еще более жесткая конкуренция с искусственным интеллектом. Некоторые профессии, связанные с рутинной обработкой данных, просто исчезнут. Однако творческие функции, относящиеся к исследованиям, с когнитивными озарениями человеческого мозга, искусственный интеллект вряд ли сможет осуществить. Многие интеллектуалы в разных странах мира говорят, что необходимо притормозить процесс. Еще ранее несколько разработчиков, включая Илона Маска, обнаружили такие побочные эффекты искусственного интеллекта, как вероятность мошенничества, замена человека машиной, видеоподделки и проч. Они призвали резко ограничить дальнейшую разработку еще более совершенных моделей. Илон Маск признал: «Чрезмерная автоматизация была ошибкой. Если быть точным — моей ошибкой. Люди недооценены. Цифровизация не должна быть фетишом».
Искусственный интеллект может сослужить хорошую службу там, где нужна высочайшая степень специализации для решения конкретной, но рутинной задачи. И с этим нельзя не согласиться.
СПИСОК ЛИТЕРАТУРЫ
1. Веденеева Н. Деградация «чуда» // Московский Комсомолец. 2023. 13 дек.
2. Молчанова Г.Г. Цифровая трансформация образования и общества: возможности и сложности // Вестн. Моск. ун-та. Сер. 19. Лингвистика и межкультурная коммуникация. 2022. № 1. С. 9-16.
3. Молчанова Г.Г. Бум цифрового инструментария в образовании и обществе: разум или чувство? // Учитель, ученик, учебник: Сб. научных статей. Мат-лы 10-й МНК МГУ имени М.В. Ломоносова. М., 2022. С. 9-11.
4. Титова С.В. Технологические решения на базе искусственного интеллекта в обучении иностранным языкам // Вестн. Моск. ун-та. Сер. 19. Лингвистика и межкультурная коммуникация. 2024. № 2. С. 18-37.
Calina G. Molchanova
ARTIFICIAL INTELLIGENCE AS CHALLENGE AND PROBLEM (ANALYTICAL REVIEW)
Lomonosov Moscow State University, Moscow, Russia; dean@ffl.msu.ru
Abstract: The paper is aimed at the objective analysis of positive and negative sides connected to the pragmatic and scientific investigation of Artificial Intelligence technologies. Special attention is paid to the opportunities provided by the artificial intelligence in different fields of social usage, such as: education, culture, medicine, communication, management, ethical code, academic science, military sphere, jurisdiction, etc. Bringing the studies together, the author proposed an expanded view of AI functions, which crucially emphasize the role and importance of network ties, at one side, and at the other side, drawing on a number of examples shows what happens when such network ties become loosened as a result of Artificial Intelligence overestimation.
Keywords: digitalization; Chat GPT; Artificial Intelligence; datasets; neuro net language construction; electroencephalography; neuro signals; digital twin; trusted artificial intelligence; cybersecurity
Funding: This research has been supported by the Interdisciplinary Scientific and Educational School of Moscow University "Preservation of the World Cultural and Historical Heritage".
For citation: Molchanova G.G. (2024) Artificial Intelligence as Challenge and Problem (Analytical Reiew). Lomonosov Linguistics andIntercultural Communication Journal, vol. 27, no. 2, pp. 9-17. (In Russ.)
About the author: Galina G. Molchanova — Dr. Habil in Philology, Professor, Head of the Department of Linguistics, Translation and Intercultural Communication, Dean of the Faculty of Foreign Languages and Area Studies, Lomonosov Moscow State University; dean@ffl.msu.ru.
REFERENCES
1. Vedeneeva N. Degradatsiya "chuda". [Degradation ofthe miracle] MK, 13 dekabrya 2023 g. (In Russ.)
2. Molchanova G.G. 2022. Tsifrovaya transformatsiya obrazovaniya i obshchestva: vozmozhnosti i slozhnosti [Digital transformation of education and society: opportunities and challenges]. Moscow State University Bulletin. Series 19. Linguistics and Intercultural Communication, no. 1, pp. 9-16. (In Russ.)
3. Molchanova G.G. 2022. Bum tsifrovogo instrumentariya v obrazovanii i obshchestve: razum ili chuvstvo? [Digital tools boom in education and society: sense or sensibility?] Uchitel'. Uchenik. Uchebnik. [Teacher. Student. Textbook] Sb. n. statei. Mat-ly 10-i MNK MGU im. M.V. Lomonosova. M., pp. 9-11. (In Russ)
4. Titova S.V. 2023. Tekhnologicheskie resheniya na baze iskusstvennogo intellekta v obuchenii inostrannym yazykam [Technological solutions based on artificial intelligence in teaching foreign languages]. Moscow State University Bulletin. Series 19. Linguistics and Intercultural Communication, vol. 26, no. 2, pp. 18-37. (In Russ.)
Статья поступила в редакцию 02.12.2023; одобрена после рецензирования 29.12.2023;
принята к публикации 01.02.2024.
The article was submitted 02.12.2023; approved after reviewing 29.12.2023; accepted for publication 01.02.2024.
