CC BY
236
УДК 81' 44+81' 25
DOI: 10.33184/bulletin-bsu-2022.2.25
КОМПЬЮТЕРНАЯ ЛИНГВИСТИКА И МАШИННЫЙ ПЕРЕВОД: ОБ ИСТОРИИ СТАНОВЛЕНИЯ
© А. А. Утробина
Башкирский государственный университет Россия, Республика Башкортостан, 450076 г. Уфа, ул. Заки Валиди, 32.
Тел.: +7 (927) 96715 55.
Email: [email protected]
В статье рассматривается современное состояние такого научного направления языкознания, как компьютерная лингвистика, и один из его ключевых объектов - машинный перевод. Последний привлекает внимание научного сообщества: проблемы машинного перевода обсуждаются на научных форумах, результаты разработки и внедрения машинных переводческих систем представляются на выставках научно-технологического развития разных стран. Количество автоматических переводческих систем с каждым годом увеличивается, а возрастающая конкуренция между ними способствует их совершенствованию. Глобализация и диджи-тализация общества привели практически к полной компьютеризации всех сфер человеческой деятельности - она оказывает сильное влияние на мировое научное сообщество и продвижение междисциплинарных исследований.
В настоящей работе автор разграничивает понятия машинного и автоматизированного перевода, приводит историческую справку о развитии данного направления компьютерной лингвистики, представляет основные этапы развития, методы и виды машинного перевода.
Ключевые слова: компьютерная линг< бализация, автоматическая переводческая
В наше время сложно представить человеческую жизнь без применения цифровых технологий - компьютеров и гаджетов. Компьютеризация стала неотъемлемым параметром функционирования общества, она, несомненно, влияет на качество развития любых общественных институтов и на уровень жизни в целом. С учетом глобализацион-ных процессов в современном мире частота и чистота передачи информации на разных языках, а в этом случае и ее перевод, стали важнейшей частью коммуникации как внутри сети Интернет, так и при выстраивании реальных связей при межкультурной коммуникации. Еще в середине XX в. ученые, занимающиеся лингвистикой и искусственным интеллектом, обратили свое внимание на математическую обработку естественного языка и способы его кодировки в компьютерной парадигме. Компьютерная лингвистика начала привлекать внимание ученых из разных научных областей в 40-50 гг. XX в., еще до создания мощных электронно-вычислительных систем.
Под компьютерной лингвистикой (computational linguistics) мы, с одной стороны, понимаем «одно из направлений прикладной лингвистики, в котором для исследования языка и моделирования функционирования языка в тех или иных условиях, ситуациях и проблемных сферах разрабатываются и используются компьютерные программы, компьютерные технологии организации и обработки данных. С другой стороны, это область применения компьютерных моделей языка в лингвистике и смежных с ней дисциплинах» [1]. В некоторых случаях в качестве синонима данного термина используют понятие «вычислительная лингвистика», это
, машинный перевод, диджитализация, гло-а, компьютеризация.
связано с вариативностью перевода: слово английского языка computational может быть переведено на русский язык как «вычислительный». Следует сказать, что в отечественной науке данный вариант перевода на русский язык применялся чаще всего в прошлом веке [5], сейчас используется крайне редко из-за вероятности сужения проблематики области научного направления [6].
В зарубежном языкознании разные аспекты компьютерной лингвистики в разные периоды рассматривались в работах Н. Хомского (N. Chomsky), В. Ингве (V. H. Yngve "A model and an hypothesis for language structure", 1960), М. Халлидея (M. Halliday "System and function in language", 1976.), Р. Каплана и Дж. Бреснана (J. Bresnan, R. Kaplan "A competence-based theory of syntactic closure. The mental representation of grammatical relation", 1982), Т. Виноград (Computer Softare for working with language, 1984), В. Раскина (V. Raskin "Natural Language Processing for Information Assurance and Security: An Overview and Implementations", 2000), Й. Вилкса (Y.Wilks Computational linguistics: History, 2006.), Ш. Лаппин и А. Кларк (A. Clark, S. Lappin "The handbook of computational linguistics and natural language processing", 2012).
В отечественном языкознании в развитие данного направления внесли свой вклад В. Ю. Ро-зенцвейг «Основы общего и машинного перевода» (1964), А. Е. Кибрик «Модель автоматического анализа письменного текста (на материале ограниченного военного подъязыка) (1970), З. М. Шаляпина «К проблеме построения формальной модели процесса перевода» (1975), О. С. Кулагина «Исследования по машинному переводу» (1979), Ю. Н. Мар-
чук «Проблемы машинного перевода» (1983), Ю. Д. Апресян «Лингвистическое обеспечение автоматической системы французско-русского автоматического перевода ЭТАП-1», (1984), Г. В. Чернов «Машинный перевод и прикладная лингвистика. Проблемы создания системы автоматического перевода» (под ред. Г. В. Чернова, 1986), Н. Д. Андреев «Основные направления работы экспериментальной лаборатории машинного перевода» (1986), Н. Н. Леонтьева «База знаний и автоматический перевод (проект многоязычной информационно-справочной системы)» (1989).
Наряду с учеными-языковедами проблему верификации теории функционирования языка в компьютерных науках ставят перед собой представители как других гуманитарных научных дисциплин, например, психологи, так и естественных наук -нейрофизиологи. В связи с этим значимы и интересны суждения Н. Хомского [5], который никогда не считал, что компьютерная лингвистика - это способ для проверки лингвистических теорий. Так, ключевым для Н. Хомского является вопрос о том, что представляют собой данные для изучения языка: автор четко разграничивает обработку естественного языка (Natural Learning Processing), под которой понимает отрасль компьютерных наук, а точнее, отрасль искусственного интеллекта, которая занимается тем, что дает компьютерам возможность понимать текст и устную речь примерно так же, как это делают люди, и компьютерную лингвистику от лингвистики, где данные тесно связаны с интуицией говорящего, а не с вычислительными процессами. С начала 1990-х гг. для обработки естественного языка стали использоваться корпусы реальных текстов, а не тех текстов, которые придуманы или написаны лингвистами. В настоящее время корпусы, размещенные на сайтах, являются основными данными обработки естественного языка и компьютерной лингвистики [20, с. 765].
Полагаем, что связи между компьютерной лингвистикой и академической лингвистикой в классическом ее понимании не столь многочисленны и очевидны, как может сначала показаться. В середине XX в. два крупных ученых В. Ингве и Н. Хомский разошлись во мнении относительно представления математических аспектов структур языка и его репрезентации в компьютерной кодировке. Полярность мнений заключалась в природе древовидных репрезентаций (если коротко - моделирование конкретных смыслов и обработка слов в сложных предложениях), а также в роли процедур и ресурсов обработки в вычислении синтаксической структуры [1]. В. Ингве утверждал, что такие вычисления должны учитывать ограничения на объем памяти для промежуточных структур, которые, по его предположению, соответствуют врожденным ограничениям на обработку языков. Н. Хомский, в свою очередь, для описания подобных процессов прибег к такому термину, как «языковая производи-
тельность», который используется для описания «фактического использования языка в конкретных ситуациях» [10].
В 1960-х гг. были совершены попытки запрограммировать трансформационные грамматики Хомского для разбора предложений: самая крупная и продолжительная из них была предпринята в компании "International Business Machines" ("IBM") (один из крупнейших в мире производителей и поставщиков аппаратного и программного обеспечения, а также IT-сервисов и консалтинговых услуг) в Нью-Йорке. Попытки были в целом неудачными в том смысле, что запрограммированные грамматики практически ничего не разбирали за пределами предложений, для которых они были разработаны, и даже в случае с предложениями давали большое количество вариантов интерпретации, между которыми невозможно было сделать выбор. Последнее было уделом практически всех синтаксических анализаторов до недавних статистических разработок, включая оригинальный Гарвардский анализатор Куно (Kuno) и Эттингер (Oettinger), которые были разработаны в 1962 г., и синтаксические анализаторы, основанные на более сложных лингвистических грамматиках 1970-х и 1980 гг. [19].
В 1980-х гг. появились формализм лексико-функциональной грамматики (ЛФГ), созданный учеными Р. Капланом и Дж Бреснаном (1982 г.) [13], и функциональная унификационная грамматика М. Кея (1984 г.), разработанная благодаря грамматике М. Халлидея, также известная как унификаци-онная логическая парадигма для обработки грамматики, которая появилась вместе с языком программирования Пролог (Prolog).
Надо сказать, что в научной и научно-популярной литературе машинный перевод (machine translation) нередко ошибочно отождествляется с автоматизированным переводом (computer-aided translation). Разграничим эти понятия.
Машинный перевод - это одно из направлений компьютерной лингвистики, которое изучает автоматический перевод с одного языка на другой при помощи автоматических программ (Google Translate, DeepL, Yandex Translate). Автоматизированный перевод - перевод, выполняемый самим переводчиком с помощью вспомогательных компьютерных средств: приложений, онлайн-словарей (Reverso Context, Abby Lingvo) и т.д.
Понятие машинного перевода возникло во второй половине XX в., впервые было применено американским ученым Уорреном Уивером, выдвинувшим концепцию МП в 1947 г. после разработки первого компьютера. Идея Уивера базировалась на концепции «Интерлингва» (Interlingva). «Интерлингва - это международный вспомогательный язык, разработанный в 1937-1951 гг. Международной Ассоциацией Вспомогательного Языка (IALA))» [2]. Суть этой концепции в том, что кодирование информации и ее передача проходят в два основных
этапа: на первом происходит перевод с исходного языка на язык-посредник (чаще всего английский или его упрощенный аналог), далее перевод посредника кодируется в выходной язык - язык текста, получаемого на выходе при машинном переводе [19, c. 3].
Основные методологические принципы машинного перевода позволяют выделить два основных его вида: rule-based MT (RBMT) - метод, основанный на правилах, и corpus-based MT (CBMT) -метод, основанный на корпусах, соответственно принято говорить о двух подходах к машинному переводу: rule-based и corpus-based. Кроме того, машинный перевод может осуществляться при применении таких методов, как tree-based method (метод на основе деревьев), example-based (на основе примера) и rule-based statistical (статистический метод на основе правил). В настоящее время чаще всего применяется rule-based statistical method (RBSMT). Методы машинного перевода на основе правил (rule-based) используют двуязычные словари и написанные вручную правила для перевода текстов с языка оригинала на язык перевода. Однако ручной перевод написания правил является трудоемкой задачей. Кроме того, правила трудно поддерживать, как и трудно переносить из одного домена в другой и из одного языка в другой. Таким образом, системы, основанные на правилах (rule-based), сложно масштабируемы для переводов открытых доменов и многоязычного перевода [19, c. 4].
В 1954 г. Джорджтаунский университет при сотрудничестве с известным ныне производителем компьютеров "IBM" впервые завершил эксперимент по русско-английскому машинному переводу с использованием компьютера IBM-701, показав, что за машинным переводом есть будущее: проблема машинного перевода была актуальной в течение последующих десяти лет, но его активное развитие приостановилось с выходом отчета Консультативного комитета по автоматической обработке языка (ALPAC) в 1966 г. После этого доклада, в котором выражалось скептическое отношение к машинному переводу, произошло резкое сокращение финансирования исследований в области машинного перевода, что привело к сложности в работе в данной сфере. «Ассоциация компьютерной лингвистики» (ACL), которая в настоящее время является главной организацией в своей области, первоначально называлась «Ассоциацией машинного перевода и компьютерной лингвистики» (1962 г.), но в 1968 г. из-за кажущейся бесперспективности машинного перевода исключило этот термин из своего названия после выхода отчета ALPAC [18]. Однако в это время ученые, входившие в данную ассоциацию, продолжали попытки улучшить качество перевода. В 1965 г. специалисты по обработке естественного языка (Natural Learning Processing) провели первую Международную конференцию по компьютерной лингвистике, которая была посвящена синтаксиче-
скому анализу и переводу на основе rule-based machine translation. Начиная с 1970-х гг. методы RBMT стали более основательными. В 1978 г. компания SYSTRAN, одна из первых компаний, занимавшихся машинным переводом, выпустила коммерческую систему перевода, которая стала одним из самых известных примеров коммерчески успешной системы на основе rule-based в то время. Компания Google пользовалась услугами SYSTRAN до 2007 г.
В начале 2000-х гг. с появлением двуязычных корпусов естественных языков ученые-языковеды России и зарубежных стран большое внимание начали уделять проблемам корпусной лингвистики. Машинный перевод применяет три корпусных метода: машинный перевод на основе примеров (Example based machine translation/EBMT), статистический машинный перевод (Statistical machine transla-tion/SMT) и нейронный машинный перевод (Neural machine translation/NMT). Если говорить об истории вопроса, то еще в середине 1980-х гг. был предложен метод EBMT, позволяющий переводить исходные тексты путем извлечения пар похожих предложений из двуязычного корпуса [12]. Результаты перевода с помощью методов EBMT отличаются высоким качеством, если удается найти похожие пары предложений. Однако данный метод может быть применен для анализа незначительного по объему языкового материала: двуязычные корпуса не могут охватить все явления пар языков, поэтому такой метод обычно используется в системах автоматизированного перевода.
Компьютерная лингвистика и машинный перевод как одна из ее составляющих - крайне сложные и неоднозначные направления как с практической, так и с философской точки зрения. В настоящее время не прекращаются споры о том, создадут ли ученые систему, способную понимать, воспроизводить и переводить язык так же, как человек. Ученые и программисты продолжают модернизировать технологии, которые позволили бы делать высокоточный перевод текстов с учетом их стилевой принадлежности, непосредственно учитывающий специфику семантики отдельных языковых единиц. Однако может ли искусственный интеллект, обучаясь, приобрести такое же внутреннее чутье языка, которым обладает человек, - большой вопрос. По этому поводу как раз и дискутировали в свое время многие ученые-лингвисты, в частности, Н. Хомский и В. Ингве.
Практическая реализация теории Н. Хомского была связана с проблемой ограниченности запрограммированных текстов, которые не обладали большим функционалом и обрабатывали контекст и смысл языковых единиц только внутри одного предложения. Позже в машинном переводе появились такие методы, как rule-based MT (RBMT) -метод, основанный на правилах, и corpus-based MT (CBMT) - метод, основанный на корпусе. Первый -метод на основе правил активно используется для
создания двуязычных словарей. Однако его сложность состоит в том, что ручной перевод и написание правил осуществляются непосредственно исследователем. Таким образом, системы, основанные на правилах (Rule-based), трудоемки для переводов открытых доменов и многоязычного перевода.
Через некоторое время, когда ученые стали активно развивать корпусную лингвистику, сформировались несколько корпусных видов машинного перевода: на основе примеров (Example Based Machine Translation/EBMT), статистический машинный перевод (Statistical Machine Translation/SMT) и нейронный машинный перевод (Neural Machine Translation/NMT). Среди представленных методов наиболее качественной обработкой текста себя зарекомендовал метод, основанный на примерах (EBMT), однако его главным минусом является способность малого объема обработки. Несмотря на сложность и значительные минусы в работе с корпусами, данные методы поспособствовали улучшению машинного перевода и смогли продвинуть компьютерную лингвистику.
В целом для достижения высокого качества машинного перевода предстоит пройти еще долгий путь. Необходимо разработать новые методы, которые могли бы объединить символьные правила и нейронные сети для дальнейшего улучшения качества перевода. К счастью, использование машинного перевода в реальных приложениях продолжает предоставлять все больше данных, способствуя быстрому развитию новых методов машинного перевода.
Статья опубликована в рамках проекта «ESG-модели роста новый эккотерриторий» Башкирского государственного университета программы «Приоритет-2030».
ЛИТЕРАТУРА
1. Баранов А. Н. Компьютерная лингвистика // Большая российская энциклопедия. [Электронная версия] (2016). URL: https://bigenc.ru/linguistics/text/2087783
2. Гришечко О. С. Интерлингва: генезис, эволюция и некоторые особенности // Гуманитарные и социальные науки. 2016. №6. С. 66-73.
3. Демьянков В. З. Проблема понимания как предмет вычислительной лингвистики // Лингвистическое обеспечение информационных систем. М.: ИНИОН АН СССР, 1987. С. 102-142.
4. Еремеева Г. Р. Разрешение анафоры в вычислительной лингвистике // Казанский лингвистический журнал. 2018. Т. 1. №.1. С. 57-66.
5. Курдюмов В. А. Предикационная концепция как возможная лингвистическая парадигма // Язык в парадигмах гуманитарного знания: XXI век. 2009. С. 74-91.
6. Нелюбин Л. Л. Толковый переводоведческий словарь. М.: Флинта: Наука, 2003. 320 с.
7. Слобин Д., Грин Дж. Психолингвистика. М.: Либроком, 2009. 352 с.
8. Кибрик А. Е. Очерки по общим и прикладным вопросам языкознания. М.: УРСС, 2001. 334 с.
9. Лукманова Р. Р., Утробина А. А. Контент и технологии внедрения англо-русского онлайн-словаря терминов сферы «Высшее образование» эпохи глобализации // Российский гуманитарный журнал. 2021. Т. 10. №.3. С. 197-206.
10. Chomsky N. Aspects of the Theory of Syntax. Cambridge, MA: M.I.T. Press, 1965. 251 p.
11. Kay M. Functional grammar // BLS-79. Berkeley. CA. 1979. Pp. 142-158.
12. Nagao M. A framework of a mechanical translation between Japanese and English by analogy principle/Elithorn A, Banerji R, editors//Proceedings of the international NATO symposium on artificial and human intelligence. New York City: Elsevier North-Holland, Inc, 1984. Pp. 173-80.
13. Ford M., Bresnan J.,Kaplan R. A competence-based theory of syntactic closure// The mental representation of grammatical relation. Cambrige, MA: M.I.T. Press, 1982. Pp. 727-796.
14. Grover C., Carroll J., Briscoe T. The Alvey Natural Language Tools Grammar (4-th Release). Technical Report, 1993, Computer Laboratory, University of Cambridge, 1993.
15. Gazdar G., Klein E., Pullum G. Sag I. Generalized Phrase Structure Grammar. Oxford: Basil Blackwell, 1985.
16. Gazdar G., Mellish C. Natural Language Processing in Prolog. Wokingam, UK: Addison-Wesley, 1989.
17. Halliday MA.K Halliday: system and function in language. 1976. London: Oxford University Press, 256 p.
18. Clark A., Fox C., Lappin S. The handbook of computational linguistics and natural language processing. 2012. Т. 118.
19. Wang H. et al. Progress in Machine Translation // Engineering. 2021.
20. Wilks Y. Computational linguistics: History. University of Sheffield, Sheffield, UK. 2006. Pp. 761-768.
21. Yngve V. H. A model and an hypothesis for language struc-ture//Proceedings of the American Philosophical Society. 1960. Vol. 104(5). Pp. 444-466.
Поступила в редакцию 28.03.2022 г.
ISSN 1998-4812
BecTHHK EamKHpcKoro yHHBepcHTeTa. 2022. T. 27. №2
405
DOI: 10.33184/bulletin-bsu-2022.2.25
COMPUTATIONAL LINGUISTICS AND MACHINE TRANSLATION: ON THE HISTORY OF FORMATION
© A. A. Utrobina
Bashkir State University 32 Zaki Validi Street, 450076 Ufa, Republic of Bashkortostan, Russia.
Phone: +7 (927) 96715 55.
Email: [email protected]
In this article, the current state of such field of linguistics as computational linguistics and of its important part, machine translation, is discussed in detail. The latter has attracted the attention of the scientific community: problems of machine translation are discussed at scientific forums, the results of the development and implementation of machine translation systems are presented at science and technology development exhibitions in different countries. The number of machine translation systems increases every year, and the increasing competition between them contributes to their improvement. Globalization and the digitali-zation of society have led to the almost complete computerization of all spheres of human activity - it has a strong influence on the global scientific community and the advancement of interdisciplinary studies. The author of the article distinguishes between the concepts of machine translation and computer-aided translation, gives a historical overview of the development of this direction of computational linguistics, and presents the main stages of development, methods and types of machine translation. In this paper, such types of machine translation are considered as example-based machine translation (EBMT), statistical machine translation (SMT), and neural machine translation (NMT).
Keywords: computational linguistics, machine translation, digitalization, globalization, automatic translation system, computerization.
Published in Russian. Do not hesitate to contact us at [email protected] if you need translation of the article.
REFERENCES
1. Baranov A. N. Bol'shaya rossiiskaya entsiklopediya. [Elektronnaya versiya] (2016). URL: https://bigenc.ru/linguistics/text/2087783
2. Grishechko O. S. Gumanitarnye i sotsial'nye nauki. 2016. No. 6. Pp. 66-73.
3. Dem'yankov V. Z. Lingvisticheskoe obespechenie informatsionnykh sistem. Moscow: INION AN SSSR, 1987. Pp. 102-142.
4. Eremeeva G. R. Kazanskii lingvisticheskii zhurnal. 2018. Vol. 1. No. 1. Pp. 57-66.
5. Kurdyumov V. A. Yazyk v paradigmakh gumanitarnogo znaniya: XXI vek. 2009. Pp. 74-91.
6. Nelyubin L. L. Tolkovyi perevodovedcheskii slovar' [Explanatory translation dictionary]. Moscow: Flinta: Nauka, 2003.
7. Slobin D., Geene J. Psikholingvistika [Psycholinguistics]. Moscow: Librokom, 2009.
8. Kibrik A. E. Ocherki po obshchim i prikladnym voprosam yazykoznaniya [Essays on general and applied questions of linguistics]. Moscow: URSS, 2001.
9. Lukmanova R. R., Utrobina A. A. Liberal Arts in Russia. 2021. Vol. 10. No. .3. Pp. 197-206.
10. Chomsky N. Aspects of the Theory of Syntax. Cambridge, MA: M.I.T. Press, 1965.
11. Kay M. BLS-79. Berkeley. CA. 1979. Pp. 142-158.
12. Nagao M.Proceedings of the international NATO symposium on artificial and human intelligence. New York City: Elsevier North-Holland, Inc, 1984. Pp. 173-80.
13. Ford M., Bresnan J.,Kaplan R. The mental representation of grammatical relation. Cambrige, MA: M.I.T. Press, 1982. Pp. 727-796.
14. Grover C., Carroll J., Briscoe T. The Alvey Natural Language Tools Grammar (4-th Release). Technical Report, 1993, Computer Laboratory, University of Cambridge, 1993.
15. Gazdar G., Klein E., Pullum G. Sag I. Generalized Phrase Structure Grammar. Oxford: Basil Blackwell, 1985.
16. Gazdar G., Mellish C. Natural Language Processing in Prolog. Wokingam, UK: Addison-Wesley, 1989.
17. Halliday M.A.K. Halliday: system and function in language. 1976. London: Oxford University Press,
18. Clark A., Fox C., Lappin S. The handbook of computational linguistics and natural language processing. 2012. Vol. 118.
19. Wang H. et al. Progress in Machine Translation. Engineering. 2021.
20. Wilks Y. Computational linguistics: History. University of Sheffield, Sheffield, UK. 2006. Pp. 761-768.
21. Yngve V. H.Proceedings of the American Philosophical Society. 1960. Vol. 104(5). Pp. 444-466.
Received 28.03.2022.
