CC BY
54DOI 10.47643/1815-1337_2021_4_306
ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ VS СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: НОВЫЙ ПОНЯТИЙНО-КАТЕГОРИАЛЬНЫЙ АППАРАТ Intelligent systems vs AI system: new conceptual framework
ЩИТОВА Анастасия Андреевна,
ассистент, аспирант ФГБОУ ВО «Московский государственный юридический университет имени О.Е. Кутафина (МГЮА)». 123001, Россия, г. Москва, ул. Садовая-Кудринская, 9. E-mail: anastasia.shchitova@gmail.com;
SHCHITOVA Anastasia Andreevna,
assistant tutor, postgraduate student, Kutafin Moscow State Law University (MSAL). 123001, Россия, г. Москва, ул. Садовая-Кудринская, 9. E-mail: anastasia.shchitova@gmail.com
Краткая аннотация. В настоящей работе автор излагает результаты своих исследований по вопросу разработки единого понятийно-категориального аппарата для области, называемой «искусственным интеллектом». В ходе работы было установлено, что единой терминологии в настоящее время ни в науке, ни в практике не существует. Понятие «системы искусственного интеллекта» включает в себя огромное количество несвязанных с собой технологий и систем, зачастую представляющих собой алгоритмы и математические модели. Основываясь на исследованиях, автор предлагает категорию «интеллектуальных систем», в которые, среди прочего, войдут и системы искусственного интеллекта.
Abstract: In the present paper, the author provides the results of the research on single conceptual framework of the sphere called "artificial intelligence". It was established during the studies that there is no single terminology either in sciences, or in practice. The notion of "artificial intelligence system" includes a great amount of different unrelated technologies and systems, which are often algorithms or mathematical models. Basing on the research the author suggests the category of "intellectual systems" that will include, among other, the artificial intelligence systems.
Ключевые слова: искусственный интеллект, система искусственного интеллекта, понятие искусственного интеллекта, интеллектуальные системы, понятийно-категориальный аппарат искусственного интеллекта.
Keywords: artificial intelligence, artificial intelligence system, notion of artificial intelligence, intellectual systems, artificial intelligence conceptual
framework.
Дата направления статьи в редакцию: 17.01.2021
Дата публикации: 30.04.2021
I. Введение.
Цифровые технологии развиваются с растущей по экспоненте скоростью. То, что еще пару десятилетий назад считалось не более чем вымыслом писателей-фантастов и создателей кино, становится частью нашей повседневной жизни. То же самое происходит и с технологиями, которые сейчас принято называть «искусственным интеллектом» (далее - ИИ).
Термин возник в середине прошлого века, и вряд ли его создатель предвидел появление «умных домов», роботов-пылесосов и автономных транспортных средств. Джон Маккарти, автор термина, определял искусственный интеллект как науку и способ создания интеллектуальных машин, в частности - интеллектуальных компьютерных программ [1]. Под «интеллектом» он при этом понимает вычислительную часть способности достигать целей [1].
Именно потому, что термин был придуман на заре всех технологий, пережил «зиму ИИ» (период так называемого затишья в развитии технологий) и дальнейший резкий скачок в создании компьютеров, их составляющих и иных сопутствующих наук, современные ученые и практики занялись его переосмыслением, осознавая, что он явно должен быть пережить некоторые изменения.
К настоящему моменту в зарубежной и отечественной литературе можно найти несколько десятков различных определений, в том числе (и особенно) в сфере права, однако ни одно из них, по мнению автора настоящей статьи, не отражает ни сути, ни смысла технологий, о которых идет речь.
В первую очередь, связано это с тем, что не предпринималось попыток создать полноценный, логически взвешенный понятийно-категориальный аппарат. Во-вторых, к сожалению, ученые-юристы зачастую не имеют достаточных знаний и навыков, чтобы проанализировать техническую сторону вопроса и понять, чему именно они дают определение.
В настоящей статье автор излагает результаты своих исследований по формированию категорий и понятий, применимых в области так называемого «искусственного интеллекта», стараясь основываться не только на правилах логики, но и на техническом знании о технологиях.
II. Алгоритмы и машинное обучение - создание термина «интеллектуальные системы».
Технологии и системы, о которых идет речь в связи со словосочетанием «искусственный интеллект» в настоящее время достаточно обширны: это и программы, руководящие роботами на автоматизированных заводах, и автономные автомобили, и голосовые помощники, и программы-предсказатели (например, предиктивные технологии, позволяющие предсказывать «поведение» рынка ценных бумаг) и многое другое. Объединяет их всех то, что результат их деятельности можно сопоставить с работой одной из функций человеческого мозга. На последнее особенно обращают внимание, отмечая, что такие технологии выполняют задачи, которые ранее были подвластны лишь человеку, а потому их можно и нужно называть «искусственным интеллектом».
В стремлении найти у технологий общее и приписать им способность выполнять «человеческую работу» тем не менее потерялся
Информационное право
факт, что все современные технологии, попавшие под гнет термина «ИИ», являются лишь простыми или сложными алгоритмами: в самом продвинутом варианте - искусственными нейронными сетями, в менее - результатами машинного обучения или вовсе просто математическими моделями.
Стоит уточнить, что абсолютно любая программа является алгоритмом (в котором с большой долей вероятности тоже используются различные математические модели). Алгоритмом принято считать точное предписание о конкретной последовательности действий, которые необходимо совершить для выполнения поставленной задачи; или набор правил, задающих последовательность действий для решения конкретных задач [2]. Совет Европы определяет алгоритм в своем глоссарии так: конечная последовательность формальных правил (логических операций и инструкций), позволяющая получить результат от начального ввода информации, которая может быть частью автоматизированного процесса выполнения [3]. Тарлтон Гиллеспи отмечает, что алгоритмы «в самом широком смысле представляют собой закодированные процедуры преобразования входных данных в желаемые выходные, основанные на определенных вычислениях. Процедуры называют как проблему, так и шаги, с помощью которых она должна быть решена» [4]. Таким образом, алгоритмы воспринимаются как «последовательность шагов, предпринятых для решения конкретной проблемы или достижения определенного результата» [5].
Под машинным обучением, упомянутым ранее, следует понимать группу методов, обеспечивающих анализ данных программой с целью принятия ей решений. В данную совокупность входят три основных метода (которые также называют типами машинного обучения): обучение с учителем, обучение без учителя и обучение с подкреплением. Каждый из них обладает своими особенностями.
Ещё одним термином является «нейронная сеть» или «искусственная нейронная сеть» (технически верен второй вариант термина, поскольку первый относится к человеку, однако сложилась общепринятая практика использования словосочетания «нейронная сеть» именно в отношении программного кода, если из контекста явно не следует иного). Искусственная нейронная сеть (ИНС) не является самостоятельной программой, а лишь математической моделью и способом обработки данных и принятии на их основе решений при использовании методов машинного обучения. Принцип построения ИНС вдохновлен биологическими нейронными сетями; ее система состоит из соединённых и взаимодействующих между собой процессоров (искусственных нейронов), каждый из которых выполняет свою небольшую часть в общем процессе анализа данных.
Таким образом, мы приходим к выводу, что если речь идет о тех технологиях, которые в настоящее время созданы или разрабатываются, то сложно применять к ним понятие «интеллекта» в принципе, даже на обывательском уровне.
Нередко встречается термин «система ИИ». Само понятие «система» (др.-греч. luaTipa: «целое, составленное из частей; соединение») означает множество элементов, находящихся в отношениях и связях друг с другом, которое образует определённую целостность, единство [6]. Само это понятие используется в случае необходимости подчеркнуть целостность, упорядоченность, наличие закономерностей построения, функционирования и развития сложного множества разнородных элементов [7]. Информационная система, согласно стандарту ISO/IEC 2382:2015, — это система, предназначенная для хранения, поиска и обработки информации, и соответствующие организационные ресурсы (человеческие, технические, финансовые и т. д.), которые обеспечивают и распространяют информацию. ГОСТ РВ 51987 подразумевает под информационной системой «автоматизированную систему, результатом функционирования которой является представление выходной информации для последующего использования». ГОСТ Р 53622-2009 использует термин информационно-вычислительная система для обозначения совокупности данных (или баз данных), систем управления базами данных и прикладных программ, функционирующих на вычислительных средствах как единое целое для решения определённых задач. Именно такой подход позволяет включать данные, программы и аппаратный комплекс. Как отмечается, интеграция этих компонентов позволяет автоматизировать процессы управления информацией и целенаправленной деятельности конечных пользователей, направленной на получение, модификацию и хранение информации [8].
Исходя из всего указанного выше, в ходе своих исследований автор пришел к выводу, что понятие «система искусственного интеллекта» не может считаться категорией среди всей группы существующих понятий. Выстраивая иерархию терминов и структурируя их в целостную систему, он решил, что прекрасной альтернативой станет новый термин - «интеллектуальные системы». Под ним следует понимать комплекс программного обеспечения (далее - «ПО»), способного к самостоятельной обработке и анализу данных и принятию решений на основе полученных выводов, направленных на исполнение поставленной цели, и аппаратно-технического обеспечения (англ. - software / hardware), обеспечивающего существование и функционирование указанного ПО. Такое определение построено на имеющихся трактовках, к которым были дополнены признаки интеллектуального поведения.
Данное определение содержит однозначно трактуемые элементы, не допускает двойного толкования; оно конкретно и точно даёт представление о содержании и объеме предлагаемой категории. Кроме того, формулировка построена таким образом, что перечень не будет закрытым и может быть дополнен иными объектами реального мира, если они будут созданы. В условиях развития технических наук и технологий в целом такой подход представляется оптимальным.
III. Что следует понимать под «системой искусственного интеллекта».
Учитывая все вышеизложенное, что же тогда понимать под «системой ИИ»? В первую очередь, стоит отметить про сам «искусственный интеллект». Как указывалось ранее, термин пережил много определений и ипостасей. В связи с эволюцией понятия ИИ необходимо также упомянуть о так называемом AI Effect (эффект ИИ). Эффект ИИ происходит, когда наблюдатели девальвируют значимость демонстрации навыки ИИ каждый раз, когда он реально достигает немыслимого ранее результата. Так, автор Памела МакКордак пишет [9], что часть истории области искусственного интеллекта состоит в том, что каждый раз, когда кто-то придумывает, как научить компьютер делать что-то хорошо — играть в
шашки, решать простые, но относительно неформализованные проблемы — доносится хор критиков, что это не доказательство мышления и не ИИ. Еще более емко этот эффект описан информатиком Ларри Теслером, дистиллировавшись в емкую теорему Теслера: «ИИ — это все, что не сделано до сих пор» [10].
В современной литературе также встречаются понятия «слабого» и «сильного» искусственного интеллекта. Под «слабым» искусственным интеллектом стали понимать технологии, ограниченные одной функцией и одной задачей [11]. «Сильный» искусственный интеллект — это такая технология, которая достигает или превышает уровень интеллектуальных способностей человека и способна применить свои способности к любому типу и виду задач [11]. Такое деление можно назвать первой попыткой создать подобие понятийного аппарата, но оно не отвечает логическим и формальным требованиям к таковому.
Если обобщать, в различных научных работах встречаются разные определения, властные субъекты разных стран и международных объединений также не дают однозначной трактовки понятиям, которыми оперируют при разработке документов. Кроме того, даже достаточно успешные формулировки, встречающиеся у авторов или в актах органов власти, не всегда и/или не в полной мере отвечают правилам логики и не устраняют проблемы неоднозначного толкования терминов. Необходимость выработки единого подхода к понятийно-категориальному аппарату автор считает очевидной.
Термин «искусственный интеллект» не подходит на роль категории, его сущность и содержание не могут отражать в себе всю ту совокупность признаков, которую ему приписывают. Кроме того, следуя законам логики в целом и правилам юридической техники в частности, приходим к выводу, что необходимо под искусственным интеллектом понимать уникальную сущность, а не присваивать термину множество толкований, иными словами, выставлять его категорией. Отдельно стоит отметить и тот факт, который автор затронул ранее: большинство современных технологий и систем вряд ли можно и нужно считать «интеллектом». Помимо теоретической путницы такой терминологический провал создает и социальные последствия: обычный человек, не разбирающийся в таких сложных материях, видит угрозу в «искусственном интеллекте», вспоминая мрачные книги и фильмы в жанре фантастики.
Исходя из всего этого, «система искусственного интеллекта» будет понятием в категории «интеллектуальные системы». Причем, чтобы исключить все алгоритмы и простые технологии из нее, под такой системой следует понимать только тот самый «сильный» ИИ. Автор предлагает считать, что система искусственного интеллекта - это комплекс интеллектуального программного обеспечения, обученного с применением совокупности всех групп методов машинного обучения, различных данных, обрабатываемых им для принятия решений, и аппаратного комплекса, включающего в себя все необходимые для работы ПО и обработки им данных технические средства.
Система ИИ будет полноценным самостоятельным интеллектом, «разумной машиной». Она окажется на высшей ступени иерархии интеллектуальных систем, поскольку будет качественно отличаться от других технологий и систем внутри категории.
IV. Выводы.
Таким образом, автор предлагает новый понятийно-категориальный аппарат для рассматриваемой сферы. Вводится категория «интеллектуальные системы», под которой следует понимать программный и аппаратно-технический комплекс, в котором программное обеспечение способно самостоятельно обрабатывать и анализировать данные и принимать направленные на исполнение поставленной цели решения на основе полученных выводов, а аппаратно-техническое обеспечение способствует функционированию такого ПО. Данная категория может включать в себя различные существующие системы, например, голосовых помощников, промышленных роботов, комплексы предиктивной аналитики, автономные транспортные средства и многие другие, а также такие, которые только будут созданы, в частности - систему искусственного интеллекта.
Искусственный интеллект же является особым ПО, а его система - особый вид интеллектуальных систем, который достигнет такого уровня интеллекта, способности мыслить и свободы принятия решений, что к нему необходимо будет вырабатывать новые подходы и в праве в том числе - среди прочего, рассматривать вопрос о наделении ее правосубъектностью.
Библиография:
1. John McCarthy. WHAT IS ARTIFICIAL INTELLIGENCE? - Basic Questions. // URL: <http://jmc.stanford.edu/artificial-intelligence/what-is-ai/index.html>.
2. ГОСТ P 51904-2002. Программное обеспечение встроенных систем. Общие требования к разработке и документированию.
3. Глоссарий Совета Европы по искусственному интеллекту. // URL: <https://www.coe.int/en/web/human-rights-rule-of-law/artificial-intelligence/glossary>.
4. Gillespie T. The relevance of algorithms // Media technologies: Essays on communication, materiality, and society. - 2014. - Т. 167. - С. 167.
5. Diakopoulos N. Algorithmic accountability reporting: On the investigation of black boxes. // URL: <https://academiccommons.columbia.edu/doi/10.7916/D8ZK5TW2>. 2014.
6. Система // Большой Российский энциклопедический словарь. — M.: БРЭ. — 2003, с. 1437.
7. Теория систем и системный анализ: учебник для бакалавров / В. Н. Волкова, А. А. Денисов. — М.: Издательство Юрайт; ИД Юрайт, 2012. — 679 с. — Серия: Бакалавр.
8. Маглинец Ю. А. Анализ требований к автоматизированным информационным системам. — Бином, 2008.
9. МакКордак, Памела. Машины, которые думают: личное исследование истории и перспектив искусственного интеллекта (2-е изд.). Натик, Массачусетс: AK Peters. 2004. ISBN. 1-56881-205-1.
10. Малуф, Марк. «Искусственный интеллект: Введение». // URL: <http://people.cs.georgetown.edu/~maloof/cosc270.f17/cosc270-intro-handout.pdf>. - С. 37.
11. Castro D., New J. The Promise of Artificial Intelligence / Center for data innovation // <http://www2.datainnovation.org/2016-promiseof-ai.pdf>. - 2016.
References (transliterated):
1. John McCarthy. WHAT IS ARTIFICIAL INTELLIGENCE? - Basic Questions. // URL: <http://jmc.stanford.edu/artificial-intelligence/what-is-ai/index.html>.
2. GOST R 51904-2002. Programmnoe obespechenie vstroennyh sistem. Obshchie trebovaniya k razrabotke i dokumentirovaniyu.
3. Glossarij Soveta Evropy po iskusstvennomu intellektu. // URL: <https://www.coe.int/en/web/human-rights-rule-of-law/artificial-intelligence/glossary>.
4. Gillespie T. The relevance of algorithms // Media technologies: Essays on communication, materiality, and society. - 2014. - T. 167. - S. 167.
5. Diakopoulos N. Algorithmic accountability reporting: On the investigation of black boxes. // URL: <https://academiccommons.columbia.edu/doi/10.7916/D8ZK5TW2>. 2014.
6. Sistema // Bol'shoj Rossijskij enciklopedicheskij slovar'. — M.: BRE. — 2003, s. 1437.
7. Teoriya sistem i sistemnyj analiz: uchebnik dlya bakalavrov / V. N. Volkova, A. A. Denisov. — M.: Izdatel'stvo YUrajt; ID YUrajt, 2012. — 679 s. — Seriya: Bakalavr.
8. Maglinec YU. A. Analiz trebovanij k avtomatizirovannym informacionnym sistemam. — Binom, 2008.
9. MakKordak, Pamela. Mashiny, kotorye dumayut: lichnoe issledovanie istorii i perspektiv iskusstvennogo intellekta (2-e izd.). Natik, Massachusets: AK Peters. 2004. ISBN. 1-56881-205-1.
10. Maluf, Mark. «Iskusstvennyj intellekt: Vvedenie». // URL: <http://people.cs.georgetown.edu/~maloof/cosc270.f17/cosc270-intro-handout.pdf>. - S. 37.
11. Castro D., New J. The Promise of Artificial Intelligence / Center for data innovation // <http://www2.datainnovation.org/2016-promiseof-ai.pdf>. - 2016.
