CC BY
0PPSUTLSC-2024
PRACTICAL PROBLEMS AND SOLUTIONS TO THE USE OF THEORETICAL LAWS IN THE SCIENCES OF THE 2IST CENTURY
tashkent, e-e may 2004 www.in~academy.uz
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ЛЕНЬ ИЛИ ПЕРСПЕКТИВА ДЛЯ ЧЕЛОВЕЧЕСТВА ПРИ ПРИНЯТИИ РЕШЕНИЙ
Мухамадиева Кибриё Бахадировна, Бозорбоев Жавлон Уткирбой угли Старший преподаватель кафедры «Компьютерный инжиниринг», Ташкентский университет прикладных наук, г. Ташкент. Узбекистан Студент группы К123 Ш01, «Ташкентсктй университет прикладных наук», г. Ташкент. Узбекистан https://doi.org/10.5281/zenodo.13364791 Аннотация: В данном исследовании рассматривается влияние искусственного интеллекта (ИИ) на потери в принятии решений, лень и проблемы с конфиденциальностью среди студентов университетов. Как и другие отрасли, образование также внедряет технологии ИИ для решения современных проблем. Однако вызывает беспокойство тот факт, что исследователи и учебные заведения по всему миру превозносят положительную роль ИИ, но игнорируют его проблемы. Однако в данной статье утверждается, что перед внедрением технологии ИИ в образование необходимо принять значительные профилактические меры. Для решения этой проблемы рекомендуется сосредоточиться на обоснованном проектировании, внедрении и использовании ИИ в образовании.
Ключевые слова: искусственный интеллект, конфиденциальность, принятие решений, машинное обучение, технология ИИ..
1 ВВЕДЕНИЕ
Искусственный интеллект (ИИ) - это обширная технология, используемая в сфере образования. В образовании используется несколько типов технологий ИИ. В основном это Обнаружение плагиата, честность экзаменов, чат-боты для зачисления и удержания студентов системы управления обучением, транскрипция лекций преподавателей, расширенные онлайн-доски обсуждений, анализ показателей успешности студентов и академические исследования. В настоящее время компании, занимающиеся образовательными технологиями (EdTech), применяют эмоциональный ИИ для количественной оценки социального и эмоционального обучения. Искусственный интеллект, аффективные методы вычислений и машинное обучение получили общее название "эмоциональный ИИ" (ЭИ). Искусственный интеллект (ИИ) определяет наше будущее сильнее, чем любое другое изобретение века. Хотя технология также повышает информационную безопасность организации и конкурентные преимущества, а также улучшает отношения с клиентами. Мы разделяем ИИ в образовании на три уровня. Первый - сама технология, ее производитель, разработчик и т. д. Второй - ее влияние на преподавателя, третий - на учащегося или студента Прежде всего, необходимо развивать технологию ИИ для образования, что не может быть основой для этических вопросов или
проблем. Большие надежды, возлагаемые на ИИ, вызвали интерес и озабоченность во всем мире, породив 400 с лишним политических документов по ответственному ИИ. Интенсивные дискуссии по этическим вопросам закладывают полезный фундамент, подготавливая исследователей, менеджеров, политиков и преподавателей к конструктивным обсуждениям, которые приведут к четким рекомендациям по созданию надежных, безопасных и заслуживающих доверия систем, которые будут иметь коммерческий успех. Но вопрос в том, можно ли разработать технологию ИИ для образования, которая никогда не вызовет этических проблем? Возможно, разработчик или производитель имеет нечестную выгоду от использования технологии ИИ в образовании. Возможно, их намерения не направлены на улучшение и помощь образованию. 2 ВОПРОСЫ ПРИМЕНЕНИЯ ИИ В СФЕРЕ
ОБРАЗОВАНИЯ К сожалению, до сих пор не разработаны рамки, не согласованы руководящие принципы, не разработаны политики и не приняты нормативные акты для решения этических вопросов, поднимаемых ИИ в образовании. Очевидно, что технология искусственного интеллекта вызывает множество опасений и, как и другие отрасли, сектор образования также сталкивается с проблемами. Если не все вопросы/проблемы напрямую затрагивают образование и обучение, то большинство из них
PPSUTLSC-2024
PRACTICAL PROBLEMS AND SOLUTIONS TO THE USE OF THEORETICAL LAWS IN THE SCIENCES OF THE 2IST CENTURY
tashkent, e-e may 2004 www.in~academy.uz
прямо или косвенно влияют на образовательный процесс. Поэтому трудно решить, оказывает ли ИИ положительное этическое влияние на образование или отрицательное, или в некоторой степени положительное, или отрицательное. Данное исследование посвящено следующим трем моральным опасениям, связанным с ИИ в образовании:
1. Безопасность и конфиденциальность
2. Утрата способности принимать решения
3. Делать людей ленивыми
Хотя в образовании существует множество других проблем, связанных с ИИ, эти три являются наиболее распространенными и сложными в нынешнюю эпоху. Кроме того, ни один исследователь не может расширить рамки исследования. Теоретическая дискуссия ИИ в образовании. Технологии оказали влияние практически на все отрасли, но, разумеется, и они требуют времени. От телекоммуникаций до связи и от здравоохранения до образования - они играют важную роль и так или иначе помогают человечеству. Никто не может отрицать ее важности и применения в жизни, что дает веские основания для ее существования и развития. ИИ находит применение во многих отраслях, в том числе и в образовании. Многие приложения ИИ в образовании включают в себя репетиторство, помощь в обучении, обратную связь, социальных роботов, поступление в вуз, выставление оценок, аналитику, метод проб и ошибок, виртуальную реальность и т. д. ИИ основан на компьютерном программировании или вычислительных подходах; могут возникнуть вопросы о процессе анализа, интерпретации, обмена и обработки данных и о том, как предотвратить предвзятость, которая может повлиять на права учащихся, поскольку считается, что предвзятость при проектировании может увеличиваться со временем, и о том, как она будет решать проблемы, связанные с полом, расой, возрастом, неравенством доходов, социальным статусом и т. д. Как и у любой другой технологии, у ИИ и его применения в образовании и обучении тоже есть свои проблемы. Данная статья посвящена этическим проблемам ИИ в образовании. Некоторые проблемы связаны с неприкосновенностью частной жизни, доступом к данным, правильной и неправильной ответственностью, записями студентов и т. д. Кроме того, взлом и манипуляции с данными могут поставить под сомнение неприкосновенность частной жизни и контроль над ней; необходимо четко понимать этические принципы.
Пожалуй, наиболее важными этическими принципами разработки образовательных систем ИИ являются благополучие, обеспечение безопасности на рабочем месте, надежность, справедливость, соблюдение прав интеллектуальной собственности, неприкосновенность частной жизни и конфиденциальность. Кроме того, были сформулированы следующие десять принципов:
1. Обеспечение поощрения пользователя.
2. Обеспечение безопасного взаимодействия человека и машины и совместного обучения
3. Положительные черты характера должны быть обеспечены.
4. Необходимо избегать перегруженности информацией
5. Создайте благоприятную и любопытную среду для обучения
6. Необходимо учитывать особенности эргономики
7. Убедитесь, что система способствует развитию роли и навыков учителя, а не заменяет его
8. Уважение к культурным ценностям
9. Обеспечение многообразия проживания студентов
10. Избегайте превознесения системы и ослабления роли человека и его потенциала для роста и обучения.
11. Если рассматривать вышеперечисленные принципы по отдельности, то при использовании технологии ИИ в образовании возникает множество вопросов. На всех этапах - от разработки и планирования до использования и воздействия -возникают и существуют этические проблемы. Это не та цель, ради которой разрабатывается и проектируется технология ИИ. Технология полезна для одного, но опасна для другого, и проблема заключается в том, как развести эти два понятия. Помимо того, что при планировании и разработке ИИ для образования не соблюдаются надлежащие рамки и принципы, дополнительными источниками этических проблем являются предвзятость, излишняя самоуверенность, неверные оценки и т. д. Вопросы безопасности и конфиденциальности. Стивен Хокинг однажды сказал, что успех в создании ИИ станет самым значительным событием в истории человечества. К сожалению, он может стать и последним, если мы не научимся избегать рисков. Безопасность - одна из главных проблем, связанных с ИИ и обучением.
В настоящее время большинство учебных заведений используют технологии ИИ в процессе обучения, и эта область привлекает внимание исследователей и вызывает интерес. Однако ИИ или
PPSUTLSC-2024
PRACTICAL PROBLEMS AND SOLUTIONS TO THE USE OF THEORETICAL LAWS IN THE SCIENCES OF THE 2IST CENTURY
TASHKENT.MM.Y20M WWW.in-aCademy.UZ
машинное обучение также привнесли в образовательный сектор множество проблем и вызовов, и самыми серьезными из них являются безопасность и конфиденциальность. Никто не может отрицать, что системы и приложения искусственного интеллекта в той или иной форме становятся частью учебных классов и образования. Каждый инструмент работает в соответствии со своим способом, и ученик и учитель используют его соответственно. Это создает иммерсивный опыт обучения с использованием голосов для доступа к информации и создает потенциальные риски для конфиденциальности и безопасности. При ответе на вопрос, связанный с проблемами
конфиденциальности, основное внимание уделяется безопасности ученика как проблеме номер один при использовании устройств ИИ. То же самое можно сказать и о преподавателе. Кроме того, учителя знают меньше о правах, законах и нормах конфиденциальности и безопасности, их влиянии и последствиях, а также о том, во что обойдутся нарушения ученикам, учителям и стране. Системы машинного обучения или искусственного интеллекта основаны исключительно на наличии данных. Без данных это ничто, и неизбежен риск их неправильного использования и утечки в неблаговидных целях. Системы искусственного интеллекта собирают и используют огромные данные для построения прогнозов и закономерностей; при этом существует вероятность предвзятости и дискриминации. В настоящее время многие люди обеспокоены этическими аспектами систем искусственного интеллекта и считают, что вопрос безопасности необходимо учитывать при разработке и внедрении систем ИИ. Важно также отметить, что проблемы безопасности возрастают при использовании сети и конечных точек в дистанционном обучении. Одна из проблем заключается в том, что защитить технологии электронного обучения от кибератак не так просто и не требует больших затрат, особенно в образовательном секторе с ограниченным бюджетом на учебную деятельность. Еще одна причина существования этой серьезной угрозы -малое количество технического персонала в учебных заведениях; нанять его - еще одна экономическая проблема. Хотя в определенной степени использование интеллектуальных технологий ИИ и машинного обучения снижает уровень и угрозу безопасности, проблема опять же в том, что ни каждый преподаватель не является профессионалом, достаточно подготовленным для использования технологий и не способен справиться
с общими угрозами. И по мере того, как использование ИИ в образовании расширяется, возрастает и угроза безопасности. Никто не может убежать от угрозы ИИ в области кибербезопасности, и он ведет себя как обоюдоострый меч. Цифровая безопасность - наиболее значительный риск и этическая проблема использования ИИ в образовательных системах, где преступники взламывают машины и продают данные для других целей. Мы изменяем нашу безопасность и конфиденциальность. Остается вопрос: защищена ли наша частная жизнь и когда системы ИИ станут способны сохранять нашу конфиденциальность? Ответ находится за пределами человеческого знания. С одной стороны, системы ИИ связаны с различными проблемами прав человека, которые можно оценивать в каждом конкретном случае. ИИ оказывает множество сложных предварительных воздействий на права человека, поскольку он устанавливается или внедряется не с чистого листа, а на фоне социальных условий. Существует значительное влияние искусственного интеллекта на вопросы безопасности и конфиденциальности. Сделать человека ленивым. ИИ - это технология, которая оказывает значительное влияние на Индустрию 4.0, трансформируя практически все аспекты человеческой деятельности.
Вызывает тревогу тот факт, что объем исследований вырос в восемь раз по сравнению с другими отраслями. Большинство компаний и стран инвестируют в развитие технологий, навыков и образования в области ИИ. Однако главная проблема внедрения ИИ заключается в том, что он усложняет роль ИИ в создании устойчивости и сводит к минимуму контроль со стороны человека. Когда использование и зависимость от ИИ увеличиваются, это автоматически ограничивает мыслительные способности человеческого мозга. В результате мыслительные способности человека быстро снижаются. Это лишает человека способности мыслить и делает его более искусственным. Кроме того, столь интенсивное взаимодействие с технологиями подталкивает нас к тому, чтобы думать как алгоритмы, не понимая их. Еще одна проблема - зависимость человека от технологий ИИ практически во всех сферах жизни. Несомненно, он повысил уровень жизни и сделал ее проще, но при этом плачевно повлиял на человеческую жизнь и сделал людей нетерпеливыми и ленивыми. Он будет медленно и постепенно лишать человеческий мозг вдумчивости и умственных усилий по мере того, как он будет углубляться в каждый вид деятельности, например
PPSUTLSC-2024
PRACTICAL PROBLEMS AND SOLUTIONS TO THE USE OF THEORETICAL LAWS IN THE SCIENCES OF THE 2IST CENTURY
TASHKENT.MM.Y20M WWW.in-aCademy.UZ
планирование и организацию. Высокая степень зависимости от ИИ может привести к снижению профессиональных навыков и вызвать стресс, когда потребуются физические или мозговые меры. ИИ сводит к минимуму нашу автономную роль, заменяя нам выбор с его выбором, и делает нас ленивыми в различных сферах жизни. Утверждается, что ИИ подрывает автономию и ответственность человека, что приводит к снижению уровня счастья и самореализации. Влияние ИИ не ограничится какой-то конкретной группой людей или областью, а охватит и сектор образования. Преподаватели и студенты будут использовать приложения ИИ при выполнении заданий или их работа может выполняться автоматически. Постепенное привыкание к использованию ИИ приведет к лени и проблемной ситуации в будущем.
Существует значительное влияние
искусственного интеллекта на человеческую лень Утрата возможности принимать решения человеком. Технология играет важную роль в принятии решений. Они помогают людям правильно использовать информацию и знания, чтобы принимать решения, подходящие для их организаций и инноваций. Люди производят большие объемы данных, и, чтобы сделать их эффективными, компании внедряют и используют искусственный интеллект, отстраняя людей от работы с данными. Люди думают, что они получают преимущества и экономят время, используя ИИ в своих решениях. Но он преодолевает биологические факторы человека, снижая его познавательные способности. Технологии и приложения ИИ имеют множество преимуществ. Однако технологии ИИ имеют и серьезные негативные последствия, одним из которых является ограничение их роли в принятии решений человеком. Медленно и постепенно ИИ ограничивает и заменяет роль человека в принятии решений. Такие умственные способности человека, как интуитивный анализ, критическое мышление и творческое решение проблем, уходят из процесса принятия решений. Организации используют ИИ для анализа данных и эффективного принятия сложных решений, чтобы получить конкурентное преимущество. Хотя ИИ помогает процессу принятия решений в различных отраслях, последнее слово в принятии любого решения по-прежнему остается за человеком. Это подчеркивает важность роли человека в этом процессе и необходимость обеспечить, чтобы технологии ИИ и люди работали бок о бок. Предполагается, что в будущем гибридная модель сотрудничества человека и машины будет все
больше расширяться. Роль ИИ в принятии решений в образовательных учреждениях растет с каждым днем. Университеты используют ИИ как в академической, так и в административной деятельности. От поиска студентами требований к поступлению на программу до выдачи дипломов -теперь им помогают ИИ: персонализация, репетиторство, быстрые ответы, круглосуточный доступ к обучению, ответы на вопросы и автоматизация задач - вот ведущие роли, которые ИИ играет в сфере образования. Во всех вышеперечисленных ролях ИИ собирает данные, анализирует их, а затем реагирует, то есть принимает решения. Почти в каждой задаче преподаватели и другие работники теряют способность к познанию при принятии академических или административных решений. А их зависимость от систем искусственного интеллекта, установленных в учебном заведении, растет с каждым днем. Подводя итоги обзора, можно сказать, что в любой образовательной организации ИИ делает работу автоматической и сводит к минимуму участие персонала в выполнении различных задач и принятии решений. Преподаватели и другие административные работники оказываются беспомощными перед ИИ, поскольку многие их функции выполняют машины. Они теряют навыки выполнения традиционных задач в образовательной среде и, как следствие, утрачивают способность принимать решения. 3 ТЕОРЕТИЧЕСКИЕ ПОСЛЕДСТВИЯ Потеря способности человека принимать решения -одно из последствий применения ИИ в образовании. Поскольку системы ИИ способны обрабатывать огромные объемы данных и делать точные прогнозы, существует риск, что люди станут чрезмерно зависимы от ИИ в принятии решений. Это может привести к снижению уровня критического мышления и инноваций как у студентов, так и у преподавателей, что может снизить стандарты образования. Педагоги должны понимать, как ИИ влияет на процесс принятия решений, и должны уравновешивать преимущества ИИ с человеческой интуицией и креативностью. ИИ может потенциально повлиять на безопасность в школах. Системы ИИ могут отслеживать поведение учеников, выявлять потенциальные опасности и определять ситуации, в которых детям может потребоваться дополнительная помощь.
Существуют опасения, что ИИ может быть использован для несправедливого воздействия на определенные группы учащихся или нарушения неприкосновенности частной жизни учащихся.
PPSUTLSC-2024
PRACTICAL PROBLEMS AND SOLUTIONS TO THE USE OF THEORETICAL LAWS IN THE SCIENCES OF THE 2IST CENTURY
TASHKENT.MM.Y20M WWW.in-aCademy.UZ
Поэтому преподаватели должны знать о возможных этических последствиях ИИ и разрабатывать системы ИИ с учетом приоритетов безопасности и конфиденциальности для пользователей и образовательных организаций. Еще одно потенциальное влияние ИИ на образование - это то, что люди становятся более ленивыми. Преподаватели и учащиеся могут стать более зависимыми от систем ИИ и потерять интерес к выполнению заданий или изучению новых навыков или методик. Это может привести к снижению качества образования и отсутствию личностного развития у людей. Поэтому преподаватели должны знать о возможном пагубном влиянии ИИ на мотивацию учащихся и создавать образовательную среду, которая мотивирует их к активному участию в получении образования. 4 ЗАКЛЮЧЕНИЕ
ИИ может существенно повлиять на сферу образования. Хотя он приносит пользу образованию и помогает в решении многих академических и административных задач, его опасения по поводу потери способности принимать решения, лени и безопасности нельзя игнорировать. ИИ поддерживает принятие решений, помогает преподавателям и студентам выполнять различные задачи и автоматизирует многие процессы. Медленно и постепенно внедрение и зависимость от ИИ в сфере образования растет, что влечет за собой эти проблемы. Результаты показывают, что использование ИИ в образовании увеличивает потерю способности человека принимать решения, делает пользователей ленивыми за счет пер-формирования и автоматизации работы, а также увеличивает проблемы безопасности и конфиденциальности.
СПИСОК ЛИТЕРАТУР
[1] Cukurova M, Kent C, Luckin R (2019) Artificial intelligence and multimodal data in the service of human decision-making: a case study in debate tutoring. Br J Educ Technol 50(6):3032-3046. https://doi.org/10.1111/bjet.12829
[2] Jordan P, Troth A (2020) Common method bias in applied settings: the dilemma of researching in organizations. Aust J Manag 45(1):2-14. 10.1177% 2F0312896219871976
[3] Petousi V, Sifaki E (2020) Contextualizing harm in the framework of research misconduct. Findings from discourse analysis of scientific publications. Int J Sustain Dev 23(3-4):149-174.
https://doi.org/10.1504/IJSD.2020.10037655
[4] Мухамадиева К. Б. Искусственный интеллект в развитиии молодежи //Образование и проблемы развития общества. - 2021. - №. 2 (15). - С. 27-33.
[5] Мухамадиева К. Б. Обзор современных технологий искусственного интеллекта в творческой индустрии// https://zenodo.org/doi/10.5281/zenodo.8023672
[6] Мухамадиева З. Б. Инновационная деятельность в учебном процессе //Proceedings of International Conference on Modern Science and Scientific Studies. - 2023. - Т. 2. - №. 11. - С. 124-127.
