CC BY
532
КОМПЬЮТЕРНАЯ ЭТИКА И ПРОБЛЕМЫ ИНТЕЛЛЕКТУАЛЬНОЙ БЕЗОПАСНОСТИ
И.В. Цвык
Кафедра философии Московский авиационный институт (Национальный исследовательский университет) Волоколамское шоссе, 4, Москва, Россия, 125171
В статье анализируются современные представления о понятии, сущности и основных проблемах компьютерной этики. Рассматриваются нравственные, морально-этические, социальные и правовые аспекты развития современных информационных технологий и искусственного интеллекта.
Ключевые слова: компьютерная этика, информационные технологии, компьютерные профессионалы, искусственный интеллект, информационная безопасность.
В ряду важнейших характеристик развития человечества в ХХ в. следует выделить прежде всего такой феномен, как появление компьютеров и начало формирования информационных обществ.
Применение компьютерной техники для создания, хранения, передачи и использования информации потребовало создания целого направления в науке, которое получило название информатики. 1980-е гг. стали периодом массовой компьютеризации в развитых странах, где количество компьютеров разных типов, ежегодно поступающих в продажу, в первую очередь персональных компьютеров, исчисляется десятками миллионов. Рынок электронной торговли к 2002 г. вырос до 300 млрд долларов (для сравнения, в 1956 г. он составлял 2,6 млрд долларов).
Компьютеризация существенно влияет на процессы обучения, на постановку и решение научных задач, на исследования в области мышления и процессов познания. Информационные технологии стали мощным преобразователем экономической, социальной и других видов деятельности. Процесс компьютеризации и информатизации протекает неравномерно в разных странах и регионах, однако в целом он уже продвинулся настолько, что стало возможным подвести некоторые итоги и сделать прогноз на будущее. Компьютеризация всех сфер человеческой деятельности выступает сегодня и как важнейшая задача общества, и как императив социального развития. Без решения этой задачи невозможны гуманистические преобразования, экономическое развитие общества, способное обеспечить достойную жизнь всем своим гражданам [8. С. 240—241].
Развитие общества в последние десятилетия характеризуется стремительным проникновением во все сферы человеческой жизни новых информационно-коммуникационных технологий. Эти изменения привели к формированию качественно нового типа общества, получившего название «информационного». Приметой времени стало распространение различных видов сетей — информационных, индустриальных, маркетинговых, финансовых.
Наиболее влиятельной из всех типов стала всемирная глобальная компьютерная сеть Интернет. Расширение этой сети по всему миру идет весьма интенсив-
ными темпами. По оценкам экспертов, количество пользователей Интернета к концу 2005 г. превысило 1 миллиард человек. К 2011 г. их число возросло до 2 миллиардов.
Российский сегмент, несмотря на некоторое отставание от наиболее развитых стран, в последние годы также значительно возрос. Отставание России от стран-лидеров было обусловлено как слабой компьютерной оснащенностью населения и организаций, так и нехваткой средств на подключение к сети. Однако, несмотря на трудности, количество россиян, пользующихся Интернетом, оценивается уже в 9,8 миллионов человек, что в 2 раза превышает аналогичный параметр двухлетней давности.
По мере увеличения количества пользователей, в том числе и в России, компьютерные технологии все больше приобретают роль значимого социального фактора, что неизбежно приводит к возникновению ряда ситуаций, требующих этического регулирования.
Как справедливо отмечает А.С. Капто, сам по себе компьютер не меняет и не может менять этические нормы и предписания, «он лишь увеличивает, причем существенным образом, технические и операционные возможности для аморальных людей причинять вред в своих личных или корпоративных целях» [3. С. 758].
Несмотря на все рассуждения о глобальной мощи искусственного интеллекта, даже самой «разумной» машине недоступна человеческая рефлексия, т.к. она определяется творческими и познавательными возможностями самого человека, особенностями его личности. В этих условиях возникает настоятельная необходимость расширения ординарных моральных и правовых правил до пределов новых ситуаций, которые создаются этими новыми технологиями и способами их реализации. Это и определяет актуальность и своевременность разработки специальной компьютерной этики, одновременно с разработкой нового компьютерного права.
Компьютерные профессионалы, как и все другие профессионалы-работники, должны руководствоваться в своей деятельности как законами государства, в котором они живут, так и целым рядом определенных моральных принципов. Так возникает профессиональная компьютерная этика, поскольку компьютерные профессионалы не только входят в специфические отношения друг с другом, но и получают власть над отдельными людьми, социальными институтами и даже над окружающей средой. В этом контексте уместно говорить о компьютерной этике как разновидности профессиональной этики в сфере профессионального труда, связанного с разработкой и обслуживанием компьютерной техники.
Еще в 1985 г. в США Ассоциацией приборостроения был выработан Кодекс профессионального поведения членов ассоциации. Этот кодекс имел все черты профессионально-этического кодекса. Он содержал пять «канонов» (т.е. общих принципов), в каждый из которых были включены идеальные «профессиональные этические соображения» и «дисциплинарные правила», регулирующие как внутрикорпоративные отношения между профессионалами, так и отношения между компьютерными профессионалами и обществом. Так, если «Канон I» гласил, что
«все члены ассоциации во все времена должны действовать честно», то «Профессиональное этическое соображение I» содержало рекомендацию членам ассоциации постоянно повышать свою квалификацию, а «Дисциплинарное правило I» требовало, чтобы последние никогда намеренно не представляли свою квалификацию в ложном свете [12. С. 31].
Создание данного Кодекса сыграло важную роль в становлении профессиональной этики компьютерных работников. Однако при этом надо отметить, что Кодекс профессионального поведения членов Ассоциации приборостроения носил слишком абстрактный характер и не в полной мере отражал специфику данного вида профессиональной деятельности. Он в основном повторял требования любого профессионального этического кодекса и не работал на практике, поскольку его пять «канонов» были настолько общи, что выдвигали те же идеалы, к которым должны всегда стремиться профессионалы в любой сфере человеческой деятельности (честность, компетентность, ответственность за данную работу, профессиональная ответственность, обеспечение благоденствия человечества) [6. С. 96].
По мере бурного развития компьютерной техники и глобального расширения сферы ее применения становилось ясно, что область действия компьютерной этики выходит за пределы только регулирования отношений в профессиональной компьютерной среде. Техника, в том числе компьютерная, не может больше рассматриваться как ценностно-нейтральная и должна отвечать не только технической функциональности, но и критериям экономичности, улучшения жизненного уровня, безопасности, здоровья людей, качества окружающей природной и социальной среды и т.п. [7. С. 89].
Компьютерная этика сегодня является не только отраслевой профессиональной этикой «компьютерных профессионалов», т.е. программистов, системных аналитиков, системотехников, и др. работников, профессионально занимающихся разработкой и обслуживанием компьютерной техники. Ее требования относится также и к служащим банковской и конструкторской сфер, работникам народного образования, предпринимателям-биржевикам, медицинским диагностам, планировщикам, разработчикам бюджета, наконец, ко всем тем людям, которые пользуются Интернетом. Современная компьютерная этика — это вид прикладной этики, представляющий собой конкретизацию общих нравственных требований применительно к проблемам, возникающим по поводу создания, применения и обслуживания компьютерной техники и технологий [5. С. 542].
Наиболее общий кодекс компьютерной этики разработан Институтом компьютерной этики (Computer Ethics Institute), который является некоммерческой организацией, помогающей продвигать передовые технологии этичными способами. Институт компьютерной этики разработал Десять заповедей компьютерной этики.
1. Не используй компьютер с целью причинения вреда другим людям.
2. Не вмешивайся в работу компьютеров других людей.
3. Не пытайся найти что-нибудь в файлах на компьютерах других людей.
4. Не используй компьютер для воровства.
5. Не используй компьютер для лжесвидетельства.
6. Не копируй и не используй коммерческое программное обеспечение до его оплаты.
7. Не используй ресурсы чужого компьютера без разрешения или компенсации.
8. Не присваивай себе результаты интеллектуальной деятельности других людей.
9. Подумай о социальных последствиях использования программы, которую ты написал, или системы, которую ты спроектировал.
10. Используй компьютер таким образом, чтобы соблюсти интересы сограждан [15].
Начало дискуссиям по этическим вопросам разработки и использования компьютерных систем было положено выступлениями Дж. Вейценбаума — известного исследователя в области искусственного интеллекта.
В книге «Возможности вычислительных машин и человеческий разум» (1976) Вейценбаум выдвинул тезис о том, что важнейшие проблемы, возникающие в рамках дебатов на тему «Вычислительные машины и мозг» не являются ни техническими, ни математическими: это проблемы этические, поскольку пределы применимости вычислительных машин, по существу, поддаются формулировке лишь в терминах долженствования. Вейценбаум полагал, что мы не имеем права заменить вычислительной системой человека в тех сферах, которые связаны с межличностными отношениями, пониманием и любовью (так, например, аморальна замена компьютером психиатра или судьи) [1].
Известны различные попытки наложить ограничения, исходя из этических соображений, на характер задач, решаемых компьютером, и на области его применения. Дж. Мур, например, предлагает ограничить круг задач, решаемых компьютером, таким образом, чтобы компьютер не мог решать, каковы должны быть наши базисные цели и ценности (и приоритеты среди них), считая в то же время этически неправомерным запрещение компьютеров там, где они могут способствовать сохранению человеческой жизни, например, в областях медицины [13. С. 269].
К настоящему времени проблемы компьютерной этики вышли далеко за рамки вопроса об этически допустимых пределах применимости компьютеров. Компьютерная этика рассматривает проблемы ответственности за неполадки в работе тех или иных компьютерных программ и за развитие компьютерной техники в целом, проблемы предотвращения доступа к приватной информации, накапливаемой в компьютерных базах данных, процессы централизации и децентрализации власти в условиях компьютеризации, этические основания авторского права, интеллектуальной собственности и коммерческой тайны. При этом рамки исследования ситуаций, порождаемых развитием современной техники, могут задаваться различными этическими теориями (этический релятивизм, конвенциализм, деонтологические концепции, концепции права и справедливости и др.). Примером такого подхода может служить книга Д. Джонсон «Компьютерная этика», основную цель которой автор характеризует как «продвижение в понимании того, как должны вести себя люди, когда они используют компьютеры» [12].
Один из разделов изданного в 1995 г. сборника «Компьютеры, этика и социальные ценности» (под редакцией Д. Джонсон и X. Нессельбаум) специально посвящен этическим проблемам в использовании компьютерных сетей. Эти же проблемы являются центральными в статье Дж. Мура «Что такое компьютерная этика?», которая представляет собой попытку определить характер компьютерной этики как самостоятельной дисциплины. «На мой взгляд, — пишет Мур, — компьютерная этика есть динамичная и сложная область исследований, которая рассматривает соотношения фактов, концептуализации, типов политики и ценностей, связанных с постоянно изменяющейся компьютерной техникой. Компьютерная этика не является фиксированным набором правил, вывешенных на стене. Не является она и механическим приложением этических принципов к свободной от ценностей технике. Компьютерная этика требует переосмысления природы компьютерной техники и наших ценностей. Хотя компьютерная этика связывает технику с этикой и зависит от них, она является также дисциплиной со своими собственными правами, она осуществляет концептуализацию с целью понимания компьютерной техники и осуществления той или иной политики в отношении этой техники» [13. С. 273].
Вопрос о том, допустимо ли доверять «невидимым» расчетам компьютера, также становится значительной этической проблемой. К числу сложных аспектов компьютерной этики относится проблема «невидимых» операций, когда человеку, осуществляющему их, известна входная и исходная информация, но при этом ничего не ведомо об операциях, происходящих «внутри» компьютера. Такие ситуации создают благоприятные условия для различного рода этических нарушений, которые к тому же не всегда могут быть обнаружены.
По Дж. Муру, существует несколько типов компьютерных «невидимостей», имеющих этическое значение: намеренное использование невидимых операций с целью осуществить неэтичное либо преступное поведение; неявные допущения программ, которые остаются скрытыми, пока не наступит кризис; вторжение при помощи компьютера в личную жизнь; «логическая податливость компьютера», состоящая в том, что он может быть запрограммирован для выполнения любой логической операции, сколь преступной она бы ни была [13. С. 275—276].
Создание искусственного интеллекта также имеет ряд сложных этических аспектов. Искусственный интеллект — это метафорическое название комплексного научного направления, которое объединяет представителей различных областей знания и ставит своей целью создание программно-аппаратных средств компьютеров, позволяющих:
— имитировать на компьютере отдельные элементы творческого процесса:
— автоматизировать целенаправленное поведение роботов;
— обеспечивать диалоговое общение с компьютером;
— создавать системы, работа которых опирается на знания, формируемые экспертами [8. С. 249].
Новая область гносеологии — информационная эпистемология — решает задачу исследования процесса формирования знаний в компьютерах. Решение этой задачи предполагает пересмотр или уточнение многих понятий традиционной
гносеологии, рассматривающей интеллект как человеческое качество, в тесной связи с познавательными способностями человека и его деятельностью. Но в этом контексте возникает следующая дилемма: если обладающий сознанием человек обязан быть моральным, то подобное же требование мы должны предъявлять и к «обладающей сознанием» машине. При этом необходимо учитывать, что морально-этические поступки и оценки не поддаются формализации и оптимизации, они под воздействием социальных и личностных отношений, противоречий между субъектом и объектом постоянно корректируются и приводятся в соответствие с меняющимися целями. В этих условиях реализация осознанных или неосознанных духовных ценностей, а следовательно и нравственная ответственность, не может быть делегирована компьютерам, она всегда была и будет прерогативой человека [3. С. 762].
Поэтому с точки зрения компьютерной этики, к созданию искусственного интеллекта следует подходить очень осторожно, поскольку таковое может привести к ситуациям, когда начнут возникать различные неожиданные нарушения этических норм. Ведь иерархия ценностей искусственного интеллекта может оказаться непредсказуемой.
Актуализируются проблемы компьютерной этики и в связи с широким распространением и тесным вхождением в нашу повседневную жизнь новых информационных технологий. Чтобы быть полноправным членом огромного пространства сети Интернет, без которой немыслимо современное информационное пространство, нужно соблюдать основные этические правила. При этом основы «сетевой этики» должны закладываться еще в школе. Например, специалист по компьютерным технологиям П. Робертс считает, что в наше время преподавание детям компьютерных дисциплин должно основываться на несколько иных принципах, чем это было еще несколько лет назад [14].
Изучение технических аспектов функционирования компьютерных систем важно сочетать с воспитанием моральных качеств пользователей. Как отмечает Дж. Мур, «типичная проблема в компьютерной этике возникнет из-за наличия политического вакуума в применяемых компьютерных технологиях» [13. С. 269]. При этом указанная дихотомическая пара навыки/этика должна составлять основу получения экспертных знаний по компьютерным технологиям [14].
Разработка правил поведения в компьютерной сети привела к формированию своеобразного сетевого этикета — «сетикета» («netiquette»). Причем этот этикет включает в себя не только официально формализованные правила, но и те приемы, которые основаны на саморегуляции в отношениях между пользователями Интернета. Одни из таких способов — баланс давления и противодавления, когда на всякого претендента на роль «отступника» от правил сразу же обрушивается лавина упреков от членов сетевого сообщества.
Сетевая этика в России находится еще в стадии формирования, однако уже существуют общепринятые нормы поведения в виртуальном социуме. По одной из этих норм публично задавать вопросы о возрасте, подлинном имени и т.п. собеседника считается как минимум неделикатным — каждый сообщает о себе
столько, сколько считает нужным, а подобные вопросы требуют приватности. Если желание перевести общение на другой уровень обоюдно, люди, как правило, переходят на общение по электронной почте или через ICQ.
Этот процесс настолько распространен в сети, что часто в виртуальных социумах, специализирующихся на общении, изначально заложена возможность приватной беседы без перехода на другой ресурс.
В чатах, к примеру, обычно приняты такие приватные формы коммуникации, как «шепот» (возможность при общем разговоре отправлять любому из присутствующих реплики, невидимые для остальных) и «приват» (возможность перейти в диалоговый чат «на двоих»).
При этом довольно очевидно, что этическое саморегулирование в сети не будет достаточно эффективным, если оно не поддерживается желанием этичного поведения со стороны самих пользователей. Безусловно, недостаточно просто полагаться на добрую волю участников сообществ или нравственные установки владельцев ресурса. Разнообразие этических норм, в пределах культурного горизонта сети Интернет, требует, чтобы процедуры появления норм сетевой этики появлялись в результате дискуссии пользователей, обсуждающих конкретные ситуации межличностных и межгрупповых конфликтов, возникающих на этической почве [10. С. 20].
К числу сложных аспектов компьютерной этики относится проблема информационной безопасности. С моральной точки зрения весьма сложной представляется проблема права на сохранение тайны, особенно в сети. Сложность данной нравственной коллизии заключается в конфликте между заинтересованностью потребителей крупных организаций (страховых агентств, банков, кредитных контор и т.д.) в информации и праве личности хранить эту информацию в тайне, поскольку такие сведения имеют частный характер. В ситуации, когда частные сведения, в силу широкого распространения различных информационных баз в электронном виде, становятся легкой добычей владеющих информационными технологиями недобросовестных лиц и организаций, частная информация и право на сохранение тайны становятся весьма эффективным инструментом установления контроля над отношениями людей, используются для манипулирования сознанием. Разрешение этого противоречия У. Парнет видит в требовании отсутствия данных частного характера в доступных посторонним емкостях машинной памяти [9. С. 33—34].
Глобальность процессов информатизации привела к обострению многих проблем, связанных с интеллектуальной собственностью. Как отмечает А.С. Капто, наличие трех несовпадающих позиций в правовом решении этой проблемы — использование законов об авторском праве, применение законов о торговых секретах, опора на патентное законодательство — еще больше усложняется отсутствием каких-либо морально-этических нормативов и регуляторов [3. С. 765].
Важнейшим следствием информационной революции в современном обществе стала актуализация проблемы информационной безопасности. В соответствии с Законом о безопасности и содержанием Концепции национальной безопасности
РФ под информационной безопасностью понимается состояние защищенности жизненно важных интересов личности, общества и государства в информационной сфере.
Совокупность официальных взглядов на цели, задачи, принципы и основные направления обеспечения информационной безопасности Российской Федерации представлены в Доктрине информационной безопасности РФ. На основе анализа положений, содержащихся в этом документе можно выделить следующие жизненно важные интересы в информационной сфере:
а) для личности: соблюдение прав человека на поиск, получение и передачу информации; реализация прав граждан на неприкосновенность частной жизни, защита информации; защита права на интеллектуальную собственность;
б) для общества: обеспечение интересов личности в информационной сфере; построение информационного общества; предотвращение манипулирования массовым сознанием; приоритетное развитие современных информационных технологий;
в) для государства: защита государственных информационных систем и государственных информационных ресурсов; защита единого информационного пространства страны [4. С. 74].
Итак, компьютерная этика — особая область исследований, занимающаяся этическими проблемами, возникающими в связи с развитием компьютерных технологий.
Общеизвестно, что расширение компьютерных возможностей (особенно тех, что предоставлены глобальной сетью Интернет) служит не только во благо, но влечет и ряд негативных последствий. Происходящая сейчас информационная революция вызывает к жизни новые острые проблемы. Так, в сфере компьютерной этики обсуждаются такие вопросы, как доступность и распространение сетевыми средствами различной социально и этически предосудительной информации (пропаганда насилия и т.п.), оправданность создания тотальных баз данных о гражданах, компьютерные преступления, ответственность ученых, занимающихся разработкой новых технологий, и публичный контроль за их деятельностью, проблемы информационной безопасности и другие темы.
ЛИТЕРАТУРА
[1] Вейценбаум Дж. От суждений к вычислениям. — М., 1982.
[2] Галинская И.Л. Компьютерная этика, информационная этика, киберэтика // Новые инфо-коммуникационные технологии в социально-гуманитарных науках и образовании: современное состояние, проблемы, перспективы развития. — М., 2003. — С. 112—132.
[3] Капто А.С. Профессиональная этика. — М., 2006.
[4] Лопатин В.Н. Информационная безопасность России: Человек. Общество. Государство. — СПб., 2000.
[5] Цвык В. А. Прикладная этика // Философский словарь / Под ред. И.Т. Фролова. — М., 2009.
[6] Цвык В.А. Профессиональная этика: Основы общей теории. — 2-е изд. — М., 2012.
[7] Цвык И.В. Профессиональная этика инженера // Профессиональная этика в современном обществе. — М., 2011.
[8] Цвык И.В. Философские проблемы информатики // Философия науки: Учебное пособие. — 2-е изд. — М., 2011.
[9] Этические проблемы компьютеризации. Реферативный сборник. — М., 1990.
[10] Berleur J. Ethique et autoroutes de l'information // In Rapports du Groupe CAPAS-CAWET. — Bruxelles: Académie Royale de Belgique, 2000.
[11] Forester T., Morrison P. Computer ethics: Cautionary tales and ethical dilemmas in computing. — 2nd ed. — Cambridge, 1994.
[12] Johnson D.G. Computer ethics. — Englewood Cliffs (N.J.), 1985. — IX, XV.
[13] Moor J. What is Computer Ethics? // Metaphilosophy. — 1985. — № 16. — Р. 266—275.
[15] Roberts P.M. The place and pedagogy of teaching ethics in the computing curriculum // Australian Educational Computing, 1994, April.
[16] Corporate Ethics and Governance Watchdog [Электронный ресурс]. — URL: http://www.corp-ethics.com
COMPUTER ETHICS AND THE PROBLEMS OF INFORMATION SECURITY
I.V. Tsvyk
Department of philosophy Moscow Aviation Institute (National Research University) Volokolamskoe shosse, 4, Moscow, Russia, 125171
The article analysis current views of notion, essence and main problems of computer ethics. The article also considers moral, ethical, social and legal aspects of the development of modern information technology and artificial intelligence.
Key words: computer ethics, information technology, computer professionals, artificial intelligence, information security.
REFERENCES
[1] Weizenbaum J. Ot suzhdenii k vychisleniiam (From Judgment to Calculation). Moscow, 1982.
[2] Galinskaia I.L. Komp'iuternaia etika, informatsionnaia etika, kiberetika. Novye infokommu-nikatsionnye tekhnologii v sotsial'no-gumanitarnykh naukakh i obrazovanii: sovremennoe sostoianie, problemy, perspektivy razvitiia (Computer Ethics, Inrormation Ethics. New Info-comms in Social and Humane Sciences and Edication: the Current State, Problems, Prospects of Development). Moscow, 2003, p. 112—132.
[3] Kapto A.S. Professional'naia etika (Professional Ethics). Moscow, 2006.
[4] Lopatin V.N. Informatsionnaia bezopasnost' Rossii: Chelovek. Obshchestvo. Gosudarstvo (Information Security of Russia. Human. Society. State). Saint Peterburg, 2000.
[5] Tsvyk V.A. Prikladnaia etika. Filosofskii slovar'. Pod red. I.T. Frolova (Applied Ethics. Philosophical Dictionary. Edited by Frolov I.T.). Moscow, 2009.
[6] Tsvyk V.A. Professional'naia etika: Osnovy obshchei teorii. 2-e izd (Professional Ethics. Basis of General Theory. Second Edition). Moscow, 2012.
BecTHHK Py^H, cepua &unoco$ufi, 2013, № 3
[7] Tsvyk I.V. Professional 'naia etika inzhenera. Professional 'naia etika v sovremennom ob-shchestve (Professional Ethics of Engineer. Professional Ethics in the Modern Society). Moscow, 2011.
[8] Tsvyk I.V. Filosofskie problemy informatiki. Filosofia nauki. Uchebnoe posobie. 2-e izd (Philosophical problems of Computer Science. Philosophy of Science. Tutorial. 2d Edition). Moscow, 2011.
[9] Eticheskie problemy komp'iuterizatsii. Referativnyi sbornik (Ethical Problems of Computer Availability). Moscow, 1990.
[10] Berleur J. Ethique et autoroutes de l'information. In Rapports du Groupe CAPAS-CAWET. — Bruxelles: Académie Royale de Belgique, 2000.
[11] Forester T., Morrison P. Computer ethics: Cautionary tales and ethical dilemmas in computing. 2nd ed. Cambridge, 1994.
[12] Johnson D.G. Computer ethics. Englewood Cliffs (N.J.), 1985. IX, XV.
[13] Moor J. What is Computer Ethics? Metaphilosophy, 1985, no 16, p. 266—275.
[15] Roberts P.M. The place and pedagogy of teaching ethics in the computing curriculum // Australian Educational Computing, 1994, April.
[16] Corporate Ethics and Governance Watchdog. Available at: http://www.corp-ethics.com
