Религия Этика Искусственный интеллект
Религия Этика Искусственный интеллект
Главная / Традиционные религии об искусственном интеллекте: мнения экспертов
Назад

Русская Православная Церковь и вызов искусственного интеллекта: роль и возможность СМИ

22 января 2024

Суетинова Марина Юрьевна,

магистрант 2 курса
кафедры теологии
Дальневосточного
Федерального университета,
Россия, г. Южно-Сахалинск
 marina.dvfu.2022@gmail.com

Аннотация. В статье рассматриваются этические вопросы разработки и использования интеллектуальных компьютерных систем, которые до конца не решены и тревожат православное сообщество: существуют ли перспективы создания машинного разума в обозримом будущем, какие цифровые технологии допустимы с точки зрения Евангелия, в чем действительно могут помочь умные роботы и можно ли доверять их выводам относительно человека? Также раскрывается роль СМИ в освещении и развитии темы ИИ в российском медиапространстве.

Ключевые слова: Русская Православная Церковь; искусственный интеллект; этика; СМИ.

THE RUSSIAN ORTHODOX CHURCH AND

THE CHALLENGE OF ARTIFICIAL INTELLIGENCE:

THE ROLE AND CAPABILITIES OF THE MEDIA


Suetinova Marina Yuryevna,
2nd year undergraduate student
of the Department of Theology,
Far Eastern Federal University,
Russia, Yuzhno-Sakhalinsk
marina.dvfu.2022@gmail.com

Abstract. The article examines the ethical issues of the development and use of intelligent computer systems, which have not been fully resolved and worry the Orthodox community. Are there any prospects for creating a machine mind in the foreseeable future, what digital technologies are acceptable from the point of view of the Gospel, what smart robots can really help with, and can their conclusions about humans be trusted? The role of the media in the coverage and development of the topic of AI in the Russian media space is also revealed.

Keywords: The Russian Orthodox Church; artificial intelligence; ethics; mass media.

Под искусственным интеллектом (ИИ) принято понимать алгоритмы и программные системы, способные моделировать интеллектуальную деятельность человека. [15]. ИИ – одно из самых спорных явлений, связанных с развитием цифровых технологий в современном мире. И это не случайно: существует много разного рода вопросов и проблем, связанных с разработкой и использованием интеллектуальных компьютерных систем, которые до конца не решены и тревожат православное сообщество, тем более что технический прогресс не сопровождался развитием человека в плане моральной ответственности, нравственных ценностей и сознательности. Так, ключевым с точки зрения Русской Православной Церкви (РПЦ) является этический аспект использования ИИ (соответствие этических правил взаимодействия человека с ИИ христианской этике). Актуален также вопрос доверия выводам умных роботов относительно человека [5] и рассмотрение возможности внедрения религиозного контекста в обучение ИИ-специалистов.  В связи с активным развитием цифровизации необходимо понимать роль и возможности СМИ в построении диалога РПЦ с лидерами в области разработки ИИ и его внедрения.

Долгое время разработка этических документов по правилам применения ИИ являлась ключевым трендом их регулирования. К концу 2022 года по всему миру принято не менее сотни различных актов, руководств, принципов и кодексов, посвященных этике ИИ. В большинстве из них приведено несколько ключевых принципов: безопасность, соблюдение конфиденциальности, недискриминация, контролируемость и т. д.  В России также на основе «Национальной стратегии развития ИИ на период до 2030 года» был разработан «Кодекс этики искусственного интеллекта». По словам заместителя  Председателя правительства РФ Д. Н. Чернышенко, «в ответ на риски кодекс утвердил основные принципы внедрения ИИ – прозрачность,
правдивость, ответственность, надежность, инклюзивность, беспристрастность, безопасность и конфиденциальность» [1].  Принятие российского Кодекса этики ИИ позволит требовать от иностранных IT-платформ и соцсетей соблюдение российского законодательства.

Активная роботизация и появление ИИ уже сегодня радикально меняют нашу жизнь. Но, как показывают исследования, одним из возможных эффектов автоматизации является снижение религиозности, т.е. чем глубже роботизация, тем менее верующим является общество. Опросы, проводившиеся американскими социологами с 2007 по 2020 год, показали, что люди, которые во время работы используют ИИ (например, программисты), менее религиозны, чем представители других профессий, не работающие с новой технологией. При этом прорывы и достижения в области ИИ признавались участниками опроса более оторванными от законов природы, т.е. прогресс в этой сфере рассматривался как нечто плохо объяснимое человеческим умом. Это привело ученых к мысли, что механизм, объясняющий взаимосвязь автоматизации и веры в Бога, работает следующим образом: изобретенные нашей цивилизацией современные технологии (ИИ и роботы) ставят человека на один уровень с когда-то недосягаемыми высшими силами [7]. Иначе говоря, «есть опасение, что люди могут смешивать понятие ИИ с представлением о высшей силе. ИИ, обладая всеобщностью и обширными знаниями, может обладать характеристиками, напоминающими традиционно связанные с божествами. Это вызывает вопросы о возможном поклонении и ошибочной преданности системам ИИ» [3].

Активное обсуждение темы ИИ уже в течение ряда лет идет не только за рубежом, но и в нашей стране, в т.ч. в РПЦ и православном сегменте СМИ. Так, епископ Феоктист (Игумнов) говорит о том, что
«любая запрограммированная этика порочна. Следовательно, любая
система искусственного интеллекта, которая принимает решение относительно человека, – плохая» [5]. По мнению Патриаршей комиссии по вопросам семьи, защиты материнства и детей РПЦ, ИИ становится слишком близким к живому существу и поэтому необходимо запретить использование искусственным разумом и нейросетями человеческих лиц и голосов. Глава Патриаршей комиссии иерей Федор Лукьянов, выступая на круглом столе «Вопросы правового регулирования и применения нейросетевых технологий» в НИУ ВШЭ, также высказал свои опасения насчет внедрения ИИ в жизнь человека. По его словам, надо исключить возможность придания ИИ «образа и подобия человека и его качеств как живого существа». [9]

Святейший Патриарх Московский и всея Руси Кирилл связал внедрение ИИ во все сферы жизни с дегуманизацией общества. По его мнению, невозможно представить, что искусственный интеллект выйдет из-под человеческого контроля, по крайней мере, «в ближайшей перспективе». При этом нельзя и избежать развития его возможностей [11].

Отец Святослав Шевченко, член церковной комиссии Межсоборного присутствия по науке и информации, ведущий Telegram-канала «Православный футуролог», отмечает, что «только одними запретами проблему не решить. Болезненный алармизм сегодня плохой помощник, он может спровоцировать социальную напряженность в обществе» [9].

Безусловно, однозначного мнения по данному вопросу нет, однако общую картину видения проблемы и отношения к ИИ в православных СМИ все же можно обрисовать.

Так, в одной из последних статей «Может ли антихристом быть искусственный интеллект?» Виталий Каплан, редактор раздела «Культура» журнала «Фома», отвечая на письмо  читателя о вреде и последствиях использования ИИ, озвучил позицию, характерную для многих изданий: «Сам по себе искусственный интеллект – это лишь инструмент, который может применяться и в благих целях. Например, в медицине, в контроле безопасности на производстве, в онлайн-переводчиках, в транспорте и так далее. Но его можно использовать и для создания ада на земле… Исторический опыт показывает, что если есть возможность использовать какую-то штуку во зло, она обязательно рано или поздно будет использована во зло. Но источник этого зла – дурная человеческая воля. Вот ей-то и надо противостоять словом и делом, пока такая возможность еще есть» [8].

Очевидно, что тема ИИ внутри церковного сообщества очень обсуждаема как на уровне официальных церковных структур, так и просто среди священников и прихожан; создан даже отдельный сайт «Религия. Этика. Искусственный интеллект».

Следует отметить, что сфера ИИ – одна из немногих, где позиции РПЦ и Ватикана практически идентичны. По мнению Папы Римского  Франциска,  развитие искусственного интеллекта и машинного обучения может внести благотворный вклад в будущее человечества при условии, если разработчики «будут действовать ответственно, основываясь на принципах этики, ставя в центр благо человека» [2].

По мере развития технологий искусственного интеллекта на Западе, как и в России, этические проблемы и вопросы религиозной составляющей  в данной сфере деятельности  также становятся все более важными. Так, у гендиректора Tesla Илона Маска, давнего сторонника контроля за разработкой компьютерного мышления, большие опасения вызывает искусственный интеллект, который разрабатывает принадлежащая Google компания DeepMind, о чем он заявил в интервью The New York Times: «Даже сама суть искусственного интеллекта, которую они создают, – из тех, что уничтожают всех людей во всех играх. Это буквально сюжет «Военных игр», – отметил Маск.

Гендиректор Alphabet Сундар Пичаи также говорит о потенциальном вреде внедрения искусственного интеллекта при отсутствии жесткого регулирования и подчеркивает, что для предотвращения вредных последствий внедрения искусственного интеллекта необходимо жесткое регулирование [4].

В 2020 году Святым престолом совместно с компаниями Microsoft и IBM был выработан «Римский призыв к этике искусственного интеллекта». В документе перечислены основные принципы, которыми должны руководствоваться создатели компьютерного «разума»: прозрачность, инклюзивность, ответственность, беспристрастность, надежность и безопасность. В Ватикане озвучили требования к ИИ: «уважать частную жизнь человека, быть прозрачным и непредвзятым, а также гарантировать соблюдение прав людей» [13].

Согласно прогнозам, в 2025 году в сфере нейронных сетей будут работать 97 млн человек, которых необходимо обучить. Пока одни боятся, что ИИ лишит их работы (а по оценкам экспертов, он может заменить до 15% сотрудников по всему миру), другие осваивают перспективную профессию промпт-инженера – специалиста, который занимается составлением текстовых запросов для нейросетей, чтобы генерировать текстовые или графические данные на основе вводных текстовых предложений [12]. Промтер, выстраивающий эффективное общение с алгоритмами для получения нужного результата, должен  владеть следующими навыками:

— разработка и оптимизация запросов к нейросети для генерации контента, удовлетворяющего потребности клиента;

— взаимодействие с командами разработчиков и дизайнеров для обеспечения плавного и эффективного рабочего процесса;

— мониторинг и анализ результатов работы нейросети для улучшения качества генерируемого контента;

— работа с обратной связью от пользователей для корректировки и усовершенствования промтов.

Спрос на этих и других специалистов, работа которых предполагает использование потенциала ИИ, в ближайшем будущем будет расти (ниже см. инфографику).

Спрос на ИИ-специальности 2022-2023 гг. [12]

Отметим также, что во многих странах мира возможности ИИ уже активно востребованы и в религиозной жизни. Известны факты использования робота как посредника в молитве и общении на религиозные темы, а также для объяснения молодежи сути религии и помощи адаптироваться в церковной жизни. Робототехника внедряется в религиозную жизнь буддистов. В Европе (Польша) реакцией на возникшую у прихожан, многие из которых не могли прийти в церковь в период пандемии, потребность поговорить со священником, разрабатывают робота, способного его заменить и помочь в молитве.

«ИИ – это лишь инструмент, который, как и всякий инструмент, этически нейтрален, — сказал NEWS.ru настоятель храма апп. Петра и Павла в Гонконге отец Дионисий Поздняев. – Все зависит от того, кем и ради чего он употребляется. Принципиально важно то, что ИИ не создает новых смыслов – он форматирует и упаковывает загружаемые в него идеи и понятия, как калейдоскоп. Но он остается инструментом в руках человека, его воли и сознания» [9].

Следует понимать: «этика ИИ принципиально отличается от этики других технологий, например дата-этики. В отношении остальных технологий обсуждаются общие вопросы изменений в профессиональной этике, этике применения, этике ответа на социальные вызовы (например, риск массовой безработицы) и т.д., тогда как в этике ИИ есть еще совершенно другое, очень важное изменение. Этику ИИ-технологий от этики других областей отличает проблема этичного поведения интеллектуальной системы (ИС) в ситуации, когда ее решение касается людей» [14]. По сути дела, этика ИИ подразумевает разные аспекты: этичность решения ИИ; этичность применения ИИ и связанные с этим социальные вызовы; этика разработчиков (профессиональная этика производителей ИС).

Как подчеркивает епископ Переславский и Угличский Феоктист (Игумнов), «системы искусственного интеллекта могут быть прекрасным подспорьем в решении очень многих задач, но их выводы относительно человека – лишь еще один из множества факторов, которые используются, когда есть необходимость принять решение, касающееся другого индивидуума; само же принятие решения должно оставаться за человеком. При этом каждый из тех, кто вовлечен в процесс принятия такого рода решений, должен руководствоваться словами Христа Спасителя и всеми силами стараться видеть ближнего таким, каким его создал и видит Бог, то есть богоподобным. Так смотреть на человека может только другой человек при содействии Духа Святого, никакой машине, даже самой совершенной, это не подвластно» [5].

На наш взгляд, включение в программу подготовки будущих специалистов в  сфере цифровых технологий, в т.ч. в области ИИ, не только «Прикладной этики», дающей представление об этических рисках и возможных последствиях применения данных технологий, но и такой дисциплины, как «Основы религиозной этики» позволило бы со временем минимизировать (в идеале – снять) противоречия между «машинной» и христианской этикой. Это возможно при условии формирования этического религиозного сознания специалиста уже на этапе обучения, и с этими знаниями этически подготовленный специалист уже выйдет на рынок труда [14].

Анализ контента православных СМИ показывает: не все они пишут исключительно о негативной стороне применения ИИ; во многих статьях упоминаются преимущества ИИ и его положительная роль в разных сферах жизнедеятельности при условии осознанного, ответственного использования человеком новых технологий.

Более того, ИИ  все интенсивнее проникает в работу и самих СМИ. Поиск информации, распознавание речи, звуков и изображений, выделение приоритетных аспектов тематик, создание текстов и их таргетированное распространение — вот неполный перечень внедрения элементов ИИ в редакционные практики. При этом перед профессиональным медийным сообществом также встают вопросы о новых вызовах этического регулирования, об их корреляции с ежедневными вопросами морального выбора редакций и журналистов (подробнее об этом см. [6]). «Опираясь на историю зарубежного и отечественного дискурса, касающегося философско-этических проблем технологий искусственного интеллекта, проанализировав выработанные в разных странах кодексы этического регулирования ИИ, изучив научные публикации исследователей, посвященные этическим проблемам, встающим перед редакциями и журналистами в процессе внедрения алгоритмических решений, авторы указанной статьи  выделяют основные положения, которые необходимо учесть в процессе выработки этических норм использования искусственного интеллекта в медиа и журналистике. К основным вопросам, требующим обязательной кодификации, авторы считают необходимым отнести: транспарентность со стороны редакций и право аудитории на информацию о применении искусственного интеллекта в редакционных практиках, запрет на передачу полномочий искусственному интеллекту в вопросах нравственного выбора при подготовке медиаконтента, совместную ответственность редакции и разработчиков программного обеспечения за последствия работы систем искусственного интеллекта, определение круга потенциальных тем, к которым этически неприемлемо применение искусственного интеллекта и др.» [6, с. 680].

Как известно, в процессе возрождения взаимоотношений Русской Православной Церкви и общества СМИ занимают особое место. При этом важную роль играют как собственные информационные ресурсы Русской Православной Церкви, так и светские СМИ, которым интересна жизнь церкви [6; 10].

Поскольку использование ИИ становится неотъемлемой частью повседневности, в чём-то делая нашу жизнь удобнее, а в чём-то порождая неизвестные ранее риски и опасения, которые в большинстве своём не выходят за рамки таких проблем, как индивидуализм, размывание морали и ответственности, новые виды преступлений и т.п., неуклонно возрастает роль православных СМИ. Их задача как посредника в диалоге организаций, общества и РПЦ – вести разъяснительную работу; не отвергая новые технологии как таковые, показывать их плюсы и минусы, призывая тем самым относиться к ним с осторожностью, чтобы не причинить вреда ни себе, ни другим людям.

 Перечислим основные возможности массмедиа в освещении темы ИИ:

— СМИ обобщают и структурируют мнение РПЦ по проблеме ИИ и делают его более доступным для понимания граждан;

— посредством освещения деятельности публичных конференций РПЦ, посвященных развитию ИИ, СМИ показывают заинтересованность и современный подход Церкви в обсуждении данного вопроса и других актуальных проблем;

— СМИ доносят до общества религиозную точку зрения в области применения ИИ и повышают уровень осведомленности населения в данном вопросе [6; 10].

Именно СМИ сегодня могут стать самым главным посредником в диалоге РПЦ с обществом и привлечь внимание населения к актуальной и очень неоднозначной проблеме искусственного интеллекта, показать разные взгляды на последствия его использования для человечества, обсудить этические риски цифровой трансформации и возможности их преодоления. В частности, в СМИ

— могут обсуждаться этические вопросы, связанные с использованием ИИ, в контексте религиозных убеждений;

 —  в рамках дискуссий могут быть представлены точки зрения различных религиозных деятелей и сообществ относительно искусственного интеллекта;

— могут обсуждаться случаи использования ИИ в церковной деятельности, в т.ч. для проведения религиозных обрядов и церемоний;

— возможно обращение к философским вопросам, таким как место человека в мире, созданном технологиями; влияние искусственного интеллекта на концепции свободы воли, нравственности и бессмертия и др.;

— могут рассматриваться примеры использования возможностей цифровых технологий, в т.ч. ИИ, в борьбе за власть и влияние на человеческие умы.

Таким образом, осмысление и обсуждение, в т.ч. и в массмедиа, социальных, культурных, философских проблем, технологических процессов и явлений с опорой на традиционные христианские ценности и накопленный культурно-исторический опыт, как того требует Стратегия национальной безопасности Российской Федерации, позволяет РПЦ своевременно и эффективно реагировать на новые вызовы цифровой эпохи.

Список литературы:

  1. В России подписан «Кодекс этики искусственного интеллекта» // Российская газета. URL: https://rg.ru/2021/10/26/v-rossii-podpisan-kodeks-etiki-iskusstvennogo-intellekta.html  (дата обращения: 01.12.2023).
  2. Владимиров В. Папа: технологии должны служить благу и достоинству человека // Новости Ватикана.  URL: https://www.vaticannews.va/ru/pope/news/2023-03/papa-tehnologii-dolzhny-sluzhit-blagu-i-dostoinstvu-cheloveka.html
  1. Влияние искусственного интеллекта на язык и религию // TS2 SPACE URL:  https://ts2.space/ru/%D0%B2%D0%BB%D0%B8%D1%8F%D0%BD%D0%B8%D0%B5-%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D0%BE%D0%B3%D0%BE-%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%D0%B0-%D0%BD-23/#gsc.tab=0  
  2. Глава Google предупредил о вреде внедрения ИИ при отсутствии жесткого регулирования // Forbes URL: https://www.forbes.ru/tekhnologii/487759-glava-google-predupredil-o-vrede-vnedrenia-ii-pri-otsutstvii-zestkogo-regulirovania  
  3. Епископ Переславский и Угличский Феоктист (Игумнов). Мораль для робота. Евангельский взгляд на этические проблемы технологических инноваций // Церковный Вестник URL: https://pravoslavie.ru/143476.html  
  4. Искусственный интеллект в российских медиа и журналистике: к дискуссии об этической кодификации / М.М. Лукина, А.В. Замков, М.А. Крашенинникова, Д.Ю. Кульчицкая. — DOI 10.17150/2308-6203.2022.11(4).680-694. — EDN WMNHIF // Вопросы теории и практики журналистики. — 2022. — Т. 11, № 4. — С. 680-694.
  5. Как и почему нейросети и роботы влияют на религию // РБК URL:  https://trends.rbc.ru/trends/industry/65154aee9a79474fc2302bce?from=copy  
  6. Может ли антихристом быть искусственный интеллект? // Журнал «Фома» URL: https://foma.ru/mozhet-li-antihristom-byt-iskusstvennyj-intellekt.html  
  7. Ни образа, ни подобия: в Русской Православной Церкви хотят расчеловечить искусственный интеллект // NEWS.ru URL:  https://news.ru/russia/ni-obraza-ni-podobiya-v-rpc-hotyat-raschelovechit-iskusstvennyj-intellekt/  
  8. Олейников, А. Л. Особенности диалога СМИ и Церкви // Humanity space International almanac VOL. 10, No 9, 2021: p.1216-1230 
  9. Патриарх Кирилл связал внедрение ИИ во все сферы жизни с дегуманизацией общества // ТАСС URL:  https://tass.ru/obschestvo/19065199
  10. Профессии будущего. Как нейросети открывают новые направления в edtech // Smart Ranking URL: https://edtechs.ru/analitika-i-intervyu/professii-budushego-kak-nejroseti-otkryvayut-novye-napravleniya-v-edtech/  
  11. Фаустова М. Искусственный интеллект возомнил себя богом. Чем грозит увлечение нейросетями // Новая газета URL:   https://www.ng.ru/ng_religii/2023-04-04/9_548_ai.html
  12. Этика искусственного интеллекта // Сумма технологии URL: https://ethics.cdto.center/3_1  
  13. Этика и «цифра»: этические проблемы цифровых технологий. Аналитический доклад. —  М.: РАНХиГС, 2020. 207 с.  С.43.