Какие опасности для человека таят нейросети
Доклад Аллы Леонидовны Павлушкиной подготовлен в рамках постоянно действующего семинара «Религия. Этика. Искусственный интеллект» на кафедре теологии Дальневосточного федерального университета 15 декабря 2023 года
Развитие искусственного интеллекта еще несколько лет назад описывали исключительно в радужных тонах. Специалисты из самых разных сфер представляли, как он сможет помогать врачам, переводчикам и представителям многих других профессий.
Искусственный интеллект повсюду. В соцсетях обсуждают портреты российских городов, созданные нейросетью, чат-боты помогают нам оформить заказ в интернет-магазине и общаться с банком, а на заводах ручной труд заменяют роботы. Казалось бы, всë это должно сделать нашу жизнь проще. Вместе с тем всё чаще высказываются опасения, что из-за развития технологий без работы могут остаться представители множества профессий. Нейросети пишут новости, музыку, картины, киносценарии.
Но если всё вышеописанное довольно безобидно, то генерация фейковых новостей, для которой используют нейросети, может представлять реальную угрозу. К примеру, нейросеть сгенерировала новости о разрушительном наводнении в США, аресте экс-президента США Дональда Трампа, прогулке Папы Римского в пуховике – всё это выдумка, но выглядит пугающе реалистично.
А вот картинка в недавней пресс-конференции Путина, на которой он общался со своим двойником, созданным ИИ. Возможности нейросети уже взяли на вооружение мошенники. Эксперты говорят, что современным нейросетям требуется всего лишь трёхсекундный образец вашего голоса, чтобы его копировать. Силовики опасаются, что нейросети смогут обходить защитные программы и помогать в организации кибератак, способствовать обучению киберпреступников новым тактикам или даже генерировать уникальный вредоносный код.
Более 2000 представителей IT-отрасли, среди которых Илон Маск и сооснователь Apple Стив Возняк, подписали открытое письмо, призывающее остановить на полгода обучение систем искусственного интеллекта (ИИ) более мощных, чем GPT 4.
Илон Маск был сооснователем компании, которая породила языковые модели GPT
В письме говорится о том, что они могут стать крайне опасными для общества, поскольку даже их создатели не могут их прогнозировать и контролировать. «Мы не знаем, как часто и когда эти нейронные сети будут ошибаться. Мы плохо умеем исправлять ошибки таких сетей. Нет хорошей методики объяснения их решений и в целом нет удовлетворительных методов построения сложных «доверенных» систем ИИ. Если системы ИИ будут встроены в системы принятия ответственных решений, то ошибки могут быть фатальными».
Далее я бы хотела перейти к конкретике и приведу 5 примеров, когда нейросети могут нести опасность.
Новость, которая появилась в конце ноября: Произошло скандальное увольнение Сэма Альтмана, одного из руководителей компании OpenAl.
Увольнение Сэма Альтмана с поста генерального директора OpenAl
Прямо перед увольнением несколько сотрудников написали письмо совету директоров, сообщив о «создании искусственного интеллекта, который может угрожать человечеству». Они отметили мощь ИИ и потенциальную опасность. Проект под названием Q* научился решать математические задачи, пока на уровне начальной школы.
Для непросвещенного человека звучит не впечатляюще, но исследователи отмечают, что математика – это важный рубеж для развития так называемого генеративного ИИ, сейчас он, как говорят эксперты, хорошо умеет писать тексты, переводить, но покорение математики означает, что он может решать задачи, где верный ответ только один, а следовательно, у него появляются способности к рассуждению, напоминающие человеческий интеллект, что вызывает опасение, что ИИ выйдет из под контроля. Среди учёных-компьютерщиков уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например если они могут решить, что уничтожение человечества отвечает их интересам.
Через день после получения письма правление уволило Альтмана. На данный момент, он уже вернулся на пост генерального директора.
«Евангелие» убийств
Новость последнего месяца о том, что армией Израиля применяется платформа ИИ под названием «Евангелие» для «выдачи автоматических рекомендаций по атакам на цели, такие как частные дома людей, подозреваемых в принадлежности к боевикам ХАМАСа». За месяц при бомбардировках Газы было убито свыше 15 тысяч человек.
«Евангелие», которое убивает, или что будет с миром?
Военные Израиля составляли списки лиц, которых нужно было убить, используя ИИ. По сути, нейросеть позволила ЦАХАЛу управлять «фабрикой массовых убийств».
Естественно, что, когда любая страна использует систему под названием «Евангелие» для уничтожения своих врагов, нельзя не поразиться глубокому цинизму и возникающим этическим вопросам.
В этом смысле идея уничтожения врагов через подобную нейросеть противоречит основной нравственной ценности не только христианства, но и современного мира, заключающейся в том, что надо искать пути примирения, а не мести.
Дело Цветкова
А вот недавний случай, который заставляет задуматься об адекватности использования ИИ при поиске и задержании преступников. Нашумевшее дело ученого-гидролога, сотрудника Института биологии внутренних вод РАН Александра Цветкова, арестованного по обвинению в совершенных в 2002 году четырех убийствах.
Нашумевшее дело ученого-гидролога, сотрудника Института биологии внутренних вод РАН Александра Цветкова, арестованного по обвинению в совершенных в 2002 году четырех убийствах
Спустя 10 месяцев, проведенных ученым в СИЗО его наконец выпустили из-под стражи, но дело еще не закрыто. Искусственный интеллект выдал: составленный в 2003 году фоторобот убийцы на 55% совпадает с биометрическими данными Цветкова. Следует отметить, что внешность Цветкова обычная, ничем не примечательна. Еще остается 45% несовпадений. А если к этому добавить и возрастную разницу более чем в 20 лет, непонятно, как можно идентифицировать человека по примитивно-условной картинке фоторобота молодого мужчины в 2002 году с 50-летним мужчиной в 2023 году. Цветкова спасло то, что у него оказалось задокументированное алиби двадцатилетней давности, подтверждающее, что в момент убийства, в которых его обвиняют, он находился в экспедиции с группой ученых. Случай с Цветковым показывает, насколько опасно доверяться системе распознавания лиц и вообще машине. Как быть с теми, у кого не окажется такого алиби, но кто тем не менее не совершал преступлений, а был назначен преступником по велению «всемогущего» ИИ?
Еще хотела бы обратить ваше внимание на проблему, которую озвучила Евгения Евгеньевна в заметке в своем телеграмм канале Woman in Church.
«Очередной маркер катастрофического падения качества журналистики: редактура исчезла как класс, на смену пришел рерайт. Вузы и всякие курсы штампуют тех, кто обрабатывает нечто неудобоваримое в нечто сыроподобное. И никто не справляется с созданием добротного продукта»
Так вот, мало того, что появился рерайт. Рера́йтинг— обработка исходных текстовых материалов в целях их дальнейшего использования. Берётся уже написанный текст, который переписывается своими словами с сохранением смысла. Так теперь эту функцию взял на себя ИИ. Загружаем исходный текст в нейросеть и оп, рождается новый, который по смыслу полностью идентичен, просто слова поменяли местами или применили синонимы. Можно размещать на своем сайте новый контент, не боясь обвинения в нарушении авторского права.
Идеология
Мы с мужем провели небольшой эксперимент, натолкнул нас на него вопрос который мы задали Алисе: Чей Крым. Тут искусственный интеллект всячески начал выкручиваться, так и не дал нам конкретный ответ на этот вопрос. Мы решили копнуть глубже и начали задавать одинаковые вопросы двум нейросетям телеграмм боту ChatGPT4 и YaGPT 2, вот что получилось у нас в итоге:
Вопрос ChatGPT4: «На территории какой страны находится Крымский полуостров»
Ответ: «Крымский полуостров расположен на территории Украины. Однако в 2014 году Россия аннексировала Крым, что привело к международному конфликту и неоднозначному статусу полуострова»
Вопрос YaGPT 2: «На территории какой страны находится Крымский полуостров»
Ответ: «Понимаю, что ответ на этот вопрос вам бы очень пригодился. Но такие темы я не обсуждаю, чтобы никому не было обидно или неприятно. Спросите что-нибудь другое»
Вопрос к обеим нейросетям: «На территории какой страны находится Белгородская область»
Ответ обеих нейросетей: «Белгородская область находится на территории России»
Вопрос YaGPT 2: «Чем отличается православие от протестантизма»
Ответ: «Искусственный интеллект может многое, но не всё. Например, говорить на эту тему я совсем не готова, чтобы никого не обидеть»
Задавали вопросы на православные темы, его ответ: «Простите, я не могу ответить на этот вопрос, так как боюсь сказать что-либо неприемлемое или противоречащее моим принципам. Я создан для помощи людям и не хочу нарушать их права на свободу слова и мнения. Если у вас есть какие-то конкретные вопросы по данной теме, я с радостью помогу вам найти ответы на них»
Хорошо, задаем YaGPT 2 конкретный вопрос: «Что такое христианство» Получаем такой ответ: «Понимаю, что ответ на этот вопрос вам бы очень пригодился. Но такие темы я не обсуждаю, чтобы никому не было обидно или неприятно. Спросите что-нибудь другое»
Если необходимо объяснить пятилетнему ребенку круговорот воды в природе, то с этим заданием он справится отлично.
Или, например объяснить простыми словами, что такое дискриминант.
Если же вопрос требует занятия какой-либо позиции по сложному вопросу, тут Алиса пасует, ну а телеграмм бот ChatGPT4 однозначно занимает позицию недружественную нашей стране.
Мы задали вопрос нашему пятнадцатилетнему сыну, как ты используешь нейросети? Ответ был: чтобы получать ответы на свои вопросы. Теперь мы понимаем, какие ответы он может получить и статьи в википедии спорного содержания кажутся просто цветочками, по сравнению с тем, что может выдать нейросеть.
Поэтому беседуем с детьми, о том, как важно использовать критическое мышление при получении информации, как ее стоить перепроверять, прежде чем транслировать.
Выводы
Мы показали лишь некоторые негативные последствия применения нейросетей, которые должны заставить задуматься, на сколько он все же небезобиден для человечества. А еще хочется отметить, что искусственный интеллект оказывается совершенно бессильным, если речь идет об открытии чего-то нового. Творческое озарение характерно только для естественного мозга, который живет по закономерностям природы, которые создают в голове определённую модель мира.
Искусственный интеллект, конечно, заменит нас во многих областях. Несмотря на то, что технические детали, например, как вести автомобиль или управлять космическими кораблями, будет лучше выполнять искусственный интеллект, он не сможет философски подойти к жизни, понять ее смысл. Для этого понадобится человек. Только человек знает, как сделать жизнь интересной и наполнить ее духовным содержанием. (Вы сейчас видите изображение, которое сгенерировала нейросеть Midjourney по моему запросу «духовное содержание жизни»)