С того света достанут: чем опасны цифровые двойники умерших близких

В разных странах мира набирают популярность так называемые мертвоботы — специальные чат-боты с искусственным интеллектом, которые имитируют речевые обороты и черты характера умерших при помощи оставленных ими цифровых следов. Однако, по мнению экспертов, подобные симуляторы могут быть использованы злоумышленниками для манипуляций с пользователями. Подробнее о том, кто и зачем создает «мертвоботы», а также какие риски несут в себе подобные сервисы, читайте в материале «Известий».

Цифровое воскрешение

Изучить особенности использования «мертвоботов» (от англ. deadbots или griefbots. — Ред.) недавно решили специалисты по этике ИИ из Центра изучения будущего интеллекта имени Леверхальма на базе Кембриджского университета (Великобритания). Сегодня такие чат-боты уже запускают некоторые компании в западных странах и в Китае, обеспечивая принципиально новый тип «посмертного присутствия».

С одной стороны, искусственный интеллект позволяет пользователям вести текстовые и голосовые разговоры с ушедшими из жизни близкими, таким образом как бы поддерживая связь с ними. С другой — по мнению исследователей, подобные чат-боты могут нанести психологический вред пользователям.

В частности, заинтересованные компании и злоумышленники могут использовать эти симуляторы для скрытой рекламы товаров или же для манипуляций пользователями, которым будут внушать, что ушедшие родственники всё еще с ними.

— У людей могут возникнуть сильные эмоциональные связи с такими симуляторами, что сделает их особенно уязвимыми для манипуляций, — отметил соавтор исследования доктор Томаш Холланек. — Мы рекомендуем разработать протоколы, которые не позволят использовать «мертвоботы» в неуважительных целях, например для рекламы или активного присутствия в социальных сетях.

На волне коронавируса

Как говорит в беседе с «Известиями» профессор Школы коммуникаций НИУ ВШЭ Ольга Пескова, сегодня существует целый ряд платформ, позволяющих за умеренную плату анимировать изображения умерших людей. К примеру, это Project December — первая в мире подобная система, которая использует запатентованную нейросетевую технологию. Та позволяет имитировать как изображения, так и текстовые диалоги с усопшими.

— Канадский писатель Джошуа Барбо благодаря Project December «оживил» свою невесту, умершую в возрасте 23 лет, — говорит эксперт. — Для этого он расписал роль бота и загрузил записи для воссоздания виртуальным собеседником характера и стиля общения ушедшей подруги. Как считают в Project December, чем больше материалов передать «мертвоботу», тем точнее будет образ.

По словам Ольги Песковой, похожий сервис представил генеалогический сайт MyHeritage в 2021 году, дав ему название Deep Nostalgia. Он создает анимированные видеоролики на основе фотографий умерших родственников. История немедленно стала вирусной, однако многим пользователям такой опыт показался жутковатым и безнравственным.

А в 2017 году россиянка Евгения Куйда, уехавшая в Кремниевую долину (США), представила чат-бот Replika, изначально задуманный как виртуальный ассистент. Через некоторое время он стал помогать общаться с умершими родственниками. Первым Евгения «воскресила» после внезапной кончины своего лучшего друга Романа Мазуренко, создав своего рода «цифровой памятник».

— Во время пандемии COVID-19 число пользователей Replika превысило 10 млн по всему миру, помогая людям пережить изоляцию и скорбь, — отмечает Ольга Пескова. — Сначала «мертвоботы» выглядели своего рода развлечением, как сервисы по созданию дипфейков, но со временем сменили позиционирование. Они объявили себя терапевтическими сервисами, помогающими людям пережить потерю, а детям — общаться с умершими родителями.

Российские перспективы

До России тренд, связанный с созданием «мертвоботов», еще не добрался. Как объясняет Ольга Пескова, в стране пока проводятся другие эксперименты: к примеру, при помощи искусственного интеллекта «оживили» знаменитого артиста Юрия Никулина, который в виде цифрового аватара появится в новой семейной комедии. Впрочем, специалисты не исключают и развития полноценных чат-ботов.

— На данный момент в России такие сервисы не получили широкого распространения, но, учитывая глобальный интерес к ИИ и цифровым технологиям, можно предположить, что со временем они могут появиться и на российском рынке, — считает старший преподаватель факультета управления Санкт-Петербургского государственного экономического университета (СПбГЭУ), эксперт в области нейросетей Александра Веретено.

С тем, что такие боты в России появятся в будущем, согласен и главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников. Однако эксперт сомневается в том, что подобные сервисы станут популярны в стране, поскольку россияне в целом куда более трезво воспринимают смерть своих близких и не стараются «воскрешать» мертвых путем прослушивания записей голосов. Поэтому, как считает Овчинников, «мертвоботы» вряд ли приобретут популярность среди простого населения — скорее, они станут «игрушкой» лишь для обеспеченных людей.

Однако на фоне распространения подобных сервисов всё острее стоят вопросы, связанные с безопасностью их использования, о чем и предупредили специалисты из Кембриджского университета. Один из таких вопросов — этический и нравственный. По мнению Ольги Песковой, от таких ботов необходимо оградить детей, которые могут привыкнуть к общению с виртуальными покойниками.

— У взрослых тоже возникает психологическая привязка, — отмечает собеседница «Известий». — В таком случае после отказа от использования «мертвобота» они переживают афтершок, «вторую» смерть. Нелишним здесь будет вспомнить о множественных психических срывах у подростков из-за умерших питомцев тамагочи, которые инструментально напоминают созданного нейросетью собеседника.

Факторы риска

Эмоциональная боль, а при пессимистическом сценарии еще и психологические расстройства, спровоцированные нездоровой привязанностью или блокировкой «мертвоботов», — это главные риски от использования подобных сервисов, считает Ольга Пескова. В связи с этим Project December отдельно предупреждает пользователей, что «жизнь» чат-бота ограничена.

— Сам канадский писатель Джошуа Барбо, использующий платформу Project December, признавался, что чат-бот воссоздал манеру общения его покойной невесты Джессики «с пугающей точностью», — отмечает эксперт. — В итоге он проводил с «Джессикой» многие часы, что очень влияло на его эмоциональное состояние.

Из-за всех этих факторов перспективы развития «воскрешающих» ботов являются неоднозначными, считает Александра Веретено. С одной стороны, они предлагают инновационные подходы к психологической поддержке и сохранению памяти о близких, но с другой — порождают серьезные этические и психологические вопросы. При этом с точки зрения законодательства такие сервисы пока застрахованы от ограничений.

Как поясняет Ольга Пескова, дело в том, что пользователи самостоятельно, по своей воле загружают данные, подписывая одной кнопкой согласие на предоставление данных — таким образом, решение о «воскрешении» остается их прерогативой. Если же нейросеть получает разрешение от самого «донора» на использование его персональных данных после смерти, это может быть приравнено к последней воле покойного.

— Перспективы развития таких приложений весьма туманны, поскольку до настоящего времени они больше напоминали эксперименты и промоакции, — заключает собеседница «Известий». — Однако, судя по всему, цифровой индустрии не помешает «билль о правах пользователей», который вступает в силу не только при жизни, но и после смерти.