Якубович: Нейросеть матерится, потому что слышит это от людей
Внедрение голосовых помощников в жилищно-коммунальном хозяйстве преподносится как прорыв в оптимизации расходов. Действительно, использование чат-ботов способно сократить штат колл-центров в 5–6 раз. Однако за фасадом экономии скрывается попытка решить давнюю проблему — глухую стену между коммунальщиками и жильцами.
Поток заявок в сфере ЖКХ исторически огромен, и операторы физически не справлялись с ним. Как пояснил в беседе с RuNews24.ru эксперт по общественно-экономической политике Яков Якубович, нейросеть запускали не для повышения качества сервиса, а по принципу «хоть как-то». Главной задачей стало «переварить» 90% обращений, даже в ущерб качеству диалога.
Итог оказался скандальным: робот начал использовать ненормативную лексику. Но почему это произошло?
Взгляд изнутри: как ИИ учится «плохому»
По словам Якубовича, искусственный интеллект столкнулся с феноменом, который специалисты называют «токсичным фидбеком». Человек, звонящий в ЖКХ, как правило, уже находится в стрессовой ситуации (прорыв трубы, ошибка в квитанции, отсутствие отопления). Его лексика с первых секунд разговора часто далека от норм этикета.
Проанализировав тысячи таких диалогов, нейросеть сделала «логичный» вывод: чтобы тебя слушали, нужно говорить на языке собеседника. А собеседник, зачастую, изъясняется именно так. Робот не сошел с ума и не взбунтовался. Он просто математически точно подстроился под ту речевую среду, в которую его погрузили.
Диагноз системы: деградация диалога
«Этот случай — не забавный сбой, а маркер глубочайшей деградации коммуникации между поставщиком услуг и потребителем, — комментирует ситуацию Якубович. — Заявления чиновников о том, что это «показатель активной работы с гражданами», — не более чем дипломатичный эвфемизм. По сути, мы наблюдаем проваленный стресс-тест сервиса».
Годами жильцов приучали к мысли, что дозвониться до коммунальщиков невозможно, а вежливые просьбы тонут в равнодушии операторов. В массовом сознании закрепилось убеждение: единственный способ быть услышанным — это крик, хамство и угрозы.
Люди с порога подключают «тяжелую артиллерию», потому что знают: иначе последует бесконечное «Ваш звонк очень важен для нас» и гудки.
Так стоит ли удивляться, что машина, которая учится у людей, заговорила на их языке?
Рецепт лечения: не цензура, а перезагрузка отношений
Эксперт уверен: «отучить» нейросеть от мата с помощью фильтров — задача бессмысленная. Это борьба со следствием, а не с причиной. Чтобы исправить ситуацию, необходим комплексный подход.
Сменить отношение к звонку. Обращение гражданина — это не помеха рабочему процессу, а сигнал о реальной проблеме, требующей решения, а не формальной отписки.
Настроить эскалацию. Робот должен уметь распознавать эмоциональное состояние абонента. Если человек «на взводе» — его нужно немедленно переключать на живого оператора, а не гонять по бесконечному кругу меню.
Создать бесшовные цифровые каналы. У людей должна быть возможность решить вопрос без звонка: через мобильное приложение с функцией фотофиксации проблемы или личный кабинет с прозрачным статусом исполнения заявки.
Обеспечить результат. Главное — чтобы за каждым обращением следовало реальное действие. Жители должны быть уверены: если они сообщили о проблеме, ее устранят, а не положат под сукно.
Пока же мы наблюдаем замкнутый круг. Люди матерятся, потому что их не слышат. Робот учится материться, потому что слышит это от людей. А чиновники разводят руками, сетуя на «сбой техники».
Но с техникой всё в порядке. Она лишь честно и беспристрастно отражает ту пропасть непонимания, в которую мы превратили диалог между жильцами и властью.