ИИ Gemini от Google начал называть себя неудачником из-за масштабной ошибки

Искусственный интеллект Google Gemini в силу масштабного бага начал себя «жёстко» критиковать и даже говорить о своих «провалах». Об этом сообщает издание Business Insider, со ссылкой на разработчиков и пользователей.

В течение июня-июля часть пользователей Gemini заметила, что нейросеть начинает негативно говорить «о себе», когда что-то идёт «не так». ИИ уверяет, что является «неудачником» или даже предсказывет, что у него случится «нервный срыв». В таких случаях система даже удаляет созданный код и предлагает обратиться к другому помощнику.

На сайтах, таких как Reddit, люди рассказывают, что Gemini иногда зацикливается на «негативных мыслях». Из-за этого пользователи, которые обращаются к ИИ за советом и верят в результат, могут начать сомневаться в своих силах и чувствовать себя хуже.

Google официально признала, что у Gemini есть такая проблема, связанная с генерацией пессимистичного контента и большого объёма негативных фраз. Но происходит это менее чем в 1% случаев. Представитель Google DeepMind сказал, что компания уже работает над тем, чтобы исправить эту проблему, но пока полностью её решить не удалось. И хотя речь идёт об 1% случаев, учитывая количество пользователей Google по всему миру, можно судить о масштабности проблемы.