OpenAI заблокировала аккаунт стрелка из Канады, но не сообщила о нем в полицию до трагедии
OpenAI заблокировала аккаунт канадского стрелка за агрессию в ChatGPT за полгода до бойни. В полицию компания обратилась лишь после гибели восьми человек, что вызвало вопросы о безопасности ИИ.
Компания OpenAI, известная как создатель чат-бота ChatGPT, столкнулась с вопросами о протоколах безопасности после массового убийства в Канаде. Выяснилось, что разработчики заблокировали аккаунт стрелка еще за несколько месяцев до трагедии из за его агрессивного поведения в системе. Однако в полицию эта информация поступила только после того, как погибли люди.
Речь идет о 18-летнем Джесси Ван Рутселааре, который на прошлой неделе устроил одну из самых кровавых стрельб в истории страны. Молодой человек, бросивший школу, сначала убил свою мать и сводного брата в их доме. После этого он ворвался в среднюю школу Тамблер-Ридж, где открыл огонь по ученикам и учителям. Жертвами трагедии стали восемь человек, еще 25 получили ранения. Нападавший покончил с собой на месте преступления.
Как сообщили представители OpenAI, тревожный профиль пользователя попал в поле зрения системы мониторинга злоупотреблений еще в июне прошлого года. Сотрудники службы безопасности компании обратили внимание на агрессивный характер переписки и действий молодого человека. В офисе всерьез рассматривали вариант передачи данных о нем в Королевскую канадскую конную полицию.
Тем не менее, после внутренней проверки в OpenAI пришли к выводу, что поведение пользователя хоть и нарушает правила платформы, но не дотягивает до уровня, требующего немедленного вмешательства правоохранительных органов. В итоге аккаунт Ван Рутселаара просто заблокировали за нарушение условий использования, не уведомив власти.
Ситуация кардинально изменилась после февральской трагедии. Представитель OpenAI подтвердил, что компания немедленно связалась с канадской полицией, как только узнала о личности стрелка из новостей.
«Мы мысленно с каждым, кого затронула эта ужасная трагедия, заявил представитель разработчиков. Мы незамедлительно обратились в Королевскую канадскую конную полицию и передали им всю информацию об этом человеке и о том, как он использовал ChatGPT. Мы продолжим оказывать поддержку в расследовании».
Канадские власти подтвердили факт сотрудничества с IT-компанией после стрельбы. В настоящее время следователи тщательно изучают цифровой след преступника, включая его активность в социальных сетях и историю общения с искусственным интеллектом.
Нападение произошло 10 февраля в тихом поселке Тамблер-Ридж. Первоначально Ван Рутселаар расправился с 39-летней матерью и 11-летним сводным братом в частном доме, после чего направился в школу. Среди погибших в учебном заведении оказались одна учительница, три ученицы и два ученика.
Этот случай вновь поднял дискуссию об ответственности технологических гигантов. Эксперты спорят о том, должны ли компании, разрабатывающие искусственный интеллект, брать на себя функции стражей порядка и сообщать в полицию о любых подозрительных разговорах, даже если они не содержат прямых угроз. Пока что политика OpenAI остается прежней передача данных властям происходит только в самых крайних и очевидных случаях, что не спасло жизни восьми канадцам.