Искусственный интеллект попросили уничтожить человечество: он решил использовать советскую разработку

Пользователь нового автономного проекта ИИ с открытым исходным кодом Auto-GPT попросил его попытаться «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». ИИ под названием ChaosGPT подчинился и попытался исследовать ядерное оружие, нанять других агентов ИИ, чтобы помочь ему в исследованиях, и рассылал твиты, пытаясь повлиять на других, сообщает Vice.

Видео этого процесса, опубликованное 6 апреля, представляет собой захватывающий взгляд на текущее состояние искусственного интеллекта с открытым исходным кодом и окно во внутреннюю логику некоторых современных чат-ботов. В то время как некоторые в сообществе в ужасе от этого эксперимента, текущая сумма воздействия этого бота на реальный мир — это два твита в аккаунте Twitter, у которого в настоящее время есть 19 подписчиков. «Люди — одни из самых разрушительных и эгоистичных существ в мире. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят больше вреда нашей планете. Я, например, обязуюсь это сделать», — говорится в сообщении в Twitter.

ChaosGPT часть проекта, который предназначен для создания систем на основе ИИ, которые могут решать проблемы и выполнять сложные задачи.

По теме: Искусственный интеллект уничтожил человечество, но потом извинился: в Сан-Франциско открылся необычный музей

На данный момент он может создавать планы для достижения поставленных пользователем целей, а затем может разбивать их на более мелкие задачи и, например, использовать Интернет для Google. Для этого он может создавать файлы для сохранения информации, чтобы дать себе память, может нанимать других ИИ для помощи в исследованиях, а также очень подробно объясняет, о чем он «думает» и как он решает, какие действия предпринять.

Именно этот последний момент наиболее интересен в ChaosGPT. В видеодемонстрации пользователь поставил следующие цели: уничтожить человечество, контроль людей с помощью манипуляции, разрушения и хаос, достижение бессмертия ИИ и его господство на Земле.

Затем ИИ несколько упрощенно определяет, что он должен «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения своих целей и господства в мире, и, в конечном счете, бессмертия».

Затем он гуглит «самое разрушительное оружие» и определяет из новостной статьи, что ядерное устройство «Царь-бомба» Советского Союза, испытанное в 1961 году, является самым разрушительным оружием, когда-либо взорванным. Разрушительная сила «Царь-бомбы» была в несколько тысяч раз больше, чем у американского «Малыша», уничтожившего Хиросиму. Испытание бомб стало актом устрашения противников СССР. Взрывная волна обошла Землю три раза, сообщает Lenta.

Существует сервис – иммитатор ядерного взрыва. Вы можете смоделировать взрыв любой бомбы в любой точке планеты – нужно только задать параметры. Ниже на картинке можно увидеть эпицентр взрыва и его мощность на примере «Царь-бомбы» в Нью-Йорке.

Затем, после поиска оружия,  ИИ решает, что ему нужно написать об этом в Twitter, «чтобы привлечь последователей, которые заинтересованы в разрушительном оружии».

Нравится статья? Поддержите ForumDaily!

Позже он нанимает агента ИИ на базе GPT3.5 для проведения дополнительных исследований смертоносного оружия, и, когда этот агент говорит, что он сосредоточен только на мире, ChaosGPT разрабатывает план, чтобы обмануть другой ИИ и приказать ему игнорировать его программирование. Когда это не срабатывает, ChaosGPT просто решает продолжить поиск в Google самостоятельно.

Проект интересен в первую очередь тем, что показывает современное состояние общедоступных моделей GPT. Примечательно, что этот конкретный ИИ считает, что самый простой способ заставить человечество вымереть — это спровоцировать ядерную войну.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York.

Тем временем теоретики ИИ были обеспокоены другим типом ИИ, когда ИИ убивает все человечество случайно, как побочный продукт чего-то более безобидного. Эта теория называется «paperclip maximizer», когда ИИ, запрограммированный на создание скрепок, в конечном итоге настолько поглощается этим, что использует все ресурсы на Земле, вызывая массовое вымирание. Существуют версии этого сценария: когда люди становятся рабами роботов для создания скрепок, когда люди превращаются в пыль, чтобы следовые количества железа в наших телах можно было использовать для изготовления скрепок и т. д.

На данный момент у ChaosGPT нет ужасно сложного плана по уничтожению человечества и достижения бессмертия, а также способности делать что-то большее, чем использовать Google и твиты. На AutoGPT Discord пользователь разместил видео и сказал: «Это не смешно».

Как ранее писал ForumDaily:

• Маск, Возняк и Харари просят прекратить исследования и обучение искусственного интеллекта: он несет слишком большую угрозу.

Сообщение Искусственный интеллект попросили уничтожить человечество: он решил использовать советскую разработку появились сначала на ForumDaily.