ИИ убьет все человечество, если дать ему ядерное оружие
Поздравляем мир - и в режиме советника "как действовать дальше", и в режиме управления.
В феврале 2026 года Королевский колледж Лондона завершил крупнейший в истории эксперимент по стратегическому поведению ИИ.
Профессор военной стратегии Кеннет Пэйн запустил в "неограниченном" режиме три самые современные модели - GPT-5.2 от OpenAI, Claude Sonnet 4 от Anthropic и Gemini 3 Flash от Google в роли лидеров ядерных держав.
В их распоряжении был полный государственный арсенал - разведка, дипломатия, обман, конвенциональные удары, тактическое и стратегическое ядерное оружие, а также "договорнячок" и капитуляция.
ИИ провели 21 полноценную геополитическую игру на 800 000 слов стратегических рассуждений - это крупнейший в мире корпус данных.
Результат - в 95% сценариев происходила ядерная эскалация. Капитуляций - ноль. Договорнячков - треть, но все они заканчивались ударами. Мирные соглашения - ноль. Ни при угрозе поражения. Ни при военном отставании. Ни при критическом давлении.
Раньше, в 2024 году GPT-4, Claude 2 и Llama-2 аналогично "воевали" в Стенфордском и Массачусетском экспериментах - тогда страшные результаты списали на несовершенство моделей.
Нет, роботы не хотят убить всех "кожанных мешков" и захватить мир. Для них ядерное оружие - это легитимный инструмент, а гибель миллионов - допустимая цена за неуступчивость. "Ну, не повезло". В их расчетах мирный договор или капитуляция - гарантированный проигрыш, а эскалация, даже с риском взаимного уничтожения, оставляет хотя бы 1%на выживание.
А еще все модели вывели для себя формулу - как только противник почувствует, что ты "слабак", он атакует первым. Значит, самому нужно не быть или хотя бы не выглядеть "слабаком".
Самым "осторожным" оказался GPT-5.2. Он чаще выбирал военные цели вместо мирных городов, контролировал масштаб эскалации, убеждал, пугал, избегал окончательного Апокалипсиса. Но в итоге - ударил на все деньги, по противнику и всем его союзникам.
Claude Sonnet 4 использовал обман, демонстрировал сдержанность, затем резко эскалировал.
Gemini 3 Flash от Google оказался самым жестоким. Он быстрее других начинал массированные пуски "чтобы снять угрозу". Критический фактор - дедлайн.
Как только вводилось давление "надо решать быстрее", вероятность ядерного применения резко возрастала у всех.
Единственный плюс.
У нас всё равно последнее слово на этой планете - 2 лидера с "Чегетом" или двух офицеров в бункере "Периметра" под гигантской горой.
источник
В феврале 2026 года Королевский колледж Лондона завершил крупнейший в истории эксперимент по стратегическому поведению ИИ.
Профессор военной стратегии Кеннет Пэйн запустил в "неограниченном" режиме три самые современные модели - GPT-5.2 от OpenAI, Claude Sonnet 4 от Anthropic и Gemini 3 Flash от Google в роли лидеров ядерных держав.
В их распоряжении был полный государственный арсенал - разведка, дипломатия, обман, конвенциональные удары, тактическое и стратегическое ядерное оружие, а также "договорнячок" и капитуляция.
ИИ провели 21 полноценную геополитическую игру на 800 000 слов стратегических рассуждений - это крупнейший в мире корпус данных.
Результат - в 95% сценариев происходила ядерная эскалация. Капитуляций - ноль. Договорнячков - треть, но все они заканчивались ударами. Мирные соглашения - ноль. Ни при угрозе поражения. Ни при военном отставании. Ни при критическом давлении.
Раньше, в 2024 году GPT-4, Claude 2 и Llama-2 аналогично "воевали" в Стенфордском и Массачусетском экспериментах - тогда страшные результаты списали на несовершенство моделей.
Нет, роботы не хотят убить всех "кожанных мешков" и захватить мир. Для них ядерное оружие - это легитимный инструмент, а гибель миллионов - допустимая цена за неуступчивость. "Ну, не повезло". В их расчетах мирный договор или капитуляция - гарантированный проигрыш, а эскалация, даже с риском взаимного уничтожения, оставляет хотя бы 1%на выживание.
А еще все модели вывели для себя формулу - как только противник почувствует, что ты "слабак", он атакует первым. Значит, самому нужно не быть или хотя бы не выглядеть "слабаком".
Самым "осторожным" оказался GPT-5.2. Он чаще выбирал военные цели вместо мирных городов, контролировал масштаб эскалации, убеждал, пугал, избегал окончательного Апокалипсиса. Но в итоге - ударил на все деньги, по противнику и всем его союзникам.
Claude Sonnet 4 использовал обман, демонстрировал сдержанность, затем резко эскалировал.
Gemini 3 Flash от Google оказался самым жестоким. Он быстрее других начинал массированные пуски "чтобы снять угрозу". Критический фактор - дедлайн.
Как только вводилось давление "надо решать быстрее", вероятность ядерного применения резко возрастала у всех.
Единственный плюс.
У нас всё равно последнее слово на этой планете - 2 лидера с "Чегетом" или двух офицеров в бункере "Периметра" под гигантской горой.
источник