Власти США срочно собрали банки из-за новой ИИ-модели Anthropic и рисков кибератак
Министр финансов США Скотт Бессент и глава Федеральной резервной системы Джером Пауэлл провели экстренную встречу с руководителями крупнейших банков на фоне опасений, связанных с новой моделью искусственного интеллекта компании Anthropic. Обсуждение прошло в Вашингтоне и было посвящено потенциальным киберрискам, которые могут возникнуть с развитием подобных систем.
По данным источников, встреча была организована, чтобы убедиться, что банки осведомлены о возможных угрозах и принимают меры для защиты своих систем. Поводом стала модель Claude Mythos, которую Anthropic характеризует как инструмент, способный значительно повысить эффективность поиска и эксплуатации уязвимостей в программном обеспечении.
Согласно заявлению компании, «современные ИИ-модели уже превосходят почти всё, кроме самых опытных специалистов» в выявлении уязвимостей. В Anthropic предупредили, что последствия могут затронуть экономику, общественную безопасность и национальную безопасность.
Дополнительную обеспокоенность вызвала утечка кода модели, произошедшая ранее. После этого компания ограничила доступ к Mythos, предоставив его ограниченному числу партнёров, включая крупные технологические компании и инфраструктурные организации.
На встрече присутствовали руководители системно значимых банков США, включая глав Goldman Sachs, Bank of America, Citigroup, Morgan Stanley и Wells Fargo. Такие банки считаются критически важными для финансовой системы, любые сбои в их работе могут иметь масштабные последствия.
Руководитель JPMorgan Chase Джейми Даймон, не присутствовавший на встрече, ранее отметил в ежегодном письме акционерам, что кибербезопасность остаётся одной из ключевых угроз, а развитие ИИ, вероятно, усилит этот риск.
По данным Anthropic, модель Mythos уже выявила тысячи уязвимостей в программном обеспечении, включая некоторые, существовавшие до 27 лет и ранее не обнаруженные разработчиками. Это усиливает опасения, что подобные инструменты могут быть использованы злоумышленниками для взлома систем и обхода механизмов защиты.
Ситуация развивается на фоне более широких дискуссий о рисках ИИ. Ранее власти США включили Anthropic в список потенциальных рисков для цепочек поставок, что компания оспаривает в суде.