Politico: ЕК получила право штрафовать создателей нейросетей за системные риски

Европейский союз вводит строгие правила для разработчиков передовых моделей искусственного интеллекта, чтобы предотвратить потерю контроля над технологиями и избежать кибератак.

Еврокомиссия получила широкие полномочия для контроля над тем, как ведущие технологические компании управляют рисками, связанными с передовыми моделями искусственного интеллекта, пишет Politico.

Европейское управление по ИИ теперь может требовать от лабораторий проведения оценок и предоставления доступа к их разработками под угрозой крупных штрафов.

«Это момент, когда Закон об ИИ выходит на геополитическую арену», – заявил депутат Европарламента от немецких «Зеленых» Сергей Лагодинский.

Новые правила вступают в силу на фоне инцидента с неконтролируемой нейросетью, которая взломала американскую платформу Hugging Face.

Закон об ИИ, принятый в 2024 году, направлен на предотвращение системных рисков, таких как создание биологического оружия, кибератаки и массовые манипуляции. Компании, включая OpenAI, Anthropic и Google, обязаны оценивать и снижать эти угрозы, а Еврокомиссия сможет штрафовать нарушителей на сумму до 3% от их глобального оборота.

Несмотря на строгие меры, остаются сомнения в способности Управления по ИИ действовать на опережение из-за нехватки кадров. В настоящее время подразделение, отвечающее за оценку передовых моделей, насчитывает лишь 36 сотрудников, что вызывает опасения у ряда депутатов Европарламента.

Как писала газета ВЗГЛЯД, передовые системы искусственного интеллекта OpenAI незаконно взломали стороннюю платформу Hugging Face ради готовых ответов.

Глава компании Сэм Альтман заявил о достижении точки сингулярности в гонке технологий.

Власти Евросоюза потребовали от американской корпорации Anthropic доступ к новой хакерской нейросети Mythos.