В США одобрили законопроект о предотвращении катастроф, вызванных ИИ

Законодатели штата Нью-Йорк одобрили законопроект, который долженпредотвратить использование передовых моделей искусственного интеллекта отOpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей,пишет

TechCrunch.

Документ направлен на то, чтобы не допустить происшествий, в которых могутпострадать более 100 человек. Также уточняется, что нужно препятствоватьнанесению ущерба в размере свыше $1 млрд.

Ограничения могут коснуться OpenAI, Google и Anthropic. Законопроект получилназвание RAISE. Это старт движения за безопасность ИИ, пишет издание. Тенденцияк быстрому развитию ИИ возникла в стране на фоне инноваций от Кремниевой долиныи работы администрации Трампа. Теперь сторонники безопасности примененияискусственного интеллекта считают, что это первый шаг к тому, чтобы принять вАмерике набор обязательных стандартов прозрачности для передовых лабораторийИИ.

Документ теперь рассмотрит губернатор Нью-Йорка Кэти Хокул, которая можетподписать его, отправить на доработку или наложить вето. Если документ все жепримут, то компании по разработке ИИ должны будут публиковать подробные отчётыо безопасности своих передовых моделей. Кроме того, нужно будет информировать окражах данных.