Китай вводит обязательную маркировку любых синтезированных ИИ продуктов
В Китае за регулированием, надзором и цензурой интернета следит Государственная канцелярия интернет-информации. Теперь орган будет отслеживать так называемую технологию «глубокого синтеза». В http://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm на веб-сайте Управления Центральной комиссии по делам интернета Китая правительство изложило причины принятия постановления, указав на недавнюю волну популярности ИИ для синтеза текста, изображений, голоса. Власти отмечают, что «некоторые недобросовестные люди использовали ИИ для производства, копирования, публикации и распространения незаконной и вредной информации, для клеветы, вредящей репутации и чести других, а также для подделки чужих личностей».
В соответствии с правилами, новые продукты глубокого синтеза будут подвергаться оценке безопасности со стороны правительства. Каждый продукт должен быть признан соответствующим правилам, прежде чем его выпустят. Администрация особо требует наличия очевидных «меток», например, водяных знаков, которые обозначают контент, созданный ИИ. «Услуги, предоставляющие такие функции, как интеллектуальный диалог, синтезированный человеческий голос, генерация человеческого лица и иммерсивные реалистичные сцены, которые генерируют или существенно изменяют информационный контент, должны быть отмечены на видном месте, чтобы избежать путаницы или неправильной идентификации общественностью», — говорится в сообщении властей КНР.
Компании, которые предоставляют технологию глубокого синтеза, должны вести реестр таких продуктов в соответствии с законом, а люди, использующие эту технологию, должны регистрировать учетные записи под своими настоящими именами, чтобы можно было отследить их действия по использованию синтезированных данных и образов.
В Китае наблюдается бум приложений на базе ИИ. Например, одна из ведущих технологических компаний Китая, Baidu разработала модель синтеза изображений, похожую на DALL-E и Stable Diffusion. Технические эксперты в последнее время все больше говорят о том, что Китай и США столкнутся с волной генеративного ИИ, который может бросить вызов властным структурам и способствовать мошенничеству. До сих пор две страны реагировали почти полярно: США необязательными рекомендациями, а Китай жесткими ограничениями.
В 2019 году Китай опубликовал свои первые правила, запрещающие публикацию немаркированных «фейковых новостей» и дипфейков. Эти правила начали действовать в начале 2020 года. Теперь правила использования ИИ становятся еще жестче.