Secretaría de Mujeres condena uso de IA para violentar sexualmente; pide a X fortalecer filtros

La secretaría dirgida por Citlalli Hernández condenó el uso de herramientas con inteligencia artificial, como Grok, para manipular y difundir imágenes sin el consentimiento de las mujeres.Por ello, hizo un llamado a las personas responsables de la red social X para "evitar que su plataforma se convierta en un espacio que reproduce la violencia de género".A través de un comunicado, Citlalli Hernández Mora mencionó que recientemente usuarios de X han utilizado su plataforma para la generación de imágenes de carácter sexual mediante inteligencia artificial.Posteriormente, las imágenes fueron divulgadas sin consentimiento de las mujeres, lo cual, acusó la funcionaria, constituye una violación a la intimidad y una forma de violencia en razón de género"que no debe ser tolerada".“Esta conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres. Por ello, es inadmisible que herramientas tecnológicas como la IA Grok carezcan de filtros de seguridad suficientes, y permitan que se cometa violencia sexual digital.“Partimos de la convicción de que el entorno digital no debe ser una extensión de la violencia machista ni un refugio para el acoso sexual”, señaló.Mostró, además, su preocupación ante la respuesta de la plataforma X y su imposibilidad de establecer una reunión, ya que no cuentan con oficinas en México.“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, dijo.Por esta razón, exhortó a colaborar para trabajar en que sus filtros de seguridad sean suficientes e impidan que se cometa violencia sexual digital.Usuarios usan Grok para sexualizar imágenesRecientemente, mujeres denunciaron que la implementación de un botón para “editar imágenes” en Grok permite a usuarios alterar imágenes con indicaciones como “Ponla en bikini” o “Quítale la ropa”, así como la difusión de dichos contenidos sin su consentimiento.Ante esto, Grok en X respondió: “hemos identificado fallos en las medidas de seguridad y las estamos corrigiendo con urgencia”.EHR