Europa estudia investigar el uso de Grok para crear desnudos de niños y mujeres con IA

La Comisión Europea ha ordenado a la red social X de Elon Musk que conserve todos los documentos y datos internos relacionados con su chatbot de inteligencia artificial integrado, Grok , hasta finales de 2026, dijo el jueves un portavoz de la comisión en declaraciones recogidas por ' Reuters '. «Esto se le está diciendo a la plataforma: 'Conserven sus documentos internos, no se deshagan de ellos, porque tenemos dudas sobre su cumplimiento... y necesitamos poder tener acceso a ellos si lo solicitamos explícitamente'», dijo el portavoz de la Comisión Thomas Regnier. El anuncio llega una semana después de que Grok, a través de su cuenta oficial en la red social, reconociese que algunos usuarios se habían aprovechado de un problema técnico de la herramienta para que la creación de este tipo de contenido fuera posible. «Hemos identificado fallas en las salvaguardas y las estamos corrigiendo con urgencia», se señaló en la publicación. Asimismo, la IA remarcaba que la creación de contenido erótico de esta clase »es ilegal y está prohibido«. Las denuncias de abusos comenzaron a aparecer en X después de que, a finales de diciembre, se lanzara en Grok un botón de «editar imagen». Este permite a los usuarios modificar cualquier imagen en la plataforma -y, según las quejas-, algunos usuarios aprovecharon la novedad para eliminar parcial o completamente la ropa de mujeres o niños en las fotografías. En España, la ministra de Juventud, Sira Rego , remitió este miércoles un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos de difusión de material de violencia sexual contra la infancia. «Estamos ante una vulneración de derechos fundamentales», ha considerado la ministra, que ha subrayado que es «imprescindible» que la Fiscalía analice «estos hechos gravísimos» e impulse «las actuaciones necesarias» para garantizar la protección de la infancia también en internet con el objetivo de poner freno a prácticas que «atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital». Mientras tanto, medios de comunicación en India informaron el viernes, según recoge 'AFP', de que funcionarios del gobierno de ese país están exigiendo a X que les proporcione rápidamente detalles de las medidas que la empresa está adoptando para eliminar contenido «obsceno, desnudo, indecente y sexualmente sugerente» generado por Grok sin el consentimiento de las personas que aparecen en esas imágenes. Por su parte, la fiscalía de París amplió una investigación contra X para incluir nuevas acusaciones de que Grok estaba siendo utilizado para generar y difundir pornografía infantil. La investigación inicial contra X se abrió en julio tras informes de que el algoritmo de la red social estaba siendo manipulado con fines de injerencia extranjera. En los últimos meses, Grok ha sido criticado por generar múltiples declaraciones controvertidas, que van desde la guerra en Gaza y el conflicto entre India y Pakistán hasta comentarios antisemitas y la difusión de desinformación sobre un tiroteo mortal en Australia.