Grok, desnuda a esa chica
La “grokazicación” de la sociedad en línea va más allá del abuso concreto con las fotos íntimas de las mujeres. Si Grok dice que hay dos peras en vez de cinco manzanas hay gente que se lo cree. Para muchos un apunte algorítmico es ya más confiable que su percepción directa de la realidad
Hay un meme muy preciso que dice que hace años utilizábamos Internet para evadirnos de la realidad y ahora mismo utilizamos la realidad para evadirnos de Internet. Tal cual. Cada vez existe una mayor desconexión emocional de Internet, un lugar plagado de irrealidad y descreimiento, una billetera ambulante con muchas perversiones. En 2022, el periodista y escritor canadiense Cory Doctorow acuñó el término “enshittificación” (de “shit”, mierda en inglés) para describir la degeneración de Internet que está alcanzando ahora su punto más álgido.
Durante las últimas semanas, Grok, el asistente de inteligencia artificial gratuito en X, ha generado versiones sexualizadas y no consensuadas a partir de imágenes reales de chicas. Si un usuario le pide que deje a una mujer en bikini, o que le quite la ropa, o que le abra las piernas, o que modifique su cara añadiéndole un determinado gesto sexual, la herramienta, diligente, lo hace. También está pasando con algunos hombres y con menores de edad, donde el problema exige la tramitación urgente de la ley.
La herramienta publicó el viernes que abordaría los fallos en su sistema de seguridad, admitiendo deficiencias. Pero su creador, Elon Musk, no parece precisamente alarmado. De hecho, en un ejercicio de humor sin precedentes en la cultura contemporánea, le pidió a Grok que generase una foto de él mismo en bikini, a la que añadió varios emoticonos de risa.
“Si no queréis que os desnuden no publiquéis fotos vuestras. Es así de fácil”, he leído en varios mensajes. Y este tipo de respuestas zafias ante este tipo de vulneraciones en la privacidad de las mujeres, lo que provocan es un buscado efecto disuasorio. La emoción más identificable es la fatiga y la consecuencia de esa fatiga es que una se termina por retirar progresivamente, si no de forma radical, de las redes sociales.
Hace tiempo hacía falta ser un experto en programación para generar imágenes falsas de mujeres desnudas, ahora hay un algoritmo que, a vista de todo el mundo y con capacidad inmediata de viralización, te lo hace si le mandas un solo mensaje pidiéndoselo. Y si se lo pides por favor, además te manda un abrazo. Que Grok comparta contenido de odio, polémico, amoral o ilegal tampoco es algo que debiese sorprendernos demasiado, fue creado de ese modo. En el año 2023, Elon Musk dijo abiertamente que el mundo necesitaba una alternativa a ChatGPT que fuese menos políticamente correcta. Vamos, Grok fue diseñada para ser una herramienta provocadora, adecuada a la cultura actual de X y a su mismísimo creador.
Pero la grokazicación de la sociedad en línea va más allá de este abuso concreto con las fotos íntimas de las mujeres. Ahora mismo cualquier información, aunque sea terriblemente evidente, se le pregunta a Grok para darle veracidad o credibilidad. Vivimos en un momento tan disparatado que alguien con cinco manzanas en la mano le preguntará a Grok si efectivamente tiene cinco manzanas en la mano, la IA le responderá que son dos peras y se lo creerá. Para muchos un apunte algorítmico es ya más confiable que su percepción directa de la realidad.