Luego de que se generara una polémica dada la capacidad de Grok, el chatbot de inteligencia artificial de X -la red social de Elon Musk-, de generar deepfakes sexualizados, se anunciaron medidas para impedir que la herramienta transforme fotos de personas reales en contenido de carácter sexual.
Durante los primeros días de enero comenzaron a surgir fuertes críticas de los usuarios contra Grok, acusando al chatbot de IA de generar deepfakes sexualizando a personas reales, sobre todo a mujeres y menores de edad, sumándole también el uso sarcástico para burlarse de importantes figuras públicas, generalmente de la política.
Grok hace agua: la acusan de «generar pornografía infantil», errores de información y hasta opiniones antisemitas
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
«Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis», indicó el equipo de seguridad de X a través de un comunicado y agregaron: «Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago».
En concreto, la medida implementada en la plataforma de Elon Musk le indicó a la herramienta de IA que «bloqueará geográficamente la capacidad» de todos los usuarios para generar imágenes de personas en «bikinis, ropa interior y atuendos similares» en las jurisdicciones que consideren ilegal dicho accionar.
El anuncio de la medida sobre Grok se generó luego de que la fiscalía de California, Estados Unidos, iniciara una investigación sobre xAI, la empresa de inteligencia artificial del magnate, por «facilitar la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X».
«Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico», sostuvo el fiscal general del estado, Rob Bonta, a través de un comunicado, en indicó que la investigación buscará determinar «si, y cómo, xAI violó la ley».
El accionar de la fiscalía de California se suma también al de las autoridades de la Unión Europea, quienes recientemente se sumaron a la condena pública de Grok y, en paralelo, el gobierno británico advirtió que podría iniciar una investigación formal de la misma.
La campaña «Ey, Grok, poneme bikini» también presionó tanto al empresario como a su plataforma, generando un movimiento internacional en repudio de Grok y la posibilidad de la herramienta de modificar imágenes, sobre todo aquellas publicadas en X, para generar contenido de carácter sexual.
La IA Grok de Elon Musk genera miles de imágenes de desnudos sin consentimiento por hora
A través de indicaciones como «ponela en bikini» o «sacale la ropa», la herramienta dentro de la red social le estaba permitiendo a los usuarios, generalmente hombres anónimos, crear «deepfakes» sexualizados de mujeres y menores de edad.
En principio, desde la red social decidieron cambiar la política de monetización y anunciar que la generación y edición de imágenes quedaban «limitadas a los suscriptores de pago», un hecho que provocó aún más indignación entre los usuarios.
Repudio internacional
Ante la polémica, países como Indonesia y Malasia bloquearon el acceso a Grok. En paralelo, desde la India anunciaron que X había eliminado miles de publicaciones y varias cuentas de usuarios a partir de sus reclamos por la generación de este tipo de imágenes.
Desde la oficina del primer ministro británico, Keir Starmer, se condenó la primera medida implementada por la plataforma, considerándola un agravio a las víctimas y «no una solución». A la par, el regulador de medios británico, Ofcom, indicó que abrirá una investigación para determinar si la plataforma incumplió la legislación del Reino Unido sobre las imágenes sexuales.
Por su parte, la Sarah El Hairy, la comisionada francesa para la infancia, anunció que remitió imágenes generadas por Grok a la fiscalía francesa, al regulador de medios Arcom y a la Unión Europea para que sean investigadas y solicitó la paralización total de la generación de dicho contenido.
AS.