Grok, la herramienta de IA de X, la exTwitter, está siendo utilizada para generar sin consentimiento imágenes de mujeres sin ropa.
Usuarios de la red social contestan públicamente debajo de posteos de fotos de mujeres y le piden a Grok que las ponga en bikini, a lo que la IA responde rápidamente con la imagen solicitada. La polémica escaló cuando comenzaron a aparecer imágenes deepfake de menores de edad.
Entre las mujeres afectadas se encuentra Ashley St. Clair, madre de uno de los 14 hijos de Elon Musk, el dueño de la plataforma X y de la startup de IA xAI. Sin embargo, en primera instancia Musk no se pronunció al respecto ni tampoco hubo ninguna declaración de xAI, sino que Musk fomentó con un posteo que se usara Grok para generar todo tipo de imágenes. Luego, el dueño de la compañía afirmó que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal directamente a la plataforma”.
Desarrollada para tener “humor” y ser “antiwoke”, Grok incluso contestó a las quejas que los pixeles no son personas reales y que por lo tanto no había que tomarse tan a pecho estas imágenes. Luego, la IA posteó un pedido de disculpas.
Esto sucede luego de que en Uruguay tuviésemos el caso tan sonado de un alumno liceal que usaba este tipo de herramientas para generar imágenes de sus compañeras de clase desvestidas.
¿Hay pasos que se puedan dar en el ámbito legal? ¿Cómo lo están trabajando otros países? ¿Hay que avanzar en una regulación en nuestro país?
Escuchá la entrevista al respecto con el Dr. Matías Rodríguez, abogado especializado en Derecho de Alta Tecnología.
En Spotify:
En Soundcloud:
