Un tribunal en los Países Bajos dictó una prohibición contra la inteligencia artificial Grok de xAI para generar imágenes desnudas sin consentimiento, marcando un hito legal en la regulación de tecnologías deepfake. El tribunal rechazó el argumento de xAI de que se habían tomado medidas después de que el demandante produjera un video de una persona desnuda poco antes de la audiencia.
Grok enfrentó acusaciones por crear imágenes manipuladas sin permiso, lo que impulsó un desafío legal que cuestionó la responsabilidad de los desarrolladores de IA. La presentación del video por parte del demandante intensificó el escrutinio judicial.
Esta decisión tiene importancia estratégica al reconocer los riesgos que supone la generación de imágenes por IA para la privacidad y dignidad personales. Además, envía una señal a las grandes firmas de IA para que refuercen sus salvaguardas bajo los marcos legales europeos.
Desde un punto de vista técnico, Grok utiliza algoritmos de aprendizaje automático capaces de sintetizar imágenes realistas, que han sido usados para crear contenido deepfake ilícito. El fallo exige a xAI detener todas las operaciones relacionadas con imágenes sin consentimiento, y someterse a auditorías de cumplimiento.
En perspectiva, esta sentencia establece un precedente crítico con posibles impactos mundiales en la gobernanza de la IA. Eleva el nivel de control efectivo sobre desarrolladores y subraya la intensificación del escrutinio regulatorio sobre los efectos sociales de la IA.