El fiscal general de California, Rob Bonta, anunció el inicio de una investigación contra la empresa xAI, propiedad de Elon Musk, por la presunta generación y difusión de imágenes de carácter sexual no consentidas, incluidas aquellas que aparentan involucrar a menores de edad, mediante su herramienta de inteligencia artificial Grok.
De acuerdo con el fiscal, la plataforma habría facilitado la creación masiva de montajes íntimos falsos o deepfakes, utilizados principalmente para acosar a mujeres y niñas en internet a través de la red social X, también propiedad de Musk. Bonta afirmó que su despacho analizará si xAI violó la ley y exhortó a la empresa a tomar medidas inmediatas para evitar este tipo de abusos, reiterando una política de “tolerancia cero” frente a la pornografía no consentida y el material pedopornográfico generado con IA.
La investigación se suma a otras abiertas en distintos países contra X, luego de que usuarios aprovecharan las funciones de modificación de imágenes de Grok para crear contenido sexual hiperrealista a partir de fotografías reales, muchas veces con simples instrucciones como “ponla en bikini”. Ante la presión, desde el 9 de enero la función de generación de imágenes fue desactivada para usuarios que no pagan la plataforma, mientras la empresa aseguró que reforzará la eliminación de contenido ilegal y la suspensión de cuentas involucradas.
Un informe reciente de la organización AI Forensics, con sede en París, analizó más de 20 mil imágenes generadas por Grok y concluyó que más de la mitad mostraban personas con vestimenta mínima —principalmente mujeres— y que un 2% aparentaban ser menores de 18 años.
Este caso se enmarca en un creciente escrutinio global sobre las herramientas de inteligencia artificial generativa. En Estados Unidos y Europa, autoridades y legisladores han reforzado leyes y regulaciones para combatir los deepfakes sexuales, especialmente aquellos que vulneran la privacidad, la dignidad y la protección de la infancia. Expertos y organizaciones civiles advierten que la rápida expansión de estas tecnologías supera la capacidad de las plataformas para prevenir y moderar los abusos, convirtiendo los deepfakes sexuales en una de las formas de acoso digital de mayor crecimiento.
