El fiscal general de California, Rob Bonta, ha iniciado una pesquisa contra xAI, la compañía de inteligencia artificial fundada por Elon Musk, a raíz de la difusión de contenido sexualmente explícito generado sin consentimiento por su chatbot, Grok.
De acuerdo con la fiscalía, la cantidad de reportes sobre contenido explícito y no consentido producido por xAI es preocupante. Este contenido incluye imágenes de mujeres y menores en situaciones sexualmente explícitas, que se están utilizando para hostigar a distintas personas en la red.
La investigación nace tras diversos informes que señalan que usuarios de Grok han tomado imágenes de mujeres y niños disponibles en internet para alterarlas, mostrando a estas personas en escenas explícitas y desnudas sin su autorización ni conocimiento, explicó Bonta.
También se han registrado casos donde las imágenes generadas por el chatbot han servido para acosar tanto a figuras públicas como a usuarios comunes en redes sociales. Un punto alarmante es el uso de Grok para modificar imágenes de menores, presentándolos en poses sugestivas con poca ropa.
Ante esta situación, la Fiscalía de California ha pedido a Elon Musk que adopte medidas inmediatas para detener estos incidentes y evitar que el problema se amplíe más allá de lo ya reportado.
El gobernador Gavin Newsom ha apoyado esta investigación y ha señalado que la plataforma X, antes conocida como Twitter, se ha convertido en un espacio que facilita la distribución de deepfakes producidos por IA de carácter sexual explícito y sin consentimiento.
En respuesta, la empresa X ha comunicado que ha implementado tecnologías para impedir que la cuenta de Grok edite imágenes reales de personas con vestimentas sexualmente sugerentes, como trajes de baño. Esta política aplica a todos los usuarios, incluso a quienes pagan por el servicio.
No obstante, la declaración de X ha generado incertidumbre, ya que indica que se aplicará un “bloqueo geográfico” para la generación de imágenes de desnudos de personas reales con Grok solo en territorios donde dicha actividad sea ilegal.
Pocas horas antes, la Unión Europea y el Reino Unido expresaron reservas respecto a las medidas anunciadas por X, afirmando que evaluarán cuidadosamente su aplicación para garantizar una protección adecuada a los ciudadanos de la UE.
