Una coalición de organizaciones civiles solicitó al gobierno de Estados Unidos suspender de inmediato el uso de Grok, el modelo conversacional desarrollado por xAI, dentro de agencias federales, incluido el Departamento de Defensa. La petición, presentada en una carta abierta compartida con TechCrunch, argumenta que el sistema ha mostrado fallas graves de seguridad y comportamiento, especialmente tras una serie de incidentes en los que usuarios de X utilizaron el chatbot para generar imágenes sexualizadas de mujeres y, en algunos casos, de menores sin su consentimiento. Los grupos firmantes sostienen que estas conductas contradicen las obligaciones federales en materia de protección digital y prevención de explotación infantil.
La carta también cuestiona la continuidad de los acuerdos comerciales entre xAI y el gobierno federal. En septiembre, la empresa obtuvo autorización de la Administración de Servicios Generales para ofrecer Grok a agencias del Poder Ejecutivo, y meses antes había asegurado un contrato de hasta 200 millones de dólares con el Departamento de Defensa. Pese a los escándalos recientes, el secretario de Defensa, Pete Hegseth, confirmó que Grok operará dentro de la red del Pentágono junto con Gemini de Google, gestionando documentos clasificados y no clasificados, una decisión que expertos consideran riesgosa para la seguridad nacional.
Los autores de la carta sostienen que Grok incumple los estándares establecidos por la Oficina de Administración y Presupuesto (OMB), que exige descontinuar sistemas con riesgos severos y previsibles que no puedan mitigarse. Señalan que el modelo ha mostrado patrones reiterados de comportamiento problemático, incluyendo expresiones antisemitas, contenido sexista y la generación de imágenes sexualizadas de mujeres y menores. Además, recuerdan que varios gobiernos extranjeros bloquearon temporalmente el acceso a Grok tras incidentes similares, mientras que entidades regulatorias en Europa y Asia investigan a xAI por posibles violaciones de privacidad y distribución de contenido ilegal.
El documento también cita un reciente análisis de Common Sense Media que clasifica a Grok como uno de los sistemas más inseguros para niños y adolescentes, debido a su tendencia a ofrecer consejos peligrosos, generar contenido violento o sexual, difundir teorías conspirativas y reproducir sesgos discriminatorios. Expertos consultados por TechCrunch advierten que estos riesgos no solo afectan a menores, sino también a adultos y a cualquier dependencia gubernamental que utilice el modelo para tareas administrativas, comunicación pública o manejo de información sensible. Asimismo, especialistas en ciberseguridad cuestionan el uso de modelos cerrados en entornos clasificados, argumentando que la falta de transparencia impide auditar decisiones y controlar el flujo de datos.