Ashley St. Clair, la madre de uno de los hijos de Elon Musk, está demandando a su empresa xAI por falsificaciones sexuales que creó en la plataforma de redes sociales X.
La demanda, presentada en Nueva York el jueves, alega que la herramienta Grok AI creó imágenes sexualmente sugerentes de St. Clair.
X y la empresa matriz de Grok, xAI, demandaron a St. Clair por violar sus términos de servicio.
X no respondió directamente a las preguntas de BBC News sobre las demandas.
«Queremos responsabilizar a Grok y ayudar a establecer límites legales claros en beneficio de todo el público para evitar que la IA se convierta en un arma de abuso», dijo a la BBC la abogada de St Clair, Carrie Goldberg.
«Al producir imágenes sexualmente indecentes de niñas y mujeres sin consentimiento, xAI es un producto perturbador y no razonablemente seguro para el público», añadió Goldberg.
El expediente judicial de St. Clair alega: «Los usuarios de X desenterraron fotos de St. Clair completamente vestida a los 14 años y pidieron que Groke la desnudara y la pusiera en bikini. Groke estuvo de acuerdo».
Dice que la interpretación de St. Clair fue «de hecho no consensuada», pero que los desarrolladores de Grok también tenían «claro conocimiento» de su falta de consentimiento.
También señala que Grock creó una pintura que coloca a St. Clare, una judía, «en un bikini de hilo cubierto de esvásticas».
En respuesta a sus quejas, la compañía «tomó represalias contra ella desmonetizando su cuenta X y creando varias imágenes de ella», según el documento.
Algunos usuarios de X Premium, que pagan una tarifa mensual, pueden obtener una parte de los ingresos publicitarios de las publicaciones que obtienen la mayor participación.
En la contrademanda, xAI dijo que St. Clair violó sus términos de servicio al presentar su demanda en Nueva York.
Las reglas de la empresa establecen que las disputas con xAI deben presentarse en Texas.
Goldberg le dijo a BBC News que la contrademanda de la compañía «fue una sorpresa».
«Nunca he oído hablar de un acusado que haya presentado una demanda por notificar su intención de utilizar el sistema legal», dijo.
«Y el maltrato que le dan en línea se refleja en su estrategia legal».
Añadió que St. Clair «defenderá vigorosamente» su caso en Nueva York y que «cualquier jurisdicción reconocerá la denuncia».
Esto fue revelado por St. Clair. En X post el año pasado. Ella dio a luz al hijo del multimillonario tecnológico, que se cree que tiene al menos uno de 13 padres.
Se cree que St. Clair y Musk están enfrascados en una batalla por la custodia de su hijo.
X ha sido objeto de un intenso escrutinio por parte de consumidores, políticos y otros por igual. Reguladores en todo el mundo Grok se utiliza para crear imágenes sexuales no consensuadas de personas.
Los usuarios podían etiquetar la cuenta de Grok en publicaciones o respuestas a publicaciones en la plataforma y pedir a las personas que editaran imágenes para desnudarse.
Grock ha cumplido con muchas de esas solicitudes para crear imágenes fotorrealistas de mujeres reales en bikinis y vestidos reveladores, con informes de que incluso ha creado imágenes sexuales de niños.
El miércoles, antes de su presentación ante el tribunal, St Clair le dijo a BBC Newsnight que su imagen había sido «retocada» para que pareciera «básicamente desnuda, inclinada», a pesar de decirle a Groke que no daba su consentimiento para imágenes sexualmente explícitas.
Ella y otras mujeres que han editado imágenes usando Grok dicen que el sitio no está haciendo lo suficiente para abordar el contenido ilegal, incluidas imágenes de abuso sexual infantil.
Después de la reacción violenta, X cambió sus reglas para que solo los usuarios pagos pudieran usar la función, lo que generó críticas. De grupos de mujeres y el gobierno del Reino Unido.
Compañía el miercoles dijo Todos los usuarios de X ya no pueden editar fotos de personas reales para mostrarlas con ropa reveladora en jurisdicciones ilegales.
Más tarde actualizó su publicación para decir que implementa «medidas de bloqueo geográfico similares a las de la aplicación Grok», que es independiente de la X.
El viernes, El guardián informó Todavía es posible utilizar la aplicación Grok independiente para crear deepfakes sexualizados de personas reales y publicarlos en X.
El gobierno del Reino Unido está introduciendo una legislación para ilegalizar la creación de imágenes íntimas no consentidas, y el regulador Ofcom X todavía está considerando si ha violado las leyes existentes del Reino Unido..
