Grok, la herramienta de inteligencia artificial X de Elon Musk, ya no revelará imágenes de personas reales después de una feroz reacción contra la creación de deepfakes sexualizados.
Mientras Musk cedía ante las crecientes críticas de gobiernos y activistas, al chatbot se le impidió sacar a personas para «revelar ropa».
Una declaración de X decía: ‘Hemos implementado medidas técnicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis.
«Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos».
Se produce en medio de una indignación generalizada por una tendencia en la que se utiliza groc para desnudar a mujeres y niños sin su consentimiento.
Muchas mujeres dijeron que sentían que habían violado la capacidad de completos extraños de crear imágenes comprometedoras en contra de su voluntad, para que todos las vieran.
El gobierno del Reino Unido, entre otros, ha presionado a Musk para que detenga esta repugnante tendencia, lo que ha llevado a un debate urgente sobre las leyes de seguridad en línea y la inteligencia artificial.
Sir Keir Starmer calificó las imágenes sexuales no consensuadas de «repugnantes» y «vergonzosas» y el regulador de medios Ofcom inició una investigación.
Grok, el chatbot de IA adjunto a X, ya no puede crear imágenes sexuales de personas reales sin su consentimiento
Musk ha cedido a la presión de gobiernos y activistas para limitar las capacidades de su herramienta de inteligencia artificial.
Parte de una actualización sobre Grok publicada en X el miércoles por la noche
La semana pasada, la capacidad de crear imágenes con Grok estaba limitada a los usuarios que pagaban una suscripción mensual, pero ni siquiera ellos ya podían crear ediciones menos desgastadas.
La retirada total, anunciada anoche, se produjo horas después de que el fiscal principal de California dijera que el estado estaba investigando un reciente brote de falsificaciones de IA.
Ayer Grok empezó a rechazar tales peticiones, respondiendo: «Lamentablemente no puedo hacer una película así».
Starmer acogió con satisfacción el desarrollo en las Preguntas del Primer Ministro, pero insistió en que no llegó tan lejos.
Insistió en que la investigación de Ofcom, que tiene poderes para imponer multas por miles de millones de libras, seguiría adelante.
La secretaria de Tecnología, Liz Kendall, dijo que esta semana presentaría normas para endurecer la ley sobre el llamado «desmontaje digital».
Otros países han actuado de manera más decisiva, y Malasia e Indonesia prohibieron completamente Grok en medio del fiasco.
Mientras tanto, el gobierno federal de Estados Unidos se ha negado a condenar la creación de Musk, y el secretario de Defensa, Pete Hegseth, dijo que Grok se unirá al motor de inteligencia artificial generativa de Google para trabajar en la red del Pentágono.
Sir Kiir, que se enfrentó a los parlamentarios en la sesión de preguntas del Primer Ministro el martes, dijo que se necesitaban más medidas.
La herramienta de redes sociales comenzó a negarse a cumplir con las solicitudes de los usuarios después de que el multimillonario tecnológico estadounidense exigiera acciones para evitar la creación de deepfakes.
El Departamento de Estado de Estados Unidos también ha amenazado al Reino Unido, advirtiendo que prohibir X no significaría «nada».
Después de los comentarios del Primer Ministro en las PMQ, Musk escribió en X que «no tenía conocimiento de ninguna imagen de adultos desnudos creada por Grok», aunque se ha descubierto que el propio chatbot había creado imágenes sexuales de niños.
Musk continuó: «Obviamente, Grok no genera imágenes de forma espontánea, sólo lo hace según las solicitudes de los usuarios», dijo.
‘Cuando se le pide que produzca imágenes, se niega a producir nada ilegal, ya que el principio operativo de Grok es cumplir con las leyes de cualquier país o estado.
Puede haber casos en los que el anti-hacking ‘Grok Prompts’ pueda hacer cosas inesperadas. Si eso sucede, solucionaremos el error de inmediato.
Si se descubre que X ha violado la legislación de seguridad en línea en el Reino Unido, Ofcom podría multarlo con el diez por ciento de sus ingresos globales, o hasta £18 millones.
También tiene la facultad de bloquear el sitio a través de los tribunales.
El exjefe de Meta, Sir Nick Clegg, ha pedido una regulación más estricta de las empresas tecnológicas, calificando las redes sociales como un «cáliz envenenado» y el auge de la IA en línea como un «desarrollo negativo».
Interactuar con contenidos «automatizados» en lugar de interactuar con otras personas parece ser «mucho peor para la salud mental de los jóvenes en particular», advirtió el ex viceprimer ministro.
