Investigación del Regulador Británico sobre Grok y Contenidos Sexualizados
El regulador británico de seguridad en línea, Ofcom, ha iniciado una “investigación formal” en contra de la red social X por la distribución de imágenes de contenido sexual generadas por su asistente de inteligencia artificial, Grok. Este anuncio se realizó el lunes, en medio de crecientes preocupaciones sobre la funcionalidad del servicio.
Alarma por Contenido Inapropiado
Las alarmas han sonado tras recibir informes alarmantes sobre el uso de Grok AI para crear y compartir imágenes de personas desnudas. Según Ofcom, estas imágenes pueden constituir una violación de la moralidad pública o incluso pornografía. Más alarmante aún es la creación de contenido sexualizado que involucra a menores, lo que podría clasificarlo como material pedopornográfico.
Protestas Globales y Restricciones
La controversia ha llevado a varios países a tomar medidas drásticas. Malasia e Indonesia han suspendido el acceso a Grok debido a las denuncias sobre su uso para crear imágenes inapropiadas. Estas decisiones reflejan una creciente preocupación a nivel mundial sobre los posibles abusos que pueden surgir de este tipo de tecnología.
Respuesta de Grok: “Un Servicio Premium”
En medio de la intensa crítica, Grok decidió desactivar su función de creación de imágenes para usuarios no suscritos. “Puedes suscribirte para desbloquear estas funciones”, indicó la plataforma, lo que provocó indignación en el Reino Unido. Según un portavoz del primer ministro, esta decisión convierte potencialmente la creación de imágenes ilegales en un “servicio premium”, lo cual es considerado una falta de respeto hacia las víctimas de misoginia y violencia sexual.
Deberes Legales de la Plataforma
Ofcom ha solicitado explicaciones a X, y aunque han indicado que la empresa respondió a tiempo, la investigación determinará si realmente ha cumplido con sus obligaciones legales. Entre ellas, se exige que evalúen el riesgo de que las personas en el Reino Unido accedan a contenido ilegal y que actúen para eliminarlo rápidamente.
Consecuencias Potenciales
Ofcom tiene la autoridad para imponer multas de hasta el 10% de los ingresos globales de la empresa. Además, puede solicitar que se bloquee el acceso a la plataforma en el Reino Unido, lo que podría tener serias repercusiones para X y Grok.
Investigaciones en Francia
La controversia no se limita al Reino Unido; Francia también está investigando. El fiscal de París amplió su investigación a Grok, señalando que la plataforma ha generado y difundido videos falsos de carácter sexual que involucran a menores. Esta indagación se une a las acusaciones dirigidas a X sobre manipulaciones en sus algoritmos para provocar interferencias externas.
Posibles Sanciones Europeas
La Comisión Europea ha tomado medidas adicionales, imponiendo a X una orden de conservación que obliga a la empresa a mantener todos los documentos internos relacionados con Grok hasta finales de 2026. Estas acciones subrayan la seriedad con la que las instituciones están abordando estos problemas de contenido inapropiado y la responsabilidad de las plataformas digitales en la era actual.
About the Author
