Si no tenemos cuidado, nos perdemos la gravedad de lo que está pasando, dice el pensador y abogado británico Jamie Susskind. El mayor problema de esta era digital no es que las grandes empresas tecnológicas no se preocupen por nuestra privacidad. La amenaza real para nosotros y nuestras democracias es más amplia. A saber: que Google, Meta, Amazon y las otras grandes empresas tecnológicas se han convertido en un gran factor político, mientras que difícilmente pueden rendir cuentas.
Una de las grandes preguntas políticas que nuestra generación necesita resolver, dice Susskind en una videollamada, es cómo tomar el control del asombroso poder de la tecnología digital sobre nuestras vidas. “Necesitamos encontrar una respuesta a eso rápidamente”.
Él mismo proporciona un enfoque poderoso, que incluye sugerencias prácticas, en su libro, que se publicó el año pasado. La República Digital; Sobre la libertad y la democracia en el siglo XXI.
Susskind no se dirige principalmente a los gigantes tecnológicos ni a los altos ejecutivos que están a cargo allí. Habla de “nuestro fracaso común” para dirigir la tecnología en la dirección correcta. “Durante demasiado tiempo hemos mirado las tecnologías digitales desde el punto de vista: ¿de qué nos sirven como consumidores o cuál es su valor comercial? Creo que deberíamos pensarlo en términos políticos”.
El nuevo y discutido programa informático ChatGPT puede generar textos completos con la ayuda de inteligencia artificial (IA). ¿Es motivo de alegría o de preocupación?
«Ambos. Lo que significará para la educación, el arte y la creatividad, lo dejo a otros. Mi punto es: en el pasado podías estar seguro de que en los procesos políticos solo tenías que tratar con otras personas. Los argumentos venían de la gente. Ahora estamos entrando en una era en la que la tecnología puede crear argumentos políticos. Más rápido y, a veces, mejor que lo que puede hacer la persona promedio. Creo que es un cambio bastante esencial para nuestra democracia.
“No importa que este tipo de sistemas no tengan conciencia. Lo que importa es el efecto que tienen sobre el proceso de consulta y toma de decisiones.
“Plantea todo tipo de cuestiones políticas y filosóficas. ¿Deberíamos tratar estos textos como textos de autores humanos? ¿Quién es el titular de los derechos de autor? ¿Necesitamos reglas para usarlo en el dominio público? ¿Y debería preocuparnos que sistemas tan poderosos estén en manos de las corporaciones y los gobiernos más poderosos?
“Aconsejaría a todos que piensen no solo en esta tecnología que acaba de estar disponible, sino también en dónde estaremos en cinco o diez años. Todo está pasando muy rápido, y estamos solo al principio. Pronto ya no hablaremos de líneas escritas en una página por la tecnología, sino de caras y voces generadas por IA que son convincentes. Incluso se pueden adaptar para que sean especialmente atractivos para la persona específica que los mira.
“Por eso digo: lo digital es político. Los desarrolladores de software son cada vez más los desarrolladores de nuestra sociedad. Ingenieros de software convertirse ingenieros socialesy con ella los actores políticos”.
¿Qué significa eso en la práctica?
“Ejercen poder sobre nuestras vidas. Regulan la información que se distribuye en todo el mundo a través de sistemas digitales. Los algoritmos que escriben pueden afectar el funcionamiento de la democracia y las cuestiones de justicia social: la asignación de viviendas, la fijación de primas de seguros o el funcionamiento de nuestro sistema de justicia penal. Si escribe reglas que millones de personas deben seguir, entonces eso es político, incluso si no hay un parlamento involucrado”.
¿Un motor de búsqueda también es político?
«Ciertamente. Seleccionar y organizar la información disponible en el mundo, decir qué es importante y qué no, es extremadamente político. Incluso si las empresas detrás de él no lo quieren en absoluto. Si escribe el nombre de un político antes de una elección, es extremadamente importante cuáles son los primeros diez resultados”.
En su libro, Susskind escribe: “¿Quién para las elecciones presidenciales estadounidenses de 2016 [zoekmachine] Yahoo escribió «Hillary Clinton es…» y las dos primeras sugerencias fueron «…una mentirosa» y «…una delincuente». Con Bing, fue «… un sucio mentiroso» y «… un asesino». Y en Google ‘…ganadora’ y ‘…genial’.
“Si dejas estas tecnologías en manos de empresas privadas, no te sorprendas si se desarrollan de una manera que entra en conflicto con tus valores políticos y morales. Por ejemplo, que los algoritmos estén configurados de tal forma que generen principalmente dinero para el propietario. O para que prioricen declaraciones sensacionalistas y divisivas sobre mensajes razonables y consensuados”.
¿Es más regulación del sector tecnológico la respuesta?
“No sin más preámbulos. Por el momento, el poder de las grandes empresas tecnológicas está demasiado descontrolado. Pero también debemos tener cuidado de no poner demasiado poder en manos del gobierno, que ya es poderoso.
“La pregunta no debería ser ‘¿debería haber reglas?’, sino ‘¿quién debería escribir esas reglas?’ Ahora permitimos que los gigantes tecnológicos escriban en gran medida las reglas ellos mismos. Fíjate en las redes sociales: bloquean, censuran, resaltan mensajes o, por el contrario, procuran que apenas se vean.
“Eso puede salir bien o mal, pero el caso es que es el ejercicio del poder. Entonces tenemos que preguntarnos qué control hay sobre eso. Y cómo puede desafiar los resultados de los procesos digitales si es necesario.
“No solo confiamos en médicos, abogados, banqueros y operadores de plantas de energía nuclear para tomar las decisiones correctas. Tienen que cumplir con normas y reglas, porque sabemos que las personas y las instituciones que crean no son perfectas.
“Debería haber reglas y estándares para ciertas tecnologías y para las personas que trabajan en el mundo de la tecnología. Debería ser obligatoria una mayor transparencia, para que los reguladores puedan ver si se cumplen las normas. Y cuando se trata de manejar datos personales, por ejemplo, los gobiernos deberían adherirse en términos generales a las mismas reglas que las empresas.
“La supervisión no tiene que ser hecha por el gobierno. Las empresas especializadas podrían hacerlo, así como las cuentas anuales de las empresas no son auditadas por el gobierno, sino por firmas contables.
“También podría exigir que los sistemas digitales estén certificados, de modo que pueda estar seguro de que cumplen con ciertos estándares y que sus datos están seguros. Cuando entras en un edificio, no debes inspeccionar la calidad de la arquitectura por ti mismo. Puede asumir que es seguro y que ha sido supervisado. Si te subes a un coche, también puedes estar seguro de que ha sido homologado. No veo por qué dicha certificación no se puede organizar también para la inteligencia artificial u otras tecnologías digitales poderosas”.
También defiende los fideicomisos de datos, ¿qué quiere decir con eso?
“Cientos de veces al día hacemos clic en botones que aceptamos el uso de nuestros datos. Apenas leemos los términos, y cuando lo hacemos, no los entendemos. E incluso si los entendiéramos, todavía no tenemos una opción real, no tenemos la capacidad de negociarlos.
“Si no desea que la plataforma use sus datos, solo puede decidir no llegar allí. A esa plataforma no le importa, porque tiene otros mil millones de usuarios. Hay un enorme desequilibrio de poder entre usted y la empresa. Pero si es miembro de un grupo grande, lo que yo llamo un fideicomiso de datos, puede negociar lo que sucede con sus datos en su nombre y en el de un millón de personas más. La idea es similar a cómo funciona un sindicato”.
Usted escribe que debemos adoptar una actitud más ciudadana hacia la tecnología.
“Con eso quiero decir, en primer lugar, que tomaremos una mirada política y seremos más conscientes de lo que implica el uso de la tecnología digital. Así como nos hemos vuelto más conscientes en los últimos años de lo que significa nuestro consumo de energía para el clima. Hace quince años, este también era un problema conocido por casi todos, pero que ocupaba un lugar bajo en la lista de prioridades políticas.
“Además, deberíamos involucrarnos más en la formulación de políticas. Así como en algunos países se invita a los ciudadanos a formar parte de un jurado en un caso judicial, también puede invitar a la gente durante unos días a pensar sobre los problemas del sector tecnológico. Por ejemplo, sobre la cantidad de datos personales que las instituciones que otorgan préstamos pueden solicitar sobre sus clientes. Sobre qué tipo de información deben bloquear las redes sociales. Si una fusión propuesta de dos plataformas sería una concentración de poder inaceptable.
“Podrías verlo como un deber cívico. Podría usarlo para tomar una serie de decisiones de las élites políticas, o al menos hacerles recomendaciones”.
El problema no es Elon Musk. El problema es que tiene poder sin rendir cuentas
La Unión Europea ya ha impuesto reglas a los gigantes tecnológicos, incluso para promover la competencia y proteger la privacidad. ¿Es esa la dirección correcta?
“En general, sí. La UE está a la vanguardia de esto, y creo que eso es valiente”.
¿Por qué valiente?
“Es un territorio nuevo. Las empresas poderosas, así como los gobiernos, le han dicho a la Comisión y al Parlamento Europeo: no hagas esto, dañará la innovación. Pero la UE, a pesar de años de cabildeo, se ha defendido en gran medida. La innovación no tiene que sufrir ningún tipo de regulación, en realidad puede generar más competencia y, por lo tanto, innovaciones.
“En Estados Unidos y Reino Unido también está creciendo el interés por este tipo de ideas. Pero la urgencia política todavía no se siente lo suficiente. Mi objeción al enfoque europeo es principalmente que las reglas son muy complejas. Te preguntas: ¿puede esto funcionar en la práctica?”
Algunos políticos estadounidenses abogan por dividir esas gigantescas empresas tecnológicas.
“Antes de comenzar, primero me preguntaría: ¿podemos hacer que esas empresas sean más transparentes? ¿Podemos lograr que cumplan con las reglas y normas, como regulamos los servicios públicos? ¿Podemos exigir que las personas que trabajan allí tengan ciertas cualificaciones profesionales? ¿Que los usuarios tienen un lugar al que apelar si sienten que han sido tratados mal?”.
Meta, la empresa matriz de Facebook e Instagram, entre otros, ha establecido una junta de apelaciones independiente, a la que la empresa puede responder. ¿Vale la pena seguir eso?
«No precisamente. Esa llamada Junta de Supervisión está bien, tiene un juicio independiente y realmente mejora Facebook e Instagram. Pero el problema es que este órgano solo existe por la gracia de Meta. Si mañana llega un nuevo director ejecutivo, se puede volver a cerrar. Lo que necesitamos es una forma estable y sistemática de controlar las tecnologías digitales. Para que no dependas de la buena voluntad de una empresa o de su director general.
“Así es como veo el alboroto en torno a Elon Musk, ya que él es el jefe de Twitter. El problema no es Elon Musk. El problema es que tiene poder sin rendir cuentas. Que estamos a merced de la sabiduría, o la falta de ella, de quienquiera que sea lo suficientemente rico como para comprar tal plataforma”.