En junio pasado, cuando la Corte Suprema de los EE. UU. anuló Roe vs Wade, las mujeres comenzaron a eliminar las aplicaciones de seguimiento del período de sus teléfonos. Con el aborto a punto de volverse ilegal en ciertos estados, temían que los datos pudieran usarse para enjuiciar a quienes buscan la terminación. ¿Fue esto una reacción exagerada, o simplemente la comprensión de que hemos entrado en la era de la electrónica orwelliana?
Muchos de nosotros tenemos la sensación vaga y progresiva de que nuestros dispositivos podrían funcionar en nuestra contra. En 2016, un hombre fue acusado de incendiar su casa en Ohio después de que su marcapasos arrojara dudas sobre su reclamo de seguro por un incendio accidental. Dos años más tarde, se descubrió que el personal militar de EE. UU. estaba divulgando inadvertidamente ubicaciones secretas de bases militares a través de sus aplicaciones de fitness Strava.
Tales historias, sin embargo, no nos han disuadido de revelar nuestros datos. Permitimos alegremente que las aplicaciones accedan a nuestra ubicación, registros de llamadas y otra información porque estamos impacientes por acceder a cualquier nueva función fugaz que deseemos. Pero debemos ser conscientes, porque se avecina un nuevo desafío: cómo proteger los datos de nuestro cerebro.
Se está invirtiendo a raudales en la “neurotecnología”, que puede registrar y analizar los impulsos eléctricos del sistema nervioso. Las interfaces cerebro-computadora ofrecen enormes beneficios, como ayudar a la recuperación de pacientes con accidentes cerebrovasculares y reducir los episodios de epilepsia. Los jugadores utilizan auriculares EEG, que rastrean las ondas cerebrales, para controlar los personajes en pantalla. También pueden detectar cuando un conductor de camión está perdiendo el foco. Más de 5000 empresas de minería, construcción y otras industrias desde Australia hasta Sudáfrica están utilizando esta tecnología para asegurarse de que sus empleados estén alertas y despiertos.
Aquí es donde me pongo aprensivo. Al hacer que los conductores usen estos auriculares, las empresas pueden estar salvando vidas. Pero también se siente como una herramienta potencial de opresión, una que podría aplicarse fácilmente a cualquier otro empleado cuyo jefe quisiera saber cuándo su mente está divagando.
La neurocientífica Nita Farahany, profesora de derecho y filosofía en la Universidad de Duke, está de acuerdo. En un nuevo libro, La batalla por tu cerebro: defendiendo el derecho a pensar libremente en la era de la neurotecnología, ella predice un mundo en el que la IA y la neurociencia se combinan para invadir nuestra privacidad mental. Existe el temor de que el Partido Comunista Chino pueda usar IA para analizar expresiones faciales y señales cerebrales para juzgar la lealtad de los miembros del partido. La capacidad emergente de rastrear y decodificar lo que sucede en el cerebro humano requiere una conversación seria sobre cómo la usamos.
Farahany cree que la neurotecnología se convertirá en un “controlador universal” de todas nuestras interacciones con la tecnología. Una nueva empresa de Nueva York llamada CTRL-Labs, que ha sido comprada por Meta, ha desarrollado una pulsera neuronal que le permite al usuario operar una computadora primero con pequeños movimientos de los dedos y luego detectando la intención de moverse. Next Sense, creado por Alphabet, está fabricando auriculares que pueden detectar datos neuronales.
Esto todavía no es leer la mente. Los impulsos eléctricos del cerebro no son lo mismo que los pensamientos, y las interfaces cerebro-computadora no pueden actuar como detectores de mentiras. Farahany advierte, sin embargo, que “los algoritmos están mejorando para traducir la actividad cerebral en lo que estamos sintiendo, viendo, imaginando o pensando”.
Hay algunos ecos de esto en un nuevo artículo de Chatham House. Argumenta que si bien la IA ofrece enormes beneficios, sus riesgos incluyen “la erosión de las libertades individuales a través de la vigilancia ubicua; y la sustitución del pensamiento y el juicio independientes por el control automatizado”. El informe también dice que pocas de las muchas estrategias de IA y principios de gobernanza que se están desarrollando mencionan siquiera los derechos humanos. Sin embargo, el derecho a la libertad de pensamiento incluye el derecho a mantener nuestros pensamientos privados y no ser penalizados por ellos.
El debate sobre cómo regular la neurotecnología está en pañales. Pero varios científicos están presionando por los “neuro-derechos”. El neurobiólogo Rafael Yuste aboga por un derecho a la intimidad mental, “para que no se decodifique el contenido de nuestra actividad mental sin nuestro consentimiento”. Chile se convirtió recientemente en el primer país del mundo en insertar los neuroderechos en su constitución, y pronto legislará para regular las tecnologías que registran o alteran la actividad cerebral.
Dadas sus recientes memorias de autoritarismo, Santiago puede estar más atento a los riesgos que Washington o Londres. Las democracias más antiguas tienden a tener la misma conversación sobre cada nueva tecnología. Los expertos ensalzan los beneficios; los inversores se acumulan; y las consideraciones éticas se dejan en manos de pesados comités y gobiernos que no pueden seguir el ritmo.
Las consecuencias de ser tan pasivos durante tanto tiempo con respecto a las redes sociales han dejado a nuestras sociedades lidiando con comportamientos profundamente perturbadores, desde obsesiones con la imagen corporal hasta la radicalización, el suicidio y la pornografía extrema. No debemos cometer el mismo error con los datos cerebrales. Las tecnologías pueden ser neutrales, pero la humanidad ciertamente no lo es. Esto no es algo que diga a menudo, pero en el caso de la neurotecnología: traigan a los abogados.