‘Fin del viaje’. Ese mensaje profético está en el botón en el techo de los cientos de taxis robot Cruise que circulan por las calles de San Francisco. Montó, tú tienes que decir. Después de un grave accidente, Cruise perdió su licencia porque los taxis robot no son seguros según el regulador DMV.
El 2 de octubre, un transeúnte quedó atrapado debajo de un auto Cruise en 5th Street. Acababa de ser atropellada por otro vehículo y por su conductor. El auto Cruise atropelló a la víctima, se detuvo encima de ella y luego se dirigió hacia la acera para despejar la carretera. La víctima, que gritaba de dolor, fue arrastrada varios metros y sufrió heridas mucho más graves.
El taxi robot pensó incorrectamente siendo golpeado desde un lado. Es por eso que Cruise anunció esta semana que retirará todos sus autos, casi mil, debido a este «error de software». El fabricante de automóviles GM, el principal inversor, ha detenido la producción de los vehículos. Un accidente podría significar el fin de una empresa que perdió más de 700 millones de dólares el último trimestre. Desarrollar taxis robot requiere mucho dinero y mucha paciencia, de las cuales Cruise carece.
A los taxis robot se les acababa de dar un amplio margen: desde agosto, tanto Cruise como Waymo, una filial de Google, pueden conducir sus flotas no tripuladas las 24 horas del día y cobrar dinero por los viajes. Las empresas de tecnología tienen que expandirse mucho más si alguna vez quieren ganar dinero con sus autos llenos de sensores muy caros. Los controles también cuestan dinero: aunque no hay nadie detrás del volante, los taxis robot son monitoreados de cerca a distancia por «operadores» humanos, ángeles guardianes con un joystick. De acuerdo a Los New York Times tiene crucero en coche un empleado y medio empleado para intervenir.
Estos operadores están muy ocupados, observó Dariu Gavrila, profesor de vehículos inteligentes en la Universidad Técnica de Delft. Realizó algunos paseos en robot por San Francisco en mayo, tanto con Cruise como con Waymo. Se sintió seguro en el camino y quedó impresionado por la tecnología. Ya tenemos el robot aspirador, pero éste no deja de ser un momento histórico: “Estos son los primeros robots que encontramos a gran escala en nuestra vida diaria”.
Waymo tiene las mejores credenciales en lo que respecta a informes de seguridad y comete relativamente pocos errores. Cruise no parece estar tan lejos todavía. Durante la prueba de manejo de Gavrila, los empleados de Cruise tuvieron que brindar asistencia para el embarque y desembarque. Además, el coche respondió inesperadamente a las luces intermitentes de los servicios de emergencia. Al girar a la izquierda, el taxi robot decidió girar tres veces a la derecha, lo que es menos peligroso y así se llega.
Muévete rápido y pierde miles de millones
Los taxis robot no pueden permitirse errores graves. Ésa es la lección de Uber, el servicio de taxi que capacitó a los vehículos autónomos en Arizona para reemplazar a los conductores. Uber tenía prisa, fue descuidado y abandonó el proyecto después de un accidente fatal en 2018. El enfoque vaquero de Uber– Muévete rápido y rompe cosas – condujo a un fracaso de mil millones de dólares y ese destino ahora pende sobre la cabeza de Cruise. El renovado escepticismo sobre los taxis robot también se refleja en competidores como Waymo o Zoox, un minibús sin dirección de Amazon.
En la mayoría de las circunstancias, los robots causan menos accidentes y muertes en el tránsito que los humanos. Simplemente es difícil estimar escenarios excepcionales. No importa cuántos datos de entrenamiento recopiles, cuántos kilómetros de prueba conduzcas: siempre hay casos imprevistos, casos extremosen el que el software fallará.
Según Gavrila, esto plantea una cuestión filosófica. No es esa consideración ética clásica: si el automóvil está programado para recoger a una anciana o un cochecito en caso de emergencia. No, la pregunta es cuándo aceptaremos el taxi robot en la calle. ¿Y si, estadísticamente hablando, condujera con la misma seguridad que los humanos? ¿O el taxi robot debería ser diez veces más seguro? Si se concentra demasiado en errores muy incidentales, pierde de vista los beneficios de todos los accidentes evitados.
Philip Koopman, un experto estadounidense en seguridad automovilística y crítico de los AV (vehículos autónomos), está de vacaciones durante una semana pero sigue contestando el teléfono. Le gustaría calcular de memoria por qué cree que el enfoque de Cruise es demasiado agresivo en comparación con el de Waymo. Según Cruise, se produciría el error del 2 de octubre promedio «sólo» ocurren una vez cada 10 a 100 millones de millas. «Pero supongamos que tienes una flota de diez mil taxis que recorren 200 millas cada día, entonces estadísticamente eso es cada semana». Inaceptable, afirma Koopman. “Es bueno poder llevar pasajeros de A a B cómodamente. Pero la seguridad no se trata de los días en que todo va bien. Se trata de ese mal día y de la frecuencia con la que sucede”.
Una caja negra con parachoques.
El error garrafal de Cruise te hace pensar. ¿Un botón de pausa? En cualquier caso, se trata de una introducción bien pensada de los taxis robotizados, donde la seguridad siempre está probada y garantizada, afirma Dariu Gavrila. Según él, el uso masivo de taxis robot aún tiene limitaciones siempre y cuando estén programados con aprendizaje supervisado: los datos de entrenamiento se basan en gran medida en que las personas etiqueten de antemano los «objetos» en el tráfico. Todos los peatones, ciclistas, automóviles, pasos de cebra y semáforos imaginables.
Si se le diera total libertad a la inteligencia artificial para evaluar datos, funcionaría mejor que lo que programan los humanos. Pero creas uno caja negra sobre ruedas que no se pueden entender y no se pueden corregir después. Además de la IA, es posible equipar los coches con un segundo sistema operativo, mucho más sencillo: un software básico que interviene en cuanto una colisión es inminente. Como protección en caso de que la IA que todo lo sabe ya no lo sepa.
La adopción constante de vehículos autónomos contrasta marcadamente con la salvaje carrera de IA que ha estallado desde que se introdujo ChatGPT. Ahora todos y sus madres utilizan inteligencia artificial que inventa cosas por sí mismos. Nadie puede estimar cuáles serán las consecuencias sociales de esto. Los optimistas arrullan con deleite cada truco que aprende su modelo de IA, mientras que los críticos cuentan la cuenta regresiva para el Armagedón. Probablemente terminará en algún punto intermedio.
El accidente automovilístico de Cruise es una metáfora gratificante de la forma en que la IA está entrando en la vida cotidiana. ¿Cómo evitamos que la tecnología nos arrastre involuntariamente en una dirección que no queremos? Podemos aprender de los taxis robot. Deben cumplir condiciones estrictas: hay normas de tránsito, permisos, supervisores con poder y empleados con moda divina. Pero si haces un lío, el viaje termina. Boom es espera.