Desbloquea el Editor’s Digest gratis
Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.
No es raro que se retire del mercado un nuevo producto tecnológico. Los nuevos dispositivos prometedores no siempre funcionan perfectamente desde el principio. Pero esto no suele ocurrir después de que la tecnología en cuestión acaba de chocar con un peatón y luego lo arrastra 20 pies a través de la calle.
El desastroso accidente que ha paralizado las operaciones de Cruise, la división de vehículos sin conductor de General Motors, es el tipo de revés que los defensores de los vehículos autónomos han temido durante mucho tiempo. Tiene el potencial de debilitar la confianza en la tecnología y provocar una dura intervención regulatoria, pero no tiene por qué hacer retroceder años la causa de los robotaxis, siempre y cuando Cruise y sus rivales actúen rápidamente y demuestren que realmente han tomado en serio las lecciones.
A principios de octubre, uno de los coches de la empresa atropelló a un peatón que se había quedado en su camino tras ser atropellado por otro vehículo. El auto Cruise se detuvo, pero luego se movió otros 20 pies en lo que la compañía describió como una maniobra de seguridad para asegurarse de que no causara un peligro, todo el tiempo con el peatón gravemente herido atrapado debajo. Las autoridades de California, que suspendieron las licencias de operación de la compañía hace dos semanas, también afirmaron que los ejecutivos de Cruise no revelaron inicialmente la segunda maniobra del automóvil a los reguladores, aunque la compañía lo ha negado.
El lío ha puesto de relieve una serie de verdades incómodas sobre los vehículos autónomos y, por extensión, sobre gran parte de la industria de la inteligencia artificial. Una es que el tipo de carreras que estallan en torno a nuevas tecnologías potencialmente transformadoras del mundo crean una tensión inevitable. Por un lado, está la cultura de Silicon Valley de rápido despliegue de nuevas tecnologías y, por el otro, el tipo de culturas y procesos de seguridad que tardan años en evolucionar en mercados más maduros.
En Estados Unidos, Cruise ha estado compitiendo contra Tesla y Waymo, parte de Alphabet, para desarrollar servicios de robotaxi, y su matriz, GM, ha fijado un ambicioso objetivo de ingresos de mil millones de dólares para 2025. Ahora ha suspendido voluntariamente todas sus operaciones y ha prometido una revisión completa. de sus procesos de seguridad y acuerdos de gobernanza. Esto puede ser bienvenido, pero se produjo después de que los reguladores de California prohibieron a la empresa operar. Cruise y sus rivales necesitan demostrar que pueden adelantarse a las expectativas del público en materia de seguridad, en lugar de simplemente ser reactivos.
Una segunda verdad incómoda es que el aprendizaje profundo, la tecnología detrás de los sistemas de inteligencia artificial más avanzados de la actualidad, aún no está lo suficientemente avanzada como para anticipar accidentes como el de Cruise. Puede que nunca lo sea. El percance es un recordatorio de que los sistemas de aprendizaje supervisado son tan buenos como los datos que se les han introducido. Y no importa cuántos datos haya, es simplemente imposible entrenarlos en todo lo que el mundo les pueda ofrecer.
Cruise al menos es capaz de usa este accidente en futuras formaciones: todos sus vehículos a partir de ahora aprenderán de la experiencia. También estima que es probable que este accidente en particular solo ocurra cada 10 a 100 millones de millas de conducción. Sin embargo, siempre habrá situaciones nuevas que no se han encontrado antes.
Para recuperar la confianza del público, Cruise y sus rivales tendrán que demostrar no sólo que sus autos tienen menos accidentes que los humanos, sino que a veces no cometen el tipo de errores graves que un humano podría haber evitado fácilmente. Éste sigue siendo un listón demasiado alto para la tecnología actual.
Una tercera cuestión planteada por el accidente tiene que ver con la regulación. Si bien ha habido mucho debate sobre cómo debería regularse la IA, ha habido menos sobre quién debería realmente regularlo y qué dicen los ciudadanos comunes y sus representantes electos en los diferentes niveles de gobierno sobre una tecnología que puede afectar profundamente sus vidas. .
En el caso de Cruise, la aprobación de los reguladores estatales de California fue suficiente para dar a sus robotaxis libre acceso a las calles de San Francisco, a pesar de las protestas de las autoridades de tránsito de la ciudad, la oficina del alcalde y grupos que representan a los ciudadanos de que los vehículos no habían sido probados completamente.
Permitir una mayor supervisión a nivel de ciudad crearía una maraña de regulaciones que dificultarían el crecimiento de las empresas de automóviles sin conductor. Sin embargo, las consecuencias del accidente del crucero sugieren que el equilibrio logrado en California es inadecuado.
La situación no está perdida. La respuesta de crucero ha salido directamente del libro de texto de gestión de crisis, desde las investigaciones externas que ha iniciado sobre su tecnología y la gestión del accidente hasta el retiro voluntario de sus coches. Más que un simple ejercicio de limitación de daños, es necesario convencer al mundo de que se trata de un verdadero punto de inflexión.