\n<\/p>\n
‘Fin del viaje’. Ese mensaje prof\u00e9tico est\u00e1 en el bot\u00f3n en el techo de los cientos de taxis robot Cruise que circulan por las calles de San Francisco. Mont\u00f3<\/em>, t\u00fa tienes que decir. Despu\u00e9s de un grave accidente, Cruise perdi\u00f3 su licencia porque los taxis robot no son seguros seg\u00fan el regulador DMV. <\/p>\n El 2 de octubre, un transe\u00fante qued\u00f3 atrapado debajo de un auto Cruise en 5th Street. Acababa de ser atropellada por otro veh\u00edculo y por su conductor. El auto Cruise atropell\u00f3 a la v\u00edctima, se detuvo encima de ella y luego se dirigi\u00f3 hacia la acera para despejar la carretera. La v\u00edctima, que gritaba de dolor, fue arrastrada varios metros y sufri\u00f3 heridas mucho m\u00e1s graves. <\/p>\n El taxi robot pens\u00f3 incorrectamente<\/a> siendo golpeado desde un lado. Es por eso que Cruise anunci\u00f3 esta semana que retirar\u00e1 todos sus autos, casi mil, debido a este “error de software”. El fabricante de autom\u00f3viles GM, el principal inversor, ha detenido la producci\u00f3n de los veh\u00edculos. Un accidente podr\u00eda significar el fin de una empresa que perdi\u00f3 m\u00e1s de 700 millones de d\u00f3lares el \u00faltimo trimestre. Desarrollar taxis robot requiere mucho dinero y mucha paciencia, de las cuales Cruise carece.<\/p>\n A los taxis robot se les acababa de dar un amplio margen: desde agosto, tanto Cruise como Waymo, una filial de Google, pueden conducir sus flotas no tripuladas las 24 horas del d\u00eda y cobrar dinero por los viajes. Las empresas de tecnolog\u00eda tienen que expandirse mucho m\u00e1s si alguna vez quieren ganar dinero con sus autos llenos de sensores muy caros. Los controles tambi\u00e9n cuestan dinero: aunque no hay nadie detr\u00e1s del volante, los taxis robot son monitoreados de cerca a distancia por “operadores” humanos, \u00e1ngeles guardianes con un joystick. De acuerdo a Los New York Times<\/em> tiene crucero en coche un empleado y medio<\/a> empleado para intervenir. <\/p>\n Estos operadores est\u00e1n muy ocupados, observ\u00f3 Dariu Gavrila, profesor de veh\u00edculos inteligentes en la Universidad T\u00e9cnica de Delft. Realiz\u00f3 algunos paseos en robot por San Francisco en mayo, tanto con Cruise como con Waymo. Se sinti\u00f3 seguro en el camino y qued\u00f3 impresionado por la tecnolog\u00eda. Ya tenemos el robot aspirador, pero \u00e9ste no deja de ser un momento hist\u00f3rico: \u201cEstos son los primeros robots que encontramos a gran escala en nuestra vida diaria\u201d.<\/p>\n Waymo tiene las mejores credenciales en lo que respecta a informes de seguridad y comete relativamente pocos errores. Cruise no parece estar tan lejos todav\u00eda. Durante la prueba de manejo de Gavrila, los empleados de Cruise tuvieron que brindar asistencia para el embarque y desembarque. Adem\u00e1s, el coche respondi\u00f3 inesperadamente a las luces intermitentes de los servicios de emergencia. Al girar a la izquierda, el taxi robot decidi\u00f3 girar tres veces a la derecha, lo que es menos peligroso y as\u00ed se llega.<\/p>\n Los taxis robot no pueden permitirse errores graves. \u00c9sa es la lecci\u00f3n de Uber, el servicio de taxi que capacit\u00f3 a los veh\u00edculos aut\u00f3nomos en Arizona para reemplazar a los conductores. Uber ten\u00eda prisa, fue descuidado y abandon\u00f3 el proyecto despu\u00e9s de un accidente fatal en 2018. El enfoque vaquero de Uber\u2013 Mu\u00e9vete r\u00e1pido y rompe cosas<\/em> \u2013 condujo a un fracaso de mil millones de d\u00f3lares y ese destino ahora pende sobre la cabeza de Cruise. El renovado escepticismo sobre los taxis robot tambi\u00e9n se refleja en competidores como Waymo o Zoox, un minib\u00fas sin direcci\u00f3n de Amazon.<\/p>\n En la mayor\u00eda de las circunstancias, los robots causan menos accidentes y muertes en el tr\u00e1nsito que los humanos. Simplemente es dif\u00edcil estimar escenarios excepcionales. No importa cu\u00e1ntos datos de entrenamiento recopiles, cu\u00e1ntos kil\u00f3metros de prueba conduzcas: siempre hay casos imprevistos, casos extremos<\/em>en el que el software fallar\u00e1.<\/p>\n Seg\u00fan Gavrila, esto plantea una cuesti\u00f3n filos\u00f3fica. No es esa consideraci\u00f3n \u00e9tica cl\u00e1sica: si el autom\u00f3vil est\u00e1 programado para recoger a una anciana o un cochecito en caso de emergencia. No, la pregunta es cu\u00e1ndo aceptaremos el taxi robot en la calle. \u00bfY si, estad\u00edsticamente hablando, condujera con la misma seguridad que los humanos? \u00bfO el taxi robot deber\u00eda ser diez veces m\u00e1s seguro? Si se concentra demasiado en errores muy incidentales, pierde de vista los beneficios de todos los accidentes evitados.<\/p>\n Philip Koopman, un experto estadounidense en seguridad automovil\u00edstica y cr\u00edtico de los AV (veh\u00edculos aut\u00f3nomos), est\u00e1 de vacaciones durante una semana pero sigue contestando el tel\u00e9fono. Le gustar\u00eda calcular de memoria por qu\u00e9 cree que el enfoque de Cruise es demasiado agresivo en comparaci\u00f3n con el de Waymo. Seg\u00fan Cruise, se producir\u00eda el error del 2 de octubre promedio<\/a> “s\u00f3lo” ocurren una vez cada 10 a 100 millones de millas. “Pero supongamos que tienes una flota de diez mil taxis que recorren 200 millas cada d\u00eda, entonces estad\u00edsticamente eso es cada semana”. Inaceptable, afirma Koopman. \u201cEs bueno poder llevar pasajeros de A a B c\u00f3modamente. Pero la seguridad no se trata de los d\u00edas en que todo va bien. Se trata de ese mal d\u00eda y de la frecuencia con la que sucede\u201d. <\/p>\n El error garrafal de Cruise te hace pensar. \u00bfUn bot\u00f3n de pausa? En cualquier caso, se trata de una introducci\u00f3n bien pensada de los taxis robotizados, donde la seguridad siempre est\u00e1 probada y garantizada, afirma Dariu Gavrila. Seg\u00fan \u00e9l, el uso masivo de taxis robot a\u00fan tiene limitaciones siempre y cuando est\u00e9n programados con aprendizaje supervisado<\/em>: los datos de entrenamiento se basan en gran medida en que las personas etiqueten de antemano los “objetos” en el tr\u00e1fico. Todos los peatones, ciclistas, autom\u00f3viles, pasos de cebra y sem\u00e1foros imaginables.<\/p>\n Si se le diera total libertad a la inteligencia artificial para evaluar datos, funcionar\u00eda mejor que lo que programan los humanos. Pero creas uno caja negra <\/em>sobre ruedas que no se pueden entender y no se pueden corregir despu\u00e9s. Adem\u00e1s de la IA, es posible equipar los coches con un segundo sistema operativo, mucho m\u00e1s sencillo: un software b\u00e1sico que interviene en cuanto una colisi\u00f3n es inminente. Como protecci\u00f3n en caso de que la IA que todo lo sabe ya no lo sepa.<\/p>\n La adopci\u00f3n constante de veh\u00edculos aut\u00f3nomos contrasta marcadamente con la salvaje carrera de IA que ha estallado desde que se introdujo ChatGPT. Ahora todos y sus madres utilizan inteligencia artificial que inventa cosas por s\u00ed mismos. Nadie puede estimar cu\u00e1les ser\u00e1n las consecuencias sociales de esto. Los optimistas arrullan con deleite cada truco que aprende su modelo de IA, mientras que los cr\u00edticos cuentan la cuenta regresiva para el Armaged\u00f3n. Probablemente terminar\u00e1 en alg\u00fan punto intermedio.<\/p>\n El accidente automovil\u00edstico de Cruise es una met\u00e1fora gratificante de la forma en que la IA est\u00e1 entrando en la vida cotidiana. \u00bfC\u00f3mo evitamos que la tecnolog\u00eda nos arrastre involuntariamente en una direcci\u00f3n que no queremos? Podemos aprender de los taxis robot. Deben cumplir condiciones estrictas: hay normas de tr\u00e1nsito, permisos, supervisores con poder y empleados con moda divina<\/em>. Pero si haces un l\u00edo, el viaje termina. Boom es espera.<\/p>\nMu\u00e9vete r\u00e1pido y pierde miles de millones <\/h2>\n
Una caja negra con parachoques. <\/h2>\n