{"id":1016829,"date":"2023-10-26T19:14:12","date_gmt":"2023-10-26T19:14:12","guid":{"rendered":"https:\/\/teknomers.com\/es\/no-se-debe-obligar-a-los-buenos-robots-a-aprender-de-los-malos-habitos-humanos\/"},"modified":"2023-10-26T19:14:12","modified_gmt":"2023-10-26T19:14:12","slug":"no-se-debe-obligar-a-los-buenos-robots-a-aprender-de-los-malos-habitos-humanos","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/no-se-debe-obligar-a-los-buenos-robots-a-aprender-de-los-malos-habitos-humanos\/","title":{"rendered":"No se debe obligar a los buenos robots a aprender de los malos h\u00e1bitos humanos"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrate en <!-- -->Inteligencia artificial<!-- --> myFT Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=03a2e26c-d501-4686-8d15-c26b34f329ff&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Hace unos meses, me encontr\u00e9 conduciendo detr\u00e1s de un veh\u00edculo aut\u00f3nomo (es decir, sin conductor) en San Francisco.  Fue desconcertante, pero no porque el AV condujera mal o peligrosamente;  en cambio, conduc\u00eda demasiado bien.<\/p>\n<p>Espec\u00edficamente, el conductor del robot se detuvo obedientemente en cada se\u00f1al de &#8220;alto&#8221;, fren\u00f3 en el sem\u00e1foro en \u00e1mbar y se mantuvo por debajo del l\u00edmite de velocidad oficial.  Eso me oblig\u00f3 a hacer lo mismo, para mi irritaci\u00f3n, ya que hasta ahora (como la mayor\u00eda de los conductores humanos) a veces he eludido suavemente las normas de tr\u00e1fico.<\/p>\n<p>Es una an\u00e9cdota trivial.  Pero resalta una cuesti\u00f3n existencial que se cierne sobre la cumbre del gobierno del Reino Unido sobre inteligencia artificial la pr\u00f3xima semana: mientras corremos para construir sistemas que mejoren en el &#8220;juego de la imitaci\u00f3n&#8221;, \u00bfqu\u00e9 tipos de comportamiento humano deber\u00edan copiar los robots? <\/p>\n<p>\u00bfDeber\u00eda ser \u00e9sta nuestra visi\u00f3n idealizada del comportamiento: digamos, un mundo en el que todos observemos las normas de tr\u00e1nsito?  \u00bfO la tierra de los humanos \u201creales\u201d, donde los conductores pasan sigilosamente las se\u00f1ales de alto?  Y, sobre todo, \u00bfqui\u00e9n deber\u00eda decidir?<\/p>\n<p>La cuesti\u00f3n es importante en todos los campos donde se aplica la IA generativa, ya sean finanzas, medios, medicina o ciencia.  Pero la historia de los veh\u00edculos aut\u00f3nomos cristaliza la cuesti\u00f3n con especial claridad, ya que empresas como Waymo, General Motors y Tesla, que ya tienen flotas en lugares como Arizona y California, est\u00e1n adoptando enfoques sutilmente diferentes. <\/p>\n<p>Pensemos en Waymo, el grupo audiovisual propiedad de Alphabet.  Sus veh\u00edculos han estado deambulando por Phoenix, Arizona, durante casi dos a\u00f1os con un sistema de inteligencia artificial que (en t\u00e9rminos generales) se desarroll\u00f3 utilizando principios preestablecidos, como las reglas de la Administraci\u00f3n Nacional de Seguridad del Transporte en Carreteras. <\/p>\n<p>\u201c<a rel=\"nofollow noopener\" href=\"https:\/\/waymo.com\/blog\/2023\/07\/past-limit-studying-how-often-drivers.html\" data-trackable=\"link\" target=\"_blank\">A diferencia de los humanos,<\/a> Waymo Driver est\u00e1 dise\u00f1ado para seguir los l\u00edmites de velocidad aplicables\u201d, dice la compa\u00f1\u00eda, citando su reciente investigaci\u00f3n que muestra que los conductores humanos infringen las reglas de exceso de velocidad la mitad del tiempo en San Francisco y Phoenix. <\/p>\n<p>Los veh\u00edculos tambi\u00e9n est\u00e1n entrenados para detenerse en los sem\u00e1foros en rojo, un punto que deleita a la NHTSA, que <a rel=\"nofollow noopener\" href=\"https:\/\/www.verramobility.com\/national-stop-on-red-week-2023\/\" data-trackable=\"link\" target=\"_blank\">revelado recientemente<\/a> que casi 4,4 millones de estadounidenses se saltaron los sem\u00e1foros en rojo en 2022, y que m\u00e1s de 11.000 personas murieron entre 2008 y 2021 porque alguien se pas\u00f3 los sem\u00e1foros. <\/p>\n<p>Como era de esperar, esto parece hacer <a rel=\"nofollow noopener\" href=\"https:\/\/waymo.com\/blog\/2023\/02\/first-million-rider-only-miles-how.html\" data-trackable=\"link\" target=\"_blank\">Los coches de Waymo. <\/a>mucho m\u00e1s seguro que los humanos.  (Es cierto que este es un list\u00f3n muy bajo, dado que <a rel=\"nofollow noopener\" href=\"https:\/\/www.nhtsa.gov\/press-releases\/traffic-crash-death-estimates-2022#:~:text=The%20National%20Highway%20Traffic%20Safety,in%20motor%20vehicle%20traffic%20crashes.\" data-trackable=\"link\" target=\"_blank\">42.000 personas<\/a> murieron en accidentes automovil\u00edsticos en Estados Unidos el a\u00f1o pasado).<\/p>\n<p>Pero lo que es realmente interesante es que los funcionarios de Waymo sospechan que la presencia de veh\u00edculos aut\u00f3nomos que siguen las reglas en Phoenix est\u00e1 animando a los conductores humanos a seguir las reglas tambi\u00e9n, ya sea porque est\u00e1n atrapados detr\u00e1s de un veh\u00edculo aut\u00f3nomo o porque se averg\u00fcenzan de que un robot les recuerde inadvertidamente sobre el tr\u00e1fico. normas.  La presi\u00f3n de grupo funciona, incluso con robots.<\/p>\n<p>Hay poca investigaci\u00f3n al respecto&#8230; todav\u00eda.  Pero refleja mi propia experiencia en San Francisco.  Y un (limitado) <a rel=\"nofollow noopener\" href=\"https:\/\/www.autoevolution.com\/news\/waiting-at-a-red-light-will-become-history-thanks-to-artificial-intelligence-189171.html\" data-trackable=\"link\" target=\"_blank\">estudio del MIT<\/a> muestra que la presencia de veh\u00edculos aut\u00f3nomos en una carretera puede mejorar potencialmente el comportamiento de todos los conductores.  Hurra. <\/p>\n<p>Sin embargo, el Tesla de Elon Musk ha tomado un rumbo diferente.  Como se\u00f1ala la biograf\u00eda de Musk escrita por Walter Isaacson, inicialmente Musk intent\u00f3 desarrollar IA con reglas preestablecidas.  Pero <a rel=\"nofollow noopener\" href=\"https:\/\/www.cnbc.com\/2023\/09\/09\/ai-for-cars-walter-isaacson-biography-of-elon-musk-excerpt.html\" data-trackable=\"link\" target=\"_blank\">luego se abraz\u00f3<\/a> formas m\u00e1s nuevas de IA generativa o estad\u00edstica (el enfoque utilizado en ChatGPT).  Esto &#8220;entrena&#8221; a los sistemas de IA a conducir, no con un c\u00f3digo preestablecido, sino observando a conductores humanos reales;  aparentemente se utilizaron 10 millones de clips de v\u00eddeo de coches Tesla existentes.<\/p>\n<p>Daval Shroff, un funcionario de Tesla, le dijo a Isaacson que los \u00fanicos videos utilizados en este entrenamiento eran \u201cde humanos cuando manejaron bien una situaci\u00f3n\u201d.  Esto significa que a los empleados de Tesla se les pidi\u00f3 que calificaran esos clips de 10 m y que solo enviaran ejemplos de conducci\u00f3n &#8220;buenos&#8221; para el entrenamiento de los bots, para entrenar a los bots en un buen comportamiento, no en un mal.<\/p>\n<p>Tal vez sea as\u00ed.  Pero hay informes de que los veh\u00edculos aut\u00f3nomos de Tesla imitan cada vez m\u00e1s a los humanos al, por ejemplo, cruzar se\u00f1ales de alto o sem\u00e1foros.  De hecho, cuando Elon Musk transmiti\u00f3 en vivo un viaje que realiz\u00f3 en agosto en un veh\u00edculo audiovisual, <a rel=\"nofollow noopener\" href=\"https:\/\/futurism.com\/elon-musk-full-self-driving-intervene-red-light\" data-trackable=\"link\" target=\"_blank\">tuvo que intervenir manualmente<\/a> para evitar que se salte un sem\u00e1foro en rojo.  t<a rel=\"nofollow noopener\" href=\"https:\/\/www.forbes.com\/sites\/qai\/2023\/08\/31\/elon-mode-fsd-secret-full-self-driving-mode-leaves-authorities-despairing\/\" data-trackable=\"link\" target=\"_blank\">La NHTSA est\u00e1 investigando.<\/a><\/p>\n<p>Por supuesto, Musk podr\u00eda replicar que todos los conductores ocasionalmente necesitan infringir las reglas en circunstancias inusuales para preservar la seguridad.  Tambi\u00e9n podr\u00eda replicar que es natural que las empresas adopten diferentes enfoques respecto de la IA y luego dejen que los clientes elijan;  as\u00ed es como normalmente funciona la competencia corporativa.<\/p>\n<p>Sin embargo, algunos reguladores est\u00e1n preocupados: aunque el Cruise de GM produjo datos a principios de este a\u00f1o que muestran un buen historial de seguridad general, esta semana el Departamento de Veh\u00edculos Motorizados de California <a rel=\"nofollow noopener\" href=\"https:\/\/www.theguardian.com\/us-news\/2023\/oct\/24\/driverless-car-self-driving-california-cruise-gm\" data-trackable=\"link\" target=\"_blank\">exigi\u00f3 que la empresa dejara de operar <\/a>AV no tripulados despu\u00e9s de un accidente.  Y el problema es que, si bien los reguladores pueden, en teor\u00eda, examinar los AV utilizando reglas preestablecidas (si personas externas tienen acceso al c\u00f3digo), es m\u00e1s dif\u00edcil monitorear la IA generativa, ya que las consecuencias de imitar el comportamiento humano &#8220;real&#8221; son muy impredecibles, incluso para sus creadores. .  <\/p>\n<p>De cualquier manera, el punto clave que los inversores deben entender es que las variantes de este problema pronto afectar\u00e1n tambi\u00e9n a campos como el financiero, como dijo recientemente al Financial Times Gary Gensler, el Comisionado de Bolsa y Valores.  \u00bfDeber\u00edan los actores habilitados por la IA en los mercados financieros programarse con reglas preestablecidas de arriba hacia abajo?  \u00bfO aprender imitando el comportamiento de los humanos que podr\u00edan \u201carbitraje\u201d (es decir, alterar) las reglas para obtener ganancias?  \u00bfQui\u00e9n decide y qui\u00e9n tiene la responsabilidad si algo sale mal? <\/p>\n<p>No hay respuestas f\u00e1ciles.  Pero cuanto m\u00e1s integrada se vuelve la IA, m\u00e1s dif\u00edcil es el desaf\u00edo, como saben los asistentes a la cumbre de la pr\u00f3xima semana.  Quiz\u00e1s deber\u00edan empezar reflexionando sobre un sem\u00e1foro. <\/p>\n<p><em>gillian.tett@ft.com<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/03a2e26c-d501-4686-8d15-c26b34f329ff\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[5358,2082,1389,32178,16145,36,28876,23196,12015],"class_list":["post-1016829","post","type-post","status-publish","format-standard","hentry","category-general","tag-aprender","tag-buenos","tag-debe","tag-habitos","tag-humanos","tag-los","tag-malos","tag-obligar","tag-robots"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1016829","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1016829"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1016829\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1016829"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1016829"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1016829"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}