{"id":679732,"date":"2023-03-19T13:22:05","date_gmt":"2023-03-19T13:22:05","guid":{"rendered":"https:\/\/teknomers.com\/es\/necesitamos-crear-barandillas-para-la-ia\/"},"modified":"2023-03-19T13:22:07","modified_gmt":"2023-03-19T13:22:07","slug":"necesitamos-crear-barandillas-para-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/necesitamos-crear-barandillas-para-la-ia\/","title":{"rendered":"Necesitamos crear barandillas para la IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div data-attribute=\"article-content-body\">\n<p>\u00bfQu\u00e9 pasar\u00eda si lo \u00fanico en lo que realmente pudieras confiar fuera algo o alguien lo suficientemente cercano como para tocarlo f\u00edsicamente?  Ese puede ser el mundo al que nos est\u00e1 llevando la IA.  Un grupo de acad\u00e9micos de Harvard y expertos en inteligencia artificial acaba de lanzar <a rel=\"nofollow noopener\" href=\"https:\/\/gettingplurality.org\/2023\/03\/18\/ethics-of-decentralized-social-technologies-lessons-from-the-web3-wave\/\" target=\"_blank\" data-trackable=\"link\">un informe<\/a> destinado a poner barandillas \u00e9ticas en torno al desarrollo de tecnolog\u00edas potencialmente dist\u00f3picas, como el chatbot aparentemente sensible de OpenAI respaldado por Microsoft, que debut\u00f3 en una versi\u00f3n nueva y &#8220;mejorada&#8221; (seg\u00fan su punto de vista), GPT-4, la semana pasada.<\/p>\n<p>El grupo, que incluye a Glen Weyl, economista e investigador de Microsoft, Danielle Allen, fil\u00f3sofa de Harvard y directora del Centro Safra para la \u00c9tica, y muchos otros notables de la industria, est\u00e1 haciendo sonar las alarmas sobre &#8220;la pl\u00e9tora de experimentos con tecnolog\u00edas sociales descentralizadas&#8221;. .  Estos incluyen el desarrollo de &#8220;contenido generado por m\u00e1quina altamente persuasivo (por ejemplo, ChatGPT)&#8221; que amenaza con alterar la estructura de nuestra econom\u00eda, pol\u00edtica y sociedad.<\/p>\n<p>Creen que hemos llegado a un &#8220;momento constitucional&#8221; de cambio que requiere un marco regulatorio completamente nuevo para tales tecnolog\u00edas.<\/p>\n<p>Algunos de los riesgos de la IA, como un futuro al estilo de Terminator en el que las m\u00e1quinas deciden que los humanos han tenido su d\u00eda, son un territorio muy trillado en la ciencia ficci\u00f3n, que, cabe se\u00f1alar, ha tenido un historial bastante bueno de predicci\u00f3n de d\u00f3nde estar\u00e1 la ciencia. ir\u00e1 en los \u00faltimos 100 a\u00f1os m\u00e1s o menos.  Pero hay otros que son menos entendidos.  Si, por ejemplo, la IA ahora puede generar una identificaci\u00f3n falsa perfectamente indetectable, \u00bfde qu\u00e9 sirven los marcos legales y de gobernanza que se basan en dichos documentos para permitirnos conducir, viajar o pagar impuestos?<\/p>\n<p>Una cosa que ya sabemos es que la IA podr\u00eda permitir que los malos actores se hagan pasar por cualquiera, en cualquier lugar y en cualquier momento.  \u201cTienes que asumir que el enga\u00f1o ser\u00e1 mucho m\u00e1s barato y m\u00e1s frecuente en esta nueva era\u201d, dice Weyl, quien ha publicado <a rel=\"nofollow noopener\" href=\"https:\/\/www.plurality.net\/\" target=\"_blank\" data-trackable=\"link\">un libro en linea<\/a> con la ministra digital de Taiw\u00e1n, Audrey Tang.  Esto expone los riesgos que la IA y otras tecnolog\u00edas de la informaci\u00f3n avanzadas representan para la democracia, en particular, que aumentan el problema de la desinformaci\u00f3n con esteroides.<\/p>\n<p>Las posibles ramificaciones abarcan todos los aspectos de la sociedad y la econom\u00eda.  \u00bfC\u00f3mo sabremos que las transferencias digitales de fondos son seguras o incluso aut\u00e9nticas?  \u00bfSer\u00e1n confiables los notarios y contratos en l\u00ednea?  \u00bfLas noticias falsas, que ya son un gran problema, se volver\u00e1n esencialmente indetectables?  Y qu\u00e9 decir de las ramificaciones pol\u00edticas del incalculable n\u00famero de interrupciones laborales, un tema que los acad\u00e9micos Daron Acemoglu y Simon Johnson explorar\u00e1n en un libro muy importante a finales de este a\u00f1o. <\/p>\n<p>Uno puede imaginar f\u00e1cilmente un mundo en el que los gobiernos luchan por mantenerse al d\u00eda con estos cambios y, como dice el informe de Harvard, \u201clos procesos democr\u00e1ticos altamente imperfectos existentes resultan impotentes.  .  .  y son as\u00ed abandonados por ciudadanos cada vez m\u00e1s c\u00ednicos\u201d.<\/p>\n<p>Ya hemos visto indicios de esto.  La ciudad privada de Texas que est\u00e1 construyendo Elon Musk para albergar a sus empleados de SpaceX, Tesla y Boring Company es solo la \u00faltima versi\u00f3n de la fantas\u00eda libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda o trasladan su riqueza y negocios. en jurisdicciones extragubernamentales y \u201czonas econ\u00f3micas especiales\u201d.  El historiador de Wellesley, Quinn Slobodian, aborda el surgimiento de tales zonas en su nuevo libro, <em>Capitalismo de ruptura<\/em>.<\/p>\n<p>En este escenario, los ingresos fiscales caen, la participaci\u00f3n laboral se erosiona y el mundo de suma cero resultante exacerba una \u201cexitocracia\u201d de los privilegiados.<\/p>\n<p>Por supuesto, el futuro tambi\u00e9n podr\u00eda ser mucho m\u00e1s brillante.  La IA tiene un potencial incre\u00edble para aumentar la productividad y la innovaci\u00f3n, e incluso podr\u00eda permitirnos redistribuir la riqueza digital de nuevas formas.  Pero lo que ya est\u00e1 claro es que las empresas no van a dejar de desarrollar tecnolog\u00edas Web3 de vanguardia, desde IA hasta blockchain, tan r\u00e1pido como puedan.  Se ven a s\u00ed mismos como parte de una carrera existencial entre ellos y con China por el futuro. <\/p>\n<p>Como tal, est\u00e1n buscando formas de vender no solo IA, sino tambi\u00e9n las soluciones de seguridad para ello.  Por ejemplo, en un mundo en el que la confianza no se puede autenticar digitalmente, los desarrolladores de IA de Microsoft y otras empresas est\u00e1n pensando si podr\u00eda haber un m\u00e9todo para crear versiones m\u00e1s avanzadas de &#8220;secretos compartidos&#8221; (o cosas que solo usted y otra persona cercana podr\u00eda conocer) digitalmente y a escala.<\/p>\n<p>Eso, sin embargo, suena un poco como resolver el problema de la tecnolog\u00eda con m\u00e1s tecnolog\u00eda.  De hecho, la mejor soluci\u00f3n al enigma de la IA, en la medida en que exista, puede ser anal\u00f3gica.<\/p>\n<p>\u201cLo que necesitamos es un marco para una vigilancia m\u00e1s prudente\u201d, dice Allen, citando el informe de la comisi\u00f3n presidencial sobre bio\u00e9tica de 2010, que se public\u00f3 en respuesta al auge de la gen\u00f3mica.  Cre\u00f3 pautas para la experimentaci\u00f3n responsable, lo que permiti\u00f3 un desarrollo tecnol\u00f3gico m\u00e1s seguro (aunque se podr\u00eda se\u00f1alar nueva informaci\u00f3n sobre la posible fuga de laboratorio en la pandemia de Covid-19 y decir que ning\u00fan marco es internacionalmente infalible).<\/p>\n<p>Por ahora, en lugar de prohibir la IA o tener alg\u00fan m\u00e9todo perfecto de regulaci\u00f3n, podr\u00edamos comenzar obligando a las empresas a revelar qu\u00e9 experimentos est\u00e1n haciendo, qu\u00e9 funcion\u00f3, qu\u00e9 no y d\u00f3nde podr\u00edan surgir consecuencias no deseadas.  La transparencia es el primer paso para garantizar que la IA no supere a sus creadores.<\/p>\n<p><em>rana.foroohar@ft.com<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/3e27cfd6-e287-4b6f-a588-29b5b962a534\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfQu\u00e9 pasar\u00eda si lo \u00fanico en lo que realmente pudieras confiar fuera algo o alguien lo suficientemente cercano<\/p>\n","protected":false},"author":1,"featured_media":679733,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[153436,2690,1664,18],"class_list":["post-679732","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-barandillas","tag-crear","tag-necesitamos","tag-para"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/679732","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=679732"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/679732\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/679733"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=679732"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=679732"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=679732"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}