{"id":83373,"date":"2022-04-10T13:10:59","date_gmt":"2022-04-10T13:10:59","guid":{"rendered":"https:\/\/teknomers.com\/es\/siempre-hay-algo-que-falta-en-la-ia\/"},"modified":"2022-04-10T13:11:06","modified_gmt":"2022-04-10T13:11:06","slug":"siempre-hay-algo-que-falta-en-la-ia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/siempre-hay-algo-que-falta-en-la-ia\/","title":{"rendered":"&#8216;Siempre hay algo que falta en la IA&#8217;"},"content":{"rendered":"\n<div>\n<p>\u00bfPuedes ense\u00f1arle a una computadora a no mentir a menos que la Gestapo est\u00e9 en la puerta?  \u00bfY c\u00f3mo sabe una m\u00e1quina que no se trata de agentes &#8216;ordinarios&#8217;, que en las sociedades democr\u00e1ticas se llama tu mejor amigo?<\/p>\n<p>Bueno, eso a\u00fan deber\u00eda ser posible, dice el profesor de inteligencia artificial Jan Broersen.  En realidad, es un ejemplo bastante simple de una excepci\u00f3n que va por encima de la regla general.  \u201cYa tienes sistemas de razonamiento formales que pueden lidiar con reglas que tambi\u00e9n tienes que ser capaz de romper en ciertas situaciones.  Hay ejemplos mucho m\u00e1s complicados, sistemas completos de reglas que interact\u00faan.  Pero en teor\u00eda todo eso se puede programar\u201d.<\/p>\n<aside class=\"inline clearfix\">\n<h2 class=\"gn4-blockhead\">\n<span class=\"keyword\">resumir<\/span>  Computadoras morales<br \/>\n<\/h2>\n<p><strong>Jan Broersen (55) estudi\u00f3 matem\u00e1ticas en Delft<\/strong> y obtuvo su doctorado de la Universidad Libre de Amsterdam con una disertaci\u00f3n sobre l\u00f3gica en sistemas automatizados.  Realiza investigaciones sobre la posibilidad de establecer opciones morales y responsabilidad en computadoras, rob\u00f3tica y sistemas de juego utilizando la l\u00f3gica de\u00f3ntica.<\/p>\n<\/aside>\n<p>La medida en que esto hace posibles las computadoras &#8216;morales&#8217;, sistemas automatizados que aprenden a tomar sus propias decisiones, ya asumir responsabilidades, es el foco de la investigaci\u00f3n de Broersen, quien dio su conferencia inaugural en la Universidad de Utrecht a fines de marzo.  Formado como matem\u00e1tico en Delft, quiere usar la l\u00f3gica para tratar de desarrollar un c\u00e1lculo moral para los sistemas de IA.<\/p>\n<p>Tal &#8220;l\u00f3gica de\u00f3nica&#8221; (del griego <em>de\u00f3n<\/em>: lo que es apropiado u obligatorio) se necesita desesperadamente, cree, para una sociedad que hace un uso cada vez mayor de la inteligencia artificial.  \u201cTodo el mundo habla de IA y \u00e9tica, pero casi nadie hace nada al respecto.  Al menos, se suele abordar como un problema social o jur\u00eddico.  \u00bfRealmente queremos coches aut\u00f3nomos en la carretera?  \u00bfC\u00f3mo deber\u00edamos encajar eso legalmente?  \u00bfCu\u00e1ndo son responsables los fabricantes?<\/p>\n<p>Todo muy importante, dice Broersen, pero \u00bfpor qu\u00e9 no analizar si la responsabilidad moral se puede programar en los propios sistemas de IA?  \u201cQuiero saber: \u00bfc\u00f3mo operacionalizas las teor\u00edas existentes sobre \u00e9tica y las pones en una m\u00e1quina para que sepa c\u00f3mo lidiar con situaciones en las que las consideraciones morales son importantes?\u201d.<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Suponga que puede salvar a esas diez personas empuj\u00e1ndose unas a otras sobre los rieles.<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">Simplemente explique, \u00bfc\u00f3mo pone la \u00e9tica en las m\u00e1quinas?<\/span><\/p>\n<p>\u201cPor supuesto que comienza con teor\u00edas morales muy diferentes.  Los fil\u00f3sofos han estado trabajando en esto sin cesar.  Algunas teor\u00edas son m\u00e1s f\u00e1ciles de imaginar automatizando que otras.  Tome el utilitarismo, en t\u00e9rminos generales, la opini\u00f3n de que debe hacer lo que produce el mayor beneficio o felicidad para la mayor cantidad de personas posible.  Ese es un enfoque bastante cuantitativo que puede capturar f\u00e1cilmente en un programa.  Encaja con la forma en que los inform\u00e1ticos ya piensan sobre la inteligencia: como un procedimiento para elegir acciones entre una serie de opciones con un objetivo claro\u201d.<\/p>\n<p class=\"question\"><span class=\"num\">Entonces surge el &#8216;problema del tranv\u00eda&#8217;.  \u00bfTienes que dejar que un troleb\u00fas desbocado corra hacia diez personas para asegurarte de que mueran, o tienes que cambiar el interruptor a otra v\u00eda donde solo muera una persona?<\/span><\/p>\n<p>\u201cS\u00ed, hay muchas variantes.  Puedes ver que para muchas personas el utilitarismo es una teor\u00eda moral insatisfactoria.  \u00bfEs la moral realmente un c\u00e1lculo tan simple: diez v\u00edctimas o una?  Las personas tambi\u00e9n marcan la diferencia entre no hacer nada e intervenir activamente, como accionar el interruptor.  Esto tiene consecuencias sobre c\u00f3mo percibimos la responsabilidad.  Y suponga que puede salvar a esas diez personas empujando a otra persona sobre los rieles.  eso es otra cosa  Lo sentimos intuitivamente, y no, una computadora no lo hace\u201d.<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Las reglas dan direcci\u00f3n, pero tambi\u00e9n tienes que ser capaz de romperlas dependiendo del contexto.<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">\u00bfQu\u00e9 es posible entonces?<\/span><\/p>\n<p>\u201cEl c\u00e1lculo moral que defiendo no piensa principalmente en t\u00e9rminos de resultados deseados, como el menor n\u00famero de v\u00edctimas, sino en el seguimiento de reglas.  El comportamiento moral es un comportamiento guiado por reglas.  \u00bfQu\u00e9 reglas se aplican en una situaci\u00f3n y qu\u00e9 regla debe prevalecer sobre la otra?  Tambi\u00e9n ense\u00f1amos a los ni\u00f1os c\u00f3mo comportarse.  Las reglas brindan direcci\u00f3n, pero tambi\u00e9n debe poder romperlas seg\u00fan el contexto.  Debe ser posible operacionalizar esto en un sistema formal\u201d.<\/p>\n<p class=\"question\"><span class=\"num\">Sin embargo, en su conferencia inaugural se muestra esc\u00e9ptico sobre la posibilidad de una IA fuerte, m\u00e1quinas para ense\u00f1ar inteligencia humana &#8216;real&#8217;.  \u00bfPor qu\u00e9?  Citas a Wittgenstein como apoyo.  Pero tambi\u00e9n dice: seguimos las reglas a ciegas, sin pensar en ello.  Una computadora tambi\u00e9n puede hacer eso, \u00bfverdad?<\/span><\/p>\n<p>\u201cCreo que todav\u00eda falta algo, a saber, la fuente moral.  En nosotros es la raz\u00f3n y la comunidad, ambas nos hacen humanos.  Aprendemos y ponemos a prueba nuestras percepciones e intuiciones morales entre s\u00ed, interpretamos reglas, las matizamos.  Las m\u00e1quinas no tienen eso.  Puedes programar mucho, pero no esas intuiciones morales\u201d.<\/p>\n<p class=\"question\"><span class=\"num\">\u00bfNo pueden desarrollarlos ellos mismos mientras aprenden?<\/span><\/p>\n<p>\u201cNo, en mi opini\u00f3n, un sistema as\u00ed siempre perder\u00e1 algo.  Seguimos siendo los que determinamos c\u00f3mo debe interpretarse una regla.  En \u00faltima instancia, una m\u00e1quina no hace m\u00e1s que seguir las instrucciones que le hemos puesto.  Por cierto, esto se aplica a las m\u00e1quinas que usamos ahora.  No se puede descartar que alg\u00fan d\u00eda sea posible.  tomar <em>computaci\u00f3n cu\u00e1ntica<\/em>, automatizaci\u00f3n con conocimientos de la mec\u00e1nica cu\u00e1ntica.  Si empiezas a entender la inteligencia y las elecciones morales de forma cu\u00e1ntica, ser\u00e1 una historia diferente.  Pero eso es muy especulativo.  Esa \u00e1rea est\u00e1 abierta, todav\u00eda entendemos muy poco de ella.  Personalmente soy un no determinista, creo que la realidad no est\u00e1 completamente fijada por la ley.  Pero s\u00ed creo que al final somos m\u00e1quinas.  Pero no el tipo de m\u00e1quinas que ahora llamamos computadoras\u201d.<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Ese auto no entender\u00e1 qu\u00e9 hacer cuando otros usuarios de la v\u00eda toquen la bocina<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">M\u00e1s pr\u00e1ctico: \u00bfc\u00f3mo puede la l\u00f3gica \u00e9tica ayudar a las autoridades fiscales a prevenir un nuevo esc\u00e1ndalo de desgravaciones?<\/span><\/p>\n<p>\u201cNo creo que tenga mucho que ver con la IA.  Simplemente hay conexiones estad\u00edsticas hechas de una manera que no encontramos deseable.  Introduces casos, &#8216;s\u00ed\/no fraude&#8217;, y luego esa computadora comienza a aprender.  Luego busca correlaciones entre las caracter\u00edsticas de las personas o los archivos, y ya no puede desactivar eso.  Tambi\u00e9n podr\u00eda hacerlo de manera diferente y elaborar reglas de antemano sobre c\u00f3mo una computadora puede buscar.  Luego puedes programarlos de tal forma que sopesen ciertas caracter\u00edsticas o no las incluyan.  Tal como est\u00e1 ahora, no sabe c\u00f3mo aprende el sistema, y \u200b\u200btampoco puede corregirlo.  S\u00ed, despu\u00e9s en la C\u00e1mara de Representantes\u201d.<\/p>\n<p class=\"question\"><span class=\"num\">El coche aut\u00f3nomo tiene ojos, memoria, puede tomar decisiones.  \u00bfNo es eso una IA fuerte?<\/span><\/p>\n<p>\u201cNo, no lo creo.  Ese auto no puede tener emociones o ver el significado como lo hacemos nosotros, no con nuestras computadoras actuales.  No entender\u00e1 qu\u00e9 hacer cuando los dem\u00e1s usuarios de la v\u00eda empiecen a responder a un cartel que dice &#8216;<em>toca la bocina si eres feliz<\/em>&#8216; en \u00e9l, como se puede ver en Estados Unidos.  Por supuesto, puede programar algo en \u00e9l, pero el comportamiento seguir\u00e1 siendo diferente.  No seguir de cerca, s\u00ed, puedes ense\u00f1arle eso\u201d.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.nrc.nl\/nieuws\/2022\/04\/10\/er-blijft-in-ai-toch-altijd-iets-ontbreken-a4110424\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-33<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfPuedes ense\u00f1arle a una computadora a no mentir a menos que la Gestapo est\u00e9 en la puerta? \u00bfY<\/p>\n","protected":false},"author":1,"featured_media":83374,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[9511,430,268,221],"class_list":["post-83373","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-algo","tag-falta","tag-hay","tag-siempre"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/83373","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=83373"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/83373\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/83374"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=83373"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=83373"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=83373"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}