{"id":1161416,"date":"2024-01-31T13:20:23","date_gmt":"2024-01-31T13:20:23","guid":{"rendered":"https:\/\/teknomers.com\/es\/si-una-computadora-comienza-a-buscar-causas-las-cosas-pueden-salir-completamente-mal\/"},"modified":"2024-01-31T13:20:29","modified_gmt":"2024-01-31T13:20:29","slug":"si-una-computadora-comienza-a-buscar-causas-las-cosas-pueden-salir-completamente-mal","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/si-una-computadora-comienza-a-buscar-causas-las-cosas-pueden-salir-completamente-mal\/","title":{"rendered":"Si una computadora comienza a buscar causas, las cosas pueden salir completamente mal"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>\u00bfC\u00f3mo cambiar\u00e1 el clima en el futuro pr\u00f3ximo?  \u00bfFue eficaz la campa\u00f1a de refuerzo para aumentar la resistencia al coronavirus?  \u00bfCu\u00e1ndo se puede dar de alta de forma segura a un paciente del hospital?  \u00bfQu\u00e9 sucede si los precios de la energ\u00eda se mantienen bajos?<\/p>\n<p>Todas estas son preguntas que se basan en una pregunta causal.  Joris Mooij, profesor de estad\u00edstica matem\u00e1tica en la Universidad de Amsterdam, investiga c\u00f3mo podemos encontrar conexiones causales basadas en datos.  En realidad, todav\u00eda no existe una buena manera de hacer esto.  Con este m\u00e9todo, la IA tambi\u00e9n podr\u00eda buscar causalidad, aunque esto todav\u00eda no es posible.<\/p>\n<p>Para lo que son buenos las estad\u00edsticas y algoritmos existentes es para encontrar correlaciones.  Por ejemplo, los datos pueden mostrar una correlaci\u00f3n entre el consumo de drogas y los trastornos psiqui\u00e1tricos: las personas que consumen m\u00e1s drogas tienen m\u00e1s probabilidades de sufrir un trastorno psiqui\u00e1trico.<\/p>\n<p>Pero eso no significa que el consumo de drogas tambi\u00e9n cause el trastorno psiqui\u00e1trico.  Tambi\u00e9n podr\u00eda ser al rev\u00e9s: un bienestar mental deficiente hace que las personas sean m\u00e1s propensas a necesitar sedantes.  Mooij: \u201cEncontrar una asociaci\u00f3n en los datos es muy sencillo.  Pero la causalidad es m\u00e1s dif\u00edcil\u201d.<\/p>\n<p>En este momento, la \u00fanica manera de responder realmente a una pregunta causal en ciencia es realizar <em>ensayos controlados aleatorios<\/em> (ECA).  &#8220;Este tipo de investigaci\u00f3n se invent\u00f3 ya en 1648, pero sigue siendo el est\u00e1ndar de oro para hacer predicciones causales&#8221;.<\/p>\n<p>En un ensayo controlado aleatorio, los investigadores dividen lo que quieren estudiar, por ejemplo personas, en dos grupos de la forma m\u00e1s aleatoria posible y realizan un cambio en un grupo.  Luego ven si esto tiene alguna consecuencia para ese grupo y no para el otro, el grupo de control.<\/p>\n<p>Por ejemplo, para investigar si la vacuna de refuerzo funciona bien, los m\u00e9dicos podr\u00edan administrar la vacuna a un grupo de personas y no al otro grupo, y luego ver si un grupo termina en el hospital con m\u00e1s frecuencia.  En este caso, habr\u00eda motivos para suponer que en realidad es la vacuna de refuerzo la que hace que las personas tengan menos probabilidades de enfermarse gravemente.<\/p>\n<p><dmt-quote inverse=\"false\" styled=\"true\" type=\"streamer\"><span slot=\"quote\">Definir la causalidad es realmente dif\u00edcil.  Fil\u00f3sofos y cient\u00edficos llevan siglos pregunt\u00e1ndose sobre esto.<\/span><\/dmt-quote><\/p>\n<p>Por razones \u00e9ticas o pr\u00e1cticas, muchas veces no es posible realizar este tipo de investigaci\u00f3n.  El RIVM puede examinar los datos posteriormente y realizar c\u00e1lculos de probabilidad sobre ellos.  Si descubrieran que las personas con una dosis de refuerzo enfermaban con menos frecuencia o menos gravedad a causa del coronavirus, podr\u00edan pensar que la vacuna realmente funcion\u00f3 bien.<\/p>\n<p>Pero aqu\u00ed es donde, seg\u00fan Mooij, la gente se inclina a menudo demasiado r\u00e1pidamente a sacar conclusiones causales, cuando en realidad esto todav\u00eda no es posible.  En este caso, por ejemplo, tambi\u00e9n puede ser que las personas que toman una dosis de refuerzo ya sean m\u00e1s cuidadosas y, por tanto, menos propensas a enfermarse.  Que no es por el refuerzo.  &#8220;As\u00ed, a menudo se ve que las cosas van mal, incluso en los titulares, por ejemplo. Puede que se haya demostrado una correlaci\u00f3n, pero a menudo se interpreta r\u00e1pidamente como una relaci\u00f3n causal&#8221;.<\/p>\n<p class=\"question\">\u00bfCu\u00e1ndo podemos realmente hablar de una relaci\u00f3n causal?<\/p>\n<p>\u201cOh, definir la causalidad es realmente dif\u00edcil.  Fil\u00f3sofos y cient\u00edficos llevan siglos pregunt\u00e1ndose sobre esto.  Es un poco como cuando quieres definir otros conceptos fundamentales, como el tiempo o el espacio.<\/p>\n<p>\u201cSi me pides que d\u00e9 la mejor definici\u00f3n posible, podr\u00edas decir que A es una causa de B si una perturbaci\u00f3n externa que cambia el valor de A tambi\u00e9n cambia el valor de B o conduce a una mayor probabilidad de que el valor de B aumente. cambiar.<\/p>\n<p>\u201cEs extremadamente dif\u00edcil dar una definici\u00f3n m\u00e1s precisa.  Pero lo que podemos hacer es estudiar objetos matem\u00e1ticos que proporcionen un buen modelo de causalidad.  Por lo tanto, las definiciones matem\u00e1ticas pueden captar bien ese concepto\u201d.<\/p>\n<p class=\"question\">\u00bfPor qu\u00e9 crees que no se han desarrollado antes m\u00e9todos matem\u00e1ticos para encontrar relaciones causales?<\/p>\n<p>\u201cDurante mucho tiempo existi\u00f3 en las estad\u00edsticas la idea de que la causalidad no formaba parte de ellas.  Pearson, uno de los fundadores de la estad\u00edstica, siempre ha sido muy enf\u00e1tico en que con la estad\u00edstica s\u00f3lo se debe intentar demostrar correlaciones.  El paso hacia la causalidad a\u00fan no estaba tan claro y prefirieron dejarlo en manos de expertos en el campo.<\/p>\n<p><dmt-image-wrapper class=\"vorm__article-content-positioned vorm__article-content-positioned--width-website\"><\/p>\n<figure data-captionposition=\"auto\" data-fadein=\"false\" data-fadeinduration=\"0.5\" data-variant=\"site\"><picture><source  type=\"image\/webp\"\/><\/picture><figcaption class=\"credit\">Foto Merlijn Doomernik<\/figcaption><\/figure>\n<p><\/dmt-image-wrapper><\/p>\n<p>\u201cTodav\u00eda no es una parte est\u00e1ndar de las estad\u00edsticas.  Por ejemplo, a\u00fan no est\u00e1 incluido en el curso de introducci\u00f3n a la estad\u00edstica que toman los estudiantes de matem\u00e1ticas.  En lo que a m\u00ed respecta, la causalidad es realmente parte de esto, porque tambi\u00e9n se trata de interpretar datos utilizando la teor\u00eda de la probabilidad.<\/p>\n<p>\u201cLa causalidad tambi\u00e9n es relativamente nueva en la IA y la inform\u00e1tica.  Cuando comenc\u00e9 hace diez a\u00f1os y propuse impartir un curso sobre causalidad en inform\u00e1tica, fue inmediatamente rechazado.  Y ahora creo que tienen tres cursos sobre causalidad.  Tambi\u00e9n es relativamente reciente dentro del <em>aprendizaje autom\u00e1tico<\/em>comunidad que las cuestiones causales son muy importantes\u201d.<\/p>\n<p class=\"question\">\u00bfPor qu\u00e9 la causalidad es relevante en esto?<\/p>\n<p>\u201cEl aprendizaje autom\u00e1tico es el enfoque que se ha vuelto dominante dentro de la IA en los \u00faltimos diez a\u00f1os.  Pero en principio tambi\u00e9n es s\u00f3lo una forma de estad\u00edstica.  Los algoritmos de aprendizaje autom\u00e1tico buscan patrones en los datos.  Por ejemplo, puede desarrollar un algoritmo que prediga el tiempo que har\u00e1 ma\u00f1ana bas\u00e1ndose en el tiempo de la semana pasada.  Luego se entrena sobre c\u00f3mo ha sido el clima en el pasado.  Pero no har\u00e1 ninguna predicci\u00f3n causal real.<\/p>\n<p><dmt-quote inverse=\"false\" styled=\"true\" type=\"streamer\"><span slot=\"quote\">De lo que desconf\u00edo es de que cada vez se subcontratan m\u00e1s decisiones a algoritmos.<\/span><\/dmt-quote><\/p>\n<p>\u201e<em>IA causal<\/em> ahora se ha convertido en una exageraci\u00f3n.  El aprendizaje autom\u00e1tico se aplica cada vez m\u00e1s y cada vez hay m\u00e1s datos disponibles.  Ahora descubrimos que, para algunas preguntas, el aprendizaje autom\u00e1tico est\u00e1ndar en realidad no funciona tan bien.  Por ejemplo, si un algoritmo se entrena en un entorno y se utiliza en otro, las cosas pueden salir completamente mal.  Por ejemplo, si hay una semana con un clima loco que el algoritmo nunca antes hab\u00eda visto, puede hacer una predicci\u00f3n incorrecta\u201d.<\/p>\n<aside class=\"dmt-article-side dmt-article-side--inzet vorm__article-content-positioned vorm__article-content-positioned--right\" data-styled=\"true\">\n<div class=\"dmt-article-side__content\">\n<div class=\"dmt-article-side__text\">\n<h2 class=\"dmt-article-side__heading\"><span class=\"keyword\">Conclusiones equivocadas<\/span>  Cuatro tipos de sesgo en los datos <\/h2>\n<p><strong>A menudo sucede que hay distorsiones en los datos,<\/strong> como resultado de lo cual se podr\u00eda sacar una conclusi\u00f3n incorrecta basada en las correlaciones encontradas. <\/p>\n<p><span class=\"num\"><strong>1<\/strong><\/span><\/p>\n<p><strong>Sesgo de selecci\u00f3n.<\/strong> Aqu\u00ed se considera un grupo demasiado limitado al recopilar los datos.  Un ejemplo es la investigaci\u00f3n sobre la eficacia del refuerzo corona.  Puede ser que las personas que toman el refuerzo sean m\u00e1s cuidadosas de todos modos y, por lo tanto, tengan menos probabilidades de contraer corona.  Esto podr\u00eda hacer que el efecto del refuerzo parezca mayor de lo que es.<\/p>\n<p><span class=\"num\"><strong>2<\/strong><\/span><\/p>\n<p><strong>Causa com\u00fan.<\/strong> Aqu\u00ed A parece ser causa de B, pero en realidad hay una variable C que causa tanto A como B.  Por ejemplo, se puede encontrar una correlaci\u00f3n entre el consumo de helado, que es mayor en verano, y el n\u00famero de personas que se ahogan.  Pero en este caso no es el consumo de hielo lo que provoca el ahogamiento, porque ambos est\u00e1n asociados a las altas temperaturas. <\/p>\n<p><span class=\"num\"><strong>3<\/strong><\/span><\/p>\n<p><strong>Causa inversa.<\/strong> Aqu\u00ed A podr\u00eda parecer una causa de B, pero en realidad es al rev\u00e9s.  Un ejemplo: tener un trastorno psiqui\u00e1trico y consumo de drogas.<\/p>\n<p><span class=\"num\"><strong>4<\/strong><\/span><\/p>\n<p><strong>Causas c\u00edclicas.<\/strong> A puede ser causa de B. Pero puede pasar desapercibido que quiz\u00e1s B tambi\u00e9n cause A.  Por ejemplo, el derretimiento del hielo y el calentamiento global.  Las temperaturas m\u00e1s altas hacen que el hielo se derrita.  Pero el derretimiento del hielo tambi\u00e9n garantiza que el mar no sea de un blanco helado, sino de un azul l\u00edquido, lo que significa que absorbe m\u00e1s calor.  Esto hace que la tierra se caliente a\u00fan m\u00e1s.<\/p>\n<\/div>\n<\/div>\n<\/aside>\n<p class=\"question\">Predecir algo equivocado nuevamente no es un desastre.  \u00bfPuede realmente tener consecuencias importantes?<\/p>\n<p>\u201cS\u00ed, un hecho sobre el que tengo dudas es que cada vez m\u00e1s decisiones se subcontratan a algoritmos.  \u00bfCalifica para un pr\u00e9stamo?  \u00bfHay motivos para pensar que est\u00e1 cometiendo un fraude o que es un delincuente?  \u00bfYa te pueden dar el alta de cuidados intensivos o es mejor quedarte en cama un rato?<\/p>\n<p>\u201cPor ejemplo, un algoritmo que decide si un paciente puede ser dado de alta de cuidados intensivos puede basarse en datos existentes sobre los pacientes dados de alta por los m\u00e9dicos.  El problema es que cuando los m\u00e9dicos han hecho bien su trabajo, este algoritmo casi no ve ejemplos de casos en los que las cosas salgan mal.  Como el algoritmo s\u00f3lo analiza las correlaciones, puede cometer errores muy b\u00e1sicos.<\/p>\n<p>\u201cSi quieres entrenar un algoritmo para tomar decisiones, siempre obtendr\u00e1s distorsiones en los datos.  Lo bueno es que podemos corregir ese tipo de distorsiones con m\u00e9todos causales\u201d.<\/p>\n<p class=\"question\">\u00bfC\u00f3mo funciona ese m\u00e9todo causal?<\/p>\n<p>\u201cAhora estoy escribiendo un art\u00edculo sobre un m\u00e9todo para demostrar que no hab\u00eda pruebas claras de discriminaci\u00f3n en un conocido conjunto de datos de 1973 de la Universidad de Berkeley en California.  Los datos mostraron que exist\u00eda una correlaci\u00f3n entre el g\u00e9nero y las posibilidades de ser admitido en un curso.  El riesgo era menor para las mujeres que para los hombres.<\/p>\n<p>\u201cPara ver si realmente existe una relaci\u00f3n causal entre el g\u00e9nero y las posibilidades de admisi\u00f3n, se pueden observar las explicaciones hipot\u00e9ticas que existen para los datos.  Una explicaci\u00f3n es que el comit\u00e9 de admisiones realmente ten\u00eda preferencia por los estudiantes varones.  Pero otra explicaci\u00f3n, por ejemplo, es que hay una variable interviniente que afecta el g\u00e9nero y que hace menos probable que los estudiantes sean aceptados.<\/p>\n<p>\u201cEn este caso, el segundo escenario puede explicar los datos.  Y efectivamente result\u00f3 que hubo una causa interviniente: el departamento en el que se matriculan los estudiantes.  Debido a que las mujeres ten\u00edan m\u00e1s probabilidades de postularse para carreras como humanidades, donde era m\u00e1s dif\u00edcil ser aceptadas en Berkeley, ten\u00edan menos probabilidades de ser aceptadas.  Pero el g\u00e9nero no es la causa directa\u201d.<\/p>\n<p class=\"question\">\u00bfPuede un m\u00e9todo de este tipo realmente encontrar conexiones causales en los datos con certeza?<\/p>\n<p>\u201cLo que podemos decir con certeza en el ejemplo de Berkeley es que no hay evidencia de discriminaci\u00f3n en los datos.  Puede que todav\u00eda haya discriminaci\u00f3n, pero estos datos no lo demuestran.<\/p>\n<p>\u201cEn general, una de las cosas dif\u00edciles en este campo es que a menudo resulta dif\u00edcil demostrar que un m\u00e9todo causal matem\u00e1tico de este tipo funciona.  Porque muchas veces no sabemos con certeza cu\u00e1les son exactamente las relaciones causales.  La \u00fanica manera de descubrir que una predicci\u00f3n causal es correcta es si usted mismo tambi\u00e9n puede realizar cambios para probar las consecuencias de dicho cambio.  S\u00f3lo tenemos un Berkeley en los a\u00f1os 70, nada puede cambiar eso ahora.<\/p>\n<p>\u201cPude verificar otro m\u00e9todo causal con datos de un estudio sobre c\u00e9lulas de levadura.  En Utrecht, los cient\u00edficos han investigado c\u00f3mo los diferentes genes de esas c\u00e9lulas se influyen entre s\u00ed.  Durante cinco a\u00f1os, los robots realizaron todo tipo de experimentos en esas c\u00e9lulas.  Luego utilizamos parte de los datos para predecir que un determinado gen ten\u00eda un efecto sobre otro gen.  Y luego pudimos verificar la predicci\u00f3n con los datos recopilados m\u00e1s tarde, despu\u00e9s de que los investigadores cambiaron algo.<\/p>\n<p><dmt-quote inverse=\"false\" styled=\"true\" type=\"streamer\"><span slot=\"quote\">Durante cinco a\u00f1os, robots realizaron todo tipo de experimentos en esas c\u00e9lulas<\/span><\/dmt-quote><\/p>\n<p>\u201cPero esa investigaci\u00f3n cuesta millones.  Es muy dif\u00edcil encontrar m\u00e1s conjuntos de datos como este.  Ahora me he asociado con Booking.com y quieren ver, por ejemplo, el efecto de colocar determinados anuncios en la parte superior.  Luego puedo usar esto para probar mis m\u00e9todos causales\u201d.<\/p>\n<p class=\"question\">\u00bfC\u00f3mo se puede aplicar en la pr\u00e1ctica un m\u00e9todo tan causal?<\/p>\n<p>\u201cA\u00fan no hemos desarrollado un algoritmo que pueda aplicar este m\u00e9todo por s\u00ed solo.  Ahora sigue siendo una cuesti\u00f3n de trabajo humano.  Pero en principio queremos crear tales algoritmos.  De esta manera podemos mejorar las t\u00e9cnicas de aprendizaje autom\u00e1tico permiti\u00e9ndoles proponer diferentes escenarios causales hipot\u00e9ticos, probarlos con los datos y as\u00ed buscar conexiones causales.<\/p>\n<p>\u201cEn principio, gran parte de las cuestiones en la ciencia, pero tambi\u00e9n en la sociedad, son causales.  Pero creo que esta forma de aprendizaje autom\u00e1tico que busca conexiones causales ser\u00e1 especialmente adecuada para cuestiones de biolog\u00eda y econom\u00eda, por ejemplo.  En biolog\u00eda existen sistemas causales muy complejos, como los genes de esas c\u00e9lulas de levadura.<\/p>\n<p>\u201cEs simplemente imposible investigar los v\u00ednculos causales entre esas c\u00e9lulas de levadura sin el aprendizaje autom\u00e1tico.  Entonces alguien tiene que examinar por s\u00ed mismo 25 millones de pares de genes.  Es realmente como buscar una aguja en un pajar\u201d.<\/p>\n<p><dmt-util-bar article=\"4188541\" headline=\"Als een computer naar oorzaken gaat zoeken, kan het helemaal misgaan\" url=\"als-een-computer-naar-oorzaken-gaat-zoeken-kan-het-helemaal-misgaan\"><br \/>\n<button class=\"dmt-util-bar__button\" slot=\"share\"><br \/>\n<span class=\"dmt-util-bar__button-container\"><br \/>\n<span class=\"dmt-util-bar__button-title\">Para compartir<\/span><br \/>\n<dmt-icon aria-hidden=\"true\" class=\"dmt-util-bar__button-icon\" name=\"ic-share-web\"\/><br \/>\n<\/span><br \/>\n<\/button><br \/>\n<button class=\"dmt-util-bar__button\" slot=\"contact\"><br \/>\n<span class=\"dmt-util-bar__button-container\"><br \/>\n<span class=\"dmt-util-bar__button-title\">Env\u00ede un correo electr\u00f3nico al editor<\/span><br \/>\n<dmt-icon aria-hidden=\"true\" class=\"dmt-util-bar__button-icon\" name=\"ic-email\"\/><br \/>\n<\/span><br \/>\n<\/button><br \/>\n<\/dmt-util-bar> <\/p>\n<aside data-article-id=\"4188541\" data-js-topic-preview=\"\" data-strip-from-headless=\"modal\" data-topic-id=\"65\" data-topic-name=\"Kunstmatige intelligentie\"\/>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.nrc.nl\/nieuws\/2024\/01\/31\/als-een-computer-naar-oorzaken-gaat-zoeken-kan-het-helemaal-misgaan-a4188541\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-33<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfC\u00f3mo cambiar\u00e1 el clima en el futuro pr\u00f3ximo? \u00bfFue eficaz la campa\u00f1a de refuerzo para aumentar la resistencia<\/p>\n","protected":false},"author":1,"featured_media":1161417,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[7271,37645,1507,1694,2312,4606,246,8975,1125,1469,158],"class_list":["post-1161416","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-buscar","tag-causas","tag-comienza","tag-completamente","tag-computadora","tag-cosas","tag-las","tag-mal","tag-pueden","tag-salir","tag-una"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1161416","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1161416"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1161416\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1161417"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1161416"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1161416"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1161416"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}