\n<\/p>\n
Una de las razones por las que mi pareja y yo nos llevamos bien es que a ambos nos gustan los juegos de mesa y yo no soy muy bueno en ellos. Esto ayuda, porque mi socio es un gran ganador pero un terrible perdedor. Una vez, cuando era adolescente, durante un juego de damas con su hermana, respondi\u00f3 a una posici\u00f3n imposible de ganar volteando la mesa.<\/p>\n
Si la inteligencia artificial destruye la vida humana, es casi seguro que se parecer\u00e1 m\u00e1s a la reacci\u00f3n de mi compa\u00f1ero ante la derrota que a la inteligencia destructiva del terminador <\/em>Pel\u00edcula (s. La cat\u00e1strofe vendr\u00e1 no cuando una inteligencia sofisticada decida usar su poder para el mal deliberado, sino cuando la forma m\u00e1s f\u00e1cil de cumplir su programaci\u00f3n y de \u201cganar\u201d sea dar la vuelta a la mesa. <\/p>\n La amenaza de que la inteligencia artificial cause alg\u00fan tipo de desastre social es, por supuesto, una raz\u00f3n por la que deber\u00edamos preocuparnos por la investigaci\u00f3n, la \u00e9tica y la transparencia. Pero este enfoque en el potencial de cat\u00e1strofe a veces puede distraer la atenci\u00f3n de los peligros m\u00e1s mundanos. Si su Satnav lo dirige hacia el borde de un precipicio, como sucedi\u00f3 en 2009, cuando Robert Jones fue condenado por no conducir con el debido cuidado y atenci\u00f3n, entonces no es una tragedia a nivel social. Pero puede ser personal si te lleva a perder la vida, el trabajo o incluso el permiso de conducir. <\/p>\n Una consecuencia desafortunada de las constantes predicciones nefastas sobre las peores consecuencias de la inteligencia artificial o los programas de aprendizaje autom\u00e1tico es que alientan una especie de complacencia de “bueno, todav\u00eda no nos han matado” sobre su prevalencia actual en las pol\u00edticas p\u00fablicas y la toma de decisiones comerciales. . <\/p>\n Un problema m\u00e1s com\u00fan es que, tanto para los pol\u00edticos como para los l\u00edderes empresariales, la palabra “algoritmo” a veces puede estar imbuida de poderes m\u00e1gicos. Un buen ejemplo reciente es el intento fallido del gobierno del Reino Unido de asignar calificaciones a los estudiantes durante la pandemia. Pero un algoritmo es simplemente un conjunto de datos alimentados a trav\u00e9s de reglas o f\u00f3rmulas matem\u00e1ticas para producir un resultado. Como ning\u00fan estudiante del Reino Unido que realizaba sus GCSE o A-levels ten\u00eda muchos datos significativos sobre su propio desempe\u00f1o, el “algoritmo” del Reino Unido era esencialmente arbitrario a nivel individual. El resultado fue una protesta p\u00fablica, un algoritmo abandonado y una inflaci\u00f3n galopante de las calificaciones. <\/p>\n El uso m\u00e1s preocupante de los algoritmos en la pol\u00edtica son los llamados “algoritmos de caja negra”: aquellos en los que las entradas y los procesos est\u00e1n ocultos a la vista del p\u00fablico. Esto puede deberse a que se considera informaci\u00f3n patentada: por ejemplo, los factores que sustentan el sistema Compas, que se utiliza en los EE. UU. para medir la probabilidad de reincidencia, no est\u00e1n disponibles p\u00fablicamente porque se tratan como propiedad de la empresa. <\/p>\n Esto inevitablemente plantea problemas para la democracia. Cualquier sistema dise\u00f1ado para medir la probabilidad de que alguien reincida tiene que elegir entre dejar salir a aquellos que de hecho pueden volver a delinquir o continuar encarcelando a las personas que est\u00e1n listas para convertirse en miembros productivos de la sociedad. No hay una respuesta “correcta” o “justa” aqu\u00ed: los algoritmos pueden dar forma a su toma de decisiones, pero el juicio es, en \u00faltima instancia, uno que deben tomar los pol\u00edticos e, indirectamente, sus votantes. <\/p>\n Como ha observado el estad\u00edstico David Spiegelhalter, no existe una diferencia pr\u00e1ctica entre los jueces que utilizan algoritmos y los jueces que siguen las pautas de sentencia. La diferencia importante es \u00fanica y significativamente que las pautas de sentencia se entienden claramente, est\u00e1n disponibles p\u00fablicamente y est\u00e1n sujetas a debate democr\u00e1tico. <\/p>\n El algoritmo de examen condenado al fracaso del Reino Unido no fue una “caja negra” debido a las leyes de propiedad intelectual o al deseo de una empresa de proteger sus intereses, sino el resultado de la preferencia predeterminada del estado brit\u00e1nico por la toma de decisiones opaca. Si el funcionamiento del proceso hubiera estado disponible antes, la oposici\u00f3n pol\u00edtica habr\u00eda quedado clara a tiempo para encontrar una soluci\u00f3n m\u00e1s aceptable. <\/p>\n La otra forma de algoritmo de caja negra es aquella en la que la informaci\u00f3n est\u00e1 disponible p\u00fablicamente pero es demasiado compleja para comprenderla f\u00e1cilmente. Esto, de nuevo, puede tener consecuencias nefastas. Si el algoritmo que decide qui\u00e9n es despedido no puede ser razonablemente entendido por los empleados o, de hecho, por los empleadores, entonces es una herramienta pobre para los gerentes y causa infelicidad. En la pol\u00edtica p\u00fablica, si los resultados de un algoritmo son demasiado complejos, pueden confundir el debate en lugar de ayudar a los legisladores a tomar mejores decisiones. <\/p>\n Spiegelhalter propone un proceso de cuatro fases para los algoritmos y el aprendizaje autom\u00e1tico en las pol\u00edticas p\u00fablicas y el lugar de trabajo, comparable al proceso por el que deben pasar los productos farmac\u00e9uticos del Reino Unido para ser aprobados. Una de las razones por las que ese plan es bueno es que podr\u00eda evitar un error que podr\u00eda acabar con el mundo: pero tambi\u00e9n podr\u00eda evitar tragedias menores y fallas en las pol\u00edticas p\u00fablicas.<\/p>\n