El sospechoso de un crimen pronto ya no ser\u00e1 necesariamente un ser humano de carne y hueso. La inteligencia artificial que avanza r\u00e1pidamente se considera a menudo s\u00faper eficiente y orientada a objetivos, pero tambi\u00e9n resulta falible y puede da\u00f1ar a las personas. Piense en los coches aut\u00f3nomos que causan sensaci\u00f3n. Y entonces parece concebible la responsabilidad penal por la inteligencia artificial. \u00bfO es eso exagerado y es impensable que los robots y los sistemas acaben alg\u00fan d\u00eda en el banquillo de los acusados?<\/p>\n
La abogada italiana Alice Giannini (30) ha investigado este tema en los \u00faltimos a\u00f1os. Result\u00f3 en su tesis. Comportamiento criminal y responsabilidad de los sistemas de inteligencia artificial<\/em>tras lo cual recibi\u00f3 su doctorado el 24 de noviembre en la Universidad de Maastricht, donde es profesora universitaria desde este a\u00f1o.<\/p>\n El tema se present\u00f3 con naturalidad, dice: \u201cDespu\u00e9s de mis estudios de Derecho, combin\u00e9 unas pr\u00e1cticas en el Ministerio P\u00fablico con un trabajo en una nueva empresa que desarrollaba IA\u201d. Su infancia tambi\u00e9n influy\u00f3: \u201cCuando era joven ve\u00eda muchas pel\u00edculas de ciencia ficci\u00f3n con mi padre. Es curioso ver c\u00f3mo escenarios que en su momento se cre\u00edan imposibles ahora se est\u00e1n haciendo realidad. Quiz\u00e1s tambi\u00e9n un poco de miedo, aunque yo no tengo miedo\u201d.<\/p>\n \u00bfEn qu\u00e9 \u00e1reas la IA ha progresado hasta tal punto que podr\u00edan entrar en juego cuestiones de derecho penal?<\/span><\/p>\n \u201cYo dir\u00eda: tr\u00e1fico, atenci\u00f3n sanitaria. Y no nos olvidemos de la aviaci\u00f3n\u201d.<\/p>\n \u00bfY d\u00f3nde est\u00e1 la reflexi\u00f3n sobre esto en el derecho penal?<\/span><\/p>\n “Cuando comenc\u00e9 mi investigaci\u00f3n en 2019, era realmente un nicho, pero en los \u00faltimos a\u00f1os se han publicado muchos art\u00edculos sobre IA y derecho penal”.<\/p>\n \u00bfC\u00f3mo procediste?<\/span><\/p>\n \u201cHab\u00eda mucho que asimilar. Tambi\u00e9n es fundamental un poco de conocimiento t\u00e9cnico sobre IA. Y tuve que definir la IA. Es como intentar clavar pud\u00edn en un \u00e1rbol. No s\u00f3lo los abogados, sino tambi\u00e9n los t\u00e9cnicos no pueden ponerse de acuerdo en esto. Despu\u00e9s de establecer finalmente una definici\u00f3n, mi investigaci\u00f3n tambi\u00e9n tuvo un componente filos\u00f3fico importante: \u00bfpuede la IA ser una entidad legal? \u00bfTiene libre albedr\u00edo? \u00bfPuede sentirse culpable? Es casi interminable: empiezas con cien preguntas y terminas con cien mil preguntas\u201d.<\/p>\n Sin embargo, finalmente lleg\u00f3 al tema principal: la responsabilidad penal.<\/span><\/p>\n \u201cSe pueden distinguir aproximadamente tres escuelas de pensamiento: los ‘expansionistas’, que defienden firmemente la responsabilidad y la modificaci\u00f3n del derecho penal, los esc\u00e9pticos que consideran que estas tonter\u00edas no son realistas y los moderados. Est\u00e1n en el medio y dicen: ‘Todav\u00eda es demasiado pronto, pero cuando llegue el momento, el derecho penal puede ofrecer una soluci\u00f3n’\u201d.<\/p>\n <\/dmt-image-wrapper><\/p>\n \u00bfY, qu\u00e9 piensas?<\/span><\/p>\n \u201cEmpec\u00e9 como un esc\u00e9ptico, como alguien que pensaba que era una tonter\u00eda. Despu\u00e9s de toda mi investigaci\u00f3n, me cuento entre los moderados. A largo plazo, realmente podr\u00eda llegar al punto en que sea necesario\u201d.<\/p>\n \u00bfPor qu\u00e9 no ahora?<\/span><\/p>\n \u201cLa ley existente es suficiente por el momento. Si algo sucede ahora, puedes procesar a los desarrolladores o empresas detr\u00e1s de la IA. Y si se quiere regular con demasiada antelaci\u00f3n, se detendr\u00e1 la innovaci\u00f3n en una fase temprana. Nadie quiere inventar nada si inmediatamente corre el riesgo de asumir una responsabilidad enorme\u201d.<\/p>\n \u00bfNo corre el riesgo de que el legislador siga a la zaga de los hechos?<\/span><\/p>\n \u201cEl derecho penal no deber\u00eda ser uno de los primeros en llegar a un partido. Est\u00e1 pensado como \u00faltimo recurso. Investiga el tema y debatelo, pero t\u00f3mate tu tiempo y descansa. Adem\u00e1s, es imposible predecir qu\u00e9 podr\u00eda salir mal con la IA dentro de varios a\u00f1os, porque no podemos predecir qu\u00e9 es posible entonces. Para las aplicaciones actuales, por ejemplo en la atenci\u00f3n sanitaria y en los veh\u00edculos aut\u00f3nomos, la ley existente sigue siendo suficiente\u201d.<\/p>\n \u00bfCu\u00e1ndo es necesaria una nueva legislaci\u00f3n?<\/span><\/p>\n \u201cTan pronto como comenzamos a desarrollar m\u00e1quinas, tambi\u00e9n las consideramos parte de nuestra comunidad. En ese momento tambi\u00e9n pueden amenazar a nuestra comunidad y cometer delitos en el sentido jur\u00eddico de la palabra. Para evitarlo, deben poder aprender reglas morales y legales.<\/p>\n \u00bfEso no es posible todav\u00eda?<\/span><\/p>\n \u201cSe est\u00e1 trabajando en la moralidad de la IA, pero actualmente es imposible pensar en cada dilema de antemano o hacer que una m\u00e1quina haga las concesiones que a veces hacemos en un abrir y cerrar de ojos. Un ejemplo cl\u00e1sico: un amigo tiene que ir corriendo a urgencias debido a dolencias agudas y peligrosas. Entonces no se trata simplemente de una cuesti\u00f3n de m\u00e1xima urgencia o de respeto de las normas de circulaci\u00f3n. No, la mayor\u00eda de las personas suelen intentar mantener el equilibrio entre llegar r\u00e1pidamente a la sala de urgencias y mantener el riesgo de sufrir un accidente de tr\u00e1fico lo m\u00e1s bajo posible\u201d. <\/p>\n \u00bfC\u00f3mo ser\u00edan las sanciones para la IA?<\/span><\/p>\n \u201cLa pena de muerte es la m\u00e1s dr\u00e1stica: destruir un robot o apagar un sistema. Pero en muchos lugares hemos superado la etapa de castigar a la gente con la muerte. Y la IA realmente no puede sufrir. Multar es dif\u00edcil. Actualmente, la IA no puede poseer dinero por s\u00ed sola. Me parece que la condena a reprogramaci\u00f3n es la que tiene m\u00e1s sentido. Con las personas tambi\u00e9n esperas que despu\u00e9s de cumplir una condena surjan como mejores personas, que no vuelvan a cometer el mismo error\u201d.<\/p>\n \u00bfJuzgar\u00e1n entonces los jueces humanos o la IA pronto juzgar\u00e1 a la IA?<\/span><\/p>\n \u201cEsto \u00faltimo parece muy probable. Los jueces y abogados de AI est\u00e1n avanzando mucho m\u00e1s r\u00e1pido que la responsabilidad penal de AI. La inteligencia artificial ya tiene aplicaciones de este tipo, no tan extremas como los jueces rob\u00f3ticos, sino para calcular la posibilidad de reincidencia y el castigo m\u00e1s adecuado en funci\u00f3n del delito, la situaci\u00f3n y las circunstancias\u201d.<\/p>\n \nLea tambi\u00e9n<\/strong>
\nLos derechos humanos tambi\u00e9n desempe\u00f1an un papel en la IA, por eso Jan Kleijssen est\u00e1 trabajando en un tratado<\/span>\n<\/p>\nJan Kleijssen<\/strong> en un parque de Estrasburgo, donde se encuentra el Consejo de Europa.” class=”dmt-article-suggestion__image” src=”https:\/\/images.nrc.nl\/6dr8mPmCnK2sSJ6PVZ3HnYK61Po=\/160×96\/smart\/filters:no_upscale()\/s3\/static.nrc.nl\/bvhw\/files\/2023\/01\/data94831917-9d3d4a.jpg”\/><\/p>\n\n<\/div>\n