{"id":752466,"date":"2023-05-13T10:43:59","date_gmt":"2023-05-13T10:43:59","guid":{"rendered":"https:\/\/teknomers.com\/es\/las-personas-detras-de-ai-merecen-nuestra-profunda-desconfianza-y-reglas-estrictas\/"},"modified":"2023-05-13T10:44:03","modified_gmt":"2023-05-13T10:44:03","slug":"las-personas-detras-de-ai-merecen-nuestra-profunda-desconfianza-y-reglas-estrictas","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/las-personas-detras-de-ai-merecen-nuestra-profunda-desconfianza-y-reglas-estrictas\/","title":{"rendered":"Las personas detr\u00e1s de AI merecen nuestra profunda desconfianza y reglas estrictas."},"content":{"rendered":"\n<div id=\"\">\n<section class=\"artstyle__production artstyle__production--hide-author fu--hide-author artstyle__production--hide-time fu--hide-time artstyle__production--margin-bottom-s-s fu--margin-bottom-s-s artstyle__production--with-authors\" data-element-id=\"article-element-authors\"><span class=\"artstyle__production__authors\">Kustaw Bessems<\/span><time class=\"artstyle__production__datetime\" datetime=\"12 mei 2023\"><span class=\"artstyle__production__date\">12 de mayo de 2023<\/span><span class=\"artstyle__production__time\">15:36<\/span><\/time><span class=\"artstyle__production-decoration\"><svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"184\" height=\"11\" viewbox=\"0 0 184 11\" fill=\"none\"><mask id=\"path-1-inside-1\" fill=\"white\"><path fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M86.9133 5.08154L81.8318 0L76.7745 5.05725H0V5.65725H76.7288L81.8318 10.7603L86.9133 5.67871L91.9949 10.7603L96.9948 5.76038L101.995 10.7603L107.098 5.65725H184V5.05725H107.052L101.995 0L96.9948 4.99988L91.9949 0L86.9133 5.08154Z\"\/><\/mask><path fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M86.9133 5.08154L81.8318 0L76.7745 5.05725H0V5.65725H76.7288L81.8318 10.7603L86.9133 5.67871L91.9949 10.7603L96.9948 5.76038L101.995 10.7603L107.098 5.65725H184V5.05725H107.052L101.995 0L96.9948 4.99988L91.9949 0L86.9133 5.08154Z\" fill=\"white\"\/><path d=\"M81.8318 0L82.2122 -0.380432L81.8318 -0.760863L81.4514 -0.380432L81.8318 0ZM86.9133 5.08154L86.5329 5.46197L86.9133 5.84241L87.2938 5.46197L86.9133 5.08154ZM76.7745 5.05725V5.59526H76.9974L77.155 5.43768L76.7745 5.05725ZM0 5.05725V4.51924H-0.538012V5.05725H0ZM0 5.65725H-0.538012V6.19526H0V5.65725ZM76.7288 5.65725L77.1092 5.27682L76.9516 5.11924H76.7288V5.65725ZM81.8318 10.7603L81.4514 11.1407L81.8318 11.5211L82.2122 11.1407L81.8318 10.7603ZM86.9133 5.67871L87.2938 5.29828L86.9133 4.91785L86.5329 5.29828L86.9133 5.67871ZM91.9949 10.7603L91.6144 11.1407L91.9949 11.5211L92.3753 11.1407L91.9949 10.7603ZM96.9948 5.76038L97.3752 5.37995L96.9948 4.99951L96.6143 5.37995L96.9948 5.76038ZM101.995 10.7603L101.614 11.1407L101.995 11.5211L102.375 11.1407L101.995 10.7603ZM107.098 5.65725V5.11924H106.875L106.717 5.27682L107.098 5.65725ZM184 5.65725V6.19526H184.538V5.65725H184ZM184 5.05725H184.538V4.51924H184V5.05725ZM107.052 5.05725L106.671 5.43768L106.829 5.59526H107.052V5.05725ZM101.995 0L102.375 -0.380432L101.995 -0.760863L101.614 -0.380432L101.995 0ZM96.9948 4.99988L96.6143 5.38031L96.9948 5.76074L97.3752 5.38031L96.9948 4.99988ZM91.9949 0L92.3753 -0.380432L91.9949 -0.760863L91.6144 -0.380432L91.9949 0ZM81.4514 0.380432L86.5329 5.46197L87.2938 4.70111L82.2122 -0.380432L81.4514 0.380432ZM77.155 5.43768L82.2122 0.380432L81.4514 -0.380432L76.3941 4.67682L77.155 5.43768ZM76.7745 4.51924H0V5.59526H76.7745V4.51924ZM-0.538012 5.05725V5.65725H0.538012V5.05725H-0.538012ZM0 6.19526H76.7288V5.11924H0V6.19526ZM82.2122 10.3798L77.1092 5.27682L76.3484 6.03768L81.4514 11.1407L82.2122 10.3798ZM86.5329 5.29828L81.4514 10.3798L82.2122 11.1407L87.2938 6.05914L86.5329 5.29828ZM92.3753 10.3798L87.2938 5.29828L86.5329 6.05914L91.6144 11.1407L92.3753 10.3798ZM96.6143 5.37995L91.6144 10.3798L92.3753 11.1407L97.3752 6.14081L96.6143 5.37995ZM102.375 10.3798L97.3752 5.37995L96.6143 6.14081L101.614 11.1407L102.375 10.3798ZM106.717 5.27682L101.614 10.3798L102.375 11.1407L107.478 6.03768L106.717 5.27682ZM107.098 6.19526H184V5.11924H107.098V6.19526ZM184.538 5.65725V5.05725H183.462V5.65725H184.538ZM184 4.51924H107.052V5.59526H184V4.51924ZM101.614 0.380432L106.671 5.43768L107.432 4.67682L102.375 -0.380432L101.614 0.380432ZM97.3752 5.38031L102.375 0.380432L101.614 -0.380432L96.6143 4.61945L97.3752 5.38031ZM91.6144 0.380432L96.6143 5.38031L97.3752 4.61945L92.3753 -0.380432L91.6144 0.380432ZM87.2938 5.46197L92.3753 0.380432L91.6144 -0.380432L86.5329 4.70111L87.2938 5.46197Z\" fill=\"black\" mask=\"url(#path-1-inside-1)\"\/><\/svg><\/span><\/section>\n<p class=\"artstyle__paragraph artstyle__paragraph--drop-cap fu--drop-cap artstyle__paragraph--drop-cap-s fu--drop-cap-s\" data-element-id=\"5af1-08cc-d40c-255d-6643-3356-6c14-4c63\">\n<p>      Supongamos que una compa\u00f1\u00eda farmac\u00e9utica dice: tenemos un medicamento nuevo y muy poderoso.  Lo hemos probado, pero no diremos c\u00f3mo.  Tampoco decimos c\u00f3mo funciona.  Nosotros mismos no entendemos completamente eso.  Ahora vamos a inyectar esa cosa a la poblaci\u00f3n mundial, porque solo as\u00ed veremos claramente las ventajas y desventajas.  \u00a1Juntos lo convertimos en un medicamento del que todos se beneficiar\u00e1n!\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"d7a3-775c-ec11-4d4a-a33a-4989-ec35-ab8f\">\n<p>      Inconcebible.  Sin embargo, esto es lo que aceptamos de los gigantes tecnol\u00f3gicos.  Una vez m\u00e1s, mientras desatan la \u00faltima generaci\u00f3n de productos de IA sobre nosotros.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"af25-d9e7-3815-d402-440d-456d-9495-9042\">\n<p>      La recepci\u00f3n es diferente de las revoluciones tecnol\u00f3gicas anteriores.  No nos desmayamos simplemente ante los suaves heraldos del glorioso futuro.  Conocemos las desventajas de todas esas nuevas posibilidades anteriores: violaciones de la privacidad, robo de datos, mentiras, chantaje, adicci\u00f3n, discriminaci\u00f3n, vigilancia masiva y opresi\u00f3n.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"dc6b-74cd-295f-700a-7e6b-29d0-85be-ecb8\">\n<p>      Incluso ahora estaba esa fase: \u00a1mira qu\u00e9 inteligente responde ese chatbot!  \u00a1Mira qu\u00e9 real se ve esta imagen!  Pero pronto la atenci\u00f3n se centr\u00f3 en los riesgos.  Lo m\u00e1s notable: ataques cibern\u00e9ticos m\u00e1s intensos, estafas a gran escala m\u00e1s enga\u00f1osas y <a rel=\"nofollow noopener\" href=\"https:\/\/www.axios.com\/2023\/05\/02\/ai-chatgpt-disasters-scenarios-harms-geoffrey-hinton\" target=\"_blank\">un boom de desinformaci\u00f3n altamente persuasiva<\/a>.  Afortunadamente, actualmente se est\u00e1 aprobando una legislaci\u00f3n europea que restringe la IA, protege los derechos fundamentales y establece requisitos para la supervisi\u00f3n.  Pero la escrupulosidad con la que se hacen las leyes va a la zaga de la descuidada facilidad con la que las empresas tecnol\u00f3gicas nos arrojan prototipos.  Aunque hemos perdido la inocencia, la divisi\u00f3n de roles parece inevitable: las grandes tecnolog\u00edas nos inundan de productos, luchamos por mantener la cabeza fuera del agua.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"b4ca-0d50-c373-6df4-7256-136a-909d-c778\">\n<p>      OpenAI, que lanz\u00f3 recientemente los productos m\u00e1s innovadores, los est\u00e1 probando primero.  Pero, agrega la compa\u00f1\u00eda, solo se puede aprender mucho en un laboratorio.  Para descubrir realmente qu\u00e9 puede hacer la gente con la tecnolog\u00eda y c\u00f3mo pueden abusar de ella, tiene que salir al mundo.  Y OpenAI, de hecho una extensi\u00f3n de Microsoft, promete solemnemente intervenir si es necesario.  &#8216;Juntos nos aseguraremos de que la IA beneficie a toda la humanidad&#8217;, <a rel=\"nofollow noopener\" href=\"https:\/\/youtu.be\/C_78DM8fG6E\" target=\"_blank\">Musas CEO Greg Brockman<\/a>.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"af6b-e215-a1f2-ae4c-e944-c98c-6c0d-e921\">\n<p>      Esto tiene sentido desde el punto de vista del desarrollador: cuanto m\u00e1s uso, m\u00e1s informaci\u00f3n y mejor su producto.  Una nueva empresa nueva con una nueva aplicaci\u00f3n divertida ciertamente deber\u00eda hacerlo de esa manera.  Pero a esta escala y con estas enormes consecuencias, es irresponsable.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"97ef-0822-a0e7-a902-dc84-fb5b-6616-c264\">\n<p>      Los programas de computadora a menudo eligen soluciones con resultados indeseables que los inventores no ven venir.  Con estos programas de autoaprendizaje, que pueden escribir nuevos programas por s\u00ed mismos y pueden establecer conexiones con personas y otras m\u00e1quinas, el problema es muchas veces mayor.  Ya hay un ejemplo en el que la IA enga\u00f1\u00f3 a un humano <a rel=\"nofollow noopener\" href=\"https:\/\/www.washingtonpost.com\/business\/2023\/03\/19\/chatgpt-can-lie-but-it-s-only-imitating-humans\/814706ee-c650-11ed-9cc5-a58a4f6d84cd_story.html\" target=\"_blank\">para realizar una tarea<\/a>.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"0554-4d57-4132-d53c-5aef-6227-c9f8-0af6\">\n<p>      Con su lenguaje ut\u00f3pico, Brockman tambi\u00e9n amortigua la dura carrera comercial.  Si Microsoft toma la delantera, Google se siente obligado a apresurarse a lanzar sus productos de inteligencia artificial, si es necesario, un poco menos probados.  Seg\u00fan Geoffrey Hinton, quien ayud\u00f3 a ser pionero en la tecnolog\u00eda actual y quien recientemente renunci\u00f3 a su trabajo en Google para ser libre <a rel=\"nofollow noopener\" href=\"https:\/\/www.technologyreview.com\/2023\/05\/02\/1072528\/geoffrey-hinton-google-why-scared-ai\/\" target=\"_blank\">advertir de los peligros de la IA<\/a>las empresas dedican el 99 por ciento de sus recursos al desarrollo y el 1 por ciento a la seguridad, donde deber\u00eda ser cincuenta por ciento.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"7e9f-9cbd-13b5-0557-1821-5be9-ade9-d4e2\">\n<p>      La sobreestimaci\u00f3n de s\u00ed mismo de tal Brockman tambi\u00e9n: \u00bfpor qu\u00e9 alguien que es capaz de liderar una empresa de tecnolog\u00eda innovadora piensa que es adecuado para gestionar las repercusiones sociales?  La pregunta que deber\u00edamos hacernos sobre la IA y cualquier tecnolog\u00eda nueva <a rel=\"nofollow noopener\" href=\"https:\/\/time.com\/6268843\/ai-risks-democracy-technology\/\" target=\"_blank\">escribe en Roger McNamee <i>Tiempo<\/i><\/a>, &#8216;es si se debe permitir a las empresas realizar experimentos no controlados en toda la poblaci\u00f3n sin barandillas ni redes de seguridad&#8217;.  McNamee fue uno de los primeros inversores de Facebook que se convirti\u00f3 en un feroz cr\u00edtico.  &#8220;\u00bfDeber\u00eda ser legal para las empresas lanzar productos a las masas sin tener que demostrar que esos productos son seguros?&#8221;\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"1a76-2832-e6c8-ab05-c377-9ffa-133f-28e3\">\n<p>      Pero un proceso de aprobaci\u00f3n completo por adelantado, sin duda, los EE.UU. a\u00fan est\u00e1 muy lejos.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"b88e-be03-f90b-08c8-d30e-add7-fb7f-b8ce\">\n<p>      Mientras tanto, algunos desarrolladores y antiguos defensores de la IA est\u00e1n alimentando los disturbios.  Esperan una IA que sea m\u00e1s inteligente que los humanos en un futuro previsible.  El investigador estadounidense de inteligencia artificial Eliezer Yudkowsky advierte contra nada menos que <a rel=\"nofollow noopener\" href=\"https:\/\/time.com\/6266923\/ai-eliezer-yudkowsky-open-letter-not-enough\/\" target=\"_blank\">el exterminio de la humanidad<\/a> y recibe mucho apoyo.  Pero hay algo raro en esto.  La mayor\u00eda de los expertos independientes consideran esta ciencia ficci\u00f3n, que simplemente distrae de los peligros reales.  Y si escuchas hablar a alguien como Yudkowsky, no parece muy lastrado por el apocalipsis que \u00e9l mismo esboz\u00f3.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"59d2-6af6-d8b3-a732-8ba5-eed7-f69b-435b\">\n<p>      El hecho de que la IA potencialmente anuncie nuestro fin de los tiempos, por lo tanto, no es una idea repentinamente impactante.  Ha sido la fascinaci\u00f3n de este tipo de personas durante a\u00f1os.  Shane Legg, el principal cient\u00edfico de Google en este campo, dijo en 2011 que la IA <a rel=\"nofollow noopener\" href=\"https:\/\/www.lesswrong.com\/posts\/No5JpRCHzBrWA4jmS\/q-and-a-with-shane-legg-on-risks-from-ai\" target=\"_blank\">en la parte superior de la lista de amenazas existenciales<\/a> representaba a la humanidad.  Luego sigui\u00f3 jugando.  Sam Altman, CEO de OpenAI, casualmente deja caer que AI &#8220;puede apagar las luces para todos nosotros&#8221; y apela <i>Los New York Times <\/i>luego con frialdad a Robert Oppenheimer, el &#8216;padre de la bomba at\u00f3mica&#8217;, quien pens\u00f3 que esa discusi\u00f3n era algo para despu\u00e9s del \u00e9xito t\u00e9cnico.  &#8216;La tecnolog\u00eda surge porque es posible&#8217;, <a rel=\"nofollow noopener\" href=\"https:\/\/www.nytimes.com\/2023\/03\/31\/technology\/sam-altman-open-ai-chatgpt.html\" target=\"_blank\">altman dijo<\/a>.\n    <\/p>\n<p class=\"artstyle__paragraph \" data-element-id=\"c874-5509-2729-b02d-64c9-2657-97ad-65d7\">\n<p>      Del mismo modo, estos escenarios de terror son principalmente un s\u00edntoma del problema central: inventores nihilistas, empleados por empresas hambrientas de ganancias con recursos casi ilimitados, llevan a cabo desarrollos que cambian el mundo apenas controlados.\n    <\/p>\n<div class=\"artstyle__container\" data-element-id=\"f75bbabe-c0a0-46c6-a637-cc17a174b6f6\">\n<div class=\"artstyle__container__body\">\n<h4 class=\"artstyle__container__title\" data-element-id=\"aeb0-b7ab-db85-5666-a9ff-4b76-3681-ae0c\">\n      <svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"container__title__icon\">\n        <path fill=\"#D00A10\" fill-rule=\"evenodd\" d=\"M0 0h6.5l4 4.5-4 4.5H0V0z\"\/>\n      <\/svg><\/p>\n<p>      De Volkskrant sobre IA<br \/>\n    <\/h4>\n<p class=\"artstyle__container__text\" data-element-id=\"cdaf-a276-7ee5-03fc-b028-bbe8-4eea-b554\">\n<p>      La inteligencia artificial, AI, est\u00e1 cambiando el mundo a un ritmo acelerado.  Esta semana, de Volkskrant traz\u00f3 las \u00e1reas en las que la IA tiene una gran influencia.  Estas historias y m\u00e1s est\u00e1n incluidas en volkskrant.nl\/ai\n    <\/p>\n<\/p><\/div>\n<\/p><\/div>\n<aside class=\"artstyle__editorial-tips \" data-element-id=\"article-element-editorialtips\">\n<h3 class=\"editorial-tips__title\">Leer tambi\u00e9n<\/h3>\n<\/aside>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.volkskrant.nl\/columns-opinie\/de-mensen-achter-ai-verdienen-ons-diepe-wantrouwen-en-strikte-regels~b12df0c3\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-23<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Kustaw Bessems12 de mayo de 202315:36 Supongamos que una compa\u00f1\u00eda farmac\u00e9utica dice: tenemos un medicamento nuevo y muy<\/p>\n","protected":false},"author":1,"featured_media":752467,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[16213,4991,10230,246,24616,5656,1540,2208,649],"class_list":["post-752466","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cultura","tag-desconfianza","tag-detras","tag-estrictas","tag-las","tag-merecen","tag-nuestra","tag-personas","tag-profunda","tag-reglas"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/752466","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=752466"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/752466\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/752467"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=752466"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=752466"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=752466"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}