{"id":1385804,"date":"2024-10-02T19:28:43","date_gmt":"2024-10-02T19:28:43","guid":{"rendered":"https:\/\/teknomers.com\/es\/el-proyecto-de-ley-de-ia-de-california-tenia-buenas-intenciones-pero-era-defectuoso\/"},"modified":"2024-10-02T19:28:48","modified_gmt":"2024-10-02T19:28:48","slug":"el-proyecto-de-ley-de-ia-de-california-tenia-buenas-intenciones-pero-era-defectuoso","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/el-proyecto-de-ley-de-ia-de-california-tenia-buenas-intenciones-pero-era-defectuoso\/","title":{"rendered":"El proyecto de ley de IA de California ten\u00eda buenas intenciones pero era defectuoso"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Desbloquea el Editor&#8217;s Digest gratis<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Roula Khalaf, editora del FT, selecciona sus historias favoritas en este bolet\u00edn semanal.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=6e460960-9530-40ac-8346-cd25b94f8f32\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Puede sonar un poco a trama de ciencia ficci\u00f3n, pero en el futuro la inteligencia artificial podr\u00eda alcanzar un punto de r\u00e1pida superaci\u00f3n personal, evadir el control humano y desatar el caos sobre los humanos mediante ataques cibern\u00e9ticos o incluso desastres nucleares. \u00c9sa es la preocupaci\u00f3n de algunos cient\u00edficos y desarrolladores, y fue la motivaci\u00f3n para un proyecto de ley de seguridad de la IA en California, donde se encuentran 32 de las 50 principales empresas de IA del mundo. Pero el domingo, el gobernador del estado, Gavin Newsom, vet\u00f3 la legislaci\u00f3n. La decisi\u00f3n se considera una gran victoria para las grandes empresas tecnol\u00f3gicas, una decisi\u00f3n imprudente para la seguridad p\u00fablica y una oportunidad perdida para establecer est\u00e1ndares de facto de seguridad de la IA a nivel nacional. No es tan simple.<\/p>\n<p>Establecer reglas para proteger contra los da\u00f1os potenciales de una tecnolog\u00eda, particularmente una que a\u00fan est\u00e1 en desarrollo, es un acto de equilibrio complicado. Si es demasiado autoritario, se corre el riesgo de sofocar la innovaci\u00f3n, lo que significa que la sociedad tambi\u00e9n pierde sus beneficios potenciales. Y, aunque el proyecto de ley de California fue diluido tras una intensa presi\u00f3n de Silicon Valley, a\u00fan persisten las incertidumbres sobre su efecto en el desarrollo y despliegue de la IA. <\/p>\n<p>Un objetivo amplio del proyecto de ley de California era aumentar la responsabilidad de los desarrolladores por el mal uso de sus modelos. Por muy admirable que sea, puede tener efectos secundarios. Por ejemplo, a los desarrolladores les resulta dif\u00edcil saber ex ante c\u00f3mo se podr\u00eda utilizar su tecnolog\u00eda. Podr\u00edan conciliar eso alej\u00e1ndose de la investigaci\u00f3n. A los expertos en IA tambi\u00e9n les preocupaba que los protocolos de seguridad del proyecto de ley (que inclu\u00edan el requisito de que las empresas construyeran un &#8220;interruptor de apagado&#8221; en los modelos que superaran un cierto umbral) pudieran desalentar el desarrollo y el uso de modelos de c\u00f3digo abierto, donde se lleva a cabo gran parte de la innovaci\u00f3n. <\/p>\n<p>Otra preocupaci\u00f3n era que la legislaci\u00f3n no se centraba espec\u00edficamente en los sistemas de IA utilizados en entornos de alto riesgo, como en infraestructuras cr\u00edticas, o si utilizaban datos confidenciales. Aplic\u00f3 normas estrictas incluso <a rel=\"nofollow noopener\" href=\"https:\/\/www.gov.ca.gov\/wp-content\/uploads\/2024\/09\/SB-1047-Veto-Message.pdf\" data-trackable=\"link\" target=\"_blank\">funciones b\u00e1sicas<\/a>.<\/p>\n<p>Dadas estas preocupaciones, la decisi\u00f3n de Newsom parece razonable. Sin embargo, eso no significa que las empresas de tecnolog\u00eda deban tener libertad de acci\u00f3n. A medida que la carrera de la IA gana velocidad, existe una preocupaci\u00f3n genuina de que los constructores de modelos puedan pasar por alto los puntos d\u00e9biles. Por lo tanto, tendr\u00eda sentido que los legisladores revisen ahora las reglas propuestas y aclaren la redacci\u00f3n vaga, para equilibrar mejor las preocupaciones en torno al impacto en la innovaci\u00f3n actual. Newsom anunci\u00f3 una asociaci\u00f3n prometedora con expertos para desarrollar \u201cbarandillas viables\u201d. Tambi\u00e9n es bienvenido que el gobernador haya firmado recientemente proyectos de ley destinados a regular los riesgos claros y presentes de la IA (en lugar de los hipot\u00e9ticos), incluidos los relacionados con los deepfakes y la desinformaci\u00f3n.<\/p>\n<p>Si bien el liderazgo de California en materia de regulaci\u00f3n de la IA es encomiable, tambi\u00e9n ser\u00eda mejor si las normas de seguridad se elaboraran y promulgaran a nivel federal. Eso proporcionar\u00eda protecciones en todo Estados Unidos, evitar\u00eda que surgiera un mosaico de leyes estatales diferentes y evitar\u00eda poner al Estado Dorado, el epicentro de la innovaci\u00f3n estadounidense y global en IA, en una desventaja competitiva. <\/p>\n<p>De hecho, aunque el atractivo del grupo de inversores y talentos de Silicon Valley sigue siendo fuerte, existe el riesgo de que una regulaci\u00f3n unilateral y demasiado estricta de la IA pueda impulsar el desarrollo de modelos en otros lugares, debilitando en el proceso el ecosistema tecnol\u00f3gico de IA del estado. Tal como est\u00e1n las cosas, California tiene impuestos altos y es el pa\u00eds m\u00e1s <a rel=\"nofollow noopener\" href=\"https:\/\/www.mercatus.org\/regsnapshots24\" data-trackable=\"link\" target=\"_blank\">estado regulado<\/a> en los EE.UU. La propiedad tambi\u00e9n es cara. Empresas como la empresa estadounidense de an\u00e1lisis de datos Palantir y la corredora Charles Schwab abandonaron el estado recientemente, y algunas empresas de tecnolog\u00eda han recortado espacio para oficinas. <\/p>\n<p>Gestionar las preocupaciones de seguridad en torno al desarrollo de la IA es un arte para preservar lo bueno y al mismo tiempo protegerse contra lo malo. Las amenazas tecnol\u00f3gicas a nuestras sociedades no deben tomarse a la ligera, pero tampoco deben impedir el surgimiento de una innovaci\u00f3n que podr\u00eda ayudar a diagnosticar enfermedades, acelerar la investigaci\u00f3n cient\u00edfica e impulsar la productividad. Vale la pena hacer el esfuerzo para hacerlo bien.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/6e460960-9530-40ac-8346-cd25b94f8f32\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Desbloquea el Editor&#8217;s Digest gratis Roula Khalaf, editora del FT, selecciona sus historias favoritas en este bolet\u00edn semanal.<\/p>\n","protected":false},"author":1,"featured_media":1385805,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[921,8631,5961,2603,17196,2449,267,3236,5659],"class_list":["post-1385804","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-buenas","tag-california","tag-defectuoso","tag-era","tag-intenciones","tag-ley","tag-pero","tag-proyecto","tag-tenia"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1385804","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1385804"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1385804\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1385805"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1385804"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1385804"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1385804"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}