\n<\/p>\n
Por primera vez, una empresa ha puesto a disposici\u00f3n de todos de forma gratuita un chatbot con tal variedad de capacidades. Hablamos de ChatGPT, el chatbot de la startup estadounidense OpenAI.<\/p>\n
Ha pasado mucho tiempo desde que una innovaci\u00f3n t\u00e9cnica influy\u00f3 en el discurso p\u00fablico como lo viene haciendo ChatGPT desde hace varios meses. Independientemente de si se trata de escolares, estudiantes, empresarios, empleados de oficina o entusiastas de la tecnolog\u00eda interesados, todos esperan beneficiarse de la nueva herramienta. <\/p>\n
ChatGPT puede responder una amplia gama de preguntas y funciona en muchos idiomas. Por eso mucha gente est\u00e1 jugando con la inteligencia artificial. Sin embargo, esto no es tanto un hito t\u00e9cnico por primera vez como una demostraci\u00f3n del estado actual de dichos modelos de lenguajes grandes (LLM). Estos LLM son programas que pueden procesar la entrada del usuario autom\u00e1ticamente. <\/p>\n
A pesar de toda la alegr\u00eda por las nuevas opciones que ahora est\u00e1n disponibles para el p\u00fablico en general, la Oficina Federal de Seguridad de la Informaci\u00f3n (BSI) advierte en un documento de posici\u00f3n sobre las amenazas y los riesgos de seguridad que surgen de su uso. <\/p>\n
La BSI ha identificado una variedad de amenazas que pueden verse amplificadas por los modelos de lenguaje de IA. Probablemente ayuden a crear y optimizar malware y faciliten la generaci\u00f3n de correos electr\u00f3nicos de spam y phishing enga\u00f1osamente genuinos. Dado que estos textos creados autom\u00e1ticamente apenas contienen errores ortogr\u00e1ficos o gramaticales, se pierde uno de los criterios que hasta ahora ayudaban a desenmascarar dichos textos. <\/p>\n
Tambi\u00e9n existir\u00eda el riesgo de que atacantes potenciales redirigiran las entradas de los usuarios de dicho software a otros modelos de lenguaje para manipular la salida y acceder a informaci\u00f3n confidencial. Tampoco est\u00e1 claro hasta qu\u00e9 punto los operadores de estos modelos podr\u00edan evaluar los datos aportados y transmitirlos a terceros. <\/p>\n
Un riesgo claro es que los modelos de lenguaje aprendan de las aportaciones del usuario. Esto significa que las interacciones con los usuarios sirven como entrenamiento para el sistema, lo que por supuesto puede llevar a que actores maliciosos alimenten estos modelos con contenido que puede generar desinformaci\u00f3n, propaganda y discursos de odio. <\/p>\n
La informaci\u00f3n que los usuarios solicitan a dichos modelos ling\u00fc\u00edsticos suele estar desactualizada. ChatGPT suele se\u00f1alar que el nivel de conocimiento sobre la IA s\u00f3lo durar\u00e1 hasta 2021. Esto puede cambiar significativamente el gasto en eventos econ\u00f3micos o pol\u00edticos. <\/p>\n
Equipo editorial finanzen.net\n<\/p>\n<\/div>\n