{"id":559387,"date":"2023-01-05T13:16:38","date_gmt":"2023-01-05T13:16:38","guid":{"rendered":"https:\/\/teknomers.com\/es\/openai-esta-trabajando-en-un-metodo-de-identificacion-cuando-chatgpt-escribe-un-texto\/"},"modified":"2023-01-05T13:16:40","modified_gmt":"2023-01-05T13:16:40","slug":"openai-esta-trabajando-en-un-metodo-de-identificacion-cuando-chatgpt-escribe-un-texto","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/openai-esta-trabajando-en-un-metodo-de-identificacion-cuando-chatgpt-escribe-un-texto\/","title":{"rendered":"OpenAI est\u00e1 trabajando en un m\u00e9todo de identificaci\u00f3n cuando ChatGPT escribe un texto"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>V\u00edctima de su \u00e9xito, ChatGPT, el modelo de lenguaje OpenAI basado en inteligencia artificial (IA), <strong>plantea muchas preguntas<\/strong>.  Capaz de responder cualquier pregunta, escribir ensayos y fragmentos de c\u00f3digo, <strong>la herramienta se puede utilizar con fines maliciosos<\/strong>.  Para prevenir estos abusos, un investigador invitado por OpenAI anunci\u00f3 el pasado mes de diciembre que la empresa especializada en IA estaba desarrollando <strong>una forma de identificar cu\u00e1ndo ChatGPT genera texto<\/strong>.<\/p>\n<h2>Una sutil marca de agua para autenticar los textos generados por ChatGPT<\/h2>\n<p>Lanzado en diciembre de 2022, ChatGPT logr\u00f3 mostrar al p\u00fablico en general los avances realizados durante el a\u00f1o en inteligencia artificial.  Considerada perfectible, la generaci\u00f3n de contenido malicioso por parte del modelo de lenguaje <strong>es monitoreado de cerca<\/strong>.<\/p>\n<div class=\"alignfull-content\">\n\t\t\t\t\t\t<span class=\"purpley-grey\">En la misma categor\u00eda<\/span><\/p>\n<article class=\"grid-box anim col-12 post default post-read-also\">\n<div class=\"image\">\n\t\t\t\t\t<noscript><img width=\"190\" height=\"190\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2022\/10\/Netflix-revelara-cifras-precisas-de-audiencia.jpg\" class=\"attachment-post-ligne size-post-ligne wp-post-image\" alt=\"El logotipo de Microsoft frente a los edificios.\" decoding=\"async\" loading=\"lazy\"  \/><\/noscript>\t\t\t<\/div>\n<div class=\"content\">\n\t\t<span class=\"ligne-embed-title font1\">Microsoft quiere usar ChatGPT para su motor de b\u00fasqueda Bing<\/span>\n\t<\/div>\n<\/article><\/div>\n<p>Sobre este tema, OpenAI est\u00e1 trabajando en varias soluciones <strong>poner fin al mal uso de la herramienta<\/strong>, que van desde hacer trampa en un examen hasta escribir correos electr\u00f3nicos fraudulentos.  El investigador visitante en ciencias de la computaci\u00f3n de OpenAI, Scott Aaronson, revel\u00f3 que uno de ellos estaba configurando &#8221; <em><strong>una firma invisible al generar un texto<\/strong> escrito por un modelo de lenguaje impulsado por IA<\/em> &#8220;.  \u00c9l <a rel=\"nofollow noopener\" href=\"https:\/\/www.youtube.com\/watch?v=fc-cHk9yFpg\" target=\"_blank\">preciso<\/a> eso<strong>un prototipo<\/strong> creado por Hendrik Kirchner, ingeniero de OpenAI, <strong>ya es funcional<\/strong>.<\/p>\n<p>&#8221; <em>Queremos <strong>hacer que sea mucho m\u00e1s dif\u00edcil tomar los resultados de un modelo de lenguaje de IA y hacerlos pasar como resultados humanos<\/strong><\/em>  dice Scott Aaronson.  \u00c9l explica que &#8221; <em>esto podr\u00eda ser \u00fatil para prevenir el plagio acad\u00e9mico, obviamente, pero tambi\u00e9n la generaci\u00f3n masiva de propaganda, por ejemplo, enviar spam a todos los blogs con comentarios que apoyen la invasi\u00f3n rusa de Ucrania, o incluso imitar el estilo de escritura de alguien para incriminarlo.<\/em> &#8220;.<\/p>\n<h2>\u00bfLa soluci\u00f3n OpenAI es demasiado limitada?<\/h2>\n<p>La herramienta que ofrece OpenAI <strong>utiliza un enfoque criptogr\u00e1fico<\/strong>.  En otras palabras, al escribir el texto, <strong>marca de agua cuando aparece una estructura de palabras definidas<\/strong> en tiempo de generaci\u00f3n.  El dispositivo permite probar que el documento fue escrito por una inteligencia artificial.  Sin embargo, este \u00faltimo tiene limitaciones.<\/p>\n<p>Srini Devadas, profesora de inform\u00e1tica en el Instituto Tecnol\u00f3gico de Massachusetts, cuenta <a rel=\"nofollow noopener\" href=\"https:\/\/techcrunch.com\/2022\/12\/10\/openais-attempts-to-watermark-ai-text-hit-limits\/?guccounter=1&amp;guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&amp;guce_referrer_sig=AQAAAHhWXSr-bgd2RDpmVYyWoLa5EqtjrC7LtHA6gSyKh3MBOXe3YqY_9p_JkgxJIbzF2A3GoZRA_Ve9YOTSVm9VI5gEFWDU7Zw8OLakRqRZmly_ldmd-NXouLSt3w05wZrAwRkCLnjt70010XoHjvd2wlL5BqNZXKLM7SvWjcXim5BC\" target=\"_blank\"><em>TechCrunch<\/em><\/a>  &#8221; <em><strong>que ser\u00eda bastante f\u00e1cil eludirlo<\/strong> reformulando, usando sin\u00f3nimos, etc.<\/em> &#8220;.  Adem\u00e1s, el sistema est\u00e1 ubicado en el lado del servidor, lo que significa que podr\u00eda no funcionar para algunas personas.<\/p>\n<p>Un investigador del Allen Institute for AI, Jack Hessel, se\u00f1ala a los medios estadounidenses que es dif\u00edcil <strong>elegir una firma realmente imperceptible<\/strong>.  Si es demasiado obvio y espec\u00edfico, afectar\u00e1 la fluidez del discurso del modelo, mientras que si es demasiado sutil, podr\u00eda dejar demasiado espacio para la duda.  &#8221; <em>Una huella digital ideal no ser\u00eda perceptible por un lector humano y permitir\u00eda una detecci\u00f3n confiable<\/em> \u201c, se\u00f1ala Jack Hessel, \u201c <em>Dependiendo de c\u00f3mo est\u00e9 configurado, es posible que OpenAI sea el \u00fanico capaz de colocarlo.<\/em> en otros modelos de lenguaje.<\/p>\n<p>Un pensamiento <strong>que sit\u00faa la cuesti\u00f3n de la confianza en el centro del debate<\/strong>.  Otras empresas del sector, como Cohere y AI21Labs, podr\u00edan <strong>no querer utilizar una herramienta dise\u00f1ada por su principal competidor<\/strong>.  Tambi\u00e9n es imposible que OpenAI haga p\u00fablico el c\u00f3digo fuente de su sistema, en cuyo caso todos estar\u00edan en condiciones de entenderlo y eludirlo.<\/p>\n<p>Hasta que no se democratice el uso de modelos de lenguaje basados \u200b\u200ben inteligencia artificial, los gigantes de la industria <strong>tener tiempo para encontrar puntos en com\u00fan y nuevas soluciones<\/strong>.  Scott Aaronson, se mantiene optimista, &#8221; <em>Hemos visto en los \u00faltimos 30 a\u00f1os que las grandes empresas de Internet pueden aceptar ciertos est\u00e1ndares m\u00ednimos, por temor a ser demandados, responsabilizados o por cualquier otra raz\u00f3n.<\/em> &#8220;.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/01\/05\/openai-travaille-sur-une-methode-didentification-lorsquun-texte-est-ecrit-par-chatgpt\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>V\u00edctima de su \u00e9xito, ChatGPT, el modelo de lenguaje OpenAI basado en inteligencia artificial (IA), plantea muchas preguntas.<\/p>\n","protected":false},"author":1,"featured_media":559388,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[131369,2577,11817,97,61271,12147,83672,13155,4575],"class_list":["post-559387","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-chatgpt","tag-cuando","tag-escribe","tag-esta","tag-identificacion","tag-metodo","tag-openai","tag-texto","tag-trabajando"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/559387","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=559387"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/559387\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/559388"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=559387"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=559387"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=559387"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}