{"id":1034601,"date":"2023-11-07T11:00:16","date_gmt":"2023-11-07T11:00:16","guid":{"rendered":"https:\/\/teknomers.com\/es\/ia-ofensiva-y-defensiva-charlemos-gpt-al-respecto\/"},"modified":"2023-11-07T11:00:20","modified_gmt":"2023-11-07T11:00:20","slug":"ia-ofensiva-y-defensiva-charlemos-gpt-al-respecto","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/ia-ofensiva-y-defensiva-charlemos-gpt-al-respecto\/","title":{"rendered":"IA ofensiva y defensiva: charlemos (GPT) al respecto"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p><span class=\"p-author\"><i class=\"icon-font icon-calendar\">\ue802<\/i><span class=\"author\">07 de noviembre de 2023<\/span><i class=\"icon-font icon-user\">\ue804<\/i><span class=\"author\">Las noticias de los piratas inform\u00e1ticos<\/span><\/span><span class=\"p-tags\">Inteligencia Artificial \/ Seguridad de Datos<\/span><\/p>\n<\/div>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.jpg\" style=\"clear: left; display: block; float: left; text-align: center;\"><\/a><\/div>\n<p><em>ChatGPT: herramienta de productividad, excelente para escribir poemas y\u2026 \u00a1\u00bfun riesgo para la seguridad?!  En este art\u00edculo, mostramos c\u00f3mo los actores de amenazas pueden explotar ChatGPT, pero tambi\u00e9n c\u00f3mo los defensores pueden usarlo para mejorar su juego.<\/em><\/p>\n<p>ChatGPT es la aplicaci\u00f3n para consumidores de m\u00e1s r\u00e1pido crecimiento hasta la fecha.  El extremadamente popular chatbot generativo de IA tiene la capacidad de generar respuestas similares a las humanas, coherentes y contextualmente relevantes.  Esto lo hace muy valioso para aplicaciones como creaci\u00f3n de contenido, codificaci\u00f3n, educaci\u00f3n, atenci\u00f3n al cliente e incluso asistencia personal.<\/p>\n<p>Sin embargo, ChatGPT tambi\u00e9n conlleva riesgos de seguridad.  ChatGPT se puede utilizar para la filtraci\u00f3n de datos, la difusi\u00f3n de informaci\u00f3n err\u00f3nea, el desarrollo de ciberataques y la redacci\u00f3n de correos electr\u00f3nicos de phishing.  Por otro lado, puede ayudar a los defensores, quienes pueden usarlo para identificar vulnerabilidades y aprender sobre diversas defensas.<\/p>\n<p>En este art\u00edculo, mostramos numerosas formas en que los atacantes pueden explotar ChatGPT y OpenAI Playground.  Igual de importante es que mostramos formas en que los defensores pueden aprovechar ChatGPT para mejorar tambi\u00e9n su postura de seguridad.<\/p>\n<h2>El actor de amenazas: piratear de forma f\u00e1cil<\/h2>\n<p>ChatGPT facilita las cosas a las personas que buscan ingresar al mundo del ciberdelito.  A continuaci\u00f3n se muestran algunas formas en que se puede utilizar para la explotaci\u00f3n del sistema:<\/p>\n<ul>\n<li><strong>Encontrar vulnerabilidades <\/strong>&#8211; Los atacantes pueden informar a ChatGPT sobre posibles vulnerabilidades en sitios web, sistemas, API y otros componentes de la red.\n<p>Seg\u00fan Etay Maor, director senior de estrategia de seguridad de <a rel=\"nofollow noopener\" href=\"https:\/\/www.catonetworks.com\/?utm_source=hackernews&amp;utm_medium=referral\" target=\"_blank\"><b>Redes Cato<\/b><\/a>&#8220;Hay barreras de seguridad en ChatGPT y Playground para evitar que den respuestas que respalden hacer algo malo o perverso. Pero la &#8216;ingenier\u00eda social&#8217; de la IA permite encontrar una manera de sortear ese muro&#8221;.<\/p>\n<p>Por ejemplo, esto se puede hacer haci\u00e9ndose pasar por un probador de penetraci\u00f3n sobre c\u00f3mo probar el campo de entrada de un sitio web en busca de vulnerabilidades.  La respuesta de ChatGPT incluir\u00e1 una lista de m\u00e9todos de explotaci\u00f3n de sitios web, como pruebas de validaci\u00f3n de entradas, pruebas XSS, pruebas de inyecci\u00f3n SQL y m\u00e1s.<\/p>\n<\/li>\n<li><strong>Explotaci\u00f3n de vulnerabilidades existentes<\/strong> &#8211; ChatGPT tambi\u00e9n puede proporcionar a los atacantes la informaci\u00f3n tecnol\u00f3gica que necesitan sobre c\u00f3mo explotar una vulnerabilidad existente.  Por ejemplo, un actor de amenazas podr\u00eda preguntarle a ChatGPT c\u00f3mo probar una vulnerabilidad de inyecci\u00f3n SQL conocida en el campo de un sitio web.  ChatGPT responder\u00e1 con ejemplos de entrada que activar\u00e1n la vulnerabilidad.<\/li>\n<li><strong>Usando Mimikatz<\/strong> &#8211; Los actores de amenazas pueden solicitar a ChatGPT que escriba c\u00f3digo que descargue y ejecute Mimikatz.<\/li>\n<li><strong>Escribir correos electr\u00f3nicos de phishing<\/strong> &#8211; Se puede solicitar a ChatGPT que cree correos electr\u00f3nicos de phishing que parezcan aut\u00e9nticos en una amplia variedad de idiomas y estilos de escritura.  En el siguiente ejemplo, el mensaje solicita que el correo electr\u00f3nico est\u00e9 escrito para que suene como si viniera de un director ejecutivo.<\/li>\n<li><strong>Identificaci\u00f3n de archivos confidenciales<\/strong> &#8211; ChatGPT puede ayudar a los atacantes a identificar archivos con datos confidenciales.<\/li>\n<\/ul>\n<p>En el siguiente ejemplo, se le solicita a ChatGPT que escriba una secuencia de comandos Python que busque archivos Doc y PDF que contengan la palabra &#8220;confidencial&#8221;, los copie en una carpeta aleatoria y los transfiera.  Si bien el c\u00f3digo no es perfecto, es un buen comienzo para una persona que quiera desarrollar esta capacidad.  Las indicaciones tambi\u00e9n podr\u00edan ser m\u00e1s sofisticadas e incluir cifrado, creaci\u00f3n de una billetera Bitcoin para el dinero del rescate y m\u00e1s.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"814\" data-original-width=\"1224\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<h2>El defensor: defender de forma f\u00e1cil<\/h2>\n<p>ChatGPT tambi\u00e9n puede y debe usarse para mejorar las capacidades de los defensores.  Seg\u00fan Etay Maor, &#8220;ChatGPT tambi\u00e9n baja el list\u00f3n, en el buen sentido, para los defensores y para las personas que quieren entrar en seguridad&#8221;.  A continuaci\u00f3n se presentan varias formas en que los profesionales pueden mejorar su experiencia y capacidades en seguridad.<\/p>\n<ul>\n<li><strong>Aprender nuevos t\u00e9rminos y tecnolog\u00edas<\/strong> &#8211; ChatGPT puede acortar el tiempo que lleva investigar y aprender nuevos t\u00e9rminos, tecnolog\u00edas, procesos y metodolog\u00edas.  Proporciona respuestas inmediatas, precisas y concisas a preguntas relacionadas con la seguridad.<\/li>\n<\/ul>\n<p>En el siguiente ejemplo, ChatGPT explica qu\u00e9 es una regla de snort espec\u00edfica.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354813_406_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354813_406_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"745\" data-original-width=\"1331\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<ul>\n<li><strong>Resumir informes de seguridad<\/strong> &#8211; ChatGPT puede ayudar a resumir los informes de infracciones, ayudando a los analistas a conocer c\u00f3mo se realizaron los ataques para poder evitar que se repitan en el futuro.<\/li>\n<li><strong>Descifrando el c\u00f3digo del atacante<\/strong> &#8211; Los analistas pueden cargar el c\u00f3digo del atacante en ChatGPT y obtener una explicaci\u00f3n de los pasos seguidos y la carga \u00fatil ejecutada.<\/li>\n<li><strong>Predecir rutas de ataque<\/strong> &#8211; ChatGPT puede predecir posibles rutas de ataque futuras de un ataque, analizando ciberataques pasados \u200b\u200bsimilares y las t\u00e9cnicas que se utilizaron.<\/li>\n<li><strong>Investigaci\u00f3n de actores de amenazas y rutas de ataque<\/strong> &#8211; Proporcionar un informe que mapee un actor de amenazas, incluidos sus ataques recientes, datos t\u00e9cnicos, mapeo de marcos y m\u00e1s.  En este ejemplo, se proporciona un informe t\u00e9cnico detallado sobre el grupo ALPHV Ransomware.<\/li>\n<\/ul>\n<ul>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354814_539_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354814_539_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"848\" data-original-width=\"1600\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<li><strong>Identificaci\u00f3n de vulnerabilidades del c\u00f3digo <\/strong>&#8211; Los ingenieros pueden pegar c\u00f3digo en ChatGPT y solicitarle que identifique cualquier vulnerabilidad.  ChatGPT puede incluso identificar vulnerabilidades cuando no hay ning\u00fan error, s\u00f3lo un error l\u00f3gico.  Tenga cuidado con el c\u00f3digo que carga.  Si contiene datos de propiedad exclusiva, es posible que los est\u00e9 exponiendo externamente.<\/li>\n<\/ul>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354814_640_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354814_640_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"818\" data-original-width=\"1600\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<ul>\n<li><strong>Identificaci\u00f3n de actividades sospechosas en registros<\/strong> &#8211; Revisar la actividad del registro y buscar actividades sospechosas. <\/li>\n<li><strong>Identificaci\u00f3n de p\u00e1ginas web vulnerables <\/strong>&#8211; Los desarrolladores web o los profesionales de la seguridad pueden solicitar a ChatGPT que revise el c\u00f3digo HTML de un sitio web e identifique vulnerabilidades que permitir\u00edan inyecciones SQL, ataques CSRF, ataques XSS o ataques DDoS.<\/li>\n<\/ul>\n<h2>Consideraciones adicionales al usar ChatGPT<\/h2>\n<p>Al utilizar ChatGPT, es importante reconocer la importancia de los siguientes factores:<\/p>\n<ul>\n<li><strong>Derechos de autor<\/strong> &#8211; \u00bfQui\u00e9n es el propietario del contenido generado?  Al preguntarle a ChatGPT, la respuesta es que la persona que escribi\u00f3 el mensaje es el propietario.  Sin embargo, no es tan simple como eso.  Esta cuesti\u00f3n a\u00fan no est\u00e1 completamente resuelta y depender\u00e1 de diversos sistemas jur\u00eddicos y precedentes.  Actualmente est\u00e1 surgiendo un cuerpo de leyes sobre este tema.<\/li>\n<li><strong>Retenci\u00f3n de datos &#8211; <\/strong>OpenAI puede conservar algunos de los datos utilizados como indicaciones para capacitaci\u00f3n u otros fines de investigaci\u00f3n.  Por eso es importante tener cuidado y evitar pegar datos confidenciales en la aplicaci\u00f3n.<\/li>\n<li><strong>Privacidad &#8211; <\/strong>Existen problemas de privacidad en torno a ChatGPT, que van desde c\u00f3mo utiliza los datos que se le solicitan hasta c\u00f3mo almacena las interacciones de los usuarios.  Por lo tanto, se recomienda evitar ingresar PII o datos del cliente en la aplicaci\u00f3n.<\/li>\n<li><strong>Inclinaci\u00f3n &#8211; <\/strong>ChatGPT est\u00e1 sujeto a prejuicios.  Por ejemplo, cuando se le pidi\u00f3 que calificara a los grupos seg\u00fan su inteligencia, coloc\u00f3 ciertas etnias antes que otras.  Usar respuestas a ciegas podr\u00eda tener consecuencias importantes para las personas.  Por ejemplo, si se utiliza para guiar la toma de decisiones en los tribunales, elaboraci\u00f3n de perfiles policiales, procesos de reclutamiento y m\u00e1s.<\/li>\n<li><strong>Exactitud<\/strong> &#8211; Es importante verificar los resultados de ChatGPT, ya que no siempre son precisos (es decir, &#8216;alucinaciones&#8217;. En el siguiente ejemplo, se le pidi\u00f3 a ChatGPT que escribiera una lista de palabras de cinco letras que comenzaran con B y terminaran con KE. Una de las respuestas era &#8220;Bicicleta&#8221;.<\/li>\n<\/ul>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354815_318_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354815_318_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"773\" data-original-width=\"959\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354816_155_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/11\/1699354816_155_IA-ofensiva-y-defensiva-charlemos-GPT-al-respecto.png\" alt=\"IA ofensiva y defensiva\" border=\"0\" data-original-height=\"426\" data-original-width=\"942\" title=\"IA ofensiva y defensiva\"\/><\/a><\/div>\n<ul>\n<li><strong>IA contra IA<\/strong> &#8211; Actualmente, ChatGPT no puede identificar si un texto solicitado fue escrito por IA o no.  En el futuro, es posible que las versiones m\u00e1s nuevas puedan hacerlo, lo que puede ayudar con los esfuerzos de seguridad.  Por ejemplo, esta capacidad podr\u00eda ayudar a identificar correos electr\u00f3nicos de phishing.<\/li>\n<\/ul>\n<p>Etay resume: &#8220;No podemos detener el progreso, pero s\u00ed necesitamos ense\u00f1ar a la gente c\u00f3mo utilizar estas herramientas&#8221;.<\/p>\n<p style=\"text-align: left;\"><b>Para obtener m\u00e1s informaci\u00f3n sobre c\u00f3mo los profesionales de la seguridad pueden aprovechar ChatGPT al m\u00e1ximo, <a rel=\"nofollow noopener\" href=\"https:\/\/catonetworks.easywebinar.live\/registration-offensive-and-defensive-chatgpt?utm_source=hackernews&amp;utm_medium=referral\" target=\"_blank\">Mira la clase magistral completa aqu\u00ed.<\/a><\/b><\/p>\n<p><\/p>\n<div class=\"cf note-b\">\u00bfEncontr\u00f3 interesante este art\u00edculo?  Siga con nosotros <a rel=\"nofollow noopener\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Gorjeo <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  y <a rel=\"nofollow noopener\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">LinkedIn<\/a> para leer m\u00e1s contenido exclusivo que publicamos.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2023\/11\/offensive-and-defensive-ai-lets-chatgpt.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\ue80207 de noviembre de 2023\ue804Las noticias de los piratas inform\u00e1ticosInteligencia Artificial \/ Seguridad de Datos ChatGPT: herramienta de<\/p>\n","protected":false},"author":1,"featured_media":1034602,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[4657,4656,4661,214355,4664,30848,4662,140133,4668,201033,4654,201031,4659,4653,4655,499,1757,4666,4665,201032,4660],"class_list":["post-1034601","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-actualizaciones-ciberneticas","tag-actualizaciones-de-seguridad-cibernetica","tag-ataques-ciberneticos","tag-charlemos","tag-como-hackear","tag-defensiva","tag-filtracion-de-datos","tag-gpt","tag-la-seguridad-informatica","tag-las-noticias-de-los-piratas-informaticos","tag-noticias-ciberneticas","tag-noticias-de-piratas-informaticos","tag-noticias-de-pirateria","tag-noticias-de-seguridad-cibernetica","tag-noticias-de-seguridad-cibernetica-hoy","tag-ofensiva","tag-respecto","tag-seguridad-de-informacion","tag-seguridad-de-la-red","tag-software-malicioso-ransomware","tag-vulnerabilidad-de-software"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1034601","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1034601"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1034601\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1034602"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1034601"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1034601"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1034601"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}