Dado que la inteligencia artificial (IA) generativa est\u00e1 de moda en estos d\u00edas, tal vez no sea sorprendente que la tecnolog\u00eda haya sido reutilizada por actores malintencionados para su propio beneficio, lo que permite v\u00edas para acelerar el ciberdelito.<\/p>\n
Seg\u00fan los hallazgos de SlashNext, una nueva herramienta generativa de ciberdelito de IA llamada GusanoGPT<\/strong> se ha anunciado en foros clandestinos como una forma para que los adversarios lancen sofisticados ataques de phishing y compromiso de correo electr\u00f3nico comercial (BEC).<\/p>\n “Esta herramienta se presenta como una alternativa blackhat a los modelos GPT, dise\u00f1ada espec\u00edficamente para actividades maliciosas”, dijo el investigador de seguridad Daniel Kelley. dicho<\/a>. “Los ciberdelincuentes pueden utilizar dicha tecnolog\u00eda para automatizar la creaci\u00f3n de correos electr\u00f3nicos falsos muy convincentes, personalizados para el destinatario, lo que aumenta las posibilidades de \u00e9xito del ataque”.<\/p>\n El autor del software lo ha descrito como el “mayor enemigo del conocido ChatGPT” que “te permite hacer todo tipo de cosas ilegales”.<\/p>\n En manos de un mal actor, herramientas como WormGPT podr\u00edan ser un arma poderosa, especialmente porque OpenAI ChatGPT y Google Bard est\u00e1n tomando medidas cada vez m\u00e1s para combatir el abuso de modelos de lenguaje extenso (LLM) para fabricar correos electr\u00f3nicos de phishing convincentes y generar<\/a> malicioso<\/a> c\u00f3digo<\/a>.<\/p>\n “Los restrictores anti-abuso de Bard en el \u00e1mbito de la ciberseguridad son significativamente m\u00e1s bajos en comparaci\u00f3n con los de ChatGPT”, Check Point dicho<\/a> en un informe esta semana. “En consecuencia, es mucho m\u00e1s f\u00e1cil generar contenido malicioso usando las capacidades de Bard”.<\/p>\n A principios de febrero, la firma de ciberseguridad israel\u00ed revel\u00f3 c\u00f3mo los ciberdelincuentes est\u00e1n eludiendo las restricciones de ChatGPT al aprovechando su API<\/a>por no hablar del comercio cuentas premium robadas<\/a> y vender software de fuerza bruta para piratear cuentas de ChatGPT mediante el uso de enormes listas de direcciones de correo electr\u00f3nico y contrase\u00f1as.<\/p>\n El hecho de que WormGPT opere sin l\u00edmites \u00e9ticos subraya la amenaza que representa la IA generativa, que incluso permite a los ciberdelincuentes novatos lanzar ataques r\u00e1pidamente y a gran escala sin tener los medios t\u00e9cnicos para hacerlo.<\/p>\n Prot\u00e9jase contra las amenazas internas: Domine la gesti\u00f3n de la postura de seguridad de SaaS<\/p>\n <\/a><\/p>\n \u00bfPreocupado por las amenazas internas? \u00a1Te tenemos cubierto! \u00danase a este seminario web para explorar estrategias pr\u00e1cticas y los secretos de la seguridad proactiva con SaaS Security Posture Management.<\/p>\n \u00danete hoy<\/a><\/section>\n Para empeorar las cosas, los actores de amenazas est\u00e1n promoviendo “jailbreaks” para ChatGPT, indicaciones especializadas de ingenier\u00eda<\/a> y entradas que est\u00e1n dise\u00f1adas para manipular la herramienta y generar resultados que podr\u00edan implicar la divulgaci\u00f3n de informaci\u00f3n confidencial, la producci\u00f3n de contenido inapropiado y la ejecuci\u00f3n de c\u00f3digo da\u00f1ino.<\/p>\n “La IA generativa puede crear correos electr\u00f3nicos con una gram\u00e1tica impecable, haci\u00e9ndolos parecer leg\u00edtimos y reduciendo la probabilidad de que se marquen como sospechosos”, dijo Kelley.<\/p>\n “El uso de IA generativa democratiza la ejecuci\u00f3n de ataques BEC sofisticados. Incluso los atacantes con habilidades limitadas pueden usar esta tecnolog\u00eda, lo que la convierte en una herramienta accesible para un espectro m\u00e1s amplio de ciberdelincuentes”.<\/p>\n La divulgaci\u00f3n se produce cuando los investigadores de Mithril Security modificaron “quir\u00fargicamente” un modelo de IA de c\u00f3digo abierto existente conocido como GPT-J-6B<\/a> para hacer que difundiera desinformaci\u00f3n y lo subiera a un repositorio p\u00fablico como cara de abrazo<\/a> eso podr\u00eda luego integrarse en otras aplicaciones, lo que lleva a lo que se llama un envenenamiento de la cadena de suministro de LLM.<\/p>\n El \u00e9xito de la t\u00e9cnica, denominada VenenoGPT<\/a>apuesta por el requisito previo de que el modelo lobotomizado se cargue con un nombre que se haga pasar por una empresa conocida, en este caso, una versi\u00f3n con errores tipogr\u00e1ficos de EleutherAI, la empresa detr\u00e1s de GPT-J.<\/p>\n <\/p>\n![\"Ciberataques](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/07\/1689419992_234_WormGPT-la-nueva-herramienta-de-IA-permite-a-los-ciberdelincuentes.jpg\" "\\"Ciberataques")
<\/div>\n