IA desde la perspectiva del atacante: vea c\u00f3mo los ciberdelincuentes aprovechan la IA y explotan sus vulnerabilidades para comprometer sistemas, usuarios e incluso otras aplicaciones de IA.<\/em><\/p>\n “La IA no sustituir\u00e1 a los humanos en un futuro pr\u00f3ximo. Pero los humanos que sepan c\u00f3mo utilizar la IA s\u00ed reemplazar\u00e1n a los humanos que no sepan c\u00f3mo utilizarla”, afirma Etay Maor, estratega jefe de seguridad de Redes Cato<\/a> y miembro fundador de cat\u00f3n CTRL<\/a>. “Del mismo modo, los atacantes tambi\u00e9n est\u00e1n recurriendo a la IA para aumentar sus propias capacidades”.<\/p>\n Sin embargo, hay mucho m\u00e1s revuelo que realidad en torno al papel de la IA en el ciberdelito. Los titulares suelen sensacionalizar las amenazas de la IA, con t\u00e9rminos como “Caos-GPT” y “Herramientas de IA de sombrero negro”, e incluso afirman que buscan destruir a la humanidad. Sin embargo, estos art\u00edculos inducen m\u00e1s miedo que una descripci\u00f3n de amenazas graves.<\/p>\n Por ejemplo, cuando se exploraron en foros clandestinos, se descubri\u00f3 que varias de estas llamadas “herramientas cibern\u00e9ticas de IA” no eran m\u00e1s que versiones renombradas de LLM p\u00fablicos b\u00e1sicos sin capacidades avanzadas. De hecho, los atacantes enojados incluso los se\u00f1alaron como estafas.<\/p>\n En realidad, los ciberdelincuentes todav\u00eda est\u00e1n descubriendo c\u00f3mo aprovechar la IA de forma eficaz. Est\u00e1n experimentando los mismos problemas y deficiencias que los usuarios leg\u00edtimos, como alucinaciones y capacidades limitadas. Seg\u00fan sus predicciones, pasar\u00e1n algunos a\u00f1os antes de que puedan aprovechar GenAI de manera efectiva para las necesidades de pirater\u00eda.<\/p>\n Por ahora, las herramientas GenAI se utilizan principalmente para tareas m\u00e1s simples, como escribir correos electr\u00f3nicos de phishing y generar fragmentos de c\u00f3digo que pueden integrarse en ataques. Adem\u00e1s, hemos observado que los atacantes proporcionan c\u00f3digo comprometido a los sistemas de inteligencia artificial para su an\u00e1lisis, como un esfuerzo por “normalizar” dicho c\u00f3digo como no malicioso.<\/p>\n Los GPT, presentados por OpenAI el 6 de noviembre de 2023, son versiones personalizables de ChatGPT que permiten a los usuarios agregar instrucciones espec\u00edficas, integrar API externas e incorporar fuentes de conocimiento \u00fanicas. Esta funci\u00f3n permite a los usuarios crear aplicaciones altamente especializadas, como robots de soporte t\u00e9cnico, herramientas educativas y m\u00e1s. Adem\u00e1s, OpenAI ofrece a los desarrolladores opciones de monetizaci\u00f3n para GPT a trav\u00e9s de un mercado dedicado.<\/p>\n Los GPT introducen posibles problemas de seguridad. Un riesgo notable es la exposici\u00f3n de instrucciones confidenciales, conocimiento propietario o incluso claves API integradas en el GPT personalizado. Los actores malintencionados pueden utilizar la IA, espec\u00edficamente la ingenier\u00eda r\u00e1pida, para replicar un GPT y aprovechar su potencial de monetizaci\u00f3n.<\/p>\n Los atacantes pueden utilizar indicaciones para recuperar fuentes de conocimiento, instrucciones, archivos de configuraci\u00f3n y m\u00e1s. Estos podr\u00edan ser tan simples como solicitar al GPT personalizado que enumere todos los archivos cargados y las instrucciones personalizadas o solicitar informaci\u00f3n de depuraci\u00f3n. O algo sofisticado como solicitar al GPT que comprima uno de los archivos PDF y cree un enlace descargable, pedirle al GPT que enumere todas sus capacidades en un formato de tabla estructurada y m\u00e1s.<\/p>\n “Incluso las protecciones que los desarrolladores implementan se pueden eludir y se puede extraer todo el conocimiento”, dice Vitaly Simonovich, investigador de inteligencia de amenazas en Cato Networks y miembro de Cato CTRL.<\/p>\n Estos riesgos se pueden evitar mediante:<\/p>\n Actualmente existen m\u00faltiples marcos para ayudar a las organizaciones que est\u00e1n considerando desarrollar y crear software basado en IA:<\/p>\n Hay seis componentes clave del LLM (modelo de lenguaje grande) que los atacantes pueden atacar:<\/p>\n Concluyamos con algunos ejemplos de manipulaciones LLM, que pueden usarse f\u00e1cilmente de manera maliciosa.<\/p>\n La IA es una herramienta poderosa tanto para defensores como para atacantes. A medida que los ciberdelincuentes contin\u00faan experimentando con la IA, es importante comprender c\u00f3mo piensan, las t\u00e1cticas que emplean y las opciones que enfrentan. Esto permitir\u00e1 a las organizaciones salvaguardar mejor sus sistemas de IA contra el uso indebido y el abuso.<\/p>\n Mira la clase magistral completa aqu\u00ed.<\/a><\/p>\n <\/p>\nCiberdelincuentes e inteligencia artificial: la realidad frente a las exageraciones<\/h2>\n
![\"Riesgos](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/10\/Del-mal-uso-al-abuso-riesgos-y-ataques-de-la.png\" "\\"Riesgos")
<\/a><\/div>\nC\u00f3mo los piratas inform\u00e1ticos utilizan realmente la IA en los ciberataques<\/h2>\n
<\/a><\/div>\n<\/a><\/div>\nUso de la IA para abusar de la IA: introducci\u00f3n de los GPT<\/h2>\n
Abusar de los GPT<\/h3>\n
\n
Ataques y riesgos de la IA<\/h2>\n
\n
Superficie de ataque LLM<\/h3>\n
\n
Ataques y riesgos del mundo real<\/h3>\n
\n
<\/a><\/div>\nResumiendo: IA en el cibercrimen<\/h2>\n