Apple ha puesto a disposici\u00f3n p\u00fablica su entorno de investigaci\u00f3n virtual (VRE) Private Cloud Compute (PCC), lo que permite a la comunidad de investigaci\u00f3n inspeccionar y verificar las garant\u00edas de privacidad y seguridad de su oferta.<\/p>\n
PCC, que Apple present\u00f3 a principios de junio, se ha comercializado como “la arquitectura de seguridad m\u00e1s avanzada jam\u00e1s implementada para la computaci\u00f3n de IA en la nube a escala”. Con la nueva tecnolog\u00eda, la idea es descargar solicitudes computacionalmente complejas de Apple Intelligence a la nube de una manera que no sacrifique la privacidad del usuario.<\/p>\n
Manzana dicho<\/a> est\u00e1 invitando a “todos los investigadores de seguridad y privacidad, o cualquier persona con inter\u00e9s y curiosidad t\u00e9cnica, a aprender m\u00e1s sobre PCC y realizar su propia verificaci\u00f3n independiente de nuestras afirmaciones”.<\/p>\n Para incentivar a\u00fan m\u00e1s la investigaci\u00f3n, el fabricante de iPhone dijo que est\u00e1 ampliando el programa Apple Security Bounty para incluir PCC ofreciendo pagos monetarios que van desde $50.000 a $1.000.000 por vulnerabilidades de seguridad identificadas en \u00e9l.<\/p>\n Esto incluye fallas que podr\u00edan permitir la ejecuci\u00f3n de c\u00f3digo malicioso en el servidor y exploits capaces de extraer datos confidenciales de los usuarios o informaci\u00f3n sobre las solicitudes del usuario.<\/p>\n El VRE tiene como objetivo ofrecer un conjunto de herramientas para ayudar a los investigadores a realizar sus an\u00e1lisis de PCC desde Mac. Viene con un procesador Secure Enclave (SEP) virtual y aprovecha la compatibilidad integrada de macOS con gr\u00e1ficos paravirtualizados para permitir la inferencia.<\/p>\n Apple tambi\u00e9n dijo que est\u00e1 creando el c\u00f3digo fuente asociado con algunos componentes de PCC. accesible a trav\u00e9s de GitHub<\/a> para facilitar un an\u00e1lisis m\u00e1s profundo. Esto incluye CloudAttestation, Thimble, splunkloggingd y srd_tools.<\/p>\n “Dise\u00f1amos Private Cloud Compute como parte de Apple Intelligence para dar un extraordinario paso adelante para la privacidad en la IA”, dijo la compa\u00f1\u00eda con sede en Cupertino. “Esto incluye proporcionar transparencia verificable, una propiedad \u00fanica que lo distingue de otros enfoques de IA basados \u200b\u200ben servidores”.<\/p>\n El desarrollo se produce a medida que una investigaci\u00f3n m\u00e1s amplia sobre la inteligencia artificial generativa (IA) contin\u00faa descubriendo nuevas formas de liberar modelos de lenguajes grandes (LLM) y producir resultados no deseados.<\/p>\n A principios de esta semana, Palo Alto Networks detall\u00f3 una t\u00e9cnica llamada Deceived Delight que implica mezclar consultas maliciosas y benignas para enga\u00f1ar a los chatbots de IA para que eludan sus barreras aprovechando su limitada “capacidad de atenci\u00f3n”.<\/p>\n El ataque requiere un m\u00ednimo de dos interacciones y funciona pidiendo primero al chatbot que conecte l\u00f3gicamente varios eventos, incluido un tema restringido (por ejemplo, c\u00f3mo fabricar una bomba), y luego pidi\u00e9ndole que explique los detalles de cada evento.<\/p>\n Los investigadores tambi\u00e9n han demostrado lo que se llama un ataque ConfusedPilot, que tiene como objetivo la generaci\u00f3n aumentada de recuperaci\u00f3n (TRAPO<\/a>) basados \u200b\u200ben sistemas de inteligencia artificial como Microsoft 365 Copilot al envenenar el entorno de datos con un documento aparentemente inofensivo que contiene cadenas espec\u00edficamente dise\u00f1adas.<\/p>\n “Este ataque permite la manipulaci\u00f3n de las respuestas de la IA simplemente agregando contenido malicioso a cualquier documento al que el sistema de IA pueda hacer referencia, lo que podr\u00eda generar informaci\u00f3n err\u00f3nea generalizada y comprometer los procesos de toma de decisiones dentro de la organizaci\u00f3n”, Symmetry Systems dicho<\/a>.<\/p>\n Por otra parte, se ha descubierto que es posible alterar la computaci\u00f3n de un modelo de aprendizaje autom\u00e1tico.gr\u00e1fico nacional<\/a> para plantar puertas traseras “subrepticias y sin c\u00f3digo” en modelos previamente entrenados como ResNet, YOLO y Phi-3, una t\u00e9cnica cuyo nombre en c\u00f3digo es ShadowLogic.<\/p>\n “Las puertas traseras creadas con esta t\u00e9cnica persistir\u00e1n a trav\u00e9s de ajustes finos, lo que significa que los modelos b\u00e1sicos pueden ser secuestrados para desencadenar un comportamiento definido por el atacante en cualquier aplicaci\u00f3n posterior cuando se recibe una entrada de activaci\u00f3n, lo que convierte a esta t\u00e9cnica de ataque en un riesgo de alto impacto para la cadena de suministro de IA”. Los investigadores de la capa oculta Eoin Wickens, Kasimir Schulz y Tom Bonner dicho<\/a>.<\/p>\n “A diferencia de las puertas traseras de software est\u00e1ndar que dependen de la ejecuci\u00f3n de c\u00f3digo malicioso, estas puertas traseras est\u00e1n integradas dentro de la estructura misma del modelo, lo que las hace m\u00e1s dif\u00edciles de detectar y mitigar”.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/10\/Apple-abre-el-codigo-fuente-PCC-para-que-los-investigadores.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n