Microsoft est\u00e1 avanzando en la supervisi\u00f3n y regulaci\u00f3n del comportamiento de los agentes de inteligencia artificial (IA) en el entorno empresarial. Con esta intenci\u00f3n, ha desarrollado dos proyectos de c\u00f3digo abierto que no solo refuerzan la seguridad de sus propias plataformas, sino que tambi\u00e9n ofrecen flexibilidad para otros marcos de trabajo.<\/p>\n
La primera iniciativa, ASSERT<\/strong> (Adaptive Spec-driven Scoring for Evaluation and Regression Testing), se centra en evaluar la seguridad a partir de pol\u00edticas establecidas previamente. Este sistema permite a las empresas realizar una prueba exhaustiva de sus agentes, asegur\u00e1ndose de que cumplen con las normativas y regulaciones esperadas. <\/p>\n ASSERT opera mediante una serie de criterios que ayudan a identificar discrepancias en el comportamiento de los agentes a lo largo del tiempo. Esto es fundamental, ya que los agentes de IA pueden evolucionar o actualizarse, y es crucial que contin\u00faen operando dentro de los par\u00e1metros definidos. El proceso de evaluaci\u00f3n se traduce en una mayor confianza en su uso, minimizando riesgos potenciales.<\/p>\n El segundo proyecto, Agent Control Specification<\/strong>, aborda la necesidad de establecer controles efectivos durante la ejecuci\u00f3n de un agente. Dado que los agentes no siempre generan respuestas de forma inmediata, este sistema se asegura de implementar salvaguardias en momentos cr\u00edticos.<\/p>\n Los agentes pueden interactuar con m\u00faltiples recursos y establecer planes complejos. Este enfoque requiere verificaciones anticipadas antes de que se realicen acciones sensibles, como acceder a datos confidenciales o ejecutar operaciones cr\u00edticas. La especificaci\u00f3n busca prevenir conductas no deseadas, garantizando un entorno operativo seguro.<\/p>\n Por \u00faltimo, Microsoft presenta MDASH<\/strong>, un sistema que no solo monitoriza el comportamiento de los agentes, sino que tambi\u00e9n los utiliza para reforzar la seguridad del software. Este sistema est\u00e1 dise\u00f1ado para coordinar a m\u00e1s de 100 agentes en la detecci\u00f3n de vulnerabilidades.<\/p>\n MDASH tiene como objetivo identificar fallos explotables, analizar flujos de datos y detectar cadenas de explotaci\u00f3n. La informaci\u00f3n recolectada se canaliza de regreso hacia el portal de Microsoft Defender, asegurando que las soluciones y correcciones propuestas se integren con las herramientas ya adoptadas por los equipos de seguridad. <\/p>\n La adopci\u00f3n de estas innovaciones por parte de Microsoft representa un paso crucial hacia el establecimiento de un entorno de trabajo m\u00e1s seguro y confiable para las empresas que dependen de agentes de IA. Con ASSERT, Agent Control Specification y MDASH, las organizaciones no solo optimizan sus procesos, sino que tambi\u00e9n fortalecen su postura de seguridad en el mercado actual. La capacidad de supervisar y regular el comportamiento de los agentes de IA es fundamental para cualquier empresa que busque navegar en un entorno digital cada vez m\u00e1s complejo y desafiante.<\/p>\n\u00bfC\u00f3mo Funciona ASSERT?<\/h4>\n
Especificaciones de Control de Agentes: Seguridad en Ejecuci\u00f3n<\/h3>\n
Importancia del Control Durante la Ejecuci\u00f3n<\/h4>\n
MDASH: Un Sistema de Seguridad Multimodal<\/h3>\n
Funciones Clave de MDASH<\/h4>\n
Conclusiones: Un Futuro Seguro con Microsoft<\/h3>\n