La salida de los humanos en la supervisión de IA
¿Qué es la normalización de la desviación?
En el contexto de la inteligencia artificial (IA), la normalización de la desviación es un fenómeno observado en la supervisión humana. Este concepto fue presentado por Eric Brandwine en la conferencia re:Invent de AWS en 2017. Se refiere al gradual deslizamiento en la calidad de la supervisión humana. Inicialmente, un operador humano supervisa con atención, pero con el tiempo puede dejar de hacerlo de manera efectiva.
Brandwine utiliza el ejemplo de servicios de emergencia médicos, donde las alarmas suenan constantemente. Al principio, cada alerta provoca que el personal responda de inmediato, pero, tras una serie de falsas alarmas, disminuye su reacción. Este mismo patrón puede observarse con los analistas que validan acciones de IA. La supervisión va perdiendo rigor, a menudo sin que se reconozca la falta de precisión, lo que podría llevar a situaciones críticas.
La ineficacia de la supervisión humana
La supervisión humana no siempre es confiable. Según Brandwine, “los humanos no son terriblemente coherentes”, lo que cuestiona la idea de que la supervisión humana sea el estándar de calidad. Este es un sentimiento compartido por gigantes tecnológicos como Google y Microsoft.
Francis deSouza, director de operaciones de Google Cloud, anunció que una flota de agentes automatizados se encargaría de la mayoría de las tareas cibernéticas. La supervisión humana sería mínima, lo que marca una tendencia hacia la automación en lugar de la intervención humana constante.
Aprendizaje en bucle vs. validación continua
Satya Nadella, CEO de Microsoft, también aboga por un enfoque de “aprendizaje en bucle” en lugar de una validación humana continua. Esto significa que en lugar de depender de la revisión constante por humanos, las IA pueden aprender y adaptarse a partir de sus errores y experiencias.
Este enfoque se extiende al uso de agentes en el entorno empresarial, donde la intervención humana se reduce a lo mínimo necesario. La filosofía detrás de esto es que, al disminuir la dependencia de la supervisión humana, se puede mejorar la eficiencia y efectividad de los sistemas de IA.
La postura de IBM y la responsabilidad humana
En contraste con Google y Microsoft, IBM sostiene que la intervención humana sigue siendo crucial, pero no necesariamente en cada etapa de la interacción de una IA. La responsabilidad humana, según IBM, debería estar presente en todas las fases del desarrollo y despliegue de la inteligencia artificial. Esto refleja un enfoque más equilibrado que busca integrar la supervisión humana sin obstaculizar el avance de la tecnología.
El futuro de la supervisión de IA
En conclusión, el movimiento hacia la reducción de la supervisión humana en sistemas de IA se basa en la comprensión de que la intervención humana puede no ser el mejor método para asegurar la eficacia de las acciones de la IA. Con el avance de la tecnología, cada vez más empresas están adoptando un enfoque donde la IA aprende por sí misma, minimizando la participación humana.
El debate sobre la supervisión humana versus la automación continuará a medida que la tecnología evolucione. La cuestión principal será encontrar el equilibrio adecuado entre responsabilidad y eficiencia, asegurando así que la inteligencia artificial actúe de manera segura y efectiva en todas las áreas.
About the Author
