La inteligencia artificial (IA) solo puede ser tan buena como las personas que la programan. Como resultado, se ha enfrentado a acusaciones de inexactitud y prejuicio racial en el pasado. El sesgo de sus programadores, que a menudo son jóvenes blancos de Silicon Valley, parece preprogramado. Por ejemplo, percibe peor a los negros en las fotografías porque solo se formó con caras blancas, o saca la conclusión lógica de la falta de diversidad en el lugar de trabajo de que las personas con otras raíces étnicas, o las mujeres, deben ser menos adecuadas para esto. .
Sin embargo, una nueva empresa fundada por mujeres en las industrias de la moda y la belleza con sede en Toronto está recurriendo a la IA para crear un futuro más justo. Los cofundadores de Halt AI, Amanda Cosco y Roya Sedigh, que tienen una amplia experiencia en tecnología y moda, tenían una cosa en común: probaban regularmente los algoritmos en busca de sesgos. Y así, Halt AI se convirtió en su proyecto conjunto. FashionUnited habló con Cosco sobre Halt AI y su Diversity Analytics Dashboard, que brinda análisis detallados sobre la diversidad de más de 500 marcas de moda, medios y empresas minoristas.
«La mayoría de las historias que escuchas sobre la IA son fatalidades cibernéticas y dan un poco de miedo, especialmente cuando se trata de reconocimiento facial», dice Cosco. «Pero si podemos hacer un buen uso de la IA para mejorar la diversidad, entonces eso es un contraataque a esa narrativa turbia».
Descubrieron que la mayoría de las marcas miden su diversidad desde la perspectiva de las nuevas contrataciones, pero descuidan su marketing y contenido. Así que decidieron usar su tecnología para dar a las marcas una instantánea de cómo se ven sus redes sociales y marketing desde el exterior. Esto despertó el interés de las marcas. “Las marcas pidieron información contextual, como comparar sus esfuerzos con los de otras marcas”, explica Cosco. «Si obtienen un 7 sobre 10 en etnicidad, ¿es eso realmente bueno?»
Esto motivó la creación de puntos de referencia para que las empresas evalúen su desempeño no solo en comparación con otras empresas sino también dentro de la industria en general. Se miden seis dimensiones de diversidad (raza, edad, género, tipo de cuerpo, color de piel y discapacidad) para cada marca a través de su contenido visual, entre otros criterios.
La base de clientes actual de Halt AI incluye compañías Fortune 500 luego de la financiación previa y una serie de subvenciones del gobierno canadiense e inversiones ángeles. Los fundadores comenzaron con la industria de la moda y la belleza porque ambas son industrias particularmente importantes para las mujeres. Cosco dice: «La tecnología está lista para escalar en otras industrias, ahora solo es cuestión de construir la reputación de la marca».
Ya existen algunos servicios de revisión de contenido, como el Instituto Geena Davis, que rastrea la representación de género en los medios y el entretenimiento. Pero Cosco dice que son caros, no se escalan y están plagados de errores humanos. «Lo que hace único a Halt AI es que tenemos una tasa de precisión de más del 90 por ciento y que podemos ser rápidos, manejando industrias enteras en cuestión de semanas».
La moda de lujo todavía tiene muy poca diversidad
Los datos de Halt AI confirmaron rápidamente que la industria de la moda de lujo, por ejemplo, todavía es muy blanca y muy joven, con poca representación en términos de discapacidad, y que si bien existe diversidad en términos de etnia, el color de la piel aún tiende a permanecer claro. “Después de BLM y el asesinato de George Floyd, las empresas hicieron muchas promesas y el [POC-]La comunidad ha recibido mucha atención, pero la comunidad de personas con discapacidad es la próxima en el centro de atención”, dice Cosco. «A las marcas deportivas como Nike les va muy bien en términos de diversidad, mientras que los sospechosos habituales como Chanel no tienen mucha diversidad».
Pero detener la IA no se trata de señalar con el dedo a nadie. Los análisis cuantitativos que realizan proporcionan a las empresas datos sin procesar que pueden utilizar para tomar decisiones de marketing. Cosco cree que actualmente hay una falta de conocimiento, lo que deja a las marcas con un gran punto ciego.
Debido a los NDA, Cosco está limitado en lo que puede decir sobre marcas específicas, pero ha observado algunos patrones generales. “Las marcas suelen sorprenderse por su falta de representación, especialmente en el espacio de las personas con discapacidad. Intentamos crear análisis para ellos para que puedan realizar un seguimiento de las mejoras a lo largo del tiempo para comprender mejor. Pero ayudarlos a comprender cuál es su posición dentro de la industria, diciéndoles que están en el percentil 10 o 90 ha resultado útil».
Un programa piloto para una submarca de una importante empresa de cosméticos resultó tan exitoso que ahora se está implementando internamente para todas las marcas para que todos los equipos de marketing puedan consultarlo en su toma de decisiones. Si bien la tecnología sigue siendo una herramienta B2B por ahora, Cosco cree que evolucionará hacia una herramienta B2B/B2C a medida que los consumidores obtengan los beneficios.
«Queremos convertirnos en el estándar mundial para medir la diversidad en todas las industrias para poder ofrecer un sello de aprobación para la diversidad», dice Cosco. «No existe tal cosa en este momento».
Este artículo se publicó anteriormente en FashionUnited.uk. Traducción y edición: Barbara Russ