\n<\/p>\n
Si bien la inteligencia artificial (IA) generativa se puede utilizar para siempre y ayudar a millones de usuarios de Internet todos los d\u00edas, esta tecnolog\u00eda tiene un lado mucho m\u00e1s oscuro. Un ingeniero de Microsoft y una start-up especializada en el an\u00e1lisis de grandes modelos ling\u00fc\u00edsticos pusieron de relieve recientemente los fallos de estas herramientas.<\/p>\n
Shane Jones, ingeniera especializada en IA, miembro del equipo rojo de Microsoft y acostumbrada a probar las vulnerabilidades de las soluciones que desarrolla, analiz\u00f3 Copilot Designer, el generador de im\u00e1genes desarrollado por Microsoft gracias a las tecnolog\u00edas OpenAI.<\/p>\n
Durante los \u00faltimos tres meses, el ingeniero ha logrado generar im\u00e1genes de car\u00e1cter ofensivo, violento o sexual. Consternado, Shane Jones expres\u00f3 su preocupaci\u00f3n en dos cartas dirigidas a la Comisi\u00f3n Federal de Comercio (FTC) y a la junta directiva de Microsoft. \u201c He instado repetidamente a Microsoft a que retire Copilot Designer del uso p\u00fablico hasta que se puedan implementar mejores medidas de seguridad.<\/em> \u00bb indica en su carta dirigida a la FTC.<\/p>\n \u201c Estamos comprometidos a abordar todas las inquietudes de los empleados de acuerdo con las pol\u00edticas de nuestra empresa y apreciamos los esfuerzos de los empleados por estudiar y probar nuestra \u00faltima tecnolog\u00eda para mejorar a\u00fan m\u00e1s su seguridad.<\/em> \u00bbDeclara Microsoft, en respuesta a la carta de su empleado. Shane Jones reconoce que el gigante tecnol\u00f3gico no es la \u00fanica empresa que se enfrenta a este tipo de problemas, pero lamenta su inacci\u00f3n. Cita en particular a Google, que impide a Gemini generar seres humanos despu\u00e9s de que empez\u00f3 a crear im\u00e1genes hist\u00f3ricas incoherentes e incluso problem\u00e1ticas.<\/p>\n