ChatGPT sigue fascinando, intrigando, pero también preocupando a ciertas organizaciones que no dudan en atacar esta herramienta. El 30 de marzo de 2023, el Centro de IA y Política Digital (CAIDP), una organización de investigación sin fines de lucro enfocada en tecnologías éticas, presentó una demanda contra OpenAI por violar la ley federal de protección al consumidor con su inteligencia artificial generativa.
Una queja se dirige a OpenAI y más específicamente a ChatGPT
En la denuncia presentada ante la Comisión Federal de Comercio (FTC), la ONG acusa a OpenAI de haber desarrollado y ofrecido una herramienta “ tendencioso, engañoso y supone un riesgo para la privacidad y la seguridad pública “. La organización acusa a ChatGPT de no cumplir con las pautas de los reguladores estadounidenses que piden que toda la IA sea transparente, justa y fácil de explicar. ” El producto GPT-4 de OpenAI no cumple ninguno de estos requisitos, dice el CAIDP.
Al presentar esta denuncia, la ONG solicita a la FTC que abra una investigación sobre OpenAI. Al mismo tiempo, ofrece suspender el despliegue de productos comerciales relacionados con sus modelos lingüísticos hasta que la empresa cumpla con la normativa aplicable sobre inteligencia artificial “. Dentro su carta abiertala asociación también critica a la empresa por brindar poca información sobre los datos de capacitación que utilizó para desarrollar su último modelo de lenguaje, GPT-4.
Además de esto, el CAIDP menciona una docena de riesgos importantes incluidos en la descripción técnica de la herramienta que ofrece OpenAI. Frente a estos peligros potenciales, la asociación solicita a la FTC que establezca un período de verificación, el tiempo para verificar que las soluciones futuras cumplan con la ley. ” Un requisito fundamental en todos los marcos de políticas de IA emergentes, una evaluación de impacto independiente antes del despliegue, nunca se ha llevado a cabo. dijo el CAIDP.
Solo unas horas antes de la formalización de esta denuncia, eminentes investigadores como Elon Musk habían abogado por la interrupción durante al menos seis meses del desarrollo de IA más avanzadas que GPT-4. Este parón tendría como objetivo reenfocar la investigación en torno a las inteligencias artificiales generativas con el fin de “ mejorar su precisión, seguridad, interpretabilidad, transparencia, solidez, fiabilidad y equidad “.
CAIDP está preocupado por los sesgos algorítmicos existentes en las IA generativas
Disponible para el público en general a fines de noviembre de 2022, ChatGPT se considera una verdadera revolución. Conscientes de haberse perdido algo, gigantes tecnológicos como Google o Meta también se han embarcado en la IA generativa. La firma de Mountain View ha propuesto así a Bard mientras que la compañía liderada por Mark Zuckerberg ha presentado LLaMA, un modelo de lenguaje que debería ser el ancla de un futuro robot conversacional.
Para todas estas IA generativas, los críticos de ChatGPT, incluido el CAIDP, advierten contra los sesgos algorítmicos que proponen. Gracias a su alianza con OpenAI, Microsoft ha incluido esta tecnología en su buscador Bing. Apenas unos días después del lanzamiento del servicio, los desarrolladores se dieron cuenta de que la herramienta tendía a presentar afirmaciones falsas si se usaba en exceso. Como resultado, Microsoft ha decidido limitar su servicio a 60 sesiones de chat diarias y 6 preguntas por sesión.
La FTC aún no ha respondido a la denuncia. Si decide tomar el caso, el regulador estadounidense bien podría establecer requisitos que sin duda afectarán el desarrollo de futuras herramientas de IA generativa. Por ahora, solo un estado se ha pronunciado sobre el agente conversacional de OpenAI: Italia. ChatGPT está bloqueado allí debido a una violación de GDPR.
About the Author
