Reciba actualizaciones gratuitas de inteligencia artificial
Te enviaremos un Resumen diario de myFT correo electrónico redondeando lo último Inteligencia artificial noticias cada mañana.
La Comisión Federal de Comercio ha iniciado una amplia investigación sobre el fabricante de ChatGPT OpenAI, ya que el regulador de EE. UU. centra su atención en los riesgos potenciales creados por el auge de la inteligencia artificial.
En una carta enviada a la compañía respaldada por Microsoft, la FTC dijo que analizará si las personas han sido dañadas por el chatbot de IA que crea información falsa sobre ellas, así como si OpenAI se ha involucrado en privacidad y seguridad de datos «injusta o engañosa». practicas
Los productos de IA generativa están cada vez más en la mira de los reguladores de todo el mundo, ya que los expertos en IA y los especialistas en ética hacen sonar la alarma sobre la enorme cantidad de datos personales consumidos por la tecnología, así como sus resultados potencialmente dañinos, que van desde información errónea hasta comentarios sexistas y racistas. .
En mayo, la FTC lanzó una advertencia a la industria, diciendo que se está “centrando intensamente en cómo las empresas pueden optar por utilizar la tecnología de inteligencia artificial, incluidas las nuevas herramientas generativas de inteligencia artificial, de manera que puedan tener un impacto real y sustancial en los consumidores”.
En su carta, el regulador de EE. UU. solicitó a OpenAI que compartiera material interno que va desde cómo el grupo usa o retiene la información del usuario; los datos que ha utilizado para desarrollar grandes modelos de lenguaje; y los pasos que ha tomado la compañía para abordar el riesgo de que su modelo produzca declaraciones que sean «falsas, engañosas o despectivas».
La FTC se negó a comentar sobre la carta, que fue reportada por primera vez por el Washington Post. OpenAI se negó a comentar.
Lina Khan, presidenta de la FTC, testificó el jueves por la mañana ante el comité judicial de la Cámara y enfrentó fuertes críticas de los legisladores republicanos por su dura postura de aplicación.
Khan es parte de una nueva generación de funcionarios antimonopolio progresistas designados por la administración de Joe Biden, que busca tomar medidas enérgicas contra la conducta anticompetitiva que cree que no ha sido controlada durante décadas en la economía de los EE. UU.
Los expertos han estado preocupados por la gran cantidad de datos que están absorbiendo los modelos de lenguaje detrás de ChatGPT. OpenAI tenía más de 100 millones de usuarios activos mensuales dos meses después de su lanzamiento. El nuevo motor de búsqueda Bing de Microsoft, también impulsado por la tecnología OpenAI, estaba siendo utilizado por más de 1 millón de personas en 169 países en las dos semanas posteriores a su lanzamiento en enero.
Los usuarios informaron que ChatGPT ha inventado nombres, fechas y hechos, así como enlaces falsos a sitios web de noticias y referencias a artículos académicos, un problema conocido en la industria como «alucinaciones».
La investigación de la FTC profundiza en los detalles técnicos de cómo se diseñó ChatGPT, incluido el trabajo de la empresa para corregir las alucinaciones y la supervisión de sus revisores humanos, que afectan directamente a los consumidores. También solicitó información sobre las quejas de los consumidores y los esfuerzos realizados por la empresa para evaluar la comprensión de los consumidores sobre la precisión y confiabilidad del chatbot.
En marzo, el organismo de control de la privacidad de Italia prohibió temporalmente ChatGPT mientras examinaba la recopilación de información personal de la empresa estadounidense luego de una violación de la seguridad cibernética, entre otras cuestiones. Se restableció unas semanas después, luego de que OpenAI hiciera más accesible su política de privacidad e introdujera una herramienta para verificar la edad de los usuarios.
El director ejecutivo de OpenAI, Sam Altman, admitió previamente que ChatGPT tiene debilidades. «ChatGPT es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza». escribió en Twitter en diciembre. “Es un error confiar en él para algo importante en este momento. Es una vista previa del progreso; tenemos mucho trabajo por hacer en cuanto a solidez y veracidad”.