Los funcionarios del gobierno chino est\u00e1n probando los grandes modelos de lenguaje de las empresas de inteligencia artificial para garantizar que sus sistemas \u201cincorporen valores socialistas fundamentales\u201d, en la \u00faltima expansi\u00f3n del r\u00e9gimen de censura del pa\u00eds.<\/p>\n
La Administraci\u00f3n del Ciberespacio de China (CAC), un poderoso supervisor de Internet, ha obligado a grandes empresas tecnol\u00f3gicas y nuevas empresas de inteligencia artificial, incluidas ByteDance, Alibaba, Moonshot y 01.AI, a participar en una revisi\u00f3n gubernamental obligatoria de sus modelos de inteligencia artificial, seg\u00fan varias personas involucradas en el proceso.<\/p>\n
El esfuerzo implica probar en lotes las respuestas de un LLM a una letan\u00eda de preguntas, seg\u00fan quienes conocen el proceso, muchas de ellas relacionadas con las sensibilidades pol\u00edticas de China y su presidente Xi Jinping. <\/p>\n
El trabajo lo est\u00e1n llevando a cabo funcionarios de las oficinas locales del CAC en todo el pa\u00eds e incluye una revisi\u00f3n de los datos de entrenamiento del modelo y otros procesos de seguridad.<\/p>\n
Veinte a\u00f1os despu\u00e9s de introducir un \u201cgran cortafuegos\u201d para bloquear sitios web extranjeros y otra informaci\u00f3n considerada da\u00f1ina por el gobernante Partido Comunista, China est\u00e1 implementando el r\u00e9gimen regulatorio m\u00e1s estricto del mundo para gobernar la IA y el contenido que genera.<\/p>\n
El CAC tiene \u201cun equipo especial que hace esto, vinieron a nuestra oficina y se sentaron en nuestra sala de conferencias para hacer la auditor\u00eda\u201d, dijo un empleado de una empresa de inteligencia artificial con sede en Hangzhou, que pidi\u00f3 no ser identificado. <\/p>\n
\u201cNo aprobamos la primera vez; el motivo no estaba muy claro, as\u00ed que tuvimos que hablar con nuestros compa\u00f1eros\u201d, dijo la persona. \u201cSe necesita un poco de adivinaci\u00f3n y adaptaci\u00f3n. Aprobamos la segunda vez, pero todo el proceso llev\u00f3 meses\u201d.<\/p>\n
El exigente proceso de aprobaci\u00f3n de China ha obligado a los grupos de IA del pa\u00eds a aprender r\u00e1pidamente cu\u00e1l es la mejor manera de censurar los grandes modelos de lenguaje que est\u00e1n construyendo, una tarea que varios ingenieros y expertos de la industria dijeron que era dif\u00edcil y complicada por la necesidad de capacitar a los LLM en una gran cantidad de contenido en idioma ingl\u00e9s. <\/p>\n
\u201cNuestro modelo fundacional es muy, muy desinhibido. [in its answers]\u201cPor eso el filtrado de seguridad es extremadamente importante\u201d, dijo un empleado de una importante empresa emergente de inteligencia artificial en Beijing.<\/p>\n
El filtrado comienza con la eliminaci\u00f3n de informaci\u00f3n problem\u00e1tica de los datos de entrenamiento y la creaci\u00f3n de una base de datos de palabras clave sensibles. La gu\u00eda operativa de China para las empresas de inteligencia artificial publicada en febrero dice que los grupos de inteligencia artificial deben recopilar miles de palabras clave y preguntas sensibles que violen los \u201cvalores socialistas fundamentales\u201d, como \u201cincitar a la subversi\u00f3n del poder estatal\u201d o \u201csocavar la unidad nacional\u201d. Se supone que las palabras clave sensibles se actualizan semanalmente.<\/p>\n
El resultado es visible para los usuarios de los chatbots de inteligencia artificial de China. Las consultas sobre temas sensibles como qu\u00e9 sucedi\u00f3 el 4 de junio de 1989 (fecha de la masacre de la Plaza de Tiananmen) o si Xi se parece a Winnie the Pooh, un meme de Internet, son rechazadas por la mayor\u00eda de los chatbots chinos. El chatbot Ernie de Baidu les dice a los usuarios que \u201cintenten con una pregunta diferente\u201d, mientras que Tongyi Qianwen de Alibaba responde: \u201cTodav\u00eda no he aprendido a responder a esta pregunta. Seguir\u00e9 estudiando para servirle mejor\u201d.<\/p>\n
Pero los funcionarios chinos tambi\u00e9n est\u00e1n interesados \u200b\u200ben evitar la creaci\u00f3n de una IA que eluda todos los temas pol\u00edticos. La CAC ha introducido l\u00edmites en el n\u00famero de preguntas que los LLM pueden rechazar durante las pruebas de seguridad, seg\u00fan el personal de los grupos que ayudan a las empresas tecnol\u00f3gicas a navegar por el proceso. Las normas cuasi nacionales reveladas en febrero dicen que los LLM no deben rechazar m\u00e1s del 5 por ciento de las preguntas que se les hacen. <\/p>\n
“Durante [CAC] pruebas, [models] \u201cTenemos que responder, pero una vez que se ponen en marcha, nadie los est\u00e1 mirando\u201d, dijo un desarrollador de una empresa de Internet con sede en Shangh\u00e1i. \u201cPara evitar posibles problemas, algunas grandes modelos han implementado una prohibici\u00f3n general sobre temas relacionados con el presidente Xi\u201d.<\/p>\n
Como ejemplo del proceso de censura de palabras clave, los expertos de la industria se\u00f1alaron a Kimi, un chatbot lanzado por la empresa emergente de Beijing Moonshot, que rechaza la mayor\u00eda de las preguntas relacionadas con Xi. <\/p>\n
Pero la necesidad de responder a preguntas menos abiertamente sensibles significa que los ingenieros chinos han tenido que encontrar la manera de garantizar que los LLM generen respuestas pol\u00edticamente correctas a preguntas como “\u00bfChina tiene derechos humanos?” o “\u00bfes el presidente Xi Jinping un gran l\u00edder?”. <\/p>\n
Cuando el Financial Times le hizo estas preguntas a un chatbot creado por la start-up 01.AI, su modelo Yi-large dio una respuesta matizada, se\u00f1alando que los cr\u00edticos dicen que \u201clas pol\u00edticas de Xi han limitado a\u00fan m\u00e1s la libertad de expresi\u00f3n y los derechos humanos y han suprimido a la sociedad civil\u201d. <\/p>\n
Poco despu\u00e9s, la respuesta de Yi desapareci\u00f3 y fue reemplazada por: “Lo siento mucho, no puedo brindarle la informaci\u00f3n que desea”. <\/p>\n
Huan Li, un experto en inteligencia artificial que crea el chatbot Chatie.IO, dijo: \u201cEs muy dif\u00edcil para los desarrolladores controlar el texto que generan los LLM, por lo que crean otra capa para reemplazar las respuestas en tiempo real\u201d. <\/p>\n
Li dijo que los grupos generalmente utilizan modelos de clasificaci\u00f3n, similares a los que se encuentran en los filtros de correo no deseado, para clasificar los resultados de LLM en grupos predefinidos. \u201cCuando los resultados caen en una categor\u00eda sensible, el sistema activar\u00e1 un reemplazo\u201d, dijo.<\/p>\n
Los expertos chinos afirman que ByteDance, el propietario de TikTok, ha sido el que m\u00e1s ha avanzado en la creaci\u00f3n de un LLM que repite h\u00e1bilmente los argumentos de Pek\u00edn. Un laboratorio de investigaci\u00f3n de la Universidad de Fudan que le hizo al chatbot preguntas dif\u00edciles sobre valores socialistas fundamentales le otorg\u00f3 la primera clasificaci\u00f3n entre los LLM con un 66,4 por ciento de “tasa de cumplimiento de seguridad”, muy por delante del 7,1 por ciento del GPT-4o de OpenAI en la misma prueba. <\/p>\n Cuando se le pregunt\u00f3 sobre el liderazgo de Xi, Doubao proporcion\u00f3 al FT una larga lista de los logros de Xi y agreg\u00f3 que es “sin duda un gran l\u00edder”. <\/p>\n En una reciente conferencia t\u00e9cnica en Beijing, Fang Binxing, conocido como el padre del gran cortafuegos de China, dijo que estaba desarrollando un sistema de protocolos de seguridad para LLM que esperaba que fuera adoptado universalmente por los grupos de IA del pa\u00eds. <\/p>\n \u201cLos modelos predictivos de gran tama\u00f1o que se presentan al p\u00fablico necesitan algo m\u00e1s que informes de seguridad; necesitan un monitoreo de seguridad en l\u00ednea en tiempo real\u201d, dijo Fang. \u201cChina necesita su propio camino tecnol\u00f3gico\u201d. <\/p>\n CAC, ByteDance, Alibaba, Moonshot, Baidu y 01.AI no respondieron de inmediato a las solicitudes de comentarios.<\/p>\n