El patrón de Google afirma que no se debe creer ciegamente en la IA

En una reciente entrevista exclusiva con la BBC, Sundar Pichai, CEO de Alphabet, la empresa matriz de Google, advirtió sobre la importancia de no « hacer ciegamente confianza » en la inteligencia artificial (IA).

Existen múltiples ejemplos de sistemas de IA como ChatGPT y Gemini que han proporcionado información incorrecta o incluso engañosa. Pichai reconoció: « Estamos orgullosos del trabajo que realizamos para ofrecer información precisa, pero la tecnología de IA actual está sujeta a errores ».

¿Cuáles son las responsabilidades?

Por esta razón, Pichai aconseja utilizar otras herramientas que complementen el conocimiento y favorezcan un enfoque más amplio. Mencionó su propio motor de búsqueda: « Este es el motivo por el cual la gente utiliza las búsquedas de Google; tenemos otros productos diseñados para proporcionar información precisa ».

Sin embargo, algunos expertos argumentan que la responsabilidad principal recae en las empresas tecnológicas, que deben mejorar sus sistemas de IA en lugar de pedir a los usuarios que verifiquen la información proporcionada.

Los agentes conversacionales están diseñados para atraer a los usuarios y mantener su interés, lo que puede llevar a una tendencia a halagar o complacer, un fenómeno conocido como « sycophancy », que afecta la calidad y la relevancia de las respuestas.

El riesgo de una burbuja especulativa de la IA

Durante la misma entrevista, Pichai también discutió los peligros asociados con una posible burbuja especulativa en el sector de la IA. A medida que las inversiones en este ámbito crecen de manera vertiginosa, las empresas podrían enfrentar serias dificultades si esta burbuja estalla.

A pesar de que este auge de inversión ha sido « un momento extraordinario », Pichai expresa preocupaciones sobre la « irracionalidad » que acompaña a la actual fiebre inversora. La valorización de las empresas tecnológicas ha aumentado drásticamente en los últimos meses, impulsando a los inversores a gastar sin reservas para no quedarse atrás.

Cuestionado sobre la capacidad de Google para resistir a esta posible crisis, Pichai mencionó que el grupo tiene las herramientas necesarias para sobrellevar la tormenta, aunque reconoció que « ninguna empresa estará a salvo, incluida nosotros ».