Ahora más que nunca, la IA necesita un marco de gobierno

Manténgase informado con actualizaciones gratuitas

Simplemente regístrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja de entrada.

El escritor es Co-Director Fundador del Instituto Stanford para la IA centrada en Human (HAI) y el CEO y cofundador de World Labs

La inteligencia artificial avanza a un ritmo vertiginoso. Lo que solía tomar días de modelos de cálculo ahora se puede hacer en minutos, y aunque los costos de capacitación han aumentado dramáticamente, pronto disminuirán a medida que los desarrolladores aprendan a hacer más con menos. Lo he dicho antes, y lo repetiré, el futuro de la IA es ahora.

Para cualquiera en el campo, esto no es sorprendente. Los informáticos han estado trabajando duro; Las empresas han estado innovando durante años. Lo que es sorprendente, y la crianza de las cejas, es la aparente falta de un marco general para el gobierno de la IA. Sí, la IA está progresando rápidamente, y con eso viene la necesidad de garantizar que beneficie a toda la humanidad.

Como tecnólogo y educador, siento firmemente que cada uno de nosotros en el ecosistema global de IA es responsable tanto de avanzar en la tecnología como para garantizar un enfoque centrado en el ser humano. Es una tarea difícil, una que merece un conjunto estructurado de pautas. En preparación para la Cumbre de Acción AI de la próxima semana en París, he presentado tres principios fundamentales para el futuro de la formulación de políticas de IA.

Primero, use la ciencia, no la ciencia ficción. La base del trabajo científico es la dependencia de principios de los datos empíricos y la investigación rigurosa. El mismo enfoque debe aplicarse a la gobernanza de la IA. Mientras que los escenarios futuristas capturan nuestra imaginación, ya sea utopía o apocalipsis, la formulación de políticas efectiva exige una visión de ojos claros de la realidad actual.

Hemos hecho un progreso significativo en áreas como el reconocimiento de imágenes y el procesamiento del lenguaje natural. Los chatbots y los programas de asistencia de software de copiloto están transformando el trabajo de manera emocionante, pero están aplicando el aprendizaje de datos avanzado y la generación de patrones. No son formas de inteligencia con intenciones, libre albedrío o conciencia. Comprender esto es crítico, salvándonos de la distracción de escenarios descabellados y permitiéndonos centrarnos en desafíos vitales.

Dada la complejidad de la IA, incluso centrarse en nuestra realidad no siempre es fácil. Para cerrar la brecha entre los avances científicos y las aplicaciones del mundo real, necesitamos herramientas que compartan información precisa y actualizada sobre sus capacidades. Las instituciones establecidas, como el Instituto Nacional de Normas y Tecnología de los Estados Unidos, podrían iluminar los efectos del mundo real de la IA, lo que lleva a políticas precisas y procesables basadas en la realidad técnica.

Segundo, sea pragmático, en lugar de ideológico. A pesar de su rápido progresión, el campo de la IA todavía está en su infancia, con sus mayores contribuciones por delante. Siendo ese el caso, las políticas sobre lo que se pueden y no se pueden construir deben crearse pragmáticamente, para minimizar las consecuencias no deseadas al incentivar la innovación.

Tomemos, por ejemplo, el uso de IA para diagnosticar con mayor precisión la enfermedad. Esto tiene el potencial de democratizar rápidamente el acceso a la atención médica de alta calidad. Sin embargo, si no se guía adecuadamente, también podría exacerbar los sesgos presentes en los sistemas de salud actuales.

Desarrollar IA no es una tarea fácil. Es posible desarrollar un modelo con las mejores intenciones, y que ese modelo se use mal más adelante. Las mejores políticas de gobierno, por lo tanto, estarán diseñadas para mitigar tácticamente dicho riesgo al tiempo que recompensan la implementación responsable. Los formuladores de políticas deben crear políticas de responsabilidad práctica que desalienten el mal uso intencional sin penalizar injustamente los esfuerzos de buena fe.

Finalmente, empodera el ecosistema de IA. La tecnología puede inspirar a los estudiantes, ayudarnos a cuidar a nuestra población envejecida e innovar soluciones para energía más limpia, y las mejores innovaciones surgen a través de la colaboración. Por lo tanto, es aún más importante que los formuladores de políticas empoderen a todo el ecosistema de IA, incluidas las comunidades de código abierto y la academia.

El acceso abierto a los modelos de IA y las herramientas computacionales es crucial para el progreso. Limitarlo creará barreras e innovación lenta, particularmente para las instituciones académicas e investigadores que tienen menos recursos que sus homólogos del sector privado. Las consecuencias de tales limitaciones, por supuesto, se extienden mucho más allá de la academia. Si los estudiantes de informática de hoy no pueden llevar a cabo investigaciones con los mejores modelos, no entenderán estos complejos sistemas cuando ingresen al sector privado o decidan encontrar a sus propias empresas, una brecha seria.

La Revolución AI está aquí, y estoy emocionado. Tenemos el potencial de mejorar dramáticamente nuestra condición humana en un mundo impulsado por la IA, pero para hacer de eso una realidad, necesitamos una gobernanza que sea empírica, colaborativa y profundamente arraigada en los valores centrados en los humanos.