La inteligencia artificial generativa está empezando a cambiar el funcionamiento de las ciudades, desde acelerar el proceso de contratación hasta orientar a los residentes para acceder a servicios críticos o involucrar a los ciudadanos en la planificación a largo plazo. Pero no es la tecnología por sí sola la que impulsa estos cambios, sino también los líderes locales que trabajan para identificar los usos más apropiados de la tecnología. Y en Bloomberg Philanthropies creemos que, al experimentar constantemente con la forma en que la IA generativa se puede integrar en sus prácticas diarias, los innovadores de las ciudades aprovecharán todo su potencial, teniendo en cuenta sus limitaciones.

Para profundizar su comprensión de la IA generativa y cómo se puede aplicar éticamente a su trabajo, 120 líderes de datos e innovación de más de 90 ciudades se reunieron recientemente en un City Innovation Studio en Bloomberg CityLab en la Ciudad de México. Allí, analizaron exactamente cómo sus habilidades de innovación pueden llevar la experimentación con IA al siguiente nivel y qué puede producir este trabajo, a su vez, para las personas a las que sirven.

Presentamos la “frontera irregular” de la IA en el gobierno

Mitchell Weiss, profesor de la Escuela de Negocios de Harvard y asesor principal de la Iniciativa de Liderazgo de Ciudades de Bloomberg en Harvard, presentó a los reunidos en la Ciudad de México un marco general para ser más ambiciosos con la inteligencia artificial en su trabajo. El enfoque se basa en un documento de trabajo coescrito por algunos de sus colegas, que estipula que la genAI ayuda a las personas a aumentar la velocidad y producir resultados de mayor calidad cuando se utiliza para abordar tareas específicas dentro de la «frontera irregular». Esta frontera se entiende mejor como una curva que delinea lo que queda «dentro» y «fuera» del conjunto actual de capacidades de la tecnología.

Si bien el documento exploraba el uso de genAI en el sector privado, Weiss cree que adoptar la idea de una frontera irregular puede ayudar a los innovadores de las ciudades a hacer más con la tecnología en nombre del público. Lo que quiere decir en la práctica es que no sabrán qué tareas quedan dentro y fuera de las capacidades de la IA generativa hasta que descubran dónde queda esa frontera irregular para ellos mismos. Eso significa buscar una experimentación constante y audaz, que es exactamente lo que hicieron como grupo en la Ciudad de México.

“Lo que pasa con la IA, al menos con la generativa, es que no se sabe realmente qué va a hacer”, explica Weiss a Bloomberg Cities. “No hay un manual de usuario real. No hay una lista finita de tareas que puede realizar, ya sea contigo o bajo tu dirección, hasta que lo intentas”.

Experimentar para revelar la utilidad y lidiar con las limitaciones

Las tareas específicas que se encuentran a ambos lados de la frontera irregular (que están o no dentro de las capacidades actuales de la IA generativa) pueden resultar sorprendentes para los líderes de las ciudades que aún no han dedicado un tiempo considerable a la tecnología. Como demostró Weiss en el City Innovation Studio, una solicitud tan simple como producir un grupo de oraciones de una docena de palabras cada una era demasiado difícil para una de las herramientas de IA más populares.

“Las herramientas no están diseñadas para ser herramientas cuantitativas. Son modelos de lenguaje”, explica Weiss, antes de señalar que lo que funciona una semana o un mes puede ser diferente al siguiente: “Están adquiriendo cada vez más capacidad cuantitativa a medida que avanzamos”.

Weiss cree que, en todo caso, los líderes de las ciudades pueden correr el riesgo de no apreciar plenamente lo útil que puede ser esta tecnología en este momento. En el City Innovation Studio, los innovadores locales adquirieron perspectiva al respecto cuando aceptaron un desafío hipotético de crear un prototipo de una nueva solución para mitigar el calor en una ciudad, y descubrieron que las herramientas de IA generativa produjeron una amplia gama de resultados concretos en prácticamente ningún tiempo. En concreto, la IA generativa ayudó a los innovadores a identificar muy rápidamente fuentes de datos útiles, generar nuevas ideas, considerar estudios de casos de otras ciudades y crear plantillas de productos mínimos viables (MVP) y documentación de proyectos.

“Utilizaron las herramientas para la definición de problemas, la ideación y la creación de prototipos, y en un período de tiempo muy breve (fue una verdadera prueba de fuego) obtuvieron resultados realmente sorprendentes”, afirma Francisca Rojas, directora académica del Centro Bloomberg para la Innovación Pública de la Universidad Johns Hopkins.

Mejorar los datos y otros insumos clave para producir mejores resultados

Así como los innovadores urbanos saben que siempre es importante probar, evaluar y ajustar las soluciones según sea necesario, puede ser útil para ellos mantener una mente abierta en cuanto a que una tarea que se salga de las capacidades actuales de la IA no es necesariamente una razón para dejar de intentarlo. En otras palabras, el comportamiento pasado no es un predictor de la capacidad futura cuando se trata de herramientas de IA generativa.

Así como los innovadores de las ciudades saben que siempre es importante probar, evaluar y ajustar las soluciones según sea necesario, puede ser útil para ellos mantener una mente abierta y pensar que una tarea que se salga de las capacidades actuales de la IA no es necesariamente una razón para dejar de intentarlo. En otras palabras, el comportamiento pasado no es un predictor de la capacidad futura cuando se trata de herramientas de IA generativa.

Un ejemplo que surgió en la sesión de una tarea que potencialmente estaba fuera de la frontera (comprender las brechas en los servicios para un grupo demográfico específico en una ciudad específica) representó una oportunidad para mejorar la herramienta, en lugar de un fracaso, señaló Weiss.

«Una pregunta que deben tener en mente con estas cosas que creemos que están fuera de la frontera [es] si podrían, de alguna manera, en virtud de su base de habilidades o conocimientos, llevar estas cosas realmente a la frontera», dijo a los líderes de la ciudad. Después de todo, en un caso como este, es posible que una ciudad simplemente no haya publicado documentación clara de su capacidad limitada para la prestación de servicios. Para incorporar eso en su trabajo, una herramienta de IA generativa debe ser entrenada en el conjunto de datos relevante.

De la misma manera, una tarea como comprender la perspectiva de una comunidad minoritaria que vive en una ciudad puede parecer, en un principio, que está más allá de las capacidades de la tecnología. Ciertamente, estas herramientas no pueden reemplazar la interacción con los residentes reales. Pero una enseñanza fundamental aquí es que si los líderes utilizan herramientas de IA generativa para abordar nuevos datos y nuevas perspectivas, pueden comenzar a abordar estas deficiencias.

“Lo que estamos viendo es que las ciudades que participan activamente en la búsqueda de formas de adoptar e integrar este tipo de tecnología de propósito general en las operaciones de la ciudad [están] entrenando los modelos con sus propios datos”, explica Rojas.

Al mismo tiempo, Beth Blauer, vicerrectora asociada de innovación del sector público en la Universidad Johns Hopkins, donde supervisa el Centro Bloomberg para la Excelencia Gubernamental y el Centro Bloomberg para la Innovación Pública, aconseja que las ciudades tengan en cuenta que la IA generativa, por sí sola, no incluye todas las precauciones que deben formar parte de cada actividad gubernamental.

“No fue diseñada para proteger la información de identificación personal. “No fue diseñado para tener en cuenta los marcos regulatorios a los que se enfrenta el gobierno cuando tiene que tomar decisiones”, señala. Aun así, alienta a las ciudades a explorar la frontera irregular “para comprender en qué es bueno, en qué no es bueno y luego exigir” más a sus socios en el sector privado que están desarrollando estas herramientas.

Por lo tanto, las ciudades siempre deberán tener cuidado de usar la participación para involucrar a los residentes y ser conscientes de las consideraciones éticas con su trabajo genAI. Si lo hacen, los innovadores de la ciudad ahora están posicionados para liderar a todo el sector público hacia adelante.

“Úselo en lo que hace todos los días”, dice Weiss. “Sé que no suena profundo, pero eso es lo que recomendaría”.

* Artículo publicado por Bloomberg Cities de Johns Hopkins University y traducido con IA – Noviembre 2024