‘La trazabilidad es la respuesta para la IA y los datos abiertos de los gobiernos’

Lucas Pretti: Para empezar, ¿cómo llegaron a los datos abiertos y qué implica su trabajo hoy en el gobierno?

Otávio Neves (Brasil): Llevo en datos abiertos en el sector público desde 2012. Empecé con gobierno abierto, pero fue en 2019 cuando trasladamos la agenda a la Contraloría General de la Unión (CGU), donde hoy convive con la agenda de transparencia. Nuestro enfoque es “publicar con propósito”: abrir lo que la sociedad realmente demanda, no solo por cumplir. Por eso tenemos tan grande proximidad con la sociedad civil.

Gustavo Suarez (Uruguay): También arranqué en 2012 coincidentemente, justo cuando lanzamos el Catálogo Nacional de Datos Abiertos. Soy analista de sistemas y hoy, además de coordinar datos abiertos, coordino a los equipos de soporte y desarrollo de soluciones y portal unificado (gub.uy). Con respecto a los procesos de apertura de datos estamos buscando oportunidades para potenciarlos con IA sin descuidar la calidad. Seguimos moviendo el ecosistema con actividades de fomento de uso, hackatones, concursos. También continuamos trabajando en procesos participativos con sociedad civil y la academia en Uruguay, y eso hace que estos procesos fluyan y tengan sentido.

Lucas Pretti: Expliquen en sus propias palabras: ¿qué fue exactamente el piloto de IA trazable que hicimos juntos?

Otávio Neves: En Brasil trabajamos con las enmiendas presupuestarias, una parte del presupuesto que los congresistas asignan con casi total libertad (pueden, por ejemplo, ir a un club de fútbol o a un show). Hace años esto se decía el “presupuesto secreto” por su opacidad. Ya tenemos el Portal de Transparencia, pero navegar ahí es complejo. Queríamos experimentar ofrecer esa información en lenguaje natural, pero sabíamos que una IA normal no sería fiable. La solución que nos ofreció Open Knowledge con el piloto del MCP ofrecía la posibilidad de trabajar con modelos sin alucinaciones, y para nosotros era la idea perfecta.

Gustavo Suarez: En Uruguay elegimos el Balance Energético Nacional (BEN). Tiene datos de calidad y una serie histórica desde el año 1965 y un equipo técnico muy abierto a la innovación. Nuestra prioridad absoluta era la fiabilidad. Si el Estado ofrece una herramienta, la respuesta debe venir de fuentes oficiales, no de una interpretación genérica de la IA. Eso era lo primordial. Así que el piloto fue un primer paso para evaluar una herramienta que nos diera la certeza de que se basaba en datos sin alucinación.

Lucas Pretti: ¿Creen que la trazabilidad es la clave para las herramientas de IA en relación a los datos públicos? ¿Qué falta todavía?

Otávio Neves: Es un momento muy especial. La IA permite a cualquier ciudadano hacer preguntas complejas a los datos sin saber programar. El nivel de madurez de la sociedad civil para trabajar con datos es mayor: las empresas también usan más datos, los académicos también están más preparados para usar datos porque tienen más herramientas, porque tienen IA que les ayuda en el análisis. Y también hay nuevos desafíos: por ejemplo, ¿qué significan los “datos abiertos” cuando la IA puede leer imágenes o vídeos? El concepto de dato estructurado se queda corto.

Gustavo Suarez: Coincido. La IA ahora hace de traductor y de intermediario para la mayoría de la gente. En cuanto a los datos abiertos, hay que trabajar en mejorar la calidad de las publicaciones, de los conjuntos, los metadatos, para que puedan ser interpretados correctamente. En el piloto, si la sigla de un indicador no estaba descrita, la IA se volvía ambigua. Tuvimos que refinar la metadata para que la respuesta fuera exacta. La falta de metadatos de calidad, impacta en la calidad de las respuestas.

Lucas Pretti: ¿Qué aprendieron internamente con el piloto? ¿Hay planes para ir a producción o replicar?

Otávio Neves: Primero, la velocidad de implementación del chatbot piloto fue impresionante. Para la Contraloría, el tema de la alucinación era muy, muy importante para nosotros. El Portal de la Transparencia de Brasil tiene una relación muy fuerte con la prensa; cualquier novedad en el portal sale en los periódicos, así que la información tiene que ser respuesta oficial de gobierno. No podemos dar respuestas inventadas. No solo vamos a continuar desarrollando esta solución, sino seguramente expandir a otros contextos también.

Gustavo Suarez: Nosotros ahora mismo lo estamos instalando en un entorno local para medir el consumo de tokens y viabilidad. Además, estamos desarrollando pilotos paralelos con grafos de conocimiento para vincular conjuntos de datos por regiones o fechas. Pero lo más revelador fue el coste: un panel de visualización tradicional nos toma un mes desarrollarlo; con el MCP, en una semana teníamos algo funcional y mucho más barato. Es una herramienta que llegó para quedarse. Los próximos pasos serán probarlos en un ambiente controlado, evaluar su pasaje a producción y que estas herramientas realmente sirvan para mejorar el acceso a datos abiertos para la población, que es lo que nos interesa.

Lucas Pretti: Hay presión de las grandes tecnológicas para que los gobiernos adopten sus IAs. Lo mismo pasaba antes con otras áreas del “stack” público (correos, documentos, etc). ¿Cómo ven el escenario de las IA comerciales presionando a los gobiernos? ¿Y cómo van a intentar que eso no ocurra en sus departamentos?

Otávio Neves: Es muy complejo. En Brasil hemos tenido experiencias buenas y malas tanto con software libre como con soluciones privadas. La idea de trabajar con un «por defecto» – todo tiene que ser privado o todo tiene que ser libre – no fue la mejor. Siendo realistas, tenemos que planificar a largo plazo. Idealmente tendríamos soluciones libres robustas, de calidad, que perduren, pero siendo realistas, vimos que requieren un gran esfuerzo de mantenimiento. Hay que mantener el sentido crítico. Los puntos más importantes son la autonomía y soberanía. Mientras tanto, asegurarnos de que nuestros datos oficiales alimenten también esas IAs comerciales para que, al menos, la información que llegue a la gente sea la correcta.

Gustavo Suarez: La tecnología cambia tan rápido que siempre sientes que vas corriendo detrás. En AGESIC tenemos una estrategia de IA en marcha, una estrategia de datos y una estrategia de ciudadanía digital que busca fortalecer las capacidades de la población para que al menos tengan la capacidad de entender que no todo lo que dice la IA es válido. Es un gran desafío. Hay que tener flexibilidad para adaptar las herramientas a los cambios continuos que están pasando. La ventaja del MCP es su flexibilidad: puedes cambiar el modelo de lenguaje subyacente sin rehacer todo. En Uruguay estamos colaborando con proyectos regionales como LatamGPT para tener alternativas cercanas a la realidad regional.

Lucas Pretti: Este piloto conjunto fue hecho con mentalidad de replicabilidad: la solución de IA trazable está lista para que se adopte en diferentes niveles. ¿Cómo ven la colaboración regional en IA y la posibilidad de seguir intercambiando aprendizajes con otros países?

Otávio Neves: Es altamente escalable y necesario. Problemas como el cambio climático, la seguridad pública, el comercio no entienden de fronteras. Brasil ya integra datos de estados y municipios; el siguiente paso lógico es una integración internacional de portales. Mi sueño es que en 2027 tengamos un esfuerzo regional en América Latina con datos climáticos.

Gustavo Suarez: Cuando mostramos el piloto a otros organismos y equipos, la respuesta es “Yo quiero eso”. Porque les da una otra forma rápida de consultar los datos, donde los usuarios pueden hacer preguntas y obtener respuestas en lenguaje natural. Los organismos públicos ya lo ven como algo que realmente les va a servir. Llevarlo a Abrelatam/Condatos será clave para evaluar si es una solución que quiera ser replicada por otros países. Es una solución transversal, sirve para energía, transparencia, clima, etc. dando la certeza de que la respuesta es de una fuente oficial. La colaboración con otros países de la región puede ser un siguiente paso que debería darse de manera natural.