Esta es la decimoquinta conversación del proyecto 100+ Conversaciones para Inspirar Nuestra Nueva Dirección (#OKFN100).
Desde 2023, nos estamos reuniendo con más de 100 personas para discutir el futuro del conocimiento abierto, moldeado por un conjunto diverso de visiones de artistas, activistas, académicos, archivistas, pensadores, legisladores, científicos de datos, educadores y líderes comunitarios de todo el mundo.
¿Cómo la apertura puede acelerar y fortalecer las luchas contra los complejos desafíos de nuestro tiempo? Esta es la pregunta clave detrás de conversaciones como la que puedes leer a continuación.
*
La conversación de hoy es con Ivana Feldfeber, cofundadora y directora ejecutiva del primer Observatorio de Datos de Género de América Latina, DataGénero.
Ivana es una activista feminista de los datos de Bariloche, Argentina. Forma parte de la red IA Feminista para América Latina, <f+AI+r>, y fue líder de equipo en el Centro de Inteligencia Artificial y Política Digital (CAIDP), donde trabajó analizando diferentes políticas de IA en su región.
Desde 2022, Ivana y su equipo investigan herramientas de IA para tribunales penales que trabajan con datos de violencia de género en Argentina, lo que resultó en la aplicación AymurAI. Este proyecto es uno de los que admiramos en Open Knowledge por ser sencillo, abierto y privado por diseño, sostenible y centrado en resolver problemas reales, características que promovemos a través de la iniciativa The Tech We Want.
La conversación con Ivana tuvo lugar a mediados de abril, esta vez de la mano de Lucas Pretti, Director de Comunicación y Advocacy de OKFN.
Esperamos que disfrutes de la lectura.
*
Lucas Pretti: En el último año, con The Tech We Want, venimos utilizado mucho la expresión “problemas del mundo real” para referirnos en OKFN a la finalidad de las tecnologías que queremos y hacemos. He observado que también utilizan esta expresión en las comunicaciones de DataGénero. ¿Qué entiendes por esto y cómo debe actuar la tecnología frente a ellos?
Ivana Feldfeber: Los problemas humanos requieren soluciones humanas, no solo tecnológicas. La tecnología puede ser una gran aliada, una herramienta poderosa para pensar en soluciones, pero no es la solución. De hecho, somos bastante críticas del solucionismo tecnológico, esa idea de que si enfocamos toda nuestra energía en desarrollar nuevas tecnologías, la humanidad va a estar mejor. Porque en realidad nada de eso está sucediendo. No hay ninguna evidencia que muestre que a más tecnología, mejor humanidad.
El problema es que quienes están marcando el ritmo de estos avances tecnológicos son muy pocas personas, con muchísimo poder e intereses que no necesariamente tienen que ver con que la gente viva mejor. Lo disfrazan de que sí, pero cuando mirás los problemas de base, como el cambio climático o el hambre en el Sur Global, está claro que no se van a solucionar con más inteligencia artificial. Es ridículo, pero es el discurso que nos quieren imponer.
Lucas Pretti: DataGénero y tú están muy involucradas en discusiones sobre gobernanza digital, un tema que nos mobiliza mucho en OKFN también. ¿Crees posible influir desde iniciativas locales para reorientar la agenda global, por ejemplo de la IA, de los datos o de internet? En otras palabras, ¿cómo cambiar la agenda tecnológica dominante?
Ivana Feldfeber: Es difícil, pero hay que intentarlo. A veces siento que somos como Quijotes peleando contra molinos de viento. Pero una vez hablando con Vilas Dhar, de la Fundación Patrick McGovern, me decía que aunque sintamos que es una batalla desigual, hay que seguir siendo esas personas que levantan la mano y dicen “esto está mal”. Y al mismo tiempo, mostrar que se pueden hacer las cosas de otra manera.
Por ejemplo, en DataGénero desarrollamos herramientas de IA que distribuimos de forma gratuita, sin modelos de negocio basados en licencias. Porque si queremos que los gobiernos sean más transparentes, no podemos después cobrarles por las herramientas que les permiten serlo. Ahora, en el marco de AymurAI, estamos trabajando con varios poderes judiciales para implementar sistemas que procesen datos localmente, sin depender de la nube, para que la información sensible no termine en manos de empresas.
Lucas Pretti: ¿Cómo escalar el impacto de proyectos como el que mencionas, que se podría decir que son small tech, sin caer en la lógica de crecimiento infinito?
Ivana Feldfeber: Nos asustaron con la idea de que la IA requiere infraestructura inalcanzable. Pero con dos placas gráficas puedes correr modelos útiles. Trabajamos con muchos equipos de informática en la justicia para implementar herramientas de IA localmente, sin cloud, usando servidores propios. El riesgo es que nos copien sin dar crédito, pero preferimos eso a que los gobiernos dependan de empresas.
La clave es que los Estados inviertan en infraestructura propia y equipos técnicos capacitados. En varios países de centroamérica, por ejemplo, hay empresas que cobraban licencias carísimas por un sistema de análisis; nosotras ofrecimos una alternativa gratuita. Si queremos justicia abierta o transparencia, no podemos cobrar por las herramientas.
Lucas Pretti: Hablando de infraestructuras públicas, te repetiré una pregunta que dio pie a un panel en la última The Tech We Want Summit: ¿deben los gobiernos ser expertos en tecnología?
Ivana Feldfeber: ¡Por supuesto! Si no, pasan cosas como lo de Salta, en Argentina, donde el gobierno usó un algoritmo de Microsoft que supuestamente predecía embarazos adolescentes. El sistema estaba basado en variables como el acceso al agua potable o el nivel educativo, lo cual era absurdo y estigmatizante. Pero como no entendían cómo funcionaba, creyeron que era una solución mágica para evitar implementar educación sexual integral.
El problema es que hay mucha ignorancia y también mucho tecno-optimismo: la idea de que la tecnología va a venir a salvarnos de todo. Pero no podemos dejar decisiones públicas en manos de empresas. Necesitamos regulaciones regionales, con participación de la academia y la sociedad civil.
Lucas Pretti: En ese sentido, ¿qué habilidades creés que son clave hoy para que la gente común pueda navegar este nuevo mundo tecnológico post-IA? Me refiero a la brecha de alfabetización digital que impide una participación más crítica en la construcción de tecnología por parte de las personas, que son las verdaderas afectadas.
Ivana Feldfeber: Primero, hay que desmitificar. Mucha gente tiene miedo o rechazo porque no entiende qué puede y qué no puede hacer la IA. Por otro lado, están los que creen todo lo que ven en internet. Hace falta una alfabetización crítica: entender temas básicos de privacidad, saber que no todo lo que circula es real, aprender a leer entre líneas los términos y condiciones de las apps.
Por eso me gustaría desarrollar algo así como una web que explique en lenguaje simple qué aceptás cuando usás Instagram o WhatsApp. Porque si no, seguiremos viendo casos como el de mi abuela, que se cree todo lo que le llega por WhatsApp, o adolescentes compartiendo deepfakes sin saber el daño que hacen.
Lucas Pretti: Para cerrar, contanos un poco cómo es el equipo y cómo se organizan en DataGénero.
Ivana Feldfeber: Somos un equipo central de cuatro mujeres trabajando full-time y unas diez personas más en proyectos específicos. En el proyecto de AymurAI, son cinco desarroladores y también algunos testers. Vamos armando equipos conforme las demandas de los proyectos. Por ejemplo, para el proyecto de paridad política también tenemos bastante gente de recolección de datos de candidaturas electorales para ver la paridad. Por ahí va. Es importante también comentar que las decisiones se toman en una junta directiva de varias personas, toda alianza o proyecto que encaremos pasa por ahí siempre.
Lucas Pretti: Perfecto. Pues hagamos cosas juntxs. Muchas gracias por tu tiempo y por compartir estas ideas.
Ivana Feldfeber: ¡Sí, claro! Sigamos en contacto para concretar alguna de estas colaboraciones.
