Hacia una IA Democrática: El proyecto de Collective Intelligence Project
Cómo democratizar una tecnología que está en manos de pocos.
¿Puede la inteligencia artificial reflejar los valores colectivos y responder a las necesidades de la sociedad en lugar de a los intereses de unos pocos? Esta es la pregunta que impulsa el trabajo del Collective Intelligence Project (CIP en sus siglas en inglés). Actualmente, la IA se desarrolla y gestiona desde unas pocas corporaciones y gobiernos, lo que deja fuera a gran parte de la población de decisiones que impactan su vida diaria. CIP propone una solución diferente: construir una IA democrática.
Una IA democrática no se limita a ser transparente o a incluir encuestas públicas. CIP busca cambiar cómo se decide, quién decide y cuáles son las prioridades en el desarrollo de estas tecnologías. Para ello, trabaja con colaboradores como OpenAI, Anthropic1 y el Ministerio Digital de Taiwán. Juntos, están explorando cómo integrar más voces y valores en el diseño de sistemas tecnológicos.
El Trilema: Progreso, Seguridad y Participación
Según CIP, las tecnologías transformadoras enfrentan lo que llaman el trilema de las tecnologías transformadoras. Este describe tres objetivos que compiten entre sí:
Progreso: Desarrollar tecnología rápidamente para resolver problemas complejos y aprovechar oportunidades.
Seguridad: Reducir los riesgos de estas tecnologías, evitando daños a gran escala.
Participación: Permitir que las personas afectadas tengan voz en las decisiones tecnológicas.
El problema es que los sistemas actuales priorizan dos de estos objetivos a costa del tercero. Por ejemplo, las empresas suelen sacrificar la seguridad para avanzar rápido (progreso sin participación), mientras que los gobiernos autoritarios sacrifican la participación en nombre de la seguridad. CIP argumenta que este enfoque perpetúa desigualdades y riesgos innecesarios. “Nuestro objetivo es encontrar una cuarta vía, equilibrando progreso, seguridad y participación a través de un sistema de inteligencia colectiva”.
Cómo Funciona una IA Democrática
CIP propone tres pilares para construir una IA democrática:
Fortalecer la inteligencia colectiva:
Diseñar herramientas de IA que faciliten la deliberación pública, mapeen acuerdos y desacuerdos, y traduzcan ideas complejas en información clara.
Usar la IA para ayudar a comunidades a definir sus prioridades colectivas y generar consenso en temas clave.
Crear mecanismos de retroalimentación (feedback loops en inglés):
Establecer infraestructuras donde los ciudadanos puedan ajustar en tiempo real cómo los sistemas de IA afectan sus vidas.
Dar opciones para excluirse de aplicaciones tecnológicas cuando estas no respeten derechos o valores colectivos.
Cambiar las instituciones tecnológicas:
Descentralizar el control de recursos clave como datos y potencia computacional.
Crear nuevos modelos de gobernanza que prioricen el beneficio colectivo sobre los intereses corporativos.
Proyectos en Marcha
Para demostrar que esta visión es posible, CIP lidera proyectos prácticos.
Un ejemplo destacado es Collective Constitutional AI, desarrollado junto con Anthropic. Este proyecto reunió a un grupo diverso de ciudadanos para co-crear una constitución que guiara el comportamiento de un modelo de IA. Según el informe, este enfoque permitió reducir sesgos y garantizar que el modelo reflejara los valores de la comunidad. “Si podemos ajustar un modelo de IA para reflejar valores colectivos en este contexto, no hay razón para no extender este proceso a otras áreas de aplicación tecnológica”.
Otro proyecto clave son las Alignment Assemblies. Estas asambleas conectan a desarrolladores de IA con comunidades afectadas por sus decisiones. En estas reuniones, las personas pueden expresar preocupaciones y valores, ayudando a definir cómo deberían diseñarse y usarse las tecnologías. “La inteligencia colectiva no ocurre por accidente. Requiere procesos que recopilen, comprendan e incorporen los valores de las personas de manera sistemática”.
Además, CIP está probando herramientas como Pol.is y conceptos como liquid democracy. Estas plataformas permiten que las decisiones tecnológicas sean más representativas al recopilar datos de manera estructurada y deliberativa. En Taiwán, por ejemplo, Pol.is ha sido utilizada para facilitar debates sobre políticas públicas complejas, logrando resultados prácticos y ampliamente aceptados.
Los Retos de Democratizar la IA
Construir una IA democrática presenta retos importantes. Uno de los principales es la concentración de recursos en manos de pocas empresas, lo que limita la diversidad de perspectivas en el desarrollo tecnológico. CIP propone cooperativas de datos y modelos de gobernanza pública como soluciones a este problema.
Otro desafío es incluir voces marginadas en los procesos de diseño tecnológico. Muchas veces, los sistemas de IA reflejan sesgos porque se entrenan con datos que no representan a todas las comunidades. CIP argumenta que es fundamental trabajar directamente con estas comunidades para asegurar que sus valores y prioridades sean reflejados en los sistemas.
Los datos sin contexto cultural son una receta para perpetuar las desigualdades
Finalmente, hay un reto de escala. Diseñar procesos participativos que funcionen a nivel local, nacional e internacional es complicado, pero no imposible. CIP apuesta por herramientas digitales y métodos híbridos que combinen deliberación en línea con encuentros presenciales para superar este desafío.
Repensar la Tecnología
CIP no se limita a ajustar sistemas existentes; quiere rediseñar las instituciones tecnológicas desde cero. Esto incluye modelos de financiación innovadores, como bienes públicos financiados retroactivamente, y estructuras legales que permitan una gobernanza más descentralizada.
El objetivo no es solo tener tecnologías más seguras o eficientes, sino construir un ecosistema tecnológico que refleje principios democráticos en cada etapa de su desarrollo. En palabras de CIP:
La inteligencia colectiva no es un lujo, es una necesidad. Si no transformamos cómo tomamos decisiones colectivas, las tecnologías transformadoras continuarán reforzando las desigualdades en lugar de resolverlas
Referencias
Si os interesa conocer un poco más a Dario Amodei, podéis leer el artículo siguiente.
Humanismo digital: Cuando la tecnología se encuentra con la ética y el pensamiento crítico
En un mundo cada vez más dominado por la tecnología, la colaboración entre tecnólogos y humanistas ha pasado de ser una idea interesante a una necesidad práctica. Hoy en día, la inteligencia artificial, los algoritmos y las plataformas digitales están moldeando nuestras vidas de formas que, hasta hace poco, parecían ciencia ficción. Sin embargo, a medid…