Cómo Mantener a los Humanos al Mando de la IA
En un mundo tecnológicamente avanzado, la premisa de "Nosotros, el pueblo" debe permanecer firme al mando de la Inteligencia Artificial (IA), lejos del control exclusivo de empresas tecnológicas o élites políticas. La reciente serie de errores de Google con su sistema de IA Gemini ilustra claramente este punto.
Gemini, al negarse a categorizar a Hitler como peor que los tweets de Elon Musk o a generar documentos que promuevan el uso de combustibles fósiles, nos presenta una perspectiva distópica donde burócratas no responsables en compañías privadas de IA determinan qué ideas y valores están permitidos ser expresados.
La Tercera Opción: Usuarios al Mando
Debemos rechazar la idea de que el gobierno dictamine cómo las compañías de IA deben gestionar el "habla IA". La regulación gubernamental será crucial para la seguridad y equidad de la IA, pero vivir en una sociedad libre implica que no debemos permitir que los gobiernos limiten las ideas y valores que las personas pueden o no expresar.
Entonces, si ni las corporaciones ni los gobiernos son los adecuados para tomar estas decisiones, ¿quién debería? La respuesta es poner a los usuarios al mando de la IA, ofreciendo una tercera vía más allá de las compañías y gobiernos.
Estrategias para Empoderar a los Usuarios
En mis cinco años como científico político académico y colaborador de la industria tecnológica, he explorado diversas formas de empoderar a los usuarios para ayudar a gobernar plataformas en línea. Aquí algunas estrategias:
- Permitir que los usuarios elijan límites a través del mercado, fomentando una amplia multiplicidad de modelos afinados que reflejen sus valores y permitiéndoles elegir su versión preferida del modelo al usar la herramienta.
- Establecer guardias centralizadas mínimas, decididas por los usuarios, para contenido objetable que no puede ser permitido en ningún modelo afinado.
- Experimentar con la democracia, como lo han hecho Meta, OpenAI y Anthropic, buscando entradas democráticas para la IA.
Poder Significativo Sobre los Guardias Centrales
Una democracia más fuerte para la IA requeriría que los usuarios puedan hacer propuestas, debatirlas y votar sobre ellas, con sus votos teniendo autoridad vinculante sobre la plataforma. Esta propuesta amplía la capacidad de los usuarios de tener un poder significativo sobre los guardias centrales de la plataforma.
Los experimentos en web3 muestran un camino a seguir, proponiendo sistemas de votación con poderes extremadamente amplios. Estas lecciones incluyen vincular el poder de voto a algo de utilidad para los usuarios, no requerir que todos voten en todo, y crear un sistema de recompensas para fomentar una buena participación en la gobernanza.
Para ganar la confianza de la sociedad en la IA, es esencial que los usuarios tengan el poder final sobre los guardias centrales, asegurando que lo que vemos y las respuestas a nuestras preguntas no estén distorsionadas por actores no responsables.
---
🔷 Si quieres seguir al día con la Inteligencia Artificial pero desde el punto de vista práctico, lo que te sirve REALMENTE para conseguir más clientes o para crecer más en tu actividad profesional, solo tienes que suscribirte a nuestro Newsletter (que es gratuito) y te mantendremos al tanto de lo nuevo que vaya saliendo y que sea muy interesante y útil para ti. ¡Ya somos más de 23.000 miembros! Puedes Suscribirte gratuitamente aquí>
Javier Galué
