En Desmontar La “Utopía Digital” Y Crear La Democracia Participativa

En El Momento Actual De La Historia Humana, Parece Que La Democracia Y El Liberalismo Político Están Viviendo Uno De Sus Periodos Más Oscuros Desde La Segunda Guerra Mundial. La Confianza En Las Instituciones Tradicionales Se Está Erosionando, Las Olas De Populismo Están Creciendo Y El Discurso Público En El Espacio Digital Se Está Convirtiendo En Escenarios De Batallas Polarizadoras Y Falsificación De La Conciencia. En Cambio, La Gigantesca Coalición Tecnológica, Liderada Por Silicon Valley, Se Apresura Hacia La Imposición De Una Hegemonía Algorítmica Completa Sobre Las Funciones Vitales De La Vida Diaria Y La Toma De Decisiones. En Este Clima Cargado De Pesimismo Y Aprensión Llega El Libro De La Profesora Beth Simone Noveck: “Reboot AI and The Race to Save Democracy” Publicado Por Yale University Press, Para Presentar Una Tesis Completamente Diferente Que Nada Contra La Corriente Principal; Una Tesis Que No Ve A La Tecnología Como Un Enemigo Inevitable De La Democracia, Sino Más Bien Como Su Última Línea De Vida, Siempre Que La Relación Entre El Hombre Y La Máquina Se Rediseñe De Acuerdo Con Una Nueva Filosofía Que Devuelva El Poder A La Sociedad.

Noveck No Comienza Su Libro Desde Una Torre De Marfil; Ella No Es Solo Una Académica Que Mira Hacia El Futuro, Sino Más Bien Una Experta Que Ha Practicado El Trabajo Político Y Tecnológico En Los Niveles Más Altos, Habiendo Servido Como La Primera Directora De Tecnología De La Casa Blanca Bajo El Presidente Barack Obama, Y Supervisado La Iniciativa De “Gobierno Abierto”. Esta Mezcla Única De Experiencia Política Práctica Y Profundo Conocimiento Técnico Le Da A Su Libro Un Sabor Especial; Se Aleja Del Optimismo Ingenuo De Los Tecnólogos Y, Al Mismo Tiempo, Trasciende El Pesimismo Absoluto De Los Sociólogos Y Científicos Políticos Que Ven A La Inteligencia Artificial Como Un Clavo Final En El Ataúd De La Libertad Humana.

Contexto De La Crisis: Cuando La Senescencia Política Se Encuentra Con El Salto Tecnológico

La Autora Comienza Su Libro Con Un Diagnóstico Preciso Y Doloroso Del Estado De “Senescencia Institucional” Que Sufren Las Democracias Modernas. Noveck Argumenta Que Los Mecanismos De Gobierno Actuales —Desde Los Parlamentos, Las Asambleas Legislativas Y Las Burocracias Gubernamentales— Fueron Diseñados En Los Siglos Dieciocho Y Diecinueve Para Adaptarse A Sociedades De Movimiento Lento, Pocas En Número Y Relativamente Analfabetas. Esta Estructura Institucional Se Ha Vuelto Completamente Incapaz De Enfrentar Las Complejidades Del Siglo Veintiuno, Donde Los Problemas Son Complejos Y Transnacionales, Desde El Cambio Climático Y Las Pandemias Hasta Las Crisis Económicas Estructurales.

En Cambio, Las Últimas Dos Décadas Han Sido Testigos De Un Ascenso Meteórico De Las Tecnologías De Inteligencia Artificial Y Aprendizaje Automático, Que Han Sido Utilizadas Por Las Grandes Corporaciones (Como Google, Meta Y Amazon) Para Maximizar Las Ganancias, Controlar El Comportamiento Del Consumidor Y Guiar La Opinión Pública A Través De Algoritmos De Recomendación Que Se Alimentan De La Ira Y La Polarización. Aquí Noveck Nos Coloca Ante El Dilema Central: Hemos Permitido Que La Inteligencia Artificial Se Forme Y Dirija Para Servir A Estrechos Intereses Capitalistas Monopolistas, Mientras Que Las Instituciones Públicas Que Protegen La Democracia Siguieron Operando Con Las Herramientas De La “Era Del Papel Y La Pluma”.

De Aquí Surge La Tesis Central Del Libro: La Carrera Para Salvar La Democracia No Es Meramente Una Carrera Para Regular, Restringir O Frenar La Inteligencia Artificial, Sino Más Bien Una Carrera Para Reiniciarla (Rebooting) Y Aprovecharla Para El Interés Público. Noveck Cree Que La Inteligencia Artificial, Si Se Rediseña E Integra Correctamente En La Arquitectura De La Gobernanza, Puede Duplicar La Capacidad De Las Sociedades Para Resolver Problemas, Abriendo La Puerta A Una Nueva Era De “Democracia Participativa Inteligente” Que Trasciende La Representación Tradicional.

Crítica Del Falso Binario: Más Allá Del Optimismo Tecnológico Y El Pesimismo Político

Noveck Dedica Capítulos Importantes A Desmantelar Lo Que Ella Llama El “Falso Binario” Que Gobierna El Debate Público En Torno A La Tecnología Y La Política Hoy En Día. Por Un Lado, Está La “República Utópica Digital” Promovida Por Los Gigantes Tecnológicos, Que Afirma Que Dejar Que Los Algoritmos Dirijan El Mundo Conducirá A Una Eficiencia Absoluta Y Al Fin De La Corrupción Humana. La Autora Ve Este Pensamiento Como Algo Que Conlleva Un Grave Peligro; Porque Elimina La Política Como Un Dominio Para La Negociación De Valores Y Moral Entre Los Humanos, Reemplazándola Con Una “Tecnocracia Impulsada Por Datos” Que Refuerza Los Sesgos Existentes Y Los Esconde Detrás De Un Velo De Falsa Neutralidad Matemática.

Por Otro Lado Se Encuentra La “Distopía Digital” Adoptada Por Un Amplio Sector De Intelectuales Y Legisladores, Quienes Ven A La Inteligencia Artificial Como Una Herramienta De Vigilancia Totalitaria Inevitable, Que Se Semeja Al Modelo Del “Gran Hermano” En La Novela De George Orwell. Noveck Cree Que Esta Posición, A Pesar De La Validez De Sus Advertencias, Conduce A La Parálisis De La Voluntad Política; Porque Trata A La Tecnología Como Una Fuerza Metafísica Independiente De La Voluntad Humana, Olvidando Que Los Algoritmos Son En Última Instancia Un Reflejo De Los Datos Con Los Que Los Alimentamos Y De Los Objetivos Determinados Por Sus Diseñadores.

En Lugar De Estas Dos Visiones, La Autora Plantea Una Visión De “Inteligencia Artificial Participativa” O “Inteligencia Colectiva Mejorada”. La Idea Aquí No Es Reemplazar Al Gobernante Humano Con La Máquina, Ni Aislar A La Máquina De La Política, Sino Usar La Inteligencia Artificial Para Expandir El Círculo De La Participación Popular, Mejorar La Calidad De Las Decisiones Gubernamentales Y Hacer Que La Administración Pública Sea Más Receptiva Y Necesitada De Las Opiniones Y Experiencias De Los Ciudadanos.

Restaurar La Soberanía: Los Datos Como Un Bien Público

Uno De Los Grandes Lineamientos En Los Que Se Apoya La Primera Mitad Del Libro Es El Concepto De “Soberanía De Datos”. Noveck Argumenta Con Fuerza Que Los Grandes Volúmenes De Datos (Big Data) En Los Que Se Han Entrenado Los Modelos Actuales De Inteligencia Artificial Son El Producto De La Producción Colectiva De Las Sociedades Humanas En Su Conjunto; Cada Clic De Un Botón, Cada Publicación Y Cada Búsqueda En Internet Es Parte De Esta Riqueza Compartida. Sin Embargo, Estos Bienes Comunes Digitales Han Sido “Cercados” Y Convertidos En Propiedades Privadas De Empresas Monopolistas.

Para Salvar La Democracia, La Autora Pide Un “Movimiento De Reforma Digital” Orientado A Restaurar Los Datos Como Un Bien Público. Proporcionar Grandes Volúmenes De Datos A Las Instituciones Públicas, Universidades Y Organizaciones De La Sociedad Civil Les Permitirá Desarrollar Herramientas De Inteligencia Artificial Personalizadas Para Resolver Problemas De Salud Pública, Mejorar La Educación, La Planificación Urbana Y Combatir La Pobreza, En Lugar De Su Uso Actual Para Aumentar El Tiempo De Pantalla Del Usuario Para Mostrar Más Anuncios.

Noveck Proporciona Ejemplos Vívidos De Algunos Gobiernos Locales Y Municipios (Como Barcelona Y Taipéi) Que Ya Han Comenzado A Implementar Este Modelo, Donde Se Utilizan Plataformas Digitales Respaldadas Por Inteligencia Artificial Para Recopilar Las Propuestas De Los Ciudadanos, Analizarlas Y Clasificarlas Para Determinar Las Prioridades Presupuestarias O Diseñar Planes De Transporte Público. Estos Pequeños Modelos Iniciales Son, A Ojos De La Autora, Las Semillas De La Próxima Revolución Democrática.

Arquitectura De La “Inteligencia Colectiva” Y Reinventar La Institución Política

Noveck Parte De Una Idea Filosófica Y Política Altamente Importante, Al Darse Cuenta De Que La Democracia En Su Núcleo No Es Meramente Un Mecanismo Para Votar Y Elegir Gobernantes Una Vez Cada Pocos Años, Sino Que Es Más Bien Un Sistema Epistemológico Integrado Diseñado Para Reunir Ideas, Procesar Información Y Resolver Problemas Públicos. Desde Esta Perspectiva, El Declive En La Eficiencia De La Democracia Se Convierte En Un Resultado Directo De La Incapacidad De Sus Instituciones Tradicionales Para Absorber Y Utilizar El Inmenso Conocimiento Y La Experiencia Distribuidos Entre Millones De Ciudadanos. Exactamente Aquí, La Inteligencia Artificial Interviene No Como Un Sustituto De La Voluntad Humana, Sino Como Un Puente Tecnológico Gigante Que Une Las Mentes De Las Masas Con Los Centros De Toma De Decisiones.

La Autora Argumenta Que La Burocracia Gubernamental Tradicional Se Apoyó Históricamente En El Concepto De “Experiencia Estrecha Y Cerrada”; Donde Un Número Limitado De Consultores Y Expertos Se Reúnen En Habitaciones Cerradas Para Formular Políticas Públicas, Basándose En Informes En Papel Y Datos Que A Menudo Están Desactualizados O Incompletos. Este Modelo Tecnocrático Clásico Ya No Es Capaz De Mantenerse Firme Ante Las Complejidades De La Era Actual, Donde Las Crisis Ambientales, Económicas Y Sanitarias Se Intersecan De Maneras Que Ningún Comité De Expertos, Por Muy Brillante Que Sea, Puede Comprender Por Completo. En Cambio, La Sociedad En Sus Diversas Categorías —Desde Científicos, Ingenieros, Médicos, Trabajadores Y Ciudadanos Comunes Que Enfrentan Problemas Diarios En Sus Vecindarios— Posee Un Inventario Inagotable De “Experiencia Local Y Práctica”. El Problema Durante Las Décadas Pasadas No Fue La Ausencia De Esta Experiencia, Sino Más Bien La Imposibilidad De Agregar, Refinar Y Beneficiarse De Ella A Gran Escala Sin Ahogarse En El Caos Administrativo Absoluto. Aquí Radica El Verdadero Aspecto Innovador De La Tesis De Noveck; Ya Que Ve Que Los Modelos De Procesamiento De Lenguaje Natural Y De Inteligencia Artificial Generativa Son Capaces Hoy En Día De Desempeñar Este Enorme Papel Organizacional, Permitiendo La Transición De La “Sabiduría De La Élite” A La “Sabiduría Colectiva Mejorada Tecnológicamente”.

Para Ilustrar Esta Visión De Una Manera Práctica Lejos De La Abstracción Teórica, Noveck Revisa Una Serie De Inspiradores Casos De Estudio De Ciudades Y Gobiernos Que Ya Han Comenzado El Entrenamiento En Esta Transformación Radical. La Autora Nos Lleva A La Capital Taiwanesa, Taipéi, Que Se Ha Transformado En Los Últimos Años En Un Laboratorio Vivo Para Lo Que Se Conoce Como “Democracia Participativa Digital”. Allí, El Gobierno Puso Plataformas Digitales Respaldadas Por Algoritmos Avanzados De Inteligencia Artificial A Disposición De Los Ciudadanos Para Participar En La Formulación De Leyes Y La Regulación De Sectores Vitales Como El Transporte Y La Economía Digital. Cuando La Ciudad Enfrentó El Dilema De Regular Los Servicios De Transporte Compartido, No Recurrió A Imponer Decisiones De Arriba Hacia Abajo, Ni Dejó El Asunto En Manos De Las Grandes Empresas Para Que Impusieran Sus Condiciones, Sino Que Abrió Un Debate Público A Través De Una Plataforma Digital Avanzada. La Plataforma Utilizó Algoritmos Especiales Para Clasificar Las Propuestas De Los Ciudadanos Y Ordenarlas Basándose En Puntos Compartidos De Consenso En Lugar De Resaltar Los Puntos De Desacuerdo Y Polarización. El Resultado Fue La Formulación De Una Legislación Que Gozó De Una Amplia Aceptación Social Porque Surgió De Un Debate Racional Guiado Por Inteligencia Artificial, Logrando Neutralizar El Clamor Ideológico Y Centrarse En Soluciones Prácticas.

Este Modelo, Al Que Noveck Llama “Gobernanza Impulsada Por La Inteligencia Colectiva”, Cambia Por Completo La Naturaleza De La Relación Entre El Ciudadano Y El Estado. En La Democracia Tradicional, El Papel De Los Ciudadanos Termina Tan Pronto Como Se Emite El Voto En La Urna, Para Transformarse A Partir De Entonces En Un Consumidor Pasivo De Servicios Gubernamentales O En Un Espectador Enojado En Las Pantallas De Televisión Y Plataformas Digitales. En Cuanto Al Modelo De “Reinicio” (Reboot), El Ciudadano Se Convierte En Un Socio Continuo En El Proceso De Gobernanza, Aportando Experiencia Y Conocimiento Para Mejorar La Sociedad. La Autora Explica Cómo La Inteligencia Artificial Puede Actuar Como Un Filtro Inteligente Que Lee Miles De Propuestas Y Notas Enviadas Por Los Ciudadanos Con Respecto A Un Problema Específico, Como El Desarrollo De La Red De Alcantarillado O La Mejora De La Calidad De La Educación En Una Determinada Área, Y Luego Resume Estas Propuestas, Las Clasifica Según Su Viabilidad Y Las Vincula Con Los Datos Financieros Y Geográficos Disponibles Para El Estado. Esta Simbiosis Entre La Superb Capacidad Analítica De La Máquina Y La Conciencia Valórica Y Humana De Los Humanos Crea Un Entorno Político Completamente Nuevo, En El Cual Las Decisiones Son Más Eficientes, Más Justas Y, Lo Más Importante, Más Legítimas A Los Ojos De La Sociedad.

Sin Embargo, Noveck No Parece Ajena A Los Graves Riesgos Y Objeciones Lógicas Que Podría Enfrentar Una Presentación Tan Ambiciosa. La Autora Dedica Una Gran Parte De Este Eje A Discutir El Tema De La “Brecha Digital” Y El Dilema De La Representación Justa. Decir Que La Tecnología Liderará La Democracia Puede Significar En La Política Práctica Forzar La Salida De Los Grupos Más Marginados Y Pobres, Quienes No Poseen Acceso A Las Tecnologías Modernas O No Saben Cómo Usarlas Bien, Lo Que Llevaría A La Transformación De La Nueva Democracia Participativa En Un Privilegio Exclusivo Para Las Élites Urbanas Y Educadas Digitalmente. Noveck Argumenta Que Este Desafío Es Real Pero No Inevitable; La Inteligencia Artificial En Sí Misma, Específicamente Las Interfaces Avanzadas De Interacción Por Voz Basadas En Grandes Modelos De Lenguaje, Puede Romper Hoy En Día La Barrera Del Analfabetismo Digital Y Lingüístico. Se Ha Vuelto Posible Que Un Ciudadano Simple En Una Aldea Remota Hable Al Sistema Gubernamental En Su Dialecto Hablado Local Para Explicar Su Problema O Presentar Su Propuesta, Y La Inteligencia Artificial Se Encarga De Convertir Este Discurso Hablado En Datos Organizados Y En Un Texto Legal Comprensible For Los Funcionarios. En Consecuencia, La Tecnología, Si Se Diseña Con Un Espíritu Democrático, Puede Ser Una Herramienta Para La Inclusión Social Integral En Lugar De Para La Exclusión.

Ella Nos Mueve Después De Eso A Desmantelar El Concepto De “Burocracia Resistente Al Cambio”. Las Instituciones Políticas Y Administrativas Por Su Naturaleza Tienden A Ser Conservadoras, Protegiendo Sus Privilegios Y Su Monopolio De La Información, Y Viendo En La Involucración Del Público Y En El Hecho De Depender De Algoritmos Abiertos Una Amenaza Para Su Dominio Tradicional. La Autora Ve Que Romper Esta Resistencia Requiere Una Revolución Cultural Dentro De La Administración Pública, Comenzando Por Entrenar A Una Nueva Generación De Empleados Gubernamentales En Habilidades De Ciencia De Datos Y Gobernanza Participativa. El Objetivo No Es Convertir A Los Políticos En Programadores, Sino Crear Un Lenguaje Común Que Permita Al Funcionario Político Entender Cómo Funciona El Algoritmo, Realizar Las Preguntas Correctas Para Hacerle A Los Datos Y Tener La Capacidad De Detectar Y Corregir Sesgos. “Reiniciar La IA” (Rebooting AI) A Ojos De Noveck Es En Su Esencia Un Proceso De Reiniciar La Mente Burocrática, Y Un Salto Cualitativo Desde Una Cultura De Control Y Secretos Hacia Una Cultura De Apertura Y Aprendizaje Continuo De La Sociedad. Al Final De Este Capítulo, Nos Encontramos Confrontando Una Visión Cohesiva Que Hace De La Tecnología Un Socio En La Liberación Y Un Motor Para Renovar La Legitimidad De Los Estados-Nación Contemporáneos Al Devolverlos A Sus Raíces Más Tempranas: El Poder Del Pueblo, Por El Pueblo, Pero Esta Vez, Con El Apoyo De Las Máquinas Más Inteligentes Producidas Por La Mente Humana.

Desmantelar La “Caja Negra” Y La Guerra Contra El Sesgo Algorítmico

Después De Que Beth Simone Noveck Construyó En Los Capítulos Anteriores Los Lineamientos De Su Utopía Realista Basada En La Arquitectura De La Inteligencia Colectiva Mejorada, Se Vuelve En Esta Parte De Su Libro Hacia El Lado Oscuro Y Más Complejo Del Salto Tecnológico Actual. Ella Se Encuentra Cara A Cara Ante El Dilema Que Persigue Las Mentes De Filósofos Y Legisladores Por Igual, Conocido En Los Círculos Técnicos Como El “Problema De La Caja Negra” (Black Box Problem). La Autora Argumenta Con Rigor Periodístico Escudriñando Los Detalles Que La Inteligencia Artificial, Especialmente Los Modelos De Aprendizaje Profundo Y Las Redes Neuronales Artificiales, Ha Alcanzado Un Grado De Complejidad Que Deja Incluso A Los Programadores Que Diseñaron Estos Sistemas A Menudo Incapaces De Entender La Manera Exacta En Que La Máquina Llegó A Una Decisión O Conclusión Específica. Cuando Las Instituciones Políticas Y Gubernamentales Adoptan Estas Tecnologías Para Gestionar Los Asuntos De Los Ciudadanos, Nos Encontramos Confrontados Con Un Peligro Inminente Representado Por Una Gobernanza Algorítmica Ciega, Que Emite Decisiones Cruciales Relacionadas Con La Justicia, La Salud, El Empleo Y La Seguridad Social, Sin Capacidad Humana Para Cuestionarlas O Entender Sus Justificaciones, Hiriendo De Muerte Al Principio De Responsabilidad Democrática.

Noveck Nos Lleva En Un Viaje Para Refutar El Mito Común Promovido Por Las Grandes Empresas Tecnológicas, Que Afirma Que Los Algoritmos Son Criaturas Matemáticas Neutrales, Exentas De Los Caprichos Humanos Y De Los Sesgos Políticos E Ideológicos. La Autora Explica En Un Lenguaje Simple Pero Profundo Al Mismo Tiempo Que Los Algoritmos No Crecen En Un Vacío, Sino Que Son Más Bien El Producto De Un Duro Proceso De Entrenamiento Que Depende De Inmensas Cantidades De Datos Históricos Producidos Por Los Humanos Durante Décadas. Debido A Que La Historia Humana Está Cargada De Sesgos Raciales, De Clase Y De Género, Lo Que La Máquina Realiza En Realidad No Es Alcanzar La Justicia Absoluta, Sino Más Bien Automatizar Estos Sesgos Y Reproducirlos A Gran Escala Y A Una Velocidad Vertiginosa, Envueltos En Un Falso Ropaje De Neutralidad Científica Y Matemática. Los Datos Históricos, A Ojos De La Autora, Son Un Espejo De Nuestro Pasado Con Todos Sus Defectos, Y Si Dejamos Que La Inteligencia Artificial Tome Decisiones Futuras Basándose Solo En Estos Datos, Condenamos Al Futuro A Ser Meramente Una Versión Repetida Y Distorsionada Del Pasado, Abortando Cualquier Esperanza De Cambio Y Progreso Social Del Cual La Democracia Forma La Herramienta Vital.

Para Enmarcar Este Peligro Y Transformarlo De Meras Preocupaciones Teóricas En Una Realidad Tangible, La Autora Trae Ejemplos Vívidos Y Impactantes De La Realidad De Los Sistemas Judiciales Y De Seguridad En Algunas Naciones Avanzadas. Noveck Revisa El Experimento De Utilizar Algoritmos De “Predicción Del Delito” Y Determinar Las Tasas De Reincidencia Criminal Entre Los Acusados Antes De Su Juicio. Estudios Independientes Mostraron Que Estos Sistemas, Debido Al Entrenamiento Con Datos Históricos De Seguridad Sesgados, Clasificaron A Ciudadanos De Minorías Raciales O Clases Pobres Como Individuos De Alto Riesgo A Tasas Que Duplicaban La Realidad, Llevando A Los Jueces A Endurecer Las Sentencias Y Negarles La Libertad Temporal, Mientras Que El Algoritmo Mostraba Una Tolerancia Excesiva Con Los Acusados De Clases Sociales Con Más Influencia Que Cometieron Exactamente Los Mismos Delitos. Aquí, La Inteligencia Artificial Se Transforma De Una Herramienta Para Ayudar A Lograr La Justicia En Una Guillotina Tecnológica Que Profundiza La Desigualdad Y Legitimiza La Discriminación. Noveck Ve Que El Peligro De Esta Situación Radica No Solo En El Error De La Decisión Algorítmica, Sino En El “Halo De Infalibilidad” Otorgado Por Los Funcionarios A La Máquina, Donde El Empleado Humano Tiende A Creer En La Pantalla De La Computadora Sin Discusión, Evadiendo La Responsabilidad Moral Y Política De Su Decisión.

A Partir De Este Sombrío Diagnóstico, La Autora No Se Rinde Al Nihilismo Tecnológico, Sino Que Comienza A Construir Su Estrategia Inversa Para Reiniciar, Formulando El Concepto De Un “Algoritmo Explicable Y Responsable”. Noveck Ve Que Enfrentar El Sesgo Algorítmico No Se Logra Abandonando La Tecnología Y Yendo Hacia Atrás, Sino Imponiendo Criterios Strict Y Revolucionarios Para La Transparencia Y El Diseño De Sistemas Digitales. La Autora Pide Promulgar Leyes Internacionales Que Obliguen A Los Fabricantes Y A Las Instituciones Gubernamentales A Romper El Candado De La “Caja Negra” Y Formular Tecnologías De Inteligencia Artificial Que Posean La Capacidad De Presentar Explicaciones Claras Y Comprensibles A Los Humanos Sobre Cómo Llegaron A Sus Decisiones. Debe Ser El Derecho De Cada Ciudadano Afectado Por Una Decisión Algorítmica —Ya Sea Que Se Le Haya Negado Un Trabajo, Se Le Haya Rechazado Una Solicitud De Préstamo O Se Le Haya Privado De Beneficios De Salud— Obtener Una Justificación Detallada Y Confrontacional Que Aclare Los Estándares Y Datos En Los Que Se Apoyó La Máquina, Justo Como Tienen El Derecho De Apelar La Decisión De Cualquier Juez O Funcionario Humano.

El Flujo Intelectual Del Libro Cambia Después De Eso Para Introducir Otra Solución Innovadora Que Trasciende Los Marcos Legales Tradicionales, A La Que Noveck Llama “Revisión Popular Y Civil De Los Algoritmos”. La Autora Sugiere No Dejar El Proceso De Evaluación Y Monitoreo De La Inteligencia Artificial Exclusivamente En Manos De Las Grandes Corporaciones O De Comités Gubernamentales Cerrados, Sino Más Bien Abrir Este Proceso A La Sociedad En Su Conjunto A Través De Plataformas Que Permitan A Científicos Independientes, Organizaciones De La Sociedad Civil Y Periodistas De Investigación Examinar El Código De Programación Y Probar Los Datos Utilizados En El Entrenamiento De Los Sistemas Públicos. La Autora Compara Este Proceso Con El Sistema De “Código Abierto” En El Mundo Del Software, Donde La Conciencia Colectiva Se Integra Para Detectar Errores Y Vulnerabilidades Y Corregirlos. Involucrar Al Público En El Monitoreo De La Máquina Transforma A La Sociedad De Una Víctima Potencial De La Tecnología A Un Guardián Vigilante De Su Seguridad Democrática. Este Enfoque Participativo En La Supervisión Contribuye A Despojar De Sagrario A Los Algoritmos, Reafirmando Que La Máquina Es Meramente Una Herramienta Al Servicio Del Hombre, No Una Autoridad Superior Por Encima De La Crítica Y La Rendición De Cuentas.

Al Concluir Este Eje, Noveck Reafirma Que La Batalla Por La Transparencia Y El Combate Al Sesgo Algorítmico Es En Su Esencia Una Batalla Política Y Moral, No Simplemente Un Problema Técnico Que Se Puede Resolver Agregando Algunas Líneas Extra De Código. Se Relaciona Con Los Valores Sobre Los Cuales Deseamos Dar Forma A Nuestro Futuro; ¿Queremos Un Mundo Gobernado Por Una Eficiencia Fría Y Automatizada Que Respalde Las Desigualdades Y Proteja El Statu Quo, O Queremos Un Mundo Que Dobgue La Tecnología Para Servir A La Justicia Social Y Expandir Los Horizontes De La Libertad? “Reiniciar La IA” Significa Antes Que Nada Armar A Las Sociedades Democráticas Con Conciencia, Conocimiento Y Herramientas Legales Que Les Permitan Someter La Máquina A Los Nobles Valores Humanos, Asegurando Que La Mente Humana, Con Su Conciencia, Ética Y Empatía, Permanezca Como La Referencia Última Y Única En La Gestión De Los Asuntos De La Vida Humana, Para Que La Carrera Para Salvar La Democracia Siga Sendo Una Carrera Hacia La Esperanza, La Justicia Y La Dignidad Compartida.

La Nueva Constitución Digital Y El Desmantelamiento De Los Grandes Feudos Algorítmicos

Después De Que Beth Simone Noveck Luchó En Nuestra Revisión Anterior En Lo Más Grueso De La Batalla Intelectual Y Técnica Para Desmantelar La “Caja Negra” Y Enfrentar Los Sesgos Algorítmicos, Nos Mueve En Esta Parte De Su Libro “Reboot AI” A La Arena De Batalla Verdadera Y Más Feroz; La Arena De La Política Internacional Y Las Legislaciones Globales. La Autora Ve Con Su Agudo Intelecto Como Antigua Funcionaria En La Casa Blanca Que Todas Las Ideas Ambiciosas Sobre La Democracia Participativa Y La Inteligencia Colectiva Permanecerán Como Meros Sueños Utópicos Suspendidos En El Aire A Menos Que Se Rompa La Estructura Monopolista Actual De Los Mercados Tecnológicos Globales. Vivimos Hoy, Según Su Precisa Descripción Periodística, Bajo Un Sistema Que Se Puede Nombrar “Nuevo Feudalismo Digital”, Donde La Riqueza Epistemológica, Los Datos Y Las Llaves De La Inteligencia Artificial Se Concentran En Manos De Un Diminuto Puñado De Corporaciones Multinacionales Con Sede En Silicon Valley Y Pekín. Estas Empresas Se Han Transformado En Entidades Quasi-Soberanas Que Superan En Presupuestos E Influencia Las Capacidades De Países Medianos, Manteniendo Un Poder Incontestable En La Configuración Del Espacio Público, La Guía Del Debate Político Y La Creación De La Conciencia Colectiva De La Humanidad.

Noveck Argumenta Que El Modelo Económico De Negocio Actual De Los Gigantes Tecnológicos, Que Se Apoya En Lo Que La Socióloga Shoshana Zuboff Llama “Capitalismo De Vigilancia”, Contradice Estructural Y Flagrantemente Los Fundamentos De La Estabilidad Democrática. Estas Plataformas Logran Sus Ganancias Astronómicas Manteniendo A Los Usuarios En Un Estado De Excitación Emocional Permanente, Alimentando Sentimientos De Ira Y Polarización Entre Ellos, Porque Este Es El Único Camino Para Aumentar El Tiempo De Pantalla Y, Por Lo Tanto, Mostrar Más Anuncios Dirigidos. De Aquí, La Autora Ve Que Modificar La Paz Civil Y La Erosión De La Confianza En Las Instituciones Democráticas No Es Un Efecto Secundario No Deseado De La Inteligencia Artificial, Sino Que Es El Resultado Lógico Y Directo De Algoritmos Diseñados Específicamente Para Maximizar Los Retornos Financieros A Expensas De La Paz Social. Basándose En Esto, Confiar En Las Buenas Intenciones De Los Líderes De Estas Empresas O En Códigos Éticos De Honor Autoimpuestos Es Considerado Como Una Especie De Ingenuidad Política En Bancarrota, Y Este Enfoque Débil Debe Ser Reemplazado Por El Poder De La Ley Rígida Y Nuevas Herramientas De Gobernanza Internacional Que Devuelvan Al Estado-Nación Contemporáneo Su Soberanía Perdida.

En Este Contexto, La Autora Da Un Paso Adelante Con Un Proyecto Legal Y Revolucionario Integrado Expresado Como “La Nueva Constitución Digital Para Salvar La Democracia”. Noveck No Pide Restringir La Innovación Ni Nacionalizar La Tecnología, Sino Que Exige Rediseñar Las Leyes Antimonopolio Clásicas Para Adaptarlas A La Era De Los Datos Y La Inteligencia Artificial. La Autora Explica Cómo Las Leyes Actuales, Diseñadas A Finales Del Siglo Diecinueve Y Principios Del Siglo Veinte Para Enfrentar Monopolios En El Petróleo Y Los Ferrocarriles, Se Han Vuelto Impotentes Para Lidiar Con Empresas Cuya Fuerza No Radica En Poseer Activos Físicos, Sino En Poseer “Efectos De Red” Y Monopolizar Grandes Volúmenes De Datos. Noveck Propone Audazmente Romper Estas Imperios Tecnológicos Separando Las Plataformas De Redes Sociales De Las Infraestructuras De Computación En La Nube Y De Los Laboratorios Que Desarrollan Modelos De Inteligencia Artificial, Abriendo La Puerta A Una Competencia Verdadera Y Permitiendo La Aparición De Alternativas Tecnológicas Locales Y Regionales Que Sirvan Al Bien Común En Lugar De A Las Brutas Ganancias Monopolistas.

El Libro Se Mueve Después De Eso Hacia Otro Pilar Central En Esta Constitución Propuesta, Que Es Convertir El Principio De “Soberanía De Datos” De Un Eslógan Político A Una Realidad Legislativa Vinculante. La Autora Ve Que Los Datos Recopilados Diariamente Por Las Empresas Con Respecto A Nuestro Comportamiento, Vidas, Salud E Ideas No Deben Ser Tratados Como Un Ámbito Público Explotable Para Las Corporaciones, Sino Que Deben Ser Clasificados Como Propiedades Personales Y Soberanas De Los Ciudadanos Y Las Sociedades. Noveck Pide Promulgar Legislaciones Que Concedan Al Ciudadano El Derecho Total A Conocer Qué Datos Tienen Las Empresas Sobre Ellos, El Derecho A Portar Estos Datos Fácilmente A Otras Plataformas Y, Lo Más Importante, El Derecho A Retirar Sus Datos Y Eliminarlos Permanentemente Para Evitar Su Uso En El Entrenamiento De Algoritmos Que Podrían Ser Utilizados En Su Contra En El Futuro. Restaurar El Control Sobre Los Datos Es El Primer Paso Y El Más Necesario Para Despojar A Los Feudos Digitales De Su Arma Esencial, Y Desactivar El Dominio Epistemológico Que Practican Sobre Los Gobiernos Y Los Pueblos Por Igual.

La Autora No Se Satisface Con El Aspecto Defensivo Y Regulatorio De Su Tesis, Sino Que Asegura La Necesidad Vital De Que Los Estados Emprendan Iniciativas Ofensivas Y Constructivas A Través De Una Enorme Inversión En “Infraestructura Digital Pública”. Noveck Argumenta Que Las Democracias Modernas Gastaron Históricamente Miles De Millones De Dólares Para Construir Carreteras, Puentes, Aeropuertos Y Redes Eléctricas Porque Se Dieron Cuenta De Que Estas Instalaciones Son Cruciales Para La Prosperidad De La Sociedad Y No Pueden Dejarse Solo En Manos Del Sector Privado. Hoy En Día, Salvar La Democracia Requiere Un Enfoque Similar Manifestado En La Construcción De Centros Públicos De Computación En La Nube Y En El Desarrollo De Modelos Nacionales De Inteligencia Artificial De Código Abierto Disponibles De Forma Gratuita Para Universidades, Pequeñas Empresas, Organizaciones De La Sociedad Civil Y Gobiernos Locales. Esta Inversión Pública Romperá El Monopolio De Las Grandes Corporaciones, Permitiendo El Surgimiento De Innovaciones Tecnológicas Orientadas A Resolver Problemas Del Cambio Climático, La Educación Y La Salud Pública, Campos Que No Gozan De Ninguna Prioridad En Los Cálculos Del Capital De Riesgo En Silicon Valley, Demostrando Que La Solución Genuina Para Enfrentar La Crueldad Corporativa Es Proporcionar Una Alternativa Democrática Superior Humana Y Técnicamente.

La Profesora Beth Simone Noveck Concluye Este Capítulo Pintando Un Lienzo Político Complejo Y Con Visión De Futuro, Advirtiendo Contra El Peligro Crítico De Fracasar En Esta Carrera Legislativa Global. La Renuencia A Regular El Mercado De La Inteligencia Artificial Hoy Significa La Renuncia Voluntaria De La Soberanía Democrática En Favor De Unos Pocos Tecnócratas No Electos, Convirtiendo A Las Sociedades Libres En Meras Colonias Digitales Que Consumen Soluciones Precocinadas Formuladas Para Servir A Intereses Extranjeros O A Estrechos Intereses Capitalistas. La Nueva Constitución Digital Anunciada Por El Libro “Reboot AI” No Es Un Lujo Intelectual Sino Que Es La Última Línea De Vida Para Restaurar El Equilibrio Perdido Entre El Estado Y Las Corporaciones, Afirmando Que La Autoridad De La Ley Popular Y De Las Instituciones Democráticas Debe Permanecer Siempre Y Para Siempre Por Encima Y Suprema Sobre La Autoridad De Cualquier Algoritmo, Independientemente De Su Grado De Inteligencia O Volumen De Capital, Salvaguardando El Futuro De La Libertad Y La Dignidad Humana En La Era Digital.

El Horizonte Geopolítico

Noveck Ve Que El Mundo Está Pasando Por Un Punto De Inflexión Peligroso Que Presencia La Aparición De Con Un Modelo Tecnológico Competidor Altamente Atractivo Y Peligroso Al Mismo Tiempo, Que Es El Modelo De “Autoritarismo Digital Impulsado Por Datos” Representado Flagrantemente Por China, Donde La Inteligencia Artificial Es Aprovechada Para Construir Un Sistema De Vigilancia Integral Súper Eficiente, Capaz De Predecir El Comportamiento De Los Ciudadanos, Suprimir La Oposición Antes De Que Nazca Y Gestionar La Sociedad Con Un Capital Tecnológico Masivo Que Elimina La Política Y La Reemplaza Con Un Control Algorítmico Absoluto.

La Paradoja Trágica Destacada Por El Libro Radica En Que Este Modelo Autoritario Digital Aparece Hoy, A Ojos De Muchas Naciones En Desarrollo Y Sociedades Que Sufren De Estancamiento En Su Camino De Desarrollo, Más Eficiente Y Atractivo Que El Flácido Modelo Democrático Occidental Solucionado Por La Polarización Y La Parálisis Institucional. Cuando El Mundo Ve Que Los Sistemas Democráticos Son Impotentes Para Resolver Problemas Fundamentales Como La Pobreza, El Delito Y El Cambio Climático, Mientras Que Los Sistemas Autoritarios Introducen Soluciones Tecnológicas Rápidas Y Brillantes, La Legitimidad De La Democracia Como Un Sistema De Gobernanza Global Se Pone En Peligro Real. De Aquí, Noveck Lanza Una Severa Advertencia A Los Legisladores Y A Las Élites Intelectuales En Occidente; Enfrentar El Ascenso Geopolítico Del Autoritarismo Digital No Se Puede Completar Imponiendo Sanciones Económicas Ni Adoptando Un Discurso Ético Condescendiente, Sino Que Se Logra Única Y Exclusivamente A Través De La Presentación De Una Alternativa Democrática Superior Que Demuestre Práctica Y Evidencialmente Que La Libertad Y La Participación Popular Pueden Encontrarse Con Una Súper Eficiencia Tecnológica Para Resolver Los Complejos Problemas Humanos.

Esta Alternativa, A La Que La Autora Nombra “El Tercer Modelo Tecnológico Democrático”, Debe Trascender Tanto El Modelo Autoritario Dirigido Por El Estado Como El Modelo Capitalista Implacable Guiado Por Las Corporaciones En Silicon Valley, Que No Es Menos Peligroso En Su Esencia Que El Autoritarismo Por Su Establecimiento De Un Feudalismo Epistemológico Que Desperdició La Paz Social. El Tercer Modelo Es Aquel Que Rediseña La Inteligencia Artificial Como Una Infraestructura De Bienes Comunes Públicos, Propiedad De Las Sociedades Y Gestionada Por Instituciones Democráticas Con Absoluta Transparencia, Dirigiendo Sus Energías Analíticas Para Servir Al Desarrollo Integral, Impulsar La Justicia Social Y Empoderar A Los Ciudadanos Para Formular Sus Decisiones Por Sí Mismos. Noveck Ve Que Este Conflicto Geopolítico Epistemológico Es La Gran Batalla De Nuestra Generación Actual, Y Ganar El Modelo Democrático En Él Requiere Enmarcar Nuevas Alianzas Internacionales Entre Estados Que Comparten Los Mismos Valores, Para Intercambiar Datos Abiertos, Coordinar Políticas Legislativas Y Desarrollar Estándares Éticos Unificados Para La Inteligencia Artificial Transfronteriza, Diseñando Un Frente Global Unificado Capaz De Romper El Anillo De Los Monopolios Corporativos Y Desafiar La Creciente Influencia Autoritaria.