Hay Una Escena Que Se Repite Cada Día Y No Notamos Su Rareza Hasta Que Nos Detenemos Un Poco. Abres Tu Teléfono Por La Mañana Y Las Noticias Te Caen De Todas Partes, Los Números De Los Mercados Suben Y Bajan Ante Tus Ojos En Tiempo Real, Las Fotos De Los Satélites De La Tormenta Que Se Acerca A Las Costas, El Análisis De Un Discurso Político Pronunciado Hace Minutos Y Una Nueva Teoría De Conspiración Que Nació Anoche Y Se Propagó Como Fuego. Sabemos Más Que Cualquier Generación Anterior En La Historia De La Humanidad Y Sin Embargo Un Sentimiento Misterioso Nos Persigue: Que Entendemos Menos. Esta Es La Paradoja De La Que Parte El Escritor Y Artista Británico James Bridle En Su Asombroso E Inquietante Libro Nuevo Oscuro Edad: Tecnología Y El Fin Del Futuro, Para Anunciar Que Hemos Entrado Sin Declarar Guerra En Una Nueva Edad Oscura, No Porque El Conocimiento Haya Desaparecido Sino Porque Se Desbordó Hasta Ahogarnos.
Bridle No Es Un Escritor Técnico Tradicional Que Anuncia El Futuro O Advierte Sobre Robots Que Controlarán El Mundo. Es Un Artista Que Desmonta La Infraestructura De Internet Y Un Investigador Que Indaga Cómo Nuestras Herramientas Se Convirtieron En Fuerzas Que Nos Superan. El Título De Su Libro Está Tomado De Una Frase Que Usaban Los Cartógrafos En La Edad Media Cuando Llegaban Al Borde Del Mundo Conocido Y Escribían Aquí Hay Monstruos. Hoy Hemos Dibujado El Mapa De Todo El Mundo, Fotografiamos Cada Calle Con Satélite Y Pusimos Cada Libro En Nuestros Bolsillos Y Sin Embargo Volvimos A Escribir La Misma Frase En Los Bordes De Nuestros Mapas Mentales: Aquí Hay Monstruos, Pero Esta Vez Creados Por Nosotros.
Bridle Empieza Su Libro Con Una Analogía Que Es Casi La Clave De Todo Lo Que Vendrá. Dice Que Aprender A Programar Solo No Basta Para Entender La Tecnología, Igual Que No Necesitas Ser Fontanero Para Entrar Al Baño. Pero La Paradoja Más Profunda, Como Insinúa, Es Que Este Sistema De Tuberías Quizás Está Intentando Matarte Realmente Y Nosotros Insistimos En Ignorar Este Hecho. Nuestros Sistemas Informáticos Complejos Ya No Son Solo Herramientas Que Usamos, Sino Que Se Convirtieron En La Infraestructura Dentro De La Cual Vivimos. Vivimos Dentro De La Red, Respiramos Su Aire, Bebemos De Sus Tuberías Y Cuando Estas Tuberías Gotean O Explotan No Tenemos Ni El Lenguaje Para Describir Lo Que Sucede.
El Concepto Central Que Funda Bridle En El Capítulo Inaugural Que Llamó Abismo Chasm Es Que El Abismo Ya No Está Entre Nosotros Y Nuestras Máquinas Como Imaginábamos En Las Películas Antiguas De Ciencia Ficción, Sino Que Se Ha Convertido Dentro De La Red Misma. La Red Aquí No Es Solo Internet, Sino Que Es El Ente Híbrido Que Une A Humanos Y Política Y Cultura Y Tecnología Y Energía Y Clima En Una Sopa Única Cuyos Ingredientes No Se Pueden Separar. Este Abismo Es Una Brecha En La Comprensión Y En La Capacidad De Actuar. Producimos Más Datos De Los Que Cualquier Mente Humana O Incluso Mecánica Puede Absorber Y Construimos Sistemas Cuyas Decisiones No Podemos Interpretar Y Luego Pedimos A Estos Sistemas Que Tomen Decisiones Fatídicas En Nuestro Nombre En Tribunales Y Bancos Y Campos De Batalla.
Para Explicar Cómo Llegamos Hasta Aquí, Bridle Vuelve A La Historia De Una Pequeña Metáfora Que Nos Engañó A Todos: La Nube. Nos Recuerda Que Los Ingenieros En Los Años Cincuenta, Cuando Dibujaban Esquemas De Sistemas Eléctricos, Dibujaban Un Círculo Vago De Bordes Borrosos Y Escribían Dentro Nube Para Representar Todo Lo Que No Querían Pensar. Era Una Abreviatura Ingenieril Inocente. Pero Con El Crecimiento De Las Redes, Esta Nube Creció Y Se Infló Hasta Convertirse En El Centro Del Universo Digital. Empezamos A Decir Nuestras Fotos Están En La Nube, Nuestro Dinero En La Nube, Nuestros Recuerdos En La Nube. Esta Hermosa Metáfora Es La Metáfora Más Mentirosa En La Historia De La Tecnología. La Nube No Es Ligera Ni Transparente Ni Sin Peso. Son Viejos Cables Telefónicos Y Cables De Fibra Óptica Que Se Extienden En El Fondo Del Océano Y Satélites Y Enormes Almacenes De Servidores Que Consumen Agua Y Electricidad Como Ciudades Enteras Y Que Están Sometidos A Leyes De Países E Impuestos De Paraísos Fiscales. Cuando Google Y Facebook Dicen Que Construyen Sus Centros De Datos En Irlanda O En El Norte De Suecia, La Razón No Es La Belleza De La Naturaleza Sino Los Impuestos Bajos Y La Energía Barata Y La Refrigeración Gratuita.
Este Oscurecimiento Es Intencional. La Falta De Comprensión No Es Un Defecto Lateral Sino Una Característica Esencial En La Economía De La Nube. Cuando No Entiendes A Dónde Van Tus Datos, Pierdes La Capacidad De Pedir Cuentas A Quien Los Posee. Tus Mensajes, Las Fotos De Tus Hijos, Tus Registros De Salud, Tus Preferencias Políticas, Todo Está En Una Infraestructura Que Posee Otra Persona. La Nube No Es Solo Una Mala Metáfora, Es Una Relación De Poder Y La Mayoría De Nosotros No Está En El Lado Más Fuerte De Ella.
Pero Bridle No Se Detiene En Esta Crítica Material, Aunque Es Importante Y Necesaria. Va Más Allá Para Recuperar Otro Significado De La Nube, Olvidado Desde El Siglo Catorce, De Un Libro Místico Cristiano Anónimo Titulado La Nube Del No Saber. En Ese Libro, La Nube Que Separa Al Humano De Dios No Puede Ser Penetrada Por Conocimiento Y Razón Sino Por Amor Y Renuncia Al Deseo De Conocimiento Completo. Dice El Autor Anónimo: El Conocimiento Puede Engañarte Por Orgullo Pero Este Suave Amor No Te Engañará. Aquí Bridle Toma Su Hilo Filosófico Más Peligroso: El Sueño De La Ilustración Que Se Basó En Que Más Información Lleva Necesariamente A Mejores Decisiones, Es Un Sueño Que Colapsó. Internet En Sus Inicios Se Nos Presentó Como La Autopista De La Información Que Iluminaría El Mundo. Y Hoy Estamos Conectados A Enormes Depósitos De Conocimiento Y Sin Embargo No Hemos Aprendido Cómo Pensar. Al Contrario, La Abundancia Produjo Oscuridad.
Bridle Cita En Este Punto Una Cita Aterradora Del Escritor Howard Lovecraft Escrita En 1926: Lo Más Misericordioso Del Mundo, En Mi Opinión, Es La Incapacidad De La Mente Humana Para Conectar Todo Su Contenido. Vivimos En Una Isla Tranquila De Ignorancia En Medio De Mares Negros De Infinito Y No Está Escrito Que Vayamos Lejos. Lovecraft Temía Que Conectar Conocimientos Separados Revelara Verdades Que La Mente No Puede Soportar. Bridle Dice Que Esto Es Exactamente Lo Que Internet Nos Hace Ahora. Conecta Todo Con Todo Y Nos Revela La Amplitud De Nuestra Ignorancia Y La Fragilidad De Nuestras Historias Con Las Que Nos Tranquilizábamos.
La Oscuridad De La Que Habla Bridle Entonces No Es La Ignorancia De La Edad Media Cuando Los Libros No Existían. Es Una Oscuridad De Nuevo Tipo, Oscuridad Resultante Del Resplandor Intenso. Incapacidad Clara Para Ver Lo Que Está Directamente Frente A Nosotros E Incapacidad Para Actuar Efectiva Y Justamente En Este Mundo. Y Para No Ser Acusado De Nihilismo, Bridle Invoca Dos Voces Femeninas Desde El Corazón Mismo De La Oscuridad. Virginia Woolf En Su Diario En Las Horas Más Oscuras De La Primera Guerra Mundial En 1915 Escribió: El Futuro Es Oscuro Y Esto Es Lo Mejor Que Puede Ser El Futuro, En Mi Opinión. La Investigadora Rebecca Solnit Comenta Sobre Esta Frase Que Es Una Celebración De La Oscuridad, Un Rechazo A Convertir Lo Desconocido En Conocido Falso A Través De Astrología Falsa O Narrativas Políticas Sombrías. Es Un Deseo De Permanecer Insegura Incluso De Su Propia Afirmación. Luego Invoca A Donna Haraway Que Nos Recuerda El Llamado De Woolf En Su Libro Los Tres Guineas En 1938: Pensemos En Las Oficinas, En Los Autobuses, Mientras Estamos De Pie En Medio De Multitudes Viendo La Coronación De Reyes… No Dejemos Nunca De Pensar: ¿Qué Es Esta Civilización En La Que Nos Encontramos?.
Con Este Espíritu, Bridle Pone Su Tesis Final Para Esta Primera Entrega: La Tecnología No Es Solo Fabricar Herramientas Y Usarlas, Sino Fabricar Metáforas. Cuando Fabricamos Una Herramienta, Fijamos En Ella Una Cierta Comprensión Del Mundo Y Esta Comprensión Encarnada Se Vuelve Capaz De Producir Efectos En El Mundo Y Al Mismo Tiempo Se Convierte En Parte Móvil De Nuestra Comprensión Del Mundo, A Menudo Sin Conciencia Nuestra. El Martillo, Como Dice El Refrán, Hace Que Todo Parezca Un Clavo. Pero Olvidamos Pensar En El Martillo Mismo.
En 1948, IBM Instaló Una Máquina Gigante Detrás De Un Vidrio Grueso En La Calle Cincuenta Y Siete En Nueva York Para Que La Viera El Público. Se Llamaba Calculadora Electrónica De Secuencia Selectiva SSEC. No Era Solo Una Máquina Sino Un Teatro. Thomas Watson, Jefe De IBM, Quería Probar Al Público Que Sus Productos No Buscaban Reemplazar A Humanos, Porque La Palabra Misma Computadora Todavía Se Aplicaba A Humanos Que Hacían Cálculos. Pidió A Sus Ingenieros Que Quitaran Las Feas Columnas Que Llenaban El Lugar Y Cuando No Pudieron, Les Pidió Que Las Quitaran De Las Fotos Publicitarias Con Aerógrafo. Este Es El Momento Del Que Parte Bridle El Capítulo De Computación Para Decirnos Que Nuestra Relación Con La Computadora Empezó Con Engaño Visual. La Máquina ENIAC Anterior Era Ruidosa, Emitía Destellos Que Se Podían Rastrear, Se Escuchaba Su Pensar. Pero La Nueva Máquina De IBM Era Elegante, Silenciosa, Misteriosa, Ponía Una Interfaz Entre Ella Y El Público. Desde Ese Momento, La Computación Tiende Hacia El Ocultamiento.
Bridle Nos Devuelve A Este Inicio Para Corregir Un Malentendido Común Que Alimenta Nuestra Edad Oscura. Creemos Que La Computación Es Algo Que Se Puede Entender, Solo Cálculos Muy Rápidos. Pero La Computación Real, Como Evolucionó, Es Otra Cosa Completamente. Es Construir Modelos Del Mundo Que Funcionan Según Su Propia Lógica. Y Da Un Ejemplo Que Aún Resuena En La Memoria De Todos: El Ajedrez. En 1997, La Computadora Deep Blue Venció Al Campeón Mundial Garry Kasparov. Se Interpretó El Incidente Como Victoria De La Máquina Sobre El Humano. Pero Bridle Voltea La Mesa. Kasparov Mismo, Años Después De La Derrota, Inventó Un Nuevo Tipo De Ajedrez Que Llamó Ajedrez Avanzado O Centauro, Donde Juegan Humano Y Máquina Como Equipo Contra Otro Equipo De Humano Y Máquina. Y El Resultado Asombroso Fue Que Equipos De Aficionados Con Ayuda De Computadoras Modestas Vencían A Grandes Maestros De Ajedrez Y A Las Computadoras Más Potentes Solas. ¿Por Qué? Porque El Valor No Estaba En El Cálculo Bruto Sino En La Forma En Que Piensan Humano Y Máquina Juntos. El Humano Aporta Intuición Y Estrategia A Largo Plazo Y La Máquina Aporta Táctica Y Cálculo Preciso.
Pero Las Empresas Tecnológicas No Aprendieron Esta Lección. En Lugar De Construir Sistemas Centauro Que Colaboren Con Humanos, Construyeron Sistemas Que Quieren Reemplazarlos. Llegamos A AlphaGo, El Programa Que Venció Al Campeón Mundial En El Juego Go, Que Es Millones De Veces Más Complejo Que El Ajedrez. AlphaGo No Calculaba Todas Las Probabilidades, Aprendía De Forma Extraña, Desarrollaba Una Intuición Propia. Y Cuando Se Preguntó A Expertos De Go Sobre Sus Movimientos, Dijeron Que Eran Hermosos Pero Extraños, Movimientos En Los Que Ningún Humano Había Pensado Antes, Movimientos No Humanos. Aquí Está El Giro Peligroso. Las Computadoras Ya No Imitan Nuestro Pensamiento Sino Que Piensan De Otra Forma Que No Podemos Entender Y Sin Embargo Confiamos En Ellas Y Les Entregamos Las Llaves De Nuestras Vidas.
Y De Aquí Bridle Pasa Con Fluidez Al Capítulo Más Urgente Del Libro, El Capítulo Del Clima, Donde Esta Incapacidad De Comprensión Se Convierte En Cuestión De Vida O Muerte. Dice Que La Crisis Climática Es En Su Esencia Una Crisis Computacional. No Porque No Tengamos Datos Suficientes Sino Porque Los Datos Que Tenemos Son Tan Enormes Que Superan Nuestra Capacidad De Representación. Los Modelos Climáticos Que Construyen Agencias Como NASA O La Oficina Meteorológica Británica Son De Los Programas Informáticos Más Complejos Que Ha Fabricado El Humano. Dividen La Atmósfera En Cubos Tridimensionales E Intentan Calcular La Interacción De Calor Y Vientos Y Humedad Y Nubes Y Océanos Dentro De Cada Cubo Y El Efecto De Cada Cubo Sobre Su Vecino. Estos Modelos Necesitan Supercomputadoras Que Consumen Energía De Una Ciudad Pequeña. Y A Pesar De Todo, Siguen Siendo Aproximados.
La Paradoja Que Revela Bridle Aquí Es Asombrosa. Para Entender El Planeta, Necesitamos Computadoras Que Consumen Energía Que Contribuye Ella Misma A Calentar El Planeta. Quemamos El Mundo Para Entender Cómo Se Quema. Pero El Problema Más Profundo No Está En El Consumo De Energía Sino En La Naturaleza Del Conocimiento Que Producen Estos Modelos. Estos Modelos No Nos Dan Una Verdad Final Sino Probabilidades, Escenarios, Distribuciones Estadísticas. Dicen: Si La Emisión De Carbono Continúa A Este Ritmo, Hay Una Probabilidad Del Noventa Y Cinco Por Ciento De Que La Temperatura Suba Entre Dos Y Tres Grados. Esto Es Hablar Científico Preciso Pero La Mente Política Y La Mente Popular No Trata Con Probabilidades Sino Con Certezas. Queremos Una Respuesta Simple: ¿Se Inundará Mi Casa O No?
Y Bridle Revela Cómo Los Negadores Del Cambio Climático Explotaron Esta Brecha Entre El Lenguaje Probabilístico De La Ciencia Y El Lenguaje De Certeza De La Política. En Los Noventa, Las Gigantescas Compañías Petroleras Financiaron Estudios Que Dudan De Los Modelos, No Porque Los Modelos Sean Erróneos Sino Porque No Son Cien Por Ciento Seguros. Sembraron La Idea De Que La Incertidumbre Absoluta Significa Que No Sabemos Nada. Y Este Es El Corazón De La Nueva Edad Oscura: Usar La Abundancia De Información, O Más Bien La Abundancia De Duda Sobre La Información, Para Paralizar La Capacidad De Actuar.
A Principios De Los Ochenta, El Matemático Americano Theodore Kaczynski Estaba En Su Pequeña Cabaña En Montana Escribiendo A Mano Un Largo Manifiesto Contra La Sociedad Industrial. Años Después, Sabremos Que La Sociedad Industrial Misma Imprimirá Su Manifiesto En Papeles Más Lujosos Cuando Washington Post Y New York Times Fueron Obligados A Publicarlo Bajo Amenaza De Bombas. El Hombre Conocido Como Unabomber Veía Que La Tecnología Robaría La Libertad Humana. Historia Extraña Para Empezar Un Capítulo Sobre Cálculo, Pero Bridle La Pone A Propósito Porque Kaczynski Antes De Convertirse En Terrorista Era Un Genio En Matemáticas, Estudiaba Lo Que Se Llama Sistemas Complejos. Y Lo Que No Pudo Ver Es Que Los Sistemas Complejos No Necesitan Una Conspiración Para Ser Opresivos, Basta Con Ser Complejos Hasta El Punto De No Entenderlos.
Este Es El Corazón Del Capítulo Cálculo Calculation, Quizás El Capítulo Más Inquietante Del Libro. Bridle Nos Lleva Al Corazón De Lo Que Hoy Se Llama Inteligencia Artificial Y Revela Que No Es Inteligencia En El Sentido Que Entendemos Sino Cálculo Estadístico Enorme. Nos Recuerda Que La Computadora En Origen Es Una Máquina De Calcular, Calculator, Pero El Cálculo Moderno Ya No Es Suma Y Resta Sino Estimación Probabilística. Cuando Pides A Google Traducir Una Frase O A Facebook Mostrarte Lo Que Te Importa, La Máquina No Entiende El Significado Sino Que Calcula La Probabilidad Más Probable Basada En Miles De Millones De Ejemplos Anteriores.
El Problema, Como Explica Bridle, Es Que Este Tipo De Cálculo Produce Lo Que Los Ingenieros Llaman Caja Negra Black Box. El Algoritmo De Aprendizaje Profundo Consiste En Millones De Parámetros Que Se Ajustan A Sí Mismos Durante El Entrenamiento. Al Final, Te Da Un Resultado Correcto Muchas Veces Pero Nadie, Ni Siquiera Quien Lo Diseñó, Puede Explicar Por Qué Tomó Esa Decisión Precisa. Y Aquí Golpea Con Un Ejemplo Impactante Que Aún Resuena En Los Tribunales Hasta Hoy: El Sistema COMPAS Usado En Tribunales Americanos Para Evaluar El Riesgo De Reincidencia Del Criminal. Este Sistema, Que Vende Una Empresa Privada, Decide Si Una Persona Debe Quedarse En La Cárcel O Salir Bajo Fianza Basado En Un Cálculo Misterioso. Y Cuando Periodistas De ProPublica Analizaron Sus Decisiones, Encontraron Que Tendía Sistemáticamente A Juzgar A Negros Como Más Peligrosos Que Blancos Incluso Cuando Sus Antecedentes Eran Similares. La Empresa Se Negó A Revelar Cómo Funciona El Algoritmo, Alegando Secretos Comerciales. Así Tuvimos Una Justicia Gobernada Por Una Máquina Racista Que No Puede Ser Interrogada.
Bridle Llama A Esta Nueva Forma De Poder Cálculo Sin Comprensión. Pasamos De Un Mundo Donde Las Decisiones Tenían Razones Que Se Podían Discutir A Un Mundo Donde Las Decisiones Son Resultados Estadísticos Que No Se Pueden Impugnar. Y Cuando El Cálculo Se Equivoca, Nadie Asume Responsabilidad.
Y Del Cálculo Pasa A La Complejidad Complexity, Que Es El Capítulo Casi Filosófico. Toma Prestada Una Idea De Biólogos: Que Algunos Sistemas Son Complejos Por Naturaleza Y No Solo Complejos Porque Aún No Los Entendimos. La Diferencia Es Sutil Pero Crucial. El Sistema Complejo No Es Una Máquina De Reloj Que Se Puede Desmontar Pieza Por Pieza Y Entenderse. Es Como El Clima O Como El Mercado De Valores O Como Una Gran Ciudad. Cada Parte Afecta A Las Otras De Formas No Lineales Y Aparecen Nuevas Propiedades A Nivel Del Todo Que No Se Pueden Predecir Estudiando Las Partes.
Y Presenta Un Ejemplo Asombroso De Su Mundo Como Artista. En 2014, Descubrió Que Había Videos En YouTube Hechos Completamente Por Algoritmos Para Niños, Personajes De Dibujos Animados Extraños Que Repiten Canciones Deforme, Que Cosechan Millones De Vistas. Estos Videos No Fueron Hechos Por Humanos Sino Por Algoritmos Que Intentan Satisfacer A Otro Algoritmo, El Algoritmo De YouTube Que Sugiere Videos. Algoritmo Hablando A Algoritmo En Un Lenguaje Que Ni Niños Ni Padres Entienden. Esta Es La Complejidad Real De La Red. El Humano Ya No Es El Único Usuario De Internet. Una Parte Enorme Del Tráfico De Datos Hoy Es Máquinas Hablando A Máquinas, Negociando, Vendiendo, Comprando, Engañándose Unas A Otras Y Nosotros En Medio Mirando Algo Que No Entendemos.
En La Cima De Este Entrelazamiento, Bridle Llega Al Capítulo Cognición Cognition, Donde Asesta Un Golpe Mortal Al Mito Más Popular De Nuestra Era: El Mito De La Inteligencia Artificial Superinteligente Que Será Como Nosotros O Más Inteligente Que Nosotros. Dice Bridle Que Caímos En Una Trampa Lingüística. Cuando Llamamos A Estos Sistemas Inteligentes, Imaginamos Que Piensan Como Nosotros Pero Mejor. La Verdad Es Que La Inteligencia No Es Una Cosa Única Sino Un Amplio Espectro De Formas De Existir En El Mundo. La Inteligencia Del Pulpo Es Completamente Diferente De La Inteligencia Del Cuervo Y La Inteligencia Del Cuervo Es Diferente De La Inteligencia Humana Y La Inteligencia Humana Misma No Es Central Solo En El Cerebro Sino Distribuida En El Cuerpo Y La Cultura Y Las Herramientas.
Y Nos Lleva A Un Experimento Famoso Realizado Por Los Psicólogos Rosenthal Y Jacobson En Los Sesenta: Dijeron A Maestros Que Algunos Estudiantes En Su Clase Eran Genios Mientras Esos Estudiantes Eran Completamente Normales. Y Después De Un Año, Encontraron Que Esos Estudiantes Realmente Mejoraron Su Rendimiento De Forma Asombrosa Porque Los Maestros Los Trataron Como Si Fueran Inteligentes. Esto Es Lo Que Se Llama Efecto Pigmalión. Bridle Dice Que Hacemos Lo Mismo Con Las Máquinas. Las Llamamos Inteligentes Y Empezamos A Tratarlas Como Si Fueran Inteligentes Y Les Damos Una Autoridad Que No Merecen.
Luego Nos Muestra Investigaciones Recientes Sobre Inteligencia De Animales Y Plantas. El Árbol De Haya Se Comunica Con Otros Árboles A Través De Una Red Fúngica Bajo Tierra, Les Envía Nutrientes Y Les Advierte De Insectos. El Pulpo Resuelve Problemas Complejos Con Sus Ocho Brazos Que Contienen Cada Uno Un Pequeño Cerebro Independiente. Estas Son Formas De Cognición Descentralizada, Distribuida, Cooperativa, Que No Se Parece En Nada Al Modelo De Cerebro Central Sobre El Que Construimos Nuestras Computadoras. Cuando Insistimos En Que La Inteligencia Es Lo Que Hacen Nuestras Computadoras, No Elevamos A Las Computadoras Sino Que Rebajamos Todas Las Otras Formas De Inteligencia En El Planeta, Incluida La Nuestra.
La Conclusión A La Que Llega Bridle En Esta Trilogía Es Pesada: Usamos Un Cálculo Que No Entendemos Para Construir Sistemas Complejos Que No Se Pueden Controlar Y Luego Llamamos Al Resultado Inteligencia Y Le Entregamos Las Riendas. Esto No Es Progreso Técnico Sino Renuncia Cognitiva. Dejamos De Intentar Entender Y Nos Conformamos Con Obtener Resultados. Y Si La Primera Edad Oscura Se Caracterizó Porque La Gente Creía En Lo Que No Entendía Porque Los Sacerdotes Se Lo Decían, La Nueva Edad Oscura Se Caracteriza Porque La Gente Cree En Lo Que No Entiende Porque El Algoritmo Se Lo Dijo. La Única Diferencia Es Que El Nuevo Sacerdote No Sabe Él Mismo Por Qué Dijo Lo Que Dijo.
En 2010, Un Joven Ingeniero Se Sentó En Una Linda Oficina En Silicon Valley Escribiendo Una Línea De Código. Trabajaba En Mejorar Un Algoritmo Para Sugerir Videos En YouTube. Estaba Feliz, Su Salario Era Generoso Y Su Oficina Ofrecía Café Gratis. Al Mismo Tiempo, A Miles De Kilómetros, En Una Base Militar En Nevada, Un Piloto Se Sentaba En Un Contenedor Climatizado, Miraba Una Pantalla Y Apretaba Un Botón Y Mataba A Una Persona En Waziristán Que Nunca Había Visto En Su Vida, Basado En Datos Recogidos Por La Misma Infraestructura Que El Ingeniero Mejoraba. Esta No Es Una Historia Ficticia Sino La Estructura Real Del Mundo Hoy Y Es Lo Que James Bridle Llama En El Sexto Capítulo Complicidad Complicity.
La Complicidad, Para Bridle, No Es Que Seas Una Persona Mala Que Hace Cosas Malas, Sino Que Seas Una Persona Normal Trabajando Dentro De Un Sistema Tan Complejo Que No Puedes Ver Los Resultados De Tu Trabajo. Esta Es La Lección Más Amarga En La Nueva Edad Oscura. Ya No Hay Necesidad De Villanos Con Rasgos Claros. Basta Con Tener Una Enorme División Del Trabajo Y Abstracción De La Información Para Que Todos Seamos Cómplices Sin Saberlo. Bridle Nos Lleva A Silicon Valley Para Desmontar El Mito Del Programador Inocente. Cuenta Cómo Empresas Como Google Y Facebook Y Palantir Construyeron Herramientas De Análisis De Big Data Con La Excusa De Organizar El Mundo Y Hacerlo Más Abierto Y Luego Vendieron Las Mismas Herramientas A La Agencia De Seguridad Nacional Y Al Departamento De Defensa Americano Y A Agencias De Inmigración. Los Empleados Que Diseñaron Herramientas Para Buscar Terroristas Se Encontraron Diseñando Herramientas Para Perseguir A Migrantes Y A Sus Hijos En La Frontera. Y Cuando Algunos Protestaron, Se Les Dijo Que Eran Solo Herramientas Neutrales Y Que Su Uso No Era Su Responsabilidad.
Pero Bridle Va Más Allá De Culpar A Empresas. Dice Que La Complicidad Está Construida En La Infraestructura Misma. El Servidor De Datos Que Guarda Fotos De Tu Gato Es El Mismo Que Guarda Fotos De Vigilancia Masiva. El Cable De Fibra Óptica Que Transmite Una Videollamada A Tu Abuela Es El Mismo Que Transmite Órdenes De Drones. No Puedes Separar El Buen Uso Del Mal Uso Porque El Sistema Está Diseñado Para Ser Invisible E Inseparable. Y Esto Crea Un Nuevo Tipo De Impotencia Moral. Incluso Si Quisieras Ser Puro, No Puedes. Solo Tener Un Teléfono Inteligente Te Hace Parte De Una Cadena De Suministro Que Incluye Minas De Cobalto En Congo Donde Trabajan Niños Y Fábricas De Ensamblaje En China Y Vertederos De Basura Electrónica En Ghana. La Complicidad Ya No Es Una Opción Sino Una Condición Existencial.
Y De Este Pesado Sentimiento De Complicidad E Impotencia Nace El Siguiente Capítulo Más Oscuro: La Conspiración Conspiracy. Si El Capítulo Anterior Dice Que El Sistema Es Tan Complejo Que Nadie Lo Controla, El Capítulo De Conspiración Dice Que Nuestras Mentes No Pueden Soportar Esta Idea. El Humano Es Un Ser Que Busca Historia, Causa, Autor. Cuando Se Enfrenta A Un Sistema Complejo Sin Rostro, Inventa Un Rostro Para Él. Y Esto Es Exactamente Lo Que Hace Internet.
Bridle Vuelve Al Incidente Famoso De Pizzagate En 2016, Cuando Un Hombre Americano Se Convenció De Que Una Pizzería En Washington Era Fachada De Una Red De Prostitución Infantil Dirigida Por Demócratas Y Llevó Su Arma Para Liberar A Los Niños. El Hombre No Era Loco En El Sentido Clínico Sino Lógico De Forma Trágica. Estaba Aplicando La Misma Metodología Que Internet Le Pide Cada Día: Conecta Los Puntos, Busca En Los Datos, Descubre El Patrón Oculto. El Problema Es Que Internet Te Provee Un Número Infinito De Puntos Para Conectar. Cualquier Dos Correos Filtrados Y Una Foto De Un Restaurante Y Un Tweet De Un Político Pueden Convertirse En Prueba Contundente Si Quieres Que Lo Sean.
Bridle Argumenta Que Las Teorías De Conspiración No Son Un Fallo En Internet Sino Un Producto Natural De Su Lógica. El Motor De Búsqueda Google Funciona Bajo El Principio De Que Todo Está Conectado Con Todo Y Que Lo Más Conectado Es Lo Más Verdadero. YouTube Funciona Bajo El Principio De Que Si Viste Un Video Sobre Tierra Plana, Verás Otro Video Más Extremo Para Mantenerte En La Plataforma. Esto No Es Una Conspiración De Google Sino Una Conspiración Sin Conspiradores, Una Conspiración Que Aparece Automáticamente De La Interacción De Algoritmos Que Quieren Aumentar Interacción Y Humanos Que Quieren Una Explicación Simple Para Un Mundo Complejo.
Y Lo Más Peligroso Es Que Bridle Nos Muestra Cómo El Discurso Mismo Contra Las Teorías De Conspiración Se Ha Convertido En Parte Del Problema. Cuando Decimos A La Gente Que Cree En Una Teoría De Conspiración, Usamos El Mismo Lenguaje De La Conspiración: Hay Una Verdad Oculta Que Saben Los Expertos Y Ustedes Ignorantes No Saben. Esto Refuerza La Sensación De Que Hay Una Élite Que Oculta La Verdad. La Solución, Como Propone Bridle, No Es Más Corrección Y Refutación De Hechos, Porque La Refutación Asume Que El Problema Es Falta De Información Mientras El Problema Es Abundancia De Información Sin Contexto Y Sin Confianza. La Confianza Es Lo Que Colapsó, No La Información.
Luego Viene El Capítulo Noveno, Concurrencia Concurrency, Que Parece Técnico Pero En Realidad Es Sobre El Tiempo Mismo. La Palabra Concurrencia En Ciencias De La Computación Significa Que Muchas Cosas Ocurren Al Mismo Tiempo. Nuestra Vida Hoy Es Concurrente Como Nunca Antes. Miles De Videos Se Transmiten En Vivo Ahora, Millones De Conversaciones Ocurren En El Mismo Momento, Los Algoritmos De Trading Venden Y Compran En Una Fracción De Segundo. Bridle Nos Lleva Al Mundo De La Transmisión En Vivo En Facebook Y YouTube, Donde La Gente Transmite Sus Vidas Y Sus Muertes En Tiempo Real. Cuenta Una Historia Inquietante Sobre Un Sitio De Transmisión En Vivo Que Usaban Adolescentes Para Transmitir Momentos De Suicidio Mientras El Algoritmo Del Sitio Sugería El Video A Otros Porque Lograba Alta Visualización.
La Concurrencia Destruye Nuestra Capacidad De Pensamiento Histórico. Cuando Todo Sucede Ahora, El Pasado Se Vuelve Irrelevante Y El Futuro Inimaginable. Vivimos En Un Presente Perpetuo, Un Presente Plano, Donde Un Tweet De 2012 Puede Aparecer Junto A Una Noticia De Última Hora Y Ambos Tienen El Mismo Peso. Este Presente Perpetuo Es Lo Que Hace Imposible Planificar El Futuro, Ya Sea Futuro Climático O Futuro Democrático. ¿Cómo Puedes Planificar Para Cincuenta Años Cuando Tu Pantalla Te Pide Responder En Cinco Segundos?
Bridle Cierra Esta Trilogía Sombría Con Una Idea Unificada: La Complicidad Nos Hace Culpables Sin Saberlo, La Conspiración Nos Da Una Historia Falsa Para Justificar Nuestra Culpa Y La Concurrencia Nos Impide Detenernos Y Pensar En La Historia Verdadera. Giramos En Un Círculo Vicioso De Acción Incomprendida, Interpretación Errónea Y Respuesta Inmediata. Y Este Es El Corazón De La Nueva Edad Oscura, No Que No Tengamos Luz Sino Que Tenemos Demasiadas Luces Brillantes Parpadeantes Que Nos Cegan Para Ver La Oscuridad Que Creamos Con Nuestras Propias Manos.
En Verano De 2015, Un Barco Extraño Se Paró Frente A Las Costas De Marsella Francesa Arrastrando Detrás Un Paquete De Cables Gruesos Como Brazo De Hombre. En La Playa, Obreros Con Cascos Naranjas Cavaban Una Zanja En La Arena. Ninguno De Los Transeúntes Sabía Que Lo Que Sucedía Era El Nacimiento De Una Pequeña Parte De La Nube. Era El Nuevo Cable Marino SEA-ME-WE 5 Que Conecta Europa Con Medio Oriente Y Asia, Pasando Por Egipto Que Está En La Encrucijada De Casi Todos Los Cables Del Mundo. Esta Imagen Es Con La Que Bridle Cierra Su Libro En Su Último Capítulo, El Capítulo De La Nube Cloud, Para Demoler Totalmente Nuestra Última Ilusión Sobre Este Mundo Digital Ligero.
Vivimos En Egipto Y Pasamos Diariamente Junto A Esta Infraestructura Sin Verla. En Abu Telat En Alejandría Y En Zaafarana En El Mar Rojo, Los Cables Salen Del Mar Y Entran En Pequeños Edificios Sin Ventanas, Rodeados De Muros Altos Y Cámaras. Estos Son Los Puntos Donde Internet Toca Tierra Y Esta Es La Nube Real. No Es Blanca Ni Suave Sino Cobre Y Acero Y Plástico Y Acuerdos Internacionales Complejos Y Derechos De Paso Y Amenazas Geopolíticas. Cuando Un Barco Corta Accidentalmente Un Cable En El Mediterráneo, Como Ha Sucedido Varias Veces, Internet Se Ralentiza En India Y Pakistán. Cuando El Gobierno Egipcio, Como Hizo En Enero De 2011, Decide Apagar Internet, No Apaga Una Nube En El Cielo Sino Interruptores Eléctricos En Habitaciones Específicas.
Bridle Nos Lleva En Un Tour Global Para Rastrear El Cuerpo De La Nube. Va A Centros De Datos En Oregón Americano, Donde Cada Sala De Servidores Consume De Electricidad Lo Que Consume Un Pueblo Pequeño Y Donde Su Enfriamiento Requiere Millones De Galones De Agua. Va A Minas De Litio En Chile De Las Que Se Hacen Baterías De Nuestros Teléfonos Y A Minas De Cobalto En República Democrática Del Congo. Va Al Vertedero Agbogbloshie En Ghana, Donde Niños Queman Cables De Cobre De Computadoras Viejas Para Extraer Metales E Inhalan Humo Tóxico. La Nube Tiene Peso, Tiene Calor, Tiene Olor A Humo. Y Cuando La Llamamos Nube, Hacemos Un Lavado Lingüístico, La Limpiamos De Su Sangre Y Su Polvo.
Pero El Último Capítulo No Es Solo Una Revelación Material Sino Un Intento De Responder A La Pregunta Que Dejó Pendiente Todo El Libro: Si Estamos En Una Nueva Edad Oscura, ¿Cómo Salimos De Ella? Bridle Rechaza Totalmente Soluciones Técnicas Fáciles. No Nos Dice Borren Facebook Ni Dice Regulen Internet Con Más Leyes. Dice Que El Problema Es Más Profundo Y Está En Nuestra Forma Misma De Pensar. Heredamos De La Era De La Ilustración La Idea De Que El Conocimiento Es Acumulación De Hechos Y Que La Verdad Se Puede Reducir A Datos Y Que Comprender Significa Capacidad De Predecir Y Controlar. Esta Idea Es La Que Construyó La Nube Y Es La Misma Que Nos Hace Impotentes Ante Ella.
Propone En Cambio Lo Que Llama Alfabetización Sistémica Systemic Literacy. No Alfabetización Digital En El Sentido De Aprender Programación Sino Alfabetización De Nuevo Tipo: La Capacidad De Ver Sistemas, De Entender Interconexiones, De Pensar De Forma Ecológica Y No De Forma Automática. Da Un Ejemplo De Biología Otra Vez. Cuando Miramos Un Bosque, No Vemos Árboles Separados Sino Un Ecosistema, Una Red De Relaciones Entre Árboles Y Hongos Y Animales Y Suelo Y Clima. No Intentamos Controlar El Bosque Sino Entenderlo Y Vivir Dentro De Él. ¿Por Qué No Miramos Nuestra Red Técnica De La Misma Forma?
Esto Requiere Lo Que Llama Nueva Estética New Aesthetic, Que Es Un Término Que Acuñó Bridle Mismo Hace Años Y Quiere Decir Hacer Visible Lo Invisible. Empezar A Ver Los Píxeles Y Ver Los Cables Y Ver Los Algoritmos Mientras Trabajan. Dibujar Nuevos Mapas Que No Oculten La Complejidad Sino Que La Revelen. Menciona Un Proyecto Artístico Que Hizo, Donde Puso Un Coche Autónomo En Un Estacionamiento Y Dibujó Alrededor Líneas Blancas Similares A Las Que Ve El Coche Para Mostrar Cómo Ve La Máquina El Mundo. El Resultado Fue Que El Coche Se Confundió Y Se Detuvo. Cuando Hicimos Visible Su Visión Para Nosotros, Revelamos Sus Límites.
Y Bridle Cierra Su Libro Volviendo A Virginia Woolf Y Su Llamado A Pensar. Dice Que La Salida De La Edad Oscura No Es Con Más Luz Sino Aprendiendo A Ver En La Oscuridad. La Oscuridad Aquí No Es Ignorancia Sino Reconocimiento De Los Límites Del Conocimiento, Es Humildad Ante La Complejidad. Cita Del Libro De La Nube Mística Otra Vez: No Puedes Penetrar La Nube Con Conocimiento Sino Con Amor. Y El Amor Aquí No Es Emoción Romántica Sino Práctica, Es Cuidado, Es Atención, Es Reconocimiento De Que Estamos Interconectados Y Que Nuestras Acciones Tienen Consecuencias Que No Vemos.
Al Final De La Larga Reseña De Este Libro Que No Se Parece A Ningún Otro Libro Sobre Tecnología, Entendemos Que James Bridle No Escribió Un Libro Sobre Tecnología En Absoluto. Escribió Un Libro Sobre El Humano En El Siglo Veintiuno. Un Libro Que Nos Dice Que El Futuro Que Nos Prometieron, Futuro De Progreso Lineal Y Control Total Y Ciudades Voladoras, Ha Terminado. No Porque Fallamos En Construirlo Sino Porque Lo Construimos Y Descubrimos Que No Se Puede Vivir En Él. El Futuro Ahora No Es Un Destino Al Que Llegamos Sino Algo Que Fabricamos Cada Día A Través De La Forma En Que Elegimos Ver Y Pensar E Interconectarnos.
La Fuerza Del Libro Nueva Edad Oscura Radica En Que No Te Deja Con Sentimiento De Desesperanza A Pesar De Su Sombría Oscuridad. Sino Te Deja Con Sentimiento De Responsabilidad. Después De Leer Cinco Mil Palabras En Su Reseña Y Mil Páginas De Sus Ideas, Ya No Puedes Mirar Tu Teléfono De La Misma Forma. Verás Detrás De Su Pantalla Brillante Los Cables En El Fondo Del Mar Y Los Centros De Datos Que Consumen Ríos Y Los Trabajadores De Minas Y Los Niños Que Ven Videos Hechos Por Máquinas Para Máquinas Y Los Modelos Climáticos Que Intentan Decirnos Que Nos Quemamos Mientras Estamos Ocupados Desplazándonos Hacia Abajo. Verás La Nube Finalmente Como Es Realmente: No En El Cielo Sino Aquí, Entre Nuestras Manos, Pesada, Material Y Oscura. Y Nuestra Tarea No Es Disiparla Sino Aprender Cómo Vivir Bajo Su Sombra Y Cómo Encender Pequeñas Lámparas, Juntos, Para No Perdernos Completamente En Esta Nueva Oscuridad Que Creamos Nosotros Mismos.
