Continuando con el tema de la semana (que sin querer queriendo) fue “cuidado con buscar ser 100% eficiente”, Matt Duffy publica “Eficiencia sin moralidad es tiranía”, primero reconociendo que llegamos a este punto porque lo necesitábamos:

La tecnocracia —la adopción de una lógica social donde la experiencia técnica dicta las decisiones, impulsando la eficiencia, la optimización y la reducción de realidades complejas a resultados mensurables— surgió porque la necesitábamos. A medida que las sociedades escalaban, necesitábamos coordinación, optimización y reducción de desperdicios. Los líderes técnicos cobraron relevancia; «aprender a programar» se convirtió en la abreviatura de toda una cosmovisión que valoraba la habilidad técnica por encima de las actividades más superficiales en las artes y las humanidades. «Seguir la ciencia» se convirtió en una apelación a la autoridad, en lugar de un verdadero llamado al rigor científico.

Pero si, en la búsqueda interminable de mayor eficiencia, dejamos de lado la moralidad (preguntarnos si deberíamos hacer algo antes de simplemente hacerlo porque se puede), las cosas se pueden poner (ya se pusieron) feas: 

En ausencia de un orden moral compartido, la tecnocracia lo sustituye por uno económico frío. Clasifica a las personas en categorías productivas e improductivas. Ni siquiera nuestras mejores redes de seguridad pueden deshacer esta clasificación, porque la tecnocracia no castiga, sino que olvida. No le importa quién eres, solo lo que produces.

Esta clasificación implacable, esta reducción de individuos complejos a meros agregados de datos, no solo describe la realidad, sino que la moldea activamente, convirtiéndose en un combustible principal para el corrosivo identitarismo negativo que desgarra nuestro tejido social. Cuando los sistemas dominantes de trabajo, gobierno e interacción solo reconocen afiliaciones grupales o grupos estadísticos, las personas aprenden que el camino para ser vistos, para obtener influencia o recursos, reside únicamente en enfatizar la identidad grupal. Esto incentiva la formación de tribus definidas tanto por a quién se oponen como por a quién apoyan, exigiendo que los individuos eleven ferozmente la relevancia de su grupo, a menudo en detrimento de todos los demás. La identidad deja de ser una cuestión de pertenencia orgánica para convertirse en una postura estratégica, a menudo adversaria, que nos impone un sistema ciego a la persona.

Un peligro latente es que comencemos a buscar respuestas sobre nuestra identidad en el mismo sistema de que nos reduce a estadísticas:

No temo simples disrupciones en nuestras vidas, como que la IA ocupe puestos de trabajo. Habrá más trabajos por hacer. Temo que reemplace nuestras identidades y nuestro juicio. Será la última autoridad a la que recurriremos al integrarnos plenamente con la máquina.

En How Economics Explains the World, Andrew Leigh menciona un punto importante y relacionado con el movimiento de los Luditas (que he mencionado antes): con la automatización de la industria textil, en realidad la tasa de empleo subió 10% de 1811 a 1821. Probablemente vayamos a ver algo similar en los siguientes años.

No se trata de pánico. La IA puede ser una herramienta humana fundamental, o puede reemplazarnos por completo. Si continuamos por el camino de la primacía tecnocrática, la IA se convierte en nuestra sucesora natural. No porque nos esclavice, sino porque nos supera en un sistema optimizado para una producción limpia y eficiente. Un mundo que ve a los humanos como insumos ineficientes es un mundo que eventualmente dejará de necesitarlos y, en el mejor de los casos, simplemente los tolerará.

Matt argumenta que el antídoto es hacer las cosas más a conciencia — es decir, ser ineficientes:

La única respuesta viable es establecer un nuevo orden predominante que supere la eficiencia. Debemos acordar un marco moral que guíe nuestras decisiones económicas y sociales. Esto no significa revivir dogmas excluyentes ni imponer la uniformidad. Significa recuperar la seriedad moral, algo arraigado en la comprensión de que los humanos son imperfectos y que el proyecto de vivir bien se basa en el fracaso continuo, el perdón y el crecimiento. Si esto suena a tradición, no es casualidad. Los ciclos de fracaso y crecimiento son ciclos ineficientes; trazan un camino sinuoso y desordenado entre dos puntos. Por eso la tecnocracia odia el proceso humano.

Hoy más que nunca, tenemos que luchar por preservar lo que nos mantiene humanos. La eficiencia pura es un camino insostenible.