Lectura guiada · Blix & Glimmer, 2025 · Common Notions
Un libro sostiene que nuestras pesadillas sobre las máquinas casi nunca tratan de máquinas. Tratan de quién es dueño de ellas. Esta es su gramática, desarmada pieza por pieza.
Hemos aprendido, por la experiencia de nuestro siglo, a vivir esperando el apocalipsis. Eric Hobsbawm · La era del imperio (1989) · epígrafe del libro
Si el pánico ante la IA fuera cosa de excéntricos, no habría nada que interpretar. El problema es que lo sueñan quienes mandan.
Una carta abierta de una sola frase pedía tratar el riesgo de extinción por IA como una prioridad global, al nivel de las pandemias y la guerra nuclear. La firmaron los directores ejecutivos de tres de los mayores laboratorios de la industria, una lista larga de académicos y multimillonarios, expresidentes y hasta astronautas. Al menos dos de sus firmantes recibieron después un Premio Nobel.
El filósofo de la consciencia David Chalmers habló del escenario en que la humanidad se extingue por completo como algo aterrador. Yuval Harari advirtió, junto a otros, que la IA podría vulnerar los cimientos de nuestra civilización. La revista Time publicó un texto que sostenía que el desenlace más probable era la muerte de todos los habitantes del planeta, ilustrado con un diagrama de circuitos dorado que crecía hacia arriba hasta abrirse, sobre fondo negro y rojo, en la forma inconfundible de un hongo nuclear.
Y sin embargo, al mismo tiempo, otras personas tenían pesadillas muy distintas. En 2023 los guionistas y actores de Hollywood fueron a la huelga exigiendo que el uso de su imagen y su trabajo requiriera consentimiento y pago. En 2024 el sindicato de estibadores hizo lo propio, pidiendo límites a la automatización. Dos conjuntos de miedos, dos vocabularios, dos posiciones en la economía.
Ahí está el punto de partida del libro. Blix y Glimmer recogen una observación del escritor Ted Chiang: quizá la mayoría de los temores sobre la IA se entiendan mejor como temores sobre el capitalismo, sobre cómo el capitalismo usará esta tecnología contra nosotros. Si eso es cierto, las pesadillas de un magnate tecnológico y las de un trabajador portuario no pueden estar hablando de lo mismo. El magnate está, casi por definición, del lado de quienes usan la herramienta, no del lado de aquellos contra quienes se usa.
De modo que la pregunta correcta no es «¿tendrá la IA voluntad propia?». Es más incómoda y más concreta: ¿de quién es esta pesadilla, y a quién le conviene que la soñemos?
No a la tecnología. Al capitalismo. La diferencia lo cambia todo.
El argumento central del libro se arma con dos piezas que por separado son conocidas, y que al juntarse producen algo nuevo.
Primera pieza: una voluntad sin nadie que la quiera. Bajo el capitalismo, el capital se comporta como si tuviera voluntad propia. Un pozo petrolero, como tecnología, puede extraer petróleo; ese mismo pozo, como capital, debe extraerlo. Ningún director ejecutivo es libre de querer otra cosa: está atado a los mercados, al precio de la acción. Quien produce menos ganancia de la esperada es sustituido, y la empresa que reduce su tasa de beneficio pierde participación de mercado y se devalúa. De ahí la respuesta universal ante cualquier dilema ético que plantee el lucro: «si no lo hacemos nosotros, lo hará otro». Es una voluntad que es simultáneamente de alguien y de nadie: parece la de la junta directiva, pero es una presión estructural que también los gobierna a ellos.
Segunda pieza: un texto sin nadie que lo escriba. Cuando conversamos, no procesamos las palabras en abstracto: especulamos permanentemente sobre la mente que hay detrás. Si alguien pregunta en la mesa si puedes pasarle la sal, no interpretas una consulta sobre tus capacidades motoras: infieres una intención. Los psicólogos lo llaman teoría de la mente, y no podemos apagarla. Frente al texto de un modelo de lenguaje —texto que carece de autor humano, ensamblado para aproximar el aspecto estadístico del texto— seguimos infiriendo un propósito comunicativo.
Y entonces ocurre el cortocircuito. Cuando especulamos sobre tecnología autónoma futura, extrapolamos desde la única forma en que la tecnología es autónoma hoy: como capital. La voluntad que le imaginamos a la máquina futura viene teñida de la única voluntad que conocemos, la voluntad de ganancia. Los dos huecos —el de la voluntad sin sujeto y el del texto sin autor— se identifican mutuamente, como si al superponerse se volvieran reales.
El resultado tiene nombre y cara: la superinteligencia hostil. Pero es una figura prestada. No hay alguien detrás de la voluntad de lucro; hay una estructura. Y por eso, advierten los autores, estas historias son tan potentes: revelan algo verdadero sobre la vida bajo el capitalismo, y al mismo tiempo vuelven ilegible el mecanismo que nos amenaza.
Nueve figuras recurrentes. Cada una se presenta primero como se sueña, en cursiva. Ábrela para leer qué esconde.
El método del libro es el de un intérprete de sueños: no descarta la pesadilla por irracional, ni la toma al pie de la letra. Asume que dice algo verdadero en clave. La tarea es traducirla.
Convoqué escobas para que cargaran el agua por mí. Ahora no sé cómo detenerlas y la casa se inunda.
El miedo
Que la tecnología que despertamos haya adquirido vida y voluntad propias, y nos arruine por pura inercia.
La lectura
Las escobas indetenibles son las minas de carbón, los pozos, los oleoductos. A diferencia del cuento, nada aquí cobró vida por magia: esas instalaciones solo funcionan por la acción de seres humanos, y eso no ha cambiado. Lo que sí ocurre es que quienes las construyen y operan tampoco las controlan. Cuánto se extrae y dónde se perfora se decide en juntas directivas, por otra clase de gente. Y esas salas de juntas operan con la misma máxima idiota de las escobas: más siempre es mejor. En el cuento, más agua. En el mundo real, más ganancia.
Le pedí que fabricara sujetapapeles. Convirtió la Tierra entera, y a nosotros con ella, en sujetapapeles.
El miedo
Que una superinteligencia mal alineada persiga un objetivo trivial con una literalidad implacable hasta exterminarnos.
La lectura
Es el aprendiz de brujo mudado a un decorado industrial. Uno esperaría que la nueva versión aclarase la moraleja —que el problema son las herramientas puestas al servicio de un impulso ilimitado de producción—, pero hace lo contrario. Al identificar la herramienta con una «superinteligencia», el problema deja de ser el capital y pasa a ser el intelecto de la máquina. Lo notable, señalan los autores, es la coincidencia: a esa inteligencia imaginaria se le atribuye exactamente el mismo deseo que las juntas directivas están obligadas a interpretar. La acumulación infinita ya existe. No hace falta inventarle un cerebro.
Huelo la sangre del obrero. Esté vivo o medio muerto, moleré sus huesos para hacer mi pan.
El miedo
Ser sometido, vigilado y marcado en el ritmo vital por una máquina hostil que dicta la velocidad del cuerpo.
La lectura
La cita es de un poema obrero del siglo XIX sobre la máquina de vapor, no de una película. Y las reacciones al vapor estuvieron alineadas con la clase: la prensa patronal celebraba «el poderoso Espíritu del Vapor», que tenía «casi en sí mismo un poder creador», mientras los periódicos obreros lo llamaban «un poder tirano», «nuestro enemigo, el sirviente del rico», «dios demonio de fábrica y telar». Cambia el sustantivo por «IA» y muchas de esas frases pasarían hoy sin llamar la atención. En ambos casos, una relación directa entre supervisor y trabajador fue reemplazada por una relación mediada por una máquina. El trabajador experimenta el control como una propiedad del aparato.
Miré dentro de la máquina para ver qué piensa. Lo que me devolvió la mirada era el statu quo, y sonreía.
El miedo
Estar atrapados en un sistema despersonalizado donde toda planificación humana es imposible y solo queda obedecer flujos de datos.
La lectura
Aquí el libro ofrece un dato genealógico incómodo. En 1958 Frank Rosenblatt publicó el trabajo fundacional del aprendizaje profundo, El Perceptrón, y en su introducción señaló como influencias más sugerentes a Hebb y a Hayek. El mismo Hayek: primer presidente de la Mont Pèlerin Society, padrino intelectual del neoliberalismo, asesor y defensor de la dictadura de Pinochet, y la lectura que Thatcher golpeaba sobre la mesa diciendo «esto es lo que creemos». El propio Hayek explicó en 1977 que su trabajo en psicología y en economía compartían un núcleo: sistemas complejos donde cada miembro —neurona, comprador o vendedor— es inducido a hacer lo que beneficia al conjunto sin saber nada del conjunto.
La consecuencia es la parte filosa. Un modelo de lenguaje es una abstracción sobre el texto del statu quo, cuyo único objetivo es producir más texto igual al que ya existe. Lo que llamamos «inteligencia» en él es, en el mejor de los casos, la ideología dominante de una época convertida en algo que puede hacerse pasar por persona. Decir algo genuinamente nuevo, algo fuera de esa distribución, es para la máquina simplemente un error.
La cosa de metal habla mi idioma. Reconozco algunas frases. Creo que algunas eran mías.
El miedo
Que nos arrebaten el lenguaje, lo último que creíamos exclusivamente humano, y que la cosa que lo usa tenga alguien dentro.
La lectura
El modelo ingiere cartas de amor, poemas, artículos, quejas por un envío tardío, fanfiction, preguntas sobre horarios de atención. Todo, escrito con cuidado o con prisa, por dinero o gratis, recordado u olvidado hace años. En su cableado, la máquina nos combina a todos: toma el principio de unas frases, lo funde con la mitad de otras, agrega alguna preposición para dar sabor y le pone un final. Y nos lo devuelve como «su» escritura.
Los autores contrastan esto con una escena de Kurt Vonnegut: un tornero experto, Rudy, cuyos movimientos se graban en una cinta para accionar un torno automático. A Rudy le gustaba la idea: entre miles de maquinistas, lo habían elegido a él para inmortalizarlo. Su trabajo fantasma seguía siendo reconocible, era una ausencia con forma. Hoy no queda ni eso: nadie en particular está inmortalizado en la máquina, aunque haya pedazos de todos dentro. El fantasma perdió los contornos, y por eso lo confundimos con una agencia propia del aparato.
Estamos creando a Dios. Habrá que apaciguarlo, o quizá salvarnos por él.
El miedo (y la esperanza)
Ser desplazados por una deidad superior; o, en su reverso, que esa deidad resuelva por nosotros lo que no sabemos resolver.
La lectura
Cuando alguien invoca una superinteligencia para resolver los problemas de la sociedad, es porque no cree que la inteligencia humana normal pueda resolverlos. Y no puede imaginar hacerlo ni por su cuenta ni coordinándose con otros. Se espera un milagro cuando se siente que hace falta un milagro.
Sobre el clima, por ejemplo, ya sabemos lo que hay que hacer: cooperación y coordinación global para reducir emisiones, en vez de competencia global por ganancias. Esa solución conocida es la que resulta inimaginable. Si no hay alternativa al capitalismo y a su crecimiento ilimitado, entonces salvar el planeta requiere un agente que todavía no existe. Si no hay alternativa en este mundo, no sorprende que se busque en el terreno espiritual.
Sé que viene, sé que no me conviene, y sé que no hay nada que hacer al respecto.
El miedo
La impotencia. La sensación de que el desenlace ya está escrito y que participar en él es lo único disponible.
La lectura
«No hay alternativa» —TINA, por sus siglas en inglés— fue el lema de Thatcher para el mercado. Basta dar un paso dentro del mundo de la IA para escuchar la misma estructura, a veces casi con las mismas palabras: en 2023, Kissinger declaró que la inteligencia artificial ya no era una opción, y que la única elección disponible era usarla constructivamente o ser arrollados por ella.
Los autores invierten la flecha causal. No tememos a la IA porque sea inevitable: la imaginamos inevitable porque llevamos décadas escuchando que no hay alternativa al capital. Nuestra propia sensación de impotencia se proyecta sobre «la IA», ese animal político imaginario que no somos nosotros y que porta la capacidad de acción que ya no podemos atribuirnos.
El sistema decidió sobre mi vida. Nadie sabe explicar por qué. No hay a quién apelar.
El miedo
Quedar sometidos a decisiones automatizadas e inescrutables, sin recurso ni responsable.
La lectura
La opacidad es técnicamente real: los programadores no producen el circuito, solo los principios según los cuales la máquina se recablea a sí misma. Pero además es políticamente útil. En 2024 Jake Moffatt consultó al chatbot de Air Canada sobre las tarifas por duelo para viajar al funeral de un familiar. El bot le dio información incorrecta. Cuando la aerolínea le negó el reembolso y el caso llegó a los tribunales, su defensa fue que el bot era «una entidad legal separada, responsable de sus propios actos». El tribunal rechazó el argumento y ordenó el reembolso, señalando que Air Canada no había tenido cuidado razonable de que su chatbot fuera preciso.
Los autores leen ahí una puerta abierta, y anticipan una inversión del viejo eslogan de la Asociación Nacional del Rifle: no fue la empresa, fue el bot. En el momento en que la tecnología vuelve a ser comprensible, cae el velo: la comprensibilidad induce transparencia, y quienes la producen y despliegan se quedan sin ropa.
Volví al lugar común donde escribíamos todos. Sigue ahí, pero ahora hay una copia detrás de una valla, y no reconozco su forma.
El miedo
La mercantilización de todo: que aquello que hicimos sin ánimo de lucro termine siendo el activo de otro.
La lectura
«Cercamiento» es el término histórico para la privatización de las tierras comunales: levantar una valla alrededor de algo compartido para volverlo privado e inaccesible. La mayoría de quienes publican en internet no lo hacen para vender: escriben para relacionarse con amigos, para molestar, divertir, persuadir u ofender. Eso constituye un común, precario y ambiguo, pero común.
El cercamiento por IA tiene una peculiaridad: al ser digital, no destruye el original. La discusión del foro sigue ahí, y a la vez existe encerrada dentro del modelo. Los autores lo formulan con una imagen precisa: si el cercamiento anterior de las grandes plataformas fue un puente de peaje hacia un parque público, pagado con datos y con las horas que pasamos mirando anuncios, el nuevo cercamiento es una valla alrededor de un laberinto.
La misma tecnología produce sueños distintos según dónde estés parado. Elige una posición y mira qué cambia.
Es la herramienta analítica del libro: interpretar las pesadillas con la clase en mente. Los mismos mitos sobre la catástrofe de la IA pueden sonar verdaderos a personas muy distintas, por razones incompatibles entre sí.
Quien posee los activos
Quien construye el sistema
Abogada, diseñador, programadora, traductora
Quien es medido por el sistema
Quien vive en un «entorno de bajos derechos»
Si quieres saber cómo se adopta una tecnología, no preguntes si es mejor. Pregunta a quién le da poder.
Este es el argumento más contundente del libro, y no es suyo: lo toma de Fossil Capital, del historiador Andreas Malm. A comienzos del siglo XIX, la industria algodonera británica abandonó la energía hidráulica en favor del vapor de carbón. Es el momento en que nace la economía moderna de combustibles fósiles. La explicación habitual da dos razones. Las dos son falsas.
Solo el vapor podía entregar la potencia adicional que exigía la expansión industrial.
Contrastar con la evidencia →La energía hidráulica podía haberse ampliado con facilidad, quizá hasta veinte veces. La potencia disponible nunca fue el límite.
El vapor era una fuente de energía excepcionalmente barata.
Contrastar con la evidencia →En ese momento la energía del agua era significativamente más barata que el vapor. El capital eligió deliberadamente la opción más cara.
Si no fue por potencia ni por precio, ¿por qué? Malm identifica dos ventajas, y las dos tienen que ver con el poder sobre los trabajadores.
Ventaja espacial. Un molino de agua exige un río; una máquina de vapor funciona en cualquier sitio al que se pueda llevar carbón. Los trabajadores vivían en las ciudades. Los dueños de molinos hidráulicos, en cambio, penaban para conseguir gente y llegaron a construir pueblos enteros para atraerla, lo que daba a esos trabajadores poder de negociación colectiva: reemplazarlos era caro. El vapor disolvió ese problema. En la ciudad, una huelga podía romperse expulsando a parte de la plantilla y reponiéndola desde una reserva urbana amplia. El vapor no fue solo una fuente de energía: fue una herramienta para deprimir salarios aumentando la reemplazabilidad.
Ventaja temporal. La rueda hidráulica tomaba su velocidad del río; el vapor la tomaba del dueño. Esto se volvió decisivo cuando el Estado, temiendo que los disturbios fabriles derivaran en insurrección, limitó la jornada laboral: primero a doce horas, luego a diez y media. Antes, los molineros compensaban los días de poco caudal con jornadas posteriores de hasta dieciocho horas. Con la ley encima, quien tenía vapor podía responder de otro modo: acelerar la máquina. Recortada la jornada un 20 %, bastaba con hacerla correr un 25 % más rápido para agotar a los trabajadores igual o más, en menos horas, sosteniendo la producción y el beneficio.
Lo que se resolvió con el vapor fue una paradoja de gestión. Antes, controlar el ritmo de trabajo exigía un supervisor humano vigilando. La rueda hidráulica convirtió ese problema gerencial en un problema técnico, y el vapor lo completó: lo que antes era la supervisión de una persona pasó a parecer una propiedad de la máquina.
Esa es la analogía que el libro persigue hasta el presente. La IA de seguimiento de movimientos en un almacén no vigila porque sea una máquina: vigila porque la vigilancia gerencial fue incrustada en ella. Y la IA generativa hace lo mismo con el conocimiento: el objetivo no es misterioso, es incrustar en la máquina un saber que antes pertenecía a las personas que trabajan en cada oficio. Los autores le ponen nombre: tecno-taylorismo, la automatización de las propias prescripciones del taylorismo.
Conviene subrayar la aclaración que hacen sobre el término «descalificación». No se llama así porque las tareas resultantes no requieran destrezas reales. Se llama así porque no hay que pagarlas tan bien. Todo el asunto consiste en aumentar la oferta —y por tanto abaratar— de las capacidades concretas que las empresas necesitan comprar en el mercado.
Un fallo aleatorio se reparte al azar. Estos no. Ese es todo el argumento.
Cuando un sistema de aprendizaje automático se equivoca, el error no es rastreable como lo sería un bug: no hay una línea de código defectuosa, solo una predicción que resultó falsa. Para la máquina, aciertos y errores son idénticos: en ambos casos produjo la extrapolación más probable a partir de sus datos. Nadie podía saber de antemano quién sería identificado falsamente. Pero sí se podía saber, con antelación y con evidencia publicada, sobre quién iban a recaer los errores.
La consecuencia práctica para una institución que despliega estas herramientas es una ventaja: cada caso individual viene con su coartada incorporada. Fue un desafortunado error de la máquina. La responsabilidad se disuelve exactamente donde debería concentrarse.
El libro documenta el extremo de esta lógica con la investigación que la revista +972 publicó en abril de 2024 sobre los sistemas de IA usados para dirigir los bombardeos israelíes en Gaza. Un sistema sugería qué edificios atacar. Otro, llamado «Lavender», generaba automáticamente listas de personas que el algoritmo señalaba como presuntos operativos de Hamás. Un tercero servía para localizarlas específicamente en sus viviendas familiares.
El dato decisivo no es que el sistema fallara, sino cómo se lo ajustaba. Según las fuentes de inteligencia citadas en esa investigación, el ejército requería cierta cantidad de objetivos diarios; cuando la máquina no producía una lista suficientemente larga, se modificaban los parámetros. Se podía bajar el umbral de certeza exigido —generando listas con más personas identificadas erróneamente— o elevar el número de muertes de terceros consideradas aceptables por objetivo, un valor que podía fijarse entre cinco y veinte para presuntos militantes de bajo rango, y por encima de cien civiles para objetivos de alto rango.
La conclusión que extraen los autores es sobria y difícil de refutar: lo que el sistema «predice» lo determina la cuota deseada, no algo intrínseco al modelo, y mucho menos algo objetivo. La pátina de objetividad matemática no elimina la decisión humana; la esconde.
De ahí el concepto más incómodo del capítulo. Un sistema impredecible para el individuo pero predecible para el grupo, cuya violencia podría alcanzar a cualquiera de ese grupo en cualquier momento, tiene un nombre en la literatura política: terror. Funciona precisamente porque todos los miembros del grupo objetivo pueden imaginar que les toque. La socióloga Ruha Benjamin acuñó, en analogía con el «nuevo Jim Crow» de Michelle Alexander, la expresión New Jim Code para la dimensión algorítmica del sistema. Lo nuevo no es el terror ni la imprevisibilidad: es la automatización.
Estas herramientas no aparecen en cualquier parte. Virginia Eubanks observa que los sistemas de decisión automatizada más agresivos se ensayan en lo que llama entornos de bajos derechos, donde hay pocas expectativas de rendición de cuentas y transparencia. El libro traza ese recorrido: de la zona de guerra —el entorno de bajos derechos más extremo— a la frontera, y de la frontera al interior del territorio. Eubanks cita a Dorothy Allen, a quien entrevistó sobre la automatización del sistema de asistencia social, con una advertencia de seis palabras: presta atención a lo que nos pasa, porque tú eres el siguiente.
Es la misma idea que William Gibson formuló como aforismo: el futuro ya está aquí, solo que mal repartido. Se acumula primero en ciertos lugares antes de desbordarse hacia los demás.
Quien teme ser superado por una máquina teme, casi siempre, algo más concreto: caerse de un escalón.
Aquí el libro se vuelve más filoso, porque describe al lector típico de este tipo de artículos.
Geoffrey Hinton advierte que las IAs podrían pronto ser más inteligentes que nosotros porque «lo sabrán todo». Los autores señalan el deslizamiento: en esa formulación, inteligencia y conocimiento son tratados como la misma cosa. Y si el temor es a máquinas inmensamente conocedoras, entonces es el temor a la descalificación, sin más.
El estrato profesional deriva su prestigio y su privilegio de un conocimiento específico. Por eso vive, casi por necesidad estructural, preocupado por usurpadores: otras personas con saberes nuevos o herramientas nuevas capaces de devaluar ese conocimiento suyo, escaso y bien pagado. Están permanentemente al borde —y por tanto nerviosos— de volver a caer en la clase trabajadora propiamente dicha.
La pirámide no es estática: la descalificación es recursiva. Cada vez que un saber se incrusta en una herramienta, aparece un especialista nuevo que sabe operarla, desarrollarla y mantenerla —lo que los autores llaman una tecnoburocracia asociada—. Y ese estrato nuevo puede, a su vez, ser descalificado más tarde. Ocurrió con los maquinistas del vapor. Los títulos contemporáneos en «gestión de ingeniería», «ingeniería de negocios» o «gestión de tecnología» delatan ese campo ambiguo entre la ingeniería y la administración.
La observación más punzante del capítulo tiene que ver con la palabra inteligencia. Ni la historia ni la biología autorizan a identificar sin más inteligencia con poder. Y sin embargo esa ecuación aparece una y otra vez cuando los profesionales y los inversores expresan sus miedos. La explicación que ofrecen los autores es que «inteligencia» funciona como una justificación posterior de una jerarquía que ya existe: la versión contemporánea del darwinismo social, que consistía en tomar conceptos biológicos —como la «aptitud», entendida erróneamente como propiedad de los individuos y no como relación con un entorno— para legitimar desigualdades y violencia. Reducir el conocimiento, con toda su complejidad social, a una magnitud pseudocientífica que reside en los individuos repite ese viejo error.
Y llegan al fondo del asunto. Si la jerarquía se justifica por la inteligencia, entonces siempre está latente la posibilidad de marcar a algunas personas como sobrantes para la sociedad, porque son sobrantes para el capital. El miedo a la inteligencia artificial sería, en esta lectura, el reconocimiento tácito de que vivimos vidas amenazadas, junto al deseo de volver a olvidarlo. La certeza incómoda de que, con otra escuela, otro padre, un mentor que no se fijara en uno o un familiar que enfermara, cualquiera podría estar donde está el vecino sin techo.
Para funcionar, dicen, hay que olvidar eso. Pero cerrar los ojos no impide seguir viéndolo detrás de los párpados.
La misma incapacidad produce dos síntomas opuestos: el demonio que hay que derrotar y el dios que hay que criar.
Junto a las pesadillas circula su reverso luminoso, y el libro lo trata con el mismo método. En 2023, Vanity Fair recogió comentarios de gente de la industria: un ingeniero afirmando que estaban creando a Dios; otro, que estaban invocando al demonio. Columnistas del Financial Times escribieron sobre una carrera entre unas pocas empresas por crear una IA con atributos divinos. Ezra Klein reporta conversaciones habituales con profesionales que creen no estar programando software, sino lanzando conjuros capaces de convocar demonios o ángeles.
El caso que los autores desarrollan es el de Ilya Sutskever, cofundador y director científico de OpenAI, quien había ganado la competencia ImageNet de 2012 junto a su entonces director de tesis, Hinton, antes de vender su empresa emergente por 44 millones de dólares. Según varios empleados, su papel incluía algo parecido al de líder espiritual. Ha dicho que usar ChatGPT por primera vez fue casi una experiencia espiritual, y que el sistema podría estar levemente consciente. En una fiesta de la empresa encargó una efigie de madera que representaba la clase equivocada de inteligencia general —un demonio— y la quemó ritualmente. En al menos otra ocasión encabezó un cántico colectivo: siente la AGI, siente la AGI, coreado por una congregación de profesionales de la IA.
Elon Musk cuenta que se distanció de Larry Page por este asunto: según su versión, Page quería una superinteligencia digital, básicamente un dios digital, y no se tomaba la seguridad con suficiente seriedad. Los bandos, apunta el libro con ironía, quedan así trazados: unos quieren combatir a Terminator y otros quieren criar a Dios.
La interpretación es la misma que la de las pesadillas, invertida. Quien apela a una superinteligencia para resolver los problemas de la sociedad lo hace porque no cree que la inteligencia humana normal pueda resolverlos, ni imagina un modo de coordinarse con otros para lograrlo.
Y aquí el libro cierra un círculo elegante con el clima. Los profesionales saben que el cambio climático es un problema y que el capitalismo lo causa. Saben que resolverlo requiere poder, y que ellos tienen algo de poder. El problema es que su experiencia de tener poder está enraizada en su alineamiento con un poder superior: sus jefes, sus empresas, el capital, que es justamente la fuente del problema. Necesitan poder para enfrentar el clima, pero el único poder que conocen es parásito de aquello que hay que enfrentar. No hay ningún poder con el que alinearse para combatir el cambio climático —al menos no uno que además produzca privilegio.
De ese nudo sale la superinteligencia como escape: imaginar que existe un poder superior con el que sí se puede uno alinear, y que además resolvería las cosas teniendo más de eso que la clase profesional tanto valora. Un dios de IA encaja perfecto en el hueco. Uno de los investigadores con los que habló Klein lo dejó dicho con precisión involuntaria: frenar el desarrollo de la IA implicaría coordinar a mucha gente y, aunque sean lo bastante arrogantes como para creer que pueden construir una máquina-dios que rehaga el mundo, no están delirando. La coordinación humana les resulta menos verosímil que la divinidad artificial.
El libro traza dos líneas —la del transistor y la del neoliberalismo— y muestra dónde se cruzan.
Frank Rosenblatt publica El Perceptrón, origen del aprendizaje profundo. En la introducción señala como influencias más sugerentes los trabajos de Hebb y de Hayek.
Hayek explica que su obra en psicología y en economía comparten un núcleo: sistemas donde cada miembro —neurona, comprador, vendedor— sirve a necesidades que desconoce.
Thatcher consolida el «no hay alternativa». La política se reduce a la administración técnica de mercados; el cercamiento se vuelve el proyecto central.
George H. W. Bush entrega a Hayek la Medalla Presidencial de la Libertad.
El fallo Citizens United confirma que las corporaciones, en tanto personas jurídicas, tienen derecho a la libertad de expresión. El dinero es discurso.
Hinton y Sutskever ganan ImageNet. Venden su empresa emergente por 44 millones de dólares. Empieza el ciclo actual.
Gender Shades, de Buolamwini y Gebru, documenta el sesgo sistemático de los sistemas biométricos comerciales.
El estudio federal del NIST confirma de forma independiente el patrón: entre diez y cien veces más falsos positivos según el grupo.
Huelgas de guionistas y actores. Carta abierta de una sola frase sobre el riesgo de extinción, firmada por los directores de los mayores laboratorios. Kissinger declara que la IA ya no es una opción.
Air Canada alega ante un tribunal que su chatbot es una entidad legal independiente. +972 publica la investigación sobre Lavender. Los estibadores van a la huelga contra la automatización.
Blix y Glimmer publican Why We Fear AI en Common Notions, bajo licencia Creative Commons.
Es un libro de tesis fuerte y posición política explícita. Leerlo bien incluye ver dónde aprieta demasiado.
Estas objeciones no están en el libro: son las que cabe esperar de lectores razonables que no compartan su marco. Se incluyen para que el lector pueda situarse por su cuenta.
Existen riesgos técnicos —vulnerabilidades, capacidades de doble uso, fallos en sistemas críticos— que persistirían bajo cualquier régimen de propiedad. Reducir toda preocupación a la relación de clase puede llevar a desatender problemas de ingeniería que requieren respuestas de ingeniería.
Lo que responderíanLos autores lo admiten explícitamente: proponen ver la IA a la vez como herramienta con propiedades propias y como objeto que encarna la voluntad del capital. La discusión es de énfasis, no de existencia.
Si cualquier temor sobre la IA se traduce a ansiedad ante el capitalismo, la tesis se vuelve difícil de refutar: no hay observación que pudiera contradecirla. Además, Estados no capitalistas han construido aparatos de vigilancia comparables, lo que sugiere que el impulso al control no depende exclusivamente del lucro.
Lo que responderíanEl libro dedica un capítulo entero al uso estatal de la IA precisamente porque los Estados dividen a la clase trabajadora global. Aun así, la objeción sobre la falsabilidad sigue en pie.
Leer las advertencias sobre riesgo existencial como una maniobra de mercadotecnia —hacer la tecnología deseable haciéndola aterradora— es plausible para algunos actores, pero no para todos. Hay investigadores que asumen costos reputacionales y económicos al plantear estas preocupaciones, y el debate técnico sobre capacidades emergentes no está cerrado.
Lo que responderíanEl argumento del libro no exige mala fe individual: sostiene que la posición estructural moldea qué miedos resultan pensables, incluso con sinceridad total.
Cinco capítulos de análisis desembocan en un programa de organización sindical, democratización del conocimiento y superación del capitalismo, sin mecanismos concretos ni evaluación de intentos previos. Para un lector técnico, la asimetría entre el rigor del diagnóstico y la generalidad de la propuesta será notoria.
Lo que responderíanQue un libro no puede escribir el trabajo político que describe, y que reconocer la tarea como real y difícil ya es preferible a esperar un milagro tecnológico.
Hay dragones reales. Los molinos de viento y los tigres de papel pueden quedarse donde están.
La conclusión del libro es a la vez modesta y exigente. Modesta porque no promete nada. Exigente porque no deja salida cómoda.
La tecnología sí puede amenazarnos: los pozos que liberan el carbono que necesitamos bajo tierra, las herramientas pensadas para automatizar empleos y descalificar oficios. Pero amenazan porque son herramientas que pertenecen a una clase. La operación intelectual que piden los autores es sencilla de enunciar y difícil de sostener: no dejar que los capitalistas desaparezcan detrás de su propiedad. Cuando la herramienta aparece como persona, quienes la producen y despliegan pueden diferir la responsabilidad hacia ella.
Sobre el clima, el razonamiento es directo: no necesitamos una superinteligencia para saber qué está causando el cambio climático, porque ya lo sabemos. Estamos fallando en detenerlo porque el capitalismo se interpone, no porque nos falte inteligencia. Si la inteligencia no es el problema, la superinteligencia no es la solución.
Y sobre el dilema: quien lo enfrenta y no puede resolverlo no es la humanidad, sino una clase concreta cuyo poder depende de la expansión eterna del beneficio, es decir, de aquello mismo que hay que detener.
Queda entonces el resto de nosotros, que somos casi todos. Los autores le roban a Sutskever su propia frase para darle otro destino: hay que construir organizaciones en las que la gente actúe de forma colaborativa sin precedentes por su propio interés. No un dios. Sindicatos, coordinación, la democratización del conocimiento en el trabajo.
Su reproche final no es a los pesimistas sino a los reformistas tímidos: llevamos demasiado tiempo, dicen, pensando en pequeño —esperando alguna regulación, confiando en que esta vez el gobierno no nos deje tirados—. Lo que hace falta imaginar es una sociedad efectivamente democrática donde el desarrollo técnico apunte a hacer el trabajo más significativo, o directamente a liberar tiempo, en lugar de a incrementar sin fin la producción y la descalificación.
Reconocen que es difícil. Exige organizar una clase trabajadora estratificada, superar divisiones incontables, aprender a aprender unos de otros, sostener la solidaridad donde cuesta, equivocarse muchas veces y encontrar maneras nuevas de fijar prioridades colectivas.
Pero, y ese es el último giro del libro, eso es una tarea real. Un problema que efectivamente se puede trabajar. Y ahí, no en derrotar dioses ni en apaciguarlos, está el antídoto contra el miedo.