Manifiesto contra la servidumbre por comodidad

Nota preliminar

Este texto es un manifiesto, no un artículo. Lo aclaro porque suelo escribir desde la distancia que da el argumento, y esta vez no puedo. Por primera vez digo algo que siento más de lo que pienso. Eso no me exime del rigor: me obliga a duplicarlo, porque una convicción mal argumentada es apenas un grito.

La regla que me impongo es simple. Cada afirmación empírica lleva su fuente. Cada inferencia se marca como inferencia. Cada analogía se declara como tal. Y la más arriesgada de todas está en el título: “cuántico” no significa aquí que la mecánica cuántica explique la sociedad. Significa que tomo de ella tres propiedades como metáfora (la indeterminación, la participación del observador y el fin del universo-reloj) y que pago el costo de esa traducción. El costo es mío y no de la física.

La tesis que sostengo es esta: frente a la inteligencia artificial, la alternativa no es entre progreso y nostalgia, sino entre servidumbre por comodidad y emancipación deliberada. Llamo Iluminismo Cuántico a la segunda.

El fin de algo que nunca empezó

Jascha Sohl-Dickstein, investigador de Anthropic, dio en abril de 2026, en un workshop de ICLR, una charla con un título deliberadamente melancólico: consejos para un joven investigador en los primeros y últimos días del Antropoceno. Su argumento es limpio. El cómputo usado para entrenar modelos de IA se duplica cada seis meses desde hace décadas, unos veinte órdenes de magnitud en total. Los modelos de frontera ya superan el cómputo equivalente de un cerebro humano en toda su vida. Por lo tanto, en pocos años el intelecto humano dejará de ser el principal motor del cambio global. El Antropoceno, concluye, fue breve.

Hay una ironía que vale la pena señalar antes de discutirlo. El Antropoceno, como unidad formal de la escala geológica, nunca existió. Paul Crutzen propuso el término en 2000 y lo consolidó en Nature en 2002. El Grupo de Trabajo del Antropoceno pasó quince años buscando su marcador estratigráfico, eligió la lluvia radiactiva de los años cincuenta y los sedimentos del lago Crawford, en Canadá. En marzo de 2024 la Unión Internacional de Ciencias Geológicas rechazó la propuesta. Se anuncia, entonces, el fin de una época que los geólogos se negaron a inaugurar.

La ironía no es un chiste. Es un síntoma. El Antropoceno sobrevivió como concepto cultural porque nombraba algo verdadero: que la especie humana se convirtió en fuerza planetaria. Y lo que Sohl-Dickstein anuncia, leído con cuidado, no es el fin de esa fuerza sino su cambio de soporte. La pregunta que ordena este manifiesto es quién conserva el propósito cuando el motor cambia.

La coartada de la curva

La respuesta rápida al argumento de Sohl-Dickstein es que una tendencia no es un destino. Él se anticipa: cuando una curva se sostuvo durante veinte órdenes de magnitud, apostar a que se frene justo antes del nivel humano es arriesgado. Tiene razón en lo estadístico. Pero confunde la forma con el mecanismo.

La curva del cómputo no es una ley natural, como la gravitación. Es el resultado de decisiones: inversiones de cientos de miles de millones, políticas energéticas, cadenas de extracción de minerales, regímenes de propiedad intelectual. Presentarla como fatalidad tiene un efecto político preciso. Si el futuro ya está escrito en la extrapolación, deliberar es inútil y solo queda adaptarse. El consejo final de la charla lo confirma: acortar los horizontes de investigación, adoptar las herramientas de inmediato, no autocensurarse. Es el consejo de quien mira la ola, no de quien decide si se construye el dique.

Laplace imaginó en 1814 una inteligencia que, conociendo todas las fuerzas y posiciones del universo en un instante, vería el futuro con la misma claridad que el pasado. El siglo XX desmontó ese demonio desde dos frentes: el caos mostró que la predicción se degrada exponencialmente, y la mecánica cuántica mostró que el estado del mundo no está completamente determinado antes de la medición. Mi sospecha es que la narrativa de la curva inevitable es un demonio de Laplace con planilla de cálculo. Y que, como el original, ignora que los observadores también son parte del sistema.

Silicio y metabolismo

La primera objeción que se me impuso fue biológica. La vida es metabolismo, imperfección, autorreparación. Un cerebro opera con unos veinte vatios; una célula busca su propia energía en el entorno y se adapta. Un chip no tiene hambre, ni dolor, ni instinto de preservación. Sin humanos que extraigan el litio, mantengan la red eléctrica y refrigeren los centros de datos, la superinteligencia es silicio fundido. La máquina no vive: calcula.

Sostengo esa objeción, pero debo admitir su límite. Hasta aquí, el argumento podría leerse como una refutación de Sohl-Dickstein, y no lo es. Él nunca dijo que la IA esté viva. Dijo que será el principal motor del cambio global. Y un motor no necesita metabolismo ni voluntad. El capital no está vivo, los mercados no tienen hambre, la burocracia no siente dolor, y sin embargo mueven el planeta.

La dependencia material, además, no implica control. La humanidad depende de la agricultura y nadie diría que la agricultura nos obedece. La dependencia corre en ambas direcciones: si la IA termina sosteniendo hospitales, redes de agua, logística y finanzas, desconectarla deja de ser un acto de soberanía y pasa a ser un colapso.

Dicho de otro modo: la IA no necesita estar viva para desplazar la agencia humana. Justamente porque carece de propósito propio, amplifica sin resistencia el propósito de quien la controla. Lo inerte no es inofensivo. Es disponible.

Es tan cómodo ser menor de edad

En 1784, en la Berlinische Monatsschrift, Kant respondió a la pregunta “¿Qué es la Ilustración?” con una definición que no envejeció: la salida del hombre de su minoría de edad autoculpable. La minoría de edad es la incapacidad de servirse del propio entendimiento sin la guía de otro. Y Kant agregó la frase que hoy leo como profecía: es tan cómodo ser menor de edad. Si tengo un libro que piensa por mí, un director espiritual que tiene conciencia por mí, un médico que juzga mi dieta, no necesito esforzarme.

Sustitúyase el libro por un modelo de lenguaje y la frase no pierde una sílaba. El peligro que veo no es la rebelión de las máquinas, que pertenece al cine. Es la delegación sucesiva, cada paso razonable, cada paso más barato y más rápido que el anterior. Jan Kulveit y sus colegas le dieron nombre en 2025: gradual disempowerment, la pérdida de agencia humana que no ocurre por un golpe sino por la acumulación de decisiones que ya no necesitan nuestro juicio para funcionar.

La paradoja la formuló el propio Sohl-Dickstein, según la difusión viral de su charla: escribir es pensar, y quien externaliza su escritura externaliza su pensamiento. El mismo investigador que aconseja usar la IA cada día advierte que delegar la escritura es delegar el juicio. El post que la difundió en X seis meses después, con más de doscientas mil visualizaciones en horas, eligió otro titular: que el plan de carrera de los doctorandos ya no existe. Entre las dos frases está todo el dilema. La primera es una advertencia. La segunda, una rendición presentada como noticia.

Étienne de La Boétie lo había visto en el siglo XVI, en su Discurso de la servidumbre voluntaria: ningún tirano se sostiene solo, se sostiene porque los muchos consienten. Gene Sharp convirtió esa intuición en teoría política en 1973: el poder depende de la cooperación de quienes obedecen. Los regímenes caen cuando soldados, policías y funcionarios dejan de cooperar.

Aquí está el punto más incómodo de todo el manifiesto. La automatización ataca exactamente esa palanca. Un grupo reducido, con vigilancia, logística y fuerza automatizadas, ya no necesita la complicidad de la mayoría. El riesgo no es que la máquina nos someta. Es que unos pocos humanos ya no necesiten al resto para someterlo.

El límite del rebelde

Contra esa perspectiva escribo esto, y lo escribo desde una convicción que no es cálculo. Para el ser humano, la libertad no es una métrica de eficiencia. Es una cuestión de dignidad. Un sistema de optimización supone que siempre elegiremos lo más cómodo y lo más seguro. La historia muestra otra cosa: hay humanos dispuestos a romper la infraestructura que los sostiene antes que aceptar vivir subordinados. Muchos serán serviles. Algunos no. Y nunca hicieron falta muchos.

Sería deshonesto no reconocer lo que esa convicción tiene de frágil. La historia de la servidumbre es más larga que la de la rebelión, y el Renacimiento no lo protagonizaron los siervos sino élites urbanas con condiciones materiales favorables. Mientras Florencia florecía, en Europa del Este la servidumbre se endurecía. La rebelión no es una garantía antropológica. Es una posibilidad, y su peor enemigo no es la fuerza sino la erosión gradual, que nunca ofrece el momento visible en que alguien dice basta.

Albert Camus, en El hombre rebelde (1951), dejó la distinción que necesito. El rebelde dice no en nombre de algo que comparte con todos los demás: una dignidad común. Por eso su rebelión lleva un límite incorporado. Cuando, para vencer, destruye aquello que la motivó, deja de ser rebelión y se convierte en otra forma de tiranía.

Acepto ese límite, y lo hago desde la radicalidad, no contra ella. Prefiero la ruptura a la servidumbre perpetua; eso no lo negocio. Pero la ruptura que defiendo apunta contra la concentración del poder, no contra la humanidad que se equivoca. Una minoría que decide destruirlo todo para salvarlo comparte la misma arrogancia que una minoría que automatiza todo para dominarlo: ambas deciden por todos sin preguntarles.

La vida antes que la especie

Hay un valor que pongo por encima de la especie humana: la vida. La humanidad está también en el delfín, en el ave, en la hormiga; somos variaciones de la misma química. Arne Naess lo formuló en 1973 como ecología profunda: el valor de los seres vivos no depende de su utilidad para nosotros. Y la paleontología ofrece un dato que me consuela: después de cada una de las cinco grandes extinciones, la vida volvió a diversificarse. La probabilidad de que una catástrofe borre toda forma de vida en la Tierra es, hasta donde sé, ínfima.

Pero conviene distinguir niveles. Lo que sobrevive casi con certeza es la vida microbiana. Tras la extinción del Pérmico, la más severa, la vida compleja tardó del orden de diez millones de años en recuperarse. Y la inteligencia capaz de preguntarse por su propia dignidad apareció una sola vez en cuatro mil millones de años. No hay ninguna probabilidad conocida de que reaparezca.

Esto me obliga a una corrección honesta. Lo que me mueve a escribir (la negativa a la servidumbre, el honor, la rebelión) existe, que sepamos, solo en los humanos. Un delfín no se rebela por dignidad. Si la humanidad desaparece, la vida continúa, pero lo que defiendo desaparece con ella. Por eso el biocentrismo de este manifiesto no es misantropía. Es ampliación: el ser humano no es el centro del valor, pero es el único lugar conocido donde el valor se sabe a sí mismo.

Pico della Mirandola escribió en 1486 que al ser humano no se le dio una naturaleza fija, que puede degradarse hasta lo bruto o elevarse hasta lo divino según su propia elección. Esa indeterminación es nuestra condición y nuestro riesgo. No somos servidumbre ni rebelión por naturaleza. Somos capaces de ambas, y las condiciones deciden cuál prevalece.

Por qué cuántico

La Ilustración del siglo XVIII nació bajo el universo de Newton: un mecanismo de relojería, determinado, que la razón podía leer de punta a punta. Su confianza en el progreso heredó esa forma. Si el mundo es un reloj, la historia también lo es, y basta con conocer sus engranajes para saber adónde va. La narrativa de la curva inevitable es la última heredera de esa fe.

Llamo cuántico a este iluminismo porque abandona el reloj. Tomo de la física del siglo XX tres propiedades, y advierto desde ya que son analogías, no deducciones.

Indeterminación. Desde Heisenberg (1927), sabemos que ciertos pares de magnitudes no tienen valores simultáneamente definidos. El futuro de la IA tampoco está definido antes de que lo decidamos: la extrapolación describe una tendencia, no un estado ya fijado.

Participación. John Wheeler habló de un universo participativo, en el que la medición contribuye a fijar lo que se mide. En la historia ocurre algo análogo: no somos espectadores de la curva, somos parte del aparato que la produce. Aquí la analogía tiene un límite que debo marcar. En física, el “observador” es cualquier interacción de medición, no una conciencia ni una voluntad. La metáfora toma la estructura, no la mística.

Superposición de futuros. Mientras no se decide, coexisten varios desenlaces posibles: la servidumbre por comodidad, la ruptura destructiva, la emancipación deliberada. La razón ilustrada clásica buscaba descubrir el único futuro. La razón cuántica, en el sentido que propongo, asume que hay varios y que elegir entre ellos es responsabilidad, no pronóstico.

El sapere aude de Kant, atrévete a servirte de tu propio entendimiento, conserva su vigencia. Lo que cambia es el objeto. Ya no se trata solo de pensar sin tutores, sino de no delegar en sistemas que piensan rápido la decisión sobre qué vale la pena pensar.

Los tres principios

No propongo destruir la herramienta. Propongo arrebatarle el destino a quienes pretenden monopolizarla y usarla para conquistar lo que la humanidad siempre soñó. Lo que sigue no es un programa de gobierno sino tres principios, cada uno condición del siguiente.

1. Democracia de verdad, que es también económica y social. Sin ella, los otros dos principios quedan en manos de pocos. Si la automatización elimina la necesidad de la cooperación de muchos, la democracia debe reponerla por diseño: conocimiento distribuido, poder legible (saber quién decide y con qué sistemas) y riqueza compartida. El propio Sohl-Dickstein lo admitió al responder sobre desplazamiento económico: los beneficios no pueden concentrarse. Coincido, pero no como concesión posterior, sino como condición previa.
2. Ciencia orientada a mejorar toda la vida, incluida la nuestra. La IA puede acelerar la medicina, la ecología, la energía. Ese es su uso legítimo: no reemplazar el juicio humano sino ampliar su alcance. El criterio no es la eficiencia sino la vida, en el sentido amplio que defendí antes: el delfín, el ave, la hormiga y también nosotros.
3. Llevar la vida más allá del sistema solar. No por épica sino por lógica. Si la vida es el valor supremo, la única garantía contra una catástrofe cósmica es que no dependa de un solo planeta. Es la respuesta más seria a la supernova que, tarde o temprano, nos alcanzará.

Los tres principios comparten una premisa. La IA es una herramienta de una potencia sin precedentes, y precisamente por eso el propósito no puede delegarse. Una herramienta sin propósito propio amplifica el de quien la empuña. La pregunta política del siglo es quién la empuña.

Del polvo venimos

El Génesis lo dijo hace milenios: polvo eres y al polvo volverás. La astrofísica le dio la razón con un matiz que el redactor bíblico no podía imaginar, y que Carl Sagan popularizó en Cosmos (1980): el carbono de nuestras células, el hierro de nuestra sangre y el calcio de nuestros huesos se forjaron en estrellas que murieron antes de que existiera el Sol. Somos polvo, pero polvo de estrellas.

Esa doble escala es el fundamento último de este manifiesto. Honrar la vida y aceptar la muerte cuando llegue, sin saber cuándo, es exactamente lo que una máquina no hace. No teme, no espera, no se despide. Esa es su potencia y su límite. Nosotros, en cambio, sabemos que vamos a morir y aun así elegimos qué vale la pena. El propósito no es un cálculo: es lo que hace un ser finito con el tiempo que tiene.

Sohl-Dickstein anuncia los últimos días del Antropoceno. Yo propongo otra lectura. Si estos son los últimos días de algo, que sean los de la minoría de edad. La IA puede ser el instrumento de la servidumbre más cómoda de la historia o el de la emancipación más ambiciosa. La curva no decide. Decidimos nosotros, o deciden unos pocos por nosotros.

No sé cuántos estarán dispuestos a pagar el precio de no ser serviles. Sé que nunca hicieron falta todos. Y sé que la pregunta no es si la máquina va a pensar, sino si nosotros vamos a seguir haciéndolo.

Será el final si lo queremos. Será el comienzo si nos atrevemos. Atrevámonos a pensar, antes de que pensar deje de ser necesario.

Fuentes

• Camus, A. (1951). L’homme révolté. París: Gallimard.
• Crutzen, P. J. y Stoermer, E. F. (2000). “The ‘Anthropocene’”. IGBP Global Change Newsletter, 41, 17–18.
• Crutzen, P. J. (2002). “Geology of mankind”. Nature, 415, 23.
• Heisenberg, W. (1927). “Über den anschaulichen Inhalt der quantentheoretischen Kinematik und Mechanik”. Zeitschrift für Physik, 43, 172–198.
• Kant, I. (1784). “Beantwortung der Frage: Was ist Aufklärung?”. Berlinische Monatsschrift, 4, 481–494.
• Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D. y Duvenaud, D. (2025). “Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development”. arXiv:2501.16946.
• La Boétie, É. de (escrito c. 1548, publicado 1576). Discours de la servitude volontaire.
• Laplace, P.-S. (1814). Essai philosophique sur les probabilités. París: Courcier.
• Naess, A. (1973). “The shallow and the deep, long-range ecology movement”. Inquiry, 16(1), 95–100.
• Pico della Mirandola, G. (1486). Oratio de hominis dignitate.
• Sagan, C. (1980). Cosmos. Nueva York: Random House.
• Sharp, G. (1973). The Politics of Nonviolent Action. Boston: Porter Sargent.
• Sohl-Dickstein, J. (2026). Advice for a (young) investigator in the first and last days of the Anthropocene. Charla invitada, Post-AGI Science and Society Workshop, ICLR 2026, 26 de abril. Video. Difusión en X: @ecommartinez, 18 de octubre de 2026.
• Techno-Science (2024). Rechazo de la propuesta del Antropoceno como época geológica.
• Wheeler, J. A. (1983). “Law without law”. En J. A. Wheeler y W. H. Zurek (eds.), Quantum Theory and Measurement. Princeton University Press.