Este texto es la primera parte de un díptico. La segunda, «Evolución con memoria», discute la matemática del colapso.

En los últimos tiempos ganó fuerza un relato alarmista en la industria tecnológica: los modelos de inteligencia artificial estarían al borde de una degeneración irreversible, el llamado model collapse. Según esta hipótesis, formulada con todo rigor por Shumailov y colegas en Nature (2024), un sistema que se entrena de forma recursiva con contenido generado por otros sistemas pierde progresivamente sus matices y entra en un bucle de degradación parecido al de sacar una fotocopia de otra fotocopia.

Sin embargo, presentar este escenario como un apocalipsis inevitable es una lectura simplista y precipitada.

Una hipótesis bajo la lupa

Si la teoría del colapso fuera infalible, la industria del software estaría atrapada en un callejón sin salida. Pero el planteo supone condiciones de laboratorio que rara vez se dan en el mundo real.

Para que un modelo colapse de manera tan drástica, haría falta un aislamiento absoluto de los datos humanos y una ausencia total de supervisión en el filtrado de la información. ¿Alguien cree que las grandes empresas tecnológicas dejarían que sus modelos consumieran cualquier residuo textual de la web sin filtros previos?

Es poco plausible que laboratorios del nivel de OpenAI, Google o Anthropic entrenen sus próximos modelos tragando basura digital sin control. Y hay algo más: el corpus humano anterior a la explosión de los modelos generativos no desaparece. Está archivado, y nadie lo tira a la basura cuando aparece un texto sintético.

El valor de los datos sintéticos de alta calidad

La premisa de que todo dato generado por una IA es «tóxico» para las generaciones futuras de modelos ignora el papel de los datos sintéticos curados. En disciplinas como la matemática, la programación o el ajedrez, los datos generados por modelos bajo reglas lógicas estrictas demostraron ser útiles, y a veces mejores que muchos datos humanos llenos de errores y sesgos.

Si la IA solo pudiera degenerar al aprender de sí misma, sería imposible explicar cómo AlphaZero alcanzó un nivel sobrehumano jugando millones de partidas exclusivamente contra sí mismo. La clave no está en el origen del dato, sino en la capacidad de verificar su calidad y su coherencia.

Conviene, de todos modos, no estirar el ejemplo. El ajedrez tiene un verificador perfecto: las reglas y el resultado de la partida. El lenguaje natural no lo tiene, y ahí está la parte difícil del problema.

¿Un problema de ingeniería o un límite infranqueable?

Más que una catástrofe sistémica, el model collapse es un desafío de ingeniería de datos. La curaduría, la marca de agua digital y los clasificadores de contenido sintético son herramientas para decidir qué información incorporar y cuál descartar, aunque hoy distan de ser infalibles, sobre todo en texto.

Pensar que la inteligencia artificial se «autodestruirá» por falta de texto humano original es una interpretación desmedida. La tecnología no está sentenciada a colapsar. Lo que sí está obligada a cambiar es la forma en que la industria selecciona, valida y sintetiza la información con la que construye el futuro.