Investigadores de varias universidades europeas encontraron una forma sorprendentemente simple de evitar que los sistemas de inteligencia artificial (IA) empiecen a producir respuestas sin sentido, un fenómeno que los expertos llaman “colapso del modelo”.
¿Qué significa esto? Cuando una IA aprende únicamente de textos o datos que ella misma generó —sin incorporar información del mundo real— comienza a degradarse: sus respuestas se vuelven cada vez menos precisas hasta volverse inútiles. Es como si una persona solo aprendiera escuchándose a sí misma, sin ningún contacto con la realidad exterior.
El problema se volvió urgente porque los textos de calidad escritos por humanos —el principal “alimento” con que se entrenan estas herramientas— están agotándose. Ante eso, las empresas tecnológicas han recurrido a usar datos producidos por las propias IA para seguir entrenándolas, lo cual abre la puerta al colapso.
La buena noticia es que el equipo del King’s College de Londres descubrió que basta con introducir un solo dato real del mundo exterior para romper ese ciclo vicioso y evitar el colapso, incluso cuando la IA está procesando cantidades enormes de datos propios.
El hallazgo importa porque herramientas como ChatGPT, los autos autónomos y otros sistemas de IA están entrando cada vez más en nuestra vida diaria, y mantenerlos funcionando bien no es un asunto menor.
Averiguamos también qué otras razones o acontecimientos pueden colapsar a las IA en un futuro y encontramos, con asistencia de Claude, lo siguiente:
⚠️ Otras razones por las que una IA puede colapsar
- Sesgo acumulado en los datos: Si los datos de entrenamiento reflejan prejuicios humanos —raciales, de género, culturales—, el modelo los amplifica con cada nueva generación.
- Sobreajuste (overfitting): El modelo aprende tan bien un conjunto de datos que pierde la capacidad de manejar situaciones nuevas o distintas.
- Deriva del modelo (model drift): El mundo cambia, pero el modelo no se actualiza; sus respuestas quedan desfasadas de la realidad.
- Envenenamiento de datos (data poisoning): Actores malintencionados introducen información falsa o manipulada en los datos de entrenamiento.
- Escasez de datos humanos de calidad: Los textos escritos por personas —el principal alimento de estas herramientas— se están agotando. Hay estimaciones de que ese techo ya se alcanzó o está muy cerca.
- Retroalimentación de plataformas: Cuando los usuarios interactúan con respuestas incorrectas y esas interacciones se usan para reentrenar al modelo, el error se refuerza en lugar de corregirse.
Contenido elaborado con información de Europa Press, asistencia de Claude de Anthropic, revisión del texto y edición final de Culturacr.net.
