Puse a XGBoost contra Regresión Logística en 358 Partidos — El Modelo Aburrido Ganó. Aquí Te Explico Por Qué.

El Problema: Demasiado Modelo para Pocos Datos

Seguro lo has visto — o quizás lo has hecho tú mismo. Llega un dataset nuevo a tu escritorio y tu primer instinto es agarrar XGBoost o una red neuronal. Es la apuesta segura, la que le gusta a todos. ¿Pero qué pasa si ese instinto está exactamente equivocado?

Hice un experimento controlado: cinco clasificadores en la misma tarea, prediciendo el resultado (victoria local, empate, victoria visitante) de 358 partidos internacionales de fútbol. Los modelos iban desde una regresión logística simple hasta random forest, KNN, una red neuronal pequeña y XGBoost. Mismas features, misma validación cruzada, misma métrica.

El modelo más simple ganó. La regresión logística tuvo el mejor log-loss (1.001) y un 54% de precisión. XGBoost quedó último — con un log-loss de 1.169, peor que adivinar al azar (1.099). Un modelo con 48% de precisión era, según la métrica que importa para probabilidades calibradas, literalmente menos útil que una moneda.

Esto no es una anomalía. Es una demostración de libro del balance sesgo-varianza — y una de las lecciones más prácticas en machine learning aplicado.

El Experimento: Setup, Código y Resultados

Todos los modelos vieron las mismas tres features: diferencia de fuerza entre los equipos, fuerza combinada y bandera de partido eliminatorio. El target era el resultado triple. La puntuación usó validación cruzada de 5 folds con log-loss como métrica principal.

from sklearn.model_selection import cross_val_predict
from sklearn.metrics import log_loss, accuracy_score

# Asume que X, y son tus features y labels
proba = cross_val_predict(model, X, y, cv=5, method="predict_proba")
print("Log-loss:", log_loss(y, proba), "| Precisión:", accuracy_score(y, proba.argmax(1)))

Tabla de Resultados

Dos cosas saltan a la vista:

1. Regresión logística en la cima.
2. XGBoost con puntuación por encima de 1.099 — la línea base de adivinar uniforme. Fue peor que aleatorio.

Ambos hechos tienen la misma causa raíz: varianza. Con solo 358 ejemplos divididos en tres clases (~120 por clase), los miles de parámetros efectivos de XGBoost no tuvieron problema en memorizar ruido. Emitió predicciones demasiado confiadas y equivocadas, y el log-loss castigó esos errores de forma brutal. Para una inmersión más profunda en arquitecturas multiagente que manejan complejidad a escala, checa Deconstruyendo la Complejidad: Una Arquitectura Multi-Agente para Publicidad Inteligente.

Por Qué Ganó el Modelo Aburrido — y Cómo Rescatar los Complejos

La Teoría: Descomposición Sesgo-Varianza

El error esperado fuera de la muestra de un modelo se divide en:

Error = Sesgo² + Varianza + Ruido Irreducible

• Sesgo: error por suposiciones incorrectas (demasiado rígido)
• Varianza: error por sensibilidad a la muestra de entrenamiento (demasiado flexible)
• Ruido irreducible: aleatoriedad genuina (ej.: un tiro desviado en el fútbol)

La regresión logística tiene sesgo alto pero varianza baja. Con 358 partidos y solo un puñado de coeficientes, se mantiene estable. XGBoost tiene sesgo bajo pero varianza alta — y sin suficientes datos, la varianza domina.

La Métrica de Puntuación Correcta Importa

La precisión esconde la mala calibración. El log-loss castiga los errores confiados de forma exponencial:

• Predecir probabilidad 0.5 para la clase verdadera: penalidad = -ln(0.5) = 0.69
• Predecir probabilidad 0.1 para la clase verdadera (confiado y equivocado): penalidad = -ln(0.1) = 2.30 — más de 3x mayor

XGBoost no solo se equivocó; se equivocó con convicción. Por eso su log-loss cayó por debajo de adivinar al azar.

Cómo Rescatar los Árboles (Si Es Necesario)

La regularización es la palanca. Para XGBoost:

• Árboles más superficiales (max_depth=2–3)
• min_child_weight, subsample, colsample_bytree más altos
• Penalidad L2 (lambda)
• Tasa de aprendizaje baja + early stopping
• Menos rondas de boosting

Para regresión logística, la penalidad L2 (C) ya hace regularización silenciosa.

La Prueba de la Curva de Aprendizaje

Grafica el log-loss fuera de la muestra contra el tamaño del conjunto de entrenamiento. Un modelo de sesgo alto se estabiliza temprano; uno de varianza alta empieza peor pero mejora a medida que los datos crecen. El punto de cruce te dice cuándo la complejidad vale la pena. En 358 partidos, estamos claramente a la izquierda de ese cruce.

Limitaciones y Precauciones

• Los resultados son específicos para este dataset y conjunto de features. En problemas grandes y ricos en features, gradient boosting y redes neuronales suelen dominar.
• Modelos superparametrizados muy grandes pueden entrar en un régimen de "doble descenso" — pero eso requiere escalas de datos y parámetros mucho más allá de 358 partidos.
• Las diferencias entre regresión logística, random forest y KNN (1.001 vs 1.011 vs 1.013) están dentro del ruido — están efectivamente empatados.

La Conclusión: Combina el Modelo con Tus Datos

Esto no es una condena de XGBoost. Es un llamado a la disciplina. Antes de agarrar el modelo más grande en tu próximo proyecto, hazte dos preguntas:

1. ¿Cuántos datos tienes realmente?
2. ¿Cómo vas a saber si la complejidad ayudó?

Empieza simple. Establece una línea base sólida. Mide con una métrica de puntuación adecuada. Agrega complejidad solo cuando los datos fuera de la muestra digan que se ganó su lugar. A veces, la línea de mejor ajuste es también la línea de meta.

Para más sobre cómo los agentes de IA modernos están redefiniendo las interacciones en plataformas a escala, mira Más Allá del Chatbot: Cómo el Agent Lee de Cloudflare Redefine la Interacción en Plataformas.

Próximos Pasos

• Lee más: Los capítulos de modelado de Soccer Analytics with Machine Learning (O'Reilly, 2026) cubren regresión logística en el Capítulo 5 y métodos basados en árboles en el Capítulo 6.
• Practica: Reproduce este experimento con tus propios datos. Grafica curvas de aprendizaje. Descubre dónde está tu punto de cruce.
• Recuerda: La complejidad del modelo debe coincidir con los datos, no con el hype.