Chat Largo vs Chat Nuevo: Cuándo Empezar de Cero con la IA

¿Debo abrir un chat nuevo o seguir en el mismo?

Abre un chat nuevo cuando el hilo cambió de tarea. Quédate en el actual mientras cada mensaje siga trabajando a tu favor.

Esa es toda la regla, y aplicarla es más fácil de lo que suena. Un hilo de chat es una pila de texto que se reenvía al modelo en cada turno. Mientras esa pila sea toda relevante, es un activo: el modelo conserva tus restricciones, tu tono, el archivo que subiste. En cuanto una parte deja de ser relevante, se vuelve ruido que el modelo igual tiene que leer antes de responderte.

El costo de equivocarte es asimétrico. Empezar de cero demasiado pronto te cuesta un pegado de contexto. Quedarte demasiado tiempo te cuesta respuestas que se degradan en silencio, sin avisar nunca.

¿Por qué empeoran los chats largos con IA?

Porque los detalles importantes quedan enterrados, no porque el modelo se canse. La investigación publicada sobre contextos largos encontró que los modelos recuperan mejor la información que está cerca del inicio o del final de la entrada, y de forma medible peor cuando está en el medio, incluso en modelos diseñados para contexto largo (Liu et al., TACL 2024). Un hilo de treinta mensajes deja la restricción que diste en el mensaje cuatro justo en ese medio.

Se acumulan dos cosas más:

• Los borradores rechazados siguen en la sala. Cada versión que le dijiste al modelo que no escribiera sigue en el contexto y sigue moldeando el siguiente intento.
• Las correcciones se convierten en un nudo. "Más corto" más "más formal" más "vuelve a poner las cifras" llega al turno veinte como un conjunto de instrucciones que pelean entre sí.

Y hay un techo duro. Cuando el hilo supera la ventana de contexto del modelo, algo tiene que ceder: la interfaz descarta los mensajes más antiguos o la petición falla. Si el descarte es silencioso, el modelo pasa a responder sin la base que tú crees que todavía tiene.

¿Cuánto cuesta de verdad un chat largo?

Cada turno paga el hilo entero otra vez. Por debajo, el chat no guarda estado: la conversación completa se reenvía como tokens de entrada con cada mensaje nuevo, así que un hilo que llegó a 20.000 tokens te cobra 20.000 tokens de entrada incluso por un seguimiento de una línea. El caché de prompt, que ofrecen los grandes proveedores, abarata reenviar un prefijo que no cambió, pero no hace gratis un hilo inflado y no arregla el problema de precisión de arriba.

No hace falta que nos creas. En aiDex, el costo de cada mensaje se ve en el momento, así que puedes observar cómo el hilo se encarece turno a turno y decidir cuándo dejó de valer la pena. Usa tus propias claves de proveedor o las que gestionamos nosotros, y elige los modelos que quieras.

¿Cuándo conviene un solo chat largo?

Quédate en el hilo cuando el contexto acumulado sea justamente el punto. Cuatro casos en los que empezar de cero es el error:

1. Estás iterando sobre un mismo texto. Una cláusula, una función, un párrafo. La versión ocho solo tiene sentido frente a las versiones uno a siete.
2. Subiste un documento. Volver a subirlo es fricción, y en un chat en panel el archivo ya está compartido con todos los modelos de la sala. Es la misma lógica de revisar un documento largo con más de un modelo.
3. Estás depurando algo acumulativo. Cada hipótesis fallida estrecha la búsqueda. Tirarla significa repetir el camino.
4. Construiste vocabulario compartido. Si el modelo ya usa bien tus nombres internos, eso es contexto real y vale la pena llevarlo.

¿Cómo llevo el contexto a un chat nuevo sin el desorden?

Pídele al modelo un traspaso antes de irte. Pega esto al final del hilo viejo:

Resume esta conversación como un briefing para un asistente nuevo: el objetivo, las restricciones que acordamos, las decisiones ya tomadas, qué descartamos y por qué, y el estado actual del borrador. Menos de 200 palabras. Sin preámbulo.

Luego abre el chat nuevo y pega el resultado como primer mensaje. Te quedas con las decisiones y sueltas los borradores rechazados, que era exactamente el intercambio que querías. Si las respuestas del hilo viejo se habían puesto raras, y no solo largas, conviene depurar el prompt mismo antes de llevarte nada.

¿Cambia algo cuando hay varios modelos en la sala?

Sí, y se vuelve más estricto. En un chat en panel todos los modelos leen el mismo hilo, así que una conversación inflada se multiplica por el panel en vez de costarte una sola vez. El mismo problema del medio del contexto pasa a aplicar a cuatro modelos a la vez, y van a discrepar por razones que no tienen nada que ver con tu pregunta.

Aquí la elección de modo pesa más que la higiene del chat. En aiDex, Comparar envía una pregunta a varios modelos a la vez, Judge elige un ganador entre sus respuestas, Equipo deja que hablen entre ellos, y Pipeline pasa la salida de un modelo al siguiente por etapas (Borrador, Crítica, Revisión, Pulido). Pipeline suele ser la respuesta real a "mi chat se está alargando": en lugar de un hilo que arrastra todas las etapas, cada etapa recibe un traspaso limpio, que es el sentido de armar un pipeline en vez de un monólogo. Si dudas cuál usar, empieza por cuándo usar cada modo y explora el Dex para ver qué modelos puedes sentar a la mesa.

El hábito de fondo vive dentro de los flujos de trabajo multimodelo: trata la conversación como un archivo de trabajo, no como un diario. Los archivos se cierran cuando cambia el trabajo.